مع التطور السريع لتكنولوجيا الذكاء الاصطناعي، أصبح تحديد صحة المحتوى الناتج عن الذكاء الاصطناعي مسألة مهمة. ويشكل انتشار المعلومات الكاذبة تهديدا خطيرا للاستقرار الاجتماعي والثقة العامة. من أجل الاستجابة لهذا التحدي ومكافحة المعلومات الكاذبة الناتجة عن الذكاء الاصطناعي بشكل فعال، أطلقت Tencent أداة جديدة للكشف عن المحتوى الناتج عن الذكاء الاصطناعي، والتي تهدف إلى استخدام تقنية الذكاء الاصطناعي لتحديد النصوص والصور التي يولدها الذكاء الاصطناعي والحفاظ على صحة وسلامة الجمهور. بيئة الانترنت.
مع التطور السريع لتكنولوجيا الذكاء الاصطناعي، أصبحت تطبيقات النصوص والصور ومقاطع الفيديو التي يولدها الذكاء الاصطناعي في مختلف المجالات ناضجة بشكل متزايد. إلا أن ذلك يترافق أيضًا مع ظهور أزمة ثقة، ويشكل انتشار المعلومات الكاذبة تهديدًا محتملاً للمجتمع. ومن أجل مواجهة هذا التحدي، أطلقت تينسنت مؤخرًا أداة جديدة للكشف عن المحتوى الناتج عن الذكاء الاصطناعي، بهدف "محاربة الذكاء الاصطناعي المزيف" من خلال تكنولوجيا الذكاء الاصطناعي.
تم تطوير هذه الأداة بواسطة Tencent's Zhuque Lab وهي مقسمة إلى نظامين: اكتشاف النص الناتج عن الذكاء الاصطناعي واكتشاف الصور الناتج عن الذكاء الاصطناعي. وأشار مسؤولو شركة تينسنت إلى أنه على الرغم من أن الصور التي ينشئها الذكاء الاصطناعي أصبحت أكثر واقعية في المظهر، إلا أنه لا يزال هناك درجة معينة من إمكانية التعرف عليها. من خلال التحقق السريع من الصور التي تم تحميلها في بضع ثوان، يمكن للمستخدمين معرفة ما إذا كانت الصورة قد تم إنشاؤها بواسطة الذكاء الاصطناعي.
ومن حيث منطق الكشف، يتميز النظام بشكل أساسي عن طريق التقاط الاختلافات الدقيقة بين الصور الحقيقية والصور المولدة بواسطة الذكاء الاصطناعي. على سبيل المثال، تتحدى الصور التي يتم إنشاؤها بواسطة الذكاء الاصطناعي أحيانًا منطق المنطق السليم أو قد تتطلب إضافة علامة مائية في بعض الحالات. بالإضافة إلى ذلك، قد تحتوي الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي أيضًا على ميزات طبقة مخفية محددة. من أجل ضمان دقة الكشف، استخدمت Tencent 1.4 مليون عينة إيجابية وسلبية في التدريب النموذجي، تغطي مجموعة متنوعة من المشاهد مثل الأجسام البشرية والمناظر الطبيعية والأشخاص والمعالم وما إلى ذلك. وقد وصل معدل اكتشاف الاختبار النهائي إلى أكثر من 95%. والنظام أيضًا في التحسين المستمر.
فيما يتعلق بالكشف عن النص، يعتمد نظام الكشف الخاص بـ Tencent أيضًا على عدد كبير من العينات الإيجابية والسلبية للتدريب، ويمكن أن يغطي أنواعًا متنوعة مثل الأخبار والوثائق الرسمية والروايات والمقالات. من خلال مقارنة النص المكتشف مع محتوى التنبؤ للنموذج الكبير، يمكن للنظام استنتاج احتمالية توليد الذكاء الاصطناعي للنص، وبالتالي تحسين قدرات الكشف عن البيانات غير المرئية. وفي المستقبل، تخطط Tencent أيضًا لتوسيع نظام اكتشاف النص ليشمل أنواعًا أخرى مثل الشعر لتحسين دقة التعرف.
ومن خلال هذه الخطوة المبتكرة، تأمل Tencent في تزويد المستخدمين ببيئة عبر الإنترنت أكثر أمانًا وجديرة بالثقة، ومقاومة انتشار المعلومات الكاذبة بشكل فعال، والمساهمة في التنمية الصحية للمجتمع.
توفر أداة الكشف عن المحتوى المولدة بواسطة الذكاء الاصطناعي من Tencent، بفضل دقتها العالية وقدراتها على التحسين المستمر، وسيلة فعالة للتعامل مع المعلومات الكاذبة التي يولدها الذكاء الاصطناعي وتساهم في بناء فضاء إلكتروني أكثر وضوحًا، ومن الجدير التطلع إلى تطويرها وتطبيقها في المستقبل.