يوتيوب يتوسع في تقنيات الكشف عن المحتوى المزيف باستخدام الذكاء الاصطناعي

أعلن موقع يوتيوب، عن توسيع نطاق برنامجه التجريبي المُصمم لتحديد وإدارة المحتوى المُولّد بالذكاء الاصطناعي، والذي يُظهر ملامح المُبدعين والفنانين وغيرهم من الشخصيات الشهيرة أو المؤثرة، بما في ذلك وجوههم.

كما تُعلن الشركة علنًا دعمها للتشريع المعروف باسم "قانون حظر التزييف"، والذي يهدف إلى معالجة مشكلة النسخ المُولدة بالذكاء الاصطناعي التي تُحاكي صورة أو صوت شخص ما لتضليل الآخرين وإنشاء محتوى ضار.

و تقول الشركة إنها تعاونت في إعداد مشروع القانون مع رعاتها، وجهات فاعلة أخرى في القطاع، بما في ذلك رابطة صناعة التسجيلات الأمريكية (RIAA) وجمعية الأفلام السينمائية (MPA).

وأوضح يوتيوب سبب استمرار دعمه، قائلاً إنه على الرغم من إدراكه لإمكانية الذكاء الاصطناعي في "إحداث ثورة في التعبير الإبداعي"، إلا أن له جانبًا سلبيًا.

ووفقًا للمنشور، "نعلم أيضًا أن المحتوى المُنشأ بواسطة الذكاء الاصطناعي ينطوي على مخاطر، بما في ذلك إمكانية إساءة استخدامه أو إنشاء محتوى ضار. وتقع على عاتق المنصات مسؤولية مواجهة هذه التحديات بشكل استباقي".

ويُتيح قانون حظر المواد المزيفة مسارًا ذكيًا للمضي قدمًا، إذ يُركز على أفضل السبل لتحقيق التوازن بين الحماية والابتكار من خلال منح الأفراد صلاحية إخطار المنصات بالصور المُولّدة بالذكاء الاصطناعي التي يعتقدون أنها تستحق الإزالة.

وتُعدّ عملية الإخطار هذه بالغة الأهمية، إذ تُمكّن المنصات من التمييز بين المحتوى المُصرّح به والمواد المزيفة الضارة، فبدونها، لا يُمكن للمنصات اتخاذ قرارات مدروسة، وفقاً لـ يوتيوب .
أطلقت الشركة نظامها للكشف عن التشابه بالشراكة مع وكالة الفنانين المبدعين (CAA) في ديسمبر 2024.

و تعتمد هذه التقنية الجديدة على جهود يوتيوب في نظام Content ID الحالي، الذي يكشف عن المواد المحمية بحقوق الطبع والنشر في مقاطع الفيديو التي يحمّلها المستخدمون.

وعلى غرار Content ID، يعمل البرنامج على الكشف التلقائي عن المحتوى المخالف - وهو في هذه الحالة محاكاة الوجوه أو الأصوات المُعدّة باستخدام أدوات الذكاء الاصطناعي، وفقًا لما أوضحته يوتيوب في وقت سابق من هذا العام.