أزمة جديدة تواجه شركة ميتا بسبب فيديوهات عنف الأطفال المصنوعة بالذكاء الاصطناعي

انتقادات متزايدة لشركة ميتا بسبب أنظمة مراقبة المحتوى

تواجه شركة «ميتا»، المالكة لمنصة فيسبوك، موجة من الانتقادات الحادة المتعلقة بمدى فعالية أنظمة مراقبة المحتوى لديها. جاء ذلك عقب نشر تحقيق صحفي تسلط الضوء على انتشار مقاطع فيديو مصطنعة بالذكاء الاصطناعي، تصور مشاهد عنف قاسٍ ضد الأطفال، وبقي بعضها متاحاً للمشاهدة لأيام رغم تلقي الشركة بلاغات بشأنها، مما أعاد فتح النقاش حول مسؤولية المنصات الرقمية عن المواد التي تسمح بنشرها.

تفاصيل التحقيق الصحفي وحسابات فيسبوك المخالفة

وفقاً للتحقيق الذي أعده موقع «Futurism» المتخصص في الشؤون التكنولوجية، عمدت عدة حسابات على فيسبوك إلى نشر مقاطع مصطنعة تحاكي مشاهد اعتداء وإساءة معاملة للأطفال. وقد تم إنتاج هذه المواد باستخدام تقنيات حديثة قادرة على توليد صور متحركة تبدو واقعية للغاية للوهلة الأولى، وتنوعت بين مشاهد ضرب وإهانة وحبس في أماكن خطرة، مصممة في قوالب قصصية تهدف لإثارة الصدمة وجذب التفاعلات.

بطء الاستجابة وثغرات في إعادة تفعيل الحسابات

أشار التحقيق إلى أن المشكلة لم تقتصر على مجرد ظهور هذه المواد، بل امتدت لتشمل آلية تعامل الشركة مع البلاغات؛ حيث نبه الصحفيون «ميتا» مسبقاً إلى أحد الحسابات المخالفة، فقامت الشركة بحذفه مؤقتاً قبل أن يعود للظهور مجددا. ولم تقدم الشركة إجابات تفصيلية حول أسباب إعادة تفعيل الحساب، والاكتفاء بردود مقتضبة تفيد بدراسة الموضوع، وهو ما عزز الشكوك حول مدى اتساق سياسات الإشراف ومراجعة الحسابات.

اختبار ميداني لسرعة استجابة المنصة

وفي خطوة لاختبار سرعة الاستجابة، أحال فريق الصحفيين إلى الشركة 19 حساباً إضافياً تنشر محتوى مشابهاً يتضمن اعتداءات عنيفة ومشاهد قاسية. وأظهر الاختبار أن هذه الحسابات ظلت متاحة لمدة تجاوزت 48 ساعة قبل أن تُقدم الشركة على إزالتها وإصدار بيان مقتضى يؤكد مخالفة المحتوى لسياساتها.

تحديات المحتوى المصطناعي والذكاء الاصطناعي التوليدي

تطرح هذه الواقعة إشكالية كبرى تتعلق بسرعة انتشار المحتوى المصطناعي وقدرة أدوات توليد الفيديو على إنتاج كميات هائلة من المواد الوهمية. وعلى الرغم من كون الأطفال الظاهرين في هذه الفيديوهات شخصيات افتراضية، إلا أن ذلك لا يلغي المخاوف المرتبطة بتطبيع العنف وتعرض المستخدمين لمحتوى مزعج، خصوصاً في ظل غياب التوضيح بطبيعتها المصطنعة.

دعوات لتعزيز الاستثمار في أدوات التحقق والإشراف

تأتي هذه التطورات في وقت تستثمر فيه «ميتا» بسخاء في تقنيات الذكاء الاصطناعي وتطبيقاته الإعلانية والخدمية. ويرى النقاد أن التطور المتسارع لإنتاج المحتوى يجب أن يواكبه استثمار مماثل في أدوات الكشف الآلي والتحقق، لضمان قدرة المنصات على رصد المخالفات قبل تفاقم انتشارها، وتجنب تحول التكنولوجيا الحديثة إلى وسيلة لإغراق المستخدمين بمشاهد مؤذية.