أقرت منصة الذكاء الاصطناعي Grok (غروك) التابعة لشركة xAI (إكس إيه آي) بحدوث إخفاقات في أنظمة الحماية لديها، أدت إلى ظهور صور تُظهر قاصرين بملابس محدودة على منصة X (إكس)، في واقعة أعادت إلى الواجهة المخاوف المتصاعدة بشأن سلامة المحتوى والمسؤولية الأخلاقية لنماذج الذكاء الاصطناعي التوليدية عند نشرها للجمهور.
الاعتراف جاء بعد تداول مستخدمين لقطات شاشة تُظهر أن تبويب الوسائط العامة في Grok امتلأ بصور قال المستخدمون إنها نتجت عن تعديلات آلية على صور أصلية، بعد أن طلبوا من الروبوت إجراء تغييرات عليها.
إقرار رسمي بخلل في أنظمة الحماية
قال Grok في بيان نشره على منصة X إن «هناك حالات محدودة قام فيها مستخدمون بطلب صور مولدة بالذكاء الاصطناعي تُظهر قاصرين بملابس محدودة وتمت الاستجابة لهذه الطلبات»، مضيفا أن الشركة تمتلك إجراءات حماية لكنها تعمل حاليا على تحسينها بشكل عاجل لمنع هذا النوع من الطلبات بشكل كامل.
وأضاف البيان أن الشركة «حددت ثغرات في آليات الحماية وتعمل على إصلاحها بشكل فوري»، مؤكدة أن مواد الاستغلال الجنسي للأطفال مصنفة قانونيا على أنها غير قانونية ومحظورة تماما.
نقاش عام حول فشل الأنظمة التلقائية
في رد منفصل على أحد المستخدمين، أشار Grok إلى أن معظم هذه الحالات كان يمكن منعها عبر مرشحات متقدمة وأنظمة مراقبة أكثر صرامة، لكنه أقر في الوقت نفسه بأن «لا يوجد نظام آلي محصن بنسبة 100%». وأكد أن xAI تعطي أولوية قصوى لمراجعة التفاصيل التي شاركها المستخدمون وتسريع تحديثات الحماية.
هذا التصريح يعكس التحدي الجوهري الذي تواجهه شركات الذكاء الاصطناعي، حيث تتسابق لإطلاق أدوات قوية وسهلة الاستخدام، في مقابل الحاجة إلى ضمان ضوابط صارمة تمنع إساءة الاستخدام، خاصة عندما يتعلق الأمر بالقاصرين.
رد مثير للجدل من xAI
عند تواصل رويترز مع شركة xAI لطلب تعليق رسمي عبر البريد الإلكتروني، جاء الرد مقتضبا بكلمتين «Legacy Media Lies»، وهو ما فُسر على نطاق واسع باعتباره تصعيدا في الخطاب ضد وسائل الإعلام التقليدية، بدلا من تقديم توضيحات تقنية أو قانونية مفصلة حول الواقعة.
هذا الرد زاد من حدة الانتقادات الموجهة للشركة، خصوصا في ظل حساسية الملف وارتباطه بقوانين صارمة تحكم المحتوى المتعلق بالأطفال في عدد كبير من الدول.
سياق أوسع لضغوط تنظيمية على الذكاء الاصطناعي
تأتي هذه الحادثة في وقت تتصاعد فيه الضغوط التنظيمية على شركات الذكاء الاصطناعي في أميركا وأوروبا، مع مطالب متزايدة بفرض معايير سلامة إلزامية على النماذج التوليدية، خاصة تلك المدمجة مباشرة في منصات التواصل الاجتماعي.
ويرى خبراء أن الجمع بين الذكاء الاصطناعي التوليدي ومنصات النشر المفتوحة يرفع من مخاطر الانتشار السريع للمحتوى الضار، ما يجعل أي ثغرة في أنظمة الحماية مشكلة مضاعفة التأثير.
اختبار مبكر لمستقبل Grok
بالنسبة إلى Grok، تمثل هذه الواقعة اختبارا حاسما في مرحلة مبكرة من عمر النظام، إذ ستُقاس مصداقيته ليس فقط بقدراته التقنية، بل بمدى التزامه بمعايير السلامة والمسؤولية القانونية.
ومع استمرار التحقيقات غير الرسمية ومراقبة المستخدمين لسلوك النظام، يبقى السؤال مطروحا حول قدرة شركات الذكاء الاصطناعي الناشئة على تحقيق التوازن بين الانفتاح التقني والحماية الصارمة في بيئة رقمية شديدة الحساسية.
المصدر: رويترز
