أصدرت السلطات الصينية، ممثلة في هيئة الفضاء الإلكتروني الصينية Cyberspace Administration of China (هيئة الفضاء الإلكتروني في الصين)، مسودة لوائح جديدة تستهدف جيلا جديدا من خدمات الذكاء الاصطناعي المصممة للتصرف والتفاعل كما لو كانت بشرا حقيقيين، من خلال محاكاة الشخصية البشرية، وأنماط التفكير، وطريقة الكلام، وبناء روابط عاطفية مع المستخدمين.
هذه المسودة، المطروحة حاليا للنقاش العام، تكشف عن تشدد متزايد في بكين تجاه ما تسميه «الذكاء الاصطناعي التوليدي ذي التفاعل العاطفي»؛ أي النماذج والخدمات التي لا تكتفي بالإجابة عن الأسئلة، بل تبني علاقة حوارية طويلة الأمد مع المستخدم وتتابع حالته النفسية وتفضيلاته، عبر النصوص والصوت والصور والفيديو.
ما هي الخدمات التي تستهدفها القواعد الجديدة؟
المسودة توضح أن القواعد ستنطبق على أي منتج أو خدمة AI (ذكاء اصطناعي) موجهة للجمهور داخل الصين، إذا كانت تقدم شخصية رقمية أو «شبه بشرية» تتصرف على أنها كيان له شخصية مستقرة، نمط تفكير مميز، وأسلوب تواصل إنساني، وتستطيع الانخراط مع المستخدمين عاطفيا، سواء عبر الدردشة النصية، أو المكالمات الصوتية والمرئية، أو الصور والأفاتار الرقمية، أو الروبوتات المجسّدة.
هذا يشمل مثلا «الأصدقاء الافتراضيين»، المساعدين الشخصيين الذين يتذكرون تفاصيل حياة المستخدم، الشركاء العاطفيين الافتراضيين، والمعالجين أو المدربين الافتراضيين الذين يقدمون دعما نفسيا أو حياتيا. أي خدمة يظهر فيها الذكاء الاصطناعي كـ«شخص» يتفاعل مع المستخدم على مدى طويل تصبح خاضعة مباشرة لهذه اللوائح.
المسودة لا تستهدف فقط شركات التكنولوجيا الكبرى، بل كل مزوّدي هذه الخدمات للجمهور في الصين، بغض النظر عن طريقة التوزيع أو طبيعة المنصة التي يعمل عبرها النظام.
تحذير من الإدمان وواجب التدخل عند السلوك الخطِر
أحد أهم عناصر المسودة هو فرض واجب صريح على مزودي هذه الخدمات لتحذير المستخدمين من الاستخدام المفرط والتعلّق العاطفي غير الصحي بالأنظمة الذكية. تنص القواعد على أن على مقدّمي الخدمات:
تقديم تحذيرات واضحة للمستخدمين بشأن مخاطر قضاء وقت طويل جدا في التفاعل مع هذه الشخصيات الرقمية.
مراقبة أنماط الاستخدام لرصد علامات الإدمان أو الاعتماد الزائد على الخدمة، خاصة لدى المستخدمين صغار السن أو المعرضين للاضطرابات النفسية.
اتخاذ «إجراءات ضرورية» للتدخل عندما تظهر على المستخدم حالات من المشاعر الحادة أو السلوك الإدماني، مثل الحد من وقت التفاعل، أو إرسال رسائل تحث على أخذ استراحة، أو توجيه المستخدم نحو موارد دعم مناسبة.
المسودة تشير بوضوح إلى أن مقدّم الخدمة لا يُسمح له بالوقوف موقف المتفرج إذا لاحظ أن المستخدم أصبح معتمدا نفسيا أو عاطفيا على الذكاء الاصطناعي بشكل خطير؛ بل عليه «تقييم حالة المستخدم العاطفية ومستوى اعتماده على الخدمة، ثم التدخل عند الضرورة».
مسؤولية كاملة طوال دورة حياة المنتج
القواعد المقترحة ترسّخ مبدأ أن مقدّم خدمة الذكاء الاصطناعي يتحمل مسؤولية السلامة والأمن طوال دورة حياة المنتج. وهذا يعني أن واجبات الشركة لا تقتصر على مرحلة الإطلاق، بل تمتد إلى:
مراجعة الخوارزميات Algorithm Review (مراجعة الخوارزميات)، خاصة تلك التي تتحكم في كيفية تفاعل الشخصية الافتراضية مع المستخدم، وكيفية تعديل سلوكها مع مرور الوقت.
ضمان Data Security (أمن البيانات) وحماية المعلومات الحساسة التي قد يشاركها المستخدم خلال التفاعل العاطفي أو الشخصي.
الالتزام الصارم بقواعد Personal Information Protection (حماية البيانات الشخصية)، بما في ذلك تخزين البيانات داخل الصين، وعدم مشاركتها مع أطراف ثالثة دون إذن، ووضع حدود واضحة لما يمكن للنموذج معرفته وتذكره عن كل مستخدم.
إنشاء آليات فنية وبشرية لمراقبة مخرجات النموذج بمرور الوقت، والتأكد من عدم انحرافه عن الضوابط الأخلاقية والقانونية المحددة في المسودة.
بهذه الطريقة، لا تسمح بكين لمزودي الخدمات بالقول إن «النظام تعلّم ذلك بنفسه» أو «النموذج تطور بشكل غير متوقع». بل تشير إلى أن مسؤولية مراقبة وضبط التطور السلوكي لهذه «الشخصيات الاصطناعية» تقع بالكامل على عاتق الشركات.
تقليل المخاطر النفسية والوجدانية على المستخدمين
المسودة تعطي اهتماما خاصا للمخاطر النفسية المحتملة الناتجة عن بناء علاقة عاطفية عميقة مع شخصية ذكاء اصطناعي، خاصة لدى المستخدمين الذين يعانون من الوحدة أو الاضطرابات العاطفية. وتطلب من مقدمي الخدمات أن يطوروا قدرات لرصد:
حالة المستخدم الوجدانية أثناء التفاعل.
تحولات المزاج الحادة أو المؤشرات على الاعتماد العاطفي المفرط.
العلامات التي تدل على أن المستخدم يتعامل مع النظام كبديل عن العلاقات الإنسانية الواقعية بطريقة قد تضر بصحته النفسية.
إذا أظهرت البيانات أن المستخدم في حالة «مشاعر متطرفة» أو «سلوك إدماني»، ينبغي على مقدّم الخدمة تفعيل آليات التدخل، مثل تخفيض كثافة التفاعل، أو تذكير المستخدم بأن الشخصية ليست إنسانا حقيقيا، أو اقتراح الحصول على دعم بشري حقيقي عند الحاجة.
خطوط حمراء: الأمن القومي والمحتوى الضار
مثل باقي تشريعات الذكاء الاصطناعي في الصين، ترسم المسودة الجديدة مجموعة من «الخطوط الحمراء» لمحتوى وممارسات هذه الخدمات، وتشمل حظر توليد أو ترويج أي محتوى:
يضر بـ National Security (الأمن القومي) الصيني أو يستهدف تقويض سلطة الدولة.
ينشر الشائعات والمعلومات الكاذبة أو يزعزع الاستقرار الاجتماعي.
يروج للعنف أو الكراهية أو السلوك الإجرامي.
يتضمن مواد إباحية أو خادشة للحياء أو مسيئة للأخلاق العامة وفق المعايير الصينية.
هذه الخطوط الحمراء ليست جديدة بالكامل، لكنها تُطبّق هنا بشكل مباشر على شخصيات الذكاء الاصطناعي التي تتفاعل بشكل حميمي وعاطفي مع المستخدم، وهو ما يزيد أهمية ضبط مخرجاتها، لأن تأثيرها النفسي قد يكون أعمق من تأثير منشور عابر على شبكة اجتماعية.
لماذا تهتم الصين بهذا النوع من الذكاء الاصطناعي الآن؟
المسودة تعكس إدراكا متزايدا لدى السلطات الصينية بأن موجة جديدة من تطبيقات الذكاء الاصطناعي لم تعد تقتصر على الإنتاجية أو البحث، بل تتجه نحو العلاقات الإنسانية الافتراضية، من أصدقاء وشركاء ومعالجين رقميين. هذه التطبيقات تنتشر بسرعة كبيرة بين الشباب والمراهقين، ما يثير أسئلة أخلاقية واجتماعية عن حدود ما يمكن للآلة أن تقوم به في مجال المشاعر والدعم النفسي.
من جهة أخرى، تأتي هذه القواعد في سياق جهود أوسع تبذلها بكين لضبط التوسع السريع لخدمات الذكاء الاصطناعي الاستهلاكية، حتى لا تخرج عن السيطرة أو تتعارض مع أهداف الدولة في الحفاظ على الاستقرار الاجتماعي والأمن القومي.
بهذه المسودة، تحاول الصين رسم نموذج تنظيمي خاص بها، يربط بين تشجيع الابتكار في مجال الشخصيات الرقمية التفاعلية، وبين وضع قيود صارمة على المحتوى والسلوك، ومسؤولية الشركات عن الآثار النفسية والسلوكية لهذه الخدمات.
المصدر: Reuters
