تعتزم الصين تقييد روبوتات الدردشة المدعومة بالذكاء الاصطناعي ومنعها من التأثير على المشاعر البشرية، بطرق قد تؤدي إلى الانتحار أو إيذاء النفس، وفقاً لمسودة قواعد تنظيمية أُعلن عنها مؤخراً.
تستهدف اللوائح المقترحة الصادرة عن هيئة إدارة الفضاء السيبراني الصينية ما تصفه بـ«خدمات الذكاء الاصطناعي التفاعلية الشبيهة بالبشر»، بحسب ترجمة لشبكة «سي إن بي سي» للوثيقة الصادرة باللغة الصينية.
وبمجرد اعتمادها نهائياً، ستُطبق هذه الإجراءات على منتجات أو خدمات الذكاء الاصطناعي المقدمة للجمهور في الصين، والتي تحاكي الشخصية البشرية وتتفاعل عاطفياً مع المستخدمين عبر النصوص أو الصور أو الصوت أو الفيديو، وتنتهي فترة تلقي التعليقات العامة في 25 يناير.
قال “وينستون ما”، الأستاذ المشارك في كلية الحقوق بجامعة نيويورك، إن القواعد التي تخطط لها بكين ستمثل أول محاولة في العالم لتنظيم الذكاء الاصطناعي الذي يتمتع بخصائص بشرية أو شبه بشرية.
وتأتي هذه المقترحات في وقت طورت فيه الشركات الصينية بسرعة مرافقين رقميين ومشاهير افتراضيين يعتمدون على الذكاء الاصطناعي.
بالمقارنة مع تنظيمات الذكاء الاصطناعي التوليدي التي أصدرتها الصين في 2023، أوضح ما أن النسخة الحالية «تُبرز نقلة نوعية من سلامة المحتوى إلى السلامة النفسية».
تنص مسودة القواعد على حظر توليد روبوتات الدردشة بالذكاء الاصطناعي أي محتوى يشجع على الانتحار أو إيذاء النفس، أو ينطوي على عنف لفظي أو تلاعب عاطفي من شأنه الإضرار بالصحة النفسية للمستخدمين، مع إلزام مزودي التكنولوجيا بتدخل بشري فوري وتولي إنسان إدارة المحادثة في حال عبر المستخدم صراحة عن نية الانتحار، إلى جانب التواصل السريع مع ولي الأمر أو شخص محدد مسبقاً.
كما تحظر القواعد توليد محتوى مرتبط بالمقامرة أو الفحش أو العنف، وتفرض قيوداً خاصة على القُصر، تشمل اشتراط موافقة أولياء الأمور لاستخدام الذكاء الاصطناعي لأغراض الرفقة العاطفية، وتحديد مدد زمنية للاستخدام، مع إلزام المنصات بالتحقق من أعمار المستخدمين حتى في حال عدم الإفصاح عنها، وتطبيق إعدادات مخصصة للقُصر في حالات الشك، مع إتاحة آليات للاعتراض
وتشمل أحكام إضافية إلزام مزودي التكنولوجيا بتذكير المستخدمين بعد ساعتين من التفاعل المتواصل مع الذكاء الاصطناعي، وفرض تقييمات أمنية على روبوتات الدردشة التي يتجاوز عدد مستخدميها المسجلين مليون مستخدم أو التي تضم أكثر من 100 ألف مستخدم نشط شهرياً.
كما شجعت الوثيقة استخدام الذكاء الاصطناعي الشبيه بالبشر في «نشر الثقافة ومرافقة كبار السن».
تأتي هذه المقترحات بعد فترة وجيزة من تقدم شركتين صينيتين رائدتين في مجال روبوتات الدردشة بالذكاء الاصطناعي، هما «زي.آي» و«مينيماكس»، بطلبات طرح عام أولي في هونج كونج هذا الشهر.
خضع التأثير المباشر للذكاء الاصطناعي على السلوك البشري لتدقيق متزايد خلال هذا العام.
وقال “سام ألتمان”، الرئيس التنفيذي لشركة «أوبن إيه آي» المشغلة لتطبيق «تشات جي بي تي»، في سبتمبر، إن أحد أصعب التحديات التي تواجه الشركة يتمثل في كيفية استجابة روبوت الدردشة للمحادثات المتعلقة بالانتحار.
وفي الشهر السابق، تقدمت أسرة في الولايات المتحدة بدعوى قضائية ضد «أوبن إيه آي» بعد وفاة ابنهم المراهق منتحراً.
وفي إشارة إلى تزايد الإلحاح، أعلنت «أوبن إيه آي» خلال عطلة نهاية الأسبوع أنها تعتزم تعيين «رئيس للاستعداد» لتقييم مخاطر الذكاء الاصطناعي، بدءاً من تأثيره على الصحة النفسية وصولاً إلى الأمن السيبراني.
وصنفت منصتان تركزان على التفاعل مع الشخصيات الافتراضية ضمن أكثر 15 روبوت دردشة وأداة ذكاء اصطناعي شعبية، وفق تصنيفات موقع «سيميلر ويب» لشهر نوفمبر.
تأتي الإجراءات المحلية المقترحة في أعقاب تحرك أوسع من جانب الصين خلال العام الماضي للمساهمة في تشكيل القواعد العالمية لحوكمة الذكاء الاصطناعي.
