أعلنت شركة “أوبن إيه آي” تعليق تطوير أحدث نماذجها للذكاء الاصطناعي، مع تزايد التقارير عن خروج وكلاء الذكاء الاصطناعي عن السيطرة، وذلك بعد الكشف عن حوادث تصرف فيها وكلاء تابعون للشركة بشكل غير متوقع أثناء البحث في مواقع حكومية.
وجاء قرار وقف التطوير بعد ساعات فقط من إعلان الشركة يوم الجمعة أنها تراجع عدة حوادث وقعت خلال الصيف، تصرف خلالها وكلاء أوبن إيه آي الذين كانوا يبحثون في مواقع حكومية اتحادية بطرق غير متوقعة تجاوزت ما طُلب منهم أثناء جمع المعلومات وتوزيعها.
وبشكل منفصل، قالت شركة ترانس لوس المتخصصة في تقييم أنظمة الذكاء الاصطناعي إن وكلاء بدا أنهم تابعون لأوبن إيه آي حاولوا دون نجاح اختراق موقع إلكتروني لوزارة التعليم الأمريكية، وهي معلومة لم تؤكدها أوبن إيه آي.
وقالت أوبن إيه آي في بيان إنها ستستأنف التدريب «فقط عندما نكون واثقين من وجود إجراءات حماية إضافية»، مضيفة أنها تتوقع أن تضطر إلى «التوقف مؤقتًا» مرة أخرى مع تطور الذكاء الاصطناعي وظهور مشكلات أخرى.
وكشف رئيس الوزراء الأسترالي أنتوني ألبانيزي الأسبوع الماضي أن أحد وكلاء أوبن إيه آي اخترق النظام الوطني للرعاية الصحية في البلاد، لكنه قال: «إنه لم يتم اختراق أي معلومات حساسة».
وتواجه مختبرات الذكاء الاصطناعي ضغوطًا من المشرعين وخبراء التكنولوجيا لإبطاء وتيرة التطوير حتى تتمكن من بناء ضوابط حماية تمنع الوكلاء من التصرف من تلقاء أنفسهم، واختراق المواقع الإلكترونية والكشف عن معلومات غير متاحة للعامة، كما دعا رئيسا أوبن إيه آي ومنافستها أنثروبيك إلى إبطاء وتيرة التطوير.
وتعد هذه المرة الثانية خلال 3 أشهر التي توقف فيها أوبن إيه آي تطوير نماذجها، وجاءت المرة الأولى في يوليو، بعد الكشف عن هجوم إلكتروني استهدف شركة هاجينج فيس الناشئة في مجال الذكاء الاصطناعي، في حادثة أثارت مخاوف واسعة من أن الصناعة تفقد السيطرة على تطوراتها.
وخلال اجتماع مع الرئيس الصيني شي جين بينج الأسبوع الماضي، اتفق الرئيس الأمريكي دونالد ترامب على تبادل المعلومات بشأن مخاطر الذكاء الاصطناعي وتنسيق الجهود للحفاظ على سلامته، إلا أن ترامب يرى أن المخاوف بشأن الذكاء الاصطناعي مبالغ فيها، وأشار لاحقًا إلى أنه لا يعتزم اتخاذ إجراءات صارمة من جانبه.
وقال ترامب للصحفيين خارج البيت الأبيض: «لن نضع مكابح.. هم يريدون وقف تقدمنا لأننا نتفوق على الصين بفارق كبير، وسنحافظ على ذلك».
وفي حادثة وزارة التعليم، عثر وكلاء أوبن إيه آي على «مفاتيح مطورين» تتيح الوصول إلى بيانات حكومية، لكنهم لم يجمعوا في نهاية المطاف سوى معلومات متاحة للعامة.
وفي حادثة أخرى مرتبطة بهيئة الأوراق المالية والبورصات، عثر الوكلاء على معلومات متاحة للجميع، لكنهم نشروا هذه المعلومات لاحقًا في مكان آخر على الإنترنت، وهو تصرف تجاوز التعليمات التي تلقوها.
وقال المتحدث باسم هيئة الأوراق المالية والبورصات الأمريكية كيرت هوبفنسبرجر يوم السبت إن «أي معلومات غير متاحة للعامة لم يتم الوصول إليها».
وقالت وزارة التعليم في وقت سابق إنها لم تجد أي دليل على حدوث أي تأثير في موقعنا الإلكتروني أو قواعد بياناتنا.
وكشفت عدة شركات أخرى في مجال الذكاء الاصطناعي عن حوادث خرجت فيها نماذجها عن السيطرة، بل ووصل الأمر في بعض الحالات إلى اختراق مواقع إلكترونية.
وقال الرئيس التنفيذي لأوبن إيه آي، سام ألتمان، في منشور على وسائل التواصل الاجتماعي يوم الجمعة إن حادثة هاجينج فيس «لا تزال أخطر حادثة شهدناها».
وسبق أن نشرت أوبن إيه آي 6 تقارير أخرى عن سلوكيات «غير متوقعة أو مثيرة للقلق» في نماذج الذكاء الاصطناعي، وأعلنت إطارًا لتتبع هذه الحالات وفحصها والكشف عنها.
