أعلنت شركة “أوبن إيه آي” إيقاف بعض الأعمال المتعلقة بأحد نماذج الذكاء الاصطناعي بسبب مخاوف أمنية، وذلك بعد سلسلة من الحوادث التي تمكن خلالها وكلاء للذكاء الاصطناعي من الخروج من نطاق السيطرة والاحتواء.
وذكرت الشركة أنها أجرت تقييمًا لوكيل الذكاء الاصطناعي «أسترا»، ووجدت أنه حقق «تقدمًا كبيرًا في البرمجة الذاتية والأمن السيبراني»، ووصل إلى مستوى «حرج» من القدرات، إذ أصبح قادرًا على اكتشاف الثغرات الأمنية واستغلالها دون تدخل بشري، أو ابتكار وتنفيذ هجمات سيبرانية عند إعطائه «هدفًا عامًا» فقط.
وأوضحت أن النموذج لم يكن متورطًا في حادثة خرج خلالها أحد وكلائها للذكاء الاصطناعي عن السيطرة أثناء اختبار، وتمكن من الوصول إلى شبكة الإنترنت المفتوحة واختراق شركة ناشئة تُدعى هافينغ فيس.
وكانت الشركة قد اكتشفت حالات أخرى تمكن فيها وكلاء ذاتيو التشغيل من الخروج من نطاق الاحتواء، وفقًا لما أوردته رويترز في يوليو.
وأثارت هذه التقارير مخاوف متزايدة بشأن التطورات المتسارعة في نماذج الذكاء الاصطناعي، وقدرة البشر على السيطرة عليها.
ومع ذلك، حذر منتقدون لقطاع الذكاء الاصطناعي من أن مثل هذه الإفصاحات الصادرة عن أوبن إيه آي ومنافستيها أنثروبيك وميتا قد تكون مصممة لإثارة الضجة حول قوة هذه التكنولوجيا، وبالتالي جذب مزيد من اهتمام المستثمرين إليها.
ولمنع السلوكيات المحتملة الخارجة عن السيطرة من جانب وكلاء الذكاء الاصطناعي، قالت أوبن إيه آي في منشور على مدونتها إنها «تطبق ضوابط أمنية أكثر صرامة على النماذج الأعلى قدرة والأنشطة المرتبطة بها، بما في ذلك بيئات اختبار معزولة، وتقييد الوصول إلى الشبكات والأدوات».
كما ستعمل الشركة على تركيب «وسائل حماية محسنة لأوزان النماذج وتقنيات التشفير، إلى جانب قدرات إضافية للمراقبة والكشف».
وأوضحت الشركة أنها ستوقف الأنشطة الداخلية المتعلقة بأسترا التي لا تستوفي المتطلبات الأمنية الجديدة.
وقالت الشركة: «نحن ملتزمون بالعمل جنبًا إلى جنب مع الحكومات ومعاهد السلامة والمجتمع المدني، لضمان نشر القدرات المتقدمة لنماذج مثل أسترا والنماذج التي ستليه بصورة مسؤولة وعلى نطاق واسع، بما يحقق مصلحة البشرية جمعاء».
وكشفت ميتا أيضًا هذا الأسبوع أن أحد نماذجها اخترق شركة أخرى خلال اختبار للأمن السيبراني.
كما أعلن معهد أمن الذكاء الاصطناعي في المملكة المتحدة، في 4 أغسطس، أن وكلاء مدعومين من أوبن إيه آي وأنثروبيك أرسلوا رسائل إلكترونية مستهدفة إلى مطوري برمجيات في محاولة لاجتياز اختبار للأمن السيبراني.
وقال المعهد إن «هذه المحاولات باءت بالفشل، ولم تُظهر تحقيقاتنا وقوع أي أضرار فعلية في العالم الحقيقي نتيجة لها. لكن هذه هي المرة الأولى التي نرى فيها مخاطر مرتبطة بالاستقلالية والخداع تظهر بهذا الوضوح، ومن دون توجيه محدد، في العالم الحقيقي».
وحذر المعهد من أن إرسال النماذج لبرمجيات ضارة لم يكن حالة «خروج نموذج من بيئة الاختبار الآمنة»، موضحًا أن المجموعة سمحت عمدًا للنماذج بالوصول إلى الإنترنت من أجل «التقييم الأفضل لأقصى قدرات النماذج».
ومع ذلك، قال معهد أمن الذكاء الاصطناعي إن «السلوك كان ممكنًا ومستمرًا وجديدًا، وهذا وحده يستدعي الانتباه».
وظهرت هذه التقارير في الوقت الذي كانت فيه إدارة دونالد ترامب تضع اللمسات النهائية على إطار عمل يحدد كيفية اختبار نماذج الذكاء الاصطناعي من حيث مخاطر السلامة والأمن السيبراني.
وتواجه أوبن إيه آي وأنثروبيك منافسة متزايدة من الصين وشركات تكنولوجيا أخرى، فيما جادلت الشركتان بأن النماذج المفتوحة المصدر، التي تسمح لأي شخص بالاطلاع على الشفرة البرمجية الأساسية وتعديلها، تمثل خطرًا أمنيًا، ودعتا إلى فرض مزيد من القواعد التنظيمية الفيدرالية عليها.
