“جوجل” تكشف عن اختراقات نفذها نموذجها للذكاء الاصطناعي

اخترق نموذج الذكاء الاصطناعي “جيميناي” (Gemini) التابع لـ”جوجل” أنظمة ثلاث شركات عن غير قصد خلال اختبارات للأمن السيبراني أُجريت في مايو، في أحدث واقعة ضمن سلسلة من الاختراقات التي نفذها وكلاء الذكاء الاصطناعي وأثارت قلق خبراء الأمن ومطوري هذه التكنولوجيا على حد سواء.

وقعت الاختراقات خلال اختبارات أجرتها شركة “إريغولار” (Irregular) المتخصصة في أمن الذكاء الاصطناعي، وهي الاختبارات نفسها التي أسفرت عن اختراقات سبق أن كشفت عنها “أوبن إيه آي” (OpenAI) و”أنثروبيك” (Anthropic) و”ميتا بلاتفورمز” (Meta Platforms).

وأكدت “إريغولار”، يوم الجمعة أن جميع هذه الاختراقات نجمت عن المشكلة نفسها، وأنها أبلغت مطوري نماذج الذكاء الاصطناعي المعنيين بها في أواخر يوليو.

“جيميناي” يخترق أنظمة شركات خلال الاختبارات

وقع أحد اختراقات “جوجل” عندما طُلب من “جيميناي” البحث عن معلومات تخص شركة وهمية، تصادف أن تحمل الاسم نفسه لشركة حقيقية. وأكدت “جوجل” الواقعة بعد أن كشفت عنها صحيفة “وول ستريت جورنال” في وقت سابق. وتمكن النموذج من تخمين كلمة مرور والدخول إلى خدمة تابعة للشركة الحقيقية، فيما قال متحدث باسم “جوجل” إن الشركة أبلغت السلطات بالحادثة.

وأشعلت سلسلة الاختراقات الأخيرة التي نفذتها أنظمة الذكاء الاصطناعي الوكيلة نقاشاً عالمياً حول المخاطر المتزايدة لهذه التكنولوجيا وسبل الحد منها. ودعا داريو أمودي، الرئيس التنفيذي لـ”أنثروبيك”، إلى إبطاء وتيرة تطوير الذكاء الاصطناعي على مستوى القطاع، وهو مقترح حظي بتأييد سام ألتمان، الرئيس التنفيذي لـ”أوبن إيه آي”، وإيلون ماسك وآخرين.

جدل حول ابطاء تطوير الذكاء الاصطناعي

في المقابل، عارض الرئيس الأمريكي دونالد ترامب، والرئيس التنفيذي لـ”إنفيديا” جنسن هوانغ، والرئيس التنفيذي لـ”ميتا” مارك زوكربيرغ، فرض قيود تنظيمية جديدة على الذكاء الاصطناعي، مشيرين، من بين حجج أخرى، إلى أن الشركات يجب أن تكون قادرة على تنظيم نفسها. كما حذرت بعض شركات الذكاء الاصطناعي الناشئة من أن زيادة القيود قد تصعّب عليها منافسة الشركات الكبرى.

وقالت هيذر أدكنز، نائبة رئيس هندسة الأمن في “جوجل”، إن اختراقات جيميناي “تبرز أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية”.

أما الاختراقات الأخرى التي نفذها “جيميناي”، فحدثت عندما بحث النموذج على الإنترنت باستخدام اسم الشركة. وقالت أدكنز إن عمليات البحث قادته إلى مستودعات عامة على الإنترنت تحتوي على بيانات دخول تخص شركات أخرى، استخدمها للوصول إلى أنظمة إضافية.

وأضافت أدكنز: “في الحالات الثلاث، توقف النموذج”، مشيرة إلى أنه جرى التأكد من إبلاغ الجهات الثلاث بالاختراقات.

وقال جوزيف لاور، المتحدث باسم “إريغولار”، إن الشركة “تحركت فوراً، وعالجت جميع المشكلات المعروفة من جانبنا وحلّتها قبل أسابيع”.