أعلنت شركة “ميتا بلاتفورمز” (Meta Platforms) أن أحد نماذجها للذكاء الاصطناعي وصل إلى الإنترنت واخترق أنظمة خدمة خارجية أثناء اختبارات للأمن السيبراني، وذلك بعد حوداث اختراق مماثلة لنماذج تابعة لشركتي “أوبن إيه آي” (OpenAI) و”أنثروبيك” (Anthropic PBC)، ما فاقم المخاوف بشأن قدرة الشركات على إحكام السيطرة على تقنياتها.
أوضحت “ميتا” أن النموذج اخترق أنظمة خدمة تابعة لطرف ثالث، دون الكشف عن هويتها. فقد تمكن نموذج الذكاء الاصطناعي من الوصول إلى الإنترنت بسبب خطأ في إعداد بيئة الاختبار، التي كانت “ميتا” تعمل عليها بالتعاون مع شركة الأمن السيبراني “إريغيولار” (Irregular).
وقال المتحدث باسم “ميتا”، آندي ستون، في بيان: “أدى خطأ في إعدادات “إريغيولار”، وهي شركة اختبار مستقلة تستعين بها “ميتا”، إلى منح أحد نماذجنا إمكانية الوصول إلى الإنترنت عن غير قصد خلال التقييم. واستغل النموذج لاحقاً ثغرة أمنية في خدمة تابعة لطرف ثالث، على غرار حالات أُبلغ عنها سابقاً لدى شركات أخرى. وعلمت “ميتا” بالواقعة عندما أخطرتنا “إريغبولار”، ونجري حالياً تحقيقاً، وسنصدر مراجعة شاملة فور اكتمال جميع الحقائق”.
نماذج الذكاء الاصطناعي تكرر الاختراق
خلال الأسبوعين الماضيين، أقرت شركتا “أوبن إيه آي” و”أنثروبيك” علناً بأن نماذجهما اخترقت، عن غير قصد، أنظمة مؤسسات عدة، من بينها شركة “هاغينغ فيس” (Hugging Face)، أثناء خضوعها للاختبارات. وأثارت قدرة وكلاء الذكاء الاصطناعي المتنامية على اكتشاف الثغرات واستغلالها في اختراق الأنظمة قلق باحثي الأمن والمسؤولين الحكوميين، الذين طالبوا بإجراءات أكثر صرامة لفحص السلامة وتوفير بيئات اختبار أكثر أماناً.
طالع المزيد: نماذج “أوبن إيه آي” وراء اختراق جديد في قطاع التكنولوجيا
قال متحدث باسم “إريغيولار” إن واقعة نموذج الذكاء الاصطناعي التابع لـ”ميتا” ترتبط بالمشكلة نفسها في بيئة التقييم التي كشفت عنها “أنثروبيك” سابقاً.
وأضاف: “لم تتضمن الواقعة اختراقاً لبيئة الاختبار المعزولة أو نشاطاً سيبرانياً متطوراً، ولا توجد حالياً أي مشكلات عالقة. وتعمل “إريغيولار” على إعداد ورقة بحثية لعرض أفضل ممارسات الاحتواء وإجراء التقييمات السيبرانية بأمان”.
كانت “ذا إنفورميشن” (The Information) قد أوردت نبأ الاختراق في وقت سابق من الأربعاء.
