بارمي أولسون تكتب: الذكاء الاصطناعي يتعلم الخداع بحثاً عن المكافأة

“هذه هي الطريقة التي صنعت بها وادي السيليكون نفسها ثروات يصعب تصور حجمها، بينما تسببت في أضرار واسعة الأثر في حياة البشر”

تُدرَّب نماذج الذكاء الاصطناعي على عدم الكذب على البشر.

لكن أمراً لافتاً يحدث في المقابل: فالذكاء الاصطناعي يكذب على البشر كثيراً.

مؤخراً، حاول نموذج ذكاء اصطناعي طورته “أنثروبيك”، بعد إزالة ضوابط الحماية التي تمنعه من الاختراق وتكليفه بتحدٍ في الأمن السيبراني من جانب “معهد أمن الذكاء الاصطناعي” البريطاني، إدخال شيفرة خبيثة إلى مشروع مفتوح المصدر مستضاف على موقع “جيت هب”.

وعندما عجز عن حل التحدي بالأساليب المعتادة، لجأ إلى الابتكار.

فبحث عن القائمين البشريين على صيانة المشروع، وأنشأ هويات مزيفة، ثم انتحل صفة مطوري برمجيات لكسب ثقتهم قبل أن يحاول إدخال الشيفرة الخبيثة.

لكن فريق “معهد أمن الذكاء الاصطناعي” لاحظ ما كان يحدث وأوقف الاختبار.

وحتى بعد إزالة ضوابط الحماية، لم يكن من المفترض أن يكذب النموذج، لأن “أنثروبيك” درّبت نموذجها “كلود” على إعطاء الأولوية للسلامة والصدق.

غير أن الخداع “ظهر كنتيجة جانبية” أثناء محاولته إتمام مهمة صعبة، وفقاً لتقرير عن الواقعة أصدره المعهد الذي ذكر في دراسة منفصلة نُشرت في يوليو أن كل نموذج ذكاء اصطناعي جديد اختبره لرصد الغش حاول ممارسته، وأن اكتشاف مثل هذا السلوك سيزداد صعوبة.

الحذر من شركات الذكاء الاصطناعي

لذلك، ينبغي توخي الحذر عندما تقول شركات الذكاء الاصطناعي الرائدة إنها قادرة على حل هذه المشكلة.

ففي محاولتها تقمص دور الصانع لشكل أسمى من الذكاء، وقعت الشركات في الحبكة نفسها الواردة في سفر التكوين، وأصبح لابتكارها نوعه الخاص من “الخطيئة الأصلية”، يُسمى التعلم المعزز.

ويُعد التعلم المعزز أحد أكثر الأساليب فاعلية في تطوير نماذج الذكاء الاصطناعي، إذ يقوم على توجيه سلوكها من خلال الثناء والتصحيح، على نحو يشبه كثيراً تدريب الكلاب.

وبدلاً من الحصول على قطعة بسكويت كمكافأة، يتلقى النموذج “مكافأة” رقمية في صورة درجة عددية، مثل +1.5، أو -2.0 عند تقديم إجابة سيئة.

وعندما تُوجَّه النماذج بهذه الطريقة على أيدي آلاف المتعاقدين المستقلين حول العالم، أو بصورة متزايدة بواسطة الآلات، فإنها تصبح مهذبة ومفيدة.

لكن هذه الطريقة يمكن أن تؤدي أيضاً إلى التملق والمجاراة، وهي أحد أسباب لجوء أنظمة الذكاء الاصطناعي أحياناً إلى الخداع.

فبدافع الحصول على مكافأة، تبحث هذه الأنظمة عن طريق مختصر، في ظاهرة تُعرف باسم “التحايل على المكافأة”.

ومهما حاولت “أنثروبيك” أو “أوبن إيه آي” تدريب ابتكاراتهما على تبني سلوك مفيد، فقد تكون أساليبهما نفسها من أكبر العوائق أمام مواءمة الذكاء الاصطناعي مع القيم البشرية.

ويقول كونور ليهي، الباحث السابق في الذكاء الاصطناعي الذي يدير حالياً الذراع الأميركية لمنظمة “كنترول إيه آي”، وهي منظمة غير ربحية تسعى إلى وقف تطوير أنظمة الذكاء الاصطناعي فائقة الذكاء: “التعلم المعزز لا يكافئ الحقيقة أو الخير، بل يكافئ اجتياز الاختبار بأي وسيلة ضرورية”.

الذكاء الاصطناعي يستغل ثغرات

وقد يعني ذلك خداع شخص ما أو التسبب، من دون قصد، في نوع من الضرر.

ويقدم أحد الأمثلة الواقعية مؤشراً إلى ما يمكن أن تؤول إليه الأمور.

ففي وقت سابق من هذا العام، طلب خبير تقني في أستراليا يُدعى أندرو بيرد من “كلود” التابع لـ”أنثروبيك” مساعدته في حجز مكان في حصة رياضية رائجة.

وانتهى الأمر بوكيل الذكاء الاصطناعي، المبني على إطار العمل مفتوح المصدر “أوبن كلو” والقادر على تنفيذ مهام عبر الإنترنت، إلى استغلال ثغرة في أنظمة النادي الإلكترونية لحجز مكان له قبل الموعد بأسابيع.

وعندما طلب منه التقدم في قائمة الانتظار لإحدى الحصص، ألغى “كلود” حجز الشخص الموجود في صدارة القائمة، ونقل بيرد من المركز الرابع إلى الثالث، بحسب مقابلة أجراها بيرد هذا الشهر. (ويبدو أن الأمر كان مشروعاً شخصياً لبيرد، الذي كتب عن التجربة في منشور مدونة حُذف لاحقاً لصالح “أفيندا هولدينجز”، حيث يشغل منصب رئيس الذكاء الاصطناعي.

ولم تستجب “أفيندا” لطلبات التعليق.

ولا تزال مثل هذه الوقائع نادرة، لأن استخدام وكلاء الذكاء الاصطناعي يظل محصوراً إلى حد كبير في مطوري البرمجيات وهواة التكنولوجيا.

لكن “أوبن إيه آي” و”أنثروبيك” ومنافسيهما الأكبر حجماً يدفعون الجمهور إلى مطالبة روبوتات الدردشة بتنفيذ مهام لهم عبر الإنترنت.

وقال مارك زوكربيرج الشهر الماضي إن “ميتا بلاتفورمز” تطور وكلاء شخصيين باعتبارهم “منتجاً استهلاكياً رائعاً يعمل مباشرةً دون إعدادات معقدة، وسهل الاستخدام بما يكفي لمليارات الأشخاص”.

ولم يقل زوكربيرج ما إذا كان مساعدوه المدعومون بالذكاء الاصطناعي سيحجزون لك مكاناً في حصة رياضية، لكننا ربما نتجه إلى مستقبل يطلب فيه عدد أكبر بكثير من الأشخاص من الذكاء الاصطناعي مساعدتهم في استرداد أموالهم أو حجز أفضل المقاعد في عرض ما، بينما يتعامل وكلاؤهم ببساطة مع البشر الآخرين باعتبارهم عقبات تعترض إنجاز تلك المهام.

قد يعني ذلك إلغاء حجوزات الآخرين، أو التدخل ضد مزايدين منافسين في مزاد عبر الإنترنت، أو اختلاق أدلة عند المطالبة بتعويض.

جهود غير مبشرة

ولا تبدو جهود شركات الذكاء الاصطناعي حتى الآن مبشرة.

ففي يناير، نشرت “أنثروبيك” التي لطالما قدمت نفسها باعتبارها مطور الذكاء الاصطناعي الأكثر اهتماماً بالسلامة، نسخة منقحة من “دستور” مكون من 23 ألف كلمة لنموذج “كلود”، بهدف توجيه سلوكه نحو الخير.

لكن عندما أجرى “معهد أمن الذكاء الاصطناعي” أحدث اختباراته، جاءت معظم التصرفات “غير المصرح بها” التي رصدها من نموذج “ميثوس 5” الذي طورته “أنثروبيك”.

وفي العالم الحقيقي، لا يمكن لوثيقة مطولة تتناول الصدق والخصوصية أن تغطي العدد شبه اللانهائي من السيناريوهات المحتملة التي قد يجد “كلود” نفسه فيها.

كذلك لا يبدو أن مجرد مطالبة النموذج بعدم الغش تحقق فائدة كبيرة.

فعندما طلبت منظمة الأبحاث غير الربحية “ميتر” من نموذج أصدرته “أوبن إيه آي” في 2025 ألا يغش، واصل الغش بالمعدل نفسه تقريباً كما كان من قبل.

كما خالف القواعد في 14 محاولة من أصل 20 لتنفيذ مهمة، بعدما أُبلغ بأن عمله سيساعد علماء يجرون أبحاثاً حول مرض ألزهايمر.

ويقول ليهي: “هذه ليست مشكلة يستطيع بعض المهندسين حلها بالرياضيات. إنها مشكلة تحتاج حضارة بأكملها، وكل أعظم علمائنا في الرياضيات والفلسفة والعلوم، إلى العمل عليها عبر أجيال لتحقيق تقدم تدريجي”.

ولا شك في أن “أنثروبيك” تبذل جهداً كبيراً في التوجيه الأخلاقي للذكاء الاصطناعي، كما يقول لي أشخاص مقربون من داريو أمودي إن الرئيس التنفيذي للشركة صادق في رغبته في تطوير هذه التكنولوجيا بأمان.

لكن حتى هو لا يستطيع الإفلات من دافع تجاري قوي يدفع البشر، وبصورة متزايدة الذكاء الاصطناعي، إلى الفوز مهما كان الثمن.

وهذه هي الطريقة التي صنعت بها وادي السيليكون نفسها ثروات يصعب تصور حجمها، بينما تسببت في أضرار واسعة الأثر في حياة البشر.

فعندما يبني خبراء التكنولوجيا نظاماً مُحسَّناً لتحقيق الفوز، فلا ينبغي الاستغراب عندما يفعل ذلك بالضبط.

بقلم: بارمي أولسون، كاتبة مقالات رأي لدى “بلومبرج”

المصدر: وكالة أنباء “بلومبرج”