عندما برز نموذج الاستدلال التابع لشركة «ديب سيك»، بقوة على الساحة العام الماضى، ووضع الذكاء الاصطناعى الصينى على الخريطة العالمية، جاء رد فعل مستخدمى الإنترنت باختبار آرائه بشأن تايوان أو ميدان «تيانانمن» فى الصين.
وكما هو متوقع، تهربت أداة الذكاء الاصطناعى من الإجابة أو كذبت بشكل صريح.
لكن التركيز على كشف مراوغة النموذج حجب سؤالاً مهماً: «هل سيشكل ذلك فارقاً للشركات التى تقرر استخدام الذكاء الاصطناعى الصينى؟»
معظم الشركات لا تلجأ إلى هذه الأنظمة لأنها تحتاج إلى سرد تاريخى موثوق لنقاط التوتر المرتبطة بالحزب الشيوعى الصينى.
ومع نماذج الأوزان المفتوحة، اكتشف وادى السيليكون سريعاً أنه يمكن تقليص التحيزات السياسية من خلال التدريب اللاحق والضبط الدقيق.
مخاوف الثقة بالنماذج الصينية
لكن الشكوك لا تزال قائمة.
ومع توسع الشركات الصينية فى الخارج، غالباً ما يؤثر منشؤها الصينى سلباً فى مدى الثقة بها، سواء كان ذلك مبرراً أم لا.
وكثيراً ما أُسأل عما إذا كانت هذه النماذج أدوات دعائية سرية أو أحصنة طروادة لجمع البيانات لصالح بكين.
لكن النماذج المفتوحة يمكن أن توفر بديلاً عن الثقة العمياء من خلال التدقيق، إذ تستطيع الشركات فحصها، وتجربتها، وحتى تشغيلها داخل بنيتها التحتية الخاصة.
والشركات تُظهر بالفعل ثقتها من خلال إنفاق أموالها على هذه النماذج. وحتى الباحثون المدعومون من الحكومات، من سنغافورة إلى السعودية، يبنون نماذجهم استناداً إلى منتجات الذكاء الاصطناعى الصينية.
اختبار أمان «ديب سيك»
درست وكالة أبحاث الدفاع السويدية فى وقت سابق من العام الحالى ما إذا كان يمكن الوثوق بـ«ديب سيك» فى الإدارة العامة.
ولم تجد أى أبواب خلفية تقنية أو وظائف مضللة، باستثناء «الردود النمطية» بشأن السياسة الخارجية الصينية أو الموضوعات المتعلقة بالحزب الشيوعى.
وخلُصت إلى إمكانية استخدام نماذج «ديب سيك» فى البيئات الحكومية إذا خضعت لتحليل أمنى محلى وعُدلت بما يتناسب مع المجال المستهدف.
لكن الوكالة لم توصِ باستخدام خدمة الويب العامة أو تطبيق الهاتف المحمول التابعين للشركة، ومقرها هانغتشو، فى الأعمال الحكومية.
بعبارة أخرى، استخدام «ديب سيك» لا يعادل تسليم بياناتك إلى بكين.
شغّل النموذج على خوادمك المحلية أو أجهزتك الخاصة، سواء فى ستوكهولم أو فرجينيا، ويمكن أن تظل المعلومات داخل شبكتك.
لكن إذا كان موظفك يستخدم تطبيق المستهلكين سراً، فهذه قصة مختلفة.
تقدم شركة «كوجنيشن إيه آي» مثالاً عملياً مفيداً.
فقد طورت الشركة الناشئة المتخصصة فى البرمجة، التى من المقرر أن يصل تقييمها إلى 47 مليار دولار فى أحدث جولة تمويل لها، أحد أبرز نماذجها، «SWE-1.7»، بالاعتماد على «كيمى»، وهو نموذج أساسى مفتوح الأوزان من شركة «مون شوت» ومقرها بكين.
وتبيع الشركة، ومقرها سان فرانسيسكو، أدوات برمجة ذاتية التشغيل إلى مؤسسات مالية كبرى ووكالات حكومية، ما يجعل الثقة ضرورة تجارية.
لذلك وضعت تقييماً من جزأين يغطى الدعاية والرقابة، وكذلك الأمن والثغرات.
وبعد تدريب لاحق مستقل، وجدت «كوجنيشن» أن أداء نموذجها فى تلك الاختبارات جاء متماشياً مع أبرز النماذج الأمريكية.
التدقيق معيار موثوقية النماذج
لا شك أن المخاوف الأساسية حقيقية، فقد وجد باحثون فى شركة «كراود سترايك» العام الماضى أن نموذج «R1» من «ديب سيك» أنتج شيفرات برمجية تتضمن ثغرات أمنية عندما تتلقى أوامر يعتبرها الحزب الشيوعى حساسة سياسياً، مثل الإشارة إلى جماعة فالون جونج والتبت.
لكن عندما حاولت «كوجنيشن» إعادة إنتاج ذلك السلوك على نماذج أحدث وعلى أداتها المخصصة المبنية على نظام الذكاء الاصطناعى الصينى، وجدت أن استخدام الكلمات المحفزة لاستدراج استجابة مختلفة لم يُحدث فرقاً ذا دلالة إحصائية فى سلوك النماذج. هل يعنى ذلك أن الذكاء الاصطناعى الصينى جدير بالثقة بطبيعته؟ بالطبع لا.
لكنه يوضح أن بلد المنشأ ليست مؤشراً جيداً على الموثوقية. وما يهم أكثر هو ما إذا كان يمكن إخضاع النموذج لتدقيق مستقل، إذ يتيح إطار العمل الأفضل إجراء عمليات تحقق.
فإذا كان بإمكانك التحقق بنفسك وبشكل مستقل، فلست مضطراً إلى أخذ كلام أى شركة على محمل الثقة. يميل المطورون الأمريكيون الذين يستخدمون نماذج الذكاء الاصطناعى الصينية إلى طرح النقطة نفسها.
ويقول كثيرون ممن تحدثت إليهم إنهم يشعرون براحة أكبر مع نموذج مفتوح المصدر من الصين، تحديداً لأنه يمنحهم سيطرة أكبر.
«أفضل إطار للحوكمة هو الذى لا يطلب الثقة بشركة أو دولة بعينها، بل يتيح لنا التحقق بأنفسنا بحيث لا نضطر للاعتماد على الثقة أصلاً»
فالحاجة إلى أخذ كلام الشركة على محمل الثقة تصبح أقل، ويمكنهم تنزيل النموذج، واختباره، وتعديله، وضبطه بدقة، ثم تشغيله فى بيئة مغلقة لا تغادر فيها البيانات الحساسة أنظمتهم مطلقاً.
أما البديل فهو الثقة المؤسسية؛ أى مطالبة الشركات بوضع ثقتها الكاملة فى شركات الذكاء الاصطناعى الأمريكية المغلقة كى تتعامل مع بياناتها بالطريقة الصحيحة (بدلاً من استخدامها لتدريب منافسين) وكى تحافظ على أمن الأنظمة، وتضمن بقاء المخرجات ضمن حدود أيديولوجية مقبولة.
الشفافية أساس حوكمة الذكاء الاصطناعى
حتى الآن، تقدم شركات الذكاء الاصطناعى الصينية طرحاً معاكساً: «لستم مضطرين إلى الوثوق بنا. لكن يمكنكم تنزيل أوزان نماذجنا، ووضعها داخل شبكتكم، وفحصها بأنفسكم».
ويبقى أن نرى ما إذا كانت بكين ستواصل دعم هذا النهج إذا هدد سيطرتها على المعلومات.
فى الوقت الحالى، قد يثبت هذا الإطار أنه أكثر استدامة.
ووجدت دراسة نشرتها مجلة «نيتشر» أن نماذج اللغة الكبيرة تميل إلى عكس أيديولوجية مطوريها، سواء صُنعت فى ماونتن فيو أو شينزين.
وينبغى للجهات التنظيمية أن تقلل تركيزها على فرض رؤية عالمية يُفترض أنها محايدة، وأن تركز بدرجة أكبر على الإفصاح والشفافية.
والمفارقة أن الثقة تتحول بصورة متزايدة إلى مشكلة تواجه الذكاء الاصطناعى الأمريكى أيضاً.
وقد يشكل ذلك عائقاً أكبر أمام تبنى التكنولوجيا مقارنة بالصين.
وقال نحو 87% من المشاركين فى الصين إنهم يثقون بالذكاء الاصطناعى، مقابل 32% فقط فى الولايات المتحدة، وفقاً لاستطلاع أجرته شركة «إدلمان» ونُشر فى أكتوبر الماضى.
ووجد الاستطلاع نفسه أن انعدام الثقة يمثل عائقاً أكبر أمام استخدام الذكاء الاصطناعى من الدافع أو إمكانية الوصول أو الثقة بالقدرة على استخدامه.
لدينا ـ نحن الصحفيين ـ مقولة قديمة: «إذا قالت لك والدتك إنها تحبك، فتحقق من ذلك من مصدر ثانٍ».
وينبغى لمطورى الذكاء الاصطناعى والجهات التنظيمية تطبيق المبدأ نفسه.
فالثقة فى تكنولوجيا بهذا القدر من التأثير ينبغى أن تعتمد على أنظمة يمكن فحصها واختبارها واحتواؤها، بما يمنح المستخدمين أدلة بدلاً من التطمينات.
وأفضل إطار للحوكمة هو الذى لا يطلب منا أن نثق بشركة أو دولة بعينها، بل يتيح لنا التحقق بأنفسنا بحيث لا نضطر إلى الاعتماد على الثقة من الأساس.
فإذا قالت شركة «أنثروبيك» أو «ديب سيك»: «يمكنكم الوثوق بنا»، اطلبوا الدليل.
