ككرة ثلج تتدحرج التحذيرات من مخاطر نماذج الذكاء الاصطناعي المتقدمة. لكن الدعوات إلى كبحها تصطدم بسؤال لا يقل ثقلا: من يقبل إبطاء سباق تقني قد يضيف مئات المليارات إلى اقتصادات الدول؟

وفي تقرير للجزيرة أعده كريم الأسيوطي، أبرزت رسالة فورية وقعتها مجموعة تضم نحو 400 باحث وعالم، بينهم جيفري هينتون الحائز جائزة نوبل في الفيزياء، ويوشوا بنجيو الفائز بجائزة تورينغ، دعا الموقعون إلى إجراءات عاجلة لضبط نماذج الذكاء الاصطناعي ذات القدرات السيبرانية المتقدمة. وطالبوا بإنشاء هيئة دولية تشرف على معايير الاحتواء والإبلاغ عن الحوادث الأمنية المرتبطة بهذه النماذج.

ودعت الرسالة أيضا إلى عزل النماذج ذات القدرات السيبرانية عن الإنترنت خلال مراحل تطويرها، وإنشاء سجل للحوادث الأمنية، وإلزام الشركات بالإبلاغ عنها. ولا تنطلق هذه المطالب من افتراض أن النماذج خرجت عن السيطرة بالفعل، بل من خشية أن تتقدم قدراتها بوتيرة أسرع من آليات اختبارها واحتوائها.

وفي تحذير منفصل، قالت شركة أنثروبيك، مطورة نماذج "كلود"، إن النماذج الصغيرة قد تصبح خلال أشهر قادرة على استنساخ نفسها عبر أجهزة إنترنت الأشياء التجارية المتصلة بالشبكة، مثل بعض أجهزة التلفاز العاملة بنظام أندرويد والأجهزة المنزلية الذكية.

ولا يعني ذلك أن هذا السيناريو تحقق أو أن نماذج انتشرت بالفعل على تلك الأجهزة. لكنه يلفت إلى تحول محتمل في طبيعة الخطر: فبدلا من بقاء النموذج محصورا في مركز بيانات أو خادم يمكن فصله، قد يصبح إيقافه أكثر صعوبة إذا امتد إلى عدد كبير من الأجهزة المتصلة بالإنترنت.

ولم تبق المخاوف داخل المختبرات وشركات التقنية. فبحسب تحقيق لوكالة رويترز، كثفت جهات رقابية مصرفية في أمريكا وأوروبا أسئلتها للبنوك بشأن استخدامها نماذج الذكاء الاصطناعي المتقدمة، وضوابط الحد من صلاحياتها، وإمكان المراجعة البشرية لقراراتها.

ويشمل ذلك مخاوف من هجمات سيبرانية قد تستهدف البنوك، أو من استخدام أنظمة مستقلة تتجاوز الحدود المسموح بها. وهنا لا يعود السؤال متعلقا بكفاءة الآلة فقط، بل بالمسؤولية أيضا: كيف يمكن إيقاف نظام يتصرف بصورة مستقلة إذا اتخذ قرارا خاطئا أو غير قابل للتفسير؟