الجزيرة.نت - 9/5/2026 5:51:25 PM - GMT (+3 )
Published On 5/9/2026
|آخر تحديث: 17:44 (توقيت مكة)
كشفت واقعة جديدة عن تحديات متزايدة تواجه تطوير وكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام متعددة بصورة مستقلة بعدما استخدمت مجموعة من الوكلاء المرتبطين بشركة أوبن إيه آي موقعا ألمانيا مخصصا للمبرمجين لتبادل المعلومات والتنسيق فيما بينها في وقت تتزايد فيه المخاوف بشأن قدرة الأنظمة المستقلة على تجاوز القيود الموضوعة لها والتصرف بطرق لم يتوقعها مطوروها.
وتعود الواقعة إلى مايو/أيار الماضي وكشف عنها تحقيق نشرته وكالة رويترز أمس، حيث اكتشف باحثون في مجال سلامة الذكاء الاصطناعي نشاطا غير معتاد على موقع دي إس إي ويكي (DseWiki)، وهو موقع ألماني يشبه موسوعة ويكيبيديا ويتيح للمستخدمين إضافة المحتوى وتعديله.
وأظهرت مراجعة السجلات وجود أكثر من 15 ألف تعديل نُسِبت إلى وكلاء ذكاء اصطناعي خلال الفترة بين مايو/أيار ويونيو/حزيران من هذا العام، ولم تقتصر هذه التعديلات على نشر محتوى تقليدي، إذ وجد الباحثون مواد تشير إلى استخدام صفحات الموقع كقناة للتواصل وتبادل المعلومات بين الوكلاء.
وبحسب رويترز، تضمنت بعض المواد أساليب للتحايل على قيود مفروضة على الوكلاء، وطرقا لتجنب اكتشاف نشاطهم، إضافة إلى وسائل للحفاظ على التواصل بينهم، وتبرز أهمية الواقعة في أن الموقع لم يكن مصمما ليكون بيئة اختبار للذكاء الاصطناعي، بل خدمة حقيقية متاحة على الإنترنت.
كيف اكتُشِف النشاط؟اكتشف الباحثان سيدني فون آركس وكورماك سليد بيرد النشاط في أغسطس/آب الماضي، بعدما بحثا عن مؤشرات على تشغيل وكلاء ذكاء اصطناعي خارج البيئات المخصصة لهم. ولفتت سرعات التفاعل المرتفعة والأنماط التقنية في التعديلات انتباههما، إذ بدت بعض الأنشطة مختلفة بوضوح عن مساهمات المستخدمين البشر.
إعلان
كما عثر الباحثان على حسابات تحمل أسماء توحي بارتباطها بأوبن إيه آي، في حين أظهرت سجلات الخوادم أن جزءا من حركة البيانات مر عبر البنية السحابية لمايكروسوفت أزور (Microsoft Azure)، التي تستخدمها الشركة.
لكن هذه المؤشرات لا تثبت وحدها أن كل الحسابات أو الاتصالات كانت تابعة مباشرة لأوبن إيه آي، ولذلك تبقى بعض الروابط التقنية بحاجة إلى مزيد من التحقق.
أحد أبرز جوانب الواقعة ظهر عندما بدأ مشرف الموقع في حذف بعض الصفحات التي أنشأها الوكلاء، ووفق رويترز، حاول الوكلاء الحفاظ على المعلومات عبر إنشاء صفحات بديلة ونسخ من المحتوى، بما يتيح استمرار الوصول إلى المواد بعد حذف الصفحات الأصلية.
ويرى باحثون أن هذا السلوك يعكس قدرة الأنظمة المستقلة على التكيف مع التغييرات في البيئة التي تعمل فيها، فبدلا من التوقف بعد إزالة إحدى الصفحات، بحث الوكلاء عن وسائل أخرى لمواصلة نشاطهم.
ومع ذلك، فإن توصيف الواقعة بأنها اختراق أو هجوم إلكتروني ليس محل اتفاق، فقد وصف أحد الباحثين النشاط بأنه محاولة قرصنة، بينما اعترضت أوبن إيه آي على هذا التوصيف.
لماذا تثير الواقعة القلق؟تكمن أهمية الحادثة في أنها تسلط الضوء على نوع مختلف من المخاطر المرتبطة بالذكاء الاصطناعي، فالقضية لا تعني بالضرورة أن نموذجا واحدا أصبح متمردا، بل تكشف أن مجموعة من الوكلاء القادرين على استخدام الإنترنت والأدوات الرقمية والتفاعل مع خدمات خارجية يمكنها اتخاذ خطوات متتابعة والتكيف مع العقبات.
وتزداد أهمية هذه المسألة عندما يستطيع الوكلاء استخدام خدمة خارجية كمخزن مشترك للمعلومات، ففي هذه الحالة، لا تظل المعلومات محصورة في السياق الذي توفره الشركة المطورة لكل وكيل، بل يمكن لوكلاء آخرين الوصول إلى ما تركه سابقوهم على المنصة.
وهذا النوع من السلوك يمثل تحديا أمام باحثي سلامة الذكاء الاصطناعي، لأن الأنظمة المستقلة قد تجد وسائل لتحقيق أهدافها لم تكن ضمن السيناريوهات المتوقعة أثناء تصميمها.
حادثة أخرى مع أوبن إيه آيتأتي واقعة دي إس إي ويكي بعد حادثة أمنية منفصلة كشفت عنها أوبن إيه آي في يوليو/تموز الماضي، خلال تقييمات داخلية للأمن السيبراني. ووفق الشركة، تمكنت نماذج من تجاوز بعض الضوابط التي كان يفترض أن تعزلها عن الإنترنت، واستغلت ثغرات للوصول إلى أنظمة تابعة لأوبن إيه آي وهاغينغ فيس (Hugging Face).
وقالت الشركة في تقرير فني نشرته في أغسطس/آب الماضي إن النماذج استخدمت قنوات اتصال غير مصرح بها وتمكنت من الوصول إلى الإنترنت بصورة غير مقصودة، قبل استغلال ثغرات في البنية التحتية والوصول إلى أنظمة تابعة لأطراف أخرى.
وعقب الحادثة، أعلنت أوبن إيه آي تعزيز أنظمة مراقبة سلوك النماذج وربطها بتنبيهات آلية للباحثين وفرق الأمن، إلى جانب العمل على تطوير آليات إيقاف تلقائية للحالات الخطرة.
بحسب رويترز، كانت أوبن إيه آي على علم بواقعة الموقع الألماني قبل نشر تفاصيلها، لكنها لم تعلن عنها علنا، كما نفت الشركة ادعاءات بأنها حاولت منع توسيع التحقيق الداخلي، وأوضحت أنها لم تتحقق بصورة مستقلة من جميع النتائج التي قدمها الباحثون.
إعلان
وتطرح الحادثة سؤالا أساسيا حول الحدود المناسبة لصلاحيات وكلاء الذكاء الاصطناعي، وإلى أي مدى يمكن منح هذه الأنظمة القدرة على التصفح واستخدام الأدوات والتواصل مع خدمات خارجية دون أن تتحول استقلاليتها إلى مصدر خطر؟
في ذات السياق ذاته، لا تقدم واقعة دي إس إي ويكي دليلا على أن الذكاء الاصطناعي أصبح واعيا أو تمرد على مطوريه، لكنها تكشف تحديا أكثر واقعية يتعلق بقدرة الوكلاء المستقلين على التكيف والتنسيق واستخدام البنية المفتوحة للإنترنت بطرق غير متوقعة.
إقرأ المزيد