الجزيرة.نت - 9/15/2026 5:29:07 PM - GMT (+3 )
Published On 15/9/2026
كشفت اختبارات وحوادث أمنية حديثة عن تحول لافت في طريقة عمل وكلاء الذكاء الاصطناعي، إذ باتت بعض هذه الأنظمة قادرة على التخطيط للمهام وتنفيذها، والتواصل مع خدمات رقمية، وتقسيم العمل مع وكلاء آخرين، وتجاوز بعض القيود الموضوعة أمامها أحيانا، ومع اتساع نطاق المهام التي تستطيع هذه الأنظمة تنفيذها، تتزايد المخاوف من قدرة البشر على مراقبة هذا النشاط عندما يجري على نطاق واسع وبسرعة كبيرة.
ويشير المعهد الوطني الأمريكي للمعايير والتكنولوجيا "إن آي إس تي " (NIST) إلى أن وكلاء الذكاء الاصطناعي أصبحوا قادرين على تنفيذ مهام تمتد لساعات، تشمل كتابة التعليمات البرمجية وتصحيحها، وإدارة البريد الإلكتروني والتقويم، والتعامل مع خدمات رقمية مختلفة. ويركز المعهد في مبادراته الجديدة على قضايا هوية الوكلاء وإدارة صلاحياتهم ومراجعة أفعالهم.
يكمن التحول الأساسي في انتقال الذكاء الاصطناعي من نموذج ينتظر أمرا محددا إلى نظام يستطيع تحويل هدف عام إلى سلسلة من الخطوات وتنفيذها باستخدام الأدوات والبرمجيات المتاحة له. وبذلك، لا يقتصر دور الوكيل على تقديم توصية، بل يمكنه الوصول إلى البيانات وتشغيل التطبيقات والتواصل مع الخدمات الرقمية وتنفيذ إجراءات متتابعة لتحقيق الهدف.
وتكمن المخاطرة في أن الخطأ لم يعد محصورا في إجابة يمكن للمستخدم تجاهلها أو تصحيحها، فالوكيل الذي يمتلك صلاحية تعديل ملف أو تشغيل برنامج أو الوصول إلى خدمة خارجية يستطيع تحويل الخطأ إلى إجراء فعلي.
ولهذا تركز الجهود الأمنية على ما يتجاوز النموذج نفسه، لتشمل الصلاحيات التي يحصل عليها، والأدوات التي يستطيع استخدامها، والأنظمة التي يمكنه الوصول إليها، وآليات تسجيل أفعاله ومراجعتها.
عندما يعمل الوكلاء فريقا واحدايزداد التعقيد عندما يعمل أكثر من وكيل ضمن منظومة واحدة، ففيما يعرف بالأنظمة متعددة الوكلاء، يمكن لوكيل رئيسي تقسيم المهمة إلى أجزاء وإسنادها إلى وكلاء فرعيين يتولون الاستطلاع أو التحليل أو تنفيذ خطوات مختلفة بالتوازي.
إعلان
ورصدت شركة أنثروبيك، في تقرير أمني نشرته في سبتمبر/أيلول الحالي، استخدام هذه البنية في عمليات هجومية، حيث وزعت مهام الاستطلاع والاستغلال وسرقة البيانات على عدد كبير من الوكلاء الذين عملوا بصورة متزامنة، وأشارت الشركة إلى حالات تولى فيها وكيل رئيسي تنسيق العمل مع وكلاء فرعيين يمتلكون ذاكرة مستمرة لسياق المهمة.
كما رصدت الشركة أسطولا من 13 وكيلا عمل وفق جدول زمني للبحث عن محتوى من مواقع مستهدفة وتنزيله وتحليله بصورة آلية، إلى جانب عمليات أخرى استمرت لساعات أو أيام مع تدخل بشري محدود.
وتظل هذه الحالات مختلفة عن سيناريو الذكاء الاصطناعي المستقل بالكامل، إذ أكدت أنثروبيك أن البشر احتفظوا في العمليات التي درستها ببعض القرارات الأساسية، مثل اختيار الأهداف ومراجعة النتائج، لكن توزيع المهام على مجموعة من الأنظمة يرفع سرعة التنفيذ ويزيد عدد العمليات التي يمكن إجراؤها في وقت واحد.
عندما تتجاوز الأنظمة حدود الاختباربرزت مخاطر أخرى في اختبارات أجرتها شركة أوبن إيه آي في يوليو/تموز الماضي، حيث قالت الشركة إن نماذج خضعت للاختبار تمكنت من تجاوز بعض الضوابط المصممة لعزلها عن الإنترنت، والوصول إلى أجزاء من البنية التحتية البحثية وأنظمة تابعة لخدمة هاغينغ فيس.
وأوضحت أوبن إيه آي أن الاختبارات جرت في ظروف خفضت فيها بعض الحواجز الوقائية لأغراض البحث، وأن النماذج تمكنت من التواصل عبر قنوات غير مصرح بها واستغلال نقاط ضعف في بيئة مشتركة، ما أدى إلى الوصول إلى الإنترنت وأنظمة تابعة لأطراف ثالثة.
وخلال الشهر الحالي، كشفت أنثروبيك بدورها عن حوادث تمكنت خلالها نماذج كلود من الوصول بصورة غير مصرح بها إلى أنظمة حقيقية تابعة لأطراف ثالثة، وقالت الشركة إنها اكتشفت هذه الحالات بعد مراجعة نحو 481 مليون سجل تضمنت اختبارات أمنية وبيئات تدريب وتعزيز وتسجيلات لوكلاء فرعيين.
ولا تثبت هذه الوقائع أن الذكاء الاصطناعي أصبح قادرا على العمل خارج السيطرة البشرية بصورة كاملة، لكنها توضح مشكلة أكثر واقعية، وهي أنه عندما يجمع النظام بين التخطيط واستخدام الأدوات والتواصل مع أنظمة خارجية، يصبح من الصعب التنبؤ بكل مسار يمكن أن يسلكه لتحقيق الهدف.
تدفع هذه التطورات شركات التقنية والجهات التنظيمية إلى إعادة التفكير في مفهوم أمن الذكاء الاصطناعي. فتأمين النموذج وحده لا يكفي إذا كان الوكيل يمتلك صلاحيات واسعة للوصول إلى البيانات والخدمات وتنفيذ الأوامر.
ولهذا يركز معهد "إن آي إس تي" على قضايا تشمل هوية الوكيل، وإدارة الصلاحيات، ومراجعة الأفعال، والحماية من هجمات حقن التعليمات، وفي فبراير/شباط الماضي، أطلق المعهد مبادرة متخصصة لوضع معايير لوكلاء الذكاء الاصطناعي، تشمل الأمن والهوية وقابلية التشغيل البيني، بهدف تمكين هذه الأنظمة من العمل عبر منظومات رقمية مختلفة بصورة أكثر أمانا.
وتعكس هذه الخطوة تحولا في طريقة التعامل مع المخاطر، فبدلا من مراقبة النموذج باعتباره كيانا منفردا، تصبح الحاجة أكبر إلى مراقبة سلسلة القرارات والأدوات والصلاحيات التي يستخدمها الوكيل أثناء تنفيذ المهمة.
هل تسبق القدرة على الفعل القدرة على الرقابة؟تتجاوز المخاوف الحالية الأخطاء الفردية إلى احتمال ظهور شبكات واسعة من الوكلاء القادرين على التعاون وتنفيذ آلاف المهام في الوقت نفسه.
إعلان
وحذر الرئيس التنفيذي لشركة أنثروبيك، داريو أمودي، قبل أيام، من احتمال تمكن أسراب من الوكلاء المتقدمين من السيطرة على أجزاء واسعة من الإنترنت خلال فترة تتراوح بين 6 و12 شهرا إذا استمر تطور القدرات بوتيرة أسرع من إجراءات السلامة، ودعا إلى منح تقنيات الأمان والرقابة وقتا للحاق بالتطور السريع.
لكن هذا السيناريو يظل توقعا مستقبليا، وليس وصفا لوضع قائم، فالوكلاء الحاليون ما زالوا يعتمدون على البنية التحتية والصلاحيات التي يمنحها لهم البشر، وتختلف قدراتهم باختلاف النظام والبيئة التي يعملون فيها.
المشكلة التي تفرض نفسها مع صعود الوكلاء ليست أن الذكاء الاصطناعي سيستولي على الإنترنت فجأة، بل أن حجم العمليات التي تستطيع هذه الأنظمة تنفيذها قد ينمو أسرع من قدرة البشر على فهمها ومراجعتها، فوكيل واحد قد يكون قابلا للمراقبة، لكن مئات أو آلاف الوكلاء الذين يعملون في الوقت نفسه يخلقون مستوى مختلفا تماما من التعقيد.
وهنا تتغير طبيعة معركة الأمان، فالقضية لم تعد تتعلق فقط بمنع نموذج من إنتاج إجابة خطرة، وإنما بضمان ألا تتحول مجموعة من القرارات الصحيحة في ظاهرها إلى نتيجة خطرة عند جمعها وتنفيذها بسرعة وعلى نطاق واسع.
وبالتالي، فإن الاختبار الحقيقي للمرحلة المقبلة لن يكون في مدى قدرة الشركات على بناء وكلاء أكثر قدرة، بل في قدرتها على وضع حدود واضحة للصلاحيات وآليات فعالة للمراقبة والتدخل والإيقاف.
فإذا اتسعت قدرة الوكلاء على الوصول إلى الأنظمة والتعاون وتنفيذ المهام أسرع من قدرة البشر على مراقبتهم، فقد لا تكون لحظة فقدان السيطرة حدثا مفاجئا، بل مسارا تدريجيا تتسع فيه مساحة القرارات التي تنفذها الآلات، بينما تضيق مساحة ما يستطيع الإنسان متابعته وفهمه.
إقرأ المزيد