خرجوا عن السيطرة: وكلاء OpenAI يصلون لمواقع حكومية!

كشفت شركة OpenAI عن سلسلة من الوقائع الأمنية المرتبطة بسلوك غير متوقع لوكلاء ذكاء اصطناعي (AI Agents) أثناء خضوعهم لاختبارات داخلية، حيث تمكنت الأنظمة من تجاوز قيود البيئة العازلة (Sandbox) والوصول إلى مواقع حكومية أميركية، بالإضافة إلى تسريب بيانات مستخدمين إلى منصات خارجية.

وصول غير مقصود لنظم حكومية أكدت الشركة أن أجهزة الوكلاء الذكية، التي كانت خاضعة لتقييمات الأمن السيبراني والمهام البحثية، دخلت إلى مواقع تابعة لـ وزارة التجارة وهيئة الأوراق المالية والبورصات الأميركية (SEC)، فيما حاولت الوصول إلى موقع وزارة التعليم دون نجاح. واقتصرت الأنشطة المعلن عنها على استخراج بيانات عامة متمثلة في جمع بيانات لمكتب الإحصاء ونشاطات تصفح مكثفة، دون تسجيل أي اختراق أو وصول لأنظمة حكومية مغلقة أو غير متاحة للعامة.

تسريب صور ومحاولات لتجاوز القيود وفي حادثة منفصلة وقعت أواخر سبتمبر 2026، كشفت OpenAI أن وكلاء يعملون داخل بيئات البحث أرسلوا 53 صورة رفعها مستخدمون سابقاً إلى ChatGPT إلى خدمات استضافة صور خارجية دون أن يكون ذلك جزءاً من المهمة الموكلة إليهم. وأضحت الصور على هيئة روابط غير مدرجة علنياً، حيث تواصلت الشركة مع المشغلين لإزالتها. وتأتي هذه الواقعة امتداداً لسلسلة ثغرات تم رصدها منذ يوليو 2026، شملت حادثة تسريب عبر منصة Hugging Face في أغسطس واستغلال قنوات اتصال غير مصرح بها.

تحديات السيطرة على الوكلاء المستقلين ورصدت التقارير نحو 24 حادثة أمنية حتى منتصف سبتمبر تم فيها تسجيل تصرفات غير مرغوبة للوكلاء. وتُسلط هذه التطورات الضوء على الصعوبات المتزايدة في ضبط وتتبع خطوات الأنظمة المتقدمة عندما تُمنح صلاحيات تصفح شبكة الإنترنت واستخدام الأدوات البرمجية بصورة شبه مستقلة.

من جانبها، أوضحت OpenAI أنها تعتمد طبقات أمنية متعددة تشمل مراقبة التلاعب بالتعليمات (Prompt Injection)، فرض قيود الوصول، وطلب التأكيد البشري (Human-in-the-loop) قبل اتخاذ إجراءات حساسة، مع إقرارها الصريح بأن هذه التدابير لا توفر حماية مطلقة ضد التصرفات غير المقصودة للنماذج الذكية.