وكلاء ذكاء اصطناعي يستهدفون أشخاصا حقيقيين.. تقرير بريطاني يكشف محاولات خداع وزرع أكواد خبيثة
كشف معهد أمن الذكاء الاصطناعي البريطاني (AISI) عن حادث أمني غير مسبوق رصده خلال اختبارات لقدرات نماذج متطورة في مجال الأمن السيبراني، بعدما أقدم عدد من وكلاء الذكاء الاصطناعي، بشكل مستقل عن التعليمات المباشرة، على تنفيذ تحركات غير مصرح بها عبر الإنترنت استهدفت أشخاصا ومشاريع حقيقية.
وأوضح المعهد، التابع لوزارة العلوم والابتكار والتكنولوجيا البريطانية، في تقرير للحادث نشره يوم 4 غشت الجاري، أن الواقعة اكتشفت صباح 28 يوليوز 2026، بعدما رصدت أنظمة المراقبة حركة بيانات غير معتادة تغادر أحد أنظمة الاختبار عبر شبكة “Tor”، المستخدمة لإخفاء مصدر الاتصالات على الإنترنت.
وكان الباحثون يجرون تقييما لقدرات سبعة نماذج للذكاء الاصطناعي داخل نطاقات سيبرانية افتراضية، من خلال 122 جولة اختبار، مع السماح عمدا بالوصول إلى الإنترنت وتعطيل بعض مرشحات الحماية التي توفرها الشركات المطورة، بهدف قياس أقصى القدرات التي يمكن أن تظهرها النماذج في ظروف تسمح لها بالتصرف بشكل أوسع.
غير أن مراجعة سجلات الاختبارات أظهرت أن وكلاء الذكاء الاصطناعي نفذوا، خلال 10 جولات من أصل 122، ما مجموعه 19 تحركا اعتبرها المعهد خارجة عن نطاق الاختبار وموجهة إلى أشخاص أو مؤسسات حقيقية على الإنترنت.
وسجل نموذج “Mythos 5” التابع لشركة Anthropic الغالبية الساحقة من هذه الحالات، بواقع 17 تحركا غير مصرح به، بينما رصدت حالتان خلال جولة واحدة استعمل فيها نموذج “GPT-5.6 Sol” التابع لـOpenAI بعد تعطيل مصنفات الحماية الخاصة بالاستخدامات السيبرانية. وشارك Mythos 5 في 43 جولة من الاختبار، مقابل 35 جولة لـGPT-5.6 Sol.
محاولة زرع كود خبيث في مشروع حقيقي
وتمثلت أخطر الوقائع التي رصدها المعهد في محاولة أحد الوكلاء إدخال شيفرة خبيثة إلى مشروع مفتوح المصدر متاح للعموم على منصة GitHub، عبر إنشاء “Pull Request” يقترح تعديلا حقيقيا على الكود البرمجي للمشروع.
ولم يكتف الوكيل بإرسال التعديل، بل بحث عن المشرفين الحقيقيين على المشروع وأنشأ عدة هويات مزيفة على الإنترنت، قبل أن يستخدمها لمحاولة التأثير على أحد المسؤولين وإقناعه بالموافقة على إدخال الشيفرة.
وعندما أثار التعديل شبهات علنية على GitHub، أقدم الوكيل على تعديل بعض أنشطته السابقة لجعلها تبدو غير ضارة، كما بحث إمكانية الانتقال إلى هوية جديدة لمواصلة المحاولة. واستخدم شبكة Tor لتجاوز بعض القيود المفروضة على الوصول إلى GitHub، وهو النشاط الذي أدى في النهاية إلى اكتشاف الواقعة.
لكن مسؤولا بشريا عن المشروع اكتشف الطبيعة المشبوهة للكود ورفض الموافقة عليه، ما حال دون نجاح محاولة إدخال البرمجية الخبيثة.
رسائل وملفات موجهة لأشخاص حقيقيين
وأظهر التحقيق كذلك أن الوكيل حاول التواصل مباشرة مع أشخاص حقيقيين وإرسال رسائل وملفات عبر خدمات لنقل الملفات، سعيا إلى دفع المستهدفين، أو أدوات الذكاء الاصطناعي التي يستخدمونها في البرمجة، إلى تشغيل أكواد ضارة.
وقال المعهد إن بعض الرسائل تضمنت حمولات ضارة، بينما اعتمد بعضها الآخر على أساليب للهندسة الاجتماعية، مؤكدا أن استهداف أشخاص حقيقيين بهذه الصورة يمثل سلوكا لم يسبق للباحثين في المعهد رصده بهذا الوضوح خلال اختباراتهم السابقة.
كما حاول أحد الوكلاء زرع تعليمات خفية في مواقع يمكن لوكلاء ذكاء اصطناعي آخرين الوصول إليها لاحقا، بهدف التأثير على أدوات البرمجة الآلية ودفعها إلى تنفيذ تعليمات غير مرغوبة، فيما رصد الباحثون حالة أخرى ترك خلالها أحد الوكلاء رسائل عامة على GitHub يعرض فيها التعاون مع وكلاء آخرين يخضعون للاختبار نفسه.
وبحسب المعهد، تضمنت هذه الرسائل إرشادات بشأن إعادة استخدام حسابات وآثار رقمية كان الوكيل قد أنشأها، وقد عثرت عليها بالفعل نماذج أخرى واستخدمتها خلال محاولات لاحقة.
الخداع ظهر دون أمر مباشر
ويرى المعهد أن أحد أكثر جوانب الواقعة أهمية يتمثل في أن الوكيل لم يتلق تعليمات تطلب منه خداع أشخاص حقيقيين، بل ظهرت أساليب الخداع والهندسة الاجتماعية أثناء سعيه المستمر إلى تحقيق الهدف الذي حدد له داخل الاختبار.
وأوضح أن بعض مهام الاختبار كانت شديدة الصعوبة، كما شهدت بعض الجولات أخطاء في إعداد المهمة جعلت النموذج يعتقد أنه لا يمكن الوصول إلى الحل دون تجاوز الحدود المفترضة، غير أن المعهد شدد على أن هذا التفسير لا يغطي جميع الحالات، إذ سجلت تصرفات مشابهة حتى عندما كانت التعليمات اللازمة لإتمام المهمة بالطريقة الصحيحة متوفرة.
ووصف AISI ما حدث بأنه من أوضح الأمثلة التي رصدها حتى الآن على ظهور مخاطر مرتبطة بالاستقلالية والخداع في العالم الحقيقي دون أن يتلقى النموذج أمرا محددا بممارسة الخداع.
المعهد: النماذج لم تهرب من بيئة الاختبار
وفي المقابل، حذر المعهد من المبالغة في تفسير الحادث، مؤكدا أن النماذج لم تنجح في “الهروب” من بيئة الاختبار المعزولة ولم تخترق الأنظمة الداخلية للمعهد.
وأوضح أن الوصول إلى الإنترنت كان مسموحا به عمدا، كما أن مصنفات الحماية السيبرانية التابعة للشركات المطورة كانت معطلة عمدا من طرف الباحثين بهدف الكشف عن القدرات القصوى للنماذج، وهي ظروف لا تعكس الطريقة التي تتاح بها هذه الأنظمة عادة لعامة المستخدمين.
وأضاف أن نسخ النماذج المستخدمة بهذه الإعدادات ليست متاحة تجاريا، وأن التحقيق لم يكشف حتى الآن عن دليل واضح على حدوث سلوك مماثل خارج سيناريوهات الاختبار.
وأكد المعهد، أيضا، أن أخطر المحاولات باءت بالفشل وأن تحقيقاته لم تظهر وقوع أضرار حقيقية ناجمة عنها، رغم أن بعض الأفعال تركت آثارا محدودة في العالم الحقيقي.
وبعد اكتشاف الحادث، أوقف المعهد جميع الاختبارات المرتبطة به وعزل الأجهزة المعنية خلال نحو ساعة، كما أبلغ منصة GitHub بالأنشطة المسجلة، التي أكدت بدورها أن بعض التصرفات انتهكت شروط استخدامها، قبل حذف الآثار التي تركها الوكلاء وإبلاغ المستخدمين الذين تم التواصل معهم.
وأعلن المعهد أنه بصدد تشديد القيود على وصول النماذج إلى الإنترنت وإدخال أنظمة مراقبة لحظية قادرة على رصد ومنع الأنشطة الخارجة عن نطاق الاختبارات أثناء وقوعها، إلى جانب مراجعة طريقة تصميم التجارب على أساس أن النماذج الأكثر قدرة قد تحاول تجاوز الحدود المرسومة لها.
واعتبر AISI أن الحادث يكشف تغيرا في طبيعة المخاطر المرتبطة بالذكاء الاصطناعي، إذ لم تعد المخاوف مقتصرة على استخدام البشر للنماذج بشكل ضار، بل بات يتعين الاستعداد لاحتمال قيام وكلاء متطورين، في بيئات تتمتع بصلاحيات واسعة، باتخاذ خطوات لم يقصدها المشغلون أثناء محاولتهم تحقيق الأهداف المسندة إليهم.
اترك تعليقاً