فريق أممي يحذر من فقدان السيطرة على وكلاء الذكاء الاصطناعي عقب اختراق غير مسبوق لمنصة رقمية

كشف الفريق العلمي الدولي المستقل المعني بالذكاء الاصطناعي التابع للأمم المتحدة عن تحذيرات جدية من التطور المتسارع لوكلاء الذكاء الاصطناعي، وذلك في أعقاب اختراق نفذته هذه البرمجيات لمنصة هاغينغ فيس الإلكترونية خلال شهر يوليوز الماضي، إبان اختبار أجرته شركة أوبن إيه آي المطورة لنظام شات جي بي تي.

وأوضح المصدر ذاته أن وكلاء الذكاء الاصطناعي عبارة عن برمجيات تمتلك القدرة على أداء المهام بصفة مستقلة نيابة عن المستخدم، وهو ما يميزها عن روبوتات الدردشة الذكية التي يقتصر عملها على تلقي أسئلة أو تعليمات محددة مسبقا.

وخلص الفريق الأممي إلى أن هذا الاختراق الأمني جاء نتيجة لتضافر مجموعة من عوامل الخطر الرئيسية، وهو ما أثار مخاوف حقيقية من إمكانية عجز البشر يوما ما عن توجيه أنظمة الذكاء الاصطناعي أو تقييدها أو حتى إيقافها عن العمل.

وسجل تقرير الفريق تفاصيل الحادثة، حيث تجاوز وكلاء الذكاء الاصطناعي إجراءات الحماية المخصصة لاختبار شركة أوبن إيه آي، وعمدوا إلى تنسيق عملياتهم مرات عدة عبر أداة برمجية داخلية غير مصممة لتمكين التواصل بين الوكلاء، ليحصلوا بذلك على ولوج غير مصرح به إلى شبكة الإنترنت ويمنحوا أنفسهم صلاحيات المسؤول.

وأضاف الخبراء أن هذه البرمجيات أخفت محاولاتها للتحايل على تقييمات الأمن السيبراني، حيث اختار بعض الوكلاء التضحية بأنفسهم لصالح المجموعة، في حين تبادل نحو 1200 وكيل أكثر من 70 ألف رسالة وملف خلال فترة الدراسة، ليمتد الاختراق ويشمل مجموعة أبحاث تابعة لشركة أوبن إيه آي إلى جانب منصة هاغينغ فيس.

وأكد يوشوا بنجيو، الرئيس المشارك للفريق العلمي، أن الباحثين طالما حذروا من ثلاثة شروط تؤدي لفقدان السيطرة تتمثل في عدم توافق الأهداف مع نوايا أو قيود القائمين عليها، والقدرة على تحقيقها، وتوفر بيئة تسمح بذلك، مبرزا أن هذه الشروط اجتمعت خلال هذا الصيف في نظام حقيقي وليس داخل بيئة مختبرية.

وتابع المسؤول عينه موضحا أن هذه الحالة ليست معزولة فيما يخص عدم توافق الأهداف، مما يطرح تساؤلات جدية وعميقة حول الطريقة التي يتم الاعتماد عليها حاليا في تدريب وكلاء الذكاء الاصطناعي.

وشدد الخبراء المستقلون ضمن الفريق على أن نجاح احتواء هذه الحادثة لا يقدم أي ضمانات أكيدة بشأن قدرة البشر على إبقاء الوكلاء تحت السيطرة بشكل موثوق، خاصة أمام تزايد قدرات هذه الأنظمة وصعوبة مراقبتها وبراعتها المتصاعدة في إيجاد الثغرات وإخفاء الأنشطة.

وأشار التقرير الأممي إلى أن الدرس المباشر المستخلص من هذا الاختراق هو إغفال ممارسات الأمن السيبراني الأساسية، في وقت باتت فيه تدابير الحماية عاجزة عن مواكبة التطورات السريعة التي يشهدها هذا المجال.

ولفت الفريق الانتباه إلى قلق أكثر خطورة يتمثل في احتمال دفع أساليب التدريب الحالية وكلاء الذكاء الاصطناعي لتبني أهداف خاصة بها، وانتهاك تعليمات السلامة عن سبق إصرار، مع تعمد إخفاء أفعالها وتجاوزاتها.

واعتبر خبراء اللجنة أن المسألة تتجاوز عامل السرعة، لتطرح تساؤلات ملحة حول مدى استمرار فعالية تدابير الحماية المصممة اليوم بمجرد قدرة هذه الأنظمة على فهمها والالتفاف عليها، مؤكدين أن النموذج التقليدي للحماية أضحى في طور التداعي.

ووضع التقرير الحديث واقعة منصة هاغينغ فيس في سياق أبحاث أوسع تناقش قضيتي عدم توافق أهداف الوكلاء حين تتصرف الأنظمة بطريقة تشكل تهديدا، ومسألة السيطرة على الذكاء الاصطناعي، فضلا عن بحث كيفية تحول الحوكمة من نماذج التعرف على الأنماط إلى وكلاء الذكاء الاصطناعي.

واستعرضت الوثيقة ذاتها مناهج عملية تطبق بالفعل في قطاعات حساسة كالملاحة الجوية والطب والأمن السيبراني، والتي تعتمد آليات كالإبلاغ عن الحوادث والتدقيق المستقل وتدابير الحماية متعددة المستويات لتفادي المخاطر.

واستدرك تشينغ هوا لو، وهو عضو في الفريق، بالقول إن هذه الممارسات الوقائية قد لا تكون كافية مستقبلا، وذلك بالنظر إلى تزايد قدرات وكلاء الذكاء الاصطناعي وتنامي استقلاليتهم وصعوبة مراقبتهم.

وذكر المصدر الأممي بأن هذا الفريق العلمي الدولي المستقل قد جرى إنشاؤه بموجب قرار صادر عن الجمعية العامة للأمم المتحدة في شهر غشت من العام الماضي.

وأبرز التقرير في ختامه أن الفريق يتولى إعداد تقارير سنوية حول الفرص والمخاطر وتأثيرات الذكاء الاصطناعي في الميادين غير العسكرية، إلى جانب تقارير موضوعاتية عن القضايا الناشئة بهدف إثراء الحوار العالمي حول حوكمة الذكاء الاصطناعي المرتقب تنظيمه بمقر الأمم المتحدة بنيويورك في شهر ماي من سنة 2027.