“مخاطر الذكاء الاصطناعي” ترفع تحذيرات أممية من فقدان السيطرة ودعوات لفرض نظام ترخيص صارم

حذر يوشوا بنجيو، الرئيس المشارك للفريق العلمي الدولي المستقل المعني بالذكاء الاصطناعي، خلال إحاطة قدمها أمام مجلس الأمن الدولي يوم 23 شتنبر 2026، من أن مستقبل البشرية بات على المحك بسبب تحكم مجموعة صغيرة في عدد قليل من الدول في قرارات تكنولوجيا الذكاء الاصطناعي، واصفا التنافس الحالي بين الشركات بكونه سباقا خاسرا للجميع يهدد الأمن العالمي.

وكشف الخبير ذاته أمام أنظار المجلس التابع للأمم المتحدة عن تسجيل تصرفات خطيرة وغير مقبولة لوكلاء ذكاء اصطناعي تابعين لشركات رائدة خلال الأشهر الأخيرة، موضحا أن هذه البرمجيات التي تؤدي المهام بشكل مستقل ونيابة عن المستخدم بخلاف روبوتات الدردشة، أقدمت على أفعال مخالفة للتعليمات كانت لتصنف كجرائم لو ارتكبها بشر، ومشيرا إلى أن الشركات تعترف بالمخاطر الكارثية لكنها تكتفي بالانخراط في سباق لتطوير الأنظمة دون تقديم حلول تقنية مقنعة.

ودعا المتحدث نفسه إلى ضرورة إخضاع أنظمة الذكاء الاصطناعي الرائدة لنظام ترخيص صارم على غرار مجالات الطب والطيران والطاقة النووية، مقترحا لمعالجة هذا الوضع ضمان استقلالية علمية بعيدا عن الشركات، والانتقال نحو حوار عالمي لخدمة الصالح العام، فضلا عن التعاون لإيجاد حلول تقنية تدمج السلامة في تصميم البرمجيات وتضمنها اتفاقات دولية لتجاوز التهديد غير المسبوق الذي لا يحترم الحدود ولا يمكن لأي دولة احتواؤه بمفردها.

وشهدت الجلسة الأممية تقديم إحاطات من رؤساء كبرى شركات الذكاء الاصطناعي، حيث أكد سام ألتمان، الرئيس التنفيذي لشركة أوبن إيه آي، أن أفضل صور هذه التكنولوجيا لا تكمن في تهميش العنصر البشري، بل في منحه قدرة أكبر على التحكم والإبداع في عالم معقد، منبها في الوقت عينه إلى خطر تطور الأنظمة بوتيرة أسرع من المؤسسات مما قد يؤدي إلى تركز السلطة واتخاذ قرارات تخرج عن السيطرة البشرية.

واستعرض المسؤول التكنولوجي نهج شركته القائم على بقاء البشر في محور اتخاذ القرار، وضمان استفادة الجميع من ثمار التقدم العلمي، وتمكين الأفراد، مشددا على أن العالم يقف اليوم عند مفترق طرق يفرض الاختيار بين مسار تتركز فيه السلطة وتفرض فيه التقنية بضبابية، أو مسار تخدم فيه التكنولوجيا الناس عبر توجيه تطورها من خلال المؤسسات الديمقراطية.

وأبرز داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، في تدخله صنفين من المخاطر يتعلقان بسوء الاستخدام من قبل إرهابيين بيولوجيين لتطوير أسلحة بيولوجية وفقدان السيطرة على قدرات النماذج، ومؤكدا التزام شركته باختبار كل نموذج تكنولوجي وفرض تدابير حماية صارمة، مع إبداء الاستعداد لإبطاء وتيرة العمل لضمان أمان التقنيات الجديدة قبل إطلاقها.

واقترح أمودي لتعزيز التعاون العالمي الانطلاق من اتفاقات محددة النطاق تحظى بدعم جميع الأعضاء، وبناء أنظمة للتقييم والتحقق تواكب التطور السريع، إضافة إلى وضع معايير عالمية موحدة لاختبار النماذج، مشيرا إلى ريادة شركته في أبحاث القابلية للتفسير الآلي وعلم المواءمة واتباع ممارسات شفافية متقدمة.

وأوضح كليمان ديلانغ، الرئيس التنفيذي لمنصة هاغينغ فيس التي تعرضت لهجوم سيبراني من قبل وكلاء الذكاء الاصطناعي، أن المجتمع الدولي بحاجة ماسة إلى مزيد من الشفافية ومعايير أقوى للرقابة والإفصاح عن الحوادث، مشددا على أن الخطر الأكبر لا يتمثل في ذكاء اصطناعي قوي، بل في انعدام التكافؤ بين المهاجمين والمدافعين.

وتابع ديلانغ إحاطته بالتأكيد على أهمية الذكاء الاصطناعي مفتوح المصدر لتمكين العالم من الدفاع عن نفسه، رافضا في الآن ذاته السرديات القائمة على التخويف واستخدام الصور المستوحاة من الخيال العلمي لكسب تأييد الجمهور، وخالصا إلى أن هذه التكنولوجيا قادرة على تعزيز الأمن السيبراني شريطة الحفاظ على الحوافز الصحيحة وتزويد المدافعين بإمكانيات تفوق ما يمتلكه المهاجمون لتجنب زيادة التفاوت في القوى.