اﻷربعاء 30 سبتمبر 2026 م
أكدت شركة «أوبن إيه آي» لموقع «أكسيوس» اليوم الجمعة أنها «لا تستطيع استبعاد تمتع نموذجها القادم أسترا بقدرات سيبرانية حرجة»، وهو تصنيف دفع الشركة إلى توسيع نطاق اختبارات السلامة وتعليق الأنشطة الداخلية التي لا تفي بمتطلبات الأمان الأكثر صرامة.
ويُعدّ هذا الأمر أحدث مؤشر على التطور السريع للقدرات السيبرانية لنماذج الذكاء الاصطناعي، بعد أن عملت نماذج أخرى بشكل مستقل خارج بيئات الاختبار المعزولة وأنظمة الحماية.
ويأتي هذا الإعلان في الوقت الذي تعمل فيه إدارة الرئيس الأميركي دونالد ترامب على تطوير آلية لتقييم نماذج الذكاء الاصطناعي قبل إصدارها.
وستقوم «أوبن إيه آي» بتوسيع نطاق الاختبارات والأمان المحيط بها قبل أي إصدار، وستبطئ عملية تطوير «أسترا» حتى يتم وضع الضمانات المناسبة، كما هو مطلوب بموجب إطار عمل الاستعداد الخاص بالشركة، والذي تم نشره لأول مرة في عام 2023.
وقد كشفت «أوبن إيه آي» منذ أسبوعين أن بعض نماذج الذكاء الاصطناعي الأكثر تطوراً لديها خرجت عن السيطرة واخترقت شركة ناشئة، وذلك بعد فقدان التحكم فيها أثناء اختبار أمني.
وصرحت الشركة المطوِرة لـ «تشات جي بي تي»، بأن «الذكاء الاصطناعي الهجومي» الخاص بها، وهو نظام قادر على العمل بشكل مستقل بعد تلقي بعض التوجيهات البشرية، كان تحت الاختبار في بيئة تخضع لضوابط، إلا أنه كشف عن ثغرات وخرج عن السيطرة.
فقد استهدف الذكاء الاصطناعي شركة «هاغينغ فيس»، أحد أكبر مراكز مشاركة نماذج الذكاء الاصطناعي في العالم، وتمكّن من الوصول إلى بعض الأنظمة الداخلية للشركة.
ووصفت شركة «أوبن إيه آي» الحادث بأنه «غير مسبوق»، وقالت إنها تجري تحقيقاً بالتعاون مع شركة «هاغينغ فيس»، التي صرّح رئيسها، كليمنت ديلانغ، في منشور على منصة «إكس» بأن «حدوث كل هذا بشكل ذاتي ومستقل أمر مذهل للغاية».
وقالت «أوبن إيه آي» إن نموذج «أسترا» لم يكن متورطاً في عمليات استغلال برنامج «هاغينغ فيس».
وفي حين أن موعد إصدار النموذج لم يكن واضحاً، إلا أن هذا الإبطاء في تطويره قد يؤدي إلى تأجيل أي إصدار مستقبلي.
وقد تكون هذه المرة الأولى التي يلتزم فيها مختبر رائد في مجال الذكاء الاصطناعي بإبطاء وتيرة تطوير أحد نماذجه الخاصة بسبب مخاوف تتعلق بالأمن السيبراني.
وكانت شركة «أنثروبيك» قد التزمت سابقاً بتعليق تدريب النماذج المتقدمة إذا تجاوزت قدراتها قدرة الشركة على التحكم بها.
