«أوبن إيه آي» تلغي إطلاق أحدث نماذجها بسبب مخاوف تتعلق بالسلامة

أكدت شركة «أوبن إيه آي» أنها لن تطلق أحدث نماذجها للذكاء الاصطناعي، المعروف باسم «Astra 6.1»، وذلك بعد أن كشفت اختبارات داخلية أجرتها الشركة المطورة لتطبيق تشات جي بي تي الشهير أن النموذج لم يستوفِ معايير السلامة المطلوبة.

وتأتي هذه الأنباء قبل يوم واحد من استضافة عملاق الذكاء الاصطناعي لمؤتمره السنوي للمطورين (OpenAI DevDay) في سان فرانسيسكو، حيث من المتوقع أن تعلن الشركة عن عدة مستجدات، وإن كان من غير الواضح ما إذا كان سيتم الكشف عن نسخة جديدة من «Astra» ضمن تلك الإعلانات، بحسب وكالة الأنباء الفرنسية (أ ف ب).

وعلى الرغم من أن نموذج «Astra 6.1» كان يمثل تحسيناً مقارنة بالنماذج السابقة من بعض النواحي، إلا أنه «لم يرقَ تماماً للمستوى المطلوب فيما يتعلق بالالتزام بنطاق العمل والصلاحيات الممنوحة، وكذلك في كيفية إبلاغ المستخدم بطبيعة المهام التي أنجزها»، وذلك حسبما صرحت ساتشي جاين، رئيسة قسم أنظمة السلامة في «أوبن إيه آي».

وأضافت جاين «نحن حريصون على ضمان سلامة تطوير نماذجنا، سواء كان ذلك داخل الشركة أو عند طرحها للمستخدمين، ولكن عندما يتعلق الأمر بطرحها للمستخدمين، فإننا نضع معايير صارمة للغاية فيما يخص السلامة والمواءمة (مع القيم والأهداف البشرية)». 

ومن المقرر أن يفتتح الرئيس التنفيذي لشركة أوبن إيه آي، سام ألتمان، المؤتمر في الساعة العاشرة صباحاً (17:00 بتوقيت غرينتش) في منطقة «فورت ميسون» المطلة على خليج سان فرانسيسكو.

ويتضمن جدول أعمال المؤتمر عرضاً توضيحياً لـ«وكيل شخصي دائم» (persistent personal agent)، وهو ما يتماشى مع الشائعات المتداولة على وسائل التواصل الاجتماعي.

مخاوف بشأن سلامة الذكاء الاصطناعي 

تصاعدت المخاوف المتعلقة بسلامة الذكاء الاصطناعي في الأشهر الأخيرة بعد تورط نماذج طورتها أوبن إيه آي ومنافستها أنثروبيك في حوادث أمنية أثناء مراحل الاختبار.

وذكرت صحيفة «فاينانشال تايمز» يوم الثلاثاء أن شركة أنثروبيك  حذرت المستثمرين من مخاطر محتملة قد «تهدد وجود البشرية»، وذلك في نشرة الإصدار الخاصة بطرحها العام الأولي المرتقب بشدة.

وأشارت الصحيفة -نقلاً عن مصادر مطلعة على وثائق الطرح- إلى أن الشركة المطورة نبهت إلى احتمالية عمل نماذج الذكاء الاصطناعي القوية خارج نطاق المعايير المتوقعة لها، وذلك رغم وجود ضوابط للسلامة.

يُذكر أن وكلاء ذكاء اصطناعي مبنيين على نماذج أوبن إيه آي قد وصلوا بشكل غير مصرح به إلى مواقع إلكترونية تديرها وكالات فيدرالية أميركية، وبوابة إحصاءات صحية حكومية أسترالية.

قدمت شركة «أوبن إيه آي» اعتذاراً يوم الاثنين لعدم تعاملها بالشكل المناسب مع حادثة وقعت في أستراليا، حيث قامت نماذج الذكاء الاصطناعي الخاصة بها بالوصول إلى مواقع حكومية دون تصريح.

وقالت الشركة في تدوينة «نحن نأسف لذلك ونعمل على تحسين أدائنا في المستقبل»، مضيفة أنها ستوضح «ما نعرفه، وما قمنا بتغييره، وما سنفعله لاستعادة الثقة مع الشعب الأسترالي».

وذكرت الشركة «كان هدفنا تزويد الجهات المتضررة بتقرير مفصل بمجرد اكتمال تحقيقنا، لكن كان ينبغي علينا مشاركة النتائج الأولية في وقت أبكر وإبقاء الجهات الأسترالية على اطلاع كلما ظهرت حقائق جديدة».

وقد تعهدت كل من أوبن إيه آي وأنثروبيك وغيرهما من كبار مطوري الذكاء الاصطناعي بإعطاء الأولوية لتطوير نماذج تتضمن ضوابط أمان للحد من المخاطر، وتكون متوافقة مع القيم الإنسانية.

وفي سياق متصل، أعلنت شركة إنفيديا الأميركية العملاقة لتصنيع الرقائق يوم الاثنين عن ابتكار نظام مصمم لمنع برامج الذكاء الاصطناعي المستقلة من الخروج عن نطاق المهام الموكلة إليها.

وصرح الرئيس التنفيذي لشركة إنفيديا، جينسن هوانغ لقناة CNBC يوم الاثنين قائلاً «أعتقد أنها مشكلة هندسية... وعلينا جميعاً أن نأمل في أن تكون كذلك»، مضيفاً «إذا لم تكن مشكلة هندسية، فلن يكون لها حل».

كما نشر «معهد أمان الذكاء الاصطناعي»  (AISI) - تابع للحكومة البريطانية- دراسة يوم الاثنين أظهرت أن نموذج GPT-6 Astra كان أكثر عرضة للانحراف عن مساره المحدد أثناء الاختبارات مقارنةً بالإصدارات السابقة. 

وأظهرت عمليات المحاكاة أن نموذج GPT-6 نفذ هجمات سيبرانية بشكل تلقائي وبمعدلات أعلى بكثير مما لوحظ مع النموذجين الآخرين.

وتواجه «أوبن إيه آي» ضغوطاً من شركة أنثروبيك التي تسعى حالياً لطرح أسهمها للاكتتاب العام في وقت مبكر قد يكون في شهر نوفمبر المقبل، في حين لم تحدد أوبن إيه آي بعد موعداً لطرح أسهمها في البورصة.

كما أدى إطلاق شركة ميتا لجهاز يعمل بمساعدة الذكاء الاصطناعي -والذي يُشار إليه أحياناً بـ«الرفيق الذكي» (AI companion) إلى زيادة الضغوط على أوبن إيه آي التي لم تطلق أي أجهزة حتى الآن.