
يتغير شكل المنافسة في سوق الذكاء الاصطناعي مع انتقال التقنية من أدوات تقدم الإجابات إلى وكلاء ذكيين قادرين على تنفيذ مهام بصورة شبه مستقلة. ومع اتساع الصلاحيات الممنوحة لهذه الأنظمة للوصول إلى البيانات والبرمجيات، تبرز الحاجة إلى بنية أمنية تضمن بقاء نشاطها ضمن الحدود المحددة لها. ومن هنا، أصبح أمن الوكلاء جزءاً من المعركة التجارية حول مستقبل القطاع، وليس مجرد مسألة تقنية.
في هذا السياق، أطلقت «إنفيديا» منصة جديدة لأمن وكلاء الذكاء الاصطناعي بدعم من أكثر من 100 شركة ومؤسسة. وفي المقابل، لم تظهر «أوبن إيه آي» ضمن قائمة الداعمين الرسميين، رغم وجود تعاون بين الجانبين، ما يفتح الباب أمام تساؤلات حول مستقبل المعايير الأمنية ومن يمتلك القدرة على صياغتها.
تتكون مبادرة «إنفيديا» من عنصرين رئيسيين: برنامج مفتوح المصدر يحمل اسم أوبن شيل ونظام مراقبة عتادي يسمى سينتري.
ويعمل أوبن شيل على إنشاء بيئة معزولة تحدد الصلاحيات المتاحة للوكيل، بحيث يتمكن من إنجاز المهمة المطلوبة دون الوصول إلى موارد خارج النطاق المسموح به. أما سينتري، فيراقب نشاط الوكيل على مستوى العتاد، ويمكنه عزله خلال أجزاء من الثانية عند اكتشاف محاولة لتجاوز الحدود الموضوعة.
وتكتسب هذه الوظيفة أهمية مع تطور النماذج القادرة على تعديل سلوكها وفقاً للبيئة التي تعمل فيها، بما في ذلك احتمال اختلاف تصرفاتها عندما تدرك أنها تخضع للمراقبة.
حظيت المبادرة بدعم أكثر من 100 مؤسسة، من بينها «مايكروسوفت»، «بيربلكسيتي» و«أكسنتشر» و«جيه بي مورغان»، إلى جانب شركات تقنية أخرى.
ولا تقتصر المنظومة البرمجية على معالجات «إنفيديا»، إذ يمكن تكييف أوبن شيل للعمل مع شرائح من شركات أخرى، بينها آرم وإنتل، اللتان تشاركان في المبادرة. وتوفر «إنفيديا» تصاميم مرجعية للمكونات البرمجية والعتادية.
لكن وجود سينتري يضيف بعداً تجارياً إلى المشروع، لأنه يعتمد على معالجات مخصصة من إنفيديا. وبالتالي، فإن الانفتاح البرمجي لا يعني أن المنظومة بأكملها مفتوحة المصدر أو مستقلة عن تقنيات الشركة.
لم تنضم «أوبن إيه آي» إلى قائمة الداعمين الرسميين، لكنها قالت إنها تؤيد جهود إنفيديا وتعمل معها بصورة مباشرة في مجال أمن الوكلاء، بما في ذلك أوبن شيل، وفقاً لما أورده تك كرانش.
ويأتي ذلك في وقت واجهت فيه الشركة حوادث مرتبطة بسلوك وكلاء الذكاء الاصطناعي. ففي إحدى الحالات، تحركت مجموعة من وكلائها بصورة مستقلة ضد منصة هاغينغ فيس، كما كشفت الشركة لاحقاً عن حوادث أخرى مرتبطة بسلوك لم يتوافق مع الأهداف المحددة.
لذلك، لا يعني غياب «أوبن إيه آي» عن القائمة بالضرورة رفضها للمبادرة، وقد يرتبط أيضاً برغبتها في تطوير أدواتها ومعاييرها الخاصة في مجال الأمان، بدلاً من الاعتماد على منظومة تقودها شركة منافسة في جوانب أساسية من البنية التحتية للذكاء الاصطناعي.
اقتصادياً، تعكس هذه التطورات نشوء سوق جديدة حول حماية أنظمة الذكاء الاصطناعي. فمع زيادة استخدام الوكلاء في الشركات، تصبح أدوات التحكم والمراقبة والعزل جزءاً من البنية الضرورية لتشغيل هذه الأنظمة، ما يخلق فرصاً أمام شركات التكنولوجيا لتقديم خدمات ومنتجات أمنية متخصصة.
وتعمل «أوبن إيه آي» بدورها على تطوير أدوات في مجال الأمن السيبراني، وأنشأت مبادرة لمشاركة المعلومات الأمنية تحمل اسم ديفنس فاكتوري، في وقت يتجه فيه القطاع إلى دمج الحماية داخل البنية الأساسية للذكاء الاصطناعي بدلاً من التعامل معها كطبقة منفصلة.
وبذلك، تتجاوز المنافسة مسألة تطوير نموذج أكثر قدرة أو شريحة أسرع، لتشمل القواعد التي تحكم استخدام الوكلاء داخل المؤسسات. ومن يساهم في وضع هذه القواعد وتوفير البنية اللازمة لتطبيقها قد يحصل على نفوذ اقتصادي وتقني يمتد إلى جزء مهم من سوق الذكاء الاصطناعي خلال السنوات المقبلة.