logo
بحوث ودراسات

روبريك تحذر: وكلاء الذكاء الاصطناعي يسبقون ضوابط الحماية

روبريك تحذر: وكلاء الذكاء الاصطناعي يسبقون ضوابط الحماية
البيانات الصحفية
تاريخ النشر:

كشفت أبحاث جديدة صادرة عن روبريك زيرو لابز (Rubrik Zero Labs) عن فجوة مقلقة بين تسارع تبنّي المؤسسات لوكلاء الذكاء الاصطناعي وقدرتها على تأمينهم، مشيرةً إلى أن مؤسسات عديدة تُشغّل أنظمة مستقلة ضمن عملياتها دون الضوابط اللازمة لحوكمتها، بما يوسّع الفجوة بين الابتكار ومتطلبات الأمن.

ووفقاً لاستطلاع شمل أكثر من 1600 من قادة تقنية المعلومات والأمن السيبراني، يتوقع 86% من المشاركين أن تتجاوز قدرات وكلاء الذكاء الاصطناعي "ضوابط الحماية" المعتمدة لدى مؤسساتهم خلال الاثني عشر شهراً المقبلة.

بالمقابل، أفاد 23% فقط بأن لديهم رؤيةً كاملة للوكلاء العاملين ضمن بيئاتهم الرقمية، فيما يرجّح التقرير أن هذه النسبة أعلى من الواقع. وتبرز هنا معضلة محورية تتمثل في صعوبة تأمين هوياتٍ رقمية باتت تتخذ قرارات وتنفّذ إجراءات وتتفاعل مع بيانات شديدة الحساسية.

ومع اتساع الاعتماد على الوكلاء، يتفاقم ما يصفه التقرير بـ«تضخم الهويات»، إذ تتكاثر الهويات غير البشرية المرتبطة بالوكلاء بوتيرة أسرع من قدرة المؤسسات على تتبعها أو حوكمتها، لتتشكل ما يشبه "قوة عمل خفيّة" تعمل بصلاحيات وصول مستمرة وبإشراف محدود.

يعني ذلك اتساع مسارات سوء الاستخدام والاختراق و"التنقل الجانبي" داخل الشبكات، بما يزيد احتمالات التمدد من نظام إلى آخر عند وقوع حادثة أمنية.

وفي الوقت نفسه، تبيّن الدراسة أن الوعود التشغيلية لوكلاء الذكاء الاصطناعي تصطدم بعبء عملي متزايد، فأكثر من 80% من المشاركين أفادوا بأن الوكلاء يحتاجون إلى إشراف يدوي أكبر مما يوفرونه من مكاسب في الكفاءة.

وقال 88% إنهم يفتقرون إلى القدرة على التراجع عن إجراءات الوكيل دون التسبب في اضطراب الأنظمة. ويعكس هذا التحول اتجاهاً لافتاً: فالتحدي لم يعد محصوراً في منع الاختراق بقدر ما بات يدور حول القدرة على الاستعادة السريعة والحفاظ على استمرارية الأعمال عند تعقّد المشهد بفعل أنظمة لا تنتظر تدخلاً بشرياً.

ترى الدراسة أن التهديدات المرتبطة بوكلاء الذكاء الاصطناعي تتسارع بدورها، إذ يتوقع قرابة نصف المشاركين أن تقود أنظمة وكلاء الذكاء الاصطناعي معظم الهجمات خلال العام المقبل، بما يعكس تغيراً واسعاً في أساليب عمل المهاجمين. فالأنظمة المستقلة تختصر الزمن، وتوسّع نطاق الهجمات، وتمحي الحدود بين المخاطر الداخلية والاختراق الخارجي، مع قدرة أكبر على التحرك بسرعة وعلى نطاق واسع.

وقالت كافيثا ماريابان، الرئيس التنفيذي للتحول في روبريك: "يتسارع تبني الذكاء الاصطناعي بوتيرة تفوق قدرتنا على إحكام السيطرة عليه. وتتعثر مؤسسات عديدة لأنها نشرت أنظمة لا تستطيع مراقبتها أو حوكمتها أو استعادتها بالكامل. علينا تجاوز الجدل حول ما إذا كان الذكاء الاصطناعي محفوفاً بالمخاطر، والانتقال إلى الحقيقة الأهم: كلما انتقلت صناعة القرار من الإنسان إلى الآلة، أصبح الحفاظ على السلامة التشغيلية التحدي الحاسم لكل قائد في بيئة تزداد استقلالية".

وبحسب التقرير، فإن انعكاسات هذه النتائج على مجالس الإدارات والفرق التنفيذية باتت مباشرة، إذ لم تعد استراتيجية الذكاء الاصطناعي منفصلة عن استراتيجية المرونة التشغيلية. وحذّر التقرير من أن تفضيل سرعة النشر على آليات التحكم قد يخلق بيئات يصعب احتواء إخفاقاتها أو عكس آثارها، خصوصاً عندما تصبح القدرة على الرصد والتراجع والاستعادة أقل من مستوى المخاطر.

وقال ميشيل مارييلا، مدير قسم أمن المعلومات في مجموعة مير (Maire): "قد يقوم مهندسٌ واحد من مهندسينا بإنشاء وكيل أو وكيلين من وكلاء الذكاء الاصطناعي أسبوعياً، ما يعني أن نطاق التعرض للمخاطر يتسع بصورة مستمرة. وبينما نمتلك أدوات للرصد والمتابعة، تبقى الأولوية القصوى في قدرتنا على الاستعادة السريعة".

ويجمع تقرير "روبريك زيرو لابز"، بعنوان «حالة الوكيل: فهم الاعتماد والمخاطر وسبل التخفيف»، بين بيانات استطلاع عالمي وتحليل تقني لمسارات هجوم ناشئة عبر طبقات الأدوات والقدرات المعرفية والهوية في أنظمة الذكاء الاصطناعي.

وخلص التقرير إلى أن الأمن لم يعد يتمحور حول الوقاية وحدها، بل بات يرتكز على الحفاظ على التحكم والقدرة على الاستعادة في بيئات تتوسع فيها الأنظمة المستقلة وتزداد فيها الهويات غير البشرية نفوذاً وحساسية.

إخلاء المسؤولية عن محتوى البيانات الصحفية المنشورةنود أن نلفت عنايتكم إلى أن البيانات الصحفية المنشورة على منصتنا، تأتينا من أطراف خارجية، ولا نمتلك أي دور في تحريرها أو إعادة صياغتها أو مراجعتها، وبالتالي لا نتحمل أي مسؤولية عن مضمونها. كما أن هذا النوع من المحتوى يتم عرضه «كما هو، ووفقاً لتوافره» دون أي تعديل أو تدخل من جانبنا.نقوم بنشر هذه البيانات الصحفية لأغراض إعلامية فقط، ولا نضمن دقة أو موثوقية أو اكتمال المعلومات أو الآراء أو المواد الواردة فيها، وهي بذلك لا تشكّل في أي حال من الأحوال استشارة قانونية أو استثمارية أو غير ذلك.يُخلي موقع «إرم بزنس» مسؤوليته الكاملة عن دقة أو محتوى أو توقيت المواد الصحفية المنشورة من مصادر خارجية، ويُعتبر نشرها على المنصة لأغراض إعلامية فقط، دون أن يعكس بالضرورة موقف المنصة أو توجهاتها التحريرية.
logo
اشترك في نشرتنا الإلكترونية
تابعونا على
تحميل تطبيق الهاتف