أظهرت دراسة ميدانية حديثة وجود فجوة ملحوظة بين ثقة المؤسسات في أنظمة الحماية الخاصة بها وقدرتها الفعلية على مواجهة الأخطاء التشغيلية التي قد يرتكبها وكلاء الذكاء الاصطناعي المزوّدون بصلاحيات تنفيذية واسعة.
وبحسب البيانات المستمدة من مقابلات متعمقة شملت 25 متخصصًا في مجالات الأمن السيبراني والمرونة التشغيلية، تبين أن أربع مؤسسات فقط قامت بإجراء اختبارات أو تدريبات عملية تحاكي حوادث محتملة ناجمة عن أخطاء وكلاء الذكاء الاصطناعي، في حين خلت سجلات بقية المؤسسات المشاركة من أي اختبارات موثقة لسيناريوهات من هذا النوع.
وتطرقت الدراسة إلى طبيعة المخاطر التي تفرضها الأنظمة الحديثة التي تملك صلاحيات مشروعة للوصول إلى التطبيقات وتنفيذ العمليات مباشرة؛ إذ تختلف هذه التحديات جوهريًا عن الهجمات السيبرانية التقليدية. وفي هذه الحالات، قد يتخذ الوكيل الذكي قرارًا غير مقصود أو خاطئ أثناء تنفيذه لصلاحيات صحيحة، مما يترتب عليه تعديل بيانات حساسة أو إتمام معاملات مالية أو تشغيلية غير مرغوبة.
وعند وقوع مثل هذه الإشكالات، تصبح الحلول التقليدية المتمثلة في إيقاف تشغيل البرمجيات أو استعادة النسخ الاحتياطية غير كافية بمفردها؛ نظرا لأن السرعة التي ينفذ بها الوكيل الخطوات المتتابعة قد تتسبب في انتشار الخطأ وتداعيه عبر تطبيقات متعددة قبل أن تكتشفه فرق المراقبة التقنية.
وفي السياق ذاته، بينت التحليلات أن استعادة النظام للوضع التقني السليم عبر النسخ الاحتياطي لا تعني بالضرورة استعادة سلامة العمليات التجارية، إذ قد تظل البيانات مقترنة بمعاملات أو قرارات غير صحيحة يصعب اكتشافها بسهولة.
وعلى صعيد قدرات الرصد والمتابعة داخل المؤسسات العينة، أفادت مؤسستان فقط بامتلاك قدرات متقدمة لرصد السلوكيات غير المعتادة الصادرة عن الوكلاء، بينما أشارت ثلاث مؤسسات إلى توفر أنظمة مراقبة تتيح إعادة بناء الأنشطة السابقة وتتبع الخطوات التنفيذية التي قام بها الوكيل بدقة.
وفي ضوء هذه المعطيات، توصي الدراسة المؤسسات بضرورة استحداث اختبارات لسيناريوهات عملية واقعية، يتم خلالها السماح للوكيل بارتكاب أخطاء محتملة باستخدام صلاحياته، مع قياس مدى كفاءة الأنظمة في إيقافه، وتتبع مسار نشاطه بدقة، وتصحيح النتائج والآثار المترتبة عليها.
ورغم أن النتائج تبقى محددة بنطاق العينة المستهدفة التي اقتصرت على 25 مقابلة بحثية ولا تشكل قياسًا إحصائيًا شاملًا لجميع أسواق المؤسسات حول العالم، إلا أنها تسلط الضوء على تحديات جوهرية ينبغي معالجتها قبل التوسع في منح وكلاء الذكاء الاصطناعي مستويات أعلى من الاستقلالية التشغيلية.
