جلسة “تأمين الذكاء الاصطناعي الوكيل” تناقش مستقبل الأمن السيبراني في عصر الأنظمة الذاتية
دعا خبراء الأمن السيبراني وتقنيات الذكاء الاصطناعي إلى ضرورة تبني أطر واضحة لحوكمة استخدام الذكاء الاصطناعي وحماية البيانات، في ظل التوسع المتسارع في اعتماد المؤسسات على الوكلاء الأذكياء (AI Agents)، وذلك خلال جلسة بعنوان “تأمين الذكاء الاصطناعي الوكيل: عندما يعمل الذكاء الاصطناعي نيابةً عنك”، ضمن فعاليات النسخة الخامسة من مؤتمر ومعرض أمن المعلومات والأمن السيبراني CAISEC 2026.
وأكد المشاركون أن المرحلة الحالية تتطلب تحقيق توازن دقيق بين الاستفادة من قدرات الذكاء الاصطناعي المتنامية وبين تأمين البيانات والأنظمة المؤسسية، خاصة مع التحول السريع نحو الأنظمة الذاتية في مختلف القطاعات.
نمو متسارع في اعتماد وكلاء الذكاء الاصطناعي يفرض تحديات أمنية جديدة
قال شريف شلتوت، المدير التنفيذي الإقليمي لمنطقة الشرق الأوسط وشمال أفريقيا في شركة Liquid C2، إن المؤشرات العالمية تؤكد تسارع تبني المؤسسات لتقنيات الذكاء الاصطناعي الوكيل، وهو ما يفرض تحديات متزايدة في مجالات الأمن السيبراني والحوكمة وإدارة المخاطر.
وأوضح، استنادًا إلى بيانات شركة BeyondTrust، أن معدلات تبني وكلاء الذكاء الاصطناعي ارتفعت بنسبة 466% سنويًا، بينما تشير بيانات Veeam إلى وجود ما يصل إلى 82 وكيلاً للذكاء الاصطناعي لكل موظف في بعض البيئات المؤسسية، ما يعكس توسعًا غير مسبوق في الأنظمة الذاتية داخل المؤسسات.
وأضاف أن 97% من المؤسسات تمتلك صلاحيات وصول مفرطة أو غير ضرورية داخل بيئاتها الرقمية، ما يزيد من احتمالات الاختراق وسوء الاستخدام، في حين تُظهر بيانات Cloudflare أن 57% من طلبات الويب عالميًا يتم توليدها عبر روبوتات وأنظمة آلية.
كما أوضح أن تقارير Cisco تشير إلى أن 85% من المؤسسات تختبر حاليًا تطبيقات الذكاء الاصطناعي الوكيل، بينما لا تتجاوز نسبة الانتقال إلى بيئات التشغيل الفعلية 5% فقط، ما يعكس فجوة واضحة بين سرعة الابتكار وغياب الأطر التنظيمية والأمنية الكافية.
فجوة بين الابتكار والحوكمة في الذكاء الاصطناعي
وشدد شلتوت على أن هذه المؤشرات تعكس فجوة متزايدة بين تبني تقنيات الذكاء الاصطناعي وتطور الأطر التنظيمية والأمنية المصاحبة لها، مؤكدًا ضرورة وضع ضوابط واضحة تضمن الاستخدام الآمن والمسؤول لتقنيات الذكاء الاصطناعي الوكيل (Agentic AI).
ضرورة اختبار سلوك الوكلاء الأذكياء وإدارة الصلاحيات
من جانبه، أكد ستيفانو ماكاجليا، مدير فرق الاستجابة والهجوم الأحمر في شركة NetWitness، أهمية تحديد طبيعة تطبيقات الذكاء الاصطناعي داخل المؤسسات قبل منحها صلاحيات تشغيل واسعة.
وأوضح أن الذكاء الاصطناعي أصبح قادرًا على تسريع تحليل البيانات والوصول إلى المعلومات بشكل غير مسبوق، إلا أن ذلك يفتح الباب أمام استغلاله من قبل جهات خبيثة لتنفيذ أنشطة ضارة.
وشدد على ضرورة اختبار سلوك الوكلاء الأذكياء بشكل مستمر، وتحديد مهامهم بدقة لضمان تداول آمن للبيانات، خاصة في ظل محدودية الخبرات التراكمية المتعلقة بهذه التقنيات الحديثة.
حماية حركة البيانات وتمييز أنواع الذكاء الاصطناعي
وفي السياق ذاته، أكد محمد الشال، مسؤول الحسابات الاستراتيجية في Cloudflare، أهمية تأمين حركة البيانات ومنع استخدامها خارج الأغراض المصرح بها، مع ضرورة التمييز بين الذكاء الاصطناعي التوليدي (Generative AI) والذكاء الاصطناعي الوكيل (Agentic AI) من حيث الصلاحيات والوصول إلى البيانات.
وأشار إلى أن نجاح تبني هذه التقنيات يعتمد على تطبيق ضوابط أمنية صارمة تغطي جميع مراحل الاستخدام.
الحوكمة والرقابة أساس الاستخدام الآمن للذكاء الاصطناعي
وقال حسن البمبي، مدير BeyondTrust في مصر والبحرين والأردن، إن النمو المتسارع في استخدام الذكاء الاصطناعي يتطلب مستويات أعلى من الحوكمة والرقابة داخل المؤسسات، لضمان الاستخدام الآمن والفعال لهذه التقنيات.
وأكد أهمية إدارة وربط المهام التي تنفذها أنظمة الذكاء الاصطناعي لضمان تحقيق القيمة دون الإخلال بالضوابط الأمنية.
تصنيف البيانات شرط أساسي لحماية المعلومات
من جهته، أوضح مصطفى العناني، مدير Veeam في مصر وليبيا، أن المؤسسات مطالبة بتصنيف البيانات وفق حساسيتها وأهميتها قبل إتاحة الوصول إليها لأدوات الذكاء الاصطناعي.
وشدد على ضرورة تحديد المسؤوليات المرتبطة باستخدام البيانات، وتأمينها كخطوة أساسية قبل دمج تقنيات الذكاء الاصطناعي في بيئات العمل.
تحديد القيمة قبل التأمين
وقال إبراهيم شامل، رئيس مبيعات الأمن السيبراني في Cisco مصر، إن المؤسسات يجب أن تحدد أولًا القيمة الفعلية التي تقدمها تطبيقات الذكاء الاصطناعي لأعمالها قبل التفكير في آليات تأمينها.
وأكد أن نجاح هذه التقنيات يعتمد على وضوح الأهداف والأدوار وليس مجرد مواكبة الاتجاهات التقنية الحديثة.
حوكمة البيانات حجر الأساس في عصر الذكاء الاصطناعي
وأكد حازم مفتاح، مدير هندسة المبيعات في Forcepoint، أن حوكمة البيانات تمثل الأساس لضمان الاستخدام الآمن للذكاء الاصطناعي، مشيرًا إلى تحديات متزايدة تتعلق بإدارة الصلاحيات ومساءلة الأنظمة الذكية وحماية المعلومات الحساسة.
وأوضح أن حماية البيانات أصبحت ثقافة تشغيلية متكاملة تعتمد على فهم سياق البيانات والتحكم في استخدامها، لافتًا إلى أهمية سرعة اتخاذ القرار لمواكبة التطور المتسارع في التقنيات.
كما أوصى بالاستفادة من الذكاء الاصطناعي في تعزيز الدفاعات السيبرانية وتحليل التهديدات، مع الإبقاء على العنصر البشري كعنصر رقابي أساسي.
دعوة إلى نموذج حوكمة متكامل للذكاء الاصطناعي
واتفق المشاركون في الجلسة على أن نجاح المؤسسات في تبني الذكاء الاصطناعي لا يعتمد فقط على القدرات التقنية، بل يتطلب بناء منظومة متكاملة تشمل حوكمة البيانات، وإدارة الهوية والصلاحيات، وتعزيز الأمن السيبراني.
وأكدوا أن المرحلة المقبلة تتطلب نهجًا مؤسسيًا متوازنًا يحقق الاستفادة القصوى من تقنيات الذكاء الاصطناعي مع تقليل المخاطر المرتبطة بها.
