خبراء الأمن السيبراني: حوكمة الذكاء الاصطناعي وتقييد صلاحيات الأنظمة الذكية ضرورة لمواجهة تصاعد الهجمات الإلكترونية

ناقش عدد من خبراء التكنولوجيا والأمن السيبراني التحديات المتزايدة المرتبطة بتأمين تطبيقات الذكاء الاصطناعي، وآليات تعزيز الثقة والحوكمة والتحكم في استخدامها، في ظل تصاعد الهجمات السيبرانية المدعومة بالذكاء الاصطناعي، وتطور قدرات الأنظمة الذكية على التعلم واتخاذ القرارات وتنفيذ المهام بصورة مستقلة.

جاء ذلك خلال جلسة بعنوان «ضرورة أمن الذكاء الاصطناعي: الثقة والحوكمة والتحكم»، ضمن فعاليات الدورة الثلاثين من معرض ومؤتمر القاهرة الدولي للتكنولوجيا للشرق الأوسط وأفريقيا Cairo ICT 2026، حيث ناقش المشاركون طبيعة الصراع المتصاعد بين مخترقي الأنظمة وخبراء الحماية، وتأثير التطور المتسارع للذكاء الاصطناعي على مستقبل الأمن السيبراني.

وأدار الجلسة أحمد حسن، المدير الإقليمي للأمن السيبراني بشركة «ICT Misr»، بمشاركة مجموعة من المتخصصين والخبراء في مجالات الأمن السيبراني وحماية البيانات وحوكمة الذكاء الاصطناعي.

قانون تصنيف البيانات أمام البرلمان المصري.. والخبراء يؤكدون أهمية التوعية

أكد سامح إمام، مدير هندسة النظم في أفريقيا بشركة «Forcepoint»، أن الاستفادة من إمكانيات الذكاء الاصطناعي تتطلب وضع ضوابط واضحة لتحديد أنواع المعلومات والبيانات التي تستخدمها هذه الأنظمة، وآليات التعامل معها وفقًا لدرجة حساسيتها وتصنيفها.

وأوضح أن هناك وسائل وتقنيات متاحة حاليًا لتأمين مختلف مراحل استخدام الذكاء الاصطناعي، بما يتناسب مع طبيعة البيانات والمعلومات التي تتعامل معها الأنظمة الذكية.

وأشار إلى أن قانون تصنيف البيانات يناقش حاليًا داخل البرلمان المصري، بهدف وضع إطار يحدد أنواع البيانات والمعلومات المختلفة، وآليات تصنيفها وضوابط استخدامها داخل تطبيقات وأنظمة الذكاء الاصطناعي.

وشدد إمام على أن التشريعات وحدها لا تكفي لضمان حماية البيانات، مؤكدًا ضرورة رفع مستوى الوعي بأهمية تصنيف المعلومات المتاحة والمتداولة عبر الإنترنت، باعتبارها أحد المصادر الرئيسية التي تعتمد عليها أنظمة الذكاء الاصطناعي في الحصول على المعرفة والمعلومات.

خبراء: حوكمة وكلاء الذكاء الاصطناعي تتطلب تقييد الصلاحيات وتحديد الهوية

من جانبه، أكد كريس كي، المدير التقني ونائب الرئيس للمملكة المتحدة والاتحاد الأوروبي بشركة «CYBERTEQ»، أن التطور التكنولوجي أدى إلى ظهور أنظمة مترابطة تتيح للمؤسسات العمل من خلال منظومات موحدة ومتكاملة على مختلف المستويات.

وأوضح أن تعدد استخدامات الذكاء الاصطناعي وسرعته في تنفيذ المهام مقارنة بالعنصر البشري يفرضان ضرورة تطوير أساليب الإدارة والتحكم، والانتقال من النماذج التقليدية إلى أنظمة أكثر مرونة وقدرة على مواكبة التطورات.

وأشار إلى أن بناء أنظمة ذكاء اصطناعي فعالة يتطلب أن تكون ديناميكية ومنظمة وتخضع لإدارة وحوكمة واضحة، لافتًا إلى أن الصلاحيات الممنوحة لوكلاء الذكاء الاصطناعي (AI Agents) يجب أن تكون محددة ومقيدة وفق ضوابط دقيقة.

وشدد على أهمية تطبيق مفهوم «الثقة الصفرية» (Zero Trust)، مع تخصيص هوية رقمية مستقلة لكل وكيل من وكلاء الذكاء الاصطناعي، والتحقق من هويته وصلاحياته وفق معايير محددة، خاصة مع تطور الأنظمة الوكيلة القادرة على التعلم وتحسين أدائها بصورة مستمرة.

وأضاف أن الذكاء الاصطناعي يسهم في تسريع العمليات وتحسين كفاءة الإدارة، لكنه في الوقت نفسه يفرض مجموعة من المخاطر والتحديات التي تتطلب تطوير آليات الحماية والرقابة.

الحوكمة والرقابة البشرية أساس تأمين تطبيقات الذكاء الاصطناعي

بدوره، أكد شريف مختار، مدير ما قبل البيع بشركة «Raya Information Technology»، أن إدخال أي تكنولوجيا جديدة إلى بيئة العمل يستلزم وضع إطار واضح للتحكم والحوكمة، خاصة عند التعامل مع تقنيات الذكاء الاصطناعي.

وأوضح أن الاستخدام الآمن لهذه التقنيات يتطلب تحديد المسؤوليات والصلاحيات داخل المؤسسات، مع وجود عنصر بشري يتولى مراجعة مخرجات الأنظمة الذكية ومتابعة مختلف مراحل عملها.

وأشار إلى أن تأمين تطبيقات الذكاء الاصطناعي لا يمكن فصله عن منظومة الأمن السيبراني الشاملة داخل المؤسسات، مؤكدًا أن الحوكمة تمثل الأساس الذي تستند إليه عمليات استخدام الذكاء الاصطناعي وتأمينه.

وشدد مختار على ضرورة استمرار الرقابة البشرية على أنظمة الذكاء الاصطناعي الوكيلي، وعدم الاعتماد عليها بصورة كاملة ومستقلة، بما يضمن مراجعة القرارات والمخرجات والحفاظ على مستوى مناسب من التحكم في أدائها.

هجمات سيبرانية أسرع وأقل تكلفة.. والصراع بين المخترقين والحماية مستمر

وفي سياق متصل، أشار محمد حمدي، مدير خدمات الأمن السيبراني الموحدة بشركة «Group-IB»، إلى أن الذكاء الاصطناعي أحدث تحولًا كبيرًا في طبيعة التهديدات السيبرانية، بعدما أصبحت الهجمات الإلكترونية أكثر سرعة وأقل تكلفة مقارنة بالأساليب التقليدية.

وأوضح أن هذه التقنيات ساعدت على تطوير أدوات وأنظمة قادرة على تنفيذ هجمات تبدو طبيعية وأكثر إقناعًا، إلى جانب تقليل الوقت والتكلفة اللازمين لتنفيذها، وهو ما يزيد من تعقيد التحديات التي تواجه فرق الأمن السيبراني.

وأكد أن المواجهة بين الجهات التي تنفذ الهجمات الإلكترونية والمؤسسات المسؤولة عن الحماية لا تزال مستمرة، ولم يتم حسمها حتى الآن، مشيرًا إلى أن الطرف الأكثر استفادة يتحدد وفقًا لقدرات كل جانب ومدى قدرته على توظيف التقنيات الحديثة.

ولفت إلى أن من العوامل التي تصب في مصلحة فرق الحماية أن العديد من عمليات الاختراق لا تتم وفق تنظيم متكامل، وهو ما يمنح المؤسسات المدافعة فرصًا للتعامل مع التهديدات واكتشافها والتصدي لها.

«الثقة الصفرية» ضرورة مع تطور أنظمة الذكاء الاصطناعي ذاتية التعلم

من جانبه، أوضح طارق فؤاد، المدير القطري لشركة «Trellix»، أن الذكاء الاصطناعي تجاوز مرحلة الأدوات التقليدية التي تقتصر على استقبال الأسئلة وتقديم الإجابات، ليصبح جزءًا من منظومات أكثر تطورًا وقدرة على تنفيذ المهام وتطوير أدائها.

ورداً على تساؤل حول إمكانية اتخاذ الذكاء الاصطناعي قرارات بصورة مستقلة بعيدًا عن التدخل البشري، أكد فؤاد أن هذه التقنيات أصبحت قادرة على تطوير نفسها، وهو ما يجعل تطبيق مفهوم «الثقة الصفرية» (Zero Trust) أمرًا ضروريًا عند التعامل معها.

وأوضح أن الاعتماد على هذا المفهوم يمثل أحد الأسس المهمة لتعزيز أمن الذكاء الاصطناعي، من خلال عدم منح الأنظمة صلاحيات غير محددة، وضرورة التحقق المستمر من الهويات والصلاحيات ومستويات الوصول.

Cairo ICT 2026 يناقش مستقبل الأمن السيبراني والتحول الرقمي

ويُعد معرض ومؤتمر القاهرة الدولي للتكنولوجيا Cairo ICT أحد أبرز الملتقيات المتخصصة في صناعة الاتصالات وتكنولوجيا المعلومات بمنطقة الشرق الأوسط وأفريقيا، وتُقام دورته الثلاثون تحت رعاية رئيس مجلس الوزراء، مع التركيز على التطبيقات العملية للذكاء الاصطناعي ودورها في تطوير الخدمات ورفع كفاءة الأعمال ودعم الابتكار بمختلف القطاعات.

وتتضمن الفعاليات المصاحبة الدورة الثالثة من معرض ومؤتمر الذكاء الاصطناعي ومراكز البيانات والحوسبة السحابية AIDC²، والدورة الثالثة عشرة من معرض ومؤتمر المدفوعات الرقمية والشمول المالي PAFIX، الذي يُقام تحت رعاية البنك المركزي المصري.

كما تشمل الفعاليات الدورة السادسة من معرض «Connecta» المتخصص في الألعاب والأجهزة الذكية وتكنولوجيا الترفيه، إلى جانب ساحة الابتكار Innovation Arena، التي توفر منصة للشركات الناشئة ورواد الأعمال لاستعراض حلولهم ومنتجاتهم والتواصل مع المستثمرين وشركاء الأعمال والجهات الداعمة للابتكار.