الأمن السيبراني في عصر وكلاء AI:
من حماية النظام إلى حوكمة القرارات

مقدمة: عندما لم يعد الذكاء الاصطناعي مجرد أداة

لم يعد الذكاء الاصطناعي داخل المؤسسات مجرد روبوت يجيب عن الأسئلة أو نموذج يلخص المستندات. فقد بدأت الشركات في استخدام وكلاء الذكاء الاصطناعي القادرين على تحليل البيانات، واستدعاء الأدوات، وتنفيذ خطوات متعددة، والتفاعل مع أنظمة مثل ERP و CRM ومنصات خدمة العملاء وقواعد البيانات.

هذا التحول يفتح فرصًا كبيرة لتحسين الإنتاجية وتسريع القرارات، لكنه يغيّر طبيعة الأمن السيبراني أيضًا. ففي النظام التقليدي، يركز فريق الأمن على حماية الخوادم، والشبكات، وحسابات المستخدمين، وقواعد البيانات.

أما في عصر وكلاء AI، فلم يعد السؤال هو: هل النظام محمي؟ فحسب، بل أصبح أيضًا: هل القرار الذي اتخذه الوكيل آمن ومصرح به وقابل للتفسير؟

وتزداد أهمية هذا السؤال مع توسع استخدام الذكاء الاصطناعي في بيئات الأعمال. فقد أشار تقرير Cloud Alliance Security لعام 2026 إلى أن كشف البيانات الحساسة يمثل مصدر القلق الأكبر لدى قادة الأمن بنسبة 61%، بينما رأى 73% منهم أن التهديدات السيبرانية المدعومة بالذكاء الاصطناعي تؤثر بالفعل بشكل كبير في مؤسساتهم.

ما المقصود بوكلاء الذكاء الاصطناعي؟

وكيل الذكاء الاصطناعي هو نظام برمجي لا يكتفي بإنتاج إجابة، بل يستطيع تنفيذ مهمة أو سلسلة من المهام بناءً على هدف محدد.

يمكن للوكيل، مثلًا، أن يقرأ طلب شراء، ويتحقق من المخزون، ويقارن الموردين، ويرسل التوصية إلى المسؤول، أو ينفذ الإجراء تلقائيًا إذا كانت الصلاحيات والسياسات تسمح بذلك.

ويختلف الوكيل عن تطبيق الذكاء الاصطناعي التقليدي في ثلاث نقاط رئيسية:

لماذا تحتاج المؤسسات إلى تغيير مفهوم الأمن؟

1. الوكيل يمتلك قدرة على الفعل

عندما يكون الذكاء الاصطناعي مجرد واجهة محادثة، قد ينتج إجابة غير دقيقة. لكن عندما يرتبط الوكيل بنظام ERP أو منصة مالية أو قاعدة بيانات العملاء، يمكن أن يؤدي الخطأ إلى إنشاء أمر شراء غير صحيح، أو إرسال بيانات إلى مستخدم غير مخول، أو تغيير سجل تجاري، أو تنفيذ إجراء لا يتوافق مع سياسة المؤسسة.

لذلك يجب أن تُعامل صلاحيات الوكيل باعتبارها صلاحيات تشغيلية حساسة، لا مجرد إعداد تقني عادي. ومن الضروري تحديد ما يمكن للوكيل قراءته، وما يمكنه اقتراحه، وما يمكنه تنفيذه، وما يتطلب موافقة بشرية مسبقة.

2. البيانات قد تصبح سطح هجوم جديدًا

تعتمد جودة قرارات الوكيل على البيانات التي يصل إليها وعلى السياق الذي يفهمه. فإذا كانت البيانات غير دقيقة أو قديمة أو غير منظمة، فقد ينتج الوكيل قرارًا خاطئًا حتى لو كان النموذج نفسه متقدمًا.

وتشير دراسة PwC لعام 2026 إلى أن 87% من قادة العمليات قالوا إن ضعف جودة البيانات عرقل تحقيق القيمة من المبادرات الرقمية، بينما لم تدمج سوى 27% من المؤسسات استراتيجية الذكاء الاصطناعي بالكامل عبر وحدات الأعمال.

وهذا يعني أن حماية الوكيل لا تبدأ من النموذج فقط، بل من حوكمة البيانات وتكامل الأنظمة وإدارة دورة حياة المعلومات.

3. الهجمات أصبحت أكثر تعقيدًا

يمكن للمهاجمين استغلال التعليمات الخبيثة، أو البيانات المسمومة، أو الصلاحيات الواسعة، أو نقاط التكامل بين الوكيل والأنظمة الأخرى.

كما يمكن استخدام الذكاء الاصطناعي لتسريع مراحل الهجوم، بدءًا من جمع المعلومات وحتى تصعيد الصلاحيات واستخراج البيانات.

ولهذا أفاد 92% من قادة الأمن في دراسة Cloud Alliance Security بأن التهديدات المدعومة بالذكاء الاصطناعي تدفع المؤسسات إلى ترقية دفاعاتها بشكل كبير.

من حماية النظام إلى حوكمة القرار

الأمن التقليدي يحاول منع الدخول غير المصرح به واكتشاف السلوك الضار والاستجابة للحوادث. أما حوكمة وكلاء AI فتضيف طبقة أخرى: إدارة القرار الذي ينتجه الوكيل قبل وأثناء وبعد تنفيذه.

يمكن تقسيم حوكمة القرار إلى أربعة أسئلة عملية:

• هل يحق للوكيل تنفيذ الإجراء؟ الهوية، الدور، نطاق الصلاحية، والسياسة المرتبطة بالمهمة.
• هل القرار مبني على بيانات موثوقة؟ مصدر البيانات، حداثتها، اكتمالها، وسلامة سياقها.
• هل يمكن تفسير القرار ومراجعته؟ سجل التعليمات، المدخلات، الأدوات المستخدمة، والمخرجات.
• ماذا يحدث عند الخطأ؟ الإيقاف، التراجع عن العملية، التصعيد إلى إنسان، وخطة الاستجابة.

بهذا المنظور، لا تصبح الحوكمة عائقًا أمام الابتكار، بل وسيلة لتوسيع استخدام الذكاء الاصطناعي بأمان.

فالهدف ليس منع الوكيل من العمل، وإنما جعله يعمل داخل حدود واضحة يمكن مراقبتها ومراجعتها.

إطار عملي لتأمين وكلاء الذكاء الاصطناعي

أولًا: حصر الوكلاء والبيانات والتكاملات

يجب أن تعرف المؤسسة أين تُستخدم الوكلاء، وما المهام التي ينفذونها، وما الأنظمة التي يتصلون بها، وما نوع البيانات التي يطلعون عليها.

ويشمل ذلك الوكلاء الرسميين الذين أنشأهم فريق التقنية، وكذلك الأدوات التي قد يستخدمها الموظفون دون مراجعة مركزية.

ينبغي إعداد سجل لكل وكيل يتضمن مالك النظام، والغرض من الاستخدام، ومصادر البيانات، والصلاحيات، ومستوى المخاطر، وآلية المراجعة.

ثانيًا: تطبيق مبدأ أقل صلاحية

لا ينبغي أن يحصل الوكيل على صلاحيات مستخدم إداري لمجرد أن ذلك يسهل التكامل. يجب منحه أقل مجموعة من الصلاحيات اللازمة لأداء المهمة، مع فصل صلاحيات القراءة عن الكتابة، وتحديد العمليات التي تحتاج إلى موافقة بشرية.

فعلى سبيل المثال، يمكن السماح لوكيل المشتريات بتحليل عروض الأسعار وإنشاء توصية، مع منع تنفيذ طلب الشراء النهائي إلا بعد اعتماد مسؤول محدد.

ثالثًا: اعتماد الموافقة البشرية في القرارات الحساسة

ليست كل المهام مناسبة للأتمتة الكاملة. القرارات المتعلقة بالتحويلات المالية، أو التوظيف، أو البيانات الصحية، أو تغيير العقود، أو حذف السجلات، ينبغي أن تتضمن نقطة مراجعة بشرية واضحة.

ولا تعني الموافقة البشرية مراجعة كل إجابة صغيرة، بل تحديد حدود التصعيد. فعندما تتجاوز قيمة المعاملة مبلغًا معينًا، أو عندما تكون درجة الثقة منخفضة، أو عندما يتعامل الوكيل مع بيانات حساسة، يجب أن ينتقل القرار إلى مسؤول بشري قبل التنفيذ.

رابعًا: تسجيل كل خطوة قابلة للتدقيق

لا يكفي تسجيل النتيجة النهائية. ينبغي الاحتفاظ بسجل يوضح التعليمات التي تلقاها الوكيل، والبيانات التي استخدمها، والأدوات التي استدعاها، والقرارات الوسيطة، والوقت، وهوية المستخدم أو النظام الذي بدأ العملية.

تساعد هذه السجلات في التحقيق في الحوادث، واكتشاف الاستخدام غير المعتاد، وقياس أداء الوكيل، وإثبات الالتزام بالسياسات.

كما يجب حماية السجلات نفسها من التعديل غير المصرح به، لأنها قد تحتوي على معلومات تشغيلية حساسة.

خامسًا: اختبار الوكيل قبل وبعد الإطلاق

يحتاج وكيل AI إلى اختبارات أمنية ووظيفية مستمرة. وتشمل الاختبارات محاولات تمرير تعليمات خبيثة، واختبار الوصول إلى بيانات خارج النطاق، والتحقق من رفض الطلبات غير المصرح بها، وقياس سلوك الوكيل عند نقص البيانات أو تعارضها.

بعد الإطلاق، يجب مراقبة الأداء الفعلي بدل الاعتماد على نتائج الاختبارات الأولية فقط. فقد يتغير سلوك الوكيل مع تغير البيانات أو النماذج أو الأدوات أو الصلاحيات.

الحوكمة ليست مسؤولية فريق الأمن وحده

يؤدي فريق الأمن دورًا محوريًا، لكنه لا يستطيع إدارة المخاطر وحده. فحوكمة وكلاء AI تحتاج إلى تعاون بين الإدارة، وتقنية المعلومات، والأمن السيبراني، والامتثال، وأصحاب العمليات، والمستخدمين النهائيين.

وتؤكد نتائج PwC أن المؤسسات الأكثر تقدمًا لا تكتفي بتجارب منعزلة، بل توحد الذكاء الاصطناعي والبيانات ونموذج التشغيل في برنامج مؤسسي متكامل.

كيف يمكن للشركات البدء دون تعطيل الابتكار؟

لا تحتاج المؤسسة إلى انتظار اكتمال استراتيجية ضخمة قبل البدء. الأفضل هو اختيار حالة استخدام محددة ذات قيمة واضحة ومخاطر قابلة للإدارة، مثل تلخيص طلبات العملاء، أو البحث في قاعدة المعرفة الداخلية، أو إعداد تقارير المخزون، ثم تطبيق ضوابط الأمن والحوكمة عليها من البداية.

بعد ذلك يمكن قياس ثلاثة أنواع من النتائج: قيمة الأعمال مثل خفض الوقت والتكلفة، وجودة القرار مثل انخفاض الأخطاء، وسلامة التشغيل مثل عدد محاولات الوصول غير المصرح بها أو العمليات التي تم إيقافها قبل التنفيذ.

الخلاصة

يغيّر وكلاء الذكاء الاصطناعي طريقة بناء الأنظمة وتشغيل الأعمال، لكنه يغيّر أيضًا تعريف الأمن السيبراني.

فحماية الشبكة والخادم وقاعدة البيانات تظل ضرورية، لكنها لم تعد كافية وحدها. يجب كذلك حماية السياق والقرار والصلاحية وسجل التنفيذ.

المؤسسة المستعدة لعصر وكلاء AI هي التي تعرف أين تستخدم الوكلاء، وما الذي يمكنهم فعله، وما البيانات التي يعتمدون عليها، ومتى يجب أن يتدخل الإنسان، وكيف يمكن مراجعة القرار بعد حدوثه.

وبذلك تنتقل من أمن يركز على منع الاختراق فقط إلى حوكمة شاملة تجعل الذكاء الاصطناعي أكثر أمانًا وشفافية وقابلية للتوسع.