أصبح الذكاء الاصطناعي في الأمن السيبراني واحدًا من أهم الاتجاهات التقنية في 2026، لأن الشركات لم تعد تواجه هجمات إلكترونية تقليدية فقط، بل أصبحت تتعامل مع تهديدات أسرع وأكثر تعقيدًا، وفي الوقت نفسه بدأت تستخدم الذكاء الاصطناعي لمراقبة الأنظمة وتحليل البيانات واكتشاف الأنشطة غير الطبيعية والاستجابة للحوادث.
لكن هناك جانب آخر مهم: الذكاء الاصطناعي نفسه أصبح جزءًا من سطح الهجوم.
فالنظام الذي يستخدم نموذجًا لغويًا أو AI Agent للوصول إلى البيانات والأدوات قد يتعرض لمخاطر مختلفة عن التطبيقات التقليدية، خصوصًا إذا حصل النموذج على صلاحيات واسعة أو تعامل مع بيانات غير موثوقة.
ولهذا لم يعد السؤال فقط: كيف نستخدم AI لحماية الشركة؟ بل أصبح أيضًا: كيف نحمي أنظمة الذكاء الاصطناعي نفسها؟
ما هو الذكاء الاصطناعي في الأمن السيبراني؟
يقصد بالذكاء الاصطناعي في الأمن السيبراني استخدام تقنيات AI لتحليل كميات كبيرة من البيانات الأمنية، واكتشاف الأنماط غير الطبيعية، ومساعدة فرق الأمن في تحديد التهديدات والاستجابة لها بشكل أسرع.
يمكن للأنظمة المدعومة بالذكاء الاصطناعي تحليل سجلات الدخول، وحركة الشبكة، والتنبيهات الأمنية، ورسائل البريد الإلكتروني، وسلوك المستخدمين والأجهزة، ثم البحث عن أنماط قد تشير إلى نشاط مشبوه.
وتوضح NIST في إرشاداتها الحديثة أن الذكاء الاصطناعي يمكن استخدامه في تحليل وتخطيط وتنفيذ ومراقبة أعمال مرتبطة بإطار الأمن السيبراني، وليس فقط في اكتشاف الهجمات.
كيف يساعد AI في اكتشاف الهجمات الإلكترونية؟
1. اكتشاف السلوك غير الطبيعي
أحد الاستخدامات المهمة للذكاء الاصطناعي هو اكتشاف التغيرات غير المعتادة في سلوك المستخدم أو النظام.
تخيل أن موظفًا يدخل عادة إلى نظام الشركة من جهاز محدد وفي ساعات العمل، ثم تظهر فجأة عمليات دخول كثيرة من موقع أو جهاز غير معتاد، يليها تحميل عدد كبير من الملفات.
لا يعني ذلك تلقائيًا وجود اختراق، لكنه قد يكون مؤشرًا يستحق التحقيق.
هنا يستطيع AI تحليل سلسلة الأحداث بدل النظر إلى كل حدث بشكل منفصل، وهو ما يساعد فريق الأمن على التركيز على الحالات التي تحتاج إلى فحص.
2. تحليل التنبيهات الأمنية
الشركات الكبيرة قد تستقبل عددًا هائلًا من التنبيهات الأمنية يوميًا، والمشكلة أن ليس كل تنبيه يعني وجود هجوم حقيقي.
يمكن للذكاء الاصطناعي المساعدة في تصنيف التنبيهات وربط الأحداث ببعضها وتحديد الحالات التي تبدو أكثر أهمية.
وبدل أن يرى مسؤول الأمن عشرات التنبيهات المنفصلة، يمكن أن يحصل على ملخص مثل: هناك سلسلة من الأنشطة غير الطبيعية بدأت بتسجيل دخول مشبوه ثم محاولة الوصول إلى ملفات حساسة.
هذا النوع من التحليل يمكن أن يقلل الوقت اللازم لفهم الحادث، لكنه لا يلغي الحاجة إلى التحقق البشري.
3. اكتشاف رسائل التصيد الاحتيالي
رسائل Phishing ما زالت من الطرق الشائعة لاستهداف المستخدمين، وقد أصبحت الرسائل الاحتيالية أكثر إقناعًا مع توفر أدوات الذكاء الاصطناعي التي تستطيع إنتاج نصوص سليمة ومخصصة.
يمكن استخدام AI لتحليل الرسالة والسياق والروابط والمرفقات وبعض مؤشرات السلوك لتحديد ما إذا كانت الرسالة تستحق مزيدًا من الفحص.
لكن يجب ألا يعتمد المستخدم على AI وحده، لأن أي نظام قد يخطئ، ولذلك تظل سياسات البريد الآمن والتوعية والمصادقة متعددة العوامل عناصر مهمة.
هل يستخدم المهاجمون الذكاء الاصطناعي أيضًا؟
نعم، وهذه واحدة من أهم النقاط التي يجب فهمها.
وهذا يعني أن السباق الأمني أصبح أسرع.
يمكن للمهاجم استخدام AI للبحث أو إنشاء رسائل أكثر إقناعًا أو تحليل معلومات متاحة، بينما يمكن للمدافع استخدام AI لتحليل آلاف الأحداث واكتشاف الأنماط والاستجابة للحوادث.
لذلك فإن استخدام الذكاء الاصطناعي في الأمن السيبراني لم يعد ميزة إضافية فقط بالنسبة لبعض المؤسسات، بل أصبح جزءًا من طريقة التعامل مع بيئة تهديد تتغير بسرعة.
الجانب الآخر: كيف يمكن أن يصبح الذكاء الاصطناعي نفسه هدفًا للهجوم؟
هذه النقطة مهمة جدًا لأي شخص يستخدم ChatGPT أو أدوات AI داخل الشركة.
توضح قائمة OWASP Top 10 for LLM Applications مخاطر خاصة بتطبيقات الذكاء الاصطناعي، ومن بينها Prompt Injection وتسريب المعلومات الحساسة والصلاحيات الزائدة وضعف التعامل مع المخرجات.
Prompt Injection
في الهجوم المعروف باسم Prompt Injection يحاول المهاجم إدخال تعليمات تؤثر في سلوك نموذج الذكاء الاصطناعي بطريقة لم يكن مطور النظام يقصدها.
وتصبح المشكلة أكثر حساسية عندما يكون النموذج مرتبطًا بأدوات أو بيانات.
مثلًا، إذا كان لديك AI Agent يستطيع قراءة رسائل البريد والوصول إلى ملفات الشركة وتنفيذ بعض الإجراءات، فإن نجاح هجوم Prompt Injection قد يكون أخطر بكثير من مجرد الحصول على إجابة خاطئة.
وهنا تظهر أهمية فهم طريقة عمل Function Calling والصلاحيات التي تمنحها للنظام؛ لأن قدرة النموذج على استدعاء الأدوات يجب أن تكون محددة ومراقبة.
تسريب المعلومات الحساسة
إذا تم استخدام AI داخل شركة للوصول إلى ملفات العملاء أو العقود أو التقارير المالية أو البيانات الداخلية، فإن حماية هذه المعلومات تصبح جزءًا أساسيًا من أمن النظام.
لا ينبغي افتراض أن أي أداة AI يمكنها التعامل تلقائيًا مع جميع أنواع البيانات الحساسة.
قبل إدخال البيانات في أي خدمة، يجب معرفة سياسة الخصوصية، والصلاحيات، وكيفية تخزين البيانات، ومن يستطيع الوصول إليها.
الصلاحيات الزائدة
من أخطر الأخطاء إعطاء AI صلاحيات أكبر مما يحتاجه.
إذا كان النظام يحتاج فقط إلى قراءة حالة الطلبات، فلا يوجد سبب منطقي لمنحه صلاحية حذف البيانات أو تعديل الحسابات.
وهذا المبدأ يصبح أكثر أهمية عند بناء AI Agents، لأن الوكيل قد يكون قادرًا على تنفيذ سلسلة من الإجراءات بدل تقديم إجابة نصية فقط.
لماذا تصبح AI Agents قضية أمنية مهمة؟
الفرق بين Chatbot بسيط وAI Agent أن الوكيل قد يمتلك أدوات وذاكرة وسياقًا وقدرة على تنفيذ إجراءات.
وقد شرحت في مقال الذاكرة في الذكاء الاصطناعي كيف يمكن للأنظمة الاحتفاظ بمعلومات من تفاعلات مختلفة. هذه القدرة مفيدة جدًا، لكنها تعني أيضًا أن إدارة البيانات والصلاحيات تصبح أكثر أهمية.
كما أن استخدام MCP في الذكاء الاصطناعي لربط النماذج بالأدوات ومصادر البيانات يفتح إمكانات كبيرة، لكنه يجعل تصميم الصلاحيات والاتصالات جزءًا من الأمن وليس مجرد قرار تقني.
كل اتصال جديد بين AI وأداة خارجية يمثل نقطة يجب فهمها ومراقبتها وتأمينها.
مثال عملي: شركة تستخدم AI لحماية البريد الإلكتروني
لنفترض أن شركة لديها 100 موظف وتستقبل آلاف رسائل البريد شهريًا.
يمكن تصميم نظام أمني يساعد في:
- تحليل الرسائل المشبوهة.
- فحص الروابط.
- تحديد الأنماط غير المعتادة.
- تصنيف التنبيهات.
- إرسال الحالات المهمة إلى فريق الأمن.
- تلخيص سبب اعتبار الرسالة مشبوهة.
لكن لا ينبغي أن تكون النتيجة «AI يحذف أي رسالة يشك فيها» بشكل مطلق.
الأفضل هو إنشاء مستويات للمخاطر، بحيث يتم عزل الحالات عالية الخطورة أو إرسالها للمراجعة، بينما تظل الحالات غير الواضحة تحت المراقبة.
بهذا الشكل يصبح AI جزءًا من عملية أمنية منظمة بدل أن يكون قرارًا منفردًا.
مثال آخر: حماية موقع إلكتروني باستخدام AI
لنفترض أن لديك متجرًا إلكترونيًا يحتوي على حسابات مستخدمين وطلبات ودفع إلكتروني.
يمكن استخدام AI لتحليل أنماط مثل:
- محاولات تسجيل الدخول المتكررة.
- تغييرات مفاجئة في الحساب.
- عدد غير طبيعي من الطلبات.
- محاولات الوصول إلى صفحات بطريقة غير معتادة.
- أنشطة مرتبطة بحسابات متعددة.
يمكن للنظام بعد ذلك إرسال التنبيهات إلى فريق الأمن أو تطبيق إجراءات محددة وفق قواعد واضحة.
وهنا من المهم الجمع بين AI وأساسيات أمن التطبيقات. فإطار OWASP Top 10 لعام 2025 ما زال يركز على مخاطر أساسية مثل ضعف التحكم في الوصول، وسوء إعدادات الأمان، وفشل المصادقة وسلامة البيانات.
كيف يمكن استخدام AI في الاستجابة للحوادث الأمنية؟
عند حدوث حادث أمني، الوقت مهم جدًا.
يحتاج الفريق إلى معرفة ماذا حدث، ومتى بدأ، وما الأنظمة المتأثرة، وما الحسابات التي تم استخدامها، وما الإجراءات التي تم اتخاذها.
يمكن للذكاء الاصطناعي المساعدة في جمع الأحداث وترتيبها وإنشاء ملخص أولي للحادث.
مثلًا يمكن أن ينتج تقريرًا مبدئيًا يحتوي على:
- وقت بداية النشاط.
- الحسابات المتأثرة.
- الأجهزة المرتبطة.
- الأحداث المشبوهة.
- الأنظمة التي تحتاج إلى فحص.
- الإجراءات التي تم تنفيذها.
وهذا لا يعني أن AI يجب أن يتخذ جميع القرارات بنفسه. في الحوادث الحساسة، يجب أن تكون هناك آلية واضحة للتصعيد والمراجعة.
وتشير NIST في أعمالها الحديثة حول Cyber AI Profile إلى أهمية التعامل مع مخاطر أنظمة AI نفسها، إلى جانب الاستفادة من AI في تعزيز الدفاع السيبراني.
كيف تحمي شركة صغيرة نفسها باستخدام الذكاء الاصطناعي؟
ليس من الضروري أن تكون لديك ميزانية شركة ضخمة حتى تبدأ.
يمكن البدء من الأساسيات:
- تفعيل المصادقة متعددة العوامل.
- تحديث الأنظمة والبرامج باستمرار.
- استخدام مدير كلمات مرور موثوق.
- تدريب الموظفين على التصيد.
- نسخ البيانات المهمة احتياطيًا.
- مراقبة تسجيلات الدخول.
- استخدام أدوات أمنية قادرة على تحليل التنبيهات.
- تحديد صلاحيات كل مستخدم.
وتوفر NIST أيضًا إرشادات موجهة إلى الشركات الصغيرة تساعدها على التعامل مع مخاطر الأمن السيبراني دون الحاجة إلى بنية تقنية ضخمة.
وهنا يمكن أن يكون AI مساعدًا في تحليل المخاطر وكتابة السياسات وإنشاء قوائم المراجعة، لكن لا ينبغي أن يحل محل إجراءات الحماية الأساسية.
كيف تستخدم الذكاء الاصطناعي لتحليل المخاطر الأمنية؟
يمكن إعطاء AI وصفًا عامًا للبنية التقنية وطلب مساعدته في بناء قائمة بالمخاطر المحتملة.
على سبيل المثال:
أنت مساعد متخصص في الأمن السيبراني. لدي شركة صغيرة تستخدم: - موقعًا إلكترونيًا. - بريدًا إلكترونيًا للشركة. - تخزينًا سحابيًا. - 20 موظفًا. - نظام CRM. - أدوات ذكاء اصطناعي. أريد: 1. تحديد أهم المخاطر المحتملة. 2. تصنيف المخاطر حسب الأولوية. 3. تحديد البيانات الحساسة التي يجب حمايتها. 4. اقتراح إجراءات وقائية. 5. إنشاء قائمة مراجعة أمنية شهرية. لا تفترض وجود أنظمة غير مذكورة. لا تقدم أي معلومة على أنها بديل عن تقييم أمني متخصص.
هذه الطريقة مفيدة كخطوة أولية، لكن نتائج AI يجب مراجعتها من شخص لديه معرفة حقيقية بالبيئة التقنية.
هل الذكاء الاصطناعي يجعل الأمن السيبراني أسهل؟
الإجابة ليست ببساطة نعم.
AI يستطيع تقليل الوقت اللازم لتحليل كميات ضخمة من البيانات، وتلخيص التنبيهات، ومساعدة الفرق في اكتشاف الأنماط والاستجابة.
لكنه في الوقت نفسه يضيف مخاطر جديدة مرتبطة بالنماذج والبيانات والتعليمات والأدوات والصلاحيات.
وتوضح OWASP أن المخاطر الخاصة بتطبيقات LLM تشمل Prompt Injection، وتسريب المعلومات الحساسة، ومشكلات سلسلة التوريد، وتسمم البيانات، والصلاحيات الزائدة، وضعف أنظمة RAG والـ Embeddings وغيرها.
لذلك فإن استخدام AI في الأمن يحتاج إلى مفهوم أساسي: الأتمتة لا تعني التخلي عن الرقابة.
دور RAG في أمن أنظمة الذكاء الاصطناعي
إذا كانت الشركة تستخدم AI للإجابة عن أسئلة مرتبطة بمستنداتها الداخلية، فقد تحتاج إلى طريقة تجعل النموذج يعتمد على مصادر محددة بدل الاعتماد على معلومات عامة.
هنا يأتي دور RAG في الذكاء الاصطناعي، الذي يسمح للنظام باسترجاع المعلومات من مصادر محددة ثم استخدامها في إنتاج الإجابة.
لكن RAG ليس حلًا أمنيًا تلقائيًا. إذا كانت المستندات تحتوي على بيانات حساسة أو كانت صلاحيات الوصول إليها غير مضبوطة، فقد يؤدي النظام إلى كشف معلومات لا ينبغي للمستخدم رؤيتها.
ولهذا يجب أن يكون التحكم في الوصول إلى البيانات جزءًا من تصميم النظام منذ البداية.
قائمة سريعة لتأمين استخدام AI داخل الشركة
قبل السماح للموظفين باستخدام أي أداة ذكاء اصطناعي مع بيانات الشركة، اسأل:
- ما البيانات التي ستدخل إلى النظام؟
- هل تحتوي على معلومات سرية؟
- من يستطيع الوصول إليها؟
- هل يتم تخزينها؟
- هل يستطيع النظام الوصول إلى أدوات أخرى؟
- ما الصلاحيات التي يمتلكها؟
- هل يتم تسجيل العمليات المهمة؟
- هل توجد مراجعة بشرية؟
- ماذا يحدث إذا أخطأ النظام؟
هذه الأسئلة تصبح أكثر أهمية عندما تنتقل الشركة من استخدام Chatbot بسيط إلى أنظمة تعتمد على Agentic AI وتنفيذ الإجراءات بصورة شبه مستقلة.
مستقبل الذكاء الاصطناعي والأمن السيبراني في 2026 وما بعدها
الاتجاه الحالي واضح: AI سيصبح جزءًا من أدوات الدفاع، وفي الوقت نفسه ستصبح حماية AI نفسها جزءًا من الأمن السيبراني.
ولهذا تتجه المؤسسات إلى التفكير في الأمن على مستويين:
المستوى الأول: استخدام AI لحماية الأنظمة والبيانات.
المستوى الثاني: حماية نماذج AI والوكلاء والبيانات والأدوات التي تعتمد عليها الشركة.
الخلاصة
الذكاء الاصطناعي في الأمن السيبراني يغير طريقة اكتشاف التهديدات وتحليل البيانات والاستجابة للحوادث، ويمكن أن يساعد الشركات على التعامل مع كميات كبيرة من المعلومات بسرعة أكبر.
لكن استخدام AI لا يعني أن الشركة أصبحت محمية تلقائيًا. على العكس، كلما زادت قدرة النظام على الوصول إلى البيانات والأدوات، زادت الحاجة إلى الصلاحيات المحدودة والمراقبة والتسجيل والمراجعة.
إذا كنت تبدأ الآن، فلا تحاول أتمتة كل شيء. ابدأ بمهمة واضحة مثل تحليل التنبيهات أو تلخيص الحوادث أو مراجعة المخاطر، ثم اختبر النتائج ووسع الاستخدام تدريجيًا.
والقاعدة الأهم هي: استخدم الذكاء الاصطناعي لتقوية الأمن، ولا تجعل الذكاء الاصطناعي نفسه نقطة ضعف جديدة.
أسئلة شائعة حول الذكاء الاصطناعي في الأمن السيبراني
ما هو الذكاء الاصطناعي في الأمن السيبراني؟
هو استخدام تقنيات الذكاء الاصطناعي لتحليل البيانات الأمنية واكتشاف الأنماط غير الطبيعية ومساعدة فرق الأمن في اكتشاف التهديدات والاستجابة للحوادث.
هل يستخدم المهاجمون الذكاء الاصطناعي؟
نعم، يمكن استخدام AI من جانب المهاجمين في بعض مراحل الهجوم، مثل البحث والتحليل وإنشاء محتوى احتيالي، ولذلك تستخدم فرق الأمن AI أيضًا لتسريع الدفاع واكتشاف التهديدات.
ما هو Prompt Injection؟
هو نوع من الهجمات التي يحاول فيها المهاجم إدخال تعليمات تؤثر في سلوك نموذج الذكاء الاصطناعي بطريقة غير مقصودة من مطور النظام.
هل AI Agents آمنة؟
تعتمد سلامة AI Agents على تصميم النظام والصلاحيات والبيانات والأدوات المتصلة به وآليات المراقبة والمراجعة. إعطاء الوكيل صلاحيات أكبر من حاجته يمكن أن يزيد المخاطر.
هل يمكن لشركة صغيرة استخدام AI في الأمن السيبراني؟
نعم، يمكن للشركات الصغيرة استخدام AI للمساعدة في تحليل المخاطر والتنبيهات والتوعية وإنشاء قوائم المراجعة، مع الاهتمام أولًا بأساسيات الأمن مثل المصادقة متعددة العوامل والتحديثات والنسخ الاحتياطي.
هل RAG آمن تلقائيًا؟
لا. RAG يساعد النظام على استخدام مصادر محددة، لكن يجب تأمين البيانات ومراجعة صلاحيات الوصول إليها لمنع كشف معلومات غير مصرح بها.
مصادر رسمية للتوسع
للتعمق في أمن تطبيقات الذكاء الاصطناعي، يمكن الرجوع
إلى OWASP GenAI Security Project الذي يقدم قائمة محدثة بأهم مخاطر تطبيقات LLM والذكاء الاصطناعي التوليدي.
وإلى NIST Cybersecurity Framework لفهم كيفية تنظيم إدارة المخاطر الأمنية.
كما يمكن متابعة Microsoft Security للاطلاع على الاتجاهات الحديثة في استخدام AI للدفاع السيبراني، خصوصًا مع تحول الذكاء الاصطناعي إلى جزء من بيئة التهديد والدفاع في الوقت نفسه.
ولفهم الجانب التقني المرتبط بوكلاء الذكاء الاصطناعي، يمكنك أيضًا الانتقال إلى مقال وكلاء الذكاء الاصطناعي AI Agents، ثم قراءة MCP في الذكاء الاصطناعي لفهم كيفية ربط النماذج بالأدوات والبيانات، وكذلك Function Calling لفهم الطريقة التي تتعامل بها النماذج مع الوظائف والأدوات.
التعليقات