فرق السيكيريتي ناقصاهم المعرفة الأساسية بـ Agentic AI لي ديجا خدام فبيئات الإنتاج

TL;DR: أنظمة Agentic AI راها كدير مهام وكتاصل لبيانات حساسة فبيئات الـ production ديال المؤسسات، وغالبا بلا ما تدخل فرقة السيكيريتي. أغلبية المتخصصين فالسيكيريتي مازال مافاهمنش هاد الأنظمة مزيان باش يدافعو عليها بفعالية. الهوة بين سرعة الـ deployment والكفاءة الأمنية غادا وكتوسع، وهادشي كيخلق خطر فالمؤسسات لي سبابو الحقيقي ماشي العيوب فالتكنولوجيا بحد داتها، ولكن قرارات الكونفيكراسيون (configuration) لي دارت بلا استشارة ديال السيكيريتي.

شنو واقع

Agentic AI مابقاش غير تجربة. التكنولوجيا ديجا تم النشر ديالها وخدامة فـ production اليوم، ولات مدمجة مع الـ workflows ديال أي مطور، ومربوطة مع خدمات الشركة عن طريق Model Context Protocol (MCP)، وزايدون كيبنيوها موظفين ماعندهمش تكوين تقني فالأقسام الأخرى باستعمال أدوات low-code ولا no-code.

هاد النمط ديال الـ deployment كيشبه للتحولات التكنولوجية لي دازت: الأقسام ديال البيزنس كيزيدو للقدام حيت الإضافة التكنولوجية مهمة بالنسبة ليهم، وكيخليو السيكيريتي حتى اللخر عاد كيتشاورو معاها ولا كاع ماكيشاوروهاش للأسف، والمؤسسة كتكتشف الخطر لي كانت معرضة ليه حتى كيوليو الأنظمة live.

كاينين دابا تلاتة ديال الأنواع ديال Agentic AI لي خدامين. الأول كيضم أدوات البرمجة والانتاجية بحال Claude Code و GitHub Copilot، لي ديجا مدمجة فطريقة الخدمة دالمطورين وخا ماتكونش كاع الموافقة الرسمية. التاني كيتكون من لي agents لي صاوبوهم لي vendors ومبنيين على MCP، لي هو طبقة كتمكن هاد الـ agents باش يتواصلو مع خدمات خارجية — بحال التقويمات (calendars)، سيستيم ديال الإيميلات، ومنصات ديال دعم التيكيت — ويديرو إجراءات بالنيابة عنهم. تقريبا أي vendor كبير يقدر يكون عندو سيرفور MCP خدام دابا ولا راه كيبني فيه. النوع التالت هو لي agents المخصصين لي كيبنيوهم المستخدمين العاديين بلا شي مراجعة ديال السيكيريتي (security review).

Agentic AI حيد واحد الحاجز لي كان شحال هادي: القدرة باش تبني أدوات خدامة وعندها أكسي حقيقي للسيستيم مابقاتش كتحتاج مهارات تقليدية ديال البرمجة. أي واحد فالمؤسسة دابا يقدر يصايب automations، وworkflows، وagents عندهم صلاحيات باش يديرو أفعال فالأنظمة الداخلية.

الأغلبية ديال هاد لي agents المخصصين ماغاديش يدوزو من مراجعة ديال السيكيريتي قبل ما تم عملية الـ deployment ديالهم.

علاش هادشي مهم

المبدأ الأساسي ديال أمن المعلومات ماتبدلش: الفهم العميق والحقيقي ديال أي تكنولوجيا خاصو ديما يسبق الدفاع عليها باش يقدر يكون عندو معنى ويفيد كثر. فاش الشركات كينقزو هاد الخدمة — بحال لي دارو مع لي firewalls قبل مايفهمو مزيان الـ networking، وكيفاش دارو مع الكلاود قبل مايطورو ممارسات السيكيريتي ديال cloud-native — كيصدقو عندهم أنظمة مكيفهموش كيفاش كتفكر ومكيعرفوش يتعاملو معاها.

فرق السيكيريتي لي ماكيهضروش اللغة ديال Agentic AI كيتجاوزوهم بسرعة. كيفقدو القدرة باش يعارضو قرارات التصميم (design)، ولا يقترحو ضوابط (controls) خدامة، ولا يطرحو أسئلة مبنية على المعرفة. الأقسام ديال البيزنس كيزيدو للقدام بلا بيهم. وهادشي ماشي بالعاني؛ هو نتيجة حتمية فاش كتكون فرقة السيكيريتي ماقادراش تتفاعل بعمق مع التكنولوجيا.

مساحة الهجوم التطبيقية راها ملموسة وموجودة. شي agent عندو أكسي للـ terminal ולـ inbox ديال الإيميل يقدر أي مهاجم يتحكم فيه عن طريق أي واحد فيهم باش ينفذ אוامر فالاخور — هادي طريق ديال lateral movement غادي يستغلوها. إضافة دعوة خبيثة فالكالوندريي فيها تعليمات مخبعة فالوصف ديال الموعد هادي راها attack vector حقيقي؛ الـ agent كيقراها، كيفهم الـ payload لي مخبي على شكل prompt، وكينفزو. مساعد AI مستضاف ذاتيا (self-hosted) ومربوط مع Telegram بلا ضوابط صحيحة كيولي نقطة دخول مفتوحة لأي واحد كيرسل ليه ميساج.

لي مهم كثر، هاد المخاطر والأغلبية ديالها كتجي من كونفيكراسيون ماشي آمنة (insecure configuration) كثر من عيوب أساسية فالأدوات بحد داتها. قرار ديال كونفيكراسيون واحد — بحال باش تربط agent مع حساب واحد موثوق، وتخليه يخدم غير فالنطاق ديالو (scoping)، وتحد من الصلاحيات ديال الأكسي ديالو — يقدر ينقص من التعرض للخطر بشكل دراماتيكي. هاد القرارات كتحتاج الدخول ديال السيكيريتي بكري فمرحلة التصميم (design phase)، وهادشي مادايرش حاليا بالشكل الكافي.

البعد ديال سلسلة التزويد (supply chain) كيزيد يكبر المشكل: بما أن الفرق لي ماشي ديال السيكيريتي كيديرو deployment للـ agents بلا مراجعة، مساحة الهجوم ديال الشركة كتكبر بطرق لي الـ vulnerability scanning العادي و الـ monitoring ديال الريزو ماكيبينوهاش كاع.

الأنظمة المتضررة والـ CVEs

ماين حتى شي ثغرة CVE تعينات على حساب وقت النشر ديال هاد المقال.

المنتجات لي معروفة باللي خدامة ديجا:

• Claude Code
• GitHub Copilot
• Model Context Protocol (MCP)
• Telegram (كنقطة اندماج وتواصل)

شنو خاص يدار

• خاصنا نطوروا المعرفة الأساسية ديال كيفاش مبنية الـ applications ديال AI، وبما فيها كيفاش هاد لي agents كيستقبلو المدخلات (inputs)، كيربطو الأدوات مع بعضياتهم، وكيخرجو النتائج (outputs).
• جربو أدوات Agentic AI لي ديجا خدامين بيها المطورين (hands-on). صاوبو شي agent. ديرو تجارب على هاد الـ frameworks والأدوات لي ديجا الشركة ديالكم كتستعملها.
• حطو ضوابط ديال السيكيريتي مبنية على الكونفيكراسيون قبل ما يوليو لي agents قيد الاستعمال (go live). قيدو المهام دلي agents غير فداكشي لي مصاوبين على قبلو (scoping) بصرامة؛ مثلا agent لي كيجيَري الكالوندريي ماخاصش يكون عندو تدخلو للـ terminal.
• طبقو أنماط ديال الكونفيكراسيون بحال ربط كل agent مع حسابات محددة موثوقة، عوض ما تخليه يتجاوب مع مدخلات خارجية عشوائية.
• ديرو إجراءات ديال مراجعة السيكيريتي للـ agents المخصصين قبل الـ deployment ديالهم، واعتبروهم بحال مشكل فالسيكيريتي ديال سلسلة التزويد.
• قيدو الأكسي ديال الـ agents غير للحسابات، القنوات، ولا الأنظمة المحددة والموثوقة لي ضرورية باش يخدمو.
• دخلو فرق السيكيريتي بكري فمرحلة التصميم فاش تبغيو تديبلوييو الـ agents، باش تقدرو تحددو النطاق الصحيح (scoping)، الصلاحيات، وضوابط الوصول (access controls).
• بقاو ديما مطالعين على أطر العمل وتصنيفات التهديد (threat taxonomies) ديال AI سيكيريتي لي عاد بانت وكتطور. منتجات ديال السيكيريتي خاصة بـ AI من عند لي vendors بداو كيوصلو للسوق؛ وكتحتاج المعرفة الأساسية بكيفاش كتخدم هاد الـ applications باش تقدر تقيمها مزيان.

أسئلة مطروحة

• المقال ما حددش بالضبط فوقاش بدا الانتشار الواسع ديال الـ deployment ديال Agentic AI فـ production ولا الحجم لي تبنات به الشركات هادشي ديجا.
• ماتعطاو حتى أمثلة ديال هجمات حقيقية كتستهدف Agentic AI ولا MCP פالواقع.
• الجدول الزمني لي غادي يولي فيه النقص دالكفاءة عند فرق السيكيريتي مشكل حرج (critical) مازال ماتحددش.
• تم ذكر تصنيفات التهديد ديال OWASP بخصوص Agentic AI بلي راها كتطور، ولكن ماتذكراتش السميات بالضبط.
• مستويات النضج والفعالية ديال المنتجات الخاصة بـ AI سيكيريتي ديال لي vendors مامفصلينش بشكل دقيق.

المصدر

Why Agentic AI Is Security's Next Blind Spot