Gartner كتأكد بلي نشر AI Agents زاد بالزربة وفايت قدرات الحكامة ديال الشركات

TL;DR التقرير الأول ديال Gartner بعنوان Market Guide for Guardian Agents كيقول بلي تبني الذكاء الاصطناعي (AI agents) فالشركات كيتسارع كثر من النضج ديال ضوابط سياسات الحكامة. على حساب التحليل ديال Orchid Security، تقريبا النص ديال نشاط الهوية (identity activity) فالشركات كيوقع خارج الرؤية المركزية ديال IAM، وهادشي كيخلق داكشي لي كيسميوه فرق الأمن "identity dark matter" (المادة المظلمة ديال الهوية). الشركات ماعندهاش قوائم جرد مركزية للـ AI agents لي خدامين فالبيئات ديالها، و بيانات اعتماد (credentials) الثابتة باقة كتعتبر من نواقل الهجوم الشائعة لاستغلال هاد الثغرات فالحكامة.

شنو طرا

Gartner وثقات واحد عدم تطابق هيكلي بين السرعة ديال نشر AI agents فالشركات والمستوى ديال النضج ديال أطر حكامة الهوية لي مصاوبة باش تراقبهم. هاد الشركة ديال التحليل قالت فالنسخة الأولى ديال Market Guide for Guardian Agents بلي "تبني الشركات للـ AI agents كيتسارع، وغايفوت النضج ديال ضوابط سياسة الحكامة."

المشكل الأساسي كيتعلق بالـ architecture. الأنظمة التقليدية ديال إدارة الهوية والوصول (IAM) تبنات على قبل المستخدمين البشريين لي كيديرو تسجيل الدخول والخروج من الأنظمة. لكن هاد الـ AI agents خدامين تحت ظروف مبدلة: كيبقاو خدامين ديما، كيتنقلو بين شحال من application، كياخدو الصلاحيات بشكل انتهازي، وكينتجو نشاط بسرعة الآلة. هاد الاختلاف فالسلوك كيخلق فجوات فالرؤية لي منصات IAM التقليدية ماكتقدرش تغطيها.

شركة Orchid Security، لي تعتارف بيها كـ Representative Vendor فـ Market Guide ديال Gartner، كتوصف هاد الفجوة فالرؤية بـ "identity dark matter" — واحد الطبقة مامرياّش ومامراقباش ديال نشاط الهوية خدامة تحت الرادار ديال منصات IAM العادية. على حساب التحليل ديال Orchid، تقريبا النص ديال نشاط الهوية فالشركات كيوقع برا على الرؤية المركزية ديال IAM. وهاد الشركة ديال الأبحاث كتشير بلي واخا بزاف ديال الهويات كيكونو فـ directories مركزية والضوابط متوفرة فـ tools ديال IAM المركزية، كاين نفس العدد ديال الهويات والضوابط لي عايشين وسط الـ applications براسهم.

واحد الاكتشاف مهم: بزاف ديال الشركات ماعندهاش جرد مركزي ديال الـ AI agents لي خدامين فالبيئة ديالهم، بلا ما نهدرو على الرؤية ديال شنو كيديرو هاد agents، شنو هي البيانات لي كيوصلو ليها، أو شنو هما الهويات لي كيستعملو باش ينفذو العمليات ديالهم.

علاش هادشي مهم

بالنسبة للـ مطورين، و sysadmins، ومحللي الـ SOC فمنطقة الشرق الأوسط وشمال إفريقيا، هاد الفجوة عندها عواقب تشغيلية مباشرة.

بالنسبة للـ مطورين: الـ AI agents لي مدمجين فالـ applications، أو منصات SaaS، أو لي كيتصاوبو داخليا من طرف فرق التطوير، بداو كيكترو فبزاف ديال الأقسام ديال الشركات بسرعة فايتة العمليات ديال الحكامة لي خاصها تتبعهم. بلا جرد ومراقبة مركزية، فرق التطوير يقدرو يعطيو للـ agents صلاحيات كبر من داكشي لي محتاجين للخدمة ديالهم بلا ما يقصدو، أو يسببو مشاكل متعلقة بالامتثال والمراجعة.

بالنسبة للـ sysadmins: بيانات اعتماد الثابتة (Static credentials) — بحال service accounts، و API tokens، و machine-to-machine credentials، والحسابات ديال الطوارئ "break glass" — كيتجمعو فالـ cloud، وفالأنظمة المحلية (on-premise)، وحسابات local. يلا بقاو بلا مراقبة وتسيير، هاد بيانات اعتماد كيوليو أهداف قيمة للـ مهاجمين ونقاط دخول شائعة للـ AI agents لي كيستغلو identity dark matter. المشهد ديال تبديل وتجديد بيانات اعتماد (credential rotation) ولا دابا مشتت بين بزاف ديال الأنظمة والطبقات ديال الرؤية، وهادشي كيخلي عمليات التدقيق الشاملة صعيبة باش تدار بالـ tools التقليدية.

بالنسبة لمحللي الـ SOC: النشاط لي كينتجوه الـ AI agents لي ماراقبينش كيتم بسرعة الآلة وكيمتد لبزاف ديال الـ applications. بلا مانشوفو الهوية من المصدر (source-level identity observability)، فرق الـ SOC مايقدروش يبنيو سلاسل تدقيق (audit chains) كاملة كتربط بين الأفعال ديال agent والمالك البشري المسؤول عليه، وهادشي كيعقد الاستجابة للحوادث وإعداد تقارير الامتثال.

الطبيعة الهيكلية ديال هاد المشكل كتعني بلي راه مايمكنش يتحل غير بزيادة connectors جديدة لمنصات IAM لي موجودين حاليا. أغلب الـ tools ديال الهوية كيحبسو عند الحدث ديال تسجيل الدخول (login event) وماكيراقبوش داكشي لي كيوقع لداخل فالـ applications من بعد المصادقة.

الأنظمة المتضررة و CVEs

توقيت نشر هاد المقال مازال ما تعين حتى CVE ديال هاد الثغرات بشكل مباشر لأن الأمر متعلق بمشكل فالحكامة والهيكلة.

المنتجات والشركات المذكورة:

• مقالة Gartner Market Guide for Guardian Agents
• منصة Orchid Security والـ agent لي سميتو Ask Orchid

شنو خاص يدار

الشركات خاصها تعطي الأولوية لهاد الإجراءات للحد من هاد المخاطر:

• تصايب جرد مركزي لجميع لي AI agents لي خدامين وسط البيئة ديال الشركة، ويكون فيه الغرض ديالهم، ومنين تنشرو، ومستوى المخاطر ديالهم.
• تطبيق المراقبة ديال الهويات (identity observability) من المصدر ديال الـ application، باش يقدرو يشوفو حسابات المستخدمين، ومسارات المصادقة، وصلاحيات الوصول، والنشاط وقت التشغيل (runtime activity) مباشرة وسط الـ applications، بلا ما يعتامدو غير على الـ tools المركزية ديال IAM.
• تقييم وضعية الامتثال لمعايير NIST عند الطلب باستعمال أدوات لي كتقلب فالضوابط ديال الهوية فالطبقة ديال binary والإعدادات وسط الـ applications، بلا ما يتسناو عمليات التدقيق الخارجية.
• القيام بعملية جرد وتدقيق مستعجلة لـ بيانات اعتماد (static credentials) الثابتة فالـ cloud، الأنظمة المحلية (on-premise)، والحسابات المحلية.
• تبني نهج كيعطي الأولوية على حساب مستوى الخطر بالنسبة لعملية تجديد بيانات اعتماد (credential rotation)، بشكل اللي كياخد بعين الاعتبار درجة الانكشاف (exposure level) والأهمية.
• تطبيق مبدأ الإسناد من إنسان لـ agent باش يتم ربط أي حركة كيديرها الـ AI agent بالشخص الحقيقي المسؤول عليها، وهادشي باش تكون المائلة والمراقبة دقيقة على النشاط لي كتديرو الآلات.
• توثيق سلسلة ديال المراجعة والتدقيق (audit chain) كاملة للنشاط ديال agent، لي كتشمل Agent ← الأداة/API ← الفعل ← الهدف، وهادشي باش يعاونو فالتقارير ديال الامتثال والاستجابة للحوادث.
• تطبيق ضوابط (guardrails) تفاعلية وكتعتامد على السياق لتقييم الوصول بصفة مستمرة بناءً على السياق الآني ومدى حساسية الموارد المستهدفة.

أسئلة باقة مطروحة

• تاريخ النشر ديال Gartner للنسخة الأولى من Market Guide for Guardian Agents ما مذكورش فالمصدر.
• المصدر ما كيوضحش شحال ديال الشركات حاليا لي ماعندهاش قوائم جرد للـ AI agents أو ضوابط حكامة.
• مكاينينش أمثلة محددة على شركات لي وقعات ليها اختراقات أو حوادث بسباب AI agents مامراقبينش، أو بيانات اعتماد ثابتة تستغلات بهاد الطريقة.
• المنهجية والنطاق ديال التحليل ديال Orchid Security لي كيقول بلي "تقريبا النص" ديال نشاط الهوية واقع بلا مراقبة ما مشروحينش بالتفصيل فالمصدر.
• المصدر ما كيعطيش معدلات التبني أو بيانات ديال اختراق السوق بالنسبة لـ Orchid Security أو لحلول Guardian Agent أخرى مشابهة.
• ما كاينش إطار زمني كيحدد شحال بالزربة كتوسع هاد الفجوة فالحكامة مقارنة مع التسارع ديال نشر AI agents.

المصدر

Your AI Agents Are Already Inside the Perimeter. Do You Know What They're Doing?