"مايكروسوفت" تحذر من المخاطر الأمنية المتزايدة لوكلاء الذكاء الاصطناعي

حذّرت شركة "مايكروسوفت" من المخاطر الأمنية المتزايدة لوكلاء الذكاء الاصطناعي داخل المؤسسات.

وأكدت أن النماذج المتقدمة لا يمكن الوثوق بها بالكامل، حتى عندما تطوّرها شركات متخصصة.

وأعلنت الشركة عن أدوات جديدة لمراقبة سلوك هذه الوكلاء، وتقييد صلاحياتهم، والحد من المخاطر التي قد تنجم عن قراراتهم.

وأعلنت "مايكروسوفت" ميزة "Guardian Agents" المصممة لمراقبة وكلاء الذكاء الاصطناعي الذين تستخدمهم المؤسسات.

وتندرج الميزة ضمن مشروع "Project Perception"، الذي أطلقته الشركة في يونيو الماضي لتعزيز قدرات الأمن السيبراني المدعومة بالذكاء الاصطناعي.

واعتمد مشروع "Project Perception" عند إطلاقه على ثلاثة أنواع من الوكلاء؛ وهم فريق أحمر يحاكي المهاجمين ويختبر الأنظمة عبر شن هجمات عليها، وفريق أزرق يرصد الهجمات ويقيّم الثغرات الأمنية، وفريق أخضر يتولى معالجة هذه الثغرات.