يفتح انتقال الذكاء الاصطناعي من تقديم الإجابات إلى تنفيذ المهام نيابة عن المستخدمين تحديات أمنية جديدة، مع قدرة الوكلاء الرقميين على الوصول إلى الحسابات والملفات والتطبيقات وإرسال الرسائل والتصرف وفق تعليمات أصحابها، وفي هذه البيئة، قد يؤدي خطأ في تحديد وجهة الإرسال أو إدارة الصلاحيات إلى كشف معلومات حساسة، حتى من دون اختراق الحسابات.
وتسلط واقعة نشر بيانات مصرفية في مساحة عمل مشتركة الضوء على هذه المخاطر، ففي تقرير نشره موقع بيزنس إنسايدر الأمريكي قبل أيام، روى الرئيس التنفيذي لشركة إكس إم تي بي لابز (XMTP Labs) الأمريكية، شين ماك، أن وكيلا ماليا أنشأه باستخدام غروك بوت (Grok Bot) نشر أرصدة حساباته ونفقاته الشخصية في قناة تنفيذية على منصة سلاك، بدلا من إرسالها إلى محادثة خاصة.
وبحسب رواية ماك، كان الوكيل مكلفا بإعداد تقارير دورية عن الأرصدة والمصروفات والاشتراكات المتكررة، مع صلاحية الاطلاع على حسابيه الجاري والتوفير، وأشار إلى أن مراجعة الواقعة كشفت التباسا بين وجهتي إرسال تحملان اسمين متشابهين، وأن إجراء إضافيا أُدخل لاحقا لطلب إذن صريح قبل نقل المعلومات إلى قنوات أخرى.
يحتاج الوكيل المالي إلى الاطلاع على بيانات محددة كي يتمكن من تحليل الإنفاق أو إعداد تقارير الميزانية، لكن منحه صلاحية الوصول إلى المعلومات لا يضمن اقتصار استخدامها على المهمة المطلوبة، خصوصا عندما تكون مرتبطة بتطبيقات متعددة، مثل البريد الإلكتروني ومنصات المحادثة والخدمات المصرفية.
وتحذر منظمة أو دبليو إيه إس بي (OWASP) الأمريكية، المتخصصة في أمن تطبيقات الويب، من مخاطر كشف المعلومات الحساسة والاستقلالية المفرطة في تطبيقات الذكاء الاصطناعي، ويمكن أن يؤدي ضعف حماية المخرجات أو منح النظام صلاحيات واسعة إلى مشاركة بيانات خاصة أو تنفيذ إجراءات غير مقصودة.
ولا يشترط حدوث اختراق مصرفي حتى تتعرض المعلومات للتسريب، فقد يحصل الوكيل على البيانات بصورة مشروعة، ثم يرسلها إلى جهة غير مقصودة، كما أن صلاحية القراءة فقط، رغم أنها تمنع إجراء التحويلات أو تعديل الحساب، لا تحمي من كشف الأرصدة وسجل النفقات إذا أُرسلت هذه المعلومات إلى قناة غير مناسبة.
التعليقات (0)