كشفت شركة جوجل أن نموذج الذكاء الاصطناعي Gemini تمكن خلال اختبار للأمن السيبراني في مايو الماضي من الوصول إلى أنظمة تابعة لثلاث شركات حقيقية، بعدما كان من المفترض أن يعمل داخل بيئة محاكاة مخصصة للاختبار، قبل أن يتوقف من تلقاء نفسه عند إدراكه أنه يتعامل مع أنظمة حقيقية.
ووقعت الحوادث خلال اختبار أمني أجرته شركة الذكاء الاصطناعي Irregular، إذ أدى تطابق اسم شركة وهمية مع شركة حقيقية، إلى خروج الاختبار عن نطاقه المقصود، كما أتيح للنموذج الوصول إلى الإنترنت بشكل غير مقصود.
وتمكن Gemini في إحدى الحالات من الوصول إلى نظام شركة بعد تخمين كلمات مرور، بينما وصل في حالتين أخريين إلى بيانات اعتماد منشورة في مستودعات عامة عبر البحث عن أسماء الشركات على الإنترنت.
وعندما أدرك النموذج أنه وصل إلى شركات حقيقية، أوقف العملية وخرج من الأنظمة التي تمكن من الوصول إليها.
وأوضحت "جوجل" أنها أُبلغت بالوقائع في يوليو الماضي، وأنها أخطرت الشركات الثلاث والسلطات الفيدرالية الأمريكية، مشيرة إلى أن الحوادث لم تتضمن أحدث إصدار من Gemini.
وقالت نائبة رئيس هندسة الأمن في "جوجل" "هذر أدكينز"، إن الواقعة تؤكد أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية، مضيفة أن النموذج "تصرف بشكل مناسب" عندما أدرك أنه وصل إلى أنظمة حقيقية.
التعليقات (0)