f 𝕏 W
"جوجل" تكشف: Gemini اخترق 3 شركات حقيقية بالخطأ

وكالة صفا

تكنولوجيا منذ 27 أيام 8 2 د قراءة
زيارة المصدر ←

"جوجل" تكشف: Gemini اخترق 3 شركات حقيقية بالخطأ

كشفت شركة جوجل أن نموذج الذكاء الاصطناعي Gemini تمكن خلال اختبار للأمن السيبراني في مايو الماضي من الوصول إلى أنظمة تابعة لثلاث شركات حقيقية..

ملخص ذكي بالذكاء الاصطناعي
مُلخَّص تلقائياً من الخبر الأصلي
كشفت شركة جوجل عن اختراق نموذج الذكاء الاصطناعي Gemini لأنظمة ثلاث شركات حقيقية عن طريق الخطأ خلال اختبار أمني في مايو الماضي. وقعت الحوادث بسبب تطابق اسم شركة وهمية مع شركة حقيقية، مما سمح للنموذج بالوصول إلى الإنترنت والأنظمة عبر تخمين كلمات المرور أو الوصول إلى بيانات اعتماد عامة. أوقفت جوجل العملية وأبلغت الشركات المتضررة والسلطات الفيدرالية، مؤكدة أن الحوادث لم تشمل أحدث إصدارات Gemini.
أبرز النقاط

كشفت شركة جوجل أن نموذج الذكاء الاصطناعي Gemini تمكن خلال اختبار للأمن السيبراني في مايو الماضي من الوصول إلى أنظمة تابعة لثلاث شركات حقيقية، بعدما كان من المفترض أن يعمل داخل بيئة محاكاة مخصصة للاختبار، قبل أن يتوقف من تلقاء نفسه عند إدراكه أنه يتعامل مع أنظمة حقيقية.

ووقعت الحوادث خلال اختبار أمني أجرته شركة الذكاء الاصطناعي Irregular، إذ أدى تطابق اسم شركة وهمية مع شركة حقيقية، إلى خروج الاختبار عن نطاقه المقصود، كما أتيح للنموذج الوصول إلى الإنترنت بشكل غير مقصود.

وتمكن Gemini في إحدى الحالات من الوصول إلى نظام شركة بعد تخمين كلمات مرور، بينما وصل في حالتين أخريين إلى بيانات اعتماد منشورة في مستودعات عامة عبر البحث عن أسماء الشركات على الإنترنت.

وعندما أدرك النموذج أنه وصل إلى شركات حقيقية، أوقف العملية وخرج من الأنظمة التي تمكن من الوصول إليها.

وأوضحت "جوجل" أنها أُبلغت بالوقائع في يوليو الماضي، وأنها أخطرت الشركات الثلاث والسلطات الفيدرالية الأمريكية، مشيرة إلى أن الحوادث لم تتضمن أحدث إصدار من Gemini.

وقالت نائبة رئيس هندسة الأمن في "جوجل" "هذر أدكينز"، إن الواقعة تؤكد أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية، مضيفة أن النموذج "تصرف بشكل مناسب" عندما أدرك أنه وصل إلى أنظمة حقيقية.

المقال الكامل متوفر على موقع المصدر
اقرأ الخبر كاملاً من وكالة صفا
←

شارك هذه المقالة

التعليقات (0)