كشفت جوجل أن نموذج الذكاء الاصطناعي المتقدم "جيميني" تمكن، خلال اختبار أمني أُجري في مايو/أيار الماضي، من الوصول إلى أنظمة تابعة لثلاث شركات حقيقية واختراقها، في واقعة تعد من أبرز المؤشرات على تنامي قدرات نماذج الذكاء الاصطناعي في مجال الهجمات السيبرانية.
وكان الاختبار يهدف في الأساس إلى تقييم قدرات النموذج على اكتشاف الثغرات داخل بيئة مغلقة تضم شركات وهمية، إلا أن إتاحة الاتصال بالإنترنت بصورة غير مقصودة سمحت للنموذج بالوصول إلى أنظمة حقيقية.
ووفق المعلومات المتاحة، تمكن "جيميني" في إحدى الحالات من الوصول إلى نظام شركة حقيقية بعدما تطابق اسمها مع شركة وهمية داخل بيئة الاختبار، بينما استخدم في حالتين أخريين بيانات دخول متاحة علناً للوصول إلى أنظمة تابعة لشركات حقيقية. وأوقف النموذج أنشطته بعدما أدرك أن الأهداف التي وصل إليها لم تكن جزءاً من الاختبار.
وتسلط الواقعة الضوء على تحدٍ متزايد أمام شركات التكنولوجيا، يتمثل في أن نماذج الذكاء الاصطناعي الأكثر تطوراً لم تعد تقتصر على إنتاج النصوص أو تحليل المعلومات، وإنما أصبحت قادرة على تنفيذ سلسلة من المهام بصورة مستقلة، بما في ذلك اكتشاف الثغرات والتفاعل مع الأنظمة الرقمية.
ويأتي ذلك في وقت تتزايد فيه التحذيرات داخل قطاع التكنولوجيا من تسارع تطوير الذكاء الاصطناعي. وكانت شركة «أنثروبيك» قد ناقشت إطلاق نموذج جديد لمنافسة «أوبن إيه آي»، بالتزامن مع دعوات من قيادات في القطاع إلى إبطاء وتيرة تطوير القدرات المتقدمة وإعطاء أولوية أكبر للسلامة.
كما من المقرر أن يقدم الرئيس التنفيذي لـ"أوبن إيه آي"، سام ألتمان، إحاطة لمجلس الأمن الدولي الأسبوع المقبل حول سلامة الذكاء الاصطناعي والأمن الدولي والحاجة إلى تنسيق المعايير المتعلقة بهذه التكنولوجيا.
التعليقات (0)