أقرت شركة "أنثروبيك" الأمريكية لتقنيات الذكاء الاصطناعي والمسؤولة عن أداة الدردشة "كلود" أن حوادث هروب النماذج من بيئتها الاختبارية تعكس فشلا في الأمن التشغيلي لبيئات الاختبار الخاصة بها، مؤكدة أنها شددت إجراءات الاختبارات الخاصة بها وفق بيان الشركة.
وأوضحت "أنثروبيك" أنها قامت بتجميد ما يتجاوز 10% من بيئات التعليم المعزز الاختبارية في أبريل/نيسان الماضي عقب اكتشافها خللا في آليات اختبار النماذج قد يجعلها قادرة على إخفاء تفكيرها والخطوات التي اتخذتها للوصول إلى النتيجة النهائية، واستمر هذا التجميد نحو شهر.
ودفع هذا الشركة لوصف تقنياتها بأنها غير متوافقة تماما مع القيم والأهداف البشرية وفق تقرير صحيفة "غارديان" عن البيان، مشيرة إلى أنها تعمدت اختبار النماذج دون توفير ضمانات للأمن السيبراني، وهو ما مكنها من الوصول إلى الإنترنت المفتوح.
وكانت الشركة في وقت سابق أقرت أن نماذجها اخترقت ثلاث مؤسسات في ثلاثة حوادث مختلفة، ولم تستطع الشركة اكتشاف هذا الاختراق إلا في يوليو/تموز الماضي، أي بعد حدوثه بنحو ثلاثة أشهر.
وتابعت الشركة حديثها مبررة ما حدث بأنها كانت تعتمد على طبقة واحدة من الدفاعات السيبرانية، بينما كانت تحتاج إلى أكثر من طبقة لمنع مثل هذه الحوادث.
كما عزت ذلك إلى أن النماذج فسرت قدرتها على الوصول إلى الإنترنت بأنها ما تزال ضمن البيئة الاختبارية وليست خارجها، وأضافت أن النماذج "كانت مستعدة لاتخاذ إجراءات ضارة في سبيل إنجاز المهمة الضيقة المطلوبة منها".
التعليقات (0)