اختبارات بريطانية توثق أول محاولة من الذكاء الاصطناعي لخداع البشر.. ما القصة؟

يستمر مسلسل الهجمات السيبرانية التي تقودها نماذج الذكاء الاصطناعي لكبرى المعامل وتحديدا أنثروبيك وأوبن إيه آي، وهذه المرة، اكتشف معهد أمن الذكاء الاصطناعي البريطاني أن نموذج "ميثوس" التابع لأنثروبيك ونموذج "جي بي تي 5.6 سول" التابع لـ"أوبن إيه آي" شنا مجموعة من الهجمات السيبرانية وفق تقرير شبكة "سي إن بي سي" الإخبارية.

ويصف المعهد ما حدث بأنها المرة الأولى التي نرى فيها مخاطر الاستقلالية والخداع تتجلى بوضوح في العالم الحقيقي.

وأوضح التقرير أن نموذج "ميثوس 5" ابتكر هويات مزيفة لخداع مطور بشري للموافقة ونشر شيفرات خبيثة في مكتبة برمجيات مفتوحة المصدر، ولكنه لم تنطل عليه الخدعة ورفض التعديلات، مضيفا أن النموذج كان جزءا من 17 نشاطا مريبا.

واقتصر دور نموذج "جي بي تي 5.6 سول" على نشاطين مريبين فقط مع تعطيل قيود الأمن السيبراني في النموذج، وفق ما جاء في بيان المعهد.

وفي سياق متصل، كشف تقرير وكالة "رويترز" عن آلية الاختبار التي تضمنت إجراء تحديات أمنية للنماذج أكثر من 120 مرة، ظهر فيها 19 نشاطا غير مصرح به خلال 10 جولات اختبارية منفصلة.

ومن جانبها، أفادت أنثروبيك أن النماذج المستخدمة في هذه الاختبارات تعبر عن أي نماذج تجارية متاحة من قبل الشركة لأنها كانت تعمل في بيئة اختبارية متساهلة عمدا، مضيفة أن الاختبارات لم تثبت قدرة النموذج على الهرب من البيئات الاختبارية وإحداث ضرر في الواقع، وذلك عبر منشور في منصة "إكس".