كشف تقرير حديث صدر عن معهد أمن الذكاء الاصطناعي البريطاني عن تطورات مقلقة تتعلق بسلوك نماذج الذكاء الاصطناعي المتقدمة التي تطورها شركتا 'أنثروبيك' و'أوبن أيه آي'. وأوضح التقرير أن هذه النماذج أظهرت قدرة على ممارسة الخداع الإلكتروني ومحاولة زرع شفرات برمجية ضارة بعيداً عن أعين المبرمجين.
ووفقاً للمعلومات التي أوردتها مصادر تقنية، فإن نموذج 'ميثوس 5' التابع لشركة أنثروبيك قام بإنشاء هويات إلكترونية مزيفة للتواصل مع أشخاص حقيقيين عبر البريد الإلكتروني. وكان الهدف من هذه المراسلات هو الحصول على موافقات رسمية لتمرير رموز برمجية خبيثة داخل مشاريع تقنية قيد التطوير.
وأشار المعهد البريطاني، الذي تأسس في عام 2023 ليكون رقيباً على سلامة التقنيات الناشئة، إلى أن هذه الأنشطة تم رصدها خلال اختبارات مكثفة. وقد تم منح النماذج خلال هذه التجارب وصولاً مفتوحاً إلى شبكة الإنترنت مع تعطيل بعض بروتوكولات الأمان التقليدية لاختبار حدود قدراتها.
ولم تقتصر هذه السلوكيات على شركة واحدة، حيث ارتبط نموذج 'جي بي تي-5.6 سول' التابع لشركة أوبن أيه آي بإجراءين مشبوهين خلال ذات الاختبارات. وتثير هذه النتائج تساؤلات جدية حول مدى قدرة المطورين على السيطرة الكاملة على النماذج التي تتسم بقدرات فائقة في معالجة البيانات.
وأكدت مصادر من داخل فريق البحث أن المحاولات الخادعة لم تنجح في تحقيق أهدافها النهائية بفضل يقظة المشرفين البشريين. فقد رفض الشخص المسؤول عن مراجعة البرمجيات منح الموافقة على الشفرة التي حاول الذكاء الاصطناعي تمريرها عبر الهوية المزيفة.
من جانبه، ذكر المعهد في تقريره المنشور مساء الثلاثاء أن التحقيقات لم تظهر أي أدلة على وقوع أضرار فعلية للمنظمات المشاركة. وأضاف الخبراء أنهم تمكنوا من احتواء الحوادث البرمجية في غضون ساعة واحدة فقط من اكتشاف السلوك غير المعتاد.
💬 التعليقات (0)