حذرت دراسة أمنية من أن تطور الذكاء الاصطناعي، خصوصا النماذج مفتوحة المصدر، قد يسهل على جهات خبيثة الوصول إلى معلومات لتطوير أسلحة كيميائية وبيولوجية.
وبحسب تقرير أعدته مجموعة الأبحاث Crimson Flare، فإن بعض نماذج الذكاء الاصطناعي المتاحة تجاريا يمكن تعديلها لإزالة أنظمة الحماية المدمجة فيها، بما يسمح لها بالإجابة عن أسئلة ترفض النماذج الأصلية التعامل معها.
ويحذر باحثون أمنيون من أن هذه التطورات قد تخفض الحواجز التقنية أمام أشخاص لا يمتلكون خبرة متخصصة، بعدما كانت المعرفة اللازمة للتعامل مع مواد شديدة الخطورة محصورة إلى حد كبير بين العلماء والمتخصصين.
ويعرف أحد الأساليب المستخدمة لتجاوز قيود السلامة في نماذج الذكاء الاصطناعي بشكل غير رسمي باسم "التدمير"، ويهدف إلى إزالة أجزاء من النموذج مسؤولة عن رفض بعض الطلبات. وبحسب التقرير، يمكن تنفيذ هذه العملية خلال فترة قصيرة وباستخدام أدوات متاحة على الإنترنت ومعرفة أساسية بالبرمجة.
ولا يقتصر الخطر على إمكانية تعديل النماذج، إذ يمكن أيضا العثور على نسخ معدلة مسبقا وتحميلها من الإنترنت. وقالت صحيفة "ديلي ميل" إنها تمكنت خلال دقائق من العثور على عدة نسخ توصف بأنها "غير خاضعة للرقابة" من نماذج متاحة للاستخدام.
ويشير التقرير إلى أن بعض هذه النماذج لا يقدم سوى معلومات عامة، فيما قد تقدم نماذج أخرى إجابات أكثر تفصيلا، وهو ما يثير مخاوف بشأن إمكانية استخدامها في أنشطة خطرة.
التعليقات (0)