بعد تحذير رئيس أنثروبيك.. من يملك مفتاح إيقاف الذكاء الاصطناعي؟

حذر الرئيس التنفيذي لشركة أنثروبيك داريو أمودي من أن سرعة التقدم في تطوير نماذج الذكاء الاصطناعي قد تتجاوز قدرة إجراءات السلامة على مواكبة المخاطر المتزايدة، ودعا شركات الذكاء الاصطناعي إلى إبطاء وتيرة تطوير النماذج المتقدمة، ومنح أنظمة السلامة والتقييم وقتا كافيا للحاق بقدرات النماذج الجديدة.

ويأتي هذا الموقف بعد أيام من استقالة الباحث جاكوب كوكسون من أنثروبيك، الذي حذر من أن سباق الشركات نحو نماذج أكثر قدرة قد يدفع الصناعة إلى مسار يصعب التحكم في نتائجه.

على أن الأشد إثارة للقلق كان التحذير الذي جاء من إيفان هوبينغر، باحث السلامة في الشركة ذاته، الذي أعرب عن اعتقاده من احتمال أن يؤدي الذكاء الاصطناعي إلى مقتل جميع البشر خلال العقد المقبل يتجاوز 10%، مضيفا أن الشركة، رغم محاولتها التعامل مع الخطر، "لا تملك حتى الآن خطة لحل مشكلة المواءمة مع الذكاء الاصطناعي الفائق".

وبين هذه التحذيرات، كشفت أنثروبيك عن حالات حقيقية حاول فيها مستخدمون استغلال نموذج كلود لتنفيذ عمليات سيبرانية ومراقبة وأعمال مرتبطة بالأسلحة والأبحاث البيولوجية.

وفي مقال نشره بعنوان علينا ضبط وتيرة تطوير النماذج المتقدمة (We Must Pace the Frontier)، قال أمودي إن الصناعة تحتاج إلى ضبط وتيرة تطوير قدرات الذكاء الاصطناعي حتى تتمكن إجراءات الحد من المخاطر من اللحاق بها، واقترح 3 مسارات رئيسية، وهي إتاحة وصول مستمر لجهات تقييم مستقلة إلى أنظمة الشركات، وتنسيق معايير السلامة بين مطوري النماذج المتقدمة، وتعزيز التعاون الدولي في مواجهة مخاطر الذكاء الاصطناعي.

ويرى أمودي أن الإبطاء لا يعني التخلي عن التقدم، وإنما استغلال الوقت المتاح لبناء وسائل حماية توازي القدرات الجديدة، كما حذر من أن التطور السريع قد يقود، خلال فترة قصيرة، إلى أنظمة قادرة على تنفيذ عمليات واسعة عبر الإنترنت باستخدام مجموعات من الوكلاء البرمجيين.