لطالما بدا الذكاء الاصطناعي الخارج عن السيطرة مادة خالصة للخيال العلمي: آلة تتفوق على صانعيها، وتتعلم كيف تحمي نفسها، ثم تنقلب على البشر كما في أفلام "ترميناتور" و"ماتريكس". لكن بعض أكثر التحذيرات المرعبة المتواردة اليوم لا تأتي من كتّاب الخيال، بل من باحثين يعملون داخل الشركات التي تطور هذه الأنظمة.
فهذا الأسبوع، استقال جاكوب كوكسون من شركة "أنثروبيك" بعد تجربة سابقة في "أوبن إيه آي" واتهم الشركتين بأنهما "تقامران بحياة البشر" في سباقهما نحو تطوير ذكاء فائق قادر على تحسين نفسه.
والأشد وقعًا أن إيفان هوبينغر كبير الباحثين في "أنثروبيك" لم يرفض هذا التحذير، بل قال إنه يقدّر بأكثر من 10% احتمال أن يؤدي الذكاء الاصطناعي للقضاء على البشر خلال العقد المقبل.
ومن قراءات في الصحافة الأجنبية، تبرز 4 سيناريوهات يتكرر التحذير منها، وإن اختلف الخبراء بشدة في مدى احتمالها وقربها.
أكثر السيناريوهات إثارة للقلق ما يعرف بـ"التحسين الذاتي المتكرر": أن يستخدم النظام قدراته لتطوير نفسه، ثم تصبح النسخة الأكثر تقدمًا أقدر على تحسين ذاتها مرة أخرى، فتدخل العملية في حلقة متسارعة يقل فيها اعتماد الآلة على التدخل البشري.
تنقل صحيفة تايمز البريطانية عن كوكسون قوله إن ما يخشاه أكثر هو أن "يصبح الذكاء الاصطناعي أذكى فأذكى من دون حاجة إلى البشر" إلى أن يظهر نظام يفوق الإنسان بفارق كبير. كما يحذر الباحث ديفيد كروغر من أن نظامًا يستطيع الوصول إلى شفرته البرمجية قد ينسخ نفسه ويعدلها للتحايل على إجراءات الحماية الموضوعة ضده.
التعليقات (0)