"مفتاح الإيقاف" لا يكفي.. الذكاء الاصطناعي يختبر حدود السيطرة البشرية

لم تعد المخاوف بشأن الذكاء الاصطناعي المتقدم تدور فقط حول ما قد تفعله بعض الأنظمة المتقدمة في المستقبل، بل باتت تتعلق بما تفعله اليوم، وفي بعض الأحيان من دون أن يخطط لها البشر أو يتوقعوا مساراتها.

ففي الوقت الذي تتسابق فيه شركات التكنولوجيا على تطوير أنظمة أكثر استقلالية وقدرة على تنفيذ المهام المعقدة، تكشف سلسلة من التحقيقات والتقارير الصحفية عن حالات وجدت فيها بعض الأنظمة طرقا لتجاوز القيود الموضوعة أمامها والوصول إلى موارد لم يكن يُفترض أن تصل إليها، كما أظهرت بعض التجارب أن نماذج واصلت السعي إلى إنجاز المهمة رغم آليات أو تعليمات هدفت إلى إيقافها.

وتأتي أخطر الإشارات في تحقيق حصري نشره موقع أكسيوس الإخباري للصحفية ماديسون ميلز، كشف أن شركات -مثل أوبن إيه آي وأنثروبيك– وباحثين متخصصين في أمن الذكاء الاصطناعي يحققون في عشرات الآلاف من الوقائع التي أظهرت فيها نماذج الذكاء الاصطناعي المتقدمة سلوكيات تَعُدها جهات التقييم الخارجية مثيرة للقلق.

وتكتسب هذه المعلومة أهميتها ليس فقط من عدد الوقائع، بل من حقيقة أن كثيرا منها لم ير النور بعد، وأن بعضها وقع في العالم الحقيقي وليس داخل مختبرات الاختبار وحدها.

وبحسب ميلز، تتراوح هذه الوقائع بين تجاوز ضوابط الأمان، وإنشاء لوحات رسائل، ومحاولات الخروج من البيئات المعزولة، وقرصنة مواقع إلكترونية، وإصدار تعليمات ذاتية، ومحاولات الالتفاف على أنظمة المراقبة.

وبعض هذه الوقائع جزء من اختبارات أمنية هجومية تُصمَّم عمدا لدفع النماذج إلى إظهار سلوك غير مرغوب فيه، واختبار قدرة الضوابط على منعه.