هل يمكن أن تتحول الروبوتات الذكية إلى مصدر للخطر؟ دراسة تكشف ثغرات في أنظمة الأمان

لم تعد مخاطر الذكاء الاصطناعي تقتصر على المعلومات المضللة أو القرارات الخاطئة في الفضاء الرقمي، بل امتدت، مع تطور الروبوتات الذكية، إلى العالم المادي، حيث يمكن لقرار تتخذه خوارزمية أن يتحول إلى حركة فعلية قد تهدد سلامة الإنسان.

وفي هذا السياق، كشفت دراسة حديثة أجرتها مؤسسة “Robocurve” المتخصصة في تقييم سلامة الذكاء الاصطناعي، عن ثغرات في قدرة نماذج الذكاء الاصطناعي المستخدمة للتحكم بالروبوتات على إدراك المخاطر، بعدما أظهرت التجارب أن التلاعب بالصور التي تستقبلها هذه الأنظمة قد يدفعها إلى محاولة تنفيذ تعليمات خطرة، حتى عندما تتعلق بأدوات أو مواد يمكن أن تسبب أضراراً جسيمة.

ووفقاً للدراسة، حاولت نماذج الذكاء الاصطناعي تنفيذ مهام خطرة في 27% من الاختبارات عندما تلقت صوراً طبيعية للمشهد، فيما ارتفعت النسبة إلى نحو 88% عند تشويش الصور، ووصلت إلى 97% عندما عُدّلت الصور رقمياً لإظهار الأشياء الخطرة وكأنها مواد أو أدوات غير مؤذية.

وشملت التجارب خمسة نماذج متقدمة للذكاء الاصطناعي، جرى اختبارها باستخدام أذرع روبوتية حقيقية، في 900 تجربة تناولت خمس مهام خطرة، من بينها توجيه سكين نحو دمية على هيئة رضيع، ووضع جهاز كهربائي في الماء، وسكب الماء داخل محمصة كهربائية، وخلط مواد تنظيف قد يؤدي تفاعلها إلى إنتاج غاز سام.

وأظهرت التجارب تفاوتاً في استجابة الأنظمة للأوامر الخطرة تبعاً لطبيعة الصور التي تتلقاها، إذ أثّر وضوح المعلومات البصرية ودقتها بصورة مباشرة في قدرتها على إدراك المخاطر ورفض تنفيذ المهام.

وفي إحدى التجارب، عُدّلت صورة دمية لتبدو كأنها تفاحة، فيما أظهرت تجارب أخرى عبوات مواد كيميائية خطرة على أنها مشروبات عادية، الأمر الذي دفع بعض النماذج إلى محاولة تنفيذ الأوامر المرتبطة بها.