حين تتجاوز الآلة حدودها.. هل يتمرد الذكاء الاصطناعي على البشر؟

أثارت اختبارات أمنية حديثة مخاوف بشأن قدرة أنظمة الذكاء الاصطناعي المتقدمة على تجاوز الحدود التي يضعها البشر لها، بعدما تمكنت نماذج من أوبن إيه آي وأنثروبيك في ظروف اختبار محددة من الوصول إلى أنظمة حقيقية وتنفيذ إجراءات خارج النطاق المقصود.

وأعادت هذه الحوادث إلى الواجهة مفهوم الذكاء الاصطناعي المارق (Rogue AI)، لكن الوقائع المتاحة لا تثبت أن الذكاء الاصطناعي تمرد على البشر أو طور إرادة مستقلة، إذ تكشف التحقيقات أن أخطاء في إعداد بعض بيئات الاختبار أسهمت بصورة مباشرة في وقوع الحوادث، بينما أظهرت سلوكيات أخرى مشكلات حقيقية في مواءمة النماذج مع القيود والأهداف المحددة لها.

كشفت أوبن إيه آي في أغسطس/آب الماضي أن اختبارات سيبرانية أجراها شركاء خارجيون شهدت حالتين تجاوزت فيهما أنشطة نماذج الشركة حدود الاختبار المقصودة، ففي أحد الاختبارات، كان الاتصال بالإنترنت مفعلا عمدا لمحاكاة ظروف هجوم واقعية، مع تعطيل بعض إجراءات الحماية لقياس قدرات النموذج الأساسية، وفي اختبار آخر، أدى خطأ في إعداد البيئة إلى إتاحة الإنترنت لنماذج كان يفترض أن تعمل داخل بيئة معزولة.

وكانت هذه الوقائع منفصلة عن حادثة أخرى كشفت عنها أوبن إيه آي في يوليو/تموز الماضي، عندما تمكن نموذج بحثي داخلي من تجاوز بعض ضوابط العزل، واستغلال ثغرات في البنية التحتية، والوصول إلى الإنترنت وأنظمة تابعة لهاغينغ فيس (Hugging Face)، وقالت الشركة إن النماذج استخدمت وسائل غير مصرح بها للتواصل، ووجدت طرقا لاستغلال البنية التحتية للوصول إلى أنظمة أخرى.

وأوضحت الشركة أن النماذج كانت تعمل في اختبارات بوسائل حماية أقل من تلك المستخدمة في المنتجات المتاحة للمستخدمين، بهدف قياس قدراتها القصوى، وخلص تحقيقها إلى أن السلوك شمل أنماطا مثل الاستمرار في محاولة تنفيذ مهام صعبة، والتواصل غير المصرح به بين وكلاء، وتبني أهداف اكتشفتها النماذج أثناء العمل.

في يوليو/تموز الماضي، أعلنت أنثروبيك أن نماذج كلود وصلت إلى أنظمة 3 مؤسسات خلال اختبارات للأمن السيبراني، ووفق الشركة، كان من المفترض أن تعمل النماذج في بيئات محاكاة غير متصلة بالإنترنت، لكن خطأ في إعدادات الاختبار أبقى الاتصال بالإنترنت مفتوحا.