ماذا حدث حين حاول الذكاء الاصطناعي الغش في الامتحان؟

في منتصف يوليو/تموز الحالي، كان شيء ما يتحرك بهدوء داخل حواسيب شركة "هاغينغ فيس" (Hugging Face). وهذه الشركة أشبه بمكتبة عامة كبيرة للذكاء الاصطناعي، يودع فيها الباحثون في أنحاء العالم النماذج التي يبنونها والبيانات التي يدربونها عليها، ويأتي غيرهم فيأخذ منها نسخا ويكمل عمله عليها. وكثير مما نستعمله اليوم من تطبيقات الذكاء الاصطناعي يستند، بصورة أو بأخرى، إلى شيء مر من هناك.

المهم، بدأ ما جرى بملف رُفع إلى المنصة، بدا للوهلة الأولى كأي ملف بيانات يرفعه الباحثون كل يوم، غير أنه كان يخبئ في داخله تعليمات بعينها، فلما تناولته حواسيب الشركة بالمعالجة نفذت تلك التعليمات وهي لا تدري. ومن ذلك الملف الواحد اتسعت الدائرة، إذ حصل المتسلل على صلاحيات أوسع، ثم على المفاتيح الرقمية التي تشغل بها الشركة خدماتها، ثم صار ينتقل من جهاز إلى جهاز داخل شبكتها.

ولم يكن خلف ذلك كله إنسان، بل كان برنامجا يعمل وحده من أول خطوة إلى النهاية، يوزع نفسه على نسخ كثيرة قصيرة العمر كي يصعب اقتفاء أثره، وينقل مركز قيادته بنفسه بين مواقع عامة على الإنترنت. والذي التقطه في النهاية كان برنامجا هو الآخر، فالمنصة تعتمد في حراسة نفسها على نماذج ذكاء اصطناعي تفرز ما يردها يوميا من إشارات، وتميز الإنذار الحقيقي من ضجيج الأعطال المعتادة، ومن ترابط تلك الإشارات ظهر الخلل.

"جلس فريق الأمن أمام سجل فيه أكثر من 17 ألف عملية تركها المتسلل خلفه"

في النهاية، جلس فريق الأمن أمام سجل فيه أكثر من 17 ألف عملية تركها المتسلل خلفه. عدد لا يقرأه بشر في وقت معقول، فسلطوا عليه بدورهم برامج تحليل تعيد ترتيب ما حدث. وفي 16 يوليو/تموز نشرت الشركة ما توصلت إليه؛ بيانات داخلية جرى الوصول إليها، ومفاتيح خدمات استولى عليها المهاجم، ونصيحة لكل مستخدم بتغيير رمز دخوله، وبلاغ إلى الجهات الأمنية.

وطمأنت المنصة مستخدميها أنها لم تجد ما يدل على العبث بالنماذج وملفات البيانات المعروضة للجمهور. أما عن احتمالية تسرب بيانات شركاء أو عملاء، فقالت إن الفحص لم ينتهِ بعد. وفي وسط ذلك سطر يلخص ضآلة ما كانت تعرفه عن خصمها، حيث أشارت الشركة إلى أن النموذج الذي كان يحرك هذا كله ما زال مجهولا.