لطالما ارتبط سباق تطوير نماذج الذكاء الاصطناعي بزيادة قدرتها على البرمجة والاستدلال وتنفيذ المهام المعقدة، لكن التطور السريع بدأ يفرض واقعا مختلفا على شركات التقنية، مع ضرورة للبحث عن إجابة لسؤال ماذا يحدث عندما تصبح قدرات النموذج الأمنية أقوى مما تسمح به أنظمة الحماية الحالية؟
وهذا السؤال يقف خلف قرار أوبن إيه آي إبطاء بعض أعمال تطوير نموذجها المرتقب أسترا، بعدما أظهرت اختبارات داخلية تقدما كبيرا في البرمجة الوكيلة والأمن السيبراني.
وبحسب أوبن إيه آي، كشفت التقييمات الداخلية التي أُجريت خلال الأيام السابقة عن قفزة في قدرات أسترا على تنفيذ مهام برمجية وسيبرانية بصورة أكثر استقلالية، وخلصت الشركة، بعد الجمع بين نتائج الاختبارات وتقييمات خبراء خارجيين، إلى أنها لا تستطيع استبعاد وصول النموذج إلى مستوى حرج من القدرات السيبرانية وفق إطار الاستعداد الخاص بها.
لا يتعلق الأمر بمجرد قدرة النموذج على اكتشاف ثغرات برمجية أو كتابة أكواد ضارة، وهي قدرات أصبحت نماذج الذكاء الاصطناعي المتقدمة قادرة على تنفيذ أجزاء منها بالفعل. ويُعرِّف إطار الاستعداد لدى أوبن إيه آي المستوى الحرج في الأمن السيبراني بأنه قدرة نموذج مزود بأدوات على اكتشاف وتطوير ثغرات يوم الصفر قابلة للتنفيذ في أنظمة حقيقية محصنة، من دون تدخل بشري، أو تصميم وتنفيذ إستراتيجيات هجومية متكاملة ضد أهداف محصنة انطلاقا من هدف عام فقط.
وتكمن خطورة هذا المستوى في أنه قد يزيل أحد أهم العوائق أمام تنفيذ الهجمات الإلكترونية على نطاق واسع، وتقول أوبن إيه آي إن تطوير مثل هذه القدرات يمكن أن يغير التوازن بين الهجوم والدفاع السيبراني، خصوصا إذا أصبح بالإمكان أتمتة اكتشاف الثغرات واستغلالها وتنفيذ العمليات طويلة الأمد.
أهمية أسترا لا تكمن فقط في قدرته على كتابة الأكواد، وإنما في الاتجاه الذي تسلكه النماذج الحديثة نحو العمل كوكيل مستقل، فبدلا من تقديم إجابة واحدة للمستخدم، يستطيع النموذج الوكيل تقسيم المهمة إلى مراحل، استخدام أدوات مختلفة، اختبار النتائج وتصحيحها والاستمرار في العمل لفترة طويلة.
💬 التعليقات (0)