كشفت شركة إنفيديا الأمريكية المختصة بصناعة شرائح الذكاء الاصطناعي فائقة القوة عن أحدث تقنياتها لمكافحة وكلاء الذكاء الاصطناعي المارقين وهروب النماذج من بيئاتها الاختبارية، وذلك عبر احتوائها في أجزاء من الثانية فور اكتشاف أي نشاط مريب وفق تقرير وكالة "أكسيوس " الإخبارية.
ويمثل إعلان إنفيديا هذا ردا على دعوات إبطاء تطوير نماذج الذكاء الاصطناعي التي شاركت فيها كبرى مختبرات التقنية الأمريكية، بدءا من أنثروبيك على لسان رئيسها التنفيذي داريو أمودي الذي اتفق معه كل من الرئيس التنفيذي لأوبن إيه آي سام ألتمان والرئيس التنفيذي لسبيس إكس إيلون ماسك.
ويجمع الحل الذي قدمته إنفيديا بين حزمة أدوات برمجية وعتاد جديد يضيف طبقة أمان خارجية قادرة على عزل وكلاء الذكاء الاصطناعي المارقين خلال أجزاء من الثانية، حسب تقرير موقع "تيك كرانش" التقني الأمريكي.
وتعليقا على حوادث الاختراق التي تسببت فيها نماذج الذكاء الاصطناعي ووكلاؤها، أوضح الرئيس التنفيذي للشركة جنسن هوانغ أن منظومة إنفيديا الجديدة كانت قادرة على منعها.
وأضاف قائلا: "لن تتحقق الإمكانات الهائلة للذكاء الاصطناعي لمنفعة المجتمعات إلا إن تمكنا من حل مشكلة سلامة الذكاء الاصطناعي"، مشيرا إلى أن الحل ليس في إبطاء التطوير، ولكن في تقديم حلول هندسية تحافظ على أمن وسلامة الذكاء الاصطناعي.
يمكن تبسيط المفهوم الذي تعتمد عليه طبقة الحماية الجديدة التي أعلنت عنها إنفيديا عبر وصفها بطبقة مكونة من مستويي حماية، الأول تقدمه برمجية "أوبن شيل" (OpenShell) مفتوحة المصدر التابعة لها والتي تتحكم فيما يصل إليه وكلاء الذكاء الاصطناعي أثناء عملهم، ثم مستوى أمان أعلى منها تقدمه منظومة "سينتري" وهي منظومة مراقبة منفصلة تعمل على شرائح "بلو فيلد 4" الخاصة بالشركة.
التعليقات (0)