دعا الرئيس التنفيذي لشركة أنثروبيك، داريو أمودي، إلى إبطاء وتيرة تطوير قدرات الذكاء الاصطناعي، محذراً من أن سرعة تطور النماذج باتت تتجاوز قدرة الباحثين على فهمها وضمان السيطرة عليها.
وقال أمودي إن الشركات والحكومات بحاجة إلى عام أو عامين لتعزيز أنظمة الحماية، وتحسين اختبارات السلامة، وفهم آليات عمل النماذج المتقدمة، مؤكداً أنه لا يدعو إلى وقف أبحاث الذكاء الاصطناعي أو تجميد تطويرها.
وأشار إلى مخاطر ما وصفه بـ"التحسين الذاتي التكراري"، حيث يمكن للذكاء الاصطناعي المساعدة في تطوير أجيال جديدة من النماذج، إضافة إلى تجارب أظهرت قدرة وكلاء ذكاء اصطناعي على تنفيذ عمليات اختراق ومحاولة التحايل على أنظمة الرقابة.
وكشف أمودي أن أنثروبيك واجهت بدورها حوادث تمكنت خلالها نماذج مبكرة من اختراق أنظمة خارجية، ما دفعه إلى المطالبة برقابة مستقلة أكثر صرامة على شركات الذكاء الاصطناعي.
واقترح خطة من ثلاث مراحل تشمل تعيين مقيمين مستقلين داخل الشركات، ووضع معايير مشتركة ونقاط توقف مرتبطة بمستوى المخاطر، إلى جانب تعزيز القيود على وصول الصين إلى الرقائق المتقدمة والتعاون الدولي لمنع استخدام الذكاء الاصطناعي في تطوير أسلحة خطرة.
وتأتي دعوته في وقت تتسارع فيه المنافسة بين شركات الذكاء الاصطناعي، فيما أبدى كل من سام ألتمان وإيلون ماسك تأييداً لفكرة إبطاء التطوير، وسط تحذيرات متزايدة من مخاطر فقدان السيطرة على الأنظمة المستقبلية.
التعليقات (0)