في الوقت الذي تتسابق فيه شركات التقنية لتطوير نماذج ذكاء اصطناعي أكثر أمانا، كشفت دراسة علمية حديثة نُشرت في مجلة "نيتشر" (Nature) أن استخدام البيانات الناتجة عن نماذج الذكاء الاصطناعي لتدريب نماذج أخرى يمكن أن ينقل تفضيلات النماذج الأساسية وميولها نحو تقديم إجابات "شريرة" إلى النماذج الجديدة.
وأجريت الدراسة بمعاونة عدد كبير من الباحثين البارزين في مجال الذكاء الاصطناعي من كبرى الشركات الأمريكية حول العالم مثل "آنثروبيك" و"تروث فول إيه آي"، وذلك إلى جانب جامعيين من جامعة "أوكسفورد" البريطانية وجامعة كاليفورنيا، فضلا عن مراجعتها من قبل باحثي مؤسسة "فار. إيه آي" غير الربحية المختصة بضمان كون الذكاء الاصطناعي آمنا ومفيدا للجميع.
وأظهرت الدراسة أن استخدام البيانات الناتجة عن نماذج الذكاء الاصطناعي في تدريب نماذج ذكاء اصطناعي جديدة فيما يعرف باسم عملية "التقطير" يمكن أن ينقل بعض الطباع السيئة والتفضيلات الخاصة بالنموذج الأولي أو المعلم كما وصفته الدراسة إلى النموذج الجديد وهو الطالب، وذلك حتى إن تم تنقيح البيانات بشكل يدوي لإزالة كافة الإشارات إلى هذه التفضيلات أو المعلومات المرتبطة بها.
وتجدر الإشارة إلى أن آلية تدريب نماذج الذكاء الاصطناعي عبر التقطير هي إحدى أشهر الآليات المستخدمة لتدريب نماذج الذكاء الاصطناعي منخفضة الكلفة، وقد واجهت شركة الذكاء الاصطناعي الصينية "ديب سيك" اتهامات عدة لاستخدامها هذه التقنية، وكان الاتهام الموجه إليها من قبل شركة "أوبن إيه آي" الأمريكية الأبرز.
ووجهت الشركة اتهاما إلى "ديب سيك" باعتمادها على تقنية التقطير من نماذج "أوبن إيه آي" لتدريب نماذجها الخاصة، مما يتيح لها الاستفادة من القدرات الرائدة لـ"شات جي بي تي" مع إنفاق منخفض لا يتناسب مع قدرة النموذج حسب تقرير سابق من "رويترز".
وفي ضوء الدراسة التي نشرتها "نيتشر"، فإن "ديب سيك" قد يحمل بعض الصفات الموجودة في "شات جي بي تي" إن كان هو النموذج الرئيسي والوحيد المستخدم في تدريبه.
💬 التعليقات (0)