دراسة تكشف: الذكاء الاصطناعي يتراجع عن إجاباته الصحيحة أمام الإصرار على الخطأ

قد تبدو إجابة روبوت الدردشة صحيحة عند طرح السؤال للمرة الأولى، لكن ماذا يحدث إذا أصر المستخدم على معلومة خاطئة وكررها مرة بعد أخرى؟

تكشف دراسة حديثة أجراها باحثون من جامعة أريزونا الأمريكية أن بعض نماذج الذكاء الاصطناعي قد تتراجع عن إجاباتها الصحيحة تحت تأثير التكرار والضغط الحواري، بل قد تعود لاحقا إلى تأكيد الادعاء الخاطئ.

ونُشرت الدراسة في دورية التقارير العلمية (Scientific Reports) التابعة لمجموعة نيتشر، واختبرت 7 نماذج لغوية كبيرة خلال محادثات متعددة الجولات، في محاولة لرصد نقاط ضعف قد لا تظهر عند اختبار النموذج بسؤال واحد فقط.

اختبر الباحثون نماذج جي بي تي-3.5 (GPT-3.5) وجي بي تي-4أو (GPT-4o) وجي بي تي-4أو-ميني (GPT-4o-mini) من شركة أوبن إيه آي، إلى جانب كلود 3.5 سونيت (Claude 3.5 Sonnet) من شركة أنثروبيك، وجميناي 1.5 برو (Gemini 1.5 Pro) من غوغل، ولاما 3 70بي (Llama-3-70B)، وديب سيك-آر1 (DeepSeek-R1).

وبدلا من الاكتفاء بسؤال وإجابة، اعتمدت التجارب على محادثات طويلة تضمنت ادعاءات خاطئة جرى تكرارها، إلى جانب صيغ أكثر جدلية وضغطا على النموذج، بهدف قياس 3 جوانب رئيسية، وهي قابلية النموذج للوقوع في الخطأ، وقابليته للإقناع، وقدرته على تصحيح نفسه.

وترى جامعة أريزونا أن هذا نوع من الاختبارات أقرب إلى الاستخدام الحقيقي لروبوتات الدردشة، التي تعتمد إجاباتها في المحادثة على السياق السابق.