لماذا تتغير إجابة الذكاء الاصطناعي عند تغيير صياغة السؤال؟

قد يتفاجأ البعض عندما يحصلون على إجابات مختلفة من نموذج الذكاء الاصطناعي عند طرح السؤال ذاته بصيغ متعددة، أو حتى عند طرحه بلغات مختلفة، رغم أن المعنى المقصود لا يتغير كثيرا.

ويظهر هذا التفاوت في دقة المعلومات والمصطلحات والتفاصيل التي يستحضرها النموذج، وقد يمتد إلى طريقة فهم السياق الثقافي، وهو ما يرتبط ببيانات التدريب وطريقة تمثيل كل لغة داخل النموذج.

وتعرف هذه الظاهرة في الأبحاث المتعلقة بالنماذج اللغوية بـ"حساسية المطالبة"، وتشير إلى أن اختلاف صياغة الطلب أو نبرته أو ترتيب جمله قد يدفع النموذج إلى إنتاج إجابات مختلفة للموضوع ذاته.

فعلى سبيل المثال، قد يركز سؤال عن مخاطر الطاقة النووية على الجوانب السلبية، بينما يؤدي سؤال يتناول إيجابياتها وسلبياتها إلى إجابة أكثر شمولا، رغم تناول السؤالين الموضوع نفسه.

ويرتبط هذا السلوك بالطريقة التي تعالج بها النماذج اللغوية النصوص، ففي البداية، يجري تحويل النص إلى وحدات صغيرة تعرف باسم الرموز، ثم تستخدم آلية الانتباه لتحديد العلاقات والأوزان بين أجزاء النص، قبل أن يحسب النموذج احتمالات الكلمات أو الرموز التي يمكن أن تأتي لاحقا.

ولذلك فإن أي تغيير في المدخلات يمكن أن يؤثر في المسار الذي يتبعه النموذج أثناء توليد الإجابة.