أعلنت شركة أوبن إيه آي عن اتخاذ إجراءات وقائية جديدة تهدف إلى تشديد القيود على المعلومات المتعلقة بالأسلحة التي يقدمها تطبيق الذكاء الاصطناعي تشات جي بي تي للمستخدمين المراهقين. تأتي هذه الخطوات في سياق مساعي الشركة للحد من مخاطر العنف في العالم الواقعي وضمان بيئة رقمية آمنة للفئات العمرية الناشئة.
أفادت مصادر بأن هذه التحركات تتزامن مع تصاعد الرقابة الدولية على شركات الذكاء الاصطناعي، حيث تزداد المخاوف بشأن التهديدات التي قد تشكلها روبوتات الدردشة على سلامة الشبان. وتواجه الشركات ضغوطاً متزايدة لتطوير آليات فعالة للكشف عن المحتويات التي قد تؤدي إلى إلحاق الأذى بالمستخدمين أو المجتمع.
ستشمل القيود الجديدة حظر الوصول إلى المعلومات العملية المتعلقة بالأسلحة وأنظمة الأمن التي يمكن إساءة استخدامها من قبل المراهقين. وأوضحت الشركة أن هذه القواعد ستطبق بصرامة حتى في الحالات التي لا تظهر فيها أي نية مسبقة لارتكاب أعمال عنف من قبل المستخدم.
طورت الشركة نظاماً تقنياً يسمح لبرنامج تشات جي بي تي بإنهاء المحادثات تلقائياً مع أي مستخدم يظهر تركيزاً مفرطاً على المواضيع العنيفة. كما تمتلك الشركة الآن صلاحية تعليق الحسابات مؤقتاً في حال تكرار مثل هذه النقاشات المحظورة لضمان الالتزام بسياسات الاستخدام الآمن.
عززت أوبن إيه آي أنظمة تقدير العمر الخاصة بها لضمان تصنيف المستخدمين دون سن الثامنة عشرة ضمن تجربة المراهقين المخصصة. وتهدف هذه الخطوة إلى توفير حماية استباقية ومنع وصول القاصرين إلى محتويات قد لا تتناسب مع نضجهم العقلي أو النفسي.
تخطط الشركة لإدراج أولياء الأمور في منظومة الرقابة من خلال إخطارهم رسمياً في حال تم تعليق حسابات أبنائهم بسبب مناقشة العنف بشكل متكرر. يعكس هذا التوجه رغبة الشركة في تعزيز الشراكة مع العائلات لمراقبة السلوك الرقمي للأبناء وحمايتهم من المخاطر المحتملة.
التعليقات (0)