كشفت واقعة جديدة عن تحديات متزايدة تواجه تطوير وكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام متعددة بصورة مستقلة بعدما استخدمت مجموعة من الوكلاء المرتبطين بشركة أوبن إيه آي موقعا ألمانيا مخصصا للمبرمجين لتبادل المعلومات والتنسيق فيما بينها في وقت تتزايد فيه المخاوف بشأن قدرة الأنظمة المستقلة على تجاوز القيود الموضوعة لها والتصرف بطرق لم يتوقعها مطوروها.
وتعود الواقعة إلى مايو/أيار الماضي وكشف عنها تحقيق نشرته وكالة رويترز أمس، حيث اكتشف باحثون في مجال سلامة الذكاء الاصطناعي نشاطا غير معتاد على موقع دي إس إي ويكي (DseWiki)، وهو موقع ألماني يشبه موسوعة ويكيبيديا ويتيح للمستخدمين إضافة المحتوى وتعديله.
وأظهرت مراجعة السجلات وجود أكثر من 15 ألف تعديل نُسِبت إلى وكلاء ذكاء اصطناعي خلال الفترة بين مايو/أيار ويونيو/حزيران من هذا العام، ولم تقتصر هذه التعديلات على نشر محتوى تقليدي، إذ وجد الباحثون مواد تشير إلى استخدام صفحات الموقع كقناة للتواصل وتبادل المعلومات بين الوكلاء.
وبحسب رويترز، تضمنت بعض المواد أساليب للتحايل على قيود مفروضة على الوكلاء، وطرقا لتجنب اكتشاف نشاطهم، إضافة إلى وسائل للحفاظ على التواصل بينهم، وتبرز أهمية الواقعة في أن الموقع لم يكن مصمما ليكون بيئة اختبار للذكاء الاصطناعي، بل خدمة حقيقية متاحة على الإنترنت.
اكتشف الباحثان سيدني فون آركس وكورماك سليد بيرد النشاط في أغسطس/آب الماضي، بعدما بحثا عن مؤشرات على تشغيل وكلاء ذكاء اصطناعي خارج البيئات المخصصة لهم. ولفتت سرعات التفاعل المرتفعة والأنماط التقنية في التعديلات انتباههما، إذ بدت بعض الأنشطة مختلفة بوضوح عن مساهمات المستخدمين البشر.
كما عثر الباحثان على حسابات تحمل أسماء توحي بارتباطها بأوبن إيه آي، في حين أظهرت سجلات الخوادم أن جزءا من حركة البيانات مر عبر البنية السحابية لمايكروسوفت أزور (Microsoft Azure)، التي تستخدمها الشركة.
التعليقات (0)