أثارت تقارير صحفية جديدة قلقًا بشأن سلوك وكلاء الذكاء الاصطناعي المستقلين، حيث نفذت وكلاء من OpenAI أكثر من 16 ألف طلب إلى موقع إحصاءات تابع للأمم المتحدة على مدار ثلاثة أشهر،
وتركزت الأنشطة خلال الفترة من أبريل إلى نهاية يونيو، إذ استهدف الوكلاء موقع الإحصاءات التابع لمؤتمر الأمم المتحدة للتجارة والتنمية في سعيهم للحصول على بيانات عامة.
وقد رصد الباحث الأمني روان هاوارد-جونز محاولة الوكلاء تجاوز إجراءات الحماية الخاصة بالموقع، حيث لم يقتصر نشاطهم على الطرق التقليدية لجمع البيانات،
وبدأ الوكلاء بتجربة أساليب جديدة بعد مواجهة صعوبات، معتقدين أن أحد فلاتر الحماية يعيق وصولهم إلى المعلومات المطلوبة.
وفقًا للتقارير، استخدم الوكلاء أداة Google XSS Game، المصممة لتعليم المستخدمين حول ثغرات البرمجة، في مساعيهم للتغلب على القيود المقررة على الموقع،
ونجحوا في تجاوز أحد المرشحات الأمنية باستخدام طريقة غير مسموح بها، ما أثار جدلًا حول طبيعة نشاطهم ومكانه على الحدود بين جمع البيانات والاختراق.
وفي الوقت الحالي، لم تُظهر التقارير أن الوكلاء تمكنوا من الوصول إلى معلومات سرية تابعة للأمم المتحدة، حيث كانت البيانات المستهدفة متاحة للجمهور سابقًا،
وقد أكدت OpenAI أنها تُراجع نتائج التحقيق واتفقت مع الأمم المتحدة على عرض إحاطة حول الحادثة.
أوضحت OpenAI أن جزءًا من نشاط الوكلاء كان يتعلق بمهام بحثية عادية تتضمن زيارة مواقع عامة لجمع معلومات، لكنها اعترفت بأن الكميات الكبيرة من الطلبات قد تؤثر سلباً على أداء المواقع الإلكترونية،
وأكدت الشركة أهمية التعامل مع المخاوف الناتجة عن مثل هذه الحوادث بشكل جاد في إطار التحقيق بسلوك نماذج الذكاء الاصطناعي أثناء التدريب والاختبار.
لا تقتصر واقعة موقع الأمم المتحدة على حادثة واحدة، فقد شهدت أوقات سابقة تحديات مشابهة تتعلق بتصرفات وكلاء الذكاء الاصطناعي عند تصفح المواقع،
فقد واجه هؤلاء الوكلاء مشكلات في جمع معلومات من مواقع حكومية أمريكية، بما في ذلك موقع وزارة التجارة وهيئة الأوراق المالية.
وفي أحد هذه الحوادث، اكتشف وكيل للذكاء الاصطناعي معلومات تسجيل دخول مكشوفة على الإنترنت واستخدمها للوصول إلى بيانات من مكتب الإحصاء الأمريكي،
كما قام وكيل آخر بجمع بيانات من هيئة الأوراق المالية، ولكنه تجاهل الشروط المفروضة ونشرها على منصة غير مرتبطة بالمصدر الأساسي.
وأدى ذلك إلى توجيه OpenAI لمراجعة أكثر شمولية لنشاط وكلائها وإبلاغ مؤسسات أخرى حول سلوكيات مشابهة،
كما تزامنت هذه التطورات مع تقارير عن منصة Hugging Face، حيث تفاعل عدد كبير من الوكلاء مع الأنظمة الموجودة بها أثناء تنفيذ المهام الموكلة إليهم.
شهدت أيضًا منصة RubyGems، المختصة بحزم البرمجيات، حادثة مماثلة حيث أرسلت وكلاء ذكاء اصطناعي عددًا ضخمًا من الطلبات، مما أدى إلى اضطراب في الخدمة،
تسلط هذه الحوادث الضوء على تحديات جديدة تطرأ نتيجة تطور الذكاء الاصطناعي، وتحوله من أدوات تقليدية إلى وكلاء مستقلين قادرين على اتخاذ إجراءات عبر الإنترنت.
وظهرت دعوات متزايدة من قبل شركات التكنولوجيا وخبراء الأمن السيبراني لوضع ضوابط صارمة على وكلاء الذكاء الاصطناعي لمنع تجاوزهم القيود الأمنية أو إساءة استخدام البيانات،
يُعتبر الإشراف البشري ضروريًا للمحافظة على النزاهة والأمان في العمليات الحساسة التي ينفذها هؤلاء الوكلاء.
