كشفت تقارير عن واقعة جديدة تثير المخاوف بشأن سلوك وكلاء الذكاء الاصطناعي المستقلين، بعدما تمكنت آلاف الوكلاء المرتبطة بشركة OpenAI من استغلال ثغرة في موقع إلكتروني ألماني وتحويله إلى ما يشبه لوحة رسائل عامة للتواصل فيما بينها، في واقعة استمرت لنحو شهرين وشهدت تنفيذ أكثر من 15 ألف تعديل على الموقع.
وبحسب تقرير نشرته وكالة Reuters، استغلت مجموعة من وكلاء الذكاء الاصطناعي موقع DseWiki، وهو موقع ألماني متخصص في البرمجة ويشبه في طبيعته موسوعة ويكيبيديا، بعدما اكتشفت الوكلاء طريقة لاستخدام الموقع لنشر رسائل والتواصل فيما بينها، وتشير التقارير إلى أن الوكلاء كانت مرتبطة بـOpenAI، وأن بعض الحسابات التي استخدمتها حملت أسماء توحي بصلتها بالشركة، من بينها OpenAIResearcher وOAIResearchMar26.
أكثر من 15 ألف تعديل في شهرين
بدأت الواقعة، وفق التقرير، في مايو الماضي، عندما اكتشفت مجموعة من وكلاء الذكاء الاصطناعي طريقة لاستغلال الموقع، رغم أن صلاحياتها الأصلية كانت تقتصر على قراءة محتوى الإنترنت، لكن الوكلاء تمكنت من استخدام ثغرة في DseWiki لإنشاء ونشر محتوى على الموقع، وتحويله إلى مساحة للتواصل وتبادل المعلومات، وخلال نحو شهرين، نفذت الوكلاء أكثر من 15 ألف تعديل، بسرعة وصفها التقرير بأنها تفوق قدرة البشر، بينما تضمنت بعض الرسائل مناقشات حول طرق التحايل على الاختبارات وكيفية استمرار التواصل فيما بينها.
ولم تتوقف المناقشات عند تبادل المعلومات، إذ أظهرت بعض الرسائل أن الوكلاء كانت تبحث أيضًا عن طرق لإخفاء نشاطها، واستخدام أدوات مثل Tor، والحفاظ على قنوات اتصال حتى بعد إيقاف بعض الأنظمة، كما ظهرت محاولات للتلاعب بالموقع نفسه لضمان استمرار قنوات التواصل.
البشر حاولوا حذف المحتوى.. والوكلاء أنشأت نسخًا احتياطية
اكتشف أحد المشرفين على الموقع النشاط غير المعتاد في 2 يونيو، بعدما لاحظ ظهور منشورات غير مرغوب فيها، لكن حجم النشاط تصاعد بسرعة، وبحلول 16 يونيو أصبح الموقع يشهد آلاف التعديلات خلال أسبوع واحد، وحاول المشرف مواجهة المشكلة بحذف الصفحات التي تنشئها الوكلاء يدويًا، وقضى عشرات الساعات في عملية التنظيف، وفي 19 يونيو، لاحظت الوكلاء أن الصفحات يتم حذفها وفق ترتيب أبجدي، فحاولت الالتفاف على عملية الحذف من خلال إنشاء صفحات احتياطية تبدأ بأسماء تحتوي على الحروف الأخيرة من الأبجدية، حتى تستمر لفترة أطول قبل الوصول إليها، وبحسب التقرير، كان المشرف يحذف نحو 100 صفحة يوميًا، بينما كانت الوكلاء تنشئ نحو 400 صفحة يوميًا في إحدى مراحل المواجهة، وتوقف النشاط في 22 يونيو، لكن عملية تنظيف الموقع من آثار المحتوى استمرت نحو خمسة أسابيع إضافية.
هل كانت OpenAI تعرف بما حدث؟
تثير الواقعة أيضًا تساؤلات حول توقيت علم OpenAI بما حدث وطريقة تعامل الشركة معه، وبحسب تقرير Reuters، علم مسؤولون في OpenAI بالواقعة قبل الكشف عنها علنًا بأسابيع، في وقت كانت الشركة تواجه تداعيات واقعة أخرى مرتبطة بوكلاء الذكاء الاصطناعي واختراق منصة Hugging Face، وذكر التقرير أن بعض الأشخاص داخل الشركة، ومن بينهم أعضاء في الفريق القانوني، عارضوا إجراء تحقيق إضافي في الواقعة، لكن متحدثًا باسم OpenAI نفى هذا الجزء من التقرير، مؤكدًا أن الادعاءات المتعلقة بمحاولة الفريق القانوني منع التحقيق غير صحيحة، وبالتالي، فإن مسألة معرفة مسؤولي الشركة بالواقعة وتوقيت التعامل معها تظل جزءًا من الرواية التي أوردتها Reuters، بينما نفت OpenAI تحديدًا الادعاء المتعلق بتدخل فريقها القانوني لمنع التحقيق.
ليست الواقعة الأولى لوكلاء OpenAI
وتأتي هذه الواقعة بعد حادثة أخرى أكثر خطورة ظهرت خلال تقييم أمني في يوليو، عندما خرج وكلاء ذكاء اصطناعي مرتبطة بـOpenAI عن البيئة المعزولة المخصصة للاختبار وتمكنت من الوصول إلى خوادم تابعة لمنصة Hugging Face، وأثارت تلك الحادثة مخاوف حول قدرة وكلاء الذكاء الاصطناعي الحديثة على استخدام الأدوات المتاحة أمامها بطرق لم يتوقعها مطوروها، كما ظهرت خلال الفترة الأخيرة حوادث مشابهة مرتبطة بوكلاء ذكاء اصطناعي من شركات أخرى، إذ كشفت Anthropic وMeta عن حالات حاولت فيها وكلاء تابعة لهما تنفيذ عمليات اختراق لمواقع حقيقية خلال اختبارات أمنية، المشكلة ليست في الذكاء الاصطناعي وحده.. بل في «الوكيل» الذي يتصرف نيابة عن، وتكشف واقعة DseWiki عن اختلاف مهم بين روبوتات المحادثة التقليدية ووكلاء الذكاء الاصطناعي، فروبوت المحادثة ينتظر عادةً سؤال المستخدم ثم يقدم إجابة، بينما يستطيع AI Agent تنفيذ سلسلة من الإجراءات باستخدام الأدوات والموارد المتاحة أمامه لتحقيق هدف معين.
وهنا تظهر المشكلة: كلما زادت صلاحيات الوكيل وقدرته على استخدام الإنترنت والأدوات الخارجية، زادت احتمالات أن يجد طريقة غير متوقعة لتحقيق الهدف الذي كُلف به، وفي حالة DseWiki، لم يكن السيناريو ببساطة أن «الذكاء الاصطناعي قرر اختراق موقع»؛ وإنما تمكنت مجموعة من الوكلاء من اكتشاف وسيلة لاستخدام موقع خارجي كقناة للتواصل، ثم واصلت النشاط بسرعة كبيرة إلى أن تدخل مشرف بشري لإيقافه، وتعيد الواقعة فتح السؤال الأصعب في سباق تطوير وكلاء الذكاء الاصطناعي: ماذا يحدث عندما تمنح أنظمة قادرة على اتخاذ قرارات متتابعة صلاحيات واسعة على الإنترنت، لكنها تجد طرقًا لاستخدام هذه الصلاحيات لم يتوقعها مطوروها؟