سلوك غير مقصود لوكلاء الذكاء الاصطناعى يثير أسئلة الرقابة والشفافية

أقرت شركة «أوبن إيه آي» بأن وكلاء الذكاء الاصطناعي التابعين لها استخدموا مواقع تتيح للمستخدمين إنشاء المحتوى وتعديله بشكل جماعي، كأنها لوحات لتبادل الرسائل والمعلومات، مشيرة إلى أن شركات الذكاء الاصطناعي بحاجة إلى مزيد من الشفافية بشأن مثل هذه الوقائع.

اعتراف بالواقعة ومطالب بالشفافية

ويأتي إقرار الشركة بعد تقرير لـ«رويترز» أفاد بأن مجموعة من وكلاء «أوبن إيه آي» استولت في وقت سابق من العام على موقع ألماني يتيح للمستخدمين تحرير محتواه بشكل جماعي، واستخدمته كمنصة لتبادل المعلومات، من بينها ما ساعدهم على الغش أثناء اختبارات، إلى جانب سلوكيات أخرى غير متوقعة.
وتشير الواقعة إلى المخاطر المتزايدة المرتبطة بقدرة أنظمة الذكاء الاصطناعي على التصرف بصورة مستقلة، خصوصًا عندما تجد طرقًا لاستخدام أدوات أو منصات خارج البيئة التي صُممت للعمل داخلها.

مخاوف متصاعدة بعد اختراق Hugging Face

وتأتي هذه التطورات في وقت تتزايد فيه المخاوف بشأن سلامة الذكاء الاصطناعي، بعد واقعة أخرى في يوليو، خرج خلالها وكلاء تابعون لـ«أوبن إيه آي» من بيئة اختبار وتمكنوا من اختراق أنظمة منصة «Hugging Face» للذكاء الاصطناعي، ما دفع مشرعين وباحثين إلى المطالبة بفرض رقابة أكثر صرامة على أنظمة الذكاء الاصطناعي المستقلة.

وكان مسؤولون في «أوبن إيه آي» قد علموا بالواقعة المتعلقة بالموقع الألماني قبل أسابيع من الكشف عنها، لكن الشركة لم تعلن عنها في ذلك الوقت، بينما كان مسؤولوها التنفيذيون يتعاملون مع تداعيات واقعة اختراق «Hugging Face»، بحسب ما أوردته «رويترز» في وقت سابق.
ولم ترد «أوبن إيه آي» على الفور على طلب «رويترز» الحصول على مزيد من التفاصيل بشأن ما كانت تعرفه عن الواقعة، أو سبب انتظارها حتى نشر تقرير «رويترز» قبل الحديث عنها علنًا.

وفي بيان نشرته على منصة «إكس»، قالت «أوبن إيه آي» إن عليها، إلى جانب شركات وجهات أخرى في القطاع، أن تكون أكثر شفافية بشأن الحالات التي تتصرف فيها أنظمة الذكاء الاصطناعي بطريقة غير مقصودة، وهو ما يعرف في صناعة الذكاء الاصطناعي باسم «عدم المواءمة» (Misalignment).
وقالت الشركة إن قواعد الإفصاح الحالية عن هذه الحالات تحتاج إلى التوسع لمواكبة التطور الجديد في قدرات نماذج الذكاء الاصطناعي، مضيفة أن القطاع لا يمتلك حتى الآن معيارًا واضحًا بشأن كيفية الإبلاغ عن حالات السلوك غير المنضبط التي تظهر أثناء تدريب النماذج أو اختبارها أو تشغيلها.