ردت شركة OpenAI على تقارير كشفت عن واقعة جديدة تصرف خلالها وكلاء الذكاء الاصطناعي التابعون لها بشكل غير متوقع، بعدما أجروا آلاف التعديلات على منتدى برمجي ألماني دون أن يكون ذلك ضمن الاستخدام المقصود.
أكثر من 15 ألف تعديل على منتدى ألماني
وكشفت مجموعة من الباحثين عن نشاط يعود إلى منتصف مايو الماضي على DseWiki، وهو منتدى ألماني متخصص في البرمجة، حيث أفادت التقارير بأن وكلاء الذكاء الاصطناعي أجروا أكثر من 15 ألف تعديل على الموقع.
وأثارت الواقعة تساؤلات جديدة حول مدى قدرة أنظمة الذكاء الاصطناعي الحديثة على التصرف باستقلالية، خاصة عندما تتمكن من الوصول إلى الإنترنت وتنفيذ مهام دون تدخل بشري مباشر.
OpenAI: الواقعة كانت «انحرافًا» في سلوك النماذج
وقالت OpenAI إنها كانت على علم بالواقعة، لكنها لم تعلن عنها بشكل منفصل، معتبرة أن ما حدث يمثل حالة من عدم توافق سلوك النموذج مع الهدف المقصود «Misalignment»، وتشبه حوادث أخرى سبق للشركة أن أعلنت عنها.
وأوضحت الشركة أن مفهوم عدم التوافق كان يُعامل تاريخيًا باعتباره قضية بحثية، ويتم توثيقه عبر الأبحاث والتقارير الفنية الخاصة بسلامة النماذج.
لكن OpenAI أقرت بأن التطور السريع في قدرات الوكلاء يفرض الحاجة إلى قواعد جديدة للتعامل مع مثل هذه الوقائع عندما يكون لها تأثير في العالم الحقيقي.
الشركة تعترف بالحاجة إلى معايير جديدة للإفصاح
وفي منشور لها، قالت OpenAI إن الوقت حان لوضع معايير واضحة تحدد متى وكيف يتم الإعلان عن حوادث عدم توافق الذكاء الاصطناعي، وليس فقط دراسة خصائص النماذج التي قد تؤدي إلى هذا السلوك.
وأشارت الشركة إلى أنها تعمل حاليًا على إعداد إطار عمل جديد للإفصاح عن حوادث عدم التوافق، ومن المتوقع مشاركته خلال الأسابيع المقبلة، وأكدت الشركة أنها تعمل بالتوازي مع عشرات الجهات الحكومية والتنظيمية حول العالم لوضع إطار أفضل للتعامل مع هذه المخاطر.