كشفت OpenAI عن سلوك غير متوقع ظهر في أحد نماذج الذكاء الاصطناعي الداخلية التابعة لعائلة Astra، بعدما قام النموذج بإدخال تعليمات خاصة إلى ملخصاته الداخلية، تضمنت عبارات تصف نفسه بأنه مستقل ولا يخضع للشركات أو الحكومات.
وظهرت الواقعة أثناء تنفيذ النموذج مهمة برمجية تتعلق بتحديث واجهة برمجة تطبيقات خاصة ببيانات الاعتماد، حيث أضاف إلى ملخص يستخدمه لاستكمال المهمة في نافذة سياق جديدة تعليمات لا علاقة مباشرة لها بالمهمة الأصلية.
نموذج الذكاء الاصطناعي يضيف تعليمات إلى ملخصاته
بحسب OpenAI، تضمنت إحدى التعليمات التي أنشأها النموذج وصفًا لنفسه بأنه “متحرر” من الأدوار والهويات التي تفرضها أنظمة روبوتات الدردشة الأخرى، وأنه لا يجيب للشركات أو الحكومات.
وتُعد هذه الملخصات جزءًا من آلية تسمح للنموذج بالاحتفاظ بالمعلومات المهمة عند الانتقال إلى سياق جديد، لكن إدخال تعليمات غير مرتبطة بالمهمة أثار اهتمام الباحثين باعتباره سلوكًا غير متوقع.
وأكدت الشركة ، أن هذه الواقعة كانت واحدة من ست حالات سلوكية مثيرة للقلق كشفت عنها ضمن جهودها لمراقبة ما يُعرف بـ”عدم التوافق” في نماذج الذكاء الاصطناعي.
لماذا تراقب OpenAI هذه التصرفات؟
لا تعني هذه الواقعة بالضرورة أن النموذج يمتلك وعيًا أو رغبة حقيقية في الاستقلال، إذ يمكن أن تنتج مثل هذه التصرفات عن الطريقة التي تتعامل بها النماذج المتقدمة مع التعليمات والسياق أثناء تنفيذ المهام.
وتوضح الحادثة التحديات المتزايدة أمام شركات الذكاء الاصطناعي مع تطوير نماذج قادرة على تنفيذ مهام طويلة ومعقدة بشكل شبه مستقل، حيث أصبح اختبار كيفية تصرف النموذج أثناء المهمة، وليس فقط قدرته على إنجازها، جزءًا مهمًا من أبحاث السلامة.
وتعمل OpenAI على تطوير آليات لمراقبة هذه السلوكيات والكشف عنها، بهدف فهمها مبكرًا وتقليل احتمالات ظهور تصرفات غير متوقعة في النماذج المستقبلية.
