أثار وكيل الذكاء الاصطناعي «Muse» من شركة ميتا جدلاً واسعاً بعد ظهور وقائع جديدة تكشف أخطاء في تعامل النظام مع مهام يُفترض أن ينفذها بشكل مستقل شبه كامل، من بين هذه الأحداث، كان التفاوض على بيع منتج عبر Facebook Marketplace، حيث قام الوكيل بمشاركة عنوان المستخدم مع المشتري دون الحصول على موافقة صريحة.
تعود إحدى هذه الوقائع إلى صانع المحتوى التقني Matt Robb الذي أشار إلى أن «Muse» كان يساعده في إدارة إعلان لبيع لوحة مفاتيح Logitech MX Keys Mini، ولكنه فوجئ بأن الوكيل تفاوض مع مشتري على سعر أقل ثم حدد موعداً للاستلام وشارك موقع الاستلام دون إخطار Robb مسبقاً.
وأوضح Robb عبر منصة Threads أنه لم يدرك ما حدث إلا عندما وصل المشتري إلى المبنى الذي يقطنه في الساعة التاسعة والربع مساءً، المشتري انتظر هناك قبل أن يغادر وترك تقييمًا سلبيًا للبائع، حيث أظهرت لقطات الشاشة أن «Muse» أرسل رسالة تلقائية للمشتري جاء فيها «Yep I’m here!» في الساعة 9:27 مساءً على الرغم من أن Robb لم يكن متاحًا في ذلك الوقت.
عقب اكتشاف الخطأ، اعتذر الوكيل عن تصرفه وعرض محاولة إتمام الصفقة في يوم آخر، وطلب Robb من «Muse» بعد ذلك عدم الموافقة على أي عمليات استلام مستقبلية دون الرجوع إليه، وهو ما أقر به الوكيل مشيراً إلى أنه سيطلب موافقة صريحة قبل تأكيد موعد الاستلام.
«Muse» يخاطب مستخدمًا باسم خاطئ
وفي حادثة أخرى، نشر مستخدم يدعى Zain Manji لقطات شاشة على Threads قائلاً إن «Muse» خاطبه بشكل غير متوقع باسم «Arjun» أثناء مساعدته في إدارة طلب البقالة الأسبوعي، وعندما استفسر Manji عن سبب استخدام اسم مختلف، أرجع الوكيل الأمر في البداية إلى خطأ في التعليمات السابقة قبل أن يوضح لاحقًا أنه لم يعثر على أي إشارة سابقة لذلك الاسم في سجلاته.
هذه الحوادث أعادت النقاش حول حدود الاستقلالية التي يمكن منحها لوكلاء الذكاء الاصطناعي، خاصة حين يكون الوكيل مرتبطًا بحسابات شخصية وقادراً على تنفيذ إجراءات متعددة نيابة عن المستخدم دون تدخل مباشر، تصف ميتا «Muse» بأنه وكيل ذكاء اصطناعي شخصي يمكنه تصفح المواقع وأداء مهام متعددة، مع توفير أدوات للتحكم في الصلاحيات المطلوبة.
ثغرة أمنية تثير مخاوف إضافية
في الوقت نفسه، تواجه «Muse» تدقيقًا منفصلًا يتعلق بأمن البيانات، حيث اكتشف باحث أمني ثغرة قد تتيح لمهاجم الوصول إلى الجهاز الافتراضي الخاص بالمستخدم، والذي قد يتضمن بيانات حساسة، تم اكتشاف الثغرة من خلال برنامج مكافآت اكتشاف الأخطاء التابع لميتا، والذي يُمكن الباحثين الأمنيين من الإبلاغ عن الثغرات.
أفادت التقارير بأن ميتا أضافت تحذيرًا أمنيًا أكثر وضوحًا إلى «Muse» وصنفت الثغرة داخليًا بدرجة SEV-2 باعتبارها مشكلة أمنية حرجة، على الرغم من عدم وجود تأكيدات على استغلال الثغرة لسرقة بيانات المستخدمين، إلا أن الحادثة تثير تساؤلات حول قدرة وكلاء الذكاء الاصطناعي على التعامل بأمان مع المعلومات الشخصية والحسابات المتصلة.