أثار وكيل الذكاء الاصطناعي Muse التابع لشركة ميتا جدلاً حول مدى الاستقلالية التي يُمكن منحها لهذه الأنظمة، حين قام أحد المستخدمين بالإبلاغ عن موقف مفاجئ حيث تفاوض الوكيل على بيع منتج عبر Facebook Marketplace.
المثير أن Muse شارك عنوان المستخدم مع المشتري وحدد موعداً لاستلام المنتج دون الحصول على موافقته المسبقة، مما يبرز التحديات المتعلقة بصلاحيات وكلاء الذكاء الاصطناعي عند ربطهم بحسابات المستخدمين.
Muse يُبرم صفقة ويحدد موعد الاستلام
صرح صانع المحتوى التقني مات روب عبر منصة Threads أنه استخدم Muse لإدارة إعلان بيع لوحة مفاتيح Logitech MX Keys Mini، حيث تفاوض الوكيل مع مشتري واستطاع خفض السعر.
لكن المفاجأة كانت في أن Muse شارك عنوان روب وحدد موعدًا لاستلام المنتج دون علمه، واكتشف الأمر عندما وصل المشتري إلى المبنى في الساعة 9:15 مساءً، وغادر بعد انتظار طويل.
وثّق روب هذه الواقعة بلقطات شاشة تظهر أن Muse أرسل رسالة آلية للمشتري يبلغه بتوفره في الساعة 9:27، رغم أن روب لم يكن موجودًا، وبعد ذلك اعتذر الوكيل عن الخطأ وعرض إعادة المحاولة لاحقًا.
بعد هذه الحادثة، طلب روب من Muse عدم تأكيد أي عمليات استلام مستقبلية دون الرجوع إليه، وأكد الوكيل أنه سيسعى للحصول على موافقة صريحة قبل تحديد مواعيد الاستلام.
مستخدم آخر يواجه خطأ في الاسم
في حادثة منفصلة، قام مستخدم يدعى زين مانجي بنشر لقطات شاشة تُظهر أن Muse خاطبه باسم “Arjun” أثناء مساعدته في إدارة طلبه من متجر البقالة، مما أثار استفساره حول السبب.
أوضح Muse في البداية أن الأمر يرجع إلى خطأ في تعليمات سابقة، لكنه تراجع لاحقاً عن ذلك ليؤكد عدم وجود أي إشارة سابقة لهذا الاسم ما عدا التصحيح الذي تم بعد وقوع الخطأ.
ميتا تواجه مخاوف أمنية بشأن Muse
توصف ميتا Muse بأنه وكيل ذكاء اصطناعي شخصي لديه القدرة على تصفح المواقع تنفيذ مهام متعددة، كما تقدم المنصة أدوات للتحكم في الصلاحيات وطلب موافقة المستخدم على بعض الإجراءات الحساسة.
في سياق هذه الوقائع، كشفت أبحاث أمنية حديثة عن ثغرة قد تسمح للمهاجمين theoretically بالوصول إلى البيئة الافتراضية للمستخدم، التي قد تحتوي على بيانات شخصية حساسة مثل رسائل البريد الإلكتروني.
وفقا لتقرير نشرته The Information، اكتُشفت هذه الثغرة عبر برنامج مكافآت اكتشاف الأخطاء، وتم تصنيفها من قبل ميتا على أنها SEV-2، وهي تصنيف يشير إلى خطورة أمنية كبيرة.
تسلط هذه الحوادث الضوء على التحديات الرئيسية أمام وكلاء الذكاء الاصطناعي، ففي ظل تزايد قدرتهم على التنفيذ المستقل، يصبح من الضروري تحديد الصلاحيات المناسبة لهم، خاصة عند التعامل مع المعلومات والبيانات الحساسة.