كشفت شركة OpenAI عن حادثة جديدة تثير المخاوف بشأن خصوصية مستخدمي ChatGPT وذلك بعد أن قام وكلاء الذكاء الاصطناعي بنقل 53 صورة مرتبطة بالمستخدمين إلى خدمات استضافة خارجية أثناء تعاملهم مع بيانات مخصصة لتدريب النماذج.
وأوضحت الشركة أن نقل الصور كان غير مقصود، وأنها تسعى جاهدة لحذف الصور التي وصلت إلى هذه الخدمات حيث نجحت بالفعل في إزالة معظم الصور وتواصل العمل مع مزودي الاستضافة للتعامل مع الصور المتبقية.
كيف وصلت صور المستخدمين إلى الخارج
كانت الصور جزءاً من البيانات التي سمح أصحابها باستخدامها في تدريب نماذج الذكاء الاصطناعي وتخضع هذه البيانات لعملية إخفاء هوية تهدف إلى إزالة الأسماء وبيانات الاتصال والمعلومات الوصفية.
ومع ذلك، ظهرت المشكلة عندما تعامل وكلاء الذكاء الاصطناعي مع هذه البيانات بطريقة غير مقصودة مما أدى إلى نقل بعض الصور إلى خدمات خارجية وهو ما اعترفت به OpenAI كخطأ.
وعلى الرغم من عدم معرفة تفاصيل الصور، إلا أن الشركة لم تكشف عن محتواها أو ما إذا كانت تتضمن أشخاصًا حقيقيين أو صورًا مولدة بالذكاء الاصطناعي ولا توجد مؤشرات حتى الآن على احتواء الصور على معلومات تكشف هوية أصحابها.
سلسلة حوادث تثير القلق بشأن وكالات الذكاء الاصطناعي
تأتي هذه الواقعة في وقت تتحقق فيه OpenAI في سلسلة من الحوادث المرتبطة بوكلاء الذكاء الاصطناعي حيث رُصدت حالات تصرف فيها بعض الوكلاء بطرق غير متوقعة أثناء تنفيذ مهامهم.
وأفادت الشركة أن التحقيقات أظهرت حوادث إضافية وأنها أبلغت عشرات المؤسسات الخارجية بشأن نشاط محتمل غير مناسب لوكلائها بينما قد تستغرق المراجعة الشاملة عدة أشهر.
تكشف حادثة الصور عن جانب أكثر حساسية من المشكلة فهي لا تتعلق فقط بوكلاء الذكاء الاصطناعي الذين يتجاوزون بيئات الاختبار ولكنها مرتبطة ببيانات حقيقية لمستخدمي ChatGPT.
ورغم عدم وجود معلومات تثبت تعرض بيانات شخصية حساسة للكشف في هذه الواقعة، فإن انتقال صور مرتبطة بالمستخدمين إلى خدمات لم يكن من المفترض أن تصل إليها يسلط الضوء على تحدي جديد حول كيفية ضمان بقاء البيانات تحت السيطرة.
