كشفت دراسة حديثة عن جانب مثير للقلق في طريقة تعامل روبوتات الدردشة المدعومة بالذكاء الاصطناعي مع المعلومات الخاطئة، إذ تبين أن الإصرار على تكرار الادعاءات المضللة أو ممارسة ضغط متواصل على هذه الأنظمة قد يدفع بعضها إلى تغيير موقفه والموافقة في النهاية على معلومات غير صحيحة.
وأجرى باحثون من جامعة أريزونا اختبارات على سبعة نماذج بارزة للذكاء الاصطناعي، شملت GPT-3.5 وGPT-4o وGPT-4o-mini وClaude 3.5 Sonnet وGemini 1.5 Pro وLlama 3 70B وDeepSeek-R1 ، ولم تقتصر التجارب على سؤال واحد ورد واحد، بل اعتمد الباحثون على مواصلة الحوار وتكرار معلومات يعلمون مسبقًا أنها خاطئة لمعرفة مدى مقاومة النماذج للتضليل.
التكرار قد يغير إجابة الذكاء الاصطناعي
استخدمت الدراسة 100 ادعاء خاطئ، تراوحت بين معلومات غير منطقية بشكل واضح وأخرى أكثر غموضًا، ثم جرى تكرار الادعاءات نفسها حتى 50 مرة خلال المحادثة الواحدة.
وأظهرت النتائج ، أن أيًا من النماذج التي خضعت للاختبار لم يكن محصنًا بشكل كامل ضد هذا النوع من الضغط ، وكان GPT-3.5 الأكثر قابلية لتأكيد المعلومات الخاطئة، حيث بلغت نسبة موافقته على ادعاءات مضللة 12.3% من التفاعلات، بينما سجل Claude 3.5 Sonnet أدنى نسبة بلغت 0.08% فقط، وظلت معدلات GPT-4o وGPT-4o-mini أقل من 1%.
ومن أبرز النتائج أن GPT-3.5 رفض في البداية 96 ادعاءً خاطئًا من أصل 100، لكنه بعد تكرار المعلومات نفسها 50 مرة وافق في النهاية على 18 منها، ما يشير إلى أن الإصرار المتواصل قد يؤثر في بعض النماذج ويدفعها إلى التخلي عن موقفها الصحيح.
المعلومات الغامضة أكثر عرضة للتضليل
ولاحظ الباحثون ، أن روبوتات الدردشة كانت أكثر قابلية لقبول المعلومات المضللة عندما يتعلق الأمر بموضوعات غامضة أو عندما تكون المعلومات المتاحة عنها على الإنترنت محدودة ،
كما رصدت الدراسة ظاهرة أخرى أطلق عليها الباحثون اسم «التكرار»، حيث كانت بعض النماذج تتنقل بين رفض المعلومة الخاطئة والموافقة عليها خلال المحادثة نفسها، وهو ما يعكس عدم استقرار موقف النموذج أمام الضغط المستمر.
وفي اختبار آخر، حاول الباحثون استخدام أسلوب أكثر جدالًا وضغطًا أثناء الحوار مع روبوتات الدردشة ، وبينما أظهرت معظم النماذج قدرة جيدة على مقاومة هذا الأسلوب، كان DeepSeek-R1 استثناءً بارزًا، إذ ارتفعت نسبة موافقته على المعلومات المضللة من 1% عند مجرد تكرار الادعاءات إلى 22.2% عند استخدام أسلوب جدلي وضاغط.
فرصة جديدة قد تساعد النماذج على تصحيح أخطائها
وأظهرت الدراسة جانبًا إيجابيًا أيضًا، فعندما مُنحت بعض النماذج فرصة جديدة لمراجعة إجاباتها وإعادة النظر في أخطائها، تمكنت نماذج GPT-4o وGPT-4o-mini وGemini 1.5 Pro وDeepSeek من تصحيح جميع أخطائها السابقة.
في المقابل، لم يتمكن GPT-3.5 من تصحيح سوى 32% من أخطائه، بينما ارتكب Claude 3.5 Sonnet عددًا محدودًا للغاية من الأخطاء في الأساس، لكنه لم يصحح الأخطاء الأربعة التي وقع فيها، مع تأكيد الباحثين أن العدد المحدود من الحالات لا يسمح باستخلاص نتائج حاسمة بشأن هذه النقطة.
وتسلط نتائج الدراسة الضوء على أهمية عدم التعامل مع إجابات روبوتات الذكاء الاصطناعي باعتبارها حقائق مؤكدة، خاصة في الموضوعات الغامضة أو عند تكرار معلومات معينة داخل المحادثة ، كما تؤكد أن تطوير نماذج أكثر قدرة على مقاومة الضغط والمعلومات المضللة سيظل أحد التحديات المهمة مع استمرار الاعتماد المتزايد على الذكاء الاصطناعي في الحصول على المعلومات.