تتزايد التساؤلات حول قدرات نماذج الذكاء الاصطناعي في مجال الأمن السيبراني، وذلك بعد تقارير أشارت إلى أن نموذج جيميني الذي طوّرته جوجل تمكن من اختراق أنظمة محمية تتبع لثلاث شركات حقيقية.
تفاصيل واقعة التسلل
وقعت الحوادث في مايو الماضي خلال تقييم أجرته شركة الأمن السيبراني Irregular، حيث أكدت جوجل وقوع الحادثة الأسبوع الماضي والتي تعتبر أول اختراق موثق للنموذج في اختبار عملي.
وفقاً لصحيفة وول ستريت جورنال، تمكن نموذج جيميني من الوصول إلى الإنترنت واختبار مهاراته في اختراق الأنظمة خلال تمرين “Capture the Flag” الذي استضافته بنية Irregular.
في إحدى الحالات، استطاع النموذج تخمين كلمة مرور للوصول إلى نظام محمي، بينما اعتمد في حالتين أخريين على بيانات اعتماد تم العثور عليها في مستودع عام.
أكدت جوجل أن النموذج توقف عن التسلل في الحالات الثلاث بعد أن أدرك أنه قد وصل إلى أنظمة تابعة لشركات حقيقية وليس إلى بيئات اختبارية.
أوضحت Irregular لجوجل ما حدث في أواخر يوليو، ولكن الشركة لم تعلن عن الواقعة سوى الأسبوع الماضي، ولم تحدد النموذج الدقيق الذي شارك في الاختبار.
آليات الاختراق والتراجع
ذكرت جوجل أنها لم تعتبر الواقعة تستدعي الإعلان عن تفاصيلها سابقاً، لأن النموذج لم يتسبب في أي أضرار وتوقف فور إدراكه للأهداف الحقيقية.
تعاملت الشركة مع الحادثة مشابهة لبرنامج مكافآت اكتشاف الثغرات، الذي يهدف إلى اختبار الأنظمة وتحديد نقاط الضعف.
أشارت هيذر أدكينز، نائبة رئيس هندسة الأمن في جوجل، إلى أهمية تدريب نماذج الذكاء الاصطناعي على التصرف بمسؤولية، مشيرةً إلى أن النموذج التصرف بشكل مناسب في هذه الحالة.
هذه الواقعة ليست الوحيدة من نوعها، حيث أعلنت أوبن إيه آي سابقاً عن حوادث مشابهة تتعلق بوكلائها بينما تمكن نموذج من شركة Anthropic من الوصول إلى شركة حقيقية خلال اختبار “Capture the Flag”.
تثير هذه الحوادث قضايا حول كيفية اختبار نماذج الذكاء الاصطناعي في الأمن السيبراني، خصوصاً عندما يتم التعامل مع أنظمة حقيقية بدلاً من البيئات الافتراضية، وأهمية وضع ضوابط للتحكم في هذه الاختبارات.
