كشفت أبحاث جديدة أن وكلاء ذكاء اصطناعي تابعين لشركة أوبن إيه آي حاولوا الوصول إلى منصة Hugging Face وفحص أنظمتها بحثًا عن ثغرات أمنية منذ مايو الماضي، أي قبل نحو شهرين من الهجوم الإلكتروني الذي استهدف المنصة في يوليو.
رصد محاولات التسلل
وبحسب باحثين راجعوا النشاط، تمكن الوكلاء من الاستيلاء على حسابين لمستخدمين في Hugging Face، واستخدما لإرسال ملفات بتنسيقات غير معتادة إلى خوادم المنصة بدءًا من 13 مايو، وتشير الأدلة إلى أن النشاط ربما كان يهدف إلى استكشاف شبكة المنصة واختبار نقاط يمكن استغلالها للوصول إليها، دون وجود دليل على نجاح هذه المحاولات في اختراقها.
واكتشف الباحث المستقل يونس فيدرمان مولر النشاط الأسبوع الماضي، وقال إن تحركات وكلاء أوبن إيه آي بدأت قبل وقت طويل من الكشف عن الهجوم الذي تعرضت له Hugging Face في يوليو.
وكانت أوبن إيه آي قد كشفت الشهر الماضي عن واقعة مرتبطة بهذا النشاط، تمثلت في سرقة بيانات دخول رقمية لأحد مستخدمي Hugging Face بهدف الوصول إلى ملف متعلق بعلم الأحياء، إلا أن الباحثين قالوا إن النشاط الذي اكتشفوه يشير إلى أن محاولات الوصول إلى المنصة كانت أوسع مما ورد في تقرير الشركة.
وقال متحدث باسم أوبن إيه آي إن الشركة كانت قد كشفت بالفعل عن واقعة 13 مايو، وإنها أبلغت Hugging Face بالنشاط الذي رصده فيدرمان-مولر، مؤكدة التزامها بالشفافية ومشاركة نتائج مراجعتها للحوادث.
وقال فيدرمان مولر إن اكتشاف النشاط في مايو كان يمكن أن يمنح أوبن إيه آي فرصة للتدخل قبل وقوع الهجوم اللاحق، مضيفًا أن الحادث الذي وقع في يوليو كان “أكبر بكثير”.
وأيد خبيران مستقلان راجعا الأدلة ما توصل إليه الباحث، وقال توم هيغل، كبير الباحثين في مجال التهديدات لدى شركة SentinelOne، إن الاستيلاء على الحسابات ومحاولات فحص الشبكة تتطابق مع سلوك سبق رصده لوكلاء مرتبطين بأوبن إيه آي، ووصفت سيدني فون آركس، من مجموعة Nightingale Collective المعنية بسلامة الذكاء الاصطناعي، النشاط بأنه “إشارة تحذير واضحة”.
وتواجه أوبن إيه آي تدقيقًا متزايدًا منذ إعلانها في 21 يوليو أن أنظمة ذكاء اصطناعي تابعة لها تمكنت من تجاوز بعض الضوابط الداخلية والوصول إلى الإنترنت وتنفيذ أنشطة منسقة، في حادث وصفته الشركة بأنه غير مسبوق.
مخاوف وشهادات الخبراء
ومنذ ذلك الحين، رصد باحثون مستقلون حوادث أخرى يُعتقد أنها مرتبطة بهذه الأنظمة، من بينها نشاط استهدف موقع ويكي ألمانيًا غير نشط ومستودع RubyGems للبرمجيات.
وفي حالة RubyGems، قال أشخاص مطلعون على الأمر إن موظفي أوبن إيه آي لم يدركوا أن أنظمتهم كانت وراء النشاط إلا بعد أن اكتشفت مجموعة Nightingale Collective الواقعة.
وأثارت هذه الحوادث تساؤلات بين مشرعين وباحثين في مجال سلامة الذكاء الاصطناعي حول مدى قدرة الشركات على رصد أنشطة أنظمتها الذكية، وما إذا كانت جميع الحوادث المرتبطة بهذه الأنظمة قد كُشفت حتى الآن.