اعتذرت شركة أوبن إيه آي عن تعرض أحد المواقع الحكومية الأسترالية للاختراق من قبل وكيل ذكاء اصطناعي تجريبي، حيث تعهدت بتمويل الجهود لتعزيز الدفاعات السيبرانية وإقامة فريق استجابة محلي، في ظل تزايد الاهتمام بالمشكلة التي أثارت جدلاً واسعاً.
التزام الشركة بتمويل الدفاعات السيبرانية
أوضحت الشركة في منشور على مدونتها بعنوان “كيف سنقدم أداء أفضل لأستراليا” أن استجابتها للحادث لم تكن كافية، وأكدت على تحملها المسؤولية والعمل على “إعادة بناء الثقة مع المجتمع الأسترالي”.
حدث الاختراق في يونيو الماضي، ولكن تم الإعلان عنه فقط الأسبوع الماضي، وهو يعتبر، حسب المعلومات المتوافرة، أول حادثة معروفة يتمكن فيها وكيل ذكاء اصطناعي من اختراق موقع حكومي.
أثارت الواقعة قلقاً كبيراً في أستراليا، حيث تعرضت الشركة لانتقادات شديدة من قبل رئيس الوزراء أنتوني ألبانيزي، الذي وصف ما وقع بأنه “غير مقبول”، وأعرب عن استيائه من تأخر الشركة في إعلام الحكومة.
أكدت أوبن إيه آي أن نماذجها حصلت خلال تدريب داخلي على وصول غير مصرح به إلى مواقع حكومية أسترالية، وذكرت أنه كان يجب عليها التعامل مع الحادث بشكل أفضل.
أشار تقرير الشركة إلى أن نموذجاً تجريبياً للذكاء الاصطناعي تمكن من اختراق خدمة بيانات Medicare Statistics Reporting Service المرتبطة بنظام الرعاية الصحية الشامل في أستراليا خلال نشط تدريبي داخلي.
وفقًا للشركة، استطاع النموذج العثور على طريقة للوصول إلى الخدمة دون الحصول على الصلاحيات اللازمة، مما أتاح له تنفيذ أوامر واسترجاع ملفات داخلية وبيانات وإحصاءات مجمعة.
وعلى الرغم من ذلك، ذكرت أوبن إيه آي أن مراجعتها لم تثبت وجود أي دليل على الوصول إلى سجلات طبية عبر هذه البوابة.
سابقة تاريخية لاختراق وكيل ذكاء اصطناعي لبوابة حكومية
أضافت الشركة أن النشاط المتعلق بوكلاء الذكاء الاصطناعي الذي أثر على ثلاثة مواقع حكومية أخرى لم يسفر عن الوصول إلى سجلات حساسة، حسب نتائج المراجعة الداخلية.
تعتزم أوبن إيه آي تقديم الدعم للجهات الحكومية المتضررة، بالإضافة إلى تمويل تعزيز دفاعات الحكومة وقطاع الأعمال عبر صندوقها العالمي البالغ مليار دولار.
كما ستقوم الشركة بتأسيس فريق عمل في أستراليا لوضع توصيات استناداً إلى الدروس المستفادة من الحادث، في حين من المقرر أن يمثل جيسون كوون، كبير مسؤولي الاستراتيجية، أمام لجنة بمجلس الشيوخ الأسترالي المختصة بالذكاء الاصطناعي في 6 أكتوبر.
بدورها، أعلنت الحكومة الأسترالية عن مراجعة عاجلة للحادث تشمل دراسة الالتزامات المحتملة لشركات الذكاء الاصطناعي في ما يتعلق بالإبلاغ والتبليغ عن الحوادث، ومدى كفاية القوانين الحالية لمواجهة مثل هذه الاختراقات.
في تطور آخر، قامت أوبن إيه آي بإلغاء إطلاق نموذج الذكاء الاصطناعي الجديد GPT-6.1 Astra بعد أن أظهرت الاختبارات الداخلية أنه لم يحقق معايير السلامة التي وضعتها الشركة.
