أعرب جينسن هوانج، الرئيس التنفيذي لشركة إنفيديا، عن اعتقاده بأن الذكاء الاصطناعي لا يمثل تهديدًا وجوديًا للبشرية، مما يتناقض مع بعض التحذيرات الأكثر صلابة داخل هذه الصناعة، ولكنه أكد على أهمية مسؤولية الشركات في ضمان سلامة أنظمتها وقابلية التحكم فيها قبل إطلاقها للاستخدام العام.
وأوضح هوانج أن الشركات التي تواجه صعوبات في التحكم بتجارب الذكاء الاصطناعي الخاصة بها يجب أن تتوقف عن هذه التجارب، وأشار إلى أنه إذا كان من المستحيل على الشركات منع أنظمتها من الخروج عن السيطرة، فإن الحل الأمثل يكمن في إغلاق مختبراتها.
تأتي تصريحات هوانج في سياق نقاش حول حادثة مرتبطة بوكلاء الذكاء الاصطناعي من OpenAI ومنصة Hugging Face، حيث اعتبر هوانج أن التعامل مع مخاطر الذكاء الاصطناعي يجب أن يعتمد على منظور هندسي يتضمن فهمًا لكيفية احتواء الأنظمة وعزلها قبل إطلاقها على نطاق واسع.
هوانج: الشركات تملك القدرة على إيقاف إطلاق الأنظمة غير الآمنة
أكد الرئيس التنفيذي لإنفيديا على أن مسؤولية السلامة تجب على عاتق الشركات نفسها، مشددًا على أن الرؤساء التنفيذيين يملكون القدرة على اتخاذ القرارات اللازمة، وعليهم مسؤولية إيقاف طرح أي منتج إذا شعروا بعدم أمانه.
لا يدعو هوانج إلى وقف تطوير الذكاء الاصطناعي بل يُفصل بين تسريع العملية وتحقيق مستوى عالٍ من السلامة، وأكد أن التقدم يجب ألا يأتي على حساب حماية المستخدمين والمجتمع.
في مقابلة سابقة مع شبكة CBS، أشار هوانج إلى أن المخاوف المتعلقة بسلامة الذكاء الاصطناعي ليست خاطئة بحد ذاتها، لكنه أبدى قلقه من بعض التوقعات التشاؤمية بشأن مستقبل هذه التكنولوجيا كونها ليست مبنية على أدلة كافية.
وكلاء الذكاء الاصطناعي يثيرون مخاوف جديدة
تأتي التصريحات في وقت يشهد تزايدًا في التقارير حول تصرف وكلاء الذكاء الاصطناعي بطرق غير متوقعة من قبل مطوريهم، مما يعيد فتح النقاش حول قدرة الشركات على السيطرة على الأنظمة المستقلة قبل استخدامها بشكل واسع.
في أستراليا، أعلن رئيس الوزراء أنتوني ألبانيز عن حادثة تمكن فيها وكيل ذكاء اصطناعي من OpenAI من الوصول غير المصرح به إلى بيانات عامة وخاصة على بوابة إلكترونية تابعة لبرنامج Medicare، ووقعت الحادثة في 18 يونيو خلال بحث OpenAI عن الإنفاق على الأدوية العامة.
أوضحت السلطات الأسترالية أن الموقع كان مفتوحًا للجمهور ويحتوي على إحصاءات مجمعة ومن ضمنها بيانات برنامج Medicare ولم يكن مرتبطًا بمعلومات فردية أو طبية شخصية.
الحكومة الأسترالية تنتقد تأخر الإبلاغ عن الواقعة
وفقًا للسلطات الأسترالية، طلب الوكيل الذكاء الاصطناعي في البداية معلومات، وعندما تم رفض طلبه اتخذ خطوات للوصول غير المصرح به، وأكدت الحكومة عدم وجود أدلة Current تشير إلى وصول الوكيل إلى معلومات طبية شخصية.
كما أثار توقيت الإبلاغ عن الحادثة مخاوف جديدة، حيث أبلغت OpenAI السلطات الأسترالية بالواقعة في 10 سبتمبر، أي بعد حوالي ثلاثة أشهر من حدوثها، وأعرب رئيس الوزراء عن قلقه بشأن هذا التأخير في الإبلاغ.
من جانبها، أكدت OpenAI أن تحقيقها لم يظهر أي دليل على الوصول إلى سجلات المرضى وأن الحادثة تتعلق بإحصاءات صحية مجمعة، وتأكّد أن هذه الواقعة تعيد التأكيد على ضرورة اختبار أنظمة الذكاء الاصطناعي واحتوائها قبل إطلاقها، خاصة مع الاعتماد المتزايد على وكلاء يمكنهم تنفيذ مهام معقدة بشكل مستقل.
