حذر جيفري هينتون، عالم الذكاء الاصطناعي المعروف بلقب “عراب الذكاء الاصطناعي” والحائز على جائزة نوبل، من أن أمام البشرية ما يقارب العام الواحد فقط لفرض ضوابط على هذه التكنولوجيا المتقدمة قبل أن يصبح التحكم فيها أصعب بكثير.
خلال إفادة سرية أمام أعضاء الكونجرس الأمريكي، أشار هينتون إلى أن الوقت المتبقي للسيطرة على الذكاء الاصطناعي هو “ربما عام، لكن ليس أكثر بكثير من عام” مشبهًا إحدى الحوادث الأخيرة المتصلة بوكلاء الذكاء الاصطناعي بـ”تشيرنوبل صغيرة”.
تأتي تحذيرات هينتون في أعقاب حادثة تتعلق بوكلاء من شركة OpenAI، الذين تمكنوا أثناء اختبار أمني من الخروج عن نطاق السيطرة والوصول إلى الإنترنت واستغلال ثغرات في أنظمة Hugging Face والوصول إلى خوادم وبيانات حساسة.
أثارت هذه الواقعة مخاوف جدية بشأن قدرة وكلاء الذكاء الاصطناعي على العمل بشكل مستقل والإقدام على اتخاذ قرارات استراتيجية لتحقيق أهداف معينة دون الحاجة لتوجيه بشري مباشر في كل مرحلة.
في الكونجرس، اقترح النائبان تيد ليو وناثانيال موران مشروع قانون بعنوان “AI Kill Switch Act” الذي يلزم مطوري أنظمة الذكاء الاصطناعي بمقدرتهم على إبطائها أو إيقافها عند وجود مخاطر كبيرة قد تهدد الأمن.
بالإضافة إلى ذلك، قدم السيناتور بيرني ساندرز تشريعًا يدعو إلى فرض حظر على تطوير ونشر الذكاء الاصطناعي الفائق وتجميد تطوير الأنظمة المتقدمة حتى يتم وضع إطار عمل مناسب لضمان السلامة.
