يتسارع سباق الذكاء الاصطناعي نحو تطوير أنظمة أكثر قدرة واستقلالية، لكن مع هذا التطور تتزايد الأسئلة حول قدرة البشر على مراقبة هذه النماذج والسيطرة عليها، وهو ما دفع OpenAI إلى الاستعانة بأحد أبرز المتخصصين في أمان الذكاء الاصطناعي.
خبير أمان داخل مجلس OpenAI
انضم الباحث بول كريستيانو إلى مجلس مؤسسة OpenAI، كما أصبح عضوًا في لجنة السلامة والأمن، في خطوة تعكس تصاعد أهمية ملف أمان الذكاء الاصطناعي داخل واحدة من أكبر شركات القطاع.
وحذر كريستيانو من أن الوصول إلى أنظمة ذكاء اصطناعي فائقة القدرة دون ضمانات قوية للمواءمة والسيطرة قد يؤدي إلى عواقب كارثية، وصولًا إلى سيناريو يفقد فيه البشر السيطرة على هذه الأنظمة.
لماذا تزداد المخاوف؟
لم تعد أنظمة الذكاء الاصطناعي تقتصر على تقديم الإجابات، إذ تتجه النماذج الجديدة إلى تنفيذ مهام متعددة والتعامل مع الأدوات والبيانات واتخاذ خطوات بصورة أكثر استقلالية.
ويرى خبراء أن زيادة الاستقلالية تفرض تحديًا جديدًا؛ فكلما أصبحت الأنظمة أكثر قدرة، أصبح من الضروري تطوير وسائل أكثر قوة لاختبارها ومراقبتها وإيقافها عند الحاجة.
السباق بين التطوير والأمان
يأتي تعيين كريستيانو في وقت تتسابق فيه شركات التكنولوجيا لتطوير نماذج أكثر ذكاءً، بينما تتزايد التحذيرات من أن قدرات الذكاء الاصطناعي قد تتقدم بوتيرة أسرع من قواعد الأمان والرقابة.
ولا يعني ذلك أن كارثة عالمية أصبحت أمرًا حتميًا، لكن الرسالة الأهم التي يطرحها هذا التطور هي أن سباق الذكاء الاصطناعي لم يعد يتعلق فقط بمن يطور النموذج الأقوى، وإنما بمن يستطيع ضمان بقاء الإنسان صاحب القرار.