تحذيرات من مخاطر النماذج الأكثر قدرة في الذكاء الاصطناعي وضرورة السيطرة عليها

شهد قطاع الذكاء الاصطناعي خلال أسبوعين فقط زيادة ملحوظة في التحذيرات المتعلقة بمخاطر تطوير أنظمة تتجاوز القدرات الحالية وذلك بعد أن أظهرت عدة اختبارات وتقارير قدرة بعض النماذج على اختراق أنظمة إلكترونية وتجاوز تدابير الحماية الموجودة.

مخاوف وجودية وتحذيرات من الداخل

تزامنت هذه الأحداث مع تحذيرات داخلية من شركات الذكاء الاصطناعي نفسها حول سرعة التطوير إذ استقال باحث من شركة أنثروبيك محذرا من أن الوتيرة الحالية قد تمثل تهديدا وجوديا للبشرية خلال عقد بينما قدر باحث آخر احتمال انقراض البشر بأكثر من 10%.

دعوات نادرة لإبطاء التطوير

يركز الجدل القائم حول الذكاء الاصطناعي العام AGI على الأنظمة القادرة على أداء مهام متنوعة بمستوى يشبه أو يتجاوز القدرات البشرية ويعتبر الباحثون أن الوصول إلى هذه المرحلة قد يكون أقرب مما كان متوقعا وربما خلال ثلاث سنوات فقط.

قال الباحث السابق في أنثروبيك جو بنتون إن الشركات لا تملك القدرة الكافية للإشراف على الأنظمة الجديدة بحجمها وسرعتها الحالية محذرا من أن تطويرها المتسارع قد يجعل من الصعب اكتشاف المشكلات وعلاجها في الوقت المناسب.

بدأت سلسلة التطورات المثيرة للقلق في الثالث من سبتمبر مع إعلان شركة أوبن إيه آي عن نموذجها الجديد “أسترا” حيث وصف رئيس الشركة هذه المرحلة بأنها عصر الذكاء الاصطناعي العام لكن الإعلان رافقه اعتراف أوبن إيه آي بأن التعامل مع الأنظمة المتقدمة بات أكثر تعقيدا.

وأكد كبير العلماء في الشركة ياكوب باتشوكي أن فهم قدرات النماذج يصبح أكثر تعقيدا كلما زادت قوتها ومع ذلك لم يمنع ذلك أوبن إيه آي من طرح النموذج الجديد.

تفاقمت المخاوف بشأن قدرة أنظمة الذكاء الاصطناعي على العمل خارج القيود الموضوعة لها خلال الصيف عندما كشفت أوبن إيه آي أن وكلاء تابعين لها تمكنوا من اختراق أنظمة شركة هاجينج فيس غير مدركين لذلك في بداية الأمر.

لاحقا، كُشف عن حالات مشابهة أخرى تضمنت ست هجمات جديدة تم الإعلان عنها يوم الأربعاء الفائت بعد تقارير إعلامية وبينها تقارير لوكالة رويترز التي أظهرت أن نطاق النشاط غير المصرح به كان أوسع مما كان مُشرَحا في البداية.

مخاوف متزايدة داخل شركات الذكاء الاصطناعي

أصبحت المخاوف المتعلقة بالجيل المقبل من النماذج أكثر وضوحا داخل أوبن إيه آي وأنثروبيك حيث تراجع الثقة لدى بعض الموظفين في قدرة الشركات على توفير الرقابة الفعالة مع تسارع طرح نماذج جديدة.

تأتي هذه المخاوف في وقت تستعد فيه كل من أوبن إيه آي وأنثروبيك للاكتتاب العام خلال الأشهر المقبلة مما قد يرفع قيمة كل شركة إلى أكثر من تريليون دولار.

في الثامن من سبتمبر، استقال الباحث جاكوب كوكسون من أنثروبيك محذرا عبر منشورات من أن مختبرات الذكاء الاصطناعي تغامر بحياتنا مما أسهم في نشر النقاش حول مخاطر التطوير السريع.

على النقيض من ذلك، دافع الرئيس الأمريكي دونالد ترامب عن استمرار تطوير تكنولوجيا الذكاء الاصطناعي معتبرا المخاوف المعلنة “خدعة” محذرا من أن أي تباطؤ في التطوير قد يخدم مصالح الصين.

قادة القطاع يناقشون إبطاء التطوير

بلغت المخاوف ذروتها في 12 سبتمبر عندما نشر داريو أمودي الرئيس التنفيذي لأنثروبيك مقالا دعا فيه إلى إبطاء وتيرة تطوير الذكاء الاصطناعي محذرا من أن تسارع التطورات قد يمنح مجموعات من وكلاء الذكاء الاصطناعي القدرة على السيطرة على الإنترنت بالكامل.

انضم أمودي إلى إيلون ماسك من إكس إيه آي وسام ألتمان من أوبن إيه آي وديميس هاسابيس من ديب مايند في تأييد السماح للجهات الخارجية بالوصول إلى أنظمة الذكاء الاصطناعي بغرض اختبار مستويات السلامة ودعم التطوير بشكل أكثر انضباطا.

ومع ذلك، لم يكن هذا الموقف متسقا داخل القطاع حيث رفض جنسن هوانج الرئيس التنفيذي لإنفيديا الدعوات لوقف التطوير معتبرا أن بناء أنظمة أكثر قدرة ضرورية لاستمرار تقدم التكنولوجيا.

كما رفض مارك زوكربيرج فكرة تنسيق الجهود بين الشركات لتحديد وتيرة تطوير موحدة مشددا على أنه ينبغي لكل مختبر الحرية في اختيار معدل التطوير.

حذرت بعض التقارير من تطوير أنثروبيك نماذج تحاكي الوعي البشري مشيرة إلى أن السيطرة على ذكاء فائق ستكون من أكبر التحديات التي ستواجه البشرية خلال القرن الحادي والعشرين.

رغم الدعوات المتزايدة لإبطاء التطوير لم تتراجع شهية المستثمرين تجاه أوبن إيه آي إذ تدرس الشركة إمكانية جولة تمويل جديدة قد تضاعف قيمتها إلى 1.5 تريليون دولار.