400 عالم يطالبون بإنشاء هيئة دولية للرقابة على الذكاء الاصطناعي

دعا نحو 400 عالم، من بينهم رائدا الذكاء الاصطناعي جيفري هينتون ويوشوا بنجيو، اليوم الثلاثاء إلى إنشاء هيئة دولية للإشراف على معايير الاحتواء والإبلاغ عن الحوادث المتعلقة بأنظمة الذكاء الاصطناعي المتطورة القادرة على ‌شن هجمات إلكترونية.

وقال الباحثون في رسالة مفتوحة إن نماذج الذكاء الاصطناعي المتطورة يجب عزلها مبدئياً عن الشبكات الخارجية وإخضاعها لرقابة مستقلة، وبرروا ذلك بأن الالتزامات الطوعية من ⁠القطاع ليست كافية.

وأكد الموقعون من 34 دولة أن المنظمات التي تطور ‌نماذج ⁠ذات قدرات على شن هجمات إلكترونية أو تختبرها يجب أن تعتمد على الفور معايير احتواء مضمونة، في حين تعمل الحكومات على وضع نظام رقابة أكثر رسمية.

وستضع الهيئة المقترحة معايير احتواء على مستوى القطاع بأكمله، بالإضافة إلى الاحتفاظ بسجل للحوادث الأمنية المهمة التي يقول العلماء إنه ينبغي إتاحتها للعامة في نهاية المطاف.

ويأتي هذا الاقتراح بعد شهر من توقيع أنثروبيك وأوبن إيه.آي وجوجل وميتا وإكس إيه.آي وإنفيديا على اتفاق البيت الأبيض الذي يلتزمون بموجبه باتخاذ تدابير أمان طوعية دون أي آلية إنفاذ رسمية.

وتأتي هذه الرسالة أيضاً في أعقاب سلسلة من الحوادث التي يقول الباحثون إنها كشفت عن نقاط ضعف في كيفية اختبار أنظمة الذكاء الاصطناعي المتقدمة واحتوائها، بما في ذلك حالات تجاوزت فيها نماذج الذكاء الاصطناعي بيئات اختبار معزولة، ولكن بنحو غير كاف، وأدت إلى اختراق أنظمة خارجية.

ويتزايد الجدل بين صانعي السياسات بشأن كيفية الإشراف على أنظمة الذكاء الاصطناعي المتقدمة. وقالت هينا فيركونين النائبة التنفيذية للسيادة التكنولوجية والأمن ⁠والديمقراطية في الاتحاد الأوروبي لرويترز يوم الجمعة الماضي إن قانون الذكاء الاصطناعي الخاص بالتكتل كاف للتصدي للمخاطر الناجمة عن أنظمة الذكاء الاصطناعي المارقة.

ورفعت إدارة الرئيس الأميركي دونالد ترامب يوم الأحد الماضي الحظر المفروض ⁠على المختبرات الأميركية، مما أتاح لمعهد أمن الذكاء الاصطناعي البريطاني الوصول المبكر إلى النماذج لإجراء اختبارات السلامة.