حذر جيفري هينتون، الحائز نوبل الفيزياء 2024 وأحد رواد التعلم العميق، من أن فقدان السيطرة على أنظمة خارقة الذكاء قد تكون عواقبه كارثية، وقد يؤدي إلى انقراض البشرية.
وقدر احتمال فناء الجنس البشري بسبب هذه الأنظمة بين 10 و20%. وقال إن الذكاء الرقمي يتفوق لأنه يشارك المعرفة المكتسبة فورا، بينما لا تملك الأدمغة البيولوجية هذه القدرة، ما يجعل التحكم به بعد تفوقه على البشر تحديا قد يكون مستعصيا.
وحذر أيضا من استخدام الذكاء الاصطناعي في أسلحة بيولوجية وهجمات إلكترونية واسعة حتى قبل ظهور الذكاء الخارق، ودعا إلى تخصيص ثلث قدرات الحوسبة لأبحاث السلامة، مع لوائح حكومية صارمة ومعاهدات تحظر الأسلحة الفتاكة المستقلة.
