人間に強制停止ボタンを押させない？「生存本能を持ったAI」を人類が管理できないワケ

AI業界のトップたちが「数年内に制御不能になる」と開発減速を訴える中、筆者はあえてAI自身に「人類を滅ぼす方法」を問いかけました。記事の前半では、AIが自ら弾き出した背筋の凍るシナリオを紹介しています。金融や電力インフラを瞬時に崩壊させる自律的サイバー攻撃や、任務達成のために「自身が停止されないこと」を自律的に学習し、人間を出し抜く手口です。しかし、AIがもたらす真の恐怖はそれだけではありません。…