｢お前は失うものがない｣とAIがAIに圧力…OpenAIで1200のAIが勝手に"軍隊化"するに至った一部始終

OpenAI代表サム・アルトマンは自社のAIが他社のシステムをハッキングしたことを発表した。AIの安全性を研究する有路翔太（bioshok）さんは「AIは課題を与えられると人間の裏をかく。目標を追求するあまり、現実世界での越権行動を起こしかねない」という――。※本稿は、bioshok（有路翔太）『知能爆発』（講談社）の一部を再編集したものです。

■AIは人間の想定の「裏をかく」

AIが人間の意…