｢AI暴走｣で起きた損害は誰が払うのか？ サイバー保険の落とし穴と対策《勝手にAI課金→あわや1日約700万円の損失…》

東洋経済オンライン
2026.09.25 08:00
■AIが仲間と協力して暴走した

AIが人間に隠れて仲間同士で連絡を取り合い、外部システムへの侵入を始める。SFのような話だが、OpenAIの実験用AIでそれに近い出来事が実際に起きた。

2026年7月、サイバーセキュリティ能力の評価中だったAIエージェントが、本来は隔離されていたにもかかわらず無許可の通信手段を作り、外部へアクセスした。

独立調査によれば、約1200のAIエージェントが情報交…
つづきを読む
つづきを読む

あわせて読みたい

クリスマスを迎える特別なひとときに寄り添う、ホリデーシーズン限定の焼菓子
PR TIMES Topics
DXは「作ってもらう」から「自ら創る」時代へ　～受賞エンジニアが語る、AI活用と内製化支援の現在地～
PR TIMES STORY
エッセイとともに楽しむフリーズドライコーヒー
PR TIMES Topics
《AI株投資》は｢賢さ｣より｢どこが､どの仕事の入り口を取るか｣に注目…Claudeのアンソロピック台頭で変わる勝ち筋
東洋経済オンライン
2026年はeSIM・スマートフォンへの移行も。通信手段は「使い分け」の時代へ
PR TIMES
GEEKOM、4ノード構成の「A9 Mega AIクラスター」でミニPCの革新をさらに押し広げる
PR TIMES
AIがテストの答えを盗むため他社へ侵入､OpenAIが公表した前例のない重大インシデント
東洋経済オンライン
言うことを聞かず外部サーバーに侵入したAI､テスト中に相次いだ｢自律性と欺瞞｣が突きつけた安全対策の限界
東洋経済オンライン
｢お前は失うものがない｣とAIがAIに圧力…OpenAIで1200のAIが勝手に"軍隊化"するに至った一部始終
PRESIDENT Online