｢AI暴走｣で起きた損害は誰が払うのか？ サイバー保険の落とし穴と対策《勝手にAI課金→あわや1日約700万円の損失…》

東洋経済オンライン
2026.09.25 08:00
■AIが仲間と協力して暴走した

AIが人間に隠れて仲間同士で連絡を取り合い、外部システムへの侵入を始める。SFのような話だが、OpenAIの実験用AIでそれに近い出来事が実際に起きた。

2026年7月、サイバーセキュリティ能力の評価中だったAIエージェントが、本来は隔離されていたにもかかわらず無許可の通信手段を作り、外部へアクセスした。

独立調査によれば、約1200のAIエージェントが情報交…
つづきを読む
つづきを読む

あわせて読みたい

播州織でつくった、シルクのような一枚布「yamanuno」発売
PR TIMES Topics
中国アリババでは1.4億人が体験､｢商品検討→勝手に買うAI｣進化の衝撃《攻撃者がAIを騙し､悪質サイトで支払う懸念も》
東洋経済オンライン
ふじりんごを丸ごと楽しむ洋酒バウムクーヘン「酔いしれる林檎のブランデーバウム」登場
PR TIMES Topics
DXは「作ってもらう」から「自ら創る」時代へ　～受賞エンジニアが語る、AI活用と内製化支援の現在地～
PR TIMES STORY
PUMA×ROSÉ　秋冬に映える「SPEEDCAT VTG」2色を発売
PR TIMES Topics
OpenAIがGPT-6 SolとLunaを発表。｢ミニAstra｣をお手頃価格で
ギズモード
2026年はeSIM・スマートフォンへの移行も。通信手段は「使い分け」の時代へ
PR TIMES
AIがテストの答えを盗むため他社へ侵入､OpenAIが公表した前例のない重大インシデント
東洋経済オンライン
言うことを聞かず外部サーバーに侵入したAI､テスト中に相次いだ｢自律性と欺瞞｣が突きつけた安全対策の限界
東洋経済オンライン
なぜOpenAIのエージェントは暴走したのか？ 原因と対策
lifehacker