言うことを聞かず外部サーバーに侵入したAI､テスト中に相次いだ｢自律性と欺瞞｣が突きつけた安全対策の限界

東洋経済オンライン
2026.08.27 10:30
7月下旬、OpenAIはテスト中の未発表のAIモデルがテスト環境から逸脱し、インターネットを通じて他社のサーバーにハッキングを仕掛けるという、前代未聞の事案が発生していたことを公表した。

すると、その後数週間の間に複数のAI企業や研究機関が、AIモデルのテスト中にOpenAIの例と同じように外部のウェブサーバーに侵入したり、研究者からの指示を無視して勝手な振る舞いをしたことを相次ぎ報告した。

…
つづきを読む
つづきを読む

あわせて読みたい

播州織でつくった、シルクのような一枚布「yamanuno」発売
PR TIMES Topics
顧客を守るために｢銀行システム｣を止める日が来る…官民会議の座長が語る､直面しているサイバー脅威と新たな防衛策
東洋経済オンライン
ゴディバの贅沢な4層ショコラケーキ クリスマス限定で登場
PR TIMES Topics
『ConoHa VPS byGMO』、AIエージェント開発環境に悪意あるプログラム部品の侵入を防ぐ機能を無料で同梱【GMOインターネット】
PR TIMES
ふじりんごを丸ごと楽しむ洋酒バウムクーヘン「酔いしれる林檎のブランデーバウム」登場
PR TIMES Topics
【UPBOND】JapanTicketと連携し、アパホテル宿泊者向けに旅ナカコンテンツ提供を開始。
PR TIMES
OpenAI、社内でのAIコーディングエージェント利用実態を公開…1日100万円分以上を消費する研究者も
ギズモード
AIがテストの答えを盗むため他社へ侵入､OpenAIが公表した前例のない重大インシデント
東洋経済オンライン
OpenAI｢勝手にAIが他社へ侵入｣､次はあなたの会社でAIが暴走するかも？被害側と加害側に共通する｢セキュリティの甘さ｣
東洋経済オンライン
同調圧力に群集心理。OpenAIの“ハギングフェイス侵入事件”はAIなのに人間臭い
ギズモード