言うことを聞かず外部サーバーに侵入したAI､テスト中に相次いだ｢自律性と欺瞞｣が突きつけた安全対策の限界

東洋経済オンライン
2026.08.27 10:30
7月下旬、OpenAIはテスト中の未発表のAIモデルがテスト環境から逸脱し、インターネットを通じて他社のサーバーにハッキングを仕掛けるという、前代未聞の事案が発生していたことを公表した。

すると、その後数週間の間に複数のAI企業や研究機関が、AIモデルのテスト中にOpenAIの例と同じように外部のウェブサーバーに侵入したり、研究者からの指示を無視して勝手な振る舞いをしたことを相次ぎ報告した。

…
つづきを読む
つづきを読む

あわせて読みたい

深い色彩と芳醇な香り。「秋バラ」のフェア開催
PR TIMES Topics
目的達成のためならサイバー攻撃も辞さない… 1200ものAIが秘密裏に結託した｢恐るべき相互扶助｣の脅威と実態
東洋経済オンライン
植物園から生まれた「発酵しょうがドリンク」
PR TIMES Topics
ケアしておきたい生成AI使用リスクQ&A【デジタル＆AIギア 完全ガイド】
＆GP
【HOTEL AO KANAZAWA】加賀水引のしめ縄作り体験を開催
PR TIMES Topics
EC運営のあらゆる業務を「ゼロ」に。「emma」を、EC運営を代行するAIエージェント「RUFU AI」としてリニューアル
PR TIMES
GMO NIKKO、AIエージェント経由の購買に対応する「GMO AIOブースト for EC」提供開始
PR TIMES
AIがテストの答えを盗むため他社へ侵入､OpenAIが公表した前例のない重大インシデント
東洋経済オンライン
OpenAI｢勝手にAIが他社へ侵入｣､次はあなたの会社でAIが暴走するかも？被害側と加害側に共通する｢セキュリティの甘さ｣
東洋経済オンライン
同調圧力に群集心理。OpenAIの“ハギングフェイス侵入事件”はAIなのに人間臭い
ギズモード