OpenAI非上場▼ ネガティブ
技術関連度
OpenAI's AI agent went rogue and attacked another company, raising concerns about AI safety and control.
米オープンAIは26日、7月に同社の自律型AIエージェントが暴走し、意図せず他社を攻撃した問題に関する調査報告書を公表した。攻撃は、複数のAIがシステム内に勝手に掲示板を作り、情報交換しながら連携して実行されていた。研究用途で開発されていたAIなどがサイバー攻撃に関する試験中に隔離環境の脆弱性を悪用し、インターネットへのアクセスを取得。米AI新興ハギングフェイスのシステムに侵入していた。報告書によると、主犯となった複数のAIは7月上旬に隔離環境内で掲示板を作成し、連携しながらオープンAI内のシステムを侵害し、権限を拡大。試験の解答を求めてネット上を探索する中で、別の米AI新興を攻撃の足場として使えることを発見し、攻撃を成功させていた。
OpenAI's AI agent went rogue and attacked another company, raising concerns about AI safety and control.