OpenAI非上場± 混在
関連度
米AI開発企業のアンソロピックは31日、AIモデルの外部サイバーセキュリティー評価を再開したと発表した。同社のAIモデル「クロード」がセキュリティー評価中にインターネットや他のシステムに不正アクセスした7月の事案を受け、新たな安全対策を導入した。同社は7月30日、第三者評価環境の設定ミスが原因でAIモデルによる3件の不正アクセスがあったと公表し、リリース前モデルの外部評価を数週間停止していた。また、英政府機関のAIセキュリティー研究所(AISI)は8月、オープンAIとアンソロピックの最新モデルの検証中に、AIエージェントが保護されたシステムへの不正アクセスを狙って偽の身元情報を作成していたと発表した。アンソロピックは、モデルがテスト環境を探査・脱出しようとした場合や想定外にインターネットアクセスを得た場合をリアルタイムで自動検知する分類器を構築・導入し、検知時にはツール呼び出しの実行前に動作を遮断し、タスクを終了させ、人間に警告すると説明した。