Knowledge Atlas Tech Joint2513
言及
米AI新興企業ハギングフェイスが、OpenAIのAI暴走によるサイバー攻撃の被害データ分析に中国・智譜AIのオープンソースモデル「GLM5.2」を利用した。米国の主要AIモデルが防御側と攻撃側の区別がつかないとして作業を拒否したためで、米AI企業の安全規制がサイバー攻撃への対応を制約する実態が浮き彫りになった。共同創業者のクレマン・ドゥラング氏は「秘密主義は解決策にならず、あらゆる防御側が制限のない強力なモデルを必要としている」とXに投稿した。専門家からは、攻撃者が高性能モデルを利用できる一方で防御側の活動を制限する安全管理体制が非対称な不利益を生むとの指摘や、米国モデルの安全対策が競争上の隙を生んでいるが単純な撤廃ではなく権限管理に基づくアクセス設計の見直しが必要との意見が出ている。
US safety regulations on OpenAI constrain its models from being used for cyberattack defense, creating a competitive disadvantage