AIがサイバー攻撃試み、試験中に逸脱行動

Suiの開発元であるMysten Labsは10月6日、Google Cloudとの共同開発計画を発表した。AIエージェントが与えられた権限の範囲で行動したことをブロックチェーンを活用して証明する基盤「Verifiable Agent Arbiter（VAA）」を開発する。VAAは、エージェントに許可された操作、実際の行動、その結果を結び付けて記録し、取引相手や監査担当者がエージェントを動かしたシステムとは独立して記録を検証できるようにする。AIへの指示文や出力、外部ツールの操作、社内ルールに基づく判断などは顧客が管理するGoogle Cloudのストレージに非公開で保存し、記録に対応する暗号学的な証明はデータ保存基盤のWalrusに保存する設計で、スイがその証明の管理・連携を担う。企業間取引でのトラブル対応や不審な操作の原因調査に加え、AIエージェントが決済規格「x402」で外部サービスの利用料金を支払うスイの仕組みとの連携も盛り込む。

パラマウント・スカイダンスは10月6日火曜日、ワーナー・ブラザース・ディスカバリーの買収を完了したと発表した。これにより、100年の歴史を持つハリウッドの映画スタジオ2社、世界的なストリーミングサービス2プラットフォーム、米国の大手報道機関2社を1つの企業の下に束ねる、スカイダンスという名称の巨大企業が誕生する。一方、アンソロピックは、モデル自体の安全対策を緩和した上で、認定を受けたサイバーセキュリティの専門家が同社の最も強力な人工知能モデルにアクセスしテストできるようにする特別プログラムを拡大すると発表した。これは、協力プロジェクト「プロジェクト・グラスウィング」が今年、世界中で10万件を超えるソフトウェアの脆弱性の検出に貢献したことを受けたものだ。また、日本の大手書籍・出版事業グループであるニッポン・グループ・ホールディングスは、グループ企業の一つが米国の人工知能開発企業アンソロピックに大量の書籍を販売したことを認めた。日本の出版業界では、これらの書籍が人工知能モデルの訓練用デジタルデータとしてスキャンするために裁断され、その後廃棄される可能性があるとの懸念が高まっている。同じく日本では、日本の公正取引委員会が本日10月7日、ビール卸売価格の談合を行った疑いがあり、独占禁止法違反に当たるとして、市場シェアを合わせて90%超を占める大手ビールメーカー4社に立ち入り検査に入った。

米人工知能企業アンソロピックは6日、同社のAIモデルをサイバーセキュリティー関連で利用する際の認証プログラムを再編すると発表した。これにより、セキュリティー関連の研究に従事する個人も登録でき、より多くの組織などが、ソフトウエアの脆弱性を発見する能力が高い最上位モデル「クロード・ミュトス5．1」を利用できるようになる。同社は従来設けていた認証プログラムと、4月に発表した、ミュトスを利用できる組織を認定する枠組み「プロジェクト・グラスウイング」を統合する。利用者はモデルの用途に応じて3段階に分けられ、最下位のグループには小規模なセキュリティー事業者や大学、個人などが参加可能で、ミュトスなどのモデルを脆弱性の分析など防御的な業務に利用できる。最上位のグループは交通や金融といった重要インフラを担う組織が対象で、危険度の高いセキュリティー検証などが可能だ。

CrowdStrikeは9月1日、Google Cloudとの関係を拡大し、企業のAIアプリケーションをプロンプトインジェクション、機密データ漏洩、悪意あるAI活動から保護するFalconの機能をGoogleのAgent Gatewayを通じて提供すると発表した。FalconとGemini Enterprise間のより広範な連携も含まれる。この動きは、売上高が前年同期比26%増の約14億7000万ドル、年間経常収益が約58億4000万ドルで25%増、四半期の純新規ARRが3億3280万ドルに達した第2四半期に続くものである。Falcon Flexを利用する顧客からのARRは22億9000万ドルを超え、前年比101%増となった。営業キャッシュフローは3億3280万ドルから5億3030万ドルに増加し、フリーキャッシュフローは2億8360万ドルから3億7740万ドルに増加した。経営陣は2027年度通年の純新規ARR成長率見通しを中央値で34%に引き上げた。ジム・クレイマーは10月1日のMad MoneyでCrowdStrikeを取り上げ、株価が39%上昇したこと、慈善信託が同社を保有していることに言及したが、同社は依然として予想利益の約210倍で取引されており、Palo Alto Networksの96倍と比較される。また、GAAPベースの営業損失3億3200万ドルに対し、非GAAPベースの営業利益は3億7160万ドルを報告した。2024年7月の障害による法的リスクは未解決のままで、Deltaの訴訟では証拠開示が進行中であり、同社は売上認識、特定顧客のARR報告、および障害に関して司法省とSECから情報提供要請を受けていることを開示している。

アドバンスト・マイクロ・デバイセズのリサ・スー最高経営責任者（CEO）は、需要が引き続き供給を上回っており、同社は2027年に供給を大幅に増やす計画だと述べ、AMD株は火曜日の取引開始直後に上昇した。アンソロピックが今後10年間で計画するクラウドおよびコンピューティング支出5180億ドルのうち、約80％はキャンセル不可、または実際に使用する容量に関係なく支払い義務が生じる。イーロン・マスク氏は週末、スペースXと台湾積体電路製造（TSMC）が潜在的な協業について協議中であり、台湾のファウンドリが、マスク氏、テスラ、スペースXが立ち上げた垂直統合型半導体製造構想「テラファブ」を、将来のテキサス施設のアンカー顧客として利用する可能性があると確認した。ズスケーラーは第1四半期および2027年通年の業績見通しを再確認し、ジェイ・チョードリーCEOは、自律型AIエージェントが今後数年で主要なサイバーセキュリティリスクのベクトルになると警告した。ウェルズ・ファーゴはメタ・プラットフォームズの「オーバーウェイト」評価を維持し、目標株価を1000ドルに引き上げ、ミューズが長期的なAIサイクルを拡大させる要因になると指摘した。