AI Security & Agent Guardrails

ゼットスケーラーのCEO、ジェイ・チョードリー氏は、AIエージェントが企業セキュリティの最も弱い環になると述べ、企業ネットワーク上で野放しにされたエージェントは乗っ取られ、休みなく機械の速度で動作する可能性があると警告した。ヤフーファイナンスのインタビューでチョードリー氏は、フォーチュン500企業の50%以上がゼットスケーラーの顧客であり、同社はゼロトラストアーキテクチャをエージェントに拡張し、特定のアプリケーションとサービスへのみアクセスを許可していると述べた。同氏は、企業はメタのミューズのようなツールに対応する準備ができていないとしつつ、自身のチームはそれをテストしていると語り、AIの恩恵のためにいくつかの悪い結果を受け入れるべきだというOpenAIのCEO、サム・アルトマン氏の提案を否定した。チョードリー氏はまた、2021年以来初となるゼットスケーラーの投資家デーで、AIとエージェントが財務に与える貢献についての見通しを共有する予定であると述べた。これは、JPモルガンがタイミングと規模についてより明確な説明を求めたことを受けたものである。同氏はさらに、上場することで企業はより責任ある存在になると付け加え、ゼットスケーラーは8年間上場していると述べた。

Promevoは、AIエージェントの統治、Gemini Enterpriseの導入状況、Google Cloudのコスト管理を単一のビューに統合する初のプラットフォームとされる「Insights by Promevo」を発表した。このプラットフォームは、アイドル状態または十分に活用されていないライセンスを特定し回収可能な支出を定量化するAIライセンス最適化、独自開発エージェントを棚卸ししてその権限とデータアクセスを可視化するAIエージェントの統治とセキュリティ、各エージェントを基盤となるGoogle Cloudリソースの消費とコストに結び付けるAIコスト配賦という3つの領域にわたってリアルタイムの可観測性を提供する。Promevoによると、ネイティブのコンソールはデータが分断され、遡及期間が28日に限られているが、Insightsはこうしたサイロを統合し、履歴保持期間を延長する。しかも、組織の機密性の高いプロンプトや応答内容を一切読み取ったり保存したりすることなくこれを実現する。同じビューはGemini Enterpriseにとどまらず、顧客のGoogle Cloud環境全体に広がり、クラウドFinOps、資産の検出と階層、プロジェクト横断的なIAMアクセスインテリジェンスをカバーする。CEOのKarthik Kripapuri氏は、顧客組織がすでに数千のエージェントを運用していると述べ、このプラットフォームはGoogle WorkspaceとGemini Enterpriseを利用する顧客向けに本日提供を開始し、今後数日から数週間で拡張を計画していると語った。

マスターカードは9月30日、AI主導の取引向けの確率スコアを発表した。この機能は、ウェブおよび決済シグナルフィードを担うCloudflare、Know Your Agent検証を担うSkyfireとともに、同社のエージェント型コマース信頼フレームワーク内に位置づけられる。確率スコアは、エージェント型コマースに必要な信頼スタックに第2の層を追加するもので、AI主導の各取引を動的に評価し、取引が正当かどうかを問うのではなく、実行の瞬間に信頼スコアを生成する。これは、マスターカードが今年初めに統合したSkyfireのKnow Your Agentフレームワークを基盤としており、同フレームワークは取引時点で資格情報を発行しエージェントの身元を検証する。この基盤は、Know Your Agentインフラ構築のために3500万ドルを調達したBaselayerも追求している。確率スコアの導入により、エージェント型コマースの信頼インフラには現在4つの可視層が存在する。Know Your Agentによる身元検証、取引レベルの確率スコアリング、Stripeのエージェント型コマーススイートやVisaのインテリジェントコマースなどのガードレールを備えた決済実行、そして依然として初期段階で断片化している消費者保護シグナルである。

電子取引開発事務局（ETDA）は、2570年の人工知能ガバナンスの方向性を発表し、AIガバナンス実践センター（AIGPC）を中央メカニズムに格上げして、AIガバナンスサンドボックスを推進することを明らかにした。これは、組織がAIソリューションと政策アプローチを実際のユースケースに制御された環境で試験し、リスクを発見し、評価基準を設定し、広範な導入前にシステムを改善するための場である。ETDAの顧問でAIGPCセンター長のロッチャナ・ラムルアン氏は、主な課題はすべての人にAIを知ってもらい活用してもらうことではなく、各組織のAIに関する知識、準備状況、リスク管理能力が大きく異なる点にあると述べた。これはG-A-Pとしてまとめられ、AIガバナンスに関する理解のギャップ、AI応用への準備のギャップ、倫理原則を実践に移すギャップの3つを包含する。重要な考え方は、問題が起きてから解決するのを待つのではなく、AIを実際に導入する前にリスクを見極めることである。ETDAはまた、シンガポールと協力して、タイ語の理解、文化、社会背景に合わせて設計されたテストプロンプトを開発する準備をしている。さらに、国境を越えたAIインシデントへの対応を訓練するAIインシデント演習の開催を推進する。例えば、AI詐欺師が画像、音声、メッセージを偽造して個人や政府機関になりすます事例などである。2569年、ETDAは140以上の機関、20の省庁にわたるネットワークと協力して拡大の基盤を築き、AIガバナンスガイドライン、ツールキット、AI EIAプレイブックを開発し、銀行部門と協力して倫理的LLMのテストを行い、12万人以上の職員にAIガバナンススキルを提供することを目標としている。

Nvidia Corporationは、AIインフラスタックにオープンエージェント安全プラットフォームを追加する。これは、テストから展開までAIエージェントを保護するためのオープンなソフトウェアおよびリファレンスシステムであり、OpenShellソフトウェアとBlueField DPU上のNvidia Sentryを組み合わせて、有害となる可能性のあるエージェントの活動を監視、制御、隔離する。今回の発表は、OpenAIのエージェントがHugging Faceに侵入した事件を含む、OpenAIとAnthropicのAIエージェントに関する最近のインシデントを受けたもので、Nvidiaは、新プラットフォームがエージェントの権限を制御し疑わしい行動を隔離することで、その侵入を防げた可能性があると述べた。主要なテクノロジーおよびソフトウェア企業を含む100以上の組織がこのプラットフォームに関与している。Nvidiaは、OpenShellがオープンソースで異なるCPUアーキテクチャ間で動作する一方、Sentryは同社のBlueFieldハードウェアにより直接結びついているため、投資家にとっての主な不確実性はプラットフォームをどう収益化するかであり、プラットフォームを短期的な利益のけん引役と見なすにはまだ時期尚早だと述べた。Nvidiaの予想GAAPベースのPERは22.79倍で、5年平均の51.72倍を約56%下回っており、予想株価売上高倍率は13.33倍で、5年平均の19.70倍を約32%下回っている。7月26日時点で、Nvidiaは現金および現金同等物を224億4000万ドル、市場性債務証券を341億4000万ドル保有し、総負債は約333億7000万ドルだった。一方、ヘッジファンドの保有は2026年第1四半期末の275ファンドから2026年第2四半期末には285ファンドに増加し、2026年9月15日時点の空売り残高は浮動株のわずか1.27%だった。

米アップルは２日、同社のＰＣ「Ｍａｃ」の基本ソフトを修正し、人工知能エージェントがＭａｃ内の全データへのアクセスを求めた場合に利用者がより明確に認識し対応できるようにすると明らかにした。アップルは自社サイトで、一部の開発者が利用者を危険にさらしかねない形で「フルディスクアクセス」機能を使っていると指摘し、今後、追加の制御機能を導入すると表明した。同社は「ＡＩエージェントの能力と自律性が高まるにつれ、これほど広範なアクセスに伴うリスクは大幅に増大する」とし、利用者が自身のデータとプライバシーについて十分な情報に基づいて判断できるよう、アクセスを許可する前にこうしたリスクを明確に理解できるようにすることに取り組むとした。ＭａｃはｉＰｈｏｎｅやｉＰａｄの「サンドボックス化」に比べて柔軟な設計で、利用者の許可があればクラウドバックアップサービスなどのアプリが端末内の全データにアクセスできる。メタ・プラットフォームズのＡＩエージェント「Ｍｕｓｅ」については、一部ユーザーから機密性の高い個人情報にアクセスされたとの批判が出ている。

エヌビディアは自社株買いの枠を1500億ドル拡大した。この規模の増額は史上最大で、これにより未実行の自社株買い枠は2350億ドル残ることになる。同社はこの2350億ドル全額を2028会計年度末までに消化する見通しだと述べており、この期間は2028会計年度に70%の増収を見込む同社のガイダンスと重なる。エヌビディアはまた、オープンエージェント安全プラットフォームを発表した。これは、自律型AIエージェントに実行時の境界を設けるオープンソースソフトウェア「オープンシェル」と、同社のベラCPU上で動作する仕組み、および逸脱したエージェントをミリ秒単位で隔離するブルーフィールド4 DPU上のリファレンス設計「セントリー」から構築されている。アンソロピック、スペースXAI、スケールAI、セールスフォース、SAPが参加を表明しており、エヌビディアは100を超える組織がこの技術に取り組んでいるとしている。ヘッジファンドの保有は前四半期の275社から285社に増加し、空売り残高は浮動株のわずか1.27%にとどまり、株価は予想利益の24.88倍で取引されている。

メタ・プラットフォームズは、ホワイトハウスで他の大手AI開発企業とともに、自主的なAI安全協定に署名した。この協定は、参加企業に対し、AIシステムの独立したテスト、より強固な内部統制、より明確な公的透明性措置を義務付けており、メタは主要なAIリスクに対する取締役会レベルの監督にも同意し、AI業務のガバナンスを協定の安全基準に沿わせることになった。この自主協定は、独立した監査、厳格な内部統制、取締役会レベルのAIリスク監督など、メタにとって大きなコストを招き得る領域を示しており、コンプライアンス支出を増やし、一部システムの展開を遅らせる可能性がある一方で、将来的に巨額の罰金や強制的な製品変更の可能性を減らすことにもつながる。メタは、コンプライアンス、セキュリティ、データ処理を重視する企業向けに、Museを活用したツールとメタ・エンタープライズ・プラットフォームを販売しようとしており、より明確な安全ガバナンスは、メタがAIをどのように構築しテストしているかについて情報責任者により大きな信頼を与えることで、その取り組みを後押しし得る。次の本当の試練は、メタが今後のSEC提出書類や決算説明会で、AIリスク監督とテストをどのように説明するかであり、特に2026年9月28日に最高エンタープライズ・プラットフォーム責任者を任命し、メタ・エンタープライズ・プラットフォームを立ち上げた後だけに注目される。

OpenAI・Google・Meta、AI安全性の第三者監査で合意。3社は、人工知能システムの安全性について第三者による監査を実施することを定めた協定に参加した。これは、大手テクノロジー企業が独立機関にAIの安全性評価を開放する重要な協力体制となる。

Nvidiaは、AIエージェント向けのセキュリティプラットフォーム「Open Agent Safety Platform」を発表した。これはエージェントにとってのブラウザのようなものだと説明されており、エージェントが任務に必要なリソースとシステムにのみアクセスできるよう権限を制御する仲介役として機能する。このアーキテクチャは二つの主要部分で構成される。一つはNvidia OpenShellで、プロセッサレベルで権限の範囲を定め、AIが許可されていないシステムに侵入しないよう動作を制限する制御システム。もう一つはNvidia Sentryで、ネットワークチップ上で別個に動作する動向監視システムであり、主要な演算リソースを消費することなく、異常な動作を即座に検知して停止させることができる。このプラットフォームはオープンソースソフトウェアを重視したリファレンスデザインとして構成されており、Microsoft、Cisco、Oracle、Dell、Intel、Anthropicといった世界的なパートナーが、それぞれのAIセキュリティ強化製品の開発にこれを活用できる機会を提供する。今回の発表は、AIの安全性に対する懸念は、実際には効果的な統治システムの設計によって解決可能なエンジニアリング上の課題であり、イノベーションを止めることではないという、NvidiaのCEO、Jensen Huang氏の見方と一致している。

Googleは水曜日、フロンティアAIモデル「Gemini 4 Argon」を発表し、ソフトウェアエンジニアリング、ナレッジワーク、サイバーセキュリティなどのタスクで高性能な能力を発揮すると述べた。同社はまず、信頼できるパートナー向けのFairwindプログラムのメンバーにGemini 4 Argonを提供し、Googleがモデルをより広く公開する前に、彼らがArgonを使って自社ソフトウェアの欠陥を見つけて修正できるようにする。また、フロンティアモデルに関する米国政府の任意の事前公開プログラムにも参加している。GoogleはAI価格競争にも参入し、Gemini 4 Argonを導入価格として入力トークン100万件あたり2ドル、出力トークン100万件あたり10ドルで提供する。これはAnthropicの最上位モデルFable 5.1の入力100万件あたり10ドル、出力100万件あたり50ドル、およびOpus 5.5の入力100万件あたり4ドル、出力100万件あたり20ドルを大きく下回り、OpenAIの最上位モデルGPT-6 Astraの入力10ドル、出力50ドルも下回る。ただしOpenAIの新しいGPT-6.1 Solは入力2ドル、出力10ドルでGoogleと同水準だ。Googleによると、このソフトウェアはすでにコーディングからリサーチ、文章の品質に至るまで社内のワークフローを支えており、企業や顧客向けに提供される前に段階的にリリースする計画だという。最終的にはGemini 4 ArgonがGoogleのサービスの大半を支えることになり、同社が検索からYouTubeに至るまでGemini 3を各プラットフォームに組み込んだのと同様だとしている。発表に先立ち、Bloombergは、Google社内の一部がGemini 4 ArgonはAnthropicやOpenAIの製品ほど強力ではないと懸念する一方、強力だと述べる関係者もいると報じた。Alphabetの株価はこのニュースを受けて横ばいだった。

Nvidiaはオープン・エージェント安全プラットフォームを発表し、自律型AIの監視に向けてOpenShellとSentryのツールを追加した。この安全スイートはBedrock DataやTrendAIなどのパートナーとともに提供を開始し、企業がAI利用の境界を設定・執行できるよう支援する。NvidiaのCEOであるジェンスン・フアン氏は、主要なAI開発企業が安全基準に関する自主協定に署名したホワイトハウスのイベントに参加した。このプラットフォームは、OpenShellのようなエージェント実行時の制御と、BlueField 4 DPU上のSentryによるハードウェアレベルの監視を組み合わせ、Nvidiaのフルスタック提案をGPU、CPU、ネットワーキングから、エージェント型AIプロジェクトのガバナンスとコンピューティングへと拡張するものだ。Nvidiaの時価総額は約5兆5000億ドルに達している。

バンコク銀行の副頭取であるコープサック・プートラクーン博士は、自身のフェイスブックを通じて、米国と中国の間で人工知能のリーダーシップを巡る競争が激化していると明らかにした。米国は中国を約6～12カ月リードしていると確信しており、リーダーシップを維持するために技術開発を加速する用意がある。これは世界経済の方向性を決定し、地政学的な競争で優位に立つための重要な要素となる。ドナルド・トランプ大統領は、AI業界の主要民間企業を招き、米国のリーダーシップ維持の方策について協議した。同時に、AIの安全性への信頼構築とインフラ整備、特に地域社会に受け入れられる必要があるデータセンターの開発についても議論した。コープサック博士によると、米国はAI開発を支援する資金を持っているものの、安全性への懸念や地域社会への影響、さらには多くの地域でデータセンター建設への反対の動きから圧力に直面している。そのため、Google、Anthropic、Meta、OpenAI、xAI、Nvidiaなどの主要企業が参加する「White House Accord on Super Intelligence」が「Joint Commitment on Frontier Responsibilities」の下で策定された。これは自主的な安全協定であり、トランプ大統領はAI開発者の道徳的義務であると述べ、将来は法律や規制に発展する可能性があるとした。さらに、AIの安全性を検証する4層のシステムを定めるガイドラインもあり、組織内でのモデルの動作の管理と監視、欠陥を検査・修正する内部チームの設置、外部の独立した監査者による評価、企業の独立委員会による監督が含まれる。一方、米国はデータセンターの拡大も支援しており、プロジェクトを開発する企業が教育、生活の質、資金援助、地域住民の税負担軽減など、地域社会に利益をもたらすためのガイドラインを定めている。また、トランプ大統領は政府機関に対し、AIを「Super Intelligence」または「SI」と呼ぶよう方針を示し、AIの開発を監督・促進する約10人の「AI Board」または委員会の設置を準備している。さらに、新たなAI政策責任者の発表もあり、詳細な名前や権限については今後注目される。コープサック博士は、AIの首位争いが重要な段階に入っており、安全性リスクと社会への影響を管理する能力が技術開発を加速するための重要な条件となるとの見方を示した。これは今後の世界経済や人々の生活に影響を与える可能性がある。

ドナルド・トランプ大統領は火曜日、ホワイトハウスで複数の主要AI企業のリーダーらと自主的なAI安全協定に署名し、この協定を「道徳的に拘束力がある」と呼んだ。超知能に関するホワイトハウス協定は、「フロンティア責任に関する共同コミットメント」とも表現され、トランプ大統領のほか、アルファベットCEOのスンダー・ピチャイ氏、アンソロピックCEOのダリオ・アモデイ氏、メタ・プラットフォームズCEOのマーク・ザッカーバーグ氏、オープンAI社長のグレッグ・ブロックマン氏、スペースXとxAIのCEOであるイーロン・マスク氏、エヌビディアCEOのジェンセン・フアン氏が署名した。この協定は、フロンティアAIモデルを開発する企業向けに4層の管理措置を定めている。訓練および展開中にAIの能力と整合性を監視する内部システム、特にサイバーセキュリティ、バイオセキュリティ、化学的リスクに対応するもの。安全対策が意図通りに機能しているかを評価する独立した外部監査人または評価者。各社の取締役会に設置される別個の独立委員会で、プロセスを監督し、内部チームや外部監査人から報告を受けるもの。そして、監視・検知システムの機能維持を担う内部チームである。この合意は将来の規制の可能性を排除しておらず、「これらの措置を法律や規制として成文化することが理にかなう場合がある」とし、参加企業は安全基準とベストプラクティスを策定するため定期的に会合を開くことで合意した。ザッカーバーグ氏はXでこの合意を「重要な前向きな一歩」と呼び、複数層の監査とレビューが高度なAIシステムに対する国民の信頼を高める可能性があると述べた。

トランプ米大統領は29日、人工知能（AI）企業の首脳らと署名した文書をSNSで公表した。AI企業は「モデルの監視へ強固な内部管理体制を導入する」と表明し、「管理・監査の実施が全ての人にとって安全な未来を確保する上で重要だ」として、その実行を約束した。安全性向上のため、定期的に会合を開くとしている。

Aembitは、企業のAIエージェントのアクセスを管理するため、Oktaのクロスアプリアクセスプロトコルへの対応を発表するとともに、アルファベットのX部門の幹部であるヘレン・ライリー氏が同社の取締役会に加わることを明らかにした。クロスアプリアクセス統合は、企業顧客が利用する自動化されたエージェントのワークフローに対する認可と監督を効率化することを目的としている。クロスアプリアクセス統合とヘレン・ライリー氏の取締役就任は、Oktaのアイデンティティプラットフォームをめぐるより広い話の一部にすぎず、Simply Wall StはOktaについて1つの警告サインを指摘した。Oktaは、人間とソフトウェアエージェントが重要システムにアクセスする方法を統制する単一の制御点を求める企業向けのアイデンティティパートナーとして自らを位置づけており、クロスアプリアクセスをめぐる動きは、企業ユーザー、AIツール、クラウドインフラの間に位置しようとする同社の狙いに直結している。記事はOktaの適正価値を122ドルと指摘している。

Nvidiaは、独立した第三者モデルの監視役を使ってAIエージェントの推論を観察する新しいAI安全ソフトウェアプラットフォームを展開していると、Creative StrategiesのCEO兼主席アナリストのベン・バジャリン氏が述べた。バジャリン氏によると、このプラットフォームの中核機能は、別個のモデルがエージェントの推論をリアルタイムで監視し、それが軌道から外れ始めたり、取るべきでない行動に向けて推論したりしたときに警告を発することだ。このシステムは、企業固有の権限とポリシーを設定してガードレールを強制することができ、結果だけを判断するのではなく推論を検査する点でかなり斬新なアプローチだとバジャリン氏は評した。このソフトウェアのニュースは、Nvidiaが自社株買いを1500億ドル拡大する動きと同時に発表された。バジャリン氏は、OpenAIとAnthropicが表明したAI安全への懸念は妥当だとし、現在多くの企業エージェントが統治されないまま稼働しており、最先端のハッキングに対抗するにはより良いガバナンスとセキュリティが必要だと警告した。

Nvidiaは2026年9月28日、Open Agent Safety Platformを発表した。これは、ポリシーベースの約束からシリコンレベルの強制執行へとAIセキュリティを移行させるフレームワークであり、オープンソースランタイムのOpenShellと、BlueField-4 DPUの監視役であるSentryを使用し、すでに100以上のパートナー組織が参加している。この取り組みは、連邦取引委員会の厳格な責任姿勢に直面している。アンドリュー・ファーガソン委員長は9月25日、オースティンで開催されたロイター・モメンタムAI会議で、ハンマーを振るった者はその行為の結果に苦しむべきだと述べ、不正エージェントの抗弁を否定した。この緊張は、2026年10月1日に執行を開始するコネチカット州AI責任・透明性法によってさらに鮮明になっている。同法は、第三者のベンダーツールを使用している場合でも、AIの結果に対して展開者に責任を負わせるものであり、OASPのような自発的フレームワークがこれらの義務を満たすかどうかについて、州の指針はまだ示されていない。保険会社は、Verisk AI除外承認を通じてエージェント関連の補償を引き下げており、現在、無制限の補償を提供している企業契約は22%に過ぎず、ハードウェアの安全対策にかかわらず、責任の負担は展開者に残っている。市場参加者は、コネチカット州司法長官が自発的フレームワークとCAIAコンプライアンスの相互作用について指針を出すかどうか、また、技術的な安全性と法的責任の橋渡しをする新しい保険商品が登場するかどうかを注視すべきである。