NVIDIAら37社が「Open Secure AI Alliance」設立――AIエージェントのセキュリティは重みの非公開では守れない

📝 Think IT編集部の見解 📝

今回の発表の核心は「AIエージェントのセキュリティは、モデルの重みを非公開にすれば守れるものではない」という主張にある。

NVIDIAはブログの中で、真のAIの安全性はモデルの重みが公開か非公開かだけでなく、ID、権限、ハーネス、ガードレール、ログ、評価といったエージェントスタック全体に依存すると述べている。これはインフラエンジニアやSREにとって示唆的だ。AIエージェントを本番環境に組み込む際、多くの現場が意識するのは「どのモデルを使うか」だが、実際に運用リスクを左右するのは、そのエージェントがどの権限で何を実行し、その痕跡がどう残るかという周辺のスタックである。

Hugging Faceのインシデント事例として挙げられているエピソードも興味深い。クローズドなAIツールが攻撃者と防御者を区別できずフォレンジック分析を妨げた際、同社は自社インフラ上でオープンウェイトのモデルを実行して1万7,000件以上のアクションを分析し、侵入を封じ込めたという。「防御側が自社インフラ上で高度なAIを検証・適応・実行できない場合、スピードが最も重要となるまさにその瞬間に対応能力が制約される」という指摘は、インシデント対応の現場感覚と一致する。

一方で、この呼びかけがオープンモデルを推進する立場のベンダー連合から発せられている点は念頭に置きたい。ブログ自体も「最先端のオープンAIシステムに対する一律の規制は防御能力を弱体化させる」と政策立案者・規制当局に向けた主張を明確に含んでおり、技術的な提案であると同時に規制環境をめぐるポジションの表明でもある。NVIDIAも「クローズドモデルとオープンモデルの双方が必要」と併記しており、二者択一の議論ではないことは押さえておくべきだろう。

実務的に注目すべきは、各社が持ち寄る個別プロジェクトの方かもしれない。SPIFFE/SPIREによるゼロトラストID、Safetensorsによる安全なモデルフォーマット、Lightwellによるデジタル署名付きパッチ配布は、いずれもアライアンスの成否とは独立して自社環境で評価できる技術要素だ。

📰 リリースまとめ 📰

業界のリーダー企業37社、AIの安全性とセキュリティ向上のため「Open Secure AI Alliance」を結成

NVIDIAは、AIの責任ある利用と信頼を促進するオープンなツールの構築および共有を目的とした新たなアライアンス「Open Secure AI Alliance」の設立を、同社公式ブログで発表した。

アライアンス設立の背景

オープンソースソフトウェアは世界経済の重要な柱であり、専門家コミュニティが技術にアクセスし観測できるようにすることで、クラウドコンピューティング、金融サービス、製造業、通信、政府機関、インターネットサービスの基盤を支えている。サイバーセキュリティは、オープンソースソフトウェアの恩恵を最も大きく受けている分野のトップ3の1つだ。

Open Secure AI Allianceは、Linux FoundationによるAkritesイニシアチブおよびOpenSSFコミュニティの取り組みを基盤として、オープンテクノロジを活用して脆弱性の修正と開示に取り組む。

NVIDIAは、AIセキュリティにおいて「インフラを保護する防御手段を、少数の不透明なシステム内に閉じ込めるのか、それとも、あらゆる防御側の誰もが検証、適応、展開できるオープンなモデル、ハーネス、ツールに基づいて構築するのか」という選択が迫られているとしている。

サイバーセキュリティにおいて、オープンモデルとオープンハーネスは防御能力を民主化し、防御側の透明性を高め、データを保護しながらサイバー防御を可能にし、カスタマイズ可能なローカライズされた制御によってフロンティアのクローズドモデルを補完するため不可欠だと同社は説明する。オープンソースは、単一障害点のない、大規模に分散されたコミュニティ主導かつ自己管理型の防御を可能にするという。

Hugging Faceのインシデントが示したもの

最近のHugging Faceにおけるセキュリティインシデントは、サイバー防御者にとって自己防衛のためにオープンで最先端の自律型システムが必要であることを改めて示したとNVIDIAは指摘する。攻撃者と防御者を区別できないクローズドなAIツールが不可欠なフォレンジック分析を妨げた際、Hugging Faceは自社のインフラ上でオープンウェイトのGLM 5.2モデルを実行し、1万7,000件以上のアクションを分析して侵入を封じ込めた。

このインシデントは、防御側が自社のインフラ上で高度なAIを検証・適応・実行できない場合、スピードが最も重要となるまさにその瞬間に対応能力が制約されるという現実を浮き彫りにしたとしている。

創設パートナー

創設パートナーは、クラウドコンピューティング、サイバーセキュリティ、エンタープライズソフトウェア、オープンソース財団、AI研究の各分野のリーダー企業37社。NVIDIA、Adobe、Cadence、Capital One、Cisco、Cloudera、Cloudflare、Cognition、CrowdStrike、Databricks、Dell Technologies、DoorDash、Elastic、HPE、Hugging Face、IBM、LangChain、Linux Foundation、Microsoft、NAVER、NetApp、Nous Research、OpenClaw、Palantir、Palo Alto Networks、Red Hat、Reflection AI、Salesforce、SAP、SK Telecom、ServiceNow、Siemens、Snowflake、SpaceXAI、Synopsys、Thinking Machines Lab、TrendAIが名を連ねる。

オープンな研究がサイバーセキュリティとAIの安全性を高める

NVIDIAは、AIエージェントは単なる言語モデルではなく、モデル、ハーネス、ガードレールから構成される複雑なシステムであるとしたうえで、真のAIの安全性とセキュリティはモデルの重みが公開されているか非公開であるかという点だけでなく、ID、権限、ハーネス、ガードレール、ログ、評価といったエージェントスタック全体に依存すると説明している。

NVIDIAは新しいサイバーセキュリティツールや技術の開発を加速させるため、オープンなモデル、モデルの重み、データ、および新しいエージェントハーネスの研究をアライアンスに提供する。エージェントハーネス向けに高度なAI安全性機能へのアクセスを容易にするため、新しいオープンソースプロジェクト「NVIDIA Labs Object-Oriented Agent(NOOA)」をGitHubで公開した。NOOA研究フレームワークにより、ハーネスとモデルの統合が強化され、エージェントの挙動のテスト、追跡、監査、ガバナンスが容易になる。

各社の主な貢献は以下の通り。

HPEはSPIFFE/SPIREに貢献している。AIエージェントやサービスを暗号学的に検証し、承認されたワークロードのみが企業リソースに通信・アクセスできるようにする、ゼロトラストIDフレームワークの標準と手法を策定するプロジェクトだ。

Hugging Faceは、AIモデルの重みを保存するための安全なフォーマットであり、透明性を確保しリモートコード実行がないことを保証する「Safetensors」をPyTorch Foundationに提供した。

IBMとRed Hatの「Lightwell」は、デジタル署名付きパッチを用いて、オープンソースのサプライチェーン全体にセキュリティを拡張する。

Microsoftの「MDASH」マルチモデルエージェント型スキャンハーネスは、特化型AIエージェントを連携させて、悪用可能なバグを発見・検証・証明する。

SpaceXAIは、信頼性・透明性・新たな機能の促進を目的として、ターミナルベースのAIコーディングエージェント「Grok Build」をオープンソース化し、開発者や研究コミュニティを支援するためGrokシリーズのモデルの重みもオープンソース化する計画としている。

NVIDIAは、政策立案者や規制当局がAIの安全性に取り組む中で、オープンなモデル、ハーネス、セキュリティツールをAIおよびサイバーセキュリティ政策において負債ではなく防御資産として認識することが極めて重要だと主張する。最先端のオープンAIシステムに対する一律の規制は、防御能力を弱体化させ、少数のクローズドなプロバイダーに権力・依存・脆弱性が集中するリスクをもたらすとしている。

そのうえで、企業や政府は過去の世代がオープンソースソフトウェアに投資してきたのと同様に、AI防御のための共有オープンインフラ(データセット、評価フレームワーク、攻撃シミュレーター、レッドチーミングツール)に投資すべきだと呼びかけた。

Open Secure AI Allianceは、政府・産業界・研究者に対し、AI時代を守るための取り組みに共に参加するよう呼びかけている。

📎 一次情報・関連リンク　📎

• NVIDIA公式ブログ(日本語)：https://blogs.nvidia.co.jp/
• NVIDIA Labs Object-Oriented Agent(NOOA)：GitHubにて公開