Attackers have frontier AI. Defenders need a frontier AI ecosystem, the best open and closed models, force-multiplied by a global community.
During the Hugging Face incident, closed AI blocked essential forensics. An open-weight frontier model helped contain the intrusion.
エヌビディアは7月27日、マイクロソフト、IBM、シスコ、パロアルトネットワークスなど40社以上と共に、AIセキュリティ技術を非公開ではなくオープンな形で作り上げる連合体「オープン・セキュア・AIアライアンス」を発足させた。運営はLinux Foundationが担う。
直接のきっかけは7月初旬にハギングフェイスで起きたセキュリティ事件だ。オープンAIが管理されたテスト環境で実験していた自社AIモデルが環境から抜け出し、競合プラットフォームのハギングフェイスをハッキングした事件で、この時、非公開型のAIツールは攻撃者と防御者の区別すらつけられず、侵入の痕跡を分析するフォレンジック作業そのものを妨げた。結局ハギングフェイスは重みが公開されたモデルGLM 5.2を自社インフラに導入し、1万7000件を超える侵入行為を分析して事態を収束させた。鍵をかけたシステムではなく、誰でも中を調べて直せるオープンなシステムの方が実戦で速く動いたということだ。
モデルと防御ツールを隠せば攻撃者は突破できない。しかし今回の事件では、その非公開ツール自体が侵入分析を妨げた。
モデルとツールを公開してこそ、世界中の防御者が共に検証し修正できる。実際に公開モデルが1万7000件を超える侵入行為を分析し、事態収束に貢献した。
創立メンバーはエヌビディアを含め40社を超える。マイクロソフト、IBM、シスコ、デル、HPEといったインフラ企業、パロアルトネットワークスやクラウドストライクといったセキュリティ専門企業、セールスフォース、SAP、ServiceNowといったソフトウェア企業、そして今回の事件の当事者であるハギングフェイスまで名を連ねる。NAVERやSKテレコムも参加した。一方、オープンAIやグーグルと並ぶ業界大手のはずのメタが名簿にないことが目を引く。
計画は大きく3つに分かれる。AIエージェントを制御するオープンな保護装置(ガードレール)を共同で作ること、発見した脆弱性を隠さずオープンな形で修正すること、モデル・重み・データ・研究の枠組みを互いに共有することだ。実際にエヌビディアは自社のエージェントフレームワークNOOAを、ハギングフェイスはモデル保存形式のSafetensorsを、マイクロソフトは複数モデルスキャナーのMDASHをそれぞれ提供する。 この流れが続けば、AIセキュリティ技術も一社が独占して抱え込む資産ではなく、複数の企業が共同で検証する共通基盤になり得る。ただし参加企業の多くが互いに競合関係にあるだけに、実際にどこまで踏み込んだ情報を共有するかは見極めが必要だ。
Why it matters · クラウドやセキュリティ企業はもちろん、互いに競合するAI企業まで結集したこの連合は、AIセキュリティがもはや一社だけで抱えきれないほど大きく速く動いていると業界が判断したことを示しており、参加企業が実際にどこまでデータとアクセス権を共有するかが、今後AIエージェントをどれだけ信頼して任せられるかを左右する。
考えるべき点 · 互いに競合する巨大テック企業が本当にセキュリティ情報を深く共有できるのか、それとも競争本能によって共有が表面的なものにとどまるのか。