Nvidia主導の「Open Secure AI Alliance」が新ワーキンググループを発足
本文の状態
日本語全文を表示中
詳細モードで約4分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
TechCrunch AI
Nvidia が主導する業界団体「Open Secure AI Alliance」が、Black Hat 会議でセキュリティインシデント報告や分析のガイドラインを提案し、主要企業の技術貢献も始まっている。
AI深層分析を開く2026年8月5日 11:00
AI深層分析
キーポイント
新ワーキンググループの設立と活動開始
Nvidia が主導する「Open Secure AI Alliance」が、セキュリティインシデントの報告や分析を目的とした「Shared AI Findings Exchange (SAFE)」ワーキンググループを立ち上げ、提案書を公開している。
具体的なガイドラインと技術貢献
メンバー企業は、AI セキュリティインシデントの機密報告や非処罰的分析の枠組みを提案しており、Nvidia の脆弱性スキャナ「Garak」や Amazon のエージェント構築ツールなど、実用的なオープンソース技術も共有されている。
主要企業の参加と欠席
Adobe や Microsoft などの大手企業が参加する一方、OpenAI、Google、Anthropic はこの団体のメンバーとして名を連ねていないが、これらは当初の公開書簡には署名していた。
業界団体の迅速な対応と米国のオープンAI生態系への貢献
この業界団体は数週間という短期間で行動を起こしており、中国製オープンウェイトモデルの米国禁止懸念に対する反動として機能している。同様の立場を取るアーシー社の創設者らは、これが中国AIがもたらす脅威に対処する最善の方法であると評価している。
OpenAIとGoogleのオープンウェイトモデルへの関与
Anthropicは現時点で冷淡な態度を示しているが、OpenAIとGoogleはそれぞれ独自のオープンウェイトモデルを公開しており、Googleは特にオープンソースの支持者として知られている。
重要な引用
The week-old Open Secure AI Alliance (OSAA), an industry group spearheaded by Nvidia that has already grown to over 120 companies, has developed a cutely named working group, the Shared AI Findings Exchange, or SAFE.
The proposals cover areas like how to confidentially report AI cybersecurity incidents, alert those affected, and then do blame-free analysis so all can learn from them.
"Openness may be one of the most important paths to AI safety and security."
Looks like they are ready to immediately put their effort — and their tech — where their mouths are.
編集コメントを表示
編集コメント
業界団体が設立された直後に具体的な技術提案やツール共有が始まっている点は、AI セキュリティ対策の緊急性を反映している。主要プレイヤーが参加していないにもかかわらず、Nvidia を中心とした実務的な枠組みが形成されつつある状況は、今後の業界動向を注視する必要がある。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
Nvidia が主導する業界団体「Open Secure AI Alliance（OSAA）」は、設立からわずか1週間で加盟企業数が120社を超え、すでに「Shared AI Findings Exchange（SAFE）」という愛称のついたワーキンググループを発足させました。現在、このグループは提案を公開し、一般からのコメントを受け付けています。提案の管理は、同団体のメンバーである The Linux Foundation が担当しています。
これらの提案は、今週ラスベガスで開催されているサイバーセキュリティ界のハブ「Black Hat」カンファレンスに集まったメンバーたちによって策定されました。
現時点でのガイドラインが劇的なものではないのは事実です。提案内容は主に、AI のセキュリティインシデントをどのように機密保持しながら報告し、影響を受けた関係者に通知し、さらに非難のない分析を通じて全員が教訓を得られるようにするかといった分野に及んでいます。
同時に、OSAA のメンバーたちは、有用なオープンソース技術の断片を寄贈・整理する作業も進めています。こうした業界団体の例にならい、将来的には企業が AI エージェントを保護したり、Hugging Face に侵入したような rogue AI 攻撃者（悪意のある AI）から防御したりするためのオープンソース手段へと発展していく可能性があります。（なお、Hugging Face もこのグループのメンバーです。）
例えば、Nvidia はオープンなモデルのファミリー全体を提供しているほか、LLM の脆弱性をスキャンするオープンソースツール「Garak」も提供しています。また、Okta はエージェントのアイデンティティ技術の開発を進めており、Red Hat はエージェントガバナンスに取り組んでいます。Amazon も、オープンなエージェント構築ツール「Strands Agents」と認可言語「Cedar」の両方を寄贈しました。この他にも多くの事例があります。
現在、このグループには Adobe、BlackRock、Cisco、Intel、Microsoft、Visa など大手企業が多数名を連ねていますが、Anthropic、OpenAI、Google といった重要な企業は参加していません。
興味深いことに、OpenAI と Google はこのグループの発端となった最初の公開書簡に署名しています。先週発表されたその書簡では、ホワイトハウスに対しオープンソース AI の取り組みを支援し、抑圧しないよう要請していました。これは Nvidia が主導し、200 社以上のテック企業が署名したものです。
Anthropic がこれまで書簡や業界グループに対して冷たい態度を示していること自体は驚きではありません。しかし、OpenAI と Google はそれぞれ独自にオープンウェイトモデルを公開しており、Google は一般的にもオープンソースの強力な支持者として知られています。このグループが勢いをつけるにつれ、両社が参加するかどうか注目されます。
一方、この団体は AI のスピードで動いている。トランプ政権が中国製のオープンウェイトモデルの禁止を検討しているとのニュースが報じられたのはわずか数週間前だ。その報道は業界に大きな混乱を招き、広範なオープンウェイト制限への反対を求める公開書簡へとつながった。
米国において中国製オープンウェイトモデルの行方がどうなるにせよ、この重鎮団体による迅速な行動は、米国のオープン AI エコシステムにとって好ましいことだ。同エコシステムの構成員である Arcee（米国のオープンウェイト AI ラボ）の共同創設者兼最高技術責任者は、中国の AI ラボが米国に対して示す脅威——実在するものもあれば想像上のものもある——に対抗するには、結局のところオープン化こそ最善策だと主張している。
この業界団体は書簡の中で「オープン性は、AI の安全性とセキュリティを実現するための最も重要な道筋の一つである」と記した。彼らはまさに、口先だけでなく、その努力と技術を即座に実践に移す準備ができているようだ。
*当記事内のリンクを通じて購入された場合、私たちは少額のコミッションを受け取る場合があります。ただし、これは当社の編集の独立性には影響しません。*
原文を表示
The week-old Open Secure AI Alliance (OSAA), an industry group spearheaded by Nvidia that has already grown to over 120 companies, has developed a cutely named working group, the Shared AI Findings Exchange, or SAFE. The group is already presenting proposals for open comment, and The Linux Foundation, a member of the group, is managing the proposals.
The group developed them while members gathered at the nexus of the cybersecurity world, the Black Hat conference, taking place this week in Las Vegas.
The guidelines are nothing terribly earth shattering for now. The proposals cover areas like how to confidentially report AI cybersecurity incidents, alert those affected, and then do blame-free analysis so all can learn from them.
At the same time, members of the OSAA are also contributing and cataloging bits and pieces of their open source technology that might be useful. This may, as these types of industry organizations go, eventually coalesce into an open source means for an enterprise to secure their AI agents, or defend against rogue AI attackers, such as the OpenAI model that infiltrated Hugging Face. (Hugging Face is also a member of this group.)
For instance, Nvidia has noted that it offers an entire family of open models, as well as an open source LLM vulnerability scanner called Garak; Okta is working on agent identity tech; Red Hat is working on agent governance; Amazon has contributed both an open agent building tool, Strands Agents, and an authorization language Cedar. And there are many more examples.
The group now includes a host of big names including Adobe, BlackRock, Cisco, Intel, Microsoft, and Visa, but there are some notable absences, like Anthropic, OpenAI and Google.
Interestingly, both OpenAI and Google signed the original open letter that spawned this group. The letter, published last week, urged the White House to support open source AI efforts, not squash them. It was championed by Nvidia and signed by over 200 tech companies.
While Anthropic’s cold shoulder to the letter and the industry group to date is not a surprise, both OpenAI and Google have released open weight models of their own. Google is generally known as a big supporter of open source, too. We’ll see if they join as this group builds momentum.
Meanwhile, the group is operating at AI speeds. It’s only been a couple of weeks since news broke that the Trump Administration was considering banning Chinese open weight models, causing the industry consternation that resulted in the open letter.
Whatever ultimately happens with Chinese open weight models in the U.S., the fast-action by this heavyweight group appears to be a good thing for the U.S. open AI ecosystem Some in the ecosystem, like the co-founder and chief technology officer of U.S. open weight AI lab Arcee, say that’s ultimately the way to best any threat — real or imagined — that Chinese AI labs pose to the United States.
“Openness may be one of the most important paths to AI safety and security,” this industry group wrote in their letter. Looks like they are ready to immediately put their effort — and their tech — where their mouths are.
*When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.*
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み