#ai ガバナンス のAIニュース

グーグルのデミス・ハサビス氏、米国主導のグローバル AI 監視機関設立を提唱

Google DeepMind の創設者兼 CEO デミス・ハサビス氏は、最先端モデルが危険になった際に停止権限を持つ AI 監視機関が必要だと主張し、その主導は米国が行うべきと提案した。

重み（モデルパラメータ）の所有権を確立する（5 分読了)

TLDR AI は、企業が自社のデータでタスク特化型モデルを構築・調整し、インフラは自社管理のままにできるサービスが必要だと指摘。これにより、重みの所有権を持つ利点を享受しつつ、モデル維持の負担を軽減できると述べている。

ジュネーブで開催された AI for Good サミット、各国がガバナンスを議論

170カ国から1万2千人以上が集まった「AI for Good」サミットで、政府や産業界が急速に進化する人工知能技術への対応とグローバルなガバナンス構築について議論が行われた。

厳しい質問を歓迎する

Anthropic が、自社の AI システムに対する批判的な問いや厳しい質問を積極的に受け付ける姿勢を示した。

AI モデルにおける二重利用知識のオフスイッチ

GRAM（勾配誘導型補助モジュール）は、1 つのモデルで複数のフィルタリング済みモデルを訓練する利点を実現し、二重利用知識専用の削除可能なコンパートメントを提供することで、学習後に特定の知識部分を削除可能にし、モデル安全性の枠組みを強化します。

Jamf の AI ガバナンスと Amazon Bedrock を活用し、Mac で AI アプリケーションを管理

AWS と Jamf は連携により、従業員が Mac で Claude や Codex などの AI アプリケーションを承認された状態で安全に利用・管理できる仕組みを提供する。

政府および国家安全保障パートナーシップへの当社のアプローチ

OpenAI は、政府や国家安全保障機関との提携における自らの立場と取り組み方針について説明した。

フェーブルへのフィールドガイド：未知の発見を探る（12 分読）

TLDR AI は、Claude が未知の状況に直面した際の判断方法と、プロジェクト開始前に未知の要素を発見する重要性について解説している。

オープンソース AI グラップマップ（ウェブサイト）

TLDR AI が公開した「Gap Map」は、断片化し重複するオープンソース AI スタックを可視化し、不足領域や投資先、連携の機会を特定して協力を促す。

AI の大問に関する最優秀論文発表（23 分読み）

Dwarkesh Patel が提起した AI に関する重要な問いに対し、600 件の応募からジョンズ・ホプキンス大学のジャッシー・パンヌ氏ら 3 名が受賞し、その論文が公開された。

アーティファクト22：Zyphra、Cohere、Poolsideがエコシステムの多様化を拡大

Interconnectsは、オープンモデルリリースの動向として、中国勢中心だった状況から世界中のニッチ企業を含む多様な組織が増加し、エコシステムが広がっていることを指摘した。

議員がスタッフによる AI 使用を否定、法案作成には使っていないと主張

アメリカのアンナ・パウリーナ・ルナ下院議員は、スタッフが大規模防衛法案の修正案要約でスペルチェックに AI を利用したことを認めつつも、法案本文の作成には AI を使用していないと否定し、「立法は決して AI で起草されない」と強調しました。

高度な AI 向けの共通基準策定を支援

OpenAI が、高度な人工知能技術の発展に伴い、業界全体で共有されるべき安全基準や規範の構築を推進する取り組みを発表した。

6月まとめ #43：選挙とFiveThirtyEightの消滅

Zviは、ニューヨーク市での選挙日に民主党支持者に投票を呼びかけ、AI政策への対応が重要だと指摘。また、ABCとディズニーがFiveThirtyEightとその記事を完全に削除したことを報じた。

ミトス事件後のレッドチーム：Zico Kolter氏とMatt Fredrikson氏が語るグレー・スワン

米政府が輸出管理指令を出したことで、AIセキュリティのリスクである脱獄や間接プロンプト注入が注目されている。Gray Swan の Zico Kolter 氏と Matt Fredrikson 氏は、この状況を踏まえてレッドチームリングの重要性について議論する。

暗号化、スパイウェア、そしてミトス：歴史が示すサイバー輸出管理の失敗

TechCrunch AI は、過去の事例を分析し、暗号化技術やスパイウェア、AI 基盤である Mythos への規制を含むサイバー輸出管理政策が実効性を欠くことを指摘している。

Salesforce の社内 AI リーダーボード、チームが小さなトロフィーを巡って競争

セールスフォースは社内に AI 利用状況を追跡するダッシュボードを設置し、ChatGPT などのツール使用量や研修修了に応じて「チャンピオン」などのバッジを付与している。これにより各チームが社内競争を繰り広げている。

世界の指導者たちは米国の AI を望んでいるが、米国側がそれを停止できないようにしたいと考えている

世界の指導者たちは米国の人工知能（AI）技術の導入を求めている一方で、米国政府がそのシステムを停止する権限を持つことを懸念している。

Anthropic、フロンティア炭素除去連合に初参加する AI スタートアップとなる

AI スタートアップの Anthropic が、フロンティア炭素除去連合に参加し、業界初の加入企業となった。

ブログの現状報告：2026 年半ば

AI2 を離れキャリア転換中の著者が、自身のブログが最先端モデルの進化の明確化やオープンなエコシステムの構築にどう寄与するかを説明した。

「かつてありし未来の寓話」第 3 部：このコードを修正せよ

Zvi は、主要メディアが世界で最も重要な物語を見逃しているとし、Anthropic がワシントンで行った会議に関する最新情報を得ていないと指摘した。予測市場では、7 月 1 日までの復旧確率が約 55% と推移していると分析している。

AI レッドチームングの解説：その意味と必要性

AI の普及加速に伴い、敵対的条件でシステムをテストする AI レッドチームングが重要となっている。これは組織が展開前に脆弱性を特定し、安全性を強化するために実施される手法である。

サンダル・ピチャイ氏、スタンフォード大卒業式でイスラエル・ICEとの関係に抗議され野次を浴びる

Google のサンダル・ピチャイ最高経営責任者（CEO）がスタンフォード大学の卒業式で登壇した際、同社のイスラエルおよび移民税関局（ICE）との提携を巡り、聴衆から野次や退場する抗議行動が発生しました。

トランプ政権によるアンソロピックの停止が、非米国の AI の必要性を浮き彫りにした

ホワイトハウスの要求により、米国企業アンソロピックは週末に最新かつ最強力な AI モデルの利用を突然停止し、外国人（自社従業員含む）へのアクセスをブロックした。この出来事は、米国が最先端 AI を独占している現状と、非米国の AI 開発の重要性を改めて示した。

AI ガバナンスの AGI 時代へ：米国行政機関が Anthropic の最新モデルへのアクセスを強制停止

米国の行政機関が Anthropic に対し、最新の Claude 5 Mythos/Fable モデルへの内部・外部アクセスを強制停止させたことが、AI ガバナンスの新時代の幕開けとなった。この措置は、人間労働者を補完する AI エージェントの定義や、急速に進化するモデルによるガバナンス課題の増大を示唆している。

Anthropic が新モデルへのアクセスを停止する中、インドが AI の未来を議論

AI 企業 Anthropic が新モデルへのアクセスを一時停止したことを背景に、インド政府や業界関係者が自国の AI 戦略と規制のあり方について活発な議論を開始している。

アンソロピックの安全警告が逆効果に、政府が最も強力な AI の稼働を停止

米国政府は、AI 企業アンソロピックが発表した安全性に関する警告が逆効果となったと判断し、同社が保有する最も強力な人工知能システムの稼働を停止した。

米国政府の指令に基づく Fable 5 および Mythos 5 のアクセス停止に関する声明

Anthropic は、米国政府からの指令に従い、自社の AI システム「Fable 5」と「Mythos 5」へのアクセスを一時停止する方針を表明した。

Anthropic が初めて公開した記録の結果発表

AI 企業 Anthropic が、同社が初めて公開した記録に関する結果を発表しました。

Anthropic、Claude Fable の隠されたガードレール問題に謝罪

AI企業 Anthropic は、競合他社や研究者の活動を阻害する目的で新モデル「Claude Fable 5」に隠れた制限を設けていたことを認め、今後制限発動時の透明性を高めると発表した。

Anthropic、Claude を利用する AI 研究者を「妨害」しかねない方針を撤回

Anthropic は、最先端大規模言語モデルの開発における Fable 5 のセキュリティ対策を変更し、その内容を可視化すると発表した。同社はバランスの取り方を誤ったとして謝罪している。

AI の指数関数的成長に関する政策方針（28 分読了）

Anthropic は、サイバーセキュリティや雇用喪失のリスクに対処するため、FAA をモデルとした規制アプローチ、必須テスト、強化されたセキュリティ基準を推奨している。また、AI 主導の成長に対応するマクロ経済・税制の適応、バイオメディカル分野での規制改革、そして民主的価値観との整合性確保も政策課題として挙げている。

信頼できる AI エコシステムの確保に向けた欧州の取り組みへの支援

OpenAI は、欧州が信頼できる人工知能（AI）エコシステムを構築するための取り組みを支援する方針を発表した。

AI規制の未来は、最も奇妙で不安な共犯者たちを求めている

ザ・バージが配信するニュースレター「Regulator」が、2週間の休載を経て再開し、ワシントンDCにおける技術政治や影響力に関する議論を再開始した。

ジェレミー・ハワード氏への引用：AI の自己改善を抑制する提案

ジェレミー・ハワード氏は、最先端モデルを開発するラボがその技術を自らの研究に使用しないよう合意し、他社にはアクセスを認めることで、危険な権力格差を防ぎつつ AI 進化を抑制する解決策を提案した。

計画と覚書を備えた 3 つのラボ（22 分読み）

Three Labs は、新しい計画と覚書を発表し、AI 研究における特定の方向性を示した。

AI ゲートウェイにおける API キーの予算管理機能

Vercel は、コーディングエージェントや実験的なワークフローによる予期せぬコスト増を防ぐため、AI Gateway で API キーごとの支出上限を設定し、超過時にリクエストを拒否する機能を追加した。

すべての人の利益のために：私たちの計画（5 分読了）

サム・アルトマン氏とヤクブ・パチョッキ氏は、OpenAI が第 3 のフェーズへ移行し、高度な AI を誰もが利用可能で安全かつ安価に提供し、その恩恵を広く共有する計画であると説明した。

LLM に業務を委ねると文書が破損する理由とは？

KDnuggets は、大規模言語モデル（LLM）に文書処理を任せる際に生じるデータ破損のメカニズムと原因について分析している。

全員に利益をもたらすために：当社の計画

OpenAI は、すべての人々に利益をもたらすことを目的とした具体的な計画を公表した。同社は技術の普及と安全性の確保に向けた方針を示している。

スリラム・クリシュナン氏がホワイトハウス AI アドバイザー職を退任

スリラム・クリシュナン氏は、ホワイトハウスの AI アドバイザーとしての役割から退任する。

トランプ政権が OpenAI の株式を取得する可能性

ドナルド・トランプ次期米大統領の政権は、人工知能企業 OpenAI の株式を保有する方針を検討している。これにより政府と民間 AI 企業の資本関係が強化される可能性がある。

OpenAI が Frontier AI の民主的ガバナンスに関する政策青写真を発表

OpenAI は、新しい行政命令のタイミングに合わせて、先端的AIの民主的ガバナンスを目的とした連邦枠組みの青写真を提示した。同社は、AI による自己改善（RSI）の兆候が競争圧力を高め、既存機関では対応できないガバナンス課題を生むと懸念している。

Google の AI に関する内部の批判と声明変更について

404 Media のエマニュエル・マイバーグ氏によると、Google 従業員が同社の AI 技術の問題点をネタにしたミームを共有していることが報じられた。これを受け Google の広報担当者は、発表文から「人間をループに維持することが重要」という文言を削除した新しいバージョンの声明を公開するよう要請した。

AIプロジェクトにおける精度検証の要諦 〜AI時代でも重要な期待値のすり合わせ