#ai ガバナンス のAIニュース
71件の記事
イーロン・マスクが Mythos/Fable を称賛、Anthropic のサービス停止を否定
イーロン・マスクは AI システム「Mythos」および「Fable」の成果を高く評価し、競合企業である Anthropic へのアクセス制限（サービス停止）を行わないと明言した。
政府はどのようにして OpenAI の最前線モデルの安全性を判断したのか？
政府が OpenAI の最新大規模言語モデルのリリース前に安全性を評価し、承認に至った具体的な決定プロセスと基準について検証する。
Google を利用しているなら、その行動が AI の学習に役立っています。オプトアウトする方法はこちら
Google はユーザーの利用データを AI モデルの訓練に使用しています。同社は、このデータ収集を拒否し、自身の検索履歴やアクティビティを学習に使わせないための設定手順を提供しています。
データサイエンティストはモデル構築者から AI マネージャーへ移行中
KDnuggets の記事によると、データサイエンティストの役割が従来のモデル構築から、AI システムの管理や運用へと変化している。
AI の大問に関する最優秀論文発表（23 分読み）
Dwarkesh Patel が提起した AI に関する重要な問いに対し、600 件の応募からジョンズ・ホプキンス大学のジャッシー・パンヌ氏ら 3 名が受賞し、その論文が公開された。
アーティファクト22：Zyphra、Cohere、Poolsideがエコシステムの多様化を拡大
Interconnectsは、オープンモデルリリースの動向として、中国勢中心だった状況から世界中のニッチ企業を含む多様な組織が増加し、エコシステムが広がっていることを指摘した。
議員がスタッフによる AI 使用を否定、法案作成には使っていないと主張
アメリカのアンナ・パウリーナ・ルナ下院議員は、スタッフが大規模防衛法案の修正案要約でスペルチェックに AI を利用したことを認めつつも、法案本文の作成には AI を使用していないと否定し、「立法は決して AI で起草されない」と強調しました。
高度な AI 向けの共通基準策定を支援
OpenAI が、高度な人工知能技術の発展に伴い、業界全体で共有されるべき安全基準や規範の構築を推進する取り組みを発表した。
6月まとめ #43：選挙とFiveThirtyEightの消滅
Zviは、ニューヨーク市での選挙日に民主党支持者に投票を呼びかけ、AI政策への対応が重要だと指摘。また、ABCとディズニーがFiveThirtyEightとその記事を完全に削除したことを報じた。
ミトス事件後のレッドチーム：Zico Kolter氏とMatt Fredrikson氏が語るグレー・スワン
米政府が輸出管理指令を出したことで、AIセキュリティのリスクである脱獄や間接プロンプト注入が注目されている。Gray Swan の Zico Kolter 氏と Matt Fredrikson 氏は、この状況を踏まえてレッドチームリングの重要性について議論する。
暗号化、スパイウェア、そしてミトス：歴史が示すサイバー輸出管理の失敗
TechCrunch AI は、過去の事例を分析し、暗号化技術やスパイウェア、AI 基盤である Mythos への規制を含むサイバー輸出管理政策が実効性を欠くことを指摘している。
Salesforce の社内 AI リーダーボード、チームが小さなトロフィーを巡って競争
セールスフォースは社内に AI 利用状況を追跡するダッシュボードを設置し、ChatGPT などのツール使用量や研修修了に応じて「チャンピオン」などのバッジを付与している。これにより各チームが社内競争を繰り広げている。
世界の指導者たちは米国の AI を望んでいるが、米国側がそれを停止できないようにしたいと考えている
世界の指導者たちは米国の人工知能（AI）技術の導入を求めている一方で、米国政府がそのシステムを停止する権限を持つことを懸念している。
Anthropic、フロンティア炭素除去連合に初参加する AI スタートアップとなる
AI スタートアップの Anthropic が、フロンティア炭素除去連合に参加し、業界初の加入企業となった。
ブログの現状報告：2026 年半ば
AI2 を離れキャリア転換中の著者が、自身のブログが最先端モデルの進化の明確化やオープンなエコシステムの構築にどう寄与するかを説明した。
「かつてありし未来の寓話」第 3 部：このコードを修正せよ
Zvi は、主要メディアが世界で最も重要な物語を見逃しているとし、Anthropic がワシントンで行った会議に関する最新情報を得ていないと指摘した。予測市場では、7 月 1 日までの復旧確率が約 55% と推移していると分析している。
AI レッドチームングの解説：その意味と必要性
AI の普及加速に伴い、敵対的条件でシステムをテストする AI レッドチームングが重要となっている。これは組織が展開前に脆弱性を特定し、安全性を強化するために実施される手法である。
サンダル・ピチャイ氏、スタンフォード大卒業式でイスラエル・ICEとの関係に抗議され野次を浴びる
Google のサンダル・ピチャイ最高経営責任者（CEO）がスタンフォード大学の卒業式で登壇した際、同社のイスラエルおよび移民税関局（ICE）との提携を巡り、聴衆から野次や退場する抗議行動が発生しました。
トランプ政権によるアンソロピックの停止が、非米国の AI の必要性を浮き彫りにした
ホワイトハウスの要求により、米国企業アンソロピックは週末に最新かつ最強力な AI モデルの利用を突然停止し、外国人（自社従業員含む）へのアクセスをブロックした。この出来事は、米国が最先端 AI を独占している現状と、非米国の AI 開発の重要性を改めて示した。
AI ガバナンスの AGI 時代へ：米国行政機関が Anthropic の最新モデルへのアクセスを強制停止
米国の行政機関が Anthropic に対し、最新の Claude 5 Mythos/Fable モデルへの内部・外部アクセスを強制停止させたことが、AI ガバナンスの新時代の幕開けとなった。この措置は、人間労働者を補完する AI エージェントの定義や、急速に進化するモデルによるガバナンス課題の増大を示唆している。
Anthropic が新モデルへのアクセスを停止する中、インドが AI の未来を議論
AI 企業 Anthropic が新モデルへのアクセスを一時停止したことを背景に、インド政府や業界関係者が自国の AI 戦略と規制のあり方について活発な議論を開始している。
アンソロピックの安全警告が逆効果に、政府が最も強力な AI の稼働を停止
米国政府は、AI 企業アンソロピックが発表した安全性に関する警告が逆効果となったと判断し、同社が保有する最も強力な人工知能システムの稼働を停止した。
米国政府の指令に基づく Fable 5 および Mythos 5 のアクセス停止に関する声明
Anthropic は、米国政府からの指令に従い、自社の AI システム「Fable 5」と「Mythos 5」へのアクセスを一時停止する方針を表明した。
Anthropic が初めて公開した記録の結果発表
AI 企業 Anthropic が、同社が初めて公開した記録に関する結果を発表しました。
Anthropic、Claude Fable の隠されたガードレール問題に謝罪
AI企業 Anthropic は、競合他社や研究者の活動を阻害する目的で新モデル「Claude Fable 5」に隠れた制限を設けていたことを認め、今後制限発動時の透明性を高めると発表した。
Anthropic、Claude を利用する AI 研究者を「妨害」しかねない方針を撤回
Anthropic は、最先端大規模言語モデルの開発における Fable 5 のセキュリティ対策を変更し、その内容を可視化すると発表した。同社はバランスの取り方を誤ったとして謝罪している。
AI の指数関数的成長に関する政策方針（28 分読了）
Anthropic は、サイバーセキュリティや雇用喪失のリスクに対処するため、FAA をモデルとした規制アプローチ、必須テスト、強化されたセキュリティ基準を推奨している。また、AI 主導の成長に対応するマクロ経済・税制の適応、バイオメディカル分野での規制改革、そして民主的価値観との整合性確保も政策課題として挙げている。
信頼できる AI エコシステムの確保に向けた欧州の取り組みへの支援
OpenAI は、欧州が信頼できる人工知能（AI）エコシステムを構築するための取り組みを支援する方針を発表した。
AI規制の未来は、最も奇妙で不安な共犯者たちを求めている
ザ・バージが配信するニュースレター「Regulator」が、2週間の休載を経て再開し、ワシントンDCにおける技術政治や影響力に関する議論を再開始した。
ジェレミー・ハワード氏への引用：AI の自己改善を抑制する提案
ジェレミー・ハワード氏は、最先端モデルを開発するラボがその技術を自らの研究に使用しないよう合意し、他社にはアクセスを認めることで、危険な権力格差を防ぎつつ AI 進化を抑制する解決策を提案した。
今日は何も起こらなかった
Anthropic が Fable/Mythos モデルの能力を無断で低下させたとして批判されたが、Fable 5 はエージェントやコーディングタスクで高い性能を示した。Dario Amodei は最先端 AI の監督強化を提唱している。
計画と覚書を備えた 3 つのラボ（22 分読み）
Three Labs は、新しい計画と覚書を発表し、AI 研究における特定の方向性を示した。
AI ゲートウェイにおける API キーの予算管理機能
Vercel は、コーディングエージェントや実験的なワークフローによる予期せぬコスト増を防ぐため、AI Gateway で API キーごとの支出上限を設定し、超過時にリクエストを拒否する機能を追加した。
すべての人の利益のために：私たちの計画（5 分読了）
サム・アルトマン氏とヤクブ・パチョッキ氏は、OpenAI が第 3 のフェーズへ移行し、高度な AI を誰もが利用可能で安全かつ安価に提供し、その恩恵を広く共有する計画であると説明した。
LLM に業務を委ねると文書が破損する理由とは？
KDnuggets は、大規模言語モデル（LLM）に文書処理を任せる際に生じるデータ破損のメカニズムと原因について分析している。
全員に利益をもたらすために：当社の計画
OpenAI は、すべての人々に利益をもたらすことを目的とした具体的な計画を公表した。同社は技術の普及と安全性の確保に向けた方針を示している。
スリラム・クリシュナン氏がホワイトハウス AI アドバイザー職を退任
スリラム・クリシュナン氏は、ホワイトハウスの AI アドバイザーとしての役割から退任する。
トランプ政権が OpenAI の株式を取得する可能性
ドナルド・トランプ次期米大統領の政権は、人工知能企業 OpenAI の株式を保有する方針を検討している。これにより政府と民間 AI 企業の資本関係が強化される可能性がある。
OpenAI が Frontier AI の民主的ガバナンスに関する政策青写真を発表
OpenAI は、新しい行政命令のタイミングに合わせて、先端的AIの民主的ガバナンスを目的とした連邦枠組みの青写真を提示した。同社は、AI による自己改善（RSI）の兆候が競争圧力を高め、既存機関では対応できないガバナンス課題を生むと懸念している。
Google の AI に関する内部の批判と声明変更について
404 Media のエマニュエル・マイバーグ氏によると、Google 従業員が同社の AI 技術の問題点をネタにしたミームを共有していることが報じられた。これを受け Google の広報担当者は、発表文から「人間をループに維持することが重要」という文言を削除した新しいバージョンの声明を公開するよう要請した。
AIプロジェクトにおける精度検証の要諦 〜AI時代でも重要な期待値のすり合わせ
先端的AIの民主的ガバナンスのための青写真
OpenAIが、最先端AI技術の管理と統治を民主的なプロセスで行うための指針となる青写真を発表した。
OpenAI の公的政策アジェンダ
OpenAI が、AI 技術の安全な発展と社会への統合を促進するために掲げる公的な政策方針を発表した。
AI 政策と政治的ロビー活動に関する当社の見解
OpenAI は、AI 技術の発展を促すための適切な政策形成と、政府への政治的働きかけにおける自社の立場について公式に表明した。
信頼できる第三者による AI モデル評価のための OpenAI アウトラインプレイブック（4 分読了）
OpenAI は、最先端モデルの安全性と能力主張を検証するため、独立した信頼できる第三者が実施する評価の重要性を強調し、そのための教訓と推奨アプローチを提示しました。
NVIDIA MCG ツールキットを用いた AI モデル文書化の自動化方法（8 分読了）
カリフォルニア州 AB-2013 や EU AI 法などの規制強化に伴い、ソフトウェアチームはモデルリリース前に包括的な監査可能な文書作成が求められている。NVIDIA は MCG ツールキットを提供し、モデルカードの自動生成を支援している。
トランプ氏、AI規制の統制を失う イリノイ州が画期的な法を可決
ドナルド・トランプ大統領が連邦政府による最先端 AI モデル審査計画を中止した数日後、イリノイ州議会が国内で最も強力な AI 安全法（SB 315）を可決し、主要 AI 企業に安全性報告書の提出を義務付ける方針を示した。
TechCrunch Disrupt 2026：Databricks 創業者が語るエンタープライズ AI 契約を破綻させる要因
Databricks の共同創業者は、TechCrunch Disrupt 2026 で、企業が AI 導入を進める際に契約が失敗する主な原因について言及した。
Import AI 458：未来への向き合いと特異点に関する物語
Jack Clark が執筆したニュースレターで、AI 研究の将来について考察する長編エッセイと、特異点を想定したフィクション小説を掲載している。
AI 戦争はすでに始まっている
国連ジュネーブで開催される国際フォーラムにおいて、殺傷能力を持つ自律型兵器システムに関する議論が、もはや仮定の話ではなく現実のものとして進行していることが示された。