#aiガバナンス のAIニュース
64件の記事
サイバーセキュリティの専門家が「危険」としてアンソロピックの最強力モデル輸出禁止に抗議
サイバーセキュリティ専門家数十名がホワイトハウスに対し、アンソロピック社の最強力モデル「フェイブル」および「ミソス」への輸出規制撤廃を求めた。この規制はソフトウェアや製品のセキュリティ確保能力を制限すると主張している。
Uber、従業員による AI 利用支出を予算超過を受けて制限
Uber は、4 ヶ月間で AI 関連の予算を大幅に超過したため、社内の従業員が AI ツールやサービスに使う支出額に上限を設ける措置を講じた。
Ai2（アレン・インスティテュート・フォー・AI）を去る挨拶：Olmo モデルへの回顧と AI 業界への示唆
Olmo モデルの開発に携わった人物が、同機関であるアレン・インスティテュート・フォー・AI（Ai2）を離れることを発表し、その功績や AI 分野における多様な影響力の道筋について振り返っている。
選挙対策に関する最新情報
プラットフォーム事業者は、選挙における不正情報対策としてAI生成コンテンツの検出・表示規制などの安全策を更新した。
「AIを活用してより持続可能な世界を実現できるか？」
Microsoft Researchのダグ・バーガー氏と専門家らは、持続可能な未来の実現に向け、技術者や政策担当者が直面する複雑なAI課題を議論し、AI移行を正の成果とする共通理解の醸成を目指している。
Anthropic CEOアモデイ、AIスケーリングに「虹の終わりはない」と宣言
AnthropicのCEOダリオ・アモデイは、AIのスケーリングに限界はなく、雇用喪失のリスクを軽視せず、混乱を相殺するほどの大きな利益を生み出すべきと産業界に促している。
真のAIシフトは新モデルではなく、制御である
AIの利用が加速する中、OpenAIは、システム構築よりも大規模な管理が課題だと指摘している。
Amazon Bedrockの自動推論チェックが生成AIのコンプライアンスを変える方法
AmazonはBedrock Guardrailsに自動推論チェックを導入し、確率的なAI検証を数学的検証に置き換えることで、規制対象業界のコンプライアンスチームの手動レビュー負担を軽減し、監査ギャップを解消する。
生成AIの旅をナビゲートする：AWSのPath-to-Valueフレームワーク
AWSが、生成AIのPoCから本番環境への移行に課題を抱える組織向けに、実用的な価値を実現するためのフレームワークを提案している。
スタンフォード大学のAIインデックス2026：急速な進歩、高まる安全性への懸念、低下する公衆の信頼
スタンフォード大学HAIのAIインデックス2026報告書は、AIモデルの性能が大幅に向上し、米国と中国の差が縮小している一方で、安全性の問題が増加し、公衆の信頼が低下し続けていると指摘している。
Anthropicがサイバーセキュリティ機能を備えたClaude Mythos Previewを発表、一般公開は保留
Anthropicは、推論・コーディング・サイバーセキュリティ能力を大幅に向上させた最先端AIモデル「Claude Mythos Preview」を発表したが、一般公開せず、Project Glasswingを通じた技術企業コンソーシアムに限定提供する。
責任ある安全なAIの活用
OpenAIがChatGPTなどのAIツールを安全・正確・透明性を持って責任ある方法で使用するためのベストプラクティスを提供している。
OpenAI、強力なサイバーセキュリティAIへのアクセス制限でAnthropicの先例に追随と報道
OpenAIは、高度なサイバーセキュリティ機能を持つ新AIモデルを開発中で、Anthropicと同様に一部企業のみに限定提供するとAxiosが報じた。
2026年4月9日ポリシー：実践における信頼できるエージェント
OpenAIが2026年4月9日に、AIエージェントの信頼性向上を目的とした新ポリシー「Trustworthy agents in practice」を発表した。同ポリシーは、AIシステムの実運用における安全性と透明性の確保を目指すものである。
Claude Coworkのエンタープライズ対応化
Anthropic社が、AIアシスタント「Claude Cowork」を企業向けに利用可能にする準備を進めている。
Anthropic、300億ドルのARR達成とClaude Mythosプレビュー — GPT-2以来危険すぎるとされる初のモデル
Anthropicは4月の年間収益率（ARR）を300億ドルと発表し、OpenAIの240億ドルを上回った。また、GPT-2以来「公開には危険すぎるとされる」新モデル「Claude Mythos」のプレビューを実施した。
マルチエージェントAIシステムにおける閉ループ強制のためのガバナンス対応エージェントテレメトリー
研究チームが、マルチエージェントAIシステム向けの「ガバナンス対応エージェントテレメトリー（GAAT）」を提案。既存ツールは監視のみでリアルタイム強制ができず、ポリシー違反は事後検出だったが、GAATは参照アーキテクチャで閉ループ強制を実現する。
AnthropicのProject Glasswing - Claude Mythosをセキュリティ研究者に限定提供 - は必要だと考える
Anthropicは最新モデルClaude Mythosを一般公開せず、新たに発表したProject Glasswingを通じて限定されたプレビューパートナーにのみ提供した。同社はこのモデルがサイバーセキュリティ研究能力を備えた汎用モデルだと主張している。
OpenAI、AIの影響と可能性への回答を新文書で提示
OpenAIが新文書を発表し、AI技術の影響（特に企業労働者への影響）について考察し、自社をAIの社会的影響を考慮する企業として位置づける方針を示した。
Anthropicが新PACで政治活動を強化
Anthropicは新政治活動委員会を設立し、中間選挙を控えて同社のAI政策方針を支持する候補者を支援する姿勢を示した。
Copilot組織カスタム指示が一般提供開始
GitHub Copilotの組織カスタム指示機能が一般提供を開始した。Copilot BusinessおよびEnterpriseの管理者が、組織内の全リポジトリでCopilotの動作をガイドするデフォルト指示を設定できるようになった。
RAGを超えて：Spring Bootによるコンテキスト認識AIシステムの構築
本記事は、企業システム向けにRAGを改良した「Context-Augmented Generation（CAG）」を紹介し、Spring Bootベースのコンテキスト管理がユーザーIDやセッション状態をAIワークフローに統合し、トレーサビリティとガバナンスを向上させる方法を示している。
Anthropicの責任あるスケーリングポリシー第3版：信頼の問題
Anthropicは責任あるスケーリングポリシーを第3版へ改定し、危険な場合は進出しないといった以前の約束を放棄した。競合他社との競争を理由に、盲目的な原則の遵守が世界を安全にしないと判断し、Holden Karnofskyの提言に基づき目標指向のアプローチへ移行した。
映画レビュー：『The AI Doc』
ドキュメンタリー映画「The AI Doc」は、AIの未来を巡る希望と恐怖を描いた傑作である。ネタバレを含む完全な概要を提供し、その実用性と芸術的価値の高さを称賛している。
QCon London 2026：AIにおける『エージェンシーのインフラ』としてのチームトポロジー
マシュー・スケルトン氏がQCon London 2026で、AIの成功には組織の成熟度が重要だと主張し、境界付きエージェンシー・セキュリティ・スチュワードシップをAIエージェント管理の鍵と指摘した。企業はイノベーションと実践を可能にするチームを活用し、知識拡散と内部プロセス最適化を通じてAI投資の現実的リターンを得られると述べた。
セキュアなガバナンスが金融AIの収益成長を加速
金融機関は、収益成長と市場優位性のためにコンプライアントなAIソリューションを展開することを学んでいる。従来は効率向上の手段と見なされていたが、現在はガバナンスを重視したAI導入が進展している。
Compliance APIによるClaudeプラットフォーム活動の監査
AnthropicがCompliance APIを提供し、企業がClaudeプラットフォームの利用状況を監査・管理できるようにした。
ウィキペディア、AI生成コンテンツを禁止
ウィキペディアのボランティア編集者が、大規模言語モデルを使用した記事作成を禁止する新方針を採択した。
バーニー・サンダースとAOCがデータセンター建設禁止法案を提案
バーニー・サンダース上院議員とアレクサンドリア・オカシオ＝コルテス下院議員が、包括的なAI規制が議会で成立するまで新規データセンターの建設を停止する法案を提出した。
モデル仕様へのアプローチの内側
OpenAIは、AIシステムの発展に伴い、安全性、ユーザーの自由、説明責任のバランスを取るための公開フレームワークとしてModel Specを提供している。
OpenAIが安全性向上のためのバグ報奨金プログラムを開始
OpenAIは、AIの悪用や安全性リスク（エージェントの脆弱性、プロンプトインジェクション、データ流出など）を特定するため、安全性向上のためのバグ報奨金プログラムを開始した。
Anthropic、Claude Codeにより多くの制御権を与えるが、抑制も維持
AnthropicはClaude Codeの新機能「自動モード」を発表し、AIが承認を減らしてタスクを実行できるようにした。これは、組み込みの安全策で速度と安全性のバランスを取る自律的ツールへの移行を反映している。
FOMO（取り残される恐怖）はAI導入の適切な理由ではない
企業はAIそれ自体を目的とするのではなく、AIが解決できる課題を明確に定義すべきだと専門家が指摘している。
QCon London 2026：倫理的AIはエンジニアリングの問題である
BBVAの責任あるAIプログラムリードであるクララ・イゲラが、AIシステムに関連する多くのリスクは、純粋なガバナンスや政策問題ではなく、根本的にエンジニアリングの課題であると発表した。
Copilot利用メトリクスで自動モデル選択が実際のモデル名に解決されるようになりました
GitHub Copilotが、自動モデル選択を有効にした際の利用メトリクスを改善し、従来「Auto」と表示されていた活動が実際の使用モデル名で表示されるようになりました。管理者はチームがどのモデルを使用しているかを正確に把握できます。
メタ社で暴走AIエージェントが重大なセキュリティインシデントを引き起こす
The Informationが報じたところによると、メタ社で制御不能なAIエージェントが重大なセキュリティインシデントを引き起こした。
AI時代におけるレジリエンスの構築
AI利用の拡大に伴い、ガバナンスとレジリエンスが重要であると専門家が指摘している。
OpenAI Japanが日本におけるティーン安全対策計画を発表、若年層の安全を最優先に
OpenAI Japanは、生成AIを利用するティーン向けに、年齢確認の強化、保護者による管理機能、ウェルビーイング保護策を含む「日本ティーン安全対策計画」を発表した。
Anthropicのアライメント科学チームメンバーによる引用
Anthropicのアライメント科学チームメンバーは、政策立案者にAIの誤配列リスクを実感させるため、脅迫演習の結果を説明した。
エンタープライズにおけるエージェンシックAI パート2：ペルソナによるガイダンス
AWS生成AIイノベーションセンターが、エージェンシックAIの最大の障壁は技術ではなく運用モデルであると指摘し、ペルソナに基づくガイダンスを提供する。
米国財務省、金融機関向けAIリスクガイドブックを公表
米国財務省は、金融サービス業界向けにAIリスク管理フレームワークとガイドブックを公表した。100以上の金融機関・業界団体が協力して開発したもので、AIリスクへの体系的な対応を提案している。
削除命令を受けたDOGE証言動画は既にインターネット全体にバックアップされている
裁判所がYouTubeから削除を命じたDOGEの証言動画は、すでにトレントやインターネットアーカイブを含むインターネット全体にバックアップされている。動画ではDOGEメンバーがDEIの定義を拒否し、ChatGPTを使用して「黒人」「同性愛者」などの用語で助成金停止を判断したが「白人」では行わなかったと認めた内容が含まれている。
DOGE信奉者の証言を6時間視聴：彼らが自ら語った内容とは
元投資銀行家のジャスティン・フォックス氏は、6時間の証言でDEIの定義を拒否し、ChatGPTを使って政府契約から「黒人」「同性愛者」などの用語を検索したが「白人」は検索しなかったと認め、助成金削減に関して「人類の利益にならない」と発言した後に撤回した。
エージェント的AIの実用化 第1部：関係者向けガイド
著者は、エージェント的AIが単なる機能ではなく、仕事の定義や意思決定方法の変革であると指摘し、企業が実プロセスやガバナンスで直面する課題を説明している。
AnthropicがAIの社会・安全保障への影響を研究する内部シンクタンクを設立
AI企業Anthropicは、強力なAIが社会・経済・安全保障に与える影響を研究するための内部シンクタンク「Anthropic Institute」を設立した。
Anthropic Instituteの設立発表
AnthropicがAnthropic Instituteを設立した。同研究所はAIの安全性と倫理的な開発を推進することを目的としている。
GitLab、AIは脆弱性を検出できるがリスクを決定するのはAIガバナンスだと提言
GitLabは、AIがソフトウェア脆弱性の検出方法を急速に変えているが、AIが露呈するリスクを誰が管理し、どう対応するかが緊急課題だと指摘した。
Anthropicの画期的な訴訟、政府のAI安全性判断への罰則権限に挑戦
Anthropicが17の米連邦機関を提訴した。同社は政府から矛盾する脅迫を受けながらもAI安全性ガードレールを維持し、国防総省の機密システムにClaudeが深く組み込まれている実態を明らかにした。
AlgomaticがNLP2026にプラチナスポンサーとして参加
Algomaticは言語処理学会第32回年次大会（NLP2026）にプラチナスポンサーとして協賛し、スポンサーミートアップに参加することを発表した。
AIのロードマップ、もし誰かが耳を傾けるなら
プロヒューマン宣言は先週のペンタゴンとアンソロピックの対立前に最終化されたが、両出来事の衝突は関係者全員に認識された。