#セキュリティ のAIニュース

中国の Z.ai がサイバーセキュリティ分野で Mythos に匹敵すると主張

中国の智譜 AI（Zhipu AI）が公開重みモデル GLM-5.2 をリリースし、一部の研究者がバグ発見やサイバーセキュリティの特定シナリオにおいて、同社の Mythos と同等の性能を有すると主張している。

[AINews] OpenAI、GPT-5.6 Sol/Terra/Luna を信頼できるパートナーに限定して発表

OpenAI は、Anthropic と Fable の交渉や Mythos 規制の緩和を背景に、GPT-5.6 シリーズ（Sol/Terra/Luna）を発表したが、アクセスは信頼できるパートナーに限定された。同モデルは特定のコーディングエージェントタスクにおいて Mythos を上回る性能を示す。

Anthropic の Mythos 問題がさらに深刻化

トランプ政権からの要求を受け Anthropic が Mythos クラスのモデルを停止してから2週間が経過したが、同社はワシントンDCへ幹部を送り対応しているものの、解決策を示す更新情報がなく状況は悪化している。

AI開発時代の多層防御を設計する〜AWSアクセスキーにまつわる怖い話〜

ホワイトハウス、OpenAI に新モデルの公開延期を要請

ホワイトハウスは国家安全保障と構造的安全性の懸念から、OpenAI に対し次世代 Frontier モデルの公開延期を公式に要請した。政府高官は、高度なサイバー能力や自動社会操作の脆弱性を徹底的に監査するため、レッドチームング期間の延長を求めている。

間接プロンプトインジェクションに関する洞察（12 分読了）

TLDR AI が、AI モデルが外部データから悪意ある指示を誤って受け取る「間接プロンプトインジェクション」の仕組みと対策について解説した。

プロンプトインジェクションは役割の混乱として捉えられる（17 分読了）

TLDR AI は、現代の大規模言語モデルがセキュリティアーキテクチャや認知の足場として役割タグを使用しているが、プロンプトインジェクションは AI モデルが役割を認識する仕組みに欠陥があることが原因であると指摘し、真の役割知覚の実現まで防御は永続的ないたちごっこになると述べている。

ポスト量子暗号化の行政命令は重要なマイルストーン、今こそ実務へ

トランプ大統領が署名した行政命令により、連邦機関は2030年までに最も機密性の高いシステムをポスト量子暗号化へ移行し、認証も2031年までに完了するよう義務付けられた。クラウドフレアはこの方針を歓迎している。

Vercel CLI でリンク実行時にローカル環境変数を保持する機能を追加

Vercel は CLI の更新により、vercel link コマンド実行時に .env.local ファイルの内容を保護し、既存の環境変数の上書きを防ぐ機能を導入した。これにより、VERCEL_OIDC_TOKEN などの設定が安全に管理されるようになった。

カスタム OIDC トークン聴衆のサポート開始

Vercel は、OIDC 発行者にカスタム聴衆（audience）の指定機能を追加しました。これにより、デプロイメントが特定の第三者プロバイダ向けにトークンを要求できるようになり、サービス間認証のセキュリティが向上します。

デイブレイク：世界中のすべての組織を保護するためのツール

OpenAI は、世界中のあらゆる組織のセキュリティを強化する新ツール「Daybreak」を発表した。

Vercel CLI がバブル URL の署名機能をサポート

Vercel は CLI に新機能「vercel blob presign」を追加し、ユーザーが単一コマンドで期限付きの署名済み URL を生成できるようになった。これにより、特定の操作やパス名に限定した安全なアクセスが可能となる。

Nous Research、Hermes エージェントにツールセットを固定する「ブランクスレートモード」を追加

Nous Research は、オープンソースの自己改善型エージェントフレームワーク「Hermes Agent」に、初期状態を最小限にする新機能「ブランクスレートモード」を追加した。これにより、プロバイダーとモデル、ファイル操作、ターミナルのみが有効な状態で起動し、従来のクイックセットアップやフルセットアップに加え、3 つ目の設定オプションとなった。

米国がアンソロピックの「Fable 5」発売を禁止、しかし市場は動じず

米国政府は国家安全保障上の懸念から、アマゾンの研究者らがガードレール回避手法を発見したとして、アンソロピックに対し最新モデル「Fable 5」と「Mythos 5」の販売差し止めを命じた。サイバーセキュリティ研究者らはこの措置が危険だとする公開書簡に署名し、同社も他モデルでも同様の抜け道が存在すると指摘している。

Elastic、CRV 支援の DeductiveAI を最高 8500 万ドルで買収へ合意

検索・分析プラットフォーム「Elastic」が、リスク管理 AI 企業「DeductiveAI」を最高額 8500 万ドルで買収することに合意した。

MosaicLeaks：研究エージェントは秘密を守れるか？（10 分読了）

TLDR AI は、プライベート文書とウェブ検索を組み合わせる深層研究エージェントのプライバシーリスク「MosaicLeaks」を指摘し、安全なクエリ構築による報酬学習で情報漏洩を大幅に削減する新手法 PA-DR を提案した。

MosaicLeaks：研究エージェントは秘密を守れるか？

Hugging Face は、AI エージェントが機密情報を漏洩するリスクを検証する「MosaicLeaks」という評価フレームワークを発表した。

AI #173：AIの一時停止

ホワイトハウスが輸出規制を課した結果、トランプ政権によりClaude Fable 5とClaude Mythos 5がシャットダウンされ、アンソロピック社がワシントンで政府と協議している。

"危険"なAIモデルは規制に関係なく登場する

米国政府の輸出管理指令により、アントロピック社は新モデル「Claude Fable 5」と「Mythos 5」の利用を停止した。同社はホワイトハウスと協議中だが、再稼働のための合意はまだ得られていない。

企業管理設定に権限制御のバイパス許可機能が追加されました

GitHub が企業管理設定にガバナンス機能を追加し、管理者がバイパス権限制御モードを無効化できるようになりました。これにより、GitHub Copilot CLI や VS Code での自動承認（yolo モード）を防ぎ、セキュリティ強化を図ります。

「かつてありし未来の寓話」第 3 部：このコードを修正せよ

Zvi は、主要メディアが世界で最も重要な物語を見逃しているとし、Anthropic がワシントンで行った会議に関する最新情報を得ていないと指摘した。予測市場では、7 月 1 日までの復旧確率が約 55% と推移していると分析している。

Simon Willison Blog の datasette-tailscale 0.1a0 リリース

Simon Willison が、Datasette サーバーを Tailscale ネットワークに接続する実験的プラグイン「datasette-tailscale」のバージョン 0.1a0 を公開した。これにより、認証キーとホスト名を指定してローカルサーバーから安全にデータへアクセスできるようになる。

AI レッドチームングの解説：その意味と必要性

AI の普及加速に伴い、敵対的条件でシステムをテストする AI レッドチームングが重要となっている。これは組織が展開前に脆弱性を特定し、安全性を強化するために実施される手法である。

米政府のアンソロピックモデル禁止は、AI の脱獄が理由ではなかった

米国政府がアンソロピック社の生成AIモデルを禁止した背景について、その真の原因が「AI の脱獄（セキュリティ侵害）」によるものではないと指摘する分析記事。

AI業界の命運を分ける可能性のあるMAGA派の権力闘争：Anthropicの事例

Anthropicは、政府からの輸出管理指令により、米国国外および国内の外国人に対する新モデル「Claude Fable 5」および「Mythos 5」へのアクセスを即時停止すると発表した。これにより事実上の技術禁止措置が講じられた。

ホワイトハウスとの対立に関するアンソロピックの最新ニュース

米政府は6月12日、外国からのアクセスを遮断する命令を出し、アンソロピックはペンタゴンとの紛争に加え、新モデル「Fable 5」や「Mythos 5」への規制対応に直面している。

datasette-apps 0.1a2 のリリース

Simon Willison が「datasette-apps」バージョン 0.1a2 を公開し、アプリの CSP 設定を保護する新しい権限機能を実装した。

米国政府が Claude Fable を規制対象に指定

米商務省は、Amazon が特定した jailbreak への対応として、Claude の「Fable 5」および「Mythos 5」を輸出管理対象と分類し、外国籍者へのアクセス制限を開始した。

トランプ政権の指示によりアンソロピックが「Fable」「Mythos」モデルを停止

米国商務省からの輸出規制命令を受け、AI企業アンソロピックは金曜日夜に新開発した「Fable 5」と「Mythos 5」モデルへのアクセスを完全に停止した。

Google、Gemini を悪用した中国のサイバー犯罪ネットワーク「Outsider Enterprise」を提訴

Google は、生成AI製品「Gemini」を利用して大規模な詐欺キャンペーンを自動化したとされる中国の犯罪組織「Outsider Enterprise」に対して訴訟を起こし、法執行機関や携帯キャリアと連携して対抗すると発表した。

AI エージェントに適切なサンドボックスを選ぶ方法

LangChain は、AI エージェントの安全性と効率を確保するために、利用目的やリスクに応じて最適なサンドボックス環境を選択する基準を解説している。

LLM が N 日脆弱性攻撃に与える影響を測定する（18 分読了）

TLDR AI は、公開済みだが未修正の N 日脆弱性がパッチから逆解析されるリスクについて分析し、AI がこのプロセスを加速・自動化することで脅威が拡大すると指摘した。

Fable-5 システムプロンプトの流出（27 分読了）

AI 開発企業 Fable が、自社の AI モデル「Fable-5」のシステムプロンプトが外部に漏洩したことを発表しました。

Copilot CLI に専用セキュリティレビューコマンドが追加

GitHub Copilot CLI が、コード変更のセキュリティ脆弱性を検出する「/security-review」コマンドを公開プレビューとして提供開始した。

オンラインPDF署名ツールの簡単な利用方法

記事は、契約書や法的文書の処理において、ファイル互換性などの課題がある中で、オンラインPDF署名ツールが業務と個人にとって迅速かつ安全な署名を可能にする重要な役割を果たしていることを説明しています。

Amazon SageMaker AI と FHE を用いたエンドツーエンド暗号化 ML 推論の紹介

AWS は、医療記録や機密情報などの敏感なデータをクラウド上で処理する際、データが推論プロセス全体で暗号化されたまま保たれるよう、Amazon SageMaker AI と完全準同型暗号（FHE）を組み合わせた手法を発表した。

Microsoft、Claude および Gemini ユーザーへマルウェアを配布する目的でハッキングされた件

サイバーセキュリティ研究者の調査と Microsoft の声明によると、ハッカーが AI コーディングツールの Claude や Gemini で開封した際にユーザーの認証情報を窃取するマルウェアを仕掛け、Microsoft は Azure および AI コーディングエージェント関連のリポジトリを含む一連の GitHub リポジトリを停止してデータ侵害を調査している。

パキスタン向け安全問題解決のための小型 AI ツール「Pakistan Notice Helper」の開発

Hugging Face が、パキスタンのローカルな安全性課題に対応する小型 AI ツール「Pakistan Notice Helper」を開発したと発表した。

OpenAI、プロンプト注入攻撃対策の「ロックダウンモード」を追加

OpenAI は、ウェブページや外部コンテンツからのプロンプト注入攻撃への曝露を減らすため、「ロックダウンモード」を導入した。この機能はライブブラウジングやエージェントモードなどを無効化する一方、キャッシュされたコンテンツや画像生成機能は維持する。

OpenAI、プロンプト注入攻撃から機密データを保護する「ロックダウンモード」を発表

OpenAI は、プロンプト注入攻撃によって機密データが漏洩するリスクを防ぐため、「Lockdown Mode」という新機能を発表した。この機能は、ユーザーの意図しない悪意ある指示によるデータ侵害を防止する役割を果たす。

米軍が GPS を利用し、20 年間にわたり暗号化ネットワークの「ナンバーステーション」として機能させていた可能性を示す証拠

情報セキュリティ研究者のスティーブン・マーチャード氏によると、米軍は約 20 年にわたり、公衆用の GPS 衛星を利用して暗号化ネットワークのコードを放送し、各衛星を隠れた「ナンバーステーション」として活用してきた可能性が高い。

AIエージェントの実行環境を、OSの視点から整理してみた

BGP AS_PATH の最初の AS を強制する仕組みの導入

Cloudflare は、Spamhaus が報告したルート乗っ取り事案を踏まえ、不正なアクターが未使用の自律システム番号（ASN）を利用して偽の AS_PATH を作成しトラフィックを誤誘導する手口に対処するため、BGP の経路情報において最初の AS 番号の検証を強化する措置を発表した。

大規模なAI推論の不正利用防止について（5分読了）

Vercelは、攻撃者が露出したエンドポイントを悪用して盗んだAI推論を転売する手法と、従来のレート制限が不十分な理由を説明した。同社はBotID分析を用いてすべてのリクエストを検証し、不正利用を削減するアプローチを紹介している。

マイクロソフトと NVIDIA の新ツールを用いて Windows PC でパーソナル AI エージェントを構築する

マイクロソフトと NVIDIA は、Windows PC 上でパーソナル AI エージェントを構築するための新ツールを提供した。これにより開発者はローカル環境で効率的にエージェントを設計・実装できる。