#security のAIニュース
11件の記事
Vercel Flags、デプロイ時にSDKキー不要に
Vercel は新プロジェクトにおいて、フラグ評価時の SDK キーや環境変数設定を廃止し、ランタイムで OIDC トークンを自動取得する仕組みを導入した。既存プロジェクトへの影響はない。
プロンプトインジェクションをロール混乱として捉える
Simon Willison は、Charles Ye 氏らが発表した論文のブログ記事版を紹介し、学術論文に読みやすい解説を併記することで影響力を高める重要性を述べています。
AI エージェントの未来をセキュリティする（7 分読了）
Google は、同社内で展開される高度な AI を構築・管理するための「AI コントロールロードマップ」を発表した。この枠組みは、アライメントが完璧でなくても安心できるシステムレベルのセキュリティ層を追加し、サンドボックス化やエンドポイントセキュリティ、プロンプト注入耐性などの対策を盛り込んでいる。
MCP コネクタの権限管理を一元化
Anthropic は MCP（Model Context Protocol）コネクタに対する権限設定を一元管理する機能を発表した。これにより、複数の接続先におけるアクセス制御を一括で効率的に運用できるようになる。
惑星サイズの脳：LLM は考えすぎなのか？（30 分読了）
TLDR AI が実施した研究では、Claude や GPT の最新モデルを多数組み合わせ、セキュリティ脆弱性の特定実験を行いました。その結果、推論努力を増やしたり新モデルを使ったりしても、必ずしもセキュリティ結果の選別が向上するわけではないことが示されました。
Vercel Connect の紹介：エージェントへのアクセス制御を強化
Vercel は、AI エージェントがツールやデータに安全にアクセスできるよう、認証と権限管理の仕組み「Vercel Connect」を発表した。従来の永続トークンに代わり、より細粒度なアクセス制御を実現する。
Claude Managed Agents に新機能：スケジュール実行と Vault での環境変数保存が可能に
Anthropic は Claude Managed Agents に、エージェントをスケジュール通りに実行する機能と、Vault を使用して環境変数を安全に保存する機能を追加しました。
MicroPython と WASM を用いたサンドボックス環境での Python コード実行
Simon Willison は、コード実行のサンドボックス環境を実現する新アルファパッケージ「micropython-wasm」を公開し、Datasette Agent のプラグインとして利用を開始した。
AI エージェントに専用コンピューターを付与する
LangChain は、数百万のタスクを実行する AI エージェントが安全かつ効率的に動作するために、各エージェントに個別のファイルシステムやシェル環境を持つ仮想コンピューターを提供するインフラシフトの必要性を提唱している。
Google、AI ディープフェイクによるなりすまし詐欺対策として偽の通話検出機能を展開
Google は、AI を利用したディープフェイク音声によるなりすまし詐欺からユーザーを保護するため、偽の通話を検知する新機能を全世界に展開しました。
QCon AIボストンの初期プログラムは、本番AIの背後にあるエンジニアリング作業に焦点を当てる
QCon AIボストン（6月1-2日）の最初の発表は、コンテキストエンジニアリング、エージェントの説明可能性、基本的なRAGを超えた推論、評価、ガバナンス、現実世界の制約下でAIを確実に実行するためのプラットフォームインフラに焦点を当てている。