#プロンプトインジェクション防御のAIニュース

3件の記事

Anthropic、Claude を Chrome で一般提供し自律行動を可能に

Anthropic は有料プランのユーザー向けに Claude in Chrome の一般提供を開始し、各アクション実行前に安全性分類器が検証する仕組みでブラウザ内での自律的な操作を可能にした。

Anthropic は、自社の AI ネイティブなソフトウェア開発ライフサイクルにおけるセキュリティ確保策について詳細を明らかにした。

OpenAIは、AIモデルが信頼できる指示を信頼できない指示よりも優先するように教えるためのトレーニングデータセット「IH-Challenge」をリリースした。初期結果では、セキュリティとプロンプトインジェクション防御の両方で大幅な改善が見られている。