ChatGPTにロックダウンモードと高リスクラベルを導入

OpenAIは、AIシステムがウェブや接続されたアプリを含む複雑なタスクを担うにつれて高まるセキュリティリスク、特に「プロンプトインジェクション」攻撃への対策として、ChatGPTに二つの新たな保護機能を導入した。プロンプトインジェクションとは、第三者がAIを悪意のある指示に従わせたり、機密情報を漏洩させようとする攻撃手法である。 一つ目は「ロックダウンモード」である。これは、著名な組織の幹部やセキュリティチームなど、高度な脅威に対する保護を必要とする、ごく一部の高度なセキュリティ意識を持つユーザーのためのオプションの高度なセキュリティ設定である。大多数のユーザーには必要ない。このモードでは、プロンプトインジェクションに基づくデータ流出のリスクを低減するため、ChatGPTが外部システムとどのように相互作用できるかを厳格に制限する。具体的には、敵対者がユーザーの会話や接続アプリから機密データを流出させるために悪用しようとする可能性のある特定のツールや機能を確定的に無効化する。例えば、ウェブ閲覧はキャッシュされたコンテンツに限定され、OpenAIの管理されたネットワーク外への生のネットワークリクエストは送信されない。これにより、閲覧を通じて攻撃者にデータが流出するのを防ぐ。データの安全性について強力な確定的保証が提供できない機能は完全に無効化される。ロックダウンモードは、ChatGPT Enterprise、Edu、Healthcare、Teachersで利用可能であり、管理者はワークスペース設定で有効にできる。 二つ目は「高リスク（Elevated Risk）ラベル」である。これは、ChatGPT、ChatGPT Atlas、Codexにおいて、追加的なリスクを招く可能性のある特定の機能に対して表示される。これにより、ユーザーはリスクをより明確に認識できるようになる。 これらの新機能は、サンドボックス化、URLベースのデータ流出への保護、監視と執行、ロールベースのアクセスや監査ログといった既存のエンタープライズ向けコントロールなど、モデル、製品、システムレベルでの既存の保護策の上に構築されている。ChatGPTのビジネスプランは既に企業級のデータセキュリティを提供しているが、ロックダウンモードはそれらの保護をさらに強化するものとして位置づけられている。

ChatGPTにロックダウンモードと高リスクラベルを導入

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト

背景や根拠まで確認しますか？

関連記事

ニュースの次に確認する

調べる

選ぶ

サイト