OpenAI、フロンティアモデルでゼロデータ保持オプションを提供開始

記事の3ポイント

1. 1

   ゼロデータ保持の確約と条件

   OpenAI は、対象となる API ユーザーに対して、リクエスト処理後にプロンプトやモデル応答を保持しないことを約束し、顧客コンテンツが社員のレビューに供されないこと、および明示的なオプトインがない限り学習データとして使用されないことを明言する。

2. 2

   複数回やり取りにおけるリスク検知の課題

   単一のインタラクションでは見えない危険な意図や、エージェントタスク中のアライメント崩れなどのリスクは、複数のやり取りを横断して初めて顕在化するため、既存の個別評価システムでは不十分であると指摘する。

3. 3

   Private Safety Processing の仕組み

   顧客が制御するインフラ上、あるいは顧客が鍵を管理する暗号化された OpenAI インフラ上でコンテンツを保持しつつ、自動化されたシステムがパターンを検知して安全信号を返すことで、OpenAI 社員に機密内容を晒さずにリスクを特定する仕組みを提案する。