OpenAI、テキストから個人情報を除去するオープンソースモデルを公開
OpenAIは、テキスト内の個人データを検出・削除する目的で設計されたオープンソースモデル「Privacy Filter」を公開した。
キーポイント
OpenAIによる専用モデルの公開
OpenAIがプライバシー保護に特化した「Privacy Filter」をオープンソースとしてリリースした。
PIIの自動検出と削除機能
テキストデータから個人識別情報（PII）を自動的に検出し、安全に削除する処理を担う。
開発者向けの実用ツール提供
AIモデルの学習・推論前処理におけるデータサンプリングとコンプライアンス対応を支援する。
オープンソース化による普及促進
コードとモデルの公開により、業界全体でのプライバシー保護基準の標準化を加速させる。
影響分析・編集コメントを表示
影響分析
OpenAIによるPrivacy Filterのオープンソース公開は、AI開発現場におけるデータプライバシー保護の実装ハードルを大幅に低下させる。特にGDPRやCCPAなどの厳格な規制が課される環境において、モデル学習や推論前のデータ前処理を標準化する上で重要な役割を果たす。これにより、大規模AI企業だけでなく中小開発者も安全なAI構築が可能になり、業界全体のコンプライアンス水準が底上げされる見込みだ。
編集コメント
編集者視点の一言コメント。プライバシーフィルタリングはAI実装の必須要素になりつつあり、OpenAIが公式ツールとしてオープンソース化したのは業界標準確立への重要な一歩と言える。今後は他のモデルアーキテクチャとの統合や、多言語PII検出精度の向上が課題となるだろう。
OpenAIは、テキスト内の個人データを検出し伏字化（redact）するために設計されたオープンソースモデル「Privacy Filter」をリリースしました。
OpenAIによると、Privacy Filterは、独自のAIモデルを学習させるため、または第三者とデータを共有する前に、大量のテキストをクリーニング（前処理）する必要があるチーム向けに構築されています。OpenAIによれば、このモデルは比較的小さな15億パラメータで構成され、リクエストごとにアクティブパラメータはわずか5,000万個しか使用せず、ラップトップやブラウザ上で直接実行可能です。クラウド接続なしでローカルハードウェア上で実行することも明示的にサポートされています。
このモデルは、氏名、住所、メールアドレス、電話番号、URL、日付、口座番号、パスワードやAPIキーなどのその他の秘密情報など、8つの機密コンテンツカテゴリを検出します。従来のチャットボットとは異なり、新しいテキストを生成しません。代わりに、入力データを単一パスでスキャンし、各部分がどのカテゴリに属するかをラベル付けします。OpenAIによれば、128,000トークンのコンテキストウィンドウ（context window）により、文書を分割することなく長いドキュメントを処理できます。
ユーザーは設定を調整し、モデルが積極的（高リコール、誤検知が多い）に伏字化するか、保守的（誤検知が少ないが、見落としが多い）に動作するかを制御できます。独自のデータセットを持つチームは、さらにモデルをファインチューニング（fine-tune）することも可能です。
Privacy Filterは、GitHubおよびHugging FaceでApache 2.0ライセンスの下で公開されており、商用利用も許可されています。
機密性の高いユースケースにおける明確な制限
OpenAIは明確に、Privacy Filterが匿名化やコンプライアンス（compliance）に関する法的保証を一切提供しないことを明言しています。このモデルは、より広範なデータ保護戦略における単なる一層として位置づけられています。OpenAI自身もいくつかの弱点を挙げています：レアな名前や地域的に一般的な名前は見逃されやすく、著名な公人や組織は誤って伏字化される場合があり、英語以外のテキストやラテン文字以外のスクリプトではパフォーマンスが低下します。
医療、法務、金融、人事といった機密性の高い分野では、OpenAIは人間のレビューをプロセスに組み込むことを明確に推奨しています。また、ラベルカテゴリは実行時（runtime）に変更できないため、異なるポリシーを必要とするチームはモデルをファインチューニングする必要があります。
過大評価なしのAIニュース – 人間が厳選
THE DECODERを購読すると、広告なしでの閲覧、週刊AIニュースレター、年6回の独占「AI Radar」フロンティアレポート、アーカイブへの完全アクセス、およびコメント欄へのアクセスが利用できます。
原文を表示
OpenAI has released Privacy Filter, an open-source model designed to detect and redact personal data in text.
According to OpenAI, Privacy Filter is built for teams that need to clean large volumes of text before processing it further, whether for training their own AI models or sharing data with third parties. The model is relatively small at 1.5 billion parameters, uses only 50 million active parameters per request, and runs on a laptop or even directly in a browser, OpenAI says. Running it on local hardware without any cloud connection is explicitly supported.
The model detects eight categories of sensitive content: names, addresses, email addresses, phone numbers, URLs, dates, account numbers, and other secrets like passwords or API keys. Unlike traditional chatbots, it doesn't generate new text. Instead, it makes a single pass through the input and labels which parts belong to which category. A 128,000-token context window lets it process long documents without splitting them up, according to OpenAI.
Users can adjust settings to control whether the model redacts aggressively (high recall, more false positives) or conservatively (fewer false positives, but more missed items). Teams with their own datasets can also fine-tune the model further.
Privacy Filter is available under the Apache 2.0 license on GitHub and Hugging Face, and commercial use is permitted.
Clear limits for sensitive use cases
OpenAI is clear that Privacy Filter does not provide any legal guarantee of anonymization or compliance. The model is meant to be just one layer in a broader data protection strategy. OpenAI itself lists several weaknesses: rare or regionally uncommon names are more likely to be missed, well-known public figures or organizations sometimes get incorrectly redacted, and performance drops with non-English text or non-Latin scripts.
For sensitive fields like healthcare, law, finance, or human resources, OpenAI explicitly recommends keeping human review in the loop. The label categories also can't be changed at runtime, meaning that teams that need a different policy will have to fine-tune the model.
AI News Without the Hype – Curated by Humans
Subscribe to THE DECODER for ad-free reading, a weekly AI newsletter, our exclusive "AI Radar" frontier report six times a year, full archive access, and access to our comment section.
関連記事
「OpenAIプライバシーフィルター」の公開
OpenAIは、テキスト内の個人情報を検出・削除するオープンウェイトモデル「Privacy Filter」を公開した。最先端の精度でPII処理を実現する。
OpenAI、完全にリアルなAI生成スクリーンショットで「GPT-Image 2」を予告
OpenAIは新画像生成モデル「GPT-Image 2」を公開し、実写と見分けがつかない高精度なテスト画像を示した。
本日は特に目立った出来事なし
2026年4月21日から22日にかけてのAIニュースを、12のサブレッドと544件のツイートを調査した結果、特筆すべき大きな出来事は確認されなかった。