OpenAIは4月22日、テキスト内の個人情報や秘密情報をAI処理の前段で検知し、マスキングできる小型モデル「Privacy Filter」をオープンソースで公開しました。Apache 2.0ライセンスで提供し、Hugging FaceとGitHubでも利用できます。ChatGPTなどに入力する前にローカル環境で情報を伏せられる仕組みで、漏えいリスクを抑える手段として位置付けられます。

Privacy Filterは1.5Bパラメータのモデルで、推論時に使うアクティブパラメータは50Mです。最大128kトークンの長文入力に対応し、ラップトップやブラウザ上でも動作します。OpenAIは、モデルが学ぶべきなのは世界に関する知識であり、個人の私的情報ではないとしたうえで、その実装手段としてPrivacy Filterを公開したと説明しています。

ローカルで先に伏せる仕組み

Privacy Filterが検知するのは、氏名、住所、メールアドレス、電話番号、URL、日付、口座番号、secretの8カテゴリです。このうちsecretには、パスワードやAPIキーなどが含まれます。

暗号資産分野では、このsecretカテゴリの意味合いが大きいです。取引所連携のAPIキー、運用ボットの認証情報、社内ウォレット管理に関わる機密文字列が、問い合わせ文やログ、サポート対応文面に混ざる場面は少なくありません。AIに業務文書を要約させたり、障害ログを解析させたりする際、入力前にこうした情報を自動で伏せられれば、生成AI導入のハードルは一段下がります。

精度は高水準でも100％ではない

OpenAIは、PII-Masking-300kベンチマークでF1スコア96％を記録したと公表しました。修正版の評価では97.43％に達しています。PII-Masking-300kは30万件超の合成データを含むデータセットで、27種類超のPIIクラスを扱います。

もっとも、この数値は完全な検知を意味しません。F1スコアが高くても、見逃しと過剰検知の両方は残ります。

OpenAIが今回公開したのは、大規模モデルそのものではなく、入力データを整える前処理のための軽量モデルです。AI活用の競争がモデル性能から運用設計へ広がるなか、秘密情報をAIに見せる前に除去するという発想が、企業の生成AI導入で標準機能に近づきつつあることを示しています。