OpenAIが、ChatGPTの回答品質向上を目的に、実ユーザーの対話を人手で評価する内部プロジェクトを進めていることが分かった。個人情報を隠す自動フィルターを適用しているものの、機微な内容が完全には除去されない可能性も指摘されている。

404 Mediaが15日（現地時間）に報じたところによると、OpenAIは社内で「Project Lily」と呼ぶ評価作業を進めている。入手した内部文書では、数百人規模の契約スタッフが実際のChatGPT会話を読み、利用者の意図を把握したうえで、モデルの回答品質や問題点を評価するとされている。

レビュワーには利用者のアカウント名は表示されないが、会話全体が共有される場合があるという。一部の作業には、ChatGPTが記憶した過去の利用文脈を整理した「ユーザーメモリー要約」も含まれ、利用目的や関心、おおよその地域など、個人の推定につながりかねない情報が含まれる可能性があると同メディアは伝えた。

OpenAIはレビュー前に「Privacy Filter」を使い、氏名、住所、メールアドレス、電話番号、口座番号などの個人識別情報を検知してマスキングするとしている。一方、同社は公開資料で、まれな名前や地域固有の名称、文脈に依存する個人情報については取りこぼす可能性があることも認めている。

個人向けChatGPTでは、設定の「データ制御」で「すべての人のためのモデル改善」をオフにすると、その後の新規チャットがモデル学習に使われないようにできる。これに対し、ChatGPT Business、Enterprise、Eduでは、入力と出力を原則としてモデル学習には使わないとしている。

「一時チャット」もモデル改善には利用されない。ただし、安全対策や不正利用防止を目的に最大30日間保存される可能性があり、必要に応じて限定的なレビューが行われる場合がある。OpenAIは、機微情報については人によるレビューを望まない場合、入力しないよう案内している。

AIサービスの品質向上に人の評価が引き続き活用される一方、実ユーザーの私的な会話が学習や評価の工程にどこまで組み込まれるのかを巡り、透明性の問題が改めて浮上している。