OpenAIは8月19日（現地時間）、企業顧客の会話データを保存せずにAIの不正利用を検知する新たな安全機能「Private Safety Processing」を、一部顧客向けに提供開始した。複数の会話セッションを横断してリスクの兆候を捉える仕組みで、企業のデータ管理要件に配慮しながら安全対策を強化する。

米TechCrunchによると、OpenAIはこの機能を通じ、顧客データを保管しないまま不正利用の可能性を把握する手法を試験運用している。

中核となるのは、複数の会話セッションを横断的に分析し、リスクの兆候を検知する点だ。従来の「Zero Data Retention（ZDR）」では、OpenAI API内のエージェントがセッション単位で不正利用を監視していた。

この方式でも顧客データ自体は保存されないが、監視対象は単一セッションに限られていたという。

OpenAIは、新機能によってZDRの監視範囲を広げると説明する。単発の対話ではなく、複数セッションにまたがる入出力を照合し、不正利用の兆候を見つける仕組みだとしている。

特定のパターンを検知した場合、システムはセッションをまたいだやり取りを分析する。一方で、ユーザーの会話内容を人が直接閲覧することはないとしている。

同社によれば、この手法は複数セッションに分散された悪意ある利用の検知に有効という。例えば、サイバー攻撃用マルウェアの設計を試みる利用者が検知を避けるため依頼内容を複数のセッションに分けた場合でも、Private Safety Processingは複数の対話を分析し、不正利用のシグナルを捉えられるとしている。

システムの稼働時にOpenAIへ通知されるのは、特定の活動類型を示す限定的なシグナルのみだという。OpenAIは、そのシグナルに基づいて追加対応の要否を判断する。

対応が必要と判断した場合は、顧客に追加の文脈情報の提供を求めるか、顧客と協力して問題解決を進める。データの共有は顧客の判断に委ねられる。

今回の発表は、Anthropicが最近打ち出したデータ保存方針と対照的だ。Anthropicは7月に公表した方針で、対象モデルに限り、ユーザーのセッションと会話内容を30日間保存できるようにした。

対象には、すべての「ミトス級」モデルと、同等の能力を持つ将来のモデルが含まれる。安全性の確保に向け、潜在的な不適切行為を確認するためと説明しているが、機微データを大量に扱う一部企業の間では懸念も広がった。

Anthropicも原則としてZDRを採用しているが、「フェーブル」など一部モデルは例外としている。同社は、顧客データを人がレビューする可能性があることを認めたうえで、統制されたアクセス経路を通じ、承認済みの少数のレビュアーだけが対応すると説明した。

また、各レビューセッションは、レビュアーが任意に抑制・改変できない改ざん防止ログに記録されるとしている。

OpenAIの今回の施策は、安全性と企業のプライバシー保護の両立を狙った取り組みとみられる。AIモデルの高性能化に伴って不正利用リスクが高まる一方で、企業顧客は安全対策に加え、データ統制の強化も強く求めているためだ。

OpenAIは、人による直接閲覧なしにセッション間のパターンを追跡できる点を打ち出し、企業需要の取り込みを進める構えだ。

背景には競争激化もある。最近公表された報告書によると、OpenAIの第2四半期の成長率はAnthropicを下回ったという。

Anthropicの年換算売上高は650億ドル規模とされ、投資家の間では2兆ドル規模の新規株式公開（IPO）の可能性も取り沙汰されている。

OpenAIもIPOの準備を進めているとされており、企業向けAIを巡るセキュリティ・プライバシー政策の競争は今後さらに激しくなる可能性がある。