ChatGPTを法的相談や医療・メンタルヘルスの相談、社内の機密業務に利用するケースが増えるなか、機微情報を入力した場合に法的・セキュリティ面で十分な保護を受けられない可能性があるとして、注意を促す声が強まっている。

米ITメディアのEngadgetは23日（現地時間）、過去18カ月の間に、ChatGPTの会話が訴訟手続きで提出を求められたり、共有機能を通じて外部に公開され、Google検索に表示されたりした事例があったとして警戒を呼びかけた。

まず注意したいのが法的相談だ。ChatGPTとのやり取りは、弁護士への相談のような秘匿保護が及ぶ情報とはみなされない。

OpenAIのサム・アルトマンCEOも2025年のインタビューで、裁判所がOpenAIに対して利用者の会話記録の提出を求める可能性があるとの懸念を示していた。実際、法廷ではChatGPTが生成した虚偽の判例や架空の引用が見つかった事例が2000件超確認されており、弁護士が関わったケースも含まれるという。

メンタルヘルス分野でも注意が必要だ。OpenAIは昨年、ChatGPTの週次利用者の約0.15％が、潜在的な自殺計画を示唆する会話をしていると推定した。

若年層を中心に、ChatGPTをカウンセラーやライフコーチのように使う例は増えている。ただ、こうした会話がカウンセラーとの対話と同等の法的な秘匿保護を受けるわけではない。研究者は、チャットボットが利用者の既存の信念に過度に同調する「迎合的な応答」を示した場合、誤った判断や妄想的な思考を強める可能性もあると指摘している。

社内機密の入力もリスクが高い。米サイバーセキュリティ・インフラセキュリティ庁（CISA）の元長官代行、マドゥ・ゴトゥムカラ氏は昨年、「公用のみ」と表示された契約書を公開版ChatGPTに入力し、セキュリティ警報と国土安全保障省のレビューを招いたという。

Samsung Electronicsも2023年、エンジニアが社内ソースコードをChatGPTに入力していたことが明らかになった後、社内端末での生成AIツール利用を制限した。外部サーバーに送信された情報は回収や削除が難しく、ほかの利用者に露出する可能性があると判断したためだ。

医療情報も同様だ。病院や医療従事者に提供した情報は関連法で保護される可能性がある一方、ChatGPTに入力した場合に同じ保護が受けられるとは限らない。

Engadgetは、摂食障害、不眠症、薬物乱用、双極性障害など一部の疾患では、チャットボットの安全対策が不十分になり得るとする最近の研究も紹介した。60代の男性が塩化物の摂取を減らす方法をChatGPTに尋ね、臭化ナトリウムを食塩の代替と誤解して服用した事例もあったという。

アカウント情報や個人情報の入力は、特に避けるべきだ。パスワードやワンタイム認証コード、パスポート番号、住民登録関連の情報、カード情報や銀行口座情報、身分証の画像などは、会話に残ることで情報漏えいやアカウント乗っ取りに悪用される恐れがある。

Engadgetはあわせて、ChatGPTが利用者の提供した情報を記憶する機能を備えている点も問題視した。

会話が外部に露出した実例もある。昨年7月には、共有されたChatGPTの会話約4500件がGoogleの検索結果に表示されていたことが確認された。共有時に検索可能な設定になっていたことが原因だった。

OpenAIは報道後、この機能を廃止し、検索結果から関連する会話を削除した。

ただし、削除された会話があらゆる状況で直ちに消えると断定するのは難しい。2025年には著作権訴訟の過程で、裁判所がOpenAIに消費者の会話記録の保存を命じた例があった。その後、命令は終了したものの、法的手続きによって会話記録が保存対象になり得ることを示した形だ。

結局のところ、ChatGPTは調査や下書き、概念説明といった一般的な用途とは異なり、法的紛争の具体的内容、機微な医療・メンタルヘルス情報、社内機密、パスワードや金融情報の入力には細心の注意が必要だ。アルトマン氏は別途、「AI特権」の必要性にも言及しているが、現時点でChatGPTとの会話が弁護士、医師、カウンセラーとの対話と同等の秘匿保護を受けると考えるべきではない。