個人で契約したAIサービスに社内情報を入力する行為は、原則として避けるべきだ。個人向けクラウドAIでは、入力データが学習に利用される可能性があるうえ、企業側が利用実態を追跡・統制しにくく、セキュリティインシデント時の対応にも支障を来しかねない。

ITmediaは8月27日、こうした個人契約AIの利用が企業の情報管理上のリスクになり得ると報じた。特に問題となるのは、ChatGPTに代表されるクラウド型AIへの入力情報の扱いだ。

クラウド型AIでは、利用者の入力データがモデル学習に使われる可能性がある。社内機密や内部資料を入力すれば、情報漏えいリスクにつながりかねない。個人向けの有料プランを利用していても、こうした懸念が解消されるとは限らないという。

個人向けChatGPTの利用規約には、サービスの提供・維持・開発・改善、法令順守、ポリシーの適用、安全性維持のため、事業者が「本コンテンツ」を利用できると明記されている。「本コンテンツ」には、利用者の入力内容とAIの出力が含まれる。規約上、事業者が一定範囲で入力データを取り扱える以上、個人アカウントに社内文書を入力すること自体がリスク要因となる。

一方、法人向けプランでは、契約条件に応じて入力情報を学習に利用しない取り決めが設けられる場合がある。個人向けサービスの一部にも、入力内容を学習に使わせない設定機能はあるが、それでも個人契約のAIに社内情報を入力してよいことにはならない。

リスクがより深刻になるのは、実際にセキュリティインシデントが発生した場合だ。企業が正式に導入したAIであれば、利用状況を監視・追跡し、原因究明につなげる運用が可能なケースが多い。これに対し、従業員が個別に契約したサービスは追跡が難しく、誰がどの情報を外部サービスに入力したのか把握しづらい。このため、事故調査や対応にも悪影響を及ぼす恐れがある。

こうした、会社の承認を得ずに外部ITサービスを契約・利用する行為は「シャドーIT」と呼ばれ、AIサービスの場合は「シャドーAI」と位置付けられる。業務効率化が目的であっても、管理されていない経路で社内データが外部クラウドに送られれば、企業の統制範囲外に置かれるため、セキュリティ上のリスクとして警戒される。

外部送信リスクを抑える代替策としては、「ローカルAI」や「ローカルLLM」が挙がる。利用者の端末や管理可能な機器上でAIを直接動かす方式で、以前はクラウド型AIに比べて性能面で劣るとみられていた。ただ、この1〜2年で差は縮まりつつあり、複数の企業が導入や活用を検討しているという。

業務用AIの安全性を左右するのは、個人が費用を負担しているかどうかではなく、企業がデータ処理の経路を統制できるかどうかだ。従業員は、会社が承認した法人向けサービスを利用し、どこまでの情報を入力できるのかを事前に確認する必要がある。企業側にも、明確な利用指針の策定や教育の徹底、ローカルAIなど安全な代替手段の整備が求められる。AI活用が広がるほど、「シャドーAI」への対応は企業セキュリティの重要課題になりそうだ。