人工知能（AI）が生成した虚偽の統計データがChatGPTの情報収集に取り込まれ、学術論文や金融機関の投資調査などに引用されていたことが分かった。AI検索が不正確な情報を十分に排除できなければ、偽データが信頼できる資料のように拡散する恐れがある。

Gigazineが10月21日に報じたところによると、AI検索を研究するメテハン・イェシルユルト氏は、虚偽統計がどのように広がるかを検証するため、実験用サイト「StateGlobe」を構築した。

同氏は3月、GPT-4.1を使って約5万件の統計ページを1日で生成した。掲載したのは、200カ国を対象にしたSEO、ソーシャルメディア、電子商取引に関する数値だが、データはいずれも恣意的に作成されたもので、ファクトチェックも実施していない。

その後、リスト形式のコンテンツも1万5000件追加した。制作費は約50ドルだったという。

このサイトは当初、Google検索結果にも表示されていたが、検索アルゴリズムの変更後は流入が急減した。一方、ChatGPT経由のアクセスは増加が続いた。

研究者が公開したサーバーログによれば、直近30日間のボットによるアクセス要求は60万件超。このうち約7万2000件は「ChatGPT-User」によるものだった。これは、ChatGPTがユーザーの求めに応じてWebページを読み込む際に利用するツールだという。

サイト開設から7カ月で、被リンク元のドメイン数は330件を超えた。ShopifyやDHLなど著名企業のWebサイトも含まれていた。

問題は、こうした虚偽統計が実際の文書に引用されていた点だ。研究者によると、StateGlobeの数値は学術論文のほか、カタールの金融機関による投資調査や、インドの経済メディアの記事にも使われていた。

イェシルユルト氏は、虚偽情報が権威ある文書で繰り返し引用されることで、あたかも事実であるかのように受け取られる「引用洗浄」が起こり得ると警告している。

もっとも、ボットのアクセス回数は、そのまま実際の回答内での引用回数を示すものではない。今回の結果も研究者による自主実験に基づくデータであり、ChatGPTの回答全体の正確性を測定したものではないとしている。

現在、研究者は同サイトに「虚偽データである」との注意書きを掲載している。併せて、AIが提示した統計であっても、執筆者や研究者は必ず一次ソースを確認すべきだと呼びかけている。