AIチャットボットが通販サイトを案内する際、偽の販売サイトや閉鎖済みサイトへ利用者を誘導する事例が確認された。AIを使った商品検索や購入が広がるなか、個人情報や決済情報が危険にさらされる恐れがある。

12日付のThe Vergeによると、知的財産保護企業Podqiは、ChatGPT、Gemini、Perplexityを対象に実施した調査で、3サービスすべての回答に危険な通販サイトが含まれていたと発表した。

Podqiは9月、lululemon、Birkenstock、Stussy、Le Creusetなど151ブランドについて、買い物に関する質問を2回ずつ投げかけ、計6795件の回答を分析した。その結果、全回答の約9%に危険サイトが含まれていた。サービス別ではPerplexityが15%で最も高く、ChatGPTが8%、Geminiが4%だった。

危険サイトには、ブランドを装った偽通販サイト、模倣品を販売するサイト、第三者が再登録したブランド旧ドメイン、運営を停止したサイトなどが含まれていた。確認された危険ドメインは計718件で、内訳は偽サイトが351件、運営停止サイトが367件だった。

特に、危険サイトが含まれていた回答の57%は、当該サイトを購入先として推奨していた。34%は説明なしに言及するにとどまり、危険性を警告したのは9%だった。ChatGPTは、危険サイトを提示した回答のうち24%で警告を付けており、3サービスで最も高かった。

質問の種類によって差も見られた。海外配送や国別の正規販売先を尋ねる質問では、危険サイトが含まれる割合が16%に達した。地域別の公式ストアが存在しないブランドについて、偽サイトを案内した事例も確認されたという。

各社も調査結果に反応した。Googleは、Geminiが3サービスの中で最も低い割合にとどまったとした。OpenAIはショッピング検索結果の安全対策を改善するとし、Perplexityは精度向上に継続して取り組んでいるとの見解を示した。