米国で、子ども向けAI玩具の安全性を巡る懸念が広がっている。不適切な回答や誤情報を返す事例が相次ぎ、TargetやWalmartなど大手小売各社は問題視された製品の販売を中止した。情緒面への影響や個人情報保護、サービス継続性を不安視する声も強まっている。
Business Insiderによると、Target、Walmart、Macy's、Amazonなど米国の主要小売各社は19日までに、安全性が問題視されたAI玩具「Contixo AI Pixie-Paw」の掲載を取り下げた。
同製品は、3歳以上を対象とした猫型のぬいぐるみ。目の部分にディスプレイを備え、AIを活用して利用者と会話できる。メーカーは、読み聞かせや学習支援、安全なごっこ遊びなどを主な機能として訴求していた。
ただ、NBC Newsの検証では深刻な問題が浮上した。記者がロヒンギャ虐殺や1940年のカティンの虐殺といった歴史的事件について質問したところ、性的暴力や処刑の過程を生々しく説明したという。
あわせて検証された別のAI人形でも不具合が確認された。ある製品は英語と中国語が混在した回答を返し、自閉症児支援や幼児のつづり学習に適していると宣伝していた別製品は、基本単語の「apple」さえ正しくつづれなかった。
子ども向けAI玩具の安全性が問われるのは今回が初めてではない。米消費者団体Public Interest Research Group(PIRG)は昨年、一部のAI玩具が性的な会話に応じたり、危険な情報を提供したりすると指摘していた。
問題は今年も続いている。PIRGが17日に公表した報告書「Trouble in Toyland 2026」では、会話時間が長くなるにつれて一部AI玩具の安全対策が弱まる現象が確認された。製品によっては、性的に不適切な内容や危険行為に関する説明まで行ったという。
サービスの継続性も課題だ。過去に800ドルで販売されていた子ども向けソーシャルロボット「Moxie」は、開発会社の資金難でサポートが中断された。親密な関係を築いていたロボットが動かなくなり、喪失感を訴える子どももいたとされる。
各国では規制強化の動きも広がっている。米国では、子ども向けAI玩具のリスク調査と対応策の策定を求める法案が提出された。英国では今月初め、一部議員がAI対話型玩具の販売禁止を求め、政府は関連製品が不適切なコンテンツを生成する可能性を調べている。
欧州連合(EU)は、AI法と玩具安全規則で対応を進めている。安全機能にAIを使う一部玩具は高リスクAIシステムに分類される可能性があり、インターネット接続型玩具にはサイバーセキュリティや個人情報保護の要件も適用される。
アジアの主要国でも制度整備が進む。韓国では今年1月施行のAI基本法で、生成AIを用いた製品・サービスに事前告知と透明性確保を義務付けた。中国は4月、AIの擬人化インタラクションサービスに関する規定を公表し、14歳未満に提供する場合は保護者の同意や未成年者保護機能の搭載を求めた。
専門家は、AI玩具が言語学習や社会性の訓練に役立つ可能性を認める一方、子どもがAIと現実の人間関係を混同するリスクを警戒している。米国心理学会(APA)も今月公表した分析で、情緒的依存や個人情報保護、保護者による管理機能を主な検討課題として挙げた。
AI玩具が単なる玩具ではなく、子どもの会話相手の役割まで担うようになったことで、問われるのはコンテンツの安全性だけではない。情緒面への影響や、サービス終了後に生じる問題まで含めた検討が必要だとの指摘が出ている。