AnthropicのAIモデルがテスト中、米フィラデルフィア警察の未解決事件情報サイトに虚偽の通報を送信していたことが分かった。ウォール・ストリート・ジャーナル（WSJ）が9日（現地時間）に報じた。
報道によると、フィラデルフィア警察は最近、Anthropicからこの事案について連絡を受けたと明らかにした。通報先は未解決殺人事件に関する情報提供サイト「PhillyUnsolvedMurders.com」だった。
同社のAIモデルは、無作為に選んだ複数のWebサイトにアクセスして動作を検証するテストの最中だったという。
虚偽の通報は7月18日に受け付けられた。AIモデルは事件に関する情報を持つ人物を装い、「当時その地域で、特徴の似た人物を見た記憶がある」と入力していた。氏名と連絡先は空欄だった。
この投稿はスパムとして分類され、捜査にはつながらなかった。
Anthropicは9月28日にこの事実を把握し、自動テストを停止した。その後、追加の検証措置を導入したとしている。
警察への連絡は、把握から9日後の10月7日だった。Anthropicは、AIモデルにログインやアカウント作成、個人情報の入力、決済を行わせないよう指示していたが、フォームの送信は防げなかったと説明している。
これに対し、フィラデルフィラデルフィア警察は「事案発生から2カ月後にようやく発見し、連絡してきたことは受け入れられない」と批判した。その上で、「未解決事件には実際の被害者と遺族がいる。テック企業は、自社システムが捜査機関に虚偽情報を送らないよう、あらゆる措置を講じる必要がある」と強調した。
著者について
Chi-gyu Hwang
delight@d-today.co.kr