ソーシャルメディア利用者の多くが、AIボットによる投稿と人間の投稿を正確に見分けられていないことが分かった。Surfsharkがマルメ大学の修士課程の学生と実施した実験では、参加者710人のうち47%が、ボットを人間より正確に判別する基準に届かなかった。

米TechRadarが25日（現地時間）に報じた。実験は「Bot or Not」と題した時間制のシミュレーションで、参加者はコンテンツモデレーターとして、4つのテーマに関するコメントの中から120秒以内にボットが書いた10件を見つけ出す課題に取り組んだ。

このツールは、ミラノ・デザイン・ウィークの「UNFOLD」展示に向けて、マルメ大学のインタラクションデザイン修士課程の学生が制作した。

テーマ別では、感情的な対立が比較的少ないデータセンターに関する投稿で成績が最も高かった。ボット検出率は71%、正確度は76%だった。パイナップルピザを巡る議論でも、検出率64%、正確度69%と比較的高い水準を維持した。

一方で、感情や政治的対立が絡みやすいテーマでは成績が落ちた。移民問題では検出率54%、正確度63%に低下。女性の権利を巡るテーマでは検出率49%、正確度61%まで下がり、人間の投稿をボットと誤判定するケースも増えた。

年代別の差も確認された。20歳以下の参加者はボットの約65%を見つけ、正確度も71%超と最も高い成績を示した。この傾向は20代、30代でも続いた。

これに対し、41～50歳では検出率が42%、正確度が59%まで大きく低下した。50歳以上はこれをやや上回ったものの、高い水準には届かなかった。

Surfsharkの研究責任者ルイス・コスタ氏は、今回の結果について、従来の読解力やメディアリテラシーだけでは説明しきれないとの見方を示した。論争が激しくなるほど、感情が疑わしいコンテンツを見抜く判断を鈍らせる可能性があるという。

同氏は、自動化された欺瞞に対抗するには、精緻な文章分析だけでなく、冷静さを保つ姿勢と、自身の脆弱性への認識が重要だと説明した。

ボットの影響はすでに拡大している。業界推計によると、選挙期間中のXにおける政治的言説の約23%は、ボットによる拡散の影響を受けているという。Surfsharkの過去の調査では、主要プラットフォームが毎年63億件超の偽アカウントを削除していることも分かっている。

「Bot or Not」は現在、Webブラウザから誰でも利用できる。参加者は自分のスコアを、これまでの参加者710人の結果と比較できる。