生成AIの普及を受け、教育現場やオンライン上の執筆の場でAI検知ツールの利用が広がっている。一方で、その判定は不透明で誤判定のリスクも指摘されており、人が書いた文章まで疑われる事態を招いている。米ITメディアThe Vergeが9日（現地時間）に報じた。

これまで教員や編集者は、剽窃の有無を確認する手段としてTurnitinなどの剽窃チェックツールを活用してきた。ウェブ上の文書や学術資料と照合し、既存文書との重複度を示す仕組みだ。

しかし、ChatGPTやGemini、Copilotなどの生成AIが急速に普及したことで、関心は「AIが書いた文章」の検出へと移っている。

米民主主義・技術センターの調査によると、2024～2025年には、米国の6～12学年の教員の43％がAI検知ツールを定期的に使用した。GPTZeroやPangram、TurnitinのAI検知機能は、表現やリズム、構成、文の長さ、トーンなどを分析し、人が書いた文章かAI生成かを推定する。

ただ、こうした判定は、既存の文書と直接照合する剽窃チェックに比べてはるかに不透明だ。とりわけ、英語を母語としない学生や、神経多様性のある書き手の文章がAI生成と誤認される懸念が指摘されている。

実際の不利益も生じている。出版社Minotaurは、作家ジェリー・ファラデがAIを使った疑いがあるとして、200万ドル規模の出版契約を取り消した。ジェリー・ファラデ本人はこれを否定している。

フランス国籍のティエリ・リニョルは、Yale大学の教授がGPTZeroの判定を根拠に、期末試験の一部をAIが作成したと認定し、落第と1年間の停学処分を科したとして提訴した。Adelphi大学の学生も、同様のAI利用疑惑を巡る訴訟で大学側に勝訴している。

スタンフォード大学の2023年の研究では、AI検知ツールが英語を母語としない学生の英語エッセーを、母語話者より高い頻度でAI生成と誤分類する傾向があると指摘した。UCLAも、反復表現や過度に形式的、あるいは逆にくだけすぎた文体、単調な文構造などがAIの特徴と見なされる可能性はあるものの、それだけでAI利用を意味するわけではないと説明している。

AI検知ツールを提供する企業側も限界を認めている。Turnitinは、自社ツールが常に正確とは限らず、学生の懲戒処分における唯一の根拠として使うべきではないとしている。GrammarlyやGPTZeroも、検知結果のみに依存すべきではないと警告している。

OpenAIは、精度の低さを理由に2023年、自社のAI文章検出ツールの提供を停止した。

こうした不確実性を受け、Yale大学やJohns Hopkins大学、Vanderbilt大学、Georgetown大学などでは、AI検知ツールの利用を停止または制限する動きが出ている。MITも、AI検知ツールは有効ではないとの立場を示したことがある。

その代わりに学校現場では、長文課題を複数段階に分けたり、学生に作業プロセスを説明させたり、教室内での評価を増やしたりするなど、授業設計の見直しが進んでいる。AI利用の有無を処罰の問題としてではなく、開示と振り返りの問題として扱うべきだとする考え方も広がっている。

オンラインプラットフォームでも疑念は強まっている。SubstackはPangramをアプリに統合し、LinkedInは「AIのゴミのように見える」という反応ボタンを導入した。

その結果、読者は文章を目にするたびに人が書いたものかどうかを疑い、実際の書き手はAIらしく見えないよう意識せざるを得なくなっている。AI検知ツールの普及は、文章そのものへの信頼を揺るがす皮肉な状況を生んでいる。