Naverは4月23日、悪質コメントが一定基準を超えた記事を対象に、コメント欄を自動的に停止する仕組みを導入したと発表した。
対象は政治・選挙カテゴリを含む全カテゴリの記事。AIベースの検知システム「Cleanbot」が悪質コメントを判定し、基準を超えた場合はコメント欄の提供を止める。対象記事には「Cleanbotが悪質コメントを多数検知したため、コメントサービスを提供しません」との案内文に加え、「Green Internet」キャンペーンのバナーを表示する。
Cleanbotは2019年に導入された。暴言、扇情的表現、暴力的表現、ヘイト表現、蔑視・差別表現などを検知する。Naverは今月末にも、AI Cleanbotモデルの高度化を実施する予定だ。
Naverのキム・スヒャン氏は「先月、政治・選挙カテゴリで本文下部のコメント提供を停止した。Cleanbotの高度化を通じ、コメント欄が健全なコミュニケーションの場として機能するよう取り組んでいる」とした上で、「変化の速い悪質コメント表現にも対応できるよう、サービスを継続的に発展させていく」と述べた。
一方、Naverは2月、災害・事故や訃報に関する記事で二次被害を防ぐため、「追悼コメント」を導入した。
これまでに23のメディアが参加しており、利用者はボタンを押すことで「謹んで故人のご冥福をお祈りします」との文言を投稿できる。今月時点では、追悼コメントが最も多く寄せられた記事の閲覧数に対するコメント作成比率が、同じメディアの他記事に比べて約6倍となった。
著者について
Ho-jeong Lee
lhj@d-today.co.kr