Rippleの名誉CTOを務めるデイビド・シュワーツ氏が、暗号資産詐欺対策としてAIで投稿を一律に遮断する手法に反対する考えを示した。詐欺投稿の自動排除は表現の自由を損なう恐れがあるうえ、新たな脅威の発見や共有を通じて機能してきたコミュニティの自衛力を弱めかねないという。

ブロックチェーンメディアのU.Todayによると、シュワーツ氏は25日、X上で続くXRP関連詐欺への対応を巡る議論に参加し、強力な自動フィルタリングには限界があると指摘した。

議論の発端となったのは、利用者のフィードにXRP詐欺の広告や投稿が表示されないよう、プラットフォーム側により強いフィルター導入を求める声だ。とりわけ「2対1でXRPを付与する」とうたう偽イベント型の詐欺が繰り返し出回っており、遮断強化を求める意見が強まっている。

これに対しシュワーツ氏は、詐欺コンテンツを一括で非表示にする方法が、サイバーセキュリティの観点から常に有効とは限らないと主張した。専門家や利用者が詐欺の手口を直接確認できなくなれば、新たな脅威を早期に把握し、他の利用者に警告することが難しくなる可能性があるためだ。

同氏は、詐欺投稿の抑止とリスク情報の共有は両立させるべきだと訴えた。自身がこれまでフィッシング攻撃を発見し、暗号資産コミュニティに警告してきた例を挙げたうえで、自発的な監視と情報共有がセキュリティ上の重要な役割を担っていると強調した。

また、危険要素を完全に排したオンライン空間を目指す発想にも懸念を示した。そうしたアプローチは表現の自由を損ない、インターネットコミュニティの集団的な防衛機能を弱める恐れがあると指摘。詐欺コンテンツへの接触を減らすことだけを重視すれば、利用者自身の脅威を見抜く力や対処能力まで低下しかねないとした。

この問題意識は、米ロードアイランド州がMeta Platformsを提訴した件を巡る議論とも重なる。同訴訟では、Metaが社内のAIツールで最適化した詐欺広告から収益を得ていたのか、またプラットフォームが詐欺行為にどこまで責任を負うべきかが争点として浮上している。

シュワーツ氏は、詐欺の可能性だけを理由にAIが投稿を自動削除する手法にも批判的だ。そうした考え方を「行き詰まった発想だ」とし、欺瞞の恐れを基準に広範なコンテンツを削除すれば、合法的な投稿まで排除されかねないと警告した。米国憲法修正第1条で保護される表現まで、自動フィルタリングの対象になる恐れがあるとの見方も示した。

プラットフォームの法的責任の範囲についても、同氏は慎重な判断を求めた。IT大手に犯罪行為の責任を負わせる発想について、飲食店がテロリストに食事を提供したことを理由に責任を問われるようなものだと例示。責任は、犯罪を直接実行した当事者や、その手口を設計した当事者に問うべきだとの考えを示した。

今回の論争は、暗号資産業界の詐欺対策にとどまらず、AIを使ったコンテンツ管理とプラットフォーム責任の線引きにも論点を広げている。規制当局がより強力な詐欺対策を求める一方で、業界内では自動フィルタリングだけでは新たな脅威に十分対応できないとの指摘も出ている。

焦点となるのは、詐欺コンテンツを減らしながら、利用者の表現の自由と情報共有の機能をどう維持するかだ。シュワーツ氏の発言は、AIによる自動遮断とコミュニティ主導の監視体制の間で、現実的な均衡点を探る必要性を改めて示した。