生成AIで作成した文章を自分で書いたものとして示す行為は、状況によっては相手に誤解を与え、倫理的な問題を生む可能性がある――。米Gizmodoは12日、オーストラリアのMacquarie Universityの研究者による見解を紹介し、AI利用を明かさないことの是非は文脈によって変わると報じた。

同大学で哲学を研究するシアボシ・サヘビ氏とトーマス・モンテピオレ氏は、AI利用を伏せたコミュニケーションがどのような倫理的問題を生むのかを検討した。焦点となるのは、受け手がその文章を誰の考え、能力、感情に基づくものとして受け取るかという点だ。

研究者は、会議内容の要約と弔辞を例に挙げ、AI利用を開示しないことの倫理上の重みは一律ではないとみている。

例えば、会議の内容をAIで整理して同僚に共有した場合、受け手は作成者本人の要約力を高く評価するかもしれない。だが、実際には作業の大半をAIが担っていたのであれば、利用を明かさないことは、作成者の役割や能力について誤解を与える可能性があるという。一方で研究者は、こうしたケースに倫理的な問題が生じ得るとしても、あらゆる作業工程を常に開示すべきだとまでは言えないとしている。

これに対し、弔辞はより慎重な判断を要する例だ。長年の友人が故人をしのぶ弔辞を読み上げ、後になってその文章がAIで作成されたものだと判明した場合、倫理的な問題ははるかに大きくなり得る。受け手は文面そのものだけでなく、その言葉が友人自身の気持ちや願いを表したものだと受け止めるためだという。

こうした議論の背景には、AI利用の開示が人間関係や評価に影響を及ぼすとする既存研究がある。AIを使ったと明かした文章は評価が下がりやすく、AIを活用した人の能力も低く見積もられる傾向が、これまでの研究で示されているという。

研究者はまた、哲学者ジョン・ダナハー氏の「AIとロボットによる欺瞞の分類」を引用し、AIを巡る欺瞞を3つに整理した。外部世界について誤った認識を生じさせるもの、自分の能力や成果を誤認させるもの、そして実際の考えや感情、能力を隠すものだ。会議メモの例は、このうち自らの作業や能力発揮について相手に誤解を与えるケースに近いとしている。

同じツールでも、問題の大きさは使われる文脈によって変わる。例えば、スペルチェック機能は通常の文章作成で使っても大きな問題になりにくいが、スペリングテストで使えば不適切とみなされる。

もっとも、弔辞のケースにも例外はあり得る。深い喪失感のため友人が自力で文章を書けず、葬儀の日程に間に合わせるためにAIの助けが必要だった場合は、事情を考慮すべきだとしている。

最終的な論点は、AI利用を隠すことが受け手の判断にどの程度重要な影響を及ぼすかにある。研究者は、相手が話し手の考えや感情、能力を正確に理解する必要がある場面では、AIを使ったかどうかを明かすことが重要だと指摘した。その上で、何を「重大な誤解」とみなすかは、社会規範やコミュニケーションの文脈によって変わり得ると付け加えた。