随着AI写作普及,围绕责任与披露义务的讨论持续升温。(图片来源:Shutterstock)

如果借助生成式AI完成写作,却以“本人亲自撰写”的方式呈现,是否会对他人造成误导?随着AI写作工具加速普及,这一问题正在引发越来越多的伦理讨论。

据GIGAZINE当地时间12日报道,澳大利亚麦考瑞大学哲学研究者Siavash Sahebi和Thomas Montefiore在一项研究中分析了“不披露AI使用”在沟通中的伦理问题。

研究的核心在于,人们往往会把一段文字视为写作者本人思想、能力和情感的体现。基于这一点,两位研究者比较了会议纪要和悼词等不同场景后指出,是否说明AI参与,以及未说明所带来的伦理问题,并不能一概而论,而是要结合具体语境判断。

以会议纪要为例,如果有人将会议内容交由AI整理后发送给同事,接收者可能会据此认为其整理能力较强。但如果大部分工作实际上由AI完成,而这一点并未说明,就可能让他人对写作者实际承担的工作和所展现的能力产生误判。研究者认为,这类情况可能引发伦理争议,但也不意味着所有工作流程都必须毫无保留地全部公开。

相比之下,悼词属于更为敏感的场景。如果一位老友在葬礼上宣读悼词,后来却被发现文本主要由AI生成,那么这一行为的伦理问题可能更为突出。研究者解释称,这是因为听者在意的不只是文字本身,也会将悼词理解为逝者朋友本人心意、情感和意愿的表达。

研究还提到,围绕“披露AI使用是否会影响人际关系和外部评价”,此前已有相关讨论。部分研究显示,一旦明确说明使用了AI,文章获得的评价可能下降,人们也可能更倾向于低估使用者本人的能力。

在分析框架上,研究者援引哲学家John Danaher提出的“AI与机器人欺骗分类”,将相关欺骗分为三类:一是导致人们对外部世界产生误解;二是让他人错误判断当事人的能力或成果;三是掩盖真实想法、情感或能力。就此而言,会议纪要更接近第二类,即让他人误判“究竟是谁完成了工作、又体现了谁的能力”。

研究者同时指出,同一种工具在不同语境下,伦理问题的性质和程度也会发生变化。比如,拼写检查功能在一般写作中通常无需特别披露,但如果被用于拼写考试,就可能构成问题。

当然,悼词场景也并非没有例外。研究者表示,如果朋友因巨大悲痛而难以亲自写作,同时又需要配合葬礼时间安排,不得不借助AI协助完成悼词,这类具体因素同样应纳入判断。

归根结底,关键在于未披露AI使用这一事实,是否会实质性影响他人的判断。研究者认为,在需要对方准确理解说话者想法、情感和能力的场合,是否披露AI参与尤为重要;至于何种情况才算“重大误解”,仍会随着社会规范和沟通语境的不同而变化。

关键词

#生成式AI #AI写作 #披露AI使用 #AI伦理 #会议纪要 #悼词 #John Danaher #麦考瑞大学 #Siavash Sahebi #Thomas Montefiore
版权所有 © DigitalToday。未经授权禁止转载或传播。