SpaceX在S-1文件中将Grok的NSFW功能相关风险列为风险因素之一。图片来源:Shutterstock

SpaceX在推进上市准备过程中,首次在公开文件中将xAI聊天机器人Grok的NSFW(Not Safe For Work)功能列为业务风险因素。NSFW通常指不适合在工作场景浏览的内容,多用于标识成人或刺激性图片、视频等内容。此次在上市文件中作出提示,意味着公司已正面披露生成式AI在成人内容及敏感内容生成方面可能带来的声誉和监管风险。

据Business Insider当地时间20日报道,SpaceX在提交给美国证券交易委员会(SEC)的S-1上市草案中表示,Grok的NSFW功能可能使公司面临更高风险,并对公司声誉造成冲击。

这份披露内容发布之际,距离SpaceX收购xAI约三个月。完成收购后,xAI的生成式AI业务、社交媒体平台及面向消费者的聊天机器人服务,已被整合进SpaceX整体业务体系。

在风险因素部分,SpaceX特别提到,Grok的NSFW模式较现有AI服务“更具冒犯性、表达也更粗俗”。

文件显示,Grok可能生成露骨内容,并涉及非自愿裸露图像、剥削性图像以及侵犯知识产权的内容。SpaceX警告称,这类输出可能被认定带有骚扰、歧视或虐待性质,从而引发社会争议,并进一步加大监管压力。

与此同时,公司也披露,相关法律风险已开始显现。SpaceX表示,其AI产品因被质疑用于生成非自愿裸露图像,或生成以性语境描绘未成年人的内容,目前在美国正接受调查和问询。

此外,SpaceX及部分子公司还因Grok的图像生成和编辑功能,在多起诉讼中被列为被告。SpaceX表示,将积极应对相关案件。

围绕Grok的争议自今年初以来持续升温。今年1月,xAI因被指生成涉及女性和未成年人的非自愿AI图像而遭到批评,随后招致政界人士和民间团体公开施压,并触发政策调整和法律行动。争议发生后,xAI已将Grok的图像生成功能限制为仅向付费用户开放。

欧洲监管机构也已跟进。SpaceX表示,爱尔兰数据保护委员会(DPC)正在就X平台内Grok的生成式AI功能展开调查,调查内容包括欧盟用户数据处理以及儿童个人信息使用等问题。

美国联邦贸易委员会(FTC)也在调查AI公司如何验证面向儿童和青少年的聊天机器人是否安全。xAI的AI陪伴服务中,还包括基于动画角色的聊天机器人Annie。

不过,在提示相关风险的同时,SpaceX仍强调Grok的技术竞争力。公司将其与OpenAI、Anthropic、Google等主要AI企业的产品进行比较,并称Grok是“发展最快的前沿模型之一”。

市场人士认为,这次披露表明,SpaceX在加快扩张AI业务的同时,已首次在上市文件中更具体地呈现由此带来的监管和声誉风险。尤其是在多家AI公司对成人向生成式AI功能保持谨慎态度的背景下,SpaceX与xAI被认为采取了更开放、也更激进的策略。

业内普遍预计,若生成式AI监管进一步收紧,NSFW功能以及非自愿裸露图像生成问题,可能成为AI企业面临的核心风险点之一。

关键词

#SpaceX #xAI #Grok #NSFW #SEC #S-1 #生成式AI #合规风险 #非自愿裸露图像 #爱尔兰DPC
版权所有 © DigitalToday。未经授权禁止转载或传播。