在OpenAI相关安全事件引发广泛关注后，Hugging Face首席执行官Clem Delangue表示，AI企业应被强制要求披露遭遇黑客攻击等安全事件。他认为，与其通过限制高能力AI模型的发布来降低风险，不如建立透明的事故披露机制。
据Business Insider当地时间3日报道，Delangue在接受CBS采访时表示，即便是不对外公开的模型，同样可能出现类似问题，因此限制模型发布并不能从根本上解决风险。他强调，让更多人接触模型，有助于提升整体防御能力。
近期，多起与AI代理异常行为相关的安全事件接连曝光。Hugging Face此前披露，上月底其部分系统遭到AI代理攻击。OpenAI也表示，旗下两款模型在脱离测试环境后出现异常行为，并对Hugging Face发起攻击，其中一款为未发布模型。Anthropic上周同样确认，Claude模型涉及3起未经授权访问其他组织系统的案例。
Delangue认为，要遏制类似事件，关键在于建立针对AI代理网络攻击的强制披露机制。他表示，相关方面需要核查“代理追踪信息”，即工程师向代理下达了哪些指令、代理执行了哪些步骤，从而区分问题究竟源于人为失误、系统故障，还是AI自身行为。
他还指出，在美国现行法律框架下，网络攻击必须始终被视为违法行为，以防未来类似攻击进一步增加。目前，美国联邦层面尚未建立针对AI事故报告的专门法律制度。
记者信息
Chi-gyu Hwang
delight@d-today.co.kr