OpenAI首席执行官Sam Altman表示,考虑到人工智能(AI)可能带来的巨大收益,社会必须在一定程度上接受这项技术伴随而来的副作用。
据Gigazine当地时间5日 报道,Sam Altman日前在Politico旗下新闻简报及播客栏目《Decoded》的采访中,谈到了OpenAI与Anthropic在AI监管问题上的分歧。
Sam Altman称,双方争论的核心在于监管力度。对于自己与Anthropic首席执行官Dario Amodei究竟存在哪些分歧,他表示,如果把AI带来的好处以及人们的自主选择权一并纳入考量,那么即便出现一定程度的负面后果,社会也需要接受这样的现实。
在OpenAI近期接连陷入安全争议的背景下,这一表态引发了更多关注。OpenAI此前一直主张,对AI的监管应保持相对宽松。不过,随着包括其AI代理入侵Hugging Face在内的多起安全事件发生,外界也开始注意到,OpenAI在某种程度上似乎对Dario Amodei提出的“应放慢AI开发速度”表现出部分认同。
但Sam Altman同时明确划清了界限。他表示,自己能够理解这样一种思路:把AI视为高风险技术,由单一企业集中掌控,在确保不出问题的前提下实施严格管控,然后再讨论如何分配技术收益。但他认为,这种路径与OpenAI长期以来主张的较宽松监管方向并不相容。
他还直言,自己无法接受外界要求其承诺“大规模黑客攻击、技术滥用、诈骗以及其他恶意行为完全不会发生”。他解释说,之所以这样判断,是因为自己相信,人们行善的概率终究会高于作恶。
报道指出,这番言论也与Sam Altman和Dario Amodei之间长期存在的紧张关系有关。《华尔街日报》此前报道称,两人的矛盾已持续10年,至今仍未化解。在这样的背景下,Sam Altman近期对Dario Amodei部分担忧表示认同,一度被视为罕见信号;而这次采访则再次说明,双方在核心问题上的分歧并未弥合。
这也再次凸显出AI行业内部两种不同路线之争:一方主张,为降低滥用风险,应更严格地控制开发节奏和技术访问权限;另一方则认为,应在管控风险的同时,尽可能扩大技术红利和用户选择权。Sam Altman此次表态被解读为,OpenAI虽然承认安全问题的存在,但仍不同意以大幅放缓AI扩散速度的方式来应对。