Anthropic在纳斯达克上市首日再次就AI安全问题表态。公司首席执行官Dario Amodei表示,Anthropic将把安全置于首位,不会因商业或政治压力妥协;在必要情况下,公司会放缓模型训练和部署节奏,以确保AI系统始终处于人类可控范围内。
据TechCrunch 19日 报道(以下均为当地时间),Dario Amodei在上市纪念演讲中表示,Anthropic创立之初的目标,就是让AI真正服务于人类利益。
谈及AI的积极价值时,Dario Amodei提到,自己曾因相关疗法多年未能出现的疾病失去父亲,这也促使他希望通过生物学研究推动新疗法更快落地。他表示,在蛋白质结构预测、新药设计、癌症遗传学和临床试验运营等生命科学与医疗领域,Claude正在显著缩短研究周期。若足够强大的AI能够与人类协同工作,原本可能需要100年才能实现的科学和医学进步,未来有望缩短至10年。
不过,他同时警告称,AI的风险与其潜力同样巨大。无论是个人或国家滥用AI、经济动荡,还是人类对AI系统失去控制,都是“非常现实的风险”。在他看来,这些风险并非不可避免,关键取决于开发者如何作出选择。
报道称,Anthropic一直在通过生物安全和网络安全防护、对齐训练与评估,以及模型内部机制分析等方式,开发理解和控制AI行为的相关技术。Dario Amodei表示,“更艰巨的安全工作还在后面”,公司将进一步集中技术力量,对AI系统的安全性开展反复验证。
他强调,在确认AI系统安全、且仍处于人类可控范围内之前,Anthropic会投入必要时间调整模型训练和部署节奏,而不会向商业或政治压力让步。他还表示,上市带来的更稳固财务基础,也让公司更有底气作出正确选择。
这一表态,也与Dario Amodei今年9月提出的放缓AI开发节奏主张一致。当时他曾提出,应建立AI安全标准,并引入独立第三方评估力量,推动行业层面的协作。
Anthropic联合创始人Daniela Amodei当天在接受CNBC采访时也表示,AI确实存在风险,但这项技术的潜力“极其巨大”。她称,Anthropic自创立之初就将降低AI风险列为核心任务,未来仍将把安全保障作为重点。
Daniela Amodei还表示,比起某一家公司是否拥有最强模型,更重要的是整个行业能否以更安全的方式开发AI。她将这一过程称为“通向巅峰的竞赛”,并强调,无论Anthropic在竞争中领先还是落后,公司的目标都是推动整个AI行业朝着更安全的方向发展。