Anthropic CEO Dario Amodei于当地时间10日表示，随着AI风险加速显现，监管思路不能继续停留在信息披露层面，而应转向具有强制力的约束机制。
Amodei在公开文章《指数曲线与AI政策（Policy on the AI Exponential）》中指出，AI风险正越来越多地从潜在问题演变为现实挑战。尽管Anthropic此前支持美国加利福尼亚州、纽约州和伊利诺伊州推动的信息披露类立法，但在当前阶段，仅靠这类措施已不足以应对前沿AI带来的风险。
他提出，可参照美国联邦航空管理局（FAA）的监管模式，对达到一定算力门槛训练的前沿AI模型实施强制性的第三方风险评估，重点覆盖网络安全、生物武器、AI失控以及自动化研发加速等四类风险。Amodei认为，政府应有权依据评估结果限制或叫停相关模型的部署。
与此同时，Anthropic还公布了有关前沿模型测试的立法提案，以及针对岗位替代问题的政策框架。
在Amodei看来，AI将给商业世界带来比互联网和移动互联网更深层次的变革。但就现阶段而言，更合适的监管强度，应参照汽车、飞机、药品等“在设计或运行失当时可能造成大规模损害”的技术领域。他还表示，随着更强AI系统不断出现，未来监管力度甚至可能需要接近核材料级别。
他还以《指环王》中的树须（Treebeard）作比，形容AI发展速度与政策制定节奏之间的巨大落差：一边是技术快速演进，另一边是政策机构反应迟缓。Amodei强调，“树须和他的森林正在苏醒”，当前正是政策行动的关键窗口期。
记者信息
Seulgi Son
sageson@d-today.co.kr