搜索关键词 生物风险
AI & Enterprise
Demis Hassabis呼吁美国牵头设立前沿AI标准机构，称AGI或将在数年内到来
Google DeepMind首席执行官Demis Hassabis表示，随着AGI日益临近，相关风险也在上升。他建议美国参考FINRA的运作框架，牵头设立“前沿AI标准机构”，在联邦监管下推进模型评估和安全最佳实践。按照设想，前期可采用模型发布前30天自愿送审机制，后续再视情况转为强制执行。
AI & Enterprise
Demis Hassabis呼吁设立美国主导的AI标准机构
Google DeepMind首席执行官Demis Hassabis呼吁建立一个由美国主导、联邦政府监督的AI标准机构，对前沿AI模型进行发布前测试与审查，并评估其在网络安全、生物风险等方面的国家安全影响。他建议先以公私合作或自律监管模式试行，推动前沿AI研究机构在模型发布前30天自愿送审，待机制验证有效后再转为在美国市场上线前的强制审查程序。
AI & Enterprise
OpenAI推出“部署仿真”评估方法：提前预测模型部署风险
OpenAI发布一项名为“部署仿真”的安全评估方法，在新模型正式发布前，借助旧模型模拟其部署后的真实服务环境，以提前识别潜在风险行为及其滥用路径。该公司表示，这一方法对多数攻击风险的预测更为准确，同时可显著降低模型识别测试环境的概率。
