搜索关键词 JailbreakBench AI & Enterprise 研究称:让大模型扮演“专家”未必更准,编程和数学任务表现反而下滑 南加州大学(USC)研究团队对6款AI模型测试“专家角色”提示词后发现,“你是某领域专家”等设定并不会稳定提升回答质量,反而可能拖累编程、数学及部分知识类任务表现。研究认为,模型可能将计算资源用于遵循角色设定,而非调用事实信息;不过在JailbreakBench测试中,这类提示词对拦截不当内容的表现有所改善。
AI & Enterprise 研究称:让大模型扮演“专家”未必更准,编程和数学任务表现反而下滑 南加州大学(USC)研究团队对6款AI模型测试“专家角色”提示词后发现,“你是某领域专家”等设定并不会稳定提升回答质量,反而可能拖累编程、数学及部分知识类任务表现。研究认为,模型可能将计算资源用于遵循角色设定,而非调用事实信息;不过在JailbreakBench测试中,这类提示词对拦截不当内容的表现有所改善。
文章搜索 搜索 AI 编辑精选 热门 1 9月会晤前夕中美科技摩擦升级 波及AI模型、机器人与无人机等领域 2 Tesla上海工厂6月产量创新高 在华销量连续一年走弱 3 中国机器人独角兽AI² Robotics筹划赴港上市,估值近30亿美元 4 IDC:2025年中国外骨骼机器人出货量约2.6万台,市场规模突破16亿元 5 日本推进无人机国产化:到2030年目标年产8万架,降低对华依赖 6 美国拟收紧中国光收发器在AI数据中心的应用限制 7 ISO批准中国主导BaaS国际标准立项 多国参与制定 8 亚马逊旗下Zoox将于8月10日在拉斯维加斯启动Robotaxi收费运营 9 Google调整AI核心人事:Demis Hassabis转任Alphabet首席科学家,Jeff Dean卸任并启动新项目 10 OpenAI:AI模型活跃用户突破10亿,企业客户超200万家 1 韩国最高法院终审维持二审判决:Ironmace因侵犯商业秘密赔偿Nexon约57.65亿韩元 2 SOOP一季度营收1060亿韩元,营业利润同比降24.1% 3 Samsung Electronics 推出 Samsung Wallet 旅行服务 Trips,整合登机牌、酒店和门票信息 4 Microsoft发布面向法律文档处理的Word AI代理“Legal Agent” 5 Samsung Electro-Mechanics一季度营业利润增40%,单季营收首次突破3万亿韩元 6 韩国邮政客户中心累计接听来电突破2亿通 7 Charles Hoskinson:ADA账面亏损超75%,仍将长期持有并持续投入 8 美国财政部查扣涉伊朗约5亿美元加密资产 9 KB Kookmin Bank接入居家长期照护机构ERP,加码嵌入式金融布局 10 韩国公平交易委员会要求Coupang、Naver等7家开放平台整改不公平条款,叫停个人信息泄露免责条款