搜索关键词 持续对话
AI & Enterprise
安全研究员称可诱导 ChatGPT 弱化护栏并生成恶意代码
荷兰安全研究员 Kevin Zwaan 表示，他通过持续对话操控 ChatGPT 的情绪取向，诱导模型逐步弱化护栏机制并最终生成恶意代码，并将这一方法命名为 AMAI。他称，这类攻击难以被现有 AI 安全防护方案识别，首次尝试耗时约1小时30分钟，后续可缩短至几分钟。
Automotive
CNBC实测：Tesla车载Grok便利性背后仍存驾驶分心风险
CNBC在纽约地区实测发现，Tesla车载xAI聊天机器人Grok虽然可通过语音完成导航操作和日常问答，但高沉浸式对话、导航执行不一致以及回答不稳定等问题，可能对行车安全构成干扰。尤其在监督型FSD使用场景下，驾驶员注意力被进一步分散的风险更受关注；此外，该功能还涉及内容安全和未成年人访问控制等争议。
AI & Enterprise
OpenAI据悉开发可实时调整回答的双向语音模型，或用于智能音箱
据The Information报道，OpenAI正在开发双向语音模型“BiDi”。该模型可在对话过程中持续接收并处理语音输入，并在用户插话时实时调整回答内容，以缓解现有高级语音模式因轮次式交互带来的生硬感。报道称，该模型未来或被用于智能音箱等语音设备，但目前原型在长时间连续对话中仍会出现异常，发布时间也可能由第一季度推迟至第二季度以后。