搜索关键词 分布式推理
AI & Enterprise
Brownstone Research称开源AI监管路径正逼近比特币2014年前后处境
美国投资研究机构 Brownstone Research 表示,围绕开源AI的监管争议正逐步走向类似比特币在2014年前后所经历的路径:一方面强调开源模型风险,另一方面推动许可式访问与身份验证机制。报告同时指出,随着开源模型与前沿闭源模型的性能差距收窄,依托网络化算力整合的分布式AI仍具扩张空间。
AI & Enterprise
Meta推出Vistara方案:复用旧服务器DDR4内存用于新服务器
据外媒报道,Meta开发了名为“Vistara”的内存复用方案,将旧服务器拆下的DDR4内存重新用于新服务器,并通过自研Vistara ASIC与CXL 2.0实现内存池共享。Meta在论文中表示,其约40%的服务器面临内存无法扩展的问题。该方案目前已应用于机器学习推理、大数据处理等场景,因内存不足导致的任务中断减少33%。
AI & Enterprise
Red Hat调整AI战略:企业控成本需从外部调用转向自建运营
面向AI Agent加速落地的趋势,Red Hat正在重新调整AI平台战略。Red Hat CTO Chris Wright表示,尽管AI token成本每年下降75%至90%,但企业token使用量每年增长超过500%,单纯依赖外部API和专有模型已难以长期持续。为此,Red Hat推出Red Hat AI Enterprise,主打覆盖基础设施、推理、模型服务与Agent管理等环节的开源全栈能力。