搜索关键词 本地离线运行
AI & Enterprise
Off Grid上线：支持手机离线运行LLM和图像生成模型
免费应用Off Grid已上线，支持用户在iOS和Android设备上下载大语言模型和图像生成模型，并在手机端离线运行。该应用集成文本生成、图像生成、图像识别及工具调用等功能，主打隐私保护，并降低对网络连接的依赖，但在存储空间和设备性能方面仍存在一定限制。
AI & Enterprise
以色列终端安全初创公司Bold获4000万美元融资，主打端侧AI代理
以色列终端安全初创公司Bold获得4000万美元融资。其核心产品是一款部署在企业终端本地的AI代理，可本地实时监测应用与数据使用行为，在发现异常时提示拦截、解释风险并提供应对建议，同时支持小模型运行，无需依赖高性能AI芯片。
AI & Enterprise
Cohere推出多语言模型Tiny Aya：支持70多种语言，可本地离线运行
企业级AI公司Cohere推出多语言模型Tiny Aya，支持70多种语言，可在无网络环境下于笔记本等终端本地运行。该模型参数规模为33.5亿，同时提供面向不同语种场景的多个区域版本。Cohere表示，Tiny Aya在由64块NVIDIA H100 GPU组成的集群上完成训练，目前已在Hugging Face和Cohere平台开放下载。