36 氪获悉,近日,中科曙光发布全新迭代升级的 AI 推理原生存储 FN Neo。实测数据显示,模型首 Token 响应时间缩减 73%,整体 Token 吞吐能力提升 150%,有效压缩用户交互等待时长,强化系统并发服务能力。针对生产级 AI 业务 7 × 24 小时不间断运行需求,FN Neo 还拥有 99.999% 高可靠性,多重故障防护机制保障推理业务连续不中断。同时产品兼容主流推理框架与多元组网环境,企业无需大规模改造现有系统即可完成部署,在复用现有推理生态前提下提质增效,有力支撑大模型、智能体规模化生产落地。
36氪
1小时前