无问芯穹发布PDD跨集群异构推理架构,单Token成本可降低37.5%
资讯
资讯 > 正文

无问芯穹发布PDD跨集群异构推理架构,单Token成本可降低37.5%

每经上海7月20日电 今日,无问芯穹在2026世界人工智能大会发布首创的新一代推理系统优化成果——PDD跨集群异构推理架构,极大提升大模型推理系统效率。实测显示,该架构在实现了首 Token 延迟(TTFT)降低 51.5% 的同时,单Token成本可降低37.5%。(每经记者 张梓桐)

每日经济新闻

亲爱的凤凰网用户:

您当前使用的浏览器版本过低,导致网站不能正常访问,建议升级浏览器

第三方浏览器推荐:

谷歌(Chrome)浏览器 下载

360安全浏览器 下载