腾讯发布AI库，模型吞吐量提升30%

核心要点

腾讯已公开发布其生产级HPC-Ops库，此举是为巩固其在竞争激烈的人工智能领域的战略部署。这款开源工具显著加速了大型语言模型（LLM）的推理速度，旨在围绕腾讯技术构建更广泛的开发者生态系统，并推动其云服务的未来增长。

1. 性能飞跃： 新的HPC-Ops库在实际场景中，将腾讯专有的混元模型推理吞吐量（每分钟查询数）提升了30%。
2. 竞争基准： 在组件层面，该库相比现有替代方案表现出显著的性能优势，其Attention算子的运行速度比FlashAttention快了2.22倍。
3. 生态战略： 通过开源这一工具，腾讯旨在吸引AI开发者并推动其技术采纳，从而增强其云和AI服务产品，实现长期增长。