騰訊發布AI函式庫，模型吞吐量提升30%

核心要點

騰訊已公開發布其生產級HPC-Ops函式庫，此舉是為鞏固其在競爭激烈的人工智慧領域的戰略部署。這款開源工具顯著加速了大型語言模型（LLM）的推論速度，旨在圍繞騰訊技術建立更廣泛的開發者生態系統，並推動其雲服務的未來增長。

1. 效能飛躍： 新的HPC-Ops函式庫在實際場景中，將騰訊專有的混元模型推論吞吐量（每分鐘查詢數）提升了30%。
2. 競爭基準： 在組件層面，該函式庫相比現有替代方案展現出顯著的效能優勢，其Attention運算子的運行速度比FlashAttention快了2.22倍。
3. 生態策略： 透過開源這一工具，騰訊旨在吸引AI開發者並推動其技術採用，從而增強其雲和AI服務產品，實現長期增長。