我國日均詞元調用量已突破500萬億
2026-11-17 22:16:28
幣界網消息,最新數據顯示,我國日均詞元調用量已突破500萬億,算力市場需求暴漲。智能算力短期內無法補充,只能從現有算力中提煉效率。2025年,鄭維民院士團隊研發的大模型推理系統mooncake獲得埃里克・里德爾最佳論文獎,其核心技術是運用pd分離技術來盤活現有算力,通過軟件調度讓現有算力得到充分運用。據悉,p負責「讀取用戶問題」,d負責「生成回答」。傳統方式下,同一組算力需要輪流處理兩項任務;而pd分離技術讓一組算力專門用於讀取問題,將結果傳給另一組專門用於生成回答的算力。在相同硬體規模下,該系統能承接多達75%的用戶請求,長文本處理能力提升超過五倍。
利好 0
利空 0
來源:金十數據
本內容只為提供市場資訊,不構成投資建議。