智能制造網(wǎng)APP
智能制造網(wǎng)手機站
智能制造網(wǎng)小程序
智能制造網(wǎng)官微
智能制造網(wǎng)服務(wù)號
智能控制
機器人
儀器儀表
物聯(lián)網(wǎng)
3D打印
工業(yè)軟件
回放
品牌
安科瑞
6月9日，北京首家“詞元工廠”——北京壹號詞元工廠正式落地經(jīng)開區(qū)信創(chuàng)園，今后算力將像電力一樣成為穩(wěn)定、普惠的公共資源。北京建設(shè)“人工智能之城”再落一子。
北京壹號詞元工廠由軟通動力信息技術(shù)股份有限公司(以下簡稱“軟通動力”)建設(shè)，由一臺臺服務(wù)器組成，項目一期每日Token產(chǎn)能可達1.4萬億。軟通動力同步向全球開源“詞元工廠性能基準”(含評測框架LoadGen 2.0)，這是行業(yè)首次針對智能體長時運行特征建立統(tǒng)一的性能度量標準，標志著大模型算力供給從粗放式吞吐比拼，進入標準化、工業(yè)化的Token流水線時代。
Token，即詞元，是AI處理文字的最小單位。算力是服務(wù)器運算的能力，算力越強，每秒能處理的Token就越多，使用成本隨之降低。就像人力氣越大，干活兒就越快，能同時解決的事兒也越多。在人工智能時代，算力已經(jīng)成為國家綜合實力的核心指標。
01智能體時代的“新型電廠”
大語言模型(LLM)正從簡單的對話機器人，加速演進為能夠自主規(guī)劃、推理并采取行動以達成復(fù)雜目標的長時運行系統(tǒng)。一個簡單的用戶指令背后，可能是模型數(shù)十次推理循環(huán)、工具調(diào)用與自我反思的疊加。這意味著算力消耗不再是“一問一答”式的短時脈沖，而是長周期、多輪次、高不確定性的混沌負載。北京壹號詞元工廠的解法，是做面向智能體時代的“新型電廠”，實現(xiàn)像用電一樣用Token。
北京壹號詞元工廠聚焦Agentic Serving(智能體服務(wù))場景，通過極限工程化手段壓榨硬件性能，集成前沿算力調(diào)度與KV Cache極致復(fù)用算法，以確定性的服務(wù)質(zhì)量與極致的性價比，為智算時代提供確定性、高彈性的供應(yīng)保障。
這不是簡單堆算力，而是把底層資源高效轉(zhuǎn)化為標準化的“數(shù)字燃料”——Token，像電網(wǎng)一樣給出明確的服務(wù)質(zhì)量承諾：服務(wù)可用性≥99.9%，對標電網(wǎng)供電可靠性≥99.9%；首字延遲P90＜10秒、波動＜20% ，對標電網(wǎng)電壓合格率波動≤±5%；緩存命中率≥90%，對標電網(wǎng)功率因數(shù)，減少計算浪費。
詞元工廠能實現(xiàn)7×24小時不間斷運行，而且核心響應(yīng)指標表現(xiàn)優(yōu)異。一半的任務(wù)能在6秒內(nèi)響應(yīng)，九成的任務(wù)響應(yīng)時間低于10秒，波動性控制在20%以內(nèi)，全面適配各類復(fù)雜AI場景。
02開源性能基準，打破“指標迷霧”
當(dāng)前行業(yè)普遍缺少面向智能體場景的算力服務(wù)質(zhì)量評測標準，導(dǎo)致“高分低能、參數(shù)虛標、用戶選擇困難”。為了精準捕捉并復(fù)現(xiàn)智能體服務(wù)環(huán)境中的極端壓力，軟通動力在儀式上正式發(fā)布并開源詞元工廠性能基準，針對智能體長時運行特征建立統(tǒng)一性能度量標準，推動國內(nèi)AI算力行業(yè)規(guī)范化、標準化發(fā)展。其不是單一工具，而是一個三層遞進的完整評測體系，遵循“一個基準(刻畫方法)”，采用“三類測試方法”，構(gòu)建“分領(lǐng)域標準數(shù)據(jù)集”，實現(xiàn)對算力集群真實服務(wù)能力的精準評估與公平對比。
軟通動力基于對大模型發(fā)展初期行業(yè)通用的MLPerf LoadGen進行深度重構(gòu)，實現(xiàn)了從靜態(tài)并發(fā)注入到動態(tài)行為仿真的跨越，推出了LoadGen 2.0，其核心突破在于成功在測試環(huán)境中定義并重現(xiàn)了真實的“混沌局面”。以此為根基，軟通動力構(gòu)建了三層遞進的完整評測體系，底層混沌負載刻畫方法、中層三類標準測試方法(額定功率/業(yè)務(wù)/精度正確性)、上層面向不同領(lǐng)域的標準數(shù)據(jù)集，確保評測結(jié)果可復(fù)現(xiàn)、可對比、與真實場景對齊。目前，LoadGen 2.0已完全開源。
下一步，詞元工廠還將聯(lián)動張家口、烏蘭察布等綠電基地，構(gòu)建京津冀一體化算力集群，讓算力生產(chǎn)隨著規(guī)模持續(xù)擴大，大幅降低各行各業(yè)使用AI算力的門檻，實現(xiàn)日產(chǎn)10萬億Token的遠期目標。
業(yè)內(nèi)評價，北京壹號詞元工廠的落地不僅補齊了國內(nèi)高端規(guī)模化算力供給短板，樹立起算力服務(wù)與評測的行業(yè)標桿，還將進一步吸引AI上下游企業(yè)集聚，持續(xù)完善區(qū)域人工智能產(chǎn)業(yè)鏈。
浙公網(wǎng)安備 33010602000006號
智能制造網(wǎng)APP
智能制造網(wǎng)小程序
微信公眾號
