人工智能大模型加速走進千行百業,詞元(Token)作為大模型輸入輸出的最小信息單元,已經從單純的技術術語演變為全社會熱議的智能經濟新概念。據國家數據局統計,截至2026年3月底,我國日均詞元調用量突破140萬億,相比2024年初增長1000多倍。
詞元調用量的爆發,既展現了我國人工智能產業發展的充沛活力,也折射出用戶運用AI模式正在發生重大轉變。用戶要開發和使用智能體,只需向服務商購買API服務即可按需獲取詞元服務,這有助于提升算力集約化利用效率,降低人工智能應用門檻,加速“人工智能+”的進程。然而詞元要真正成為智能的基本度量單位,不能只看數量和價格,更要看詞元背后的“智能含金量”。
智能是高質量詞元服務的決定因素。過去兩年,大模型在語言理解、復雜推理、多模態融合等關鍵能力方面實現跨越式提升,中國信息通信研究院(簡稱“中國信通院”)“方升”基準測試結果顯示,2025年語言模型和多模態模型的綜合能力評分提升35%和50%,全球領先的開源模型和閉源模型的智能差距在不斷縮小。但模型之間的智能差距還是非常顯著,不同模型輸出的詞元“智能含金量”相差甚遠。
數據來源:中國信通院“方升”基準測試結果,2026年
圖1 開閉源語言模型能力演進趨勢
穩定是高質量詞元服務的可靠保障。中國信通院通過對公有云詞元服務持續監測顯示,2026年一季度國內詞元服務調用成功率穩定在99.9%左右,響應時延(TTFT)平均值0.87秒,每秒詞元輸出數(TPS)平均值53.4個。但也要看到,隨著多模態交互與智能體技術快速普及,詞元調用量正呈快速增長態勢,智能體在復雜任務中可能觸發數十次鏈式調用。當企業日均調用量突破千萬乃至億級,99.9%的成功率背后仍有不可忽視的絕對失敗量。
數據來源:中國信通院公有云Token服務性能監測,2026
圖2 公有云詞元服務TPS監測結果圖
數據來源:中國信通院公有云Token服務性能監測,2026
圖3 公有云詞元服務TTFT監測結果圖
安全是高質量詞元服務的信賴底線。2026年4月,國家安全部發布詞元安全警示,指出詞元面臨泄露劫持、偽造篡改、詐騙陷阱三重風險。各類風險隱患已在服務全鏈條顯現。技術層面,大模型幻覺問題難以“根除”,提示詞注入、越獄攻擊的防御能力依然薄弱,輸出敏感、有害信息的事例時有發生;運營層面,詞元中轉站深藏隱患、低價API代理亂象叢生,明文傳輸極易泄露密鑰與交互信息,植入惡意代碼、倒賣數據、擅自降級模型等問題層出不窮。業務層面,詞元服務正逐步切入金融、醫療、政務等高敏感領域,一旦發生安全問題,波及范圍和危害程度遠超傳統信息服務。安全不能被視為“附加題”,而應當成為高質量詞元服務的“必答題”。
然而,以安全為前提,詞元服務圍繞“智能-穩定-價格”構成的“不可能三角”逐漸顯現。智能越優、性能越穩定,價格也就越昂貴,例如GPT-5.5 Pro是GPT-5.5價格的近6倍。因此,為推動詞元服務高質量發展,需要在三個方向協同發力。
一是持續提升基礎模型能力。為保障智能體執行任務的可靠性,底層模型面臨著有別于傳統對話場景的全新能力要求:不僅要能理解問題,還要能像工程師一樣編寫代碼、調試邏輯;不僅要能回答單次提問,還要能在一個跨越數小時甚至數天的復雜任務中保持正確的推理軌跡。這些需求正推動模型能力向更高層次進化,包括更強的編程與邏輯推理能力、更穩定的長程任務執行能力、更優的超長上下文處理能力和模型內生的工具調用能力。同時,應超越單純的詞元數量統計,建立單位詞元智能化水平的新型指標,以實現模型價值的精準評估,提升模型在實際任務中的價值產出密度。
二是不斷提升詞元服務性價比。智能算力是詞元服務的物質基礎,算力成本在很大程度上決定了詞元服務的定價空間,而算力的利用效率又直接影響服務的穩定性與響應速度。近年來,國產算力芯片與國產大模型的適配正在從可用邁向好用,形成國模國芯的協同創新格局。以華為昇騰與DeepSeek的合作為代表,國產模型發布后,國產芯片平臺能在較短時間內完成全鏈路優化適配,推理效率不斷提升。同時,詞元服務商也在通過推理優化技術,持續推進詞元服務性能提升。未來堅持“以軟補硬、軟硬協同”的路徑,是讓詞元服務在性能提升的同時實現成本可控、運行穩定的關鍵。
三是多層次加強詞元服務安全防護。要讓用戶放心采購和使用詞元API服務,就必須徹底打消安全顧慮。安全并非一道簡單的“是或否”的二元判斷題。以不同的安全成本,可以換取不同等級的安全保障,用戶應當根據自身業務場景的敏感程度,在安全與成本之間做出靈活選擇。硬件層面的物理隔離、機密計算環境中的加密執行、軟件層面的訪問控制與行為審計,這些防護措施并非彼此替代,而是構筑起層層遞進的縱深防線,讓用戶可以根據需要選擇合適的防護等級。只有當安全成為一個可選擇、可度量、可驗證的明確選項,用戶才能放心地把核心業務交給詞元服務。
對詞元服務商而言,單純打價格戰沒有出路,唯有不斷提高詞元服務的含金量,詞元經營才能長久,詞元經濟才能真正發展起來。對用戶而言,需要提高辨別能力,綜合考量智能水平、服務質量和安全防護等因素,選擇貼合自身場景需求的詞元服務,推動詞元應用價值提升,充分釋放AI潛力。對產業而言,應逐步建立起統一的計量計費體系,在按量計費基礎上,完善按場景及價值計費機制,并結合監管和信用體系的建設,助力詞元應用“公平、公開、透明”。
中國信通院始終堅持問題導向,不斷完善可信AI標準和評測體系,已經構建了高質量詞元研究和公共服務體系,覆蓋“方升”大模型基準測試、詞元服務性能監測、詞元安全可信評測等關鍵板塊,聯合產學研多方開展人工智能領域的技術研究、標準制定、測試驗證和產業培育工作,以高質量詞元服務支撐人工智能的普惠發展。
作者簡介
魏凱,中國信通院人工智能研究所所長,正高級工程師。工業和信息化部人工智能標準化技術委員會(MIIT/TC1)秘書長、全國網絡安全標準化技術委員會人工智能組(TC260 WG9)副組長。研究方向為人工智能技術,發表論文20多篇,牽頭完成40多項國內國際標準,參與多項國家重大政策文件起草。
曹峰,中國信通院人工智能研究所平臺與工程化部主任,高級工程師。人工智能關鍵技術和應用評測工業和信息化部重點實驗室副主任、中國人工智能產業發展聯盟評估組組長。參與多個國家層面人工智能政策和產業報告的起草、制定和推動落實,牽頭人工智能國際、行業、團體標準60余項。
石霖,中國信通院人工智能研究所安全治理部、具身智能與
機器人部主任,高級工程師。工信部人工智能標委會安全治理組組長、公安部信安標委會委員。主要從事人工智能領域的政府支撐、技術研究、標準制定、測試評估及產業生態建設工作,參與編寫了人工智能、元宇宙領域多項國際、行業標準,深度支撐中國人工智能產業發展聯盟、多屆中國人工智能大賽等產業生態建設工作。
秦思思,中國信通院人工智能研究所高級工程師。中國人工智能產業發展聯盟模型服務工作組、服務商工作組組長。主要研究方向為大模型工程化,牽頭20余項國際國內標準編制,參與人工智能政策和產業研究,累計發布10余項論文、專利和報告等成果,并組織開展高質量詞元服務性能監測、課題研究、系列評估和咨詢等工作。