AI代理狂吞算力,Token定價混亂困擾企業與華爾街
Claire Weston
AI代理完成一項任務消耗的Token是人類的逾千倍,企業帳單失控、華爾街無法用Token追蹤AI盈利——雲廠商GPU租價正成為替代錨點。
Token到底是甚麼,為何突然成了大問題?
Token(AI模型讀入和輸出文本的最小計量單位)本身不新,但兩股力量令它的消耗量暴漲:推理模型和AI代理。
推理模型不再「秒回」,而是在內部進行多步驟自我對話。《巴倫周刊》實測:一個問題觸發了32秒內部對話,模型執行多次網絡搜索、閱讀數十篇文章,最終輸出約一千個Token——內部消耗遠不止於此。
這意味著→ 同一句提問,新模型燒掉的Token可能是舊模型的數倍甚至數十倍,而用戶在介面上看不到這筆「隱性消耗」。
AI代理為何吞Token吞得這麼兇?
AI代理(根據一條簡單指令自動完成一整串複雜操作的程式)是Token消耗的核心推手。Google、微軟及多所頂尖高校4月發表的研究顯示:編程代理完成同等任務,Token消耗量是人類的逾千倍。
更多Token投入不必然帶來更好結果,失敗任務還需重新執行,成本層層疊加。
簡單來說= 代理像一個不知疲倦但也不知節制的實習生——它會自己查資料、寫代碼、反覆試錯,每一步都在燒Token,而且燒了也不保證做對。
企業的帳單怎麼就失控了?
消費者端ChatGPT與Claude均提供每月20美元的無限量套餐,但企業端按Token計費,頂級ChatGPT模型價格區間為每百萬Token 50美仙至30美元——價差達60倍。
Anthropic近期修改了部分產品的Token計算方式,相同文本消耗的Token數量多出30%至40%,舊款模型仍沿用原標準。這意味著→ 同一段文字換個模型跑,帳單可以憑空膨脹近四成,企業根本無法做預算。
部分企業今年初建立員工AI使用量監控儀表板後,隨即收到巨額帳單,被迫轉向更節儉的策略。Uber總裁麥克唐納5月公開表示:「有多少原本擱置的項目因為生產力提升而重新啟動?這個鏈條目前還不存在。」
華爾街為何也頭痛?
華爾街原本希望用Token價格作為追蹤AI景氣度的代理指標,但Token消耗量因任務和模型不同而高度波動,研究顯示人類和AI模型都難以準確預估一項任務的Token用量。
這意味著→ Token數據既不穩定、也不可比,用它來判斷「AI到底賺不賺錢」幾乎不可能。
企業為控制成本正轉向更便宜的模型(包括中國超低價模型),對OpenAI和Anthropic的頂級模型定價構成壓力——但市場尚未到達迫使兩者大幅減價的臨界點。
那現在該看甚麼指標?
據《巴倫周刊》分析,當前追蹤AI供需平衡更有效的路徑是雲計算廠商的定價動態。AWS本周已是今年內第二次上調Nvidia GPU租用價格,微軟Azure和Google Cloud的走勢同樣值得關注。
簡單來說= Token價格太亂,看不出真實需求;但GPU租金在漲,說明底層算力仍然供不應求——錢在往哪裏流,比誰嘴上說「AI很火」更可靠。
代理規模持續擴張、Token需求加速增長,是數千億美元仍在湧入AI數據中心的核心邏輯——這一邏輯能否轉化為可量化的盈利,將是AI產業鏈估值能否持續的關鍵驗證。
Content is for reference only, not financial advice.