一名企畫人員打開電腦,把企畫丟進公司內部的AI助手,輸入「整理重點」的指令後,條列式的結果立刻出現。只是,短短幾秒的操作,卻已經燒掉了公司約新台幣一百元的AI推論成本。

數字不大,然而若有十份類似企畫,每份每月各被查詢三十次,成本幾乎等同請一名員工。

如何降成本、甚至讓人人都「用得起AI」已成為推論時代的最新顯學。

推論時代是一個效能不一定要一百分,八十五分也很好的世界。

「走進推論後,『CP值』,會變成一件很重要的事情,」一名電子五哥的執行副總經理解釋,尤其,中國AI模型DeepSeek掀起的推論模型革命,讓AI在回答問題之前,會進行自我檢視、邏輯推理,類似人類的思維鏈。

AI推論時代,CP值才是王道
企業希望用一次成本百元能變一元

「這個改變,讓伺服器的運算頻率變高、儲存需求也變多,」他指出,但偏偏,輝達效能極致的AI晶片,每一次運作都要耗費大量電力,墊高AI業者的營運成本,「這時候,訴求低價、低功耗的客製化晶片,優勢就慢慢出來了。」

台灣AI解決方案新創APMIC執行長吳柏翰直言:「大家都希望用一次AI推論的成本能降到一、兩塊。」

這股浪潮,在輝達先前幾乎獨占的AI市場上撬開一道縫隙。

超微(AMD)執行長蘇姿丰正抓緊機會,打出一套她最擅長的「CP值戰法」。

她過去在CPU的戰場就曾因此贏過一次。當時,面對市占率一度逼近九成七的龍頭英特爾,蘇姿丰選擇用更高規格、更