在各家AI巨頭資本支出爆表、算力稀缺的今天,Google在I/O年度開發者大會上端出的AI搜尋革新大菜,更顯極盡奢侈。而這也讓人不禁想問:是什麼讓Google敢於狂飆算力,一口氣將油門踩到底?

先來看看Google口中「25年來最大的搜尋革新」是什麼?

搜尋革命!巨量AI代理人引爆算力需求

如果用一句話來說,就是「搜尋代理人化」。未來,你在搜尋框內輸入的不再只是關鍵字,而可以是一段描述性文字對話,並且還能搭配圖片、文件檔案或影片,而搜尋吐出的結果,也不再只是連結或文字,而可能是圖文並茂的摘要解說,或是一段能夠更有效幫助你理解的客製化互動圖表。

甚至,Google還可以為你的長期任務設計一個專屬儀表板或追蹤器,時刻為你監測網路世界的變化,並在出現新進展時,主動將成果送到你手上。

這些功能的本質,是讓使用者可以不必再手動完成大量搜尋與整理工作,而便利的背後,則是24小時不停歇的大量AI代理人。試想,當全球超過25億用戶同時驅動代理人工作時,對算力的需求將有多可觀。

Google每月處理token量年增近6倍

Google執行長皮采(Sundar Pichai)在演說中提到,去年舉辦I/O大會時,Google每月處理的token數量為480兆,到了今年大會,規模已跳為去年的近7倍,達每月3.2千兆(quadrillion)個token。

「我沒想過有一天會在I/O主題演講裡說出quadrillion這個詞。」他說。

這個急速增長,主要就是來自AI代理應用的高速發展。畢竟,相對於人類,AI代理人不需休息,而且每次執行任務都可能觸發數十甚至數百次模型調用,消耗token的速度不僅快,規模也驚人。

然而,當微軟因應內部算力需求,必須推遲外部客戶訂單;當Anthropic因算力不足,只能屢屢更改使用者計費方式和用量限制;甚至連Google內部員工都在社群上抱怨拿不到足夠算力時,Google為什麼願意將如此珍稀的資源,配置在這麼大規模的免費服務上?

力拚AI搜尋,避免用戶流向其他平台

第一,數據告訴他們,消費者很喜歡AI為搜尋帶來的改變。

根據Google最新公布數據,AI總覽(AI Overviews)的月活躍用戶已突破25億人,AI模式(AI Mode)也超過10億人。Google搜尋副總裁暨負責人里德(Elizabeth Reid)指出,AI模式推出以來,查詢量每季度呈現翻倍成長。從這些數據變化可見,消費者對於AI輔助搜尋的接受度相當高。

而AI幫使用者在傳統搜尋省下來的時間和心力,也正在改變使用者的行為與期待。對於那些過去要花20分鐘才能完成的任務,現在使用者可接受的時間可能只有2分鐘。

當使用者的行為與期待出現變化,如果Google不能跟上,更好的滿足用戶需求,用戶就可能轉向其它AI平台。

終究,搜尋是Google的起家之本,更是核心生存命脈。如果花費的算力,可以為他們成功黏住客戶,對Google就是難以計量的價值,這也是即便算力成本高昂且稀缺,他們仍必須將資源配置給搜尋業務的關鍵。

更精準掌握用戶意圖,提高廣告轉換率

第二,對Google來說,這場搜尋革新不只是防守,也是進攻。

Google這次對搜尋所做的一大改變,就是讓使用者可以使用更多元的資訊,去餵給AI找答案。而當一個使用者在搜尋框中輸入的資訊越詳盡、越豐富,意味著Google對消費者的意圖掌握也會越精準。

舉例來說,輸入「兒童平價餐廳」這個關鍵字,和輸入「我想找一家在台北市中心,可接受五人以上訂位,提供素食且附帶兒童遊戲區的平價餐廳」,兩者所提供的判斷資訊就有明確差異。前者很可能只是一個在做市場調查的業者;後者則有極為明確的消費意圖和需求。

如此,伴隨精準消費意圖捕捉而來的高廣告轉換率,就是Google可以持續讓廣告主埋單的價值,甚至,這種意圖捕捉能力,還可以幫助Google進一步切入線上購物市場,擴大業務版圖。

電纜到晶片它都包,全棧式布局成底氣

除了上述兩點,還有不能忽略的第三項要素,就是全棧式(Full stack)布局為Google帶來的底氣。

Google從海底電纜、資料中心伺服器,到伺服器上搭載的晶片與運行的AI模型,一直到你正在使用的Gmail等終端應用服務,都一手掌握。因此,他們既可以根據本身需求,開發出可以和自家AI模型做到最佳化搭配的晶片,最大化每一分算力;同時間,Google在每一個節點的成果,也可以與生態系內的各項服務分攤成本,並產生相互拉抬效果。這是其它公司難以企及和追趕的巨大優勢。

而且在此之外,借助產品設計,Google發展AI代理搜尋所要花費的算力規模,很可能比外界預想更低。

里德指出,他們在最新發表的智慧搜尋框中,採取了算力優化機制。舉例來說,相對於傳統大型語言模型在處理比較複雜的計算工作時,是採暴力解法,會以相對不具效率的方式硬算出一個答案;Google的做法則是讓AI代理人針對命題,先寫出一段程式碼,然後調用相關工具來解題。這種做法不僅更具執行效率,精準度也會更高。

曾經,搜尋是Google在AI之戰的最大束縛,但當Google敢於親手終結傳統搜尋時代,狂飆的算力,如今則可能形成對手在這場AI代理人之戰,難以擊潰的高牆。

核稿編輯:林易萱
責任編輯:查慧瑛