OpenAI 首顆自研晶片「Jalapeño」亮相:和博通聯手,專為推論而生
OpenAI 週三正式公布旗下第一顆自家設計的晶片,代號 Jalapeño,由半導體大廠博通負責打造。官方把它定位成一顆「智慧處理器」,是為了驅動現在與未來的大型語言模型而生。技術上它是一顆 ASIC,也就是專用積體電路,整顆晶片的設計目標只鎖定一件事:推論,也就是模型訓練完之後、實際回應使用者每一次提問的運算。
為什麼是推論、為什麼是現在,要從成本結構看。訓練一個模型是一次性的大筆投入,但推論是天天都在燒的水電費,使用者越多、呼叫越頻繁,這筆帳就越重。通用的繪圖晶片什麼都能做,代價是樣樣不夠省;專為推論訂做的晶片可以把不需要的功能砍掉、把記憶體頻寬和資料流排成最順的樣子,換到更低的每次回應成本。對一家把模型當水電在賣的公司,這條省下來的曲線直接關係到能不能賺錢。
更大的盤算是供應鏈的主導權。過去兩年算力的咽喉一直握在輝達手上,誰排得到貨、排到多少,幾乎決定了誰跑得快。OpenAI 自己出晶片設計、找博通代工,等於把一部分命脈收回手裡,也延續了科技巨頭一路往下整合硬體的老路。本站先前報過 Oracle、微軟相繼自建機房與晶片佈局,Jalapeño 是同一張棋盤上 OpenAI 自己落的子。
歸剛點評:自研晶片不是要立刻取代輝達,而是給自己多一條腿站。對台灣最該盯的是代工這一段——博通的訂單最後流向誰、先進封裝吃掉多少產能,牽動的是我們半導體上下游的真實生意,比一顆晶片叫什麼辣椒名字實在多了。
歸剛點評|算力成本是 AI 生意的命門,OpenAI 自研推論晶片是想把每次回應的成本與供應鏈主導權同時抓回手裡,對全球半導體代工與台廠供應鏈都是直接訊號。