藉ChatGPT打響生成式AI名號的美國新創公司OpenAI,為了在一眾競爭中確保晶片供應無虞,據傳已與半導體業者博通(Broadcom)及台積電(TSMC)合作,生產自家設計的晶片。
AI研發大勢促升晶片需求,台積電日前才信心喊話,訂單旺到爆。晶片霸主輝達(Nvidia)CPU握有80%市占率,儘管拉抬出貨,仍供不應求。為保供應無虞,同時控制成本,各家科技大廠無不使出渾身解數加強產業鏈結盟,亞馬遜(Amazon)、Meta、谷歌(Google)、微軟(Microsoft)都是勁敵,OpenAI當然不能缺席。
OpenAI原本野心勃勃,從設廠生產晶圓到自行設計晶片,想成為半導體一條龍。然,考量驚人成本與所需投入的時間,其已放棄了晶圓廠計畫,專注於晶片設計。
生成式AI仰賴龐大算力,作為輝達圖形處理器(GPU)最大客戶之一,OpenAI需要兩種晶片,分別用於模型「訓練」(從大量數據學習)及「推論」能力(依新資訊做出預測及決定)。
目前業界需求仍以訓練晶片為主,但專家分析,隨著人工智能應用增加,推論晶片需求將後來居上。路透引述知情人士說法,數月以來,OpenAI已與博通攜手設計首個推理用晶片。
博通是美國老牌半導體及軟體設計暨製造商,協助Google微調晶片設計。此外,如加速晶片資訊傳輸這類設計,也是其業務。傳輸速度對龐雜AI系統之運作,至關重要。
消息人士透露,OpenAI成立了一支約20人的晶片設計團隊,延攬曾在Google的任職的一流工程師,如Thomas Norrie及Richard Ho,且不排除擴大與其他夥伴合作。透過Broadcom居中牽線,OpenAI已訂下台積電產能,預計2026年推出首個客製化晶片產品。
訓練AI模型所費不貲,OpenAI今年可能虧損50億美元。其最大支出是處理大量資料集、訓練模型所需的電腦設備、電力及雲端服務。耐人尋味的是,為了與輝達打好關係,順利購得引頸企盼的新一代Blackwell晶片,OpenAI在挖角工程師一事,特意避開了輝達,以免傷了和氣。