博通2024財年公司的人工智能收入增長220%,達(dá)到122億美元;博通預(yù)計(jì)AI產(chǎn)品收入將在2025財年第一財季同比增長65%。博通還透露,目前正在與三個非常大型的客戶開發(fā)AI芯片,預(yù)計(jì)明年公司AI芯片的市場規(guī)模為150億-200億美元。
國盛證券表示,AI業(yè)務(wù)中,博通已有的三家大客戶已迭代多版XPU,在2027年,每家客戶均將在單一網(wǎng)絡(luò)架構(gòu)中部署百萬個XPU,ASIC芯片需求初步演繹、后續(xù)趨勢明確。
特邀行業(yè)專家全面解讀AI應(yīng)用落地終端帶來的硬件增量需求,12月17日(周二)19:00,財聯(lián)社VIP攜手蜂網(wǎng)專家為您帶來“ASIC芯片”主題的【風(fēng)口專家會議】。
特邀專家:AI芯片行業(yè)專家
分享主題:
AI推理大布局到來?
——特邀行業(yè)專家全面解讀AI應(yīng)用落地終端帶來的硬件增量需求
分享內(nèi)容:
1、美股博通連續(xù)大漲!ASIC推理芯片增量需求分析;
2、ASIC推理芯片主要生產(chǎn)廠商及下游客戶介紹;
3、數(shù)據(jù)中心AEC方案優(yōu)勢及相關(guān)業(yè)務(wù)廠商分析;
4、AI應(yīng)用落地終端有望帶動其它電子硬件增量需求分析。
您可以在12月17日(周二)晚上7點(diǎn)前等待電話外呼接入會議,也可以點(diǎn)擊以下鏈接參會。(會議結(jié)束后點(diǎn)擊鏈接可看回放)
PC端點(diǎn)擊鏈接入會? 《AI推理大布局到來?》?
手機(jī)APP端點(diǎn)擊鏈接入會? 《AI推理大布局到來?》?
微信、海報等點(diǎn)擊鏈接入會? 《AI推理大布局到來?》?
小貼士:包時段用戶可以在新更新的會議紀(jì)要文章里直接查看紀(jì)要內(nèi)容。僅單篇解鎖該文章的用戶,會議紀(jì)要會同步更新的該文章內(nèi),次交易日午后可以回看該文章查閱紀(jì)要。
如您對《風(fēng)口專家會議》的訂閱以及觀看流程有疑問,或者有特別想對專家提問的問題,可以添加財聯(lián)社小財神客服微信(clsvip168),了解詳情。
附本次會議紀(jì)要
AI芯片行業(yè)核心邏輯
電話會議紀(jì)要
問題一:什么是ASIC芯片?如何分類以及分別有怎樣的用途?與通常的GPU和CPU相比有怎樣的區(qū)別?
專家:ASIC指專用集成電路,GPU和CPU是通用芯片。通用芯片有普適性、廣泛性和強(qiáng)兼容性,而專用芯片更能滿足某一場景的使用。ASIC芯片的種類豐富,無論芯片是否簡易,都可以做成專用芯片。目前的種類如MCU芯片、通訊芯片、AI芯片,都有相應(yīng)的專用芯片。CPU和GPU芯片在市面上可以直接買到,有大廠提供標(biāo)準(zhǔn)規(guī)格的產(chǎn)品,不需要額外的開發(fā)成本,而ASIC芯片需要額外開發(fā)和定制,有時間成本和開發(fā)成本。ASIC芯片的開發(fā)也可能會失敗,因?yàn)樾枰獫M足特定應(yīng)用的強(qiáng)適配和某些硬件、軟件的強(qiáng)綁定,有技術(shù)壁壘。
總結(jié)來看,ASIC芯片是定點(diǎn)給某些特定客戶或自己做研發(fā),不是公開出售的,類似一個唯一的或者非常稀缺的資產(chǎn),開發(fā)完成后在該場景有非常高的競爭力,但有開發(fā)成本和時間成本。
問題二:介紹一下博通公司。業(yè)績大漲的原因是什么?明年是否還有增速的持續(xù)性?
專家:博通是個美國公司,之前注冊在新加坡,做過很多筆大額交易的并購,最初是一個做通訊和交換芯片的公司,經(jīng)過一系列的收購后,現(xiàn)在是一個軟硬件綜合實(shí)力強(qiáng)、聚焦專用芯片和通用芯片的企業(yè)。在通訊交換芯片領(lǐng)域,目前是世界前兩大供應(yīng)商之一。在ASIC芯片領(lǐng)域,曾收購過美國一家非常著名的芯片設(shè)計(jì)、開發(fā)公司。第三大業(yè)務(wù)還有數(shù)據(jù)連接部分。
業(yè)績大漲是由于最近公開宣布了2025-2027年的業(yè)績預(yù)測和前瞻性分析,特別是在ASIC定制化芯片業(yè)務(wù)上,有來自AI端的增長,有幾家互聯(lián)網(wǎng)大廠做了一些訂單和承諾,預(yù)計(jì)比此前的收入規(guī)模增長很多。另外,在接下來AI強(qiáng)落地的背景下,ASIC定制化芯片可能會對通用芯片形成強(qiáng)補(bǔ)充,可能會增加芯片總需求,也甚至可能會瓜分部分英偉達(dá)的通用芯片市場。
此外,英偉達(dá)的股價上漲過久,被部分兌現(xiàn),市場可能也需要一個新的增長點(diǎn),博通出現(xiàn)的節(jié)點(diǎn)不錯。
問題三:是否存在ASIC芯片增速大幅提升、英偉達(dá)通用芯片增速相對放緩的預(yù)期?
專家:專用芯片銷量增速提升是有可能的,在過去很長一段時間中,大部分是用英偉達(dá)方案,即通用方案,增速提升是由于ASIC芯片基礎(chǔ)存量較低。如果大家都采用英偉達(dá)的通用芯片,產(chǎn)品就不具備差異性。另外,英偉達(dá)的通用芯片無法將軟硬件和獨(dú)有算法進(jìn)行強(qiáng)綁定,改善空間小,專用芯片可以在算法上進(jìn)行優(yōu)化,做協(xié)同性調(diào)整。因此,大廠做這件事情是勢在必行,尤其是互聯(lián)網(wǎng)大廠,一年用幾萬至十萬套的芯片,一部分選擇專用芯片,一部分選擇通用芯片,合理分?jǐn)偹懔Α?/p>
問題四:國內(nèi)有哪些ASIC芯片設(shè)計(jì)和代工廠商?其下游大客戶是否會考慮使用這些廠商的產(chǎn)品?
專家:國內(nèi)大陸的選擇非常有限,大陸只有幾家ASIC芯片設(shè)計(jì)公司,其中上市公司有芯原股份,做ASIC芯片定制,業(yè)務(wù)?。粻N芯股份也可以承接ASIC芯片定制開發(fā)業(yè)務(wù)。此外,國內(nèi)使用大模型的公司有一些自己開發(fā)定制芯片,但幫別人設(shè)計(jì)的比較少。比如翱捷科技也在嘗試承接業(yè)務(wù),從財報上可以看出有一部分來自委外設(shè)計(jì),但它不是專業(yè)的,主要還是做手機(jī)芯片。華為海思也可以做從端側(cè)到訓(xùn)練側(cè)的所有芯片,有自己的生產(chǎn)線和平臺,但不可能幫別人做。百度昆侖做的類似ASIC芯片,與博通、三星都有合作。平頭哥、寒武紀(jì)、摩爾線程等仍以通用芯片為主,對標(biāo)國產(chǎn)版英偉達(dá)。代工廠商的話,中芯國際可能是唯一選擇,但是也不太優(yōu)。
問題五:什么是AEC連接方案?還有哪些連接方式?AEC的優(yōu)勢所在?
專家:主要的連接方式有三種:AEC、AOC和DAC。AOC是光通訊,AEC和DAC都是用銅纜或者電纜來完成的。區(qū)別分三個維度:成本、距離、性能。
成本維度上,由高到低分別是AOC、AEC、DAC。AOC里面是光纖,所以最貴。
一個數(shù)據(jù)中心由數(shù)百個機(jī)柜組成,每個機(jī)柜由數(shù)10臺服務(wù)器構(gòu)成,數(shù)10臺服務(wù)器里包括算力卡服務(wù)器和交換服務(wù)器,彼此的柜子需要連接在一起,這樣矩陣才能擴(kuò)大。如果在機(jī)柜內(nèi)部用DAC直連,一個機(jī)柜線纜的長度不長,5-10米就足夠了,所以DAC是可以控制和覆蓋的。與DAC的顯著區(qū)別在于,AEC會做主動的芯片增強(qiáng)、恢復(fù)、校準(zhǔn)、糾錯,或者將數(shù)據(jù)包進(jìn)行分包處理。所以,AEC的距離可以達(dá)到15-20米,寬帶可達(dá)100-200G。AOC是光纜,只要光纖不損壞、不折斷,再遠(yuǎn)都可以傳。
性能維度上,DAC的帶寬在100G以內(nèi),常規(guī)的25G到40G都沒問題。DAC是銅線會衰竭,但在可控距離范圍內(nèi),衰竭還是可以被克服的。
這三個技術(shù)都很成熟,在數(shù)據(jù)中心里已經(jīng)存在了5-10年以上。AEC火的原因是數(shù)據(jù)中心單個通道的數(shù)據(jù)吞吐量和功耗提高了,但物理空間有限,需要把密度提高,就必須用更高效的傳輸方式,比如AEC或AOC,但AOC比較貴。
問題六:AEC業(yè)務(wù)比較好的公司及其上游公司有哪些?
專家:不清楚有哪些供應(yīng)商,但用戶很明確,需要部署數(shù)據(jù)中心的都是用戶,但這跟數(shù)據(jù)中心總量有關(guān),因?yàn)橐粋€機(jī)柜里面需要的AEC長度是確定的,和數(shù)據(jù)中心的機(jī)柜容量呈倍數(shù)關(guān)系。
問題七:在大模型落地的關(guān)鍵節(jié)點(diǎn),除了推理芯片,還有哪些消費(fèi)電子端的硬件需求會大幅提升?包括性能需求和量的需求。
專家:推理芯片的形態(tài)產(chǎn)生了,但是尚未普及。目前推理側(cè)的應(yīng)用都是圖文生成、語音轉(zhuǎn)字幕,或者文案輸出等,終端產(chǎn)品的形態(tài)可以各種各樣,玩具、手機(jī)、電腦、眼鏡、智能音箱等,需要不斷試錯。推理芯片本身跟訓(xùn)練芯片完全不一樣,推理要用專用芯片來實(shí)現(xiàn),市場上沒有推理芯片的通用芯片,所以推理芯片的落地和商業(yè)化還會產(chǎn)生很多專用芯片的可能性,ASIC的機(jī)會更大一點(diǎn)。
問題八:除了推理芯片,手機(jī)的存儲芯片、通訊模組等其他零部件的需求提升幅度多大?大概的增量排序如何?
專家:以手機(jī)為例,其推理芯片很有可能會被主芯片集成掉?,F(xiàn)在主芯片的供應(yīng)商如高通、聯(lián)發(fā)科,都具備這個能力。
如果要推出智能終端產(chǎn)品,首先要在GPU上做大規(guī)模的性能提升,相配套的是內(nèi)置存儲。因?yàn)橐坏┳鐾评?,有很多在線和離線的交互,這些會產(chǎn)生大量存儲容量的強(qiáng)需求,占多少增量比例取決于終端的推理功能強(qiáng)度。
目前手機(jī)上做推理側(cè)的應(yīng)用強(qiáng)度較輕,一旦加重,整個手機(jī)的能耗、面積、體積、設(shè)計(jì)等各方面都會出問題,至少在目前的體量上都會有問題。此外,可能也會增加一些外設(shè)功能的強(qiáng)度,比如攝像頭、外設(shè)的輔助設(shè)備。
問題九:如何看待交換機(jī)未來的增量需求?隨著數(shù)據(jù)中心的運(yùn)算量增大,它的升級是否重要?
專家:博通是做交換芯片出身的,對于這方面有非常深的理解,參與了數(shù)據(jù)中心的建設(shè)、擴(kuò)容和升級,與互聯(lián)網(wǎng)大廠有非常好的關(guān)系。
交換芯片在其中起到舉足輕重的作用,是一個通路,無論是單體還是多體,提升主要在于其單芯片或多芯片的帶寬容量增加、單通道和多通道的容量增加、吞吐率、對時延和功耗的控制。隨著數(shù)據(jù)中心AI需求的增加,數(shù)據(jù)吞吐量急劇增加,意味著交換機(jī)的設(shè)備和主芯片都要提升上去。
光靠訓(xùn)練側(cè)和推理側(cè)的提升,數(shù)據(jù)會擁塞在交換部分,那是解決不了問題的,交換設(shè)備一定要提升。隨著AI的落地,無論是訓(xùn)練側(cè)還是推理側(cè)的都會顯著體現(xiàn)的,所以做交換芯片的公司肯定是有紅利的。
問題十:國內(nèi)做交換機(jī)的品牌有哪些?
專家:國際企業(yè)中,思科和博通都可以提供這方面的芯片,也可以提供整機(jī)和設(shè)備。此外,國內(nèi)還有幾家自研交換芯片的公司,比如華為海思、中興通訊的中興微電子、烽火通信、蘇州申科,其產(chǎn)品性能帶寬跟博通比有差距。
系統(tǒng)廠商方面,上述有些芯片公司本身提供系統(tǒng),包括華為、中興通訊和烽火通信等。此外,浪潮信息是貼牌的,用別人芯片來做交換設(shè)備。蘇州申科也提供交換設(shè)備,并且自己也做芯片。對做整機(jī)的公司來說,有自研芯片的能力是很重要的,如果沒有自研芯片,只是拿別人芯片來組裝,其競爭力相對較弱,因?yàn)榻粨Q機(jī)的核心在于硬件芯片和協(xié)議上。
問題十一:PCB產(chǎn)品是否會因?yàn)锳SIC芯片的布局,需要做出產(chǎn)品改變或者數(shù)量提升?
專家:需要。一般來說,做了專業(yè)芯片,PCB設(shè)計(jì)的BOM的其他配件或元器件,需要跟專用芯片適配。 專用芯片不是一個單芯片的問題,而是一個系統(tǒng)問題。一般客戶開一個專用芯片,會有系統(tǒng)解決方案,包括專用芯片,加上外設(shè)和其他元器件,PCB設(shè)計(jì)需要做一些調(diào)整。
問題十二:除了PCB,其他也需要根據(jù)專用芯片做產(chǎn)品革新或改變嗎?
專家:不需要,既然做專用芯片,就不應(yīng)該去提高整個系統(tǒng)的改變成本或結(jié)構(gòu)。專用芯片的量一旦起來,它的成本要比通用芯片便宜。如果只需要100-1000張,會覺得GPU比專用芯片的開發(fā)成本低,當(dāng)需要1萬張以上時,肯定是專用芯片便宜。
問題十三:目前數(shù)據(jù)中心的液冷需求高嗎?市面上主要有哪些液冷產(chǎn)品提供商?
專家:液冷是一個確定的趨勢,隨著芯片顆粒變大、集成度變高,無論是單芯片還是單板,單機(jī)柜還是多機(jī)柜,整體功耗會顯著上升。AI有幾個瓶頸,分別是算力瓶頸,能耗瓶頸,電力瓶頸。通過液冷的方式,可以快速實(shí)現(xiàn)能量轉(zhuǎn)換,液冷不只是做個散熱,還要做轉(zhuǎn)換,所以用液冷是目前的最佳解決方案,比傳統(tǒng)的風(fēng)冷、自然冷卻、加特殊材料,或者在上面貼冷卻板或冷卻片,肯定是要強(qiáng)得多。
液冷供應(yīng)商提供的液體不是水,是丙醇加上其他混合體,還提供整個設(shè)備的解決方案??苿?chuàng)板和和北交所都有上市公司,比如中科曙光,提供整個解決方案,甚至幫數(shù)據(jù)中心做完整配套,為百度、京東等提供了服務(wù)。