《科創(chuàng)板日報》1月27日訊（記者 黃心怡）“正如大家沒法猜到，做游戲顯卡的英偉達，最后會成為AI界最重要的公司。大家也沒法猜到，中國AI大模型的希望，可能就在炒股的公司身上?！币幻鹑诳萍紭I(yè)內(nèi)人士表示。

今日，國內(nèi)AI初創(chuàng)公司DeepSeek出現(xiàn)了短時閃崩現(xiàn)象。據(jù)DeepSeek回應(yīng)，其服務(wù)再次“宕機”，源自新模型發(fā)布后，用戶訪問量激增所致。

這家由知名私募巨頭幻方量化于2023年4月創(chuàng)立的大模型公司，近日正式發(fā)布推理大模型DeepSeek-R1。在國外大模型排名Arena上，DeepSeek-R1基準(zhǔn)測試已經(jīng)升至全類別大模型第三，其中在風(fēng)格控制類模型（StyleCtrl）分類中與OpenAI o1并列第一。

1月27日，DeepSeek應(yīng)用登頂蘋果美國地區(qū)應(yīng)用商店免費APP下載排行榜，超越了ChatGPT。同日，蘋果中國區(qū)應(yīng)用商店免費榜顯示，DeepSeek成為中國區(qū)第一。

“DeepSeek AI已經(jīng)能思考了，這是質(zhì)的飛躍。以前的模型在思考/推理方面不夠穩(wěn)定可靠，武漢大學(xué)計算機學(xué)院教授、中國人工智能學(xué)會心智計算專委會副主任委員蔡恒進如此評價DeepSeek。

在DeepSeek引發(fā)業(yè)內(nèi)震動的同時，以科技股為主的納斯達克100指數(shù)期貨跌幅達3%，原因是市場擔(dān)憂DeepSeek的AI模型可能會擾亂科技行業(yè)。

市場分析認為，DeepSeek R1的成功可能削弱了市場對英偉達AI芯片需求的預(yù)期。因為DeepSeek似乎以極低的成本構(gòu)建了一個突破性的人工智能模型，并且無需使用頂尖芯片。這令人質(zhì)疑對AI芯片投入數(shù)千億美元支出的實際效用。

此前有消息稱，DeepSeek僅用2048顆英偉達H800 GPU和約550萬美元，就訓(xùn)練出6710億參數(shù)的開源大模型，是Llama-3405B超6000萬美元訓(xùn)練成本的十分之一不到。

不過，《科創(chuàng)板日報》記者了解到，550萬美金只是DeepSeek-V3訓(xùn)練成本的一部分。根據(jù)DeepSeek的論文表述，這僅僅包括DeepSeek-V3的正式訓(xùn)練，不包括與架構(gòu)、算法、數(shù)據(jù)相關(guān)的前期研究、消融實驗的成本。而DeepSeek r1的真實算力成本投入遠不止600萬美元。

多名業(yè)內(nèi)人士認為，OpenAI對大模型的前沿探索與DeepSeek的后發(fā)追趕，所需的算力原本就不是一個量級。創(chuàng)新和探索必然伴隨著算力和各項成本的浪費，在確定性的路徑上優(yōu)化所付出的代價，與探索未知所付出的代價之間不宜簡單對比。

但是，DeepSeek大模型的推出，無疑展示了模型架構(gòu)在算法和數(shù)據(jù)層面創(chuàng)新的價值。

曾幾何時，OpenAI的火爆來自“大力出奇跡”，即算力越大、數(shù)據(jù)越多，就能得到越強的大模型。這種“軍備競賽”型開發(fā)模式，帶來了驚人的能源消耗和訓(xùn)練成本。受大模型訓(xùn)練的高昂成本拖累，OpenAI在2024年的虧損額可能達到50億美元，預(yù)計到2026年其虧損將進一步攀升至140億美元。

“DeepSeek則帶來了對算力/能耗的需求十余倍的降低?！辈毯氵M強調(diào)。

魔形智能創(chuàng)始人徐凌杰向《科創(chuàng)板日報》介紹，DeepSeek巧妙利用了多種優(yōu)化手段來降低成本，其中包括采用低精度數(shù)據(jù)格式進行訓(xùn)練，復(fù)用和共享參數(shù)，以及通過MoE混合專家的架構(gòu)動態(tài)激活部分參數(shù)。

除了降低AI大模型的硬件門檻和能源消耗，DeepSeek的成功，更重要的是為AI未來的應(yīng)用落地鋪平了道路。

隨著模型性能的逐步穩(wěn)定和應(yīng)用的陸續(xù)落地，未來算力的推理需求將超過訓(xùn)練需求。Arm基礎(chǔ)設(shè)施事業(yè)部產(chǎn)品解決方案副總裁Dermot O’Driscoll在接受《科創(chuàng)板日報》采訪時就曾表示，接下來將看到更多關(guān)于AI推理領(lǐng)域的更多突破，即AI的實際應(yīng)用。“這些創(chuàng)新將從數(shù)據(jù)中心延伸到邊緣計算，再進一步擴展至終端設(shè)備。因此，下一輪創(chuàng)新的重點將從AI訓(xùn)練轉(zhuǎn)向AI推理。這意味著在AI推理領(lǐng)域?qū)⒂瓉砭薮蟮臋C遇?！?/p>

“歷史數(shù)據(jù)表明，10倍成本下降可激發(fā)百倍需求，當(dāng)前模型推理成本已進入快速下降通道，或?qū)⑼苿覣I應(yīng)用爆發(fā)?！毙炝杞鼙硎荆?strong>針對-V3模型（參數(shù)量6710億），其推理采用創(chuàng)新兩階段架構(gòu)：32張H800 GPU并行處理預(yù)填充任務(wù)，320張H800集群加速流式解碼。為追求極致性價比，需將數(shù)百GPU通過超高速網(wǎng)絡(luò)組成‘超節(jié)點’，這一需求正推動智算中心集群化的演進，加速AI算力基礎(chǔ)設(shè)施升級?！?/p>

目前，DeepSeek模型的端側(cè)落地已在推進中。近日，AMD宣布將新的DeepSeek-V3模型集成到Instinct MI300X GPU上,該模型經(jīng)過SGLang強化,針對Al推理進行了優(yōu)化。而英特爾中國區(qū)技術(shù)部總經(jīng)理高宇也表示：Deepseek-R1已經(jīng)在AI PC上跑起來了！Flowy大模型AI PC應(yīng)用平臺現(xiàn)已支持在Intel Core Ultra AI PC上運行Deepseek-r。

端側(cè)大模型正開始在智能手機、智能汽車、PC等多種設(shè)備上嶄露頭角。然而，硬件資源限制、模型壓縮等多重挑戰(zhàn)始終困擾著端側(cè)大模型。Deepseek r1端側(cè)大模型的推出，有望為下游應(yīng)用的繁榮帶來了更大的空間，推動更多推理芯片的涌現(xiàn)，以及大模型應(yīng)用生態(tài)的發(fā)展。