七成大模型廠商在火山引擎云上

AI大模型技術應用爆發，云市場變革也隨之加速。

4月18日，火山引擎在其舉辦的“原動力大會”上發布自研DPU等系列云產品，并推出新版機器學習平臺：支持萬卡級大模型訓練、微秒級延遲網絡，可以讓大模型訓練更穩更快。

據介紹，目前國內有數十家做大模型的企業，七成已經在火山引擎云上。

與其他云廠商力推自家大模型不同，火山引擎總裁譚待表示，火山引擎自己不做大模型。在大模型領域，火山引擎的發展思路是，首先服務好國內做大模型的公司，為企業和消費者提供更豐富的AI應用，然后和他們一起共同開展對外的服務。

不做大模型但要做大模型的發動機

自2022年底發布以來，ChatGPT成為人類歷史上率先獲得上億用戶的消費級互聯網應用。最新的GPT-4大模型，更是在法律、數學、生物學等多項測試中超過90%人類。

越來越多的國內廠商紛紛投身到大模型領域，但譚待在多個場合公開表示，火山引擎不做大模型。

雖然不做大模型，但火山引擎并未缺席大模型領域。譚待表示，國內很多科技公司投入到大模型建設中，他們有優秀的技術團隊，也有豐富的行業知識和創新想法，但往往缺乏經過大規模場景實踐的系統工程能力?；鹕揭嬉龅木褪菫榇竽Ｐ涂蛻籼峁└叻€定性和高性價比的AI基礎設施。

在ChatGPT引爆這一輪AI熱潮之前，火山引擎上早已運行了不少模型，包括來自字節跳動旗下的業務，以及很多垂直行業已經有模型在火山引擎上訓練。比如抖音的推薦廣告上有大規模的模型訓練場景，生物制藥、自動駕駛等垂直行業從去年開始在火山引擎上的訓練模型已經呈現出越來越大的趨勢。

譚待表示：“火山引擎在大模型的很多場景有非常多的打磨和實戰經驗，從去年看到模型發展變化的趨勢之后，針對客戶的新需求，火山引擎做很多優化，這為后來很多大模型廠商選擇火山引擎打下來基礎?！?/p>

據悉，此次發布的火山引擎機器學習平臺，經過抖音等海量用戶業務長期打磨，可以支持單任務萬卡級別的超大規模分布式并行訓練場景。GPU彈性計算實例可靈活調度資源，隨用隨取，最高可以為客戶節省70%的算力成本。

更快、更穩、更省

譚待透露，火山引擎的大模型云平臺獲得智譜AI、昆侖萬維等眾多企業的良好反饋。國內大模型領域，七成以上已是火山引擎客戶。

為什么大量的大模型廠商選擇火山引擎呢？譚待表示，大模型需要大算力，所以對算力成本有很強的訴求?？梢哉f成本是云計算的關鍵競爭力，也是客戶最看中的事情。

畢竟對于企業來說，業務創新需要試錯，試錯要大膽、敏捷，但試錯也一定要控制成本。通過潮汐、混部等方式，火山引擎實現資源的高利用率和極低成本。以抖音推薦系統為例，工程師用15個月的樣本訓練某個模型，5小時就能完成訓練，成本只有5000元?；鸨W的抖音“AI繪畫”特效，從啟動到上線只用一周多時間，模型由一名算法工程師完成訓練。

但對于云計算的客戶來說，光便宜是不夠的，并且不可持續的。想要真正的留客戶，還需要通過技術手段，可持續的把產品做好。

火山引擎針對大模型領域的需求，推出的新版機器學習平臺，支持萬卡級大模型訓練、微秒級延遲網絡，可以讓大模型訓練更穩更快，能夠幫助企業很好的去應用好算力，進一步提升效率。

MiniMax是目前國內少數已經推出自研大模型產品的AI技術公司，擁有文本、視覺、聲音三種通用大模型引擎能力。據MiniMax聯合創始人楊斌介紹，MiniMax與火山引擎合作建立了超大規模實驗平臺，實現千卡級常態化訓練；超大規模推理平臺有萬卡級算力池，支撐單日過億次調用。在火山引擎的云上，MiniMax大模型業務實現快速突破。

“我們能吸引MiniMax的點，除了算力供給之外，最重要的是通過機器學習幫它解決了很多工程上的問題，讓它能夠把資源更好地集中在自己模型的訓練、分析和提效上?！弊T待說道，“我們把底層的工程問題幫它解決好，客戶在火山引擎上運行的效率才能更高?！?/p>

多云多模態時代到來

譚待表示，在大模型及下游應用發展推動下，無論傳統企業還是初創企業，對AI算力都有迫切需求，企業使用多家云服務將成為常態。同時，各行業有自己高質量的私有語料，大模型不會一家獨大，而是會在千行百業生長，形成多模型共生甚至協作的生態?！拔磥韺⑹恰嘣贫嗄Ｐ汀臅r代?！?/p>

因為大模型的訓練往往需要大算力，算力需求越大的時候，啟動門檻越高，通過公有云的商業模式，可以讓啟動成本降低，對于企業來說意味著不用冒太多風險。

可以預見，大模型將帶動云上AI算力急劇增長，AI算力的工作負載與通用算力的差距會越來越小，這會為各家云廠商帶來新的機會，同時也會對數據中心、軟硬件棧、PaaS平臺帶來新的挑戰。

以數據中心的算力結構為例，譚待表示：“大模型需要大算力，虛擬化會帶來資源損耗，規模越大就損耗越多。未來3年內，大規模的算力中心，都將形成‘CPU+GPU+DPU’的混合算力結構，CPU負責通用計算，GPU負責AI計算，DPU負責資源卸載、加速和隔離，提升資源效率”。

在此次原動力大會上，火山引擎還發布了新一代自研DPU，實現了計算、存儲、網絡的全組件卸載，釋放更多資源給業務負載?；鹕揭姹M管是“最年輕”的云廠商，其自研DPU已達到業界領先水平，網絡性能高達5000萬pps轉發能力、延遲低至20us?；谧匝蠨PU的各類計算實例性能也有顯著提升，例如適用于大模型分布式并行訓練場景的GPU實例，相較上一代實例集群性能最高提升3倍以上。