英偉達4億美元收購95后華人AI初創(chuàng)企業(yè),提升GPU利用率
近日消息,英偉達以4億美元收購了位于多倫多的AI初創(chuàng)公司CentML。這家公司由95后華人王尚及其導師根納季·佩基門科(Gennady Pekhimenko)共同創(chuàng)立,專注于優(yōu)化AI應用程序的運行方式。
王尚出生于山東省青島市,高中就讀于青島二中,本科畢業(yè)于加拿大多倫多大學,并在該校攻讀碩士和博士學位。此前,王尚還在谷歌、英特爾和華為加拿大分公司實習過。
他的導師根納季·佩基門科教授是多倫多大學的副教授,也是CentML的聯(lián)合創(chuàng)始人兼CEO。王尚在CentML擔任聯(lián)合創(chuàng)始人兼CTO,負責開發(fā)能夠優(yōu)化AI模型與芯片之間運行效率的軟件。CentML通過訂閱服務和與云服務提供商的收入分成協(xié)議盈利。
王尚在2020年和2021年分別發(fā)表了兩篇頂會論文,涉及反向傳播的可擴展性和深度學習訓練工作負載的硬件效率提升。
CentML的創(chuàng)新技術主要集中在提高GPU利用率上。在2021年的一作論文中,王尚等人分析了來自頂尖研究機構(gòu)的GPU集群使用統(tǒng)計數(shù)據(jù),以深入了解典型深度學習訓練任務所實現(xiàn)的硬件效率。
研究發(fā)現(xiàn),當單加速器訓練任務被重復啟動時,例如用于超參數(shù)調(diào)優(yōu)時,它們可能會在集群范圍內(nèi)的資源消耗中占據(jù)主導地位,同時卻在很大程度上并未充分利用硬件。為此,CentML開發(fā)了HFTA(High Throughput Training Acceleration)技術,該技術在提高硬件利用率方面非常有效,其訓練吞吐量可提高高達15.1倍。
此外,CentML還開發(fā)了Seesaw,這是一種新的推理優(yōu)化技術,與目前應用最廣泛的頂尖大模型推理引擎vLLM相比,Seesaw的吞吐量最高提升1.78倍(平均提升1.36倍)。這些技術創(chuàng)新不僅提升了CentML的技術實力,也為英偉達在AI領域的布局提供了新的支持。
在此次收購前,英偉達已為CentML提供了2700萬美元的種子輪融資。該輪融資由谷歌旗下專注于AI的Gradient Ventures基金領投,德勤創(chuàng)投、湯森路透創(chuàng)投和Radical Ventures等知名風投公司跟投。當時,這筆資金曾用于在2024年底前將CentML的32人團隊擴大一倍。
消息人士透露,考慮到包括以“達到業(yè)績目標為條件的承諾”在內(nèi)的因素,該交易的總價值可能升至 4 億美元以上。因此,這筆交易可能會為CentML的早期投資者帶來豐厚回報。
收購后,原CEO佩基門科目前在英偉達擔任AI軟件高級總監(jiān),同時仍在多倫多大學擔任教職;作為原CTO的王尚目前在英偉達擔任AI軟件系統(tǒng)經(jīng)理;原首席架構(gòu)師阿南德·賈亞拉詹(Anand Jayarajan)目前在英偉達擔任工程經(jīng)理;原COO阿克巴·努爾利巴耶夫(Akbar Nurlybayev)目前在英偉達擔任AI軟件高級經(jīng)理。
此次收購是英偉達在AI領域人才爭奪戰(zhàn)的一部分,此前英偉達已收購了多家AI初創(chuàng)公司,如Deci、OctoAI和Run:ai,并從這些公司中引入了多位核心人才。英偉達通過此次收購,進一步強化了其在AI算力優(yōu)化方面的技術布局,尤其是在GPU利用率和AI模型部署效率方面。
*博客內(nèi)容為網(wǎng)友個人發(fā)布,僅代表博主個人觀點,如有侵權請聯(lián)系工作人員刪除。