業(yè)界越來越多地談?wù)?RISC-V 架構(gòu)帶來的好處，但它真的是一個正確的起點(diǎn)嗎？雖然它可能并不完美，但它或許能提供逐步推進(jìn)所需的靈活性。

計算機(jī)架構(gòu)和軟件的發(fā)展沿襲了 80 年前處理器的發(fā)展軌跡。它們旨在利用基礎(chǔ)技術(shù)來解決順序標(biāo)量算術(shù)問題，只要有足夠的內(nèi)存，這種技術(shù)就能解決任何有限問題。

芯片行業(yè)已表現(xiàn)出不愿放棄這種做法，尤其是在那些仍在使用 50 年前開發(fā)的軟件的行業(yè)。軟件范式和向后兼容性有著巨大的影響。編程花了幾十年的時間才以任何有意義的方式從單處理器遷移到多處理器架構(gòu)，直到 NVIDIA 開發(fā)出 CUDA，針對大規(guī)模并行處理器的應(yīng)用程序才開始在高度專業(yè)化的應(yīng)用程序之外進(jìn)行開發(fā)。

那么，當(dāng)許多應(yīng)用程序的典型工作負(fù)載是數(shù)據(jù)流問題且控制量較小時，為什么業(yè)界需要另一種 CPU 架構(gòu)呢？答案在于 RISC-V 架構(gòu)可以有多種演進(jìn)方式，其中一些方式可能支持緩慢遷移，而不是試圖跨越巨大的鴻溝。

幾周前，RISC-V 社區(qū)在歐洲舉行了年度峰會，展示了 RISC-V 日益廣泛的應(yīng)用及其日益增長的影響力，尤其是在那些沒有太多遺留軟件阻礙其發(fā)展的應(yīng)用領(lǐng)域。RISC-V 國際首席執(zhí)行官 Andrea Gallo 表示：「RISC-V 不再只是你之前甚至都不知道的微型嵌入式微控制器，它已經(jīng)融入到你的產(chǎn)品中了。RISC-V 已經(jīng)進(jìn)入了一個全新的階段?！?/p>

這一觀點(diǎn)得到了其他人的支持。「與往年歐洲的展會相比，今年的工業(yè)界參會者數(shù)量大幅增加，」新思科技業(yè)務(wù)發(fā)展執(zhí)行總監(jiān) Larry Lapides 表示。「內(nèi)容更多地來自工業(yè)界，這改變了會議的基調(diào)。我們看到，RISC-V 開始涉足一些五年前我們意想不到的領(lǐng)域。」

他舉了幾個重大進(jìn)展的例子。「Infinium 表示他們正在將 RISC-V 用于汽車，」他說道?！笟W盟正在資助 HPC 項目和汽車項目。Meta 正在其加速器卡中將其用于 AI。NVIDIA 估計，去年，也就是 2024 年，他們的 GPU 中 RISC-V 核心的出貨量將達(dá)到 10 億。」

其他人則強(qiáng)調(diào)了 RISC-V 在尖端處理器領(lǐng)域的重大進(jìn)步?！杆粌H應(yīng)用于低端處理器，在某些領(lǐng)域，它還可以作為 GPU 的協(xié)處理器或加速器，」新思科技首席產(chǎn)品經(jīng)理 Mohit Wani 表示?！窷VIDIA 在一次演示中表示，他們的產(chǎn)品組合中有近 30 種不同類型的功能，而基于 RISC-V 的內(nèi)核正在實現(xiàn)這 30 多種功能?！?/p>

一些商業(yè)和技術(shù)障礙仍需克服?！钙囆袠I(yè)越來越多地關(guān)注 RISC-V，」弗勞恩霍夫 IIS 自適應(yīng)系統(tǒng)工程部設(shè)計方法負(fù)責(zé)人 Roland Jancke 表示。「他們一直猶豫不決，因為 RISC-V 是一個開放式架構(gòu)。在汽車行業(yè)，如果出現(xiàn)問題，你總是需要有人來負(fù)責(zé)。如果你沒有單一的供應(yīng)商，而是一個社區(qū)，這很難。今天，由于潛在的成本降低，他們越來越多地關(guān)注 RISC-V，因為在汽車行業(yè)，你會想方設(shè)法降低價格。然而，你需要有一個生態(tài)系統(tǒng)。僅僅擁有能夠開發(fā)處理器的工具是不夠的，還需要基于此的軟件。RISC-V 正在取得進(jìn)展，但要讓 RISC-V 處理器成為汽車領(lǐng)域的主力，還有很長的路要走?！?/p>

然而，并非所有人都認(rèn)為這一點(diǎn)值得關(guān)注。Quadric 首席營銷官 Steve Roddy 表示：「RISC-V 并非 AI 的解決方案——既不適用于訓(xùn)練，也不適用于推理。RISC - V 只不過是另一種控制 CPU，與 Arm、x86、MIPS、Xtensa 和 ARC 處理器一脈相承。后兩者也為設(shè)計人員提供了與 RISC-V 類似甚至更勝一籌的指令集定制能力。因此，RISC-V 的技術(shù)特性并未使其比前代產(chǎn)品有顯著的提升。」

要將兩種極端觀點(diǎn)結(jié)合起來，需要對行業(yè)運(yùn)作方式有長期的理解?！窻ISC-V 有能力推動 AI 的演進(jìn)，」微芯科技 FPGA 部門系統(tǒng)架構(gòu)和嵌入式解決方案高級總監(jiān) Venki Narayanan 表示?！窤I 需要這種演進(jìn)。它正在不斷發(fā)展。無論是在學(xué)習(xí)層面還是推理層面，模型都在不斷發(fā)展。它需要各種數(shù)據(jù)類型、各種存儲元素、本地內(nèi)存，并且能夠以更快的方式進(jìn)行更多自定義計算。如果你仔細(xì)觀察，就會發(fā)現(xiàn)有很多方法可以實現(xiàn)這一點(diǎn)。RISC-V 正通過特定領(lǐng)域的架構(gòu)來實現(xiàn)這一點(diǎn)?！?/p>

獨(dú)一無二的機(jī)遇

在芯片行業(yè)，很少有應(yīng)用能夠脫離傳統(tǒng)軟件而出現(xiàn)。然而，人工智能卻發(fā)生了這樣的事情。此外，鑒于技術(shù)發(fā)展速度之快，任何軟件都不可能在成熟之前就再次被顛覆。這為持續(xù)演進(jìn)和適應(yīng)創(chuàng)造了完美的環(huán)境。

Synopsys 的 Lapides 表示：「由于無需支持舊版軟件，你真的可以根據(jù)工作負(fù)載定制處理器，并省去不必要的功能。在架構(gòu)層面，甚至在微架構(gòu)層面，仍然可以進(jìn)行大量優(yōu)化，包括設(shè)計流水線、緩存和內(nèi)存。而這一切都是在你開始其他事情、開始實施之前完成的?！?/p>

RISC-V 帶來的自由度實現(xiàn)了架構(gòu)的自由。RISC-V International 的 Gallo 表示：「AI 加速器卡可以擁有大量的 RISC-V 核心，甚至可以在同一個集群內(nèi)擁有不同的核心。你可以擁有數(shù)百個小模塊，每個模塊都是不同的 RISC-V 核心，一些模塊專用于數(shù)據(jù)傳入和傳出，一些模塊專用于推理本身和處理。然后，你就可以添加自定義指令，從而擁有非常高效的張量單元。這就是 RISC-V 影響芯片架構(gòu)的方式?！?/p>

雖然 RISC-V 許可增加了成本優(yōu)勢，但這并不是唯一的原因?！杆囊饬x遠(yuǎn)不止于此，」Synopsys 的 Wani 說道?！溉绻阌^察加速器連接到處理器的方式，你會發(fā)現(xiàn)它是通過一個快速接口，通常采用內(nèi)存映射的方式。從開發(fā)者的角度來看，如果你想在加速器上完成工作，你需要通過接口將數(shù)據(jù)和任務(wù)信息發(fā)送到加速器，然后等待加速器發(fā)回結(jié)果?！?/p>

但這種通信成本高昂，而且意味著核心處于閑置狀態(tài)?！改憷速M(fèi)了 30% 的時間來發(fā)送數(shù)據(jù)并獲取結(jié)果，」Wani 說?！溉绻隳茉赝瓿蛇@些特定的操作，通過你自己的矢量流水線發(fā)送數(shù)據(jù)，然后直接連接到加速器，就可以避免所有這些時間。這種靈活性只存在于 RISC-V 的世界里。」

Quadric 的 Roddy 對此并不認(rèn)同。「所有控制 CPU 在應(yīng)用于 AI 應(yīng)用，尤其是推理應(yīng)用時，都會面臨同樣嚴(yán)重的限制，」他說道?！窩PU 的設(shè)計初衷是追蹤隨機(jī)代碼中的指針。它們不是矩陣或張量引擎。這些 CPU 充其量只能提供向量 * 向量的計算吞吐量。它們受限于傳統(tǒng)的加載/存儲帶寬瓶頸。因此，每種聲稱使用 RISC-V 進(jìn)行 AI 開發(fā)的方法都必須捆綁一個單獨(dú)的矩陣引擎，這會引入圖形分區(qū)問題，而這正是基于 CPU 的方法的致命弱點(diǎn)。應(yīng)對 AI 問題的適當(dāng)創(chuàng)新是創(chuàng)建本質(zhì)上針對（矩陣 * 矩陣）或（張量 * 張量）進(jìn)行優(yōu)化的架構(gòu)，并打破以 CPU 為中心對內(nèi)存緩存和推測性亂序流水線的依賴?！?/p>

RISC-V 實現(xiàn)了這些功能，并將其封裝在傳統(tǒng)的控制處理器中?！肝覀兊囊恍┏蓡T已經(jīng)擁有自定義張量指令，」Gallo 說道?！高@就是 RISC-V 的靈活性。您可以根據(jù)特定的工作負(fù)載開發(fā)自定義指令，然后承擔(dān)定制特定應(yīng)用的全部擁有成本。標(biāo)準(zhǔn)化和擴(kuò)展規(guī)范也很有價值，這樣我們就可以分擔(dān)維護(hù)編譯器、工具鏈和庫的成本。我們有矢量，我們正在研究矩陣，并且根據(jù)應(yīng)用用例，將有不同的矩陣方法。無論是加速器卡，還是 AI IoT 應(yīng)用或邊緣 AI，都會有不同的矩陣加速方法?！?/p>

由于沒有其他候選方案，你只能利用現(xiàn)有資源。Microchip 的 Narayanan 表示：「數(shù)據(jù)流在人工智能和許多計算元素中都非常重要。計算需求不斷增長，需要以更節(jié)能的方式實現(xiàn)。這不僅僅是指令、取指、執(zhí)行和寫回的微架構(gòu)。關(guān)鍵在于如何組織微架構(gòu)和數(shù)據(jù)流。如何讓數(shù)據(jù)進(jìn)出——尤其是大量數(shù)據(jù)從一層傳輸?shù)搅硪粚?。你不能一直往前走，然后再寫?DDR?！?/p>

隨著人工智能的快速發(fā)展，需要具備高度的靈活性?！感枰咝嵤┑哪Ｐ皖愋驼诓粩嘣龆?，」Microchip 人工智能和通信部門負(fù)責(zé)人 Nilam Ruparelia 表示?！窩hatGPT 需要 Transformer，這也是人工智能流行的原因，但市面上有很多模型的復(fù)雜度遠(yuǎn)低于 Transformer。這些模型也需要更高的性能。例如，經(jīng)典的 CNN、RNN 和 LSTM 需要數(shù)學(xué)模塊架構(gòu)和 DSP 模塊架構(gòu)，以便更好地適應(yīng)這些 Transformer 或模型，從而大幅提升性能?！?/p>

人工智能并非只有一個問題，靈活性依然重要。「人工智能有多個層次，」Narayanan 說?！赣蟹指睢ο髾z測、分類、轉(zhuǎn)換，所有這些都使用不同的數(shù)據(jù)類型。這些層次是如何實現(xiàn)的？如何高效地實現(xiàn)？如何在各個層次之間傳輸數(shù)據(jù)？這些都是我們要思考的問題，而架構(gòu)正是幫助我們構(gòu)建這些問題的?！?/p>

它不僅包含操作，還包含數(shù)據(jù)?！窻ISC-V 具有先天優(yōu)勢，你可以在不違反 ISA 規(guī)范的情況下定制硬件，」Microchip 的 Ruparelia 表示。「你可以更好地處理特定數(shù)據(jù)類型，無論是在指令級，還是在微架構(gòu)中，因此你正在為該類工作負(fù)載構(gòu)建定制的計算解決方案。這種靈活性對于快速應(yīng)對新數(shù)據(jù)類型至關(guān)重要，而且在不久的將來，新數(shù)據(jù)類型將陸續(xù)出現(xiàn)，適用于不同類型的應(yīng)用程序?！?/p>

但處理器優(yōu)化未來任務(wù)的全部要求仍然未知。「如果我們構(gòu)建一個用于邊緣推理的處理器，它可能執(zhí)行分類、檢測、分割，甚至某種變換，」Narayanan 說。「這些都是固定的層，我們知道計算元素的設(shè)計更加優(yōu)化，并貫穿這些工作流程。我們構(gòu)建了一臺針對當(dāng)今需求進(jìn)行優(yōu)化的計算機(jī)，但這并不意味著如果你有一個新的層、新的運(yùn)算符類型或類似的東西，我們就無法做到。只是它的效率不會像你當(dāng)初那樣設(shè)計的那樣高。」

生態(tài)系統(tǒng)

生態(tài)系統(tǒng)一直是某些應(yīng)用領(lǐng)域采用的一大障礙，但正在穩(wěn)步推進(jìn)。Gallo 表示?！高@向生態(tài)系統(tǒng)發(fā)出了非常強(qiáng)烈的信號。Yocto 是最普及的嵌入式 Linux 發(fā)行版。這是 Yocto 項目多年來首次添加新的 ISA 和新架構(gòu)，成為白金會員意味著 RISC-V 將與其他架構(gòu)平起平坐。Yocto 不僅用于嵌入式 Linux、邊緣 AI 物聯(lián)網(wǎng)，還用于消費(fèi)級機(jī)頂盒電視和汽車信息娛樂系統(tǒng)。」

移動領(lǐng)域正在迎頭趕上?！腹雀枰呀?jīng)將 RISC-V 打造成為 Android 開發(fā)領(lǐng)域的一流技術(shù)，」瓦尼說道?！鸽S著軟件堆棧的成熟，我們還將在移動設(shè)備、筆記本電腦等熱門領(lǐng)域看到入門級應(yīng)用核心。」

當(dāng)足夠多的領(lǐng)導(dǎo)者加入時，其他領(lǐng)導(dǎo)者也會紛紛效仿?！窻ed Hat 宣布他們已經(jīng)為 RISC-V 推出了 REL 開發(fā)者預(yù)覽版，」Gallo 說。「Fedora 也支持 RISC-V。去年 1 月，在歐洲的 FOSDEM 大會上，Canonical 透露他們正在制定計劃，讓 Ubuntu 支持 RVA23 配置文件。這意味著 RISC-V 已經(jīng)為應(yīng)用處理器和標(biāo)準(zhǔn)操作系統(tǒng)做好了準(zhǔn)備?！?/p>

大量投資正在進(jìn)行中。「歐洲另一個有趣的項目是 DARE 項目，」Lapides 說道?！冈擁椖繉⒃谖磥砦迥晖度?2.6 億至 2.8 億歐元。三家主要供應(yīng)商都在構(gòu)建芯片，而不僅僅是處理器 IP。一個是通用 CPU，一個是矢量加速器，還有一個是 AI 加速器。這些芯片將被集成。采用全新芯片架構(gòu)的 RISC-V 很有吸引力。」

結(jié)論

RISC-V 或許并非許多應(yīng)用（尤其是 AI 相關(guān)應(yīng)用）的完美解決方案，但它或許能提供一條演進(jìn)路徑。此外，目前還沒有其他方案能夠提供更好的替代方案。

半導(dǎo)體行業(yè)很少有革命能夠取得成功。通過建立一個開放且不斷發(fā)展的社區(qū)，人們能夠快速發(fā)展對當(dāng)下需求、未來需求以及未來前景的定義，或許能夠在不承擔(dān)過多風(fēng)險的情況下達(dá)到最終目標(biāo)。通過循序漸進(jìn)，生態(tài)系統(tǒng)能夠跟上步伐，穩(wěn)步前進(jìn)。