芯原與谷歌合作推出基于RISC-V架構(gòu)的NPU IP
11月13日消息，芯原股份（VeriSilicon）宣布與谷歌聯(lián)合推出面向始終在線、超低能耗端側(cè)大語言模型應(yīng)用的Coral NPU IP。
該IP基于谷歌在開放機(jī)器學(xué)習(xí)編譯器方面的基礎(chǔ)研究成果，并結(jié)合AI的安全特性進(jìn)行了強(qiáng)化，為開發(fā)者提供統(tǒng)一的開源技術(shù)平臺，以構(gòu)建強(qiáng)大的邊緣AI生態(tài)系統(tǒng)。
據(jù)悉，Coral NPU基于RISC-V開放指令集架構(gòu)標(biāo)準(zhǔn)構(gòu)建，引入原生張量處理能力，支持主流機(jī)器學(xué)習(xí)框架，如JAX、PyTorch和TensorFlow Lite (TFLite)，并采用基于開放標(biāo)準(zhǔn)的工具，例如來自低級虛擬機(jī) (LLVM) 項目的多級中間表示 (MLIR)，作為編譯器基礎(chǔ)設(shè)施。其設(shè)計面向始終在線、超低能耗的邊緣AI應(yīng)用，尤其適用于可穿戴設(shè)備和泛在感知系統(tǒng)。
目前，芯原正在開發(fā)基于Coral NPU IP的驗證芯片，面向AI/AR眼鏡與智能家居等應(yīng)用，以加速大語言模型在邊緣端的部署。
（JSSIA整理）