芯原超低能耗NPU可為移動(dòng)端大語(yǔ)言模型推理提供超40 TOPS算力
其超低能耗且高性能的神經(jīng)網(wǎng)絡(luò)處理器(NPU)IP現(xiàn)已支持在移動(dòng)端進(jìn)行大語(yǔ)言模型(LLM)推理,AI算力可擴(kuò)展至40 TOPS以上。
其超低能耗且高性能的神經(jīng)網(wǎng)絡(luò)處理器(NPU)IP現(xiàn)已支持在移動(dòng)端進(jìn)行大語(yǔ)言模型(LLM)推理,AI算力可擴(kuò)展至40 TOPS以上。