NPU不够,诚恒微为什么还给端侧AI芯片加了GPGPU?
如果只看今天端侧AI芯片的热门叙事,NPU几乎是绕不开的主角。大模型从云端向手机、PC、机器人等终端下沉,芯片厂商不断刷新TOPS,围绕Transformer、增加专用加速能力。一颗新的端侧AI芯片,似乎应该尽可能把有限的晶体管留给NPU。诚恒微却在首款旗舰SoC上做了一个不同的选择。近期在无锡举行的CH37系列边端侧AI SoC产品发布会上,诚恒微正式发布CH3715。除了48 TOPS INT8的六核NPU,CH375还集成了10核CPU(含4大4小主核及2个R8实时控制核,R8核频率达800MHz)、自研渲染GPU(358 GFLOPS)、六核NPU(48 TOPS INT8/24 TOPS FP16)、四核GPGPU(1 TFLOPS FP32,兼容CUDA生态)、双核DSP及自研FFT硬件加速器。为什么一颗端侧AI芯片,需要同时拥有NPU和GPGPU?诚恒微CEO楚立斌诚恒微CE
大模型