众力资讯网

清华大学教授汪玉解读了理想马赫M100芯片的独特数据流架构,新的数据流架构对于T

清华大学教授汪玉解读了理想马赫M100芯片的独特数据流架构,新的数据流架构对于Transformer运算更友好效率更高,数据可在计算单元间直接流转,不用反复存取内存,大幅提升计算效率且不浪费算力。数据流架构和VLA 大模型结合的尝试属于前沿探索领域。核心难点在于几乎要重写编译器,无法利用CUDA生态的成熟算子,这对于理想芯片算法团队是巨大挑战。网页链接

理想在第一代自研芯片上就上创新数据流架构,这个不容易,但是风险和收益是成正比的。前段时间英特尔计划以16 亿美元收购数据流架构芯片公司 SambaNova,其主打可重构数据流单元,就是定位替代 GPU 的 AI 系统;去年年底英伟达创纪录的200 亿美元收购 Groq 核心资产,也是看中Groq主打的LPU语言处理单元,采用软件定义硬件的可重构数据流架构,可以消除AI时代的内存带宽瓶颈。