在2025年北美RISC-V峰会上,SiFive的高级编译工程师Min Hsu发表了关于增强SiFive AI/ML软件栈中平铺(Tiling)支持的演讲。本次演讲重点关注RISC-V向量矩阵扩展(Vector-Matrix Extension,简称VME)。
RISC-V向量矩阵扩展(VME)是一种旨在大幅提升矩阵乘法效率的指令集架构(ISA)扩展。矩阵乘法是神经网络推断和训练等现代人工智能(AI)工作负载的核心计算操作。通过硬件级支持矩阵运算,VME能够显著减少指令数量并提高数据吞吐量。
然而,要充分发挥VME的性能优势,软件栈必须进行精细的优化。Min Hsu的演讲重点介绍了SiFive如何通过引入先进的平铺技术来优化编译器和软件库。平铺是一种将大型矩阵分解为较小的、适合处理器缓存和向量寄存器大小的子块(Tiles)的技术。这种方法能够最大限度地提高数据局部性(Data Locality),减少缓存未命中(Cache Misses),并有效利用向量处理单元。
通过在SiFive的AI/ML软件栈中实施这些平铺支持,开发人员可以更高效地在基于RISC-V的芯片上部署复杂的AI模型,从而实现更快的计算速度和更低的能耗。这标志着RISC-V生态系统在高性能AI计算领域迈出了重要的一步。