本文档属于类型a（单篇原创研究报告），以下是针对该研究的学术报告：
基于ReRAM的存内计算架构中计算卸载的编译工具研究
一、作者与发表信息
本研究由Hai Jin、Bo Lei、Haikun Liu、Xiaofei Liao、Zhuohui Duan、Chencheng Ye和Yu Zhang（均来自华中科技大学）合作完成，发表于ACM Transactions on Architecture and Code Optimization期刊2023年10月刊（Volume 20, Issue 4, Article 47）。
二、学术背景
研究领域：本研究属于计算机体系结构与编译器优化的交叉领域，聚焦于存内计算（Computing-in-Memory, CIM）架构的编程工具开发。
研究动机：传统冯·诺依曼架构存在“内存墙”问题，而基于非易失性存储器（Non-Volatile Memory, NVM）的CIM架构通过直接在内存中执行计算（如矩阵-向量乘法）显著提升了能效。然而，现有CIM加速器需要重新设计软件以适配异构架构，限制了其广泛应用。
研究目标：开发一种基于LLVM（Low-Level Virtual Machine）的编译工具（RCCT），能够自动将传统程序迁移至CPU/CIM异构架构，无需修改源代码或二进制文件，同时支持多种可加速的计算模式（如矩阵运算、位图逻辑操作）。
三、研究流程与方法
计算模式定义与识别
- 研究对象：从LLVM中间表示（IR）中识别四种可加速模式：
- 矩阵-向量乘法（Matrix-Vector Multiplication, MVM）
- 矩阵-矩阵乘法（Matrix-Matrix Multiplication, MMM）
- 库函数（如BLAS中的
gemv和gemm）
- 位图逻辑操作（如AND/OR）。
- 方法：通过分析LLVM IR的循环结构和指令依赖关系，提取关键变量（如矩阵起始地址、维度）。对于二进制文件，使用反编译工具（如McSema）生成IR后重新排序块以恢复控制流图。
性能建模
- 提出量化模型，评估将计算卸载至CIM加速器的净收益。例如，MVM的收益模型为：
[ \text{Benefit}{\text{MVM}} = T{\text{CPU}} - (T{\text{DataMap}} + T{\text{Com&ADC}}) ]
其中(T{\text{CPU}})为CPU执行时间，(T{\text{DataMap}})为数据映射至ReRAM的时间，(T_{\text{Com&ADC}})为模拟计算与模数转换时间。
- 模型考虑了ReRAM阵列规模（如128×128）、数据精度（16位）及共享ADC等硬件约束。
代码转换与API生成
- 工具开发：基于LLVM基础设施，将识别出的可加速IR模式替换为CIM加速器专用API（如
cim_mvm、cim_bitmap_logic）。
- 代码插桩：在IR中插入条件分支，动态决定是否卸载计算至CIM（基于性能模型）。对于无源代码的二进制文件，通过反编译生成IR后执行相同流程。
实验验证
- 测试平台：使用模拟框架MHSIM（结合Zsim和NeuroSim）模拟CPU/CIM异构系统，配置包括20核Intel Xeon CPU和128×128 ReRAM阵列。
- 测试集：涵盖PolyBench/C基准测试（如
gemm、mvt）、数据库操作（FastBit）、图处理（BFS）及SPEC CPU 2017子集。
- 对比方案：与现有工具TDO-CIM对比识别准确率与性能提升。
四、主要结果
模式识别准确率
- 对源代码生成的IR，RCCT识别准确率达97.8%~100%；对反编译IR，因指令膨胀和语义丢失，准确率降至52.7%~68.6%，但仍优于TDO-CIM（仅支持MVM/MMM）。
- 关键数据：在MNIST分类任务中，RCCT识别出97.8%的可加速模式，而TDO-CIM仅82.4%。
性能与能效提升
- 性能：PolyBench-3MM程序加速比最高达51倍（相比CPU），库函数
cblas_sgemm因多线程优化仅提升2倍。
- 能效：ReRAM的模拟计算特性使能效提升最高达309倍（3MM任务），平均提升87倍。
- 二进制兼容性：反编译后程序的加速比略低（如MNIST任务从37×降至28×），主因是反编译引入的额外指令。
性能模型有效性
- 模型成功过滤小规模矩阵的无效卸载（如100×100矩阵卸载导致性能下降），仅对大规模计算（如1024×1024矩阵）启用CIM加速。
五、结论与价值
科学价值
- 首次提出从LLVM IR层抽象CIM加速模式的方法，解决了传统方案需重写代码或依赖特定框架（如TensorFlow）的局限性。
- 性能模型为异构计算卸载提供了量化决策依据，可推广至其他PIM（Processing-in-Memory）架构。
应用价值
- RCCT支持主流编程语言（C/C++）和二进制文件，显著降低了CIM加速器的使用门槛。
- 为神经网络的训练（而不仅是推理）提供了可行的异构加速方案。
六、研究亮点
- 方法创新：
- 通过LLVM IR实现语言无关的模式识别，兼容源代码与二进制文件。
- 提出动态卸载决策机制，结合硬件参数（如ReRAM写入延迟）优化性能。
- 实验全面性：覆盖从微基准测试到真实应用（如加密算法McEliece），验证了工具的普适性。
- 开源贡献：工具链集成LLVM和McSema，代码可复用以适配其他NVM架构。
七、其他价值
- 针对ReRAM的位图操作优化，为数据库查询等场景提供了新加速思路（如Amazon-2008图数据BFS加速）。
- 讨论了反编译工具局限性对性能的影响，为后续二进制分析工具的开发提供了改进方向。
（全文约2000字，涵盖研究全貌及技术细节）