KAIST于19日表示,电气及电子工程系研究团队在Kim Dongju教授带领下,与美国东北大学、波士顿大学及西班牙穆尔西亚大学研究团队开展联合研究,开发出一项使“存内计算(Processing-in-Memory,以下简称PIM)”半导体通信性能较既有技术提升11倍的方案。
近年来,随着人工智能、大数据和生命科学等研究中内存带宽占比不断提高,在内存内部布置运算单元的PIM半导体的研发也日益活跃。
联合研究团队指出,他们解决了传统PIM半导体在利用内部装置进行运算时,通信阶段必须经由与PIM半导体外部相连的中央处理器(CPU)这一瓶颈问题。通过这一技术,PIM半导体的通信性能最高可提升至原来的11倍。
为此,Kim Dongjun教授研究团队首先阐明了传统PIM半导体在内存内部运算单元之间通信结构方面的局限性,随后提出一种方法:最大限度利用原本存在于内存内部、用于数据移动的总线结构,直接连接运算单元,并引入“互连网络(interconnection network)”结构。
通过这一思路,联合研究团队在为PIM半导体设计运算流程时,将负责通信处理的CPU介入程度降至最低,构建出一套专门针对PIM半导体优化的互连网络结构。
互连网络是包含多重运算单元的大规模系统设计中所采用的运算单元间连接结构,被视为含多重运算单元的系统设计中不可或缺的要素。系统规模越大,互连网络的重要性就越突出。
此外,内存工艺本身存在难以增加复杂逻辑电路的技术难题。但Kim Dongjun教授团队开发的这一网络结构,成功在PIM中实现了高效的互连。
该结构针对在并行计算和机器学习领域广泛应用的集合通信(collective communication)模式进行了专项优化,并利用集合通信可预先掌握各运算单元通信量和数据移动路径这一确定性(determinism)特征,将传统网络中带来高成本的关键组件降到最低。
例如,既有PIM半导体由于通信必须经由CPU,不可避免地要承受相当程度的性能损失。但若采用联合研究团队开发的PIM专用互连网络,与传统系统相比,应用程序性能可实现飞跃式提升。这得益于最大化利用PIM半导体内部内存带宽,并且随着PIM内存系统规模扩大,其通信性能的可扩展性也同步提高。
Kim Dongjun教授表示:“减少数据移动是包括PIM在内的所有系统半导体的核心要素。PIM有望提升计算系统的性能和效率,但由于PIM运算单元之间的数据移动会对性能扩展性形成制约,其应用领域目前仍较为有限。本次联合研究开发的PIM互连技术,有望成为破解这一难题的解决方案。”
本研究在韩国研究财团、三星电子以及信息通信规划评价院的“下一代智能半导体技术开发项目”资助下完成。
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。