基本信息:
- 专利标题： 一种加速ViT神经网络的异构存算装置及方法
- 申请号：CN202411104910.4 申请日：2024-08-13
- 公开(公告)号：CN118627566B 公开(公告)日：2024-11-12
- 发明人： 王宇宣 , 武元辰 , 宋年华 , 傅高鸣 , 梅正宇 , 潘红兵
- 申请人： 南京大学
- 申请人地址： 江苏省南京市栖霞区仙林大道163号
- 专利权人： 南京大学
- 当前专利权人： 南京大学
- 当前专利权人地址： 江苏省南京市栖霞区仙林大道163号
- 代理机构： 无锡迅牛知识产权代理事务所(普通合伙)
- 代理人： 吕永芳
- 主分类号： G06N3/067
- IPC分类号： G06N3/067 ; G06N3/065 ; G06N3/045 ; G06F18/25 ; G06F18/2415 ; G06F18/2431
摘要：
本发明公开了一种加速ViT神经网络的异构存算装置及方法，属于硬件加速神经网络的领域。所述方法针对加速ViT神经网络的计算，利用光电存算一体器件阵列实现ViT神经网络中的固定数值的存储与运算，利用DRAM存算一体器件实现ViT神经网络中的不断变化的权重值的存储与运算，结合二者执行密集型矩阵向量乘运算的优势，减小器件面积的同时，还大幅缩减了运算单元反复访问片外存储导致的时间及功耗开销，从而加速了ViT神经网络的推理过程。
公开/授权文献:
- CN118627566A 一种加速ViT神经网络的异构存算装置及方法 公开/授权日：2024-09-10
IPC结构图谱:
| G | 物理 |
| --G06 | 计算；推算；计数 |
| ----G06N | 基于特定计算模型的计算机系统 |
| ------G06N3/00 | 基于生物学模型的计算机系统 |
| --------G06N3/02 | .采用神经网络模型 |
| ----------G06N3/06 | ..物理实现，即神经网络、神经元或神经元部分的硬件实现 |
| ------------G06N3/067 | ...采用光的 |