基本信息:
- 专利标题： 通用型AI并行推理加速结构以及推理设备
- 申请号：CN202110399639.1 申请日：2021-04-14
- 公开(公告)号：CN113128688A 公开(公告)日：2021-07-16
- 发明人： 范云潜 , 刘晨光 , 徐靖涵 , 张昊懿 , 康旺 , 潘彪
- 申请人： 北京航空航天大学
- 申请人地址： 北京市海淀区学院路37号
- 专利权人： 北京航空航天大学
- 当前专利权人： 北京航空航天大学
- 当前专利权人地址： 北京市海淀区学院路37号
- 代理机构： 北京三友知识产权代理有限公司
- 代理人： 单晓双; 叶明川
- 主分类号： G06N5/04
- IPC分类号： G06N5/04 ; G06N3/02
摘要：
本发明提供一种通用型AI并行推理加速结构以及推理设备，该结构包括：数据重排模块以及连接在所述数据重排模块输出端的向量处理模块；所述数据重排模块接收待处理数据、卷积神经网络模型参数，所述卷积神经网络模型参数包括：权重以及偏置，根据控制信号将所述待处理数据重排得到特征图向量，根据控制信号将所述权重重排得到权重向量，并将所述特征图向量、所述权重向量以及所述偏置发送至所述向量处理模块；所述向量处理模块对所述特征图向量以及所述权重向量进行内积操作后进行偏置叠加，实现基于数据重排的内积运算，增强了计算的通用性，减少所需计算模块的类别，提升计算效率，实现卷积神经网络整体的推理加速。
公开/授权文献:
- CN113128688B 通用型AI并行推理加速结构以及推理设备 公开/授权日：2022-10-21
IPC结构图谱:
| G | 物理 |
| --G06 | 计算；推算；计数 |
| ----G06N | 基于特定计算模型的计算机系统 |
| ------G06N5/00 | 利用基于知识的模式的计算机系统 |
| --------G06N5/04 | .推理方法或设备 |