基本信息:
- 专利标题： 基于插件的任务处理方法、装置、电子设备及存储介质
- 申请号：CN202410804768.8 申请日：2024-06-20
- 公开(公告)号：CN118819549A 公开(公告)日：2024-10-22
- 发明人： 邱国庆 , 王超 , 吴韶华
- 申请人： 苏州元脑智能科技有限公司
- 申请人地址： 江苏省苏州市吴中经济开发区郭巷街道官浦路1号9幢
- 专利权人： 苏州元脑智能科技有限公司
- 当前专利权人： 苏州元脑智能科技有限公司
- 当前专利权人地址： 江苏省苏州市吴中经济开发区郭巷街道官浦路1号9幢
- 代理机构： 北京润泽恒知识产权代理有限公司
- 代理人： 姜影
- 主分类号： G06F8/60
- IPC分类号： G06F8/60 ; G06F8/71 ; G06F9/48
摘要：
本发明提供了一种基于插件的任务处理方法、装置、电子设备及存储介质，方法包括：响应于接收到用户发起针对模型推理任务的请求信息，获取所述模型推理任务匹配的上下文信息和目标插件对应的插件参数，所述目标插件为所述用户指示开启的插件；基于所述请求信息、所述上下文信息和所述插件参数，生成第一请求数据；调用第一插件基于所述第一插件的插件参数对所述第一请求数据进行前处理，得到第二请求数据；调用模型推理引擎基于第二请求数据执行模型推理任务，得到第一推理响应数据；调用第二插件对所述第一推理响应数据进行后处理，得到第二推理响应数据，并将所述第二推理响应数据发送给所述用户，所述目标插件包括所述第一插件和所述第二插件。