浙江大华技术股份有限公司张学涵获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉浙江大华技术股份有限公司申请的专利一种模型部署方法、装置、电子设备及存储介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN116301915B 。
龙图腾网通过国家知识产权局官网在2026-04-17发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202211739597.2,技术领域涉及:G06F8/60;该发明授权一种模型部署方法、装置、电子设备及存储介质是由张学涵;张朋;蔡丹平;周祥明设计研发完成,并于2022-12-31向国家知识产权局提交的专利申请。
本一种模型部署方法、装置、电子设备及存储介质在说明书摘要公布了:本申请公开了一种模型部署方法、装置、电子设备及存储介质,首先随机生成待部署的神经网络模型的各个结构层的各个第一量化比特位,然后得到神经网络模型的各个第一量化比特位组合,按照各个第一量化比特位组合量化压缩后得到各个第一候选量化模型,然后在待部署的目标设备上对各个第一候选量化模型进行测试,根据预测时间和准确度均满足要求的第一候选量化模型确定目标量化模型,最后将目标量化模型部署到目标设备。因此本申请可以实现根据目标设备的性能自适应确定目标量化模型的方案,能够保证目标设备在运行目标量化模型时兼顾速度和准确度。
本发明授权一种模型部署方法、装置、电子设备及存储介质在权利要求书中公布了:1.一种模型部署方法,其特征在于,所述方法包括: 针对待部署的神经网络模型的各个结构层,随机生成所述结构层的各个第一量化比特位;根据所述各个结构层各自的各个第一量化比特位,确定出所述神经网络模型的各个第一量化比特位组合; 按照所述各个第一量化比特位组合分别对所述神经网络模型进行量化压缩,得到各个第一候选量化模型; 通过待部署的目标设备对所述各个第一候选量化模型进行测试,得到所述各个第一候选量化模型的预测时间和准确度; 根据所述各个第一候选量化模型的预测时间和准确度均满足要求的第一候选量化模型,确定目标量化模型,将所述目标量化模型部署到所述目标设备; 若不存在所述预测时间和准确度均满足要求的第一候选量化模型,所述方法还包括: 根据所述各个第一候选量化模型的预测时间和准确度,选取预设第一数量的第一优势量化比特位组合;根据各个第一优势量化比特位组合,确定各个量化比特位的第一概率分布; 根据所述各个量化比特位的第一概率分布,随机生成所述各个结构层各自的各个第二量化比特位; 基于所述各个结构层各自的各个第二量化比特位,进行量化模型部署; 所述基于所述各个结构层各自的各个第二量化比特位,进行量化模型部署包括: 根据所述各个结构层各自的各个第二量化比特位,确定出所述神经网络模型的各个第二量化比特位组合; 按照所述各个第二量化比特位组合分别对所述神经网络模型进行量化压缩,得到各个第二候选量化模型; 通过待部署的目标设备对所述各个第二候选量化模型进行测试,得到所述各个第二候选量化模型的预测时间和准确度; 根据所述各个第二候选量化模型的预测时间和准确度,选取预设第二数量的第二优势量化比特位组合;根据各个第二优势量化比特位组合,确定各个量化比特位的第二概率分布;直至确定出预测时间和准确度均满足要求的候选量化模型。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人浙江大华技术股份有限公司,其通讯地址为:310053 浙江省杭州市滨江区滨安路1187号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励