西安电子科技大学余晓杉获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉西安电子科技大学申请的专利基于网内计算的分布式机器学习梯度同步方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN117376284B 。
龙图腾网通过国家知识产权局官网在2026-05-05发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202210742272.3,技术领域涉及:H04L49/20;该发明授权基于网内计算的分布式机器学习梯度同步方法及系统是由余晓杉;任泽昂;顾华玺;王佳昆;王琨设计研发完成,并于2022-06-28向国家知识产权局提交的专利申请。
本基于网内计算的分布式机器学习梯度同步方法及系统在说明书摘要公布了:本发明公开了一种基于网内计算的分布式机器学习梯度同步方法,包括:构建分布式机器学习集群;构建训练集并为每个计算节点分配训练集子集;在每个计算节点处构建卷积神经网络,利用每个计算节点所分配的训练集子集对当前计算节点处的卷积神经网络进行训练以在每个计算节点上产生一份梯度数据;利用可编程交换机和服务器对所有计算节点上的梯度数据块进行数据混合同步,以使所有计算节点上的梯度数据融合后的完整梯度数据;利用完整梯度数据对卷积神经网络的参数进行更新;迭代训练卷积神经网络,获得训练后的卷积神经网络模型。本发明可以大幅缩减链路中传输的数据量,缓解服务器节点网卡处的拥塞问题,提高服务器同步模式的通信效率。
本发明授权基于网内计算的分布式机器学习梯度同步方法及系统在权利要求书中公布了:1.一种基于网内计算的分布式机器学习梯度同步方法,其特征在于,包括: S1:构建分布式机器学习集群,包括一台可编程交换机和分别连接至该交换机的多台服务器,每台服务器配置有多个计算节点; S2:构建训练集并为每台服务器的每个计算节点分配训练集子集; S3:在每个计算节点处构建卷积神经网络,利用每个计算节点所分配的训练集子集对当前计算节点处的卷积神经网络进行训练以在每个计算节点上产生一份梯度数据; S4:利用所述可编程交换机和所述服务器对所有计算节点上的梯度数据块进行数据混合同步,以使每个计算节点获得所有计算节点上的梯度数据融合后的完整梯度数据; S5:利用所述完整梯度数据对每个卷积神经网络的参数进行更新; S6:迭代训练卷积神经网络,获得训练后的卷积神经网络模型; 所述S4包括: S41:对所有计算节点上的梯度数据块执行归约-分散,以使每台服务器内的每个计算节点获得当前服务器内所有节点处融合后的梯度数据; S42:对每个计算节点融合后的梯度块进行数据切片,获得多个数据包并发送至可编程交换机对应的聚合插槽内; S43:利用可编程交换机对应的聚合插槽对接受到的计算节点的数据包进行数据聚合并将聚合后的数据广播至所有服务器的相应计算节点; S44:所有服务器中的对应计算节点在接收到聚合后的数据后对当前服务器中的原始数据进行覆盖和替换; S45:对每个服务器内的所有计算节点的当前数据进行全聚集,以使每台服务器内的每个计算节点获得所有计算节点上的梯度数据融合后的完整梯度数据; 进一步的,所述S43包括: S43a:为所述可编程交换机的每个插槽均设置一个计数器B,初始值置0; S43b:在所述可编程交换机接收到数据包时,将数据包的向量聚合到由数据包的池索引寻址的插槽中,对应插槽每接收到来自一个服务器的数据包后,将当前数据包中的向量与插槽中已经聚合的向量相加,并将该插槽的计数器B的值加1; S43c:当某个插槽的计数器值达到服务器的数量,可编程交换机使用插槽中的聚合数据更新原数据包p中的向量并将更新后的数据包广播至每台服务器,同时将当前插槽的聚合向量和计数器B置零。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人西安电子科技大学,其通讯地址为:710071 陕西省西安市太白南路2号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励