Document
拖动滑块完成拼图
个人中心

预订订单
商城订单
发布专利 发布成果 人才入驻 发布商标 发布需求

请提出您的宝贵建议,有机会获取IP积分或其他奖励

投诉建议

在线咨询

联系我们

龙图腾公众号
专利交易 商标交易 积分商城 国际服务 IP管家助手 科技果 科技人才 会员权益 需求市场 关于龙图腾 更多
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 齐鲁工业大学(山东省科学院);山东省计算中心(国家超级计算济南中心)王鑫获国家专利权

齐鲁工业大学(山东省科学院);山东省计算中心(国家超级计算济南中心)王鑫获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉齐鲁工业大学(山东省科学院);山东省计算中心(国家超级计算济南中心)申请的专利一种基于混合专家适配器的多模态个性化联邦学习方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN121638386B

龙图腾网通过国家知识产权局官网在2026-04-28发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202610156425.4,技术领域涉及:G06N3/098;该发明授权一种基于混合专家适配器的多模态个性化联邦学习方法是由王鑫;张树康;杨明;吴晓明;刘臣胜;陈振娅;穆超;贺云鹏设计研发完成,并于2026-02-04向国家知识产权局提交的专利申请。

一种基于混合专家适配器的多模态个性化联邦学习方法在说明书摘要公布了:本发明涉及一种基于混合专家适配器的多模态个性化联邦学习方法,属于多模态大模型联邦学习技术领域,方法包括:加载预训练视觉‑语言模型作为冻结主干网络,构建适配器模块,初始化共享适配器参数和私有适配器参数以完成本地模型构建;接收最新共享适配器参数并覆盖更新,继承上一轮私有适配器参数;通过本地多模态数据集训练模型,图像与文本数据经主干网络提取特征后,通过私有降维层、共享混合专家层、私有升维层,计算对比损失并更新适配器参数,统计专家网络激活累计频率生成贡献统计向量;上传相关参数后,门控网络按数据量加权平均,专家网络结合数据量与使用率加权聚合,生成全局共享模型。本发明实现多模态场景下的个性化联邦学习。

本发明授权一种基于混合专家适配器的多模态个性化联邦学习方法在权利要求书中公布了:1.一种基于混合专家适配器的多模态个性化联邦学习方法,其特征在于,所述方法包括以下步骤: S1.服务器与N个客户端分别加载预训练的视觉-语言CLIP模型作为冻结主干网络,构建适配器模块,将适配器模块划分为共享部分与私有部分;服务器初始化共享适配器参数,每个客户端初始化私有适配器参数,初始化完成后,服务器将初始化的共享适配器参数下发给所有选中的客户端,完成本地模型的构建; S2.对本地模型进行更新,第t轮通信时,每个客户端接收最新共享适配器参数,客户端将接收到的共享适配器参数覆盖本地模型中的对应部分,私有适配器参数继承客户端上一轮训练状态; S3.客户端通过本地多模态数据集训练更新后的本地模型,输入图像和文本数据,CLIP模型提取特征后,进入适配器模块;提取的特征经私有降维层、共享混合专家层、私有升维层处理后,计算图像特征与文本特征的对比损失,更新私有适配器参数和共享适配器参数,并统计共享混合专家层中每个专家网络被门控网络激活的累计频率,生成专家激活贡献统计向量; S4.客户端上传更新后的共享适配器参数及专家激活贡献统计向量,服务器根据客户端上传的信息进行分层聚合,门控网络基于客户端数据量进行加权平均,专家网络根据客户端数据量与使用率加权聚合,服务器生成新的全局共享模型,并下发至下一轮训练的客户端; S5.重复步骤S2-S4,直至全局共享模型收敛或达到预设通信轮次; 步骤S4的具体步骤为: S41.服务器收集各个客户端上传的共享适配器参数以及专家激活贡献统计向量; S42.服务器根据客户端数据集大小和确定聚合权重,对门控网络采用基于数据量的标准加权平均: ; 其中,N为参与聚合的客户端数,表示第i个客户端本地数据集的样本数量,表示第i个客户端上传的门控参数; S43.对于专家网络采用动态感知聚合,对于第个专家,聚合权重由数据量与第K个专家的使用率共同决定: ; 其中,表示第i个客户端本地数据集的样本数量,表示客户端i中专家k的权重,表示客户端i中专家k的网络参数; S44.聚合完成后,服务器生成新的全局共享模型。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人齐鲁工业大学(山东省科学院);山东省计算中心(国家超级计算济南中心),其通讯地址为:250000 山东省济南市长清区西部新城大学科技园;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。