买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉上海无问芯穹智能科技有限公司申请的专利用于包括多个计算单元的处理器执行矩阵乘法运算的方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120234516B 。

龙图腾网通过国家知识产权局官网在2026-05-05发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510725346.6，技术领域涉及：G06F17/16；该发明授权用于包括多个计算单元的处理器执行矩阵乘法运算的方法是由请求不公布姓名;请求不公布姓名;请求不公布姓名设计研发完成，并于2025-06-03向国家知识产权局提交的专利申请。

本用于包括多个计算单元的处理器执行矩阵乘法运算的方法在说明书摘要公布了：本公开涉及计算机技术领域，提供一种用于包括多个计算单元的处理器执行矩阵乘法运算的方法。在该方法中：将量化参数矩阵划分为多个参数块，并依次不重复地分别分配给多个计算单元，使得除至多一个计算单元被分配多个参数块中的连续的少于第一数量的参数块外，每个计算单元被分配多个参数块中的连续的第一数量的参数块；每个计算单元对被分配的参数块进行解量化；多个计算单元中的每个计算单元获取输入矩阵的应与被分配的参数块相乘的部分，并对解量化后的被分配的参数块与输入矩阵的部分进行矩阵乘法运算，以完成输入矩阵与模型参数的矩阵乘法运算。由此，在全局上仅需对量化后的参数矩阵进行一次解量化，节省计算资源，提高推理效率。

本发明授权用于包括多个计算单元的处理器执行矩阵乘法运算的方法在权利要求书中公布了：1.一种用于包括多个计算单元的处理器执行矩阵乘法运算的方法，其特征在于，所述方法包括： 将量化参数矩阵划分为多个参数块，使得每个参数块具有预设的第一长度和第一宽度； 将所述多个参数块依次不重复地分配给所述多个计算单元中的每个计算单元，使得除至多一个计算单元被分配所述多个参数块中的连续的少于第一数量的参数块外，每个计算单元被分配所述多个参数块中的连续的所述第一数量的参数块； 所述多个计算单元中的每个计算单元对被分配的参数块进行解量化，所述被分配的参数块跨所述量化参数矩阵的整个长度而分布； 所述多个计算单元中的每个计算单元获取输入矩阵，并在所述输入矩阵的长度指示输入数据的批大小、且所述批大小小于矩阵乘法运算指令规定的被乘数矩阵的长度和宽度、并且所述矩阵乘法运算指令规定的乘数矩阵的宽度小于所述矩阵乘法运算指令规定的被乘数矩阵的长度和宽度以及乘数矩阵的长度的情况下，针对解量化后的所述被分配的参数块，利用所述矩阵乘法运算指令，将该参数块中具有第二长度和第二宽度的子参数块作为被乘数矩阵，将所述输入矩阵中应与所述子参数块相乘的具有第三长度和第三宽度的子输入块作为乘数矩阵，依次不重复地对子参数块与子输入块进行矩阵乘法运算；所述第二长度、第二宽度和第三宽度分别等于所述矩阵乘法运算指令规定的被乘数矩阵的长度、宽度和乘数矩阵的长度，并且所述第二宽度与第三宽度相等；以在对所述多个参数块进行一次解量化的情况下，完成所述输入矩阵与大模型的模型参数的矩阵乘法运算， 其中，所述量化参数矩阵是对所述模型参数进行量化得到的二维矩阵，所述第一数量是基于所述量化参数矩阵的长度和宽度、每个参数块的所述第一长度和第一宽度以及所述多个计算单元的数量计算的，并且 所述输入矩阵是作为所述大模型的推理的解码阶段的输入数据的二维矩阵。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人上海无问芯穹智能科技有限公司，其通讯地址为：200232 上海市徐汇区丰谷路315弄24号1-3层；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。