买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉普强时代(珠海横琴)信息技术有限公司申请的专利一种支持流式输入的大语言模型构建方法及系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119398097B 。

龙图腾网通过国家知识产权局官网在2026-04-28发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411447399.8，技术领域涉及：G06N3/0442；该发明授权一种支持流式输入的大语言模型构建方法及系统是由司玉景;李全忠;何国涛;蒲瑶设计研发完成，并于2024-10-16向国家知识产权局提交的专利申请。

本一种支持流式输入的大语言模型构建方法及系统在说明书摘要公布了：本发明提供一种支持流式输入的大语言模型构建方法及系统，方法包括：收集、选择数据，并进行数据预处理，利用预训练模型为基础，通过在预训练模型上进行微调，训练优化流式输入、自回归输出方式的大语言模型；预先设定数据块的大小，将用户的输入数据进行分块，以流式的方式接受用户的输入数据；将拼接数据输入给大语言模型，基于大语言模型的当前的输入数据，根据大语言模型的输出，判断是否回复用户，采取对应的动作回复用户。本发明大语言模型的响应速度得到很大的提升，大语言模型支持以流式输入、并行输出的方式响应用户的输入数据指令，达到“边听边思考边输出”的效果，尤其是在用户指令较长的场景下优势更加明显，有效提升了用户体验。

本发明授权一种支持流式输入的大语言模型构建方法及系统在权利要求书中公布了：1.一种支持流式输入的大语言模型构建方法，其特征在于，包括以下步骤： S1、收集、选择数据，并进行数据预处理，利用预训练模型为基础，通过在预训练模型上进行微调，训练优化流式输入、自回归输出方式的大语言模型； S2、预先设定数据块的大小，将用户的输入数据进行分块，以流式的方式接受用户的输入数据； 如果当前未处理的用户数据长度≥预先设定的数据块大小，则将大语言模型提示词、用户上下文数据、历史处理的数据块和当前未处理的数据块，按照用户输入的时间顺序进行拼接，拼接完成后，将拼接数据输入给大语言模型进行处理； 如果当前未处理的数据块长度＜预先设定的数据块大小，则继续缓存用户的输入数据； S3、将所述拼接数据输入给大语言模型，基于大语言模型的当前的输入数据，根据大语言模型的输出，判断是否回复用户，采取对应的动作回复用户； 如果大语言模型的输出为空，则表示根据当前的用户输入数据，大语言模型没有得到足够的信息来调用工具或者还无法回复用户，需要进行下一个数据块的输入推理； 如果大语言模型的输出不为空，则表示根据当前的用户输入数据，大语言模型能够检测到用户的意图，进而能够输出相关内容回复用户，大语言模型基于自回归前向计算的方式生成输出结果，按照自回归输出的方式输出所有内容，回复给用户。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人普强时代(珠海横琴)信息技术有限公司，其通讯地址为：519000 广东省珠海市横琴新区环岛东路1889号20栋110-116室；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。