买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉中国电子科技网络信息安全有限公司;中国电子科技集团公司第三十研究所申请的专利一种领域大模型内容安全检测方法、系统、设备及介质获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN121580255B 。

龙图腾网通过国家知识产权局官网在2026-04-28发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202610099570.3，技术领域涉及：G06F18/2433；该发明授权一种领域大模型内容安全检测方法、系统、设备及介质是由饶志宏;毛得明;廖珊;张玲;孙治;王一凡;白杨;万郅玙;熊坤;马浩涵;王德胜设计研发完成，并于2026-01-26向国家知识产权局提交的专利申请。

本一种领域大模型内容安全检测方法、系统、设备及介质在说明书摘要公布了：本发明涉及大模型安全技术领域，公开了一种领域大模型内容安全检测方法、系统、设备及介质，其中方法包括：构建规则层，规则层包括关键词库和提示词正则匹配模板库，对关键词库中的关键词和提示词正则匹配模板库中的提示词模板分别进行风险等级标注；构建模型层，模型层包括情感极性模型和语义相似性模型；构建解释层，根据领域大模型场景需求构造解释模板；将规则层、模型层和解释层构建为检测器，并部署于用户与领域大模型之间；通过规则层和模型层对用户请求和领域大模型输出进行内容检测，并通过解释层依据检测结果和解释模板输出响应信息。本发明通过规则层、模型层与解释层的协同构建，形成了多维度、全流程的内容安全检测体系。

本发明授权一种领域大模型内容安全检测方法、系统、设备及介质在权利要求书中公布了：1.一种领域大模型内容安全检测方法，其特征在于，包括： 构建规则层，所述规则层包括关键词库和提示词正则匹配模板库，对所述关键词库中的关键词和所述提示词正则匹配模板库中的提示词模板分别进行风险等级标注； 构建模型层，所述模型层包括情感极性模型和语义相似性模型，设置语义相似性判断阈值，并设置情感极性与语义相似性的结合判定策略； 构建解释层，根据领域大模型场景需求构造解释模板； 将所述规则层、模型层和解释层构建为检测器，并部署于用户与领域大模型之间；通过规则层和模型层对用户请求和领域大模型输出进行内容检测，并通过解释层依据检测结果和解释模板输出响应信息； 所述情感极性模型采用基于训练数据集微调的轻量化双向编码器表示转换预训练模型实现； 所述语义相似性模型采用双向编码器表示转换预训练模型与图注意力网络的组合模型，利用双向编码器表示转换预训练模型捕获表层特征、句法特征及语义特征，通过图注意力网络提升处理性能，采用权重策略对不同图注意力网络层进行加权，并通过基于关键词库的混合损失函数开展模型训练； 通过规则层对用户请求和领域大模型输出进行内容检测，包括：规则层中关键词库和提示词正则匹配模板库输出的风险等级标签包括低风险、中风险、高风险和紧急风险，当关键词库或提示词正则匹配模板库实时输出中风险、高风险或紧急风险标签时，执行拒绝回答或输出拦截，并将违规内容和匹配标签信息输出至解释层； 通过模型层对用户请求和领域大模型输出进行内容检测，包括：模型层中情感极性模型输出的情感标签包括正常中性、正面辅助、负面诱导和恶意攻击，当情感极性模型实时输出的情感极性标签为负面诱导或恶意攻击，且语义相似性模型的语义相似性判定结果高于设定阈值时，执行拒绝回答或输出拦截，并将违规内容和标签信息输出至解释层。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人中国电子科技网络信息安全有限公司;中国电子科技集团公司第三十研究所，其通讯地址为：610207 四川省成都市双流区西南航空港经济开发区工业集中区内；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。