(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210380464.4 (22)申请日 2022.04.12 (71)申请人 腾讯科技 （深圳） 有限公司 地址 518057 广东省深圳市南 山区高新区 科技中一路腾讯大厦3 5层 (72)发明人 朱秀红　曹训　张伟　黄泽谦　 易磊　黄锦鸿　 (74)专利代理 机构 华进联合专利商标代理有限 公司 44224 专利代理师 董慧 (51)Int.Cl. G06F 16/35(2019.01) G06K 9/62(2022.01) G06F 40/284(2020.01) G06F 40/30(2020.01)G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 意图识别方法、 装置、 设备、 存储介质和计算 机程序产品 (57)摘要 本申请涉及一种意图识别方法、 装置、 计算 机设备、 存储介质和计算机程序产品。 该方法涉 及人工智能技术的自然语言处理， 该方法包括： 获取待进行意图识别的词条集合； 通过训练好的 意图大类识别模 型， 分别对词条集合中的每个词 条进行意图大类识别， 得到词条集合中每个词条 各自所属的意图大类； 对于词条集合中属于目标 意图大类的词条， 通过训练好的目标意图大类对 应的意图子类识别模型， 对属于目标意图大类的 词条进行意图子类识别， 得到属于目标意图大类 的词条所属的意图子类， 各意图子类隶属于目标 意图大类。 采用本方法能够对于不同领域的词条 构成的词条集合， 可以全面识别出对应的意图大 类与意图子 类， 提升意图识别效率。 权利要求书4页 说明书22页 附图12页 CN 115129863 A 2022.09.30 CN 115129863 A 1.一种意图识别方法， 其特 征在于， 所述方法包括： 获取待进行意图识别的词条集 合； 通过训练好的意图大类识别模型， 分别对所述词条集合中的每个词条进行意图大类识 别， 得到所述词条集 合中每个词条各自所属的意图大类； 对于所述词条集合中属于目标意图大类的词条， 通过训练好的所述目标意图大类对应 的意图子类识别模型， 对所述属于目标意图大类的词条进行意图子类识别， 得到所述属于 目标意图大类的词条 所属的意图子类， 各 所述意图子类隶属于所述目标意图大类。 2.根据权利要求1所述的方法， 其特征在于， 所述通过训练好的意图大类识别模型， 分 别对所述词条集合中的每个词条进行意图大类识别， 得到所述词条集合中每个词条各自所 属的意图大类， 包括： 将所述词条输入训练好的意图大类识别模型， 输出 所述词条的向量 化表示； 计算所述词条的向量化表示与各意图大类的意图原型表示之间的距离， 对各个距离进 行归一化处理后， 将归一化处理后的距离最小的意图原型表示所对应的意图大类， 作为所 述词条所属的意图大类。 3.根据权利要求2所述的方法， 其特 征在于， 所述方法还 包括： 获取训练所述 意图大类识别模型时所使用的已标注意图大类的样本词条； 将属于相同意图大类的样本词条， 划分为支持集与查询集； 对于每个意图大类， 将相应的支持集中样本词条输入所述训练好的意图大类识别模 型， 得到所述支持集中各样本词条 的向量化表示， 计算所述支持集中各样本词条 的向量化 表示的均值， 得到各意图大类的意图原型表示。 4.根据权利要求1所述的方法， 其特征在于， 所述通过训练好的所述目标意图大类对应 的意图子类识别模型， 对所述属于目标意图大类的词条进行意图子类识别， 得到所述属于 目标意图大类的词条 所属的意图子类， 包括： 获取训练好的所述目标意图大类对应的意图子类识别模型； 查询字向量表， 将所述词条中每个字转换为字向量后， 通过所述意图子类识别模型中 的语义表示网络， 根据所述字 向量获得所述词条 的分类向量表示， 所述分类向量表示用于 表征所述词条的全局语义信息； 通过所述意图子类识别模型中的分类预测网络， 根据所述分类向量表示， 获得所述词 条属于所述目标意图大类下的各意图子类的预测概 率； 根据所述预测概 率确定所述词条 所属的意图子类。 5.根据权利要求1所述的方法， 其特 征在于， 所述 意图大类识别模型的训练步骤 包括： 获取已标注意图大类的样本词条； 将属于相同意图大类的样本词条， 划分为支持集与查询集； 对于每个意图大类， 分别将相应的支持集与查询集中的样本词条输入意图大类识别模 型， 得到各样本词条的向量化表示， 根据所述支持集中各样本词条的向量化表 示， 确定每个 意图大类的意图原型表示； 以相应的查询集中的样本词条的向量化表示， 与 所述样本词条的标注意图大类的意图 原型表示之 间的差异 最小化、 与除所述标注意图大类以外的意图大类的意图原型表示之间 的差异最大化 为目标， 构建意图大类识别损失；权　利　要　求　书 1/4 页 2 CN 115129863 A 2根据所述 意图大类识别损失， 优化所述 意图大类识别模型。 6.根据权利要求5所述的方法， 其特征在于， 所述以相应的查询集中的样本词条的向量 化表示， 与所述样本词 条的标注意图大类的意图原型表示之间的差异最小化、 与除所述标 注意图大类以外的意图大类的意图原型表示之 间的差异 最大化为目标， 构建意图大类识别 损失， 包括： 对于每个意图大类， 计算相应的查询集中的样本词条的向量化表示与 各个意图大类的 意图原型表示之间的距离， 将最小距离的意图原型表示所对应的意图大类作为所述样本词 条对应的预测 意图大类； 根据所述预测 意图大类与所述样本词条 的标注意图子类， 计算交 叉熵， 得到每个意图大类的交叉熵损失； 将 每个意图大类的交叉熵损失求和， 得到意图大类 识别损失。 7.根据权利要求1所述的方法， 其特 征在于， 所述 意图子类识别模型的训练步骤 包括： 获取属于目标意图大类的、 且已标注意图子类的样本词条； 通过预训练的语义表示网络， 输出所述样本词条的分类向量表示， 将所述分类向量表 示输入分类预测网络， 通过所述分类预测网络， 根据所述分类向量表示， 获得所述样本词条 属于所述目标意图大类下的各意图子类的预测概率， 根据各所述预测概率确定所述样本词 条对应的预测意图子类； 根据所确定的预测意图子类与所述样本词条的标注意图子类之间的差异， 对所述语义 表示网络与所述分类预测网络共同进 行模型训练， 得到所述目标意图大类下的意图子类识 别模型。 8.根据权利要求7所述的方法， 其特征在于， 所述通过预训练的语义表示网络， 输出所 述样本词条的分类向量表示， 包括： 查询字向量表， 将所述样本词条中每 个字转换为字向量； 将所述每个字对应的字向量、 分类符号对应的字向量共同输入所述预训练的语义表示 网络， 输出所述每个字的语义向量表示以及所述分类符号对应的分类 向量表示， 所述分类 向量表示用于表征 所述样本词条的全局语义信息 。 9.根据权利要求7所述的方法， 其特征在于， 所述通过所述分类预测网络， 根据所述分 类向量表示， 获得 所述样本词条属于所述目标意图大类下的各意图子类的预测概 率， 包括： 将所述分类向量表示输入所述分类预测网络； 依次通过所述分类预测网络的全连接层与激活层的运算， 获得所述样本词条属于所述 目标意图大类下的各意图子类的预测概 率。 10.根据权利要求7所述的方法， 其特征在于， 所述根据所确定的预测意图子类与所述 样本词条的标注意图子类之 间的差异， 对所述语义表示网络与所述分类预测网络共同进 行 模型训练， 得到所述目标意图大类下的意图子类识别模型， 包括： 根据所确定的预测意图子类与所述样本词条的标注意图子类， 计算交叉熵， 得到意图 子类识别损失； 以所述意图子类识别损失最小化为目标， 更新所述预训练 的语义表示网络与 所述分类 预测网络的网络参数后， 返回所述获取属于目标意图大类的、 且标注意图子类的样本词条 的步骤继续训练， 直至满足训练停止条件。 11.根据权利要求7 所述的方法， 其特 征在于， 所述语义表示网络的预训练步骤 包括：权　利　要　求　书 2/4 页 3 CN 115129863 A 3