摘要: 多年来，语义分析一直是自然语言处理领域的一个研究的重点和难点，也是信息检索、机器翻译、人机对话系统应用的一大技术瓶颈。语义角色标注作为语义分析中的基础任务之一，对语义分析技术的发展进步有着重要的推动作用。 目前，基于深度注意神经... 展开 多年来，语义分析一直是自然语言处理领域的一个研究的重点和难点，也是信息检索、机器翻译、人机对话系统应用的一大技术瓶颈。语义角色标注作为语义分析中的基础任务之一，对语义分析技术的发展进步有着重要的推动作用。 目前，基于深度注意神经网络的语义角色标注取得了很好的效果，但该模型也存在着一些问题，如句法依赖信息没有被模型充分提取，网络的表征能力不足等。为此，本文基于深度注意神经网络模型进行语义角色标注任务的建模，重点研究建模中句法依赖信息的表示方法和合并方式，以及增强网络表征能力的方法，并构建了语义角色标注系统。论文的主要工作包含以下几个方面： （1）针对深度注意神经网络模型中句法依赖信息没有被充分提取，存在的句法知识不足问题。分析对比了三种句法依赖解析器的性能，并给出了句法依赖信息的编码表示方法以及在自注意子层合并句法依赖信息的方式。结果表明在模型的自注意子层中加入句法依赖信息有助于提升标注的准确率。 （2）针对深度注意神经网络模型中非线性变换子层RNN单元表征能力不足的问题，首先采用深度双向长短期记忆神经网络替换原模型的RNN单元，然后使用直梯单元门的方式平衡LSTM单元垂直方向的梯度传递，缓解梯度消失问题。结果表明该方法可以显著增强神经网络灵活性，提高网络的表征能力。 （3）基于改进后的深度注意神经网络语义角色标注模型构建了语义角色标注系统，包括需求分析、功能概要设计、技术选型和详细设计与实现，提升了语义角色标注系统的性能。 收起