摘要: 古诗词生成是自然语言处理中一种文本到文本的生成任务，它将输入的关键词或者表达用户意图的句子直接转化为古诗词。虽然目前国内外使用深度学习技术对古诗词生成问题进行了一定的研究，但生成的诗词忽略了风格的重要性，并且在上下文连贯性、通顺性... 展开 古诗词生成是自然语言处理中一种文本到文本的生成任务，它将输入的关键词或者表达用户意图的句子直接转化为古诗词。虽然目前国内外使用深度学习技术对古诗词生成问题进行了一定的研究，但生成的诗词忽略了风格的重要性，并且在上下文连贯性、通顺性方面仍存在提升空间。本文结合注意力机制和条件变分自编码器，对关键词生成古诗和宋词进行研究，主要的研究内容如下： 一、提出一种基于门控注意力的关键词生成古诗方法。为了提高诗句的通顺性以及解决循环神经网络为基础的编码器处理长文本存在信息丢失的问题，本文在编码解码结构的文本生成框架基础上引入了门控注意力组件，它由关键词注意力层、自注意力层和门控单元组成。关键词注意力层提取诗句和关键词之间的联系。自注意力层提取诗句内词语之间的依赖关系和诗句的内部结构特征。将关键词注意力层和自注意力层提取到的特征传递给门控单元，由门控单元过滤冗余信息。实验结果表明，本文提出的基于门控注意力的古诗生成方法相较于基准方法，在诗句的通顺性上有一定的提升。 二、提出一种结合多注意力和条件变分自编码器的风格宋词生成方法。为了提高上下文的连贯性，本文以编码解码结构的文本生成框架作为基础模型，在此基础上引入了多注意力组件提取已生成词句的多种语义特征并存储到特定的语义向量中，解码器在生成诗句时通过访问语义向量生成上下文连贯的宋词。同时，为了控制生成的宋词风格，引入条件变分自编码器，它将输入文本数据转化为隐空间中连续的隐变量来控制宋词风格。实验结果表明，本文提出的结合多注意力和条件变分编码器的风格宋词生成方法相较于基准方法，在风格和上下文连贯性上有一定的提升。 本文的主要创新点：在编码解码的文本生成框架基础上，引入门控注意力组件，提高古诗的语句通顺性；引入多注意组件，提高宋词的上下文连贯性；引入条件变分编码器，控制宋词的风格，提高宋词的意境。 收起