nlp

nlp相关内容

Posted by ZhY on December 1, 2017

生成对话Agent

论文:End-to-end_Adversarial_Learning_for_Generative_Conversational_Agents

** 模型说明: **

该文章提出了一个新的对抗学习方法来生成对话Agent,该模型与seq2seq不一样的地方在于:假设Q和A具有同样的先验分布,将question和未生成结束的answer通过同样的embedding矩阵,再将它们各自的LSTM的结果concate到一起,通过Dense层得到结果值,这个值再次放到answer后面,进行下次迭代。在进行decode的时候,该文章采用了greedy decoding的办法进行。

** 实验结果: **

包含句间关系的Sentence Embedding

论文:DisSent: Sentence Representation Learning from Explicit Discourse Relations

** 模型说明: **

该文章首先使用DisSent Model做sentence embedding:

首先通过双向LSTM,然后前向和反向分别进入max-pooling层,得到的两个结果concate到一起即为句子的embedding。

由于要得到句间关系,因此进行如下计算:

将表示句间关系的词向量化(比如句间关系有but,because,since 则向量化后为(3,)),将上面计算的结果通过softmax来计算在这个句间关系上的分布。

** 实验结果: **