Neural Response Generation via GAN with an Approximate Embedding Layer

1. Goal

用GAN来对dialogue system建模，从而减少safe response（e.g. “我不知道”, “我也是”）。

2. Contribution

提出了一个AEL (Approximate Embedding Layer )来解决seq2seq模型decode阶段由于sampling导致的不可微问题（non-differentiable problem）。

3. Model

本文使用基本模型是条件GAN，为了方便陈述，以每一轮对话(i.e., query, response)为单位进行建模，模型图如下：

Generator的输入是query，输出是response;
Discriminator的输入时query和response，对于real response，输出1，对于fake response输出0;

AEL是核心模块，以第i个time step为例，通过全连接层+softmax，将h_i向量变成在vocabulary上的概率分布向量，然后与之对应词向量进行加权求和得到w_i的估计。

4. Tricks

训练技巧：1. 使用传统的seq2seq Model预训练G；2. 用预训练G生成的response和real response预训练D；3.对抗训练，训练几轮G之后再训练D，迭代训练，直到收敛。