lstm 训练 QA 问答系统的问题?

[supervipcard]

我想用 word2vex 训练词向量用于后续 lstm 模型的训练，那么训练词向量用的语料可以和训练 lstm 用的一样吗？

[menc]

可以。

[supervipcard]

@menc 那请问用于训练词向量的语料在语料文件大小，每篇文章的长度等方面有什么需要注意的吗

[afpro]

直接加一个 embedding_lookup 就好了 不 word2vec 也可以

[menc]

@supervipcard 越大越好。可以像楼下说的，用 embedding 层来做，数据量大的时候差别不大。

[neosfung]

embedding_lookup 的实现原理和 word2vec 貌似不一样吧？

[supervipcard]

@menc @afpro 用 embedding 层的话是先将训练集的句子中单词转换成一个个 id，相当于 ont-hot 编码，并且初始化一个词向量矩阵，再输入 embedding 层的吧。