问下 ai 大佬,ai 续写文章是什么原理?

[wszgrcy]

• 这几天刷视频看到了 ai 续写的文章
• 之前虽然说不干这行吧,但是也看过一些教程
• 基本上都是分类问题,判断问题,还从来没接触过这种自主写文章的
• 当时在想,是不是通过上下文语境判断是哪个文字片段插入进去,但是发现好像插入的文本相关人物地点环境也对得上...所以有点陷入知识盲区了...
• 不要求会(其他的人工智能我也不会写),但是只想搞懂原理,以后别被忽悠瘸了...

[LeslieLeung]

不算特别懂，推荐看看 GAN （生成式对抗网络）的论文，能够模仿前面的写作风格的，跟图像那些的风格应该类似。
语言模型（ w2v 、BERT ）本来就是预测接下来出现的文字的，能做到续写也蛮自然的。
另外想知道续写怎么实现的去看续写相关的论文就好了啊..？

[wszgrcy]

@LeslieLeung 因为隔行如隔山,所以才需要一位大佬给关键词让我接下来找到搜索方向[抱拳]

[Rivers7]

应该是属于自然语言处理的范畴吧

[princelai]

你先把 ngram 和隐马尔科夫模型弄懂了就知道是什么原理了

[paopjian]

GPT2 开源了,可以去看下,文本生成任务

[Morriaty]

原理其实就是一个贝叶斯公式，已知上下文（条件），求最大概率目标文本段（条件概率），继而衍生出 Ngram / 马尔科夫 / word2vec / gpt 等等等等，搜下「 language model 」或者「 NLG 」

[Juszoe]

ai 续写大多是基于 GPT2 、GPT3 做的，基本原理就是给出一段文字，预测下一个词是什么。

[czfy]

关键词：

GPT-3 （未开源，只能申请调用 API ）
GPT-2 （已开源）
GPT 2 中文
NLG
自然语言生成

[ttgo]

加强版的「成语接龙」。