ChatGPT 代表的 NLP 发展到此就结束了

[hushulin]

你不会相信它给出的你验证不了对错的答案

[ronman]

如果错误是因为信息源或技术上导致，而非人为故意的，我觉得根本不是问题。
因为
1.很多人根本不会收集信息，更谈不上辨别信息是否正确。所以这个玩意儿已经能够帮助很多人了
2.目前看起来，纠错是很快的，以前两天差评问 new Bing 詹姆斯一共打了多少场常规赛为例，Bing 回答的是所有比赛总场次，差评给他纠错后，第二天中午我发现我通过 waltlist ，然后问了同样的问题，答案已经改正了。

有一句话说，人总是重视技术的短期效果而轻视远期效益。我觉得现阶段唱衰还早的很，这类产品推出市场才多久，效果已经很惊人了，相比之下那些问题都是可以解决的。

[kop1989smurf]

并不是如此。

很多文字领域需要统计学意义上的局部最优解，并不是所有的文字都存在绝对的因果论。
比如艺术领域（诗、词），比如检索领域（传统关键词搜索+机器学习 AI 加工出最优结果）。

[binux]

@ronman 有没有可能你现在的搜索结果里就有这个问题？

[argentea]

验证不了对错的答案，不也是一种思路吗，nature 和 science 上面的论文当中造假和实验无法重复的不知道有多少，大家还不是照样看

[hatw]

爸妈的话，你自己都要做个判断。。。何况是个机器。。。

[cxtrinityy]

@kop1989smurf 不知道你说的文字领域具体指什么, 刚才我让他给我讲讲潘驴邓小闲他给我扯到什么雍正剑侠图去, 有没有因果论我不知道, 反正他这张嘴啊, 骗人的鬼, 啥都不能信

[ronman]

@binux 所以咱俩是一个意思啊

[wangdashuai]

现在很多自媒体不也一样嘛？

[twor2]

还好，我问一些问题给他的时候
已经预先判定他说的不准了，尤其是涉及到一些算式的时候
可以防御性的检查

但这也有价值，会给你带来一些思路

[kop1989smurf]

@cxtrinityy #6 你这还是因果论，就是你在咨询他一个非常垂直，且存在事实正确的领域。这和问他 1+1 等于几没什么区别。

他更多擅长的是加工，归纳，总结和创意。也就是没有绝对答案，或有辅助信息输入的领域。因为没有绝对答案，统计学最优解和你需要的结果的重合度就会很高。

这也是为何 bing 版本的 GPT 更值得期待。因为有传统的关键词检索作为辅助信息输入。

[jacy]

https://imgur.com/a/AWILowN

[qbug]

在我看来目前主流的单向传导反向训练的神经网络事实上就类似于这样一个人类思维过程，就像我们打眼瞪一下，瞧一下，然后凭感觉给出一个答案，更接近短时直觉认知。从这个角度出发，目前体验下来 ChatGPT 整个这个输出的质量是不是已经非常逆天了？
比方说数学计算，相当于不让用任何工具包括纸笔，然后给你一个很长的式子，要求你短时间凭感觉给出一个答案，这个准确率已经很不容易了。

[yangyaofei]

建议看看 InstructGPT 的论文, 真的不是那么简单的事情

[LaurelHarmon]

这啥玩意，只是目前知识类问题比较多而已，逻辑归纳已经很出色了，所以将是大杀器