当问 gpt 不太熟悉得领域时，如何不被误导或者如何将错误降到最低？

[404www]

总所周知，gpt 类问答机器人都存在可能牛头不对马嘴甚至睁眼说瞎话的情况存在，那么各位有什么方法或者技巧能不被误导或者如何将错误降到最低？

[SenLief]

除了编程的其他的都认为不准确。

[coderluan]

再拿 google 搜一遍喽

[wooyuntest]

他是语言模型，不是思维模型。

[pirredelu]

拿他输出的结果，问问他这个结论有什么问题

[rorschachyoung]

实践是检验认知真理性的唯一标准

[Lightbright]

用 gpt4🥰

[Alias4ck]

只能做参考, 具体得实践

[NoOneNoBody]

你把它看成这里某个成员就是了，你在这讨论、辩论的时候，有人说你不知道的“新事物”，你不去求证一下就信么？

[me221]

一个月就 20 刀你还要它怎样

它有思维了第一个干掉你 :dog

[icyalala]

https://m.weibo.cn/status/4892506347014260
可以参考陶哲轩的思路。你知道你自己去搜内容也会出错，那当然也要明白 GPT 也会出错，所以你可以把它当作一个思维发散模式来用。就像福尔摩斯会和华生聊天，华生的话不一定是正确的，但能启发福尔摩斯发现真相。

[benwwchen]

确实有时候事实差很远的时候还是会说得头头是道，就算查了告诉他还是会认错但继续瞎编。感觉跟训练时候的 loss 有关，导致就算事实错了也会尽量说得很像一回事，所以问它自己可能也不知道它对自己的回答有多自信。有时候编程问偏门领域的时候遇到这种情况还是挺烦的，要是之后有改进模型可以输出对事实部分的置信度就好了，不过 LLM 的优势就是无标签用大量数据训练，所以也不是个容易的改进。

[yankebupt]

有 RLHF 加 RLHF ，没条件的话，尽量 Prompt 说死一点，让他犯错误的时候撞上 openai 自己的 RLHF ，借用一下
犯错误没办法，毕竟 transformer 置信度才 0.1 ，就不是个严格 AI

[ChefIsAwesome]

https://imgur.com/a/DI8pDg5

[yuanix]

让它给出信息源，自己再根据信息源判断。如果是它编的，在这一步有几率认识到它自己的错误。当然，它给的所谓信息源链接可能也是编的，点进去确认一下参考资料是否真实存在，存在的话是否权威。

[xylxAdai]

给信息源嘛。对于未知的领域，你自己 google 一样没法识别真假。

[hahastudio]

不问，因为我觉得以现在的出错率，不管问什么最后还得我自己去查一查，那我为什么要多道工序
拿来开拓一下思路还可以

[cy18]

@SenLief 编程也不靠谱。
问 GPT xxx 库有没有提供 xxxx 功能的函数、接口，然后就给我胡诌一个以假乱真的。

[SenLief]

@cy18 你多回复几次不对，就会告诉你没有这功能，再回复几次就没有这个库了。

[akira]

让他自己重新检查回答的内容， 如果是明显错误是可以自己发现的

[vishun]

@icyalala #10 还是有些不一样的，华生如果不知道就会说不知道，而不是编造一个完美的假的答案。