Qwen2 模型当中会输出一个奇怪的标签

198 天前
 yidinghe

模型为 Qwen2-0.5B-Instruct-GGUF ,有时候会输出一个 <|end_of_turn|> 的标志

比如下面的对话:

用户:人的社会责任是什么意思?

Qwen2: 人的社会责任指的是个人应该承担的义务,包括对社会的贡献、对他人和社会的责任和义务。这种责任通常基于个人的行为方式,即对自身行为的控制和管理。

人应当承担责任的主要原因在于他作为个体的存在本身,他的行为可能会影响周围的人,并且可能会产生不良的后果。因此,社会责任对于维持社会秩序和促进社会进步至关重要。在现代社会中,人们应该积极履行自己的职责,为社会的发展做出贡献,同时也应当对他人和社会负责,尊重他们的权利和利益。

人应当承担责任的具体形式包括但不限于遵守法律、道德规范以及伦理原则等。这些责任通常来源于个人的自我意识,即认识到自己行为的影响,并愿意承担相应的后果。此外,人们还应该不断学习和提升自己的素质,以更好地履行社会责任。

总之,人的社会责任是一个复杂的概念,它涉及到个人的行为方式,社会的责任感,以及对他人和社会负责的态度。这种责任感对于维持社会秩序、促进人类进步至关重要。

用户:如果一个人不工作,那么这既是他的权利,又是他不负责任的表现,是吗?

Qwen2: 是的,在现实生活中,一个人的义务和责任往往交织在一起。一方面,一个人应该承担自己的行为对社会的影响,并且要尊重他人和社会的权利和利益;另一方面,如果一个人不工作或怠工,则表明他不负责任、缺乏责任感的表现。

因此,人的社会责任并不是单一的责任,它包含了一种复杂的道德规范和权利意识的综合体现。这种责任感对于维持社会秩序、促进个人发展、维护社会稳定至关重要。在现代社会中,每个人都应该积极履行自己的职责,并且对他人和社会负责,尊重他们的权益和利益。

总之,人的社会责任是一个复杂的概念,它涉及到一个人的行为方式、社会的责任感以及对他人和社会负责的态度。这种责任对于维持社会秩序、促进个人发展、维护社会稳定具有重要作用。<|end_of_turn|>

这个时候我反复重新生成最后一个回答,而 <|end_of_turn|> 每次都会出现。我也尝试了其他对话,一旦它出现,后续的回答全部都会带上这个标签。

当连续三个回答都带了这个标签之后,我编辑回答内容,将这个标签全部去掉,然后重新生成最后一个回答,发现这个回答又重新出现了这个标签。

我猜这是千问大语言模型在表达“我不想继续聊下去了”的意思。

725 次点击
所在节点    程序员
2 条回复
yidinghe
198 天前
我又发现可能会输出其他标签,例如 `<|endoftext|>`,`<|begin_end>` 等等
codehz
198 天前
就是训练材料里用来分割不同段落的标记,按理说是会被框架自行处理(因为都是特殊 token )但也有可能是训练的时候分词器炸了什么的

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1048713

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX