GPT4 有多少参数？听说有 1T?

[coinbase]

[bravecarrot]

网传有万亿

[VIVIANSNOW]

话说这 1t 和 万亿都是什么单位呢。也不是一个单位吧

[taotaodaddy]

都是 1e+12

[callmesmc]

@VIVIANSNOW 楼主可能想说一个 trillion （？

那其实就是万亿

[gaifanking]

billion 级别，比如： https://github.com/THUDM/ChatGLM3 6B 个参数

[liqianyu510]

据说是 GPT3 的 10 倍，1.8 万亿。但它是 MoE 模型，一般情况下用不到这么多参数

[Myprajna]

蒸馏了一个小版本的出来