我大段文本，gpt-4o 3 秒左右就能返回，国内比如智谱清言，文心一言就要 10 秒多才能返回，有没有知道原因啊，真难搞
21 条回复 • 2024-05-23 10:23:15 +08:00
 |
1
kyor0 12 天前 via iPhone
这不正常么
|
 |
2
czfy 12 天前
虽然 4o 本身就是牺牲质量换速度
但除了技术比不过，你觉得还能有什么其他影响因素？ |
 |
3
TheJustin 12 天前
老黄专程送 H200 给奥特曼，国内还在用上一代的阉割算力，阉割不说，数量还跟不上……
|
 |
4
Antihank 12 天前
体会到了登子扼颈的窒息吧
|
 |
5
Chad0000 12 天前
还有就是人才的意愿问题，如果给人才一个选择的机会，去美或中，答案就是原因。
|
 |
6
ronyin 12 天前
百度文心一言还有人用么。。
|
 |
7
pingpz 12 天前  8
gpt-4o sleep()写太小了
|
 |
8
weijancc 12 天前
我目前对比了所有国内 AI 产品,抖音的豆包和讯飞的 AI 比较快, 但是训分的 UI 太丑了.. 抖音的回答质量会稍微弱一点, 但是够用了.
|
 |
9
kenvix 12 天前
没钱
实际上你自己部署开源的国内大模型就会发现速度也很快的...比如阿里 Qwen1.5 |
 |
10
Retas 12 天前 via iPhone
moonshot 基本秒回
|
 |
11
yiwanjidanmian OP @Retas 那我试试
|
 |
13
ardour 12 天前
算力都不在一个级别
|
 |
15
eastjoehan 12 天前
国内的那回复都是一个一个字返回来的，gpt 的是一大段直接吐出来给你
|
 |
16
Donaldo 12 天前
没钱 没卡
|
|
17
kenvix 12 天前
@eastjoehan #15 你这说的，哪个 LLM 不是 token by ken ？
|
 |
18
wweerrgtc 12 天前
也许是需要审核 输入和输出的内容
|
 |
19
zhangdp 12 天前 3
可能需要分析审核内容耗时了，不允许违法的特别的反动的词语
|
 |
20
macaodoll 12 天前 via Android
问就是制裁没显卡，
|
 |
21
yinmin 11 天前 via iPhone
试试：海螺 ai 、通义 ai 、零一万物 ai 、deepseek v2 ，都是很快的。
|
Select Language