1.claude 和 chatgpt work 写代码的速度跟网速关系大吗? 300Kbps 够不够?多小就开始影响写代码的速度了?
2.用 claude/gpt 的 cli 写代码是否比他们的 app 快?
1.claude 和 chatgpt work 写代码的速度跟网速关系大吗? 300Kbps 够不够?多小就开始影响写代码的速度了?
2.用 claude/gpt 的 cli 写代码是否比他们的 app 快?
1
zfyime 11h 40m ago
算力决定的 看任务难度吧
|
3
imkuang 10h 44m ago via Android
300Kbps 应该能用,但你大概率会用的很难受,首字响应耗时的很大一部分会花在网络请求上,每次发个消息或者工具调用后都要等很久才有响应。
简单算一下就知道,按 1 个英文字符约等于 0.3 个 token 估计,100k 的纯英文上下文至少需要 333333 个字符,约 325KB (没算 json 请求体中 key 占用等其他消耗,这个估算只少不多),按 300Kbps 的网速计算单单把这些上下文发回给服务器就要约 9s 了,一次任务通常会有几十到上百次的请求,你可以算一下要浪费多少时间在网络传输上。 并且这还只是 100k 上下文,高级点的模型随便几百 k 上下文都是常态了。 |
4
imkuang 10h 37m ago via Android
@imkuang 我有个自用的 api 中转服务器,前段时间被服务商限速刚好验证过 1Mbps 下(由于中转需要同时处理接收和发送,实际应该等效单向 500Mbps )的使用情况。
上下文超过 90k 就开始能明显感觉到响应开始变慢,上下文达到 300k 左右直接感觉无法使用了,相同的任务平时 10 分钟就完成了,跑了一个小时还没结束 |