V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  hutng  ›  全部回复第 1 页 / 共 20 页
回复总数  396
1  2  3  4  5  6  7  8  9  10 ... 20  
@v918384 他这是 5000 端口吧。
话说现在非标准端口也管了,一直用的高位端口 https 很长时间了,也没啥问题呀
10 天前
回复了 yourmrtimewatch 创建的主题 Linux 纠结要不要刷飞牛 OS
docker 还是不要装到飞牛里,飞牛更新频率快,每一次更新,docker compose 都要手动重启服务。
还是建议 pve ,可以宿主机 docker ,虚拟机装飞牛。

同意 16 楼,隐私侠建议 linux 自己编译。
@SenLief 哈哈,京东保新?
@meteor957 同感
@BloodBlade #3 我也上个月超了,几十个 g ,60 刀,肉疼😭。
现在开了 7 刀的套餐了,2t 流量
油车不追尾,人开不撞架,
都怪电车,都怪智驾。
26 天前
回复了 tmtstudio 创建的主题 NAS 大佬们的 all in one 都用来做什么
至于功耗焦虑,还专门买了一个小米功耗插座,每天也就 1 度电,一个月 15 块钱,无所谓了。15 块钱还是花的起的。

配置是 AMD 5700G ,一个 m2 ,三个 2.5 寸 sata ssd
26 天前
回复了 tmtstudio 创建的主题 NAS 大佬们的 all in one 都用来做什么
all in one pve ,
装了几个虚拟机 Windows ,mac 远程桌面用。
虚拟机 openwrt ,主路由,科学。
虚拟机 fnos ,nas 存储,硬盘软直通,raid5 。

pve 宿主是 diy 主机,配了一个万兆网卡,mac 是黑苹果,也是万兆网卡,6 类线万兆挺稳。

对于 all boom 的风险,是这样应对的,mac 装了 vbox 虚拟机,装 pbs ,定期手动备份重要的 pve 虚拟机,不用备份软直通的 raid 盘。方便 pve 挂了恢复。

目前用了 2 年了吧没啥问题。
残废版啊,备份不了手机的聊天记录😅
28 天前
回复了 ZekeRuan 创建的主题 VPS VPS 即将过期,请 V 友推荐
@SenLief 同意
28 天前
回复了 ZekeRuan 创建的主题 VPS VPS 即将过期,请 V 友推荐
@hyxhyx 以前是电信的宽带,就用的他家的,cn2gia ,挺稳的。
现在联通宽带,lightsail 挺稳的,还是联通省事一些,vps 选择多
28 天前
回复了 ewillie381 创建的主题 优惠信息 狗东又可以领 1001 豆了
领上了,居然
@google2023 我是 3090+tesla t10 ,显卡成本 7.5k ,q8 15token 左右。2 个 2080ti22g 更便宜,5k
@follow 非大佬,纯小白。推理模型 qwq 32b 的 q4 就可以,实际占用显存 20G 多点,4090 、3090 都可以,便宜点 2080ti 也行。目前感觉比 r1 蒸馏的 32b 强很多。唯一的问题就是思考的过程有点长,回答的精细度、准确性非常好。
@openmynet #21 确实,google 的 aistudio 上就是 1 。
aistudio 上试了一下 27B 的模型,光数学上来看,准确性一般,比 qwq 差远了(当然了,直接这样比较推理模型和非推理模型不是很公平)
@hutng #18 ollama 官网也得是:12B parameter model (128k context window)。我比较好奇这 128K 的上下文窗口是怎么来的。ollama 默认都是 2K ,128K 不爆显存吗?
@hutng 刚用 ollama 测试了一下,12b 模型,效果一般。老是报错,Error: POST predict: Post "http://127.0.0.1:35039/completion": EOF ,不知道怎么回事,可能是我的环境问题。
开源模型生机勃勃了,好事,deepseek 开的好头。
QWQ 32B q8 两张显卡 40G 正好够,已经感觉和 deepseek 满血差距很小了,非常好用。
期待 gemma3 。
1  2  3  4  5  6  7  8  9  10 ... 20  
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1051 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 44ms · UTC 22:44 · PVG 06:44 · LAX 15:44 · JFK 18:44
Developed with CodeLauncher
♥ Do have faith in what you're doing.