mkdirmushroom 最近的时间轴更新 mkdirmushroom 最近的时间轴更新 |
mkdirmushroomV2EX 第 434020 号会员，加入于 2019-08-05 16:57:59 +08:00今日活跃度排名 8932 |
| 小户型组网请教，关键词 n1、固态 NAS、TPLINK、小米 NAS • mkdirmushroom • 77 天前 • 最后回复来自 xpn282 | 9 |
| 剩余价值出绿云的 BudgetKVMJP-3（E5）和 74 活动款 4th of July Special (AZ) VPS • mkdirmushroom • 222 天前 • 最后回复来自 mkdirmushroom | 2 |
| 请问现在建站用哪家 vps 服务商的比较好？ VPS • mkdirmushroom • 2023-03-05 14:14:38 PM • 最后回复来自 mkdirmushroom | 11 |
mkdirmushroom 最近回复了
@hootigger 应该是电感啸叫声，我刚开始有点介意，现在无所谓了，反正正常也听不到。
7 天前 回复了 RiverRay 创建的主题 › OpenAI › 试试这个小技巧，直接拿到 ChatGPT Mac 版的使用权限！ |
代理工具需要开启增强模式吗，毕竟是 app
@AndyWang666 散热非常好，但是我的机器低负载有电流或者电报的声音，换了一台还是更严重了，只好忍了。pve 直通 oculink 没试过，手里没有显卡坞。
@tclm 有点慢的，我试过，大概就 2.3token/s 吧
20 天前 回复了 serafin 创建的主题 › Apple › 买 M4 iPad 1TB 以下 建议等 6 月 WWDC 后再决定 |
@maolon apple 的优势其实还是生态，本地模型完全可以用家庭服务器跑，但是肯定不能接入苹果的软件就是了。
20 天前 回复了 serafin 创建的主题 › Apple › 买 M4 iPad 1TB 以下 建议等 6 月 WWDC 后再决定 |
为啥要用移动设备跑本地大模型，如果实在在乎隐私，完全可以在家里搭建一个家庭服务器来跑啊，内网直接连，外网穿透连。（我现在就是这个方案）
@lchynn 买了啊，目前是我的主力家庭服务器，ollama 7b 推理肯定没问题啊，大部分电脑都随便跑的，主要还是看内存带宽的。我还试了 qwen 的 72B 4bit ，大概 2 ，3Token/s 吧。
我目前是 PVE 分了一个 32GB 内存的 ubuntu 跑 ollama ，基本上都用的 14B ，大概能有 10 几 token/s 吧。
我目前是 PVE 分了一个 32GB 内存的 ubuntu 跑 ollama ，基本上都用的 14B ，大概能有 10 几 token/s 吧。
48 天前 回复了 keyfunc 创建的主题 › NAS › 4 块 nvme 的 SSD 怎么组阵列 |
大佬既然是小主机全闪的话，万兆网口是怎么解决的？
60 天前 回复了 villivateur 创建的主题 › 云计算 › oracle 东京网络是不是出问题了？ |
甲骨文真正诠释了免费的就是最贵的，我 3 月初好不容易注册成功了，也升级了，不到半个月被封了，那种过山车的体验很不爽。
Select Language