问下大家现在都在用什么机器跑 hermes ?
想收一台二手 macbook 跑 hermes
不知道什么配置性能不会溢出?
m1 8+256 的 macbook air 如何?
问下大家现在都在用什么机器跑 hermes ?
想收一台二手 macbook 跑 hermes
不知道什么配置性能不会溢出?
m1 8+256 的 macbook air 如何?
1
kirbyzhu 19h 50m ago via iPhone
甲骨文
|
2
mnoputd20adfadf3 19h 38m ago
Digitalocean Droplet
|
3
sonaxyjh 19h 22m ago
零刻 ME Mini,端侧模型还是太慢了用 API 吧
|
4
adz1181014499 OP 我去楼上都太专业了
瑟瑟发抖 |
5
zuosiruan 18h 52m ago via iPhone
@adz1181014499 你都要上 mac 了你最专业
|
6
Eleutherios 18h 34m ago via iPhone
@sonaxyjh 我觉得 Mac M5 16G/32G 还是能在本地跑跑 ASR, vector embedding 之类的模型的。不过真的要玩还是得 Max+48G 起步
|
7
liuzimin 18h 31m ago via Android
我手上的 mac 跟你配置差不多,我跑个 Openclaw+QWen3.5:4b 都经常卡死,正常回答问题最快也要半分钟到一分钟。
|
8
killgfat 18h 30m ago via Android
为了 hermes 专门花钱买一台 Mac 吗,我都是直接拿一个 2c4g 的虚拟机跑的
|
9
sonaxyjh 18h 24m ago
@Eleutherios 如果能接受吐字速度的话本地跑 MoE 当然可以,如果是 embedding 我这 N200 cpu 都能跑,但自己维护太麻烦了,用免费档的 mem0
|
10
chanssl 17h 37m ago via Android
WSL
|
11
lihua 17h 30m ago
VPS ,3vCPU 、4G 内存。
|
12
sm1314 16h 58m ago
甲骨文
|
13
jaoyina 16h 50m ago
mac mini m4 ,本来就一直开着。
|
14
Xhack 16h 12m ago
自组 E5 双路电老虎 用 pve 虚机
|
15
aklllw 16h 9m ago
r4s....4g 软路由
|
16
enihcam 16h 7m ago via Android
肯定用 linux 啊
|
17
villivateur 15h 17m ago
vmware 开了个虚拟机跑,不用担心被搞事情
|
18
dbak 15h 8m ago via Android
4c8g 就够了 剩下的钱买 token 吧 这玩意大头就是烧 token 本地我不建议跑模型 直接花钱买 api 服务就完了 哪天玩腻了不续费就好了
|
19
IM1T 13h 16m ago via iPhone
J4125+8g 的飞牛 nas docker 跑,稳得一
|
20
JustDoDOIt 13h 12m ago
@IM1T 我是 J4125+16G 的 PVE ,各种 Docker+hermes 也挺稳😋
|
21
glouhao 13h 5m ago via Android
我本来在用腾讯的云,后来一测延迟 300 多,我就迁移到了 rn 的 4c4gvps ,然后最近 rn 给我挪了下,联通延迟也 400 左右了。放黑群里偶尔会断电,要不就塞进去了。
|
22
johnniang 13h 0m ago
直接在工作电脑( Fedora 44 ,几乎不关闭)上运行的 podman machine 。
|
23
dif 12h 51m ago
2C2G 的小机子。荷兰节点。
|
24
saaak 12h 47m ago
j1900 飞牛 docker
|
26
spike0100 11h 19m ago via iPhone
8 年前的红米安卓手机。
|
27
YICHUJIFA 10h 57m ago
阿里云的活动机,2H4G ,香港的,一年 199 元
|
28
abc0123xyz 10h 45m ago
| 项目 | 配置 |
| --------- | ------------------------------------------------- | | CPU | 4 核 / 4 线程 · 4.1 GHz · AMD EPYC 9275F (分配) | | 内存 | 19 GiB (可用 16G) · 无 Swap | | 系统盘 | 200 GB SSD · ext4 · 已用 11G (6%) | | GPU | 虚拟显卡 (Bochs/QEMU) | | SSH | 🔒 仅密钥登录 · MaxAuthTries 3 · fail2ban 已启用 | | 防火墙 | UFW 已启用 | |
29
la9998372 9h 58m ago
树莓派 4 8GB 内存
|
30
drymonfidelia 8h 26m ago
之前买了 3 台 hetzner 5950x 拍卖机,加起来一个月 200 多欧,项目结束发现绝版了一直没退在吃灰,刚好拿来跑跑
这东西的 thread 模式同时干多件事会窜上下文、忘记目标,适合物理隔离 |
31
LittleControl 8h 17m ago via iPhone
甲骨文加一
|
32
LittleControl 8h 16m ago via iPhone
@YICHUJIFA 好价,来自 MJJ 的警觉
|
33
yyzq007 6h 51m ago
本地笔记本电脑上跑的
|
34
vimutt 6h 18m ago
一台废弃的 mac pro ,大概 60w-90w 。无显示器,7x24 小时
|
35
six777 5h 3m ago via Android
甲骨文
|
36
shmilypeter 4h 8m ago
@dbak 太认同了,我之前用 2C4G 的机器跑 openclaw 以及 hermes ,怎么说呢,只能当聊天机器人用,你但凡要让他在本地做些什么任务,一定会卡死。换上 4C8G 之后,一下子舒服了。
|
37
Shaar 3h 44m ago
甲骨文
|
38
oudwwv 3h 26m ago via Android
J3160 小主机,有 8G 内存所以感觉还好
|