xziar's recent timeline updates xziar's recent timeline updates |
xziarV2EX member #260427, joined on 2017-10-17 23:52:27 +08:00 |
xziar's recent replies
Mar 9 Replied to a topic by YanSeven › 程序员 › 碎碎念：什么时候硬件+llm 的发展能让码农像部署 nas 一样部署一个家用 llm |
家用 NAS 能比得上数据中心的存储服务器吗？不要对本地部署开源模型有什么不切实际的幻想……
硬件再发展，软件（模型）也会跟着吃掉这部分提升的。
比如现在头部开源模型 500B 以上的规模，要保持智力得 256G 的内存，怎么想也做不到大众化，如果要提升速度，还得上 256G 的显存。
但是放低要求的话，最近的 qwen3.5 35b-a3b ，q4 量化（去掉视觉部分）只要 4G 显存+家用级内存就能跑差不多 20t/s ，这就跟家用 NAS 的定位比较接近了。
硬件再发展，软件（模型）也会跟着吃掉这部分提升的。
比如现在头部开源模型 500B 以上的规模，要保持智力得 256G 的内存，怎么想也做不到大众化，如果要提升速度，还得上 256G 的显存。
但是放低要求的话，最近的 qwen3.5 35b-a3b ，q4 量化（去掉视觉部分）只要 4G 显存+家用级内存就能跑差不多 20t/s ，这就跟家用 NAS 的定位比较接近了。
Sep 10, 2025 Replied to a topic by ForNickey › Apple › esim 和当年 BB 机是不是同样？一机一码了？ |
@ForNickey esim 去营业厅肯定能换绑的，相当于挂失嘛。
而且就算用实体 sim 卡，手机坏了也是不方便的啊，各种聊天记录/安装的 app 、登录状态难道能自动同步吗……
esim （国内）最大的不便利只是不能随便换卡到其他手机，平时没这个需求的话影响很小的
而且就算用实体 sim 卡，手机坏了也是不方便的啊，各种聊天记录/安装的 app 、登录状态难道能自动同步吗……
esim （国内）最大的不便利只是不能随便换卡到其他手机，平时没这个需求的话影响很小的
Jul 21, 2025 Replied to a topic by YanSeven › 程序员 › 不情愿刷 leetcode 是否一定程度上能鉴定一个人对码农这个职业的兴趣和“资质” |
不情愿刷卷子是否一定程度上能鉴定一个人对学习的兴趣和“资质”？
码农不等于刷题机器，就算应试看的也是成绩而不是刷了多少题
码农不等于刷题机器，就算应试看的也是成绩而不是刷了多少题
Jun 8, 2025 Replied to a topic by trusky › NAS › 对海康 NAS 的碎碎念和关于上古 MBP 转 NAS 的一些想法 |
2.5 寸机械现在只有 SMR ，最大 2T 而且还不便宜，除非手上有闲置的盘不然完全没必要上。
usb 倒是可以外置硬盘盒/硬盘柜，不过就利用不了笔电自带 UPS 的好处了。
usb 倒是可以外置硬盘盒/硬盘柜，不过就利用不了笔电自带 UPS 的好处了。
Jun 7, 2025 Replied to a topic by ota › 互联网 › 还会坚持用知乎和 csdn 吗？ |
知乎就是个论坛，锁游客浏览呗。
知识付费说了这么多年了，哪一家真的做起来了……
知识付费说了这么多年了，哪一家真的做起来了……
Jun 5, 2025 Replied to a topic by lemonTreeTop › Local LLM › 目前性价比最高的跑本地大模型显卡是？ |
来两张 16G 的卡开 TP 跑呗，4bit 能开很长的上下文了
Jun 3, 2025 Replied to a topic by kqz901002 › 知乎 › 知乎是不是快要倒闭了？ |
什么“雪姿势”，你看的不叫知识叫盐选小说吧……
要是只为了打发时间，我不信那么多免费的问答内容不够看。
真有严肃学习需求，直接上 AI 找参考文献了
要是只为了打发时间，我不信那么多免费的问答内容不够看。
真有严肃学习需求，直接上 AI 找参考文献了
Apr 29, 2025 Replied to a topic by est › Windows › 有没有能在 NAS / SMB 解压 zip 遇到网络中断能自动重试的 |
@est 看解压软件逻辑，我记得有些是解压到一半失败的文件自动删除的。
如果是局域网那还是先考虑修一下网络吧，就算是 wifi 也没听说传个 100G 就要中断的，信号差到要中断的话网速早就很慢了，不如直接拿 U 盘什么的中转。
如果是局域网那还是先考虑修一下网络吧，就算是 wifi 也没听说传个 100G 就要中断的，信号差到要中断的话网速早就很慢了，不如直接拿 U 盘什么的中转。
Apr 27, 2025 Replied to a topic by est › Windows › 有没有能在 NAS / SMB 解压 zip 遇到网络中断能自动重试的 |
大部分程序没考虑过打开的文件句柄失效后优雅地重试吧……
解压遇到同名文件跳过不就好了。如果是单个文件，那就直接在 NAS 端解压吧，反正解压不怎么吃 cpu 的
解压遇到同名文件跳过不就好了。如果是单个文件，那就直接在 NAS 端解压吧，反正解压不怎么吃 cpu 的
Select Language