keithwhisper's recent timeline updates keithwhisper's recent timeline updates |
keithwhisper🏢 Random Walk | Magickbase / Founder V2EX member #233348, joined on 2017-06-01 00:21:27 +08:00 |
ezcook.de
Remote
keith-cy
keithwhisper's recent replies
Mar 29 Replied to a topic by Hermitist › OpenClaw › 请教下跑 openclaw 对接本地大模型的时候, 又没用过 omlx 进行加速? |
不过现阶段还是推荐用 gguf 的模型, 因为量化质量更好. mlx 的模型主要还是均匀量化(这几天出了几个 mixed precision quantization, 还没有尝试), 质量不如 gguf 的量化版本.
Mar 29 Replied to a topic by Hermitist › OpenClaw › 请教下跑 openclaw 对接本地大模型的时候, 又没用过 omlx 进行加速? |
首字节加速得益于 MLX 专门为 Metal 设计的, 你用其他 mlx inference engine 也有这效果.
说 omlx 快 3 倍, 其实是指比 mlx 快 3 倍, 因为 mlx 的 kv cache 没有优化, omlx 引入了 disk cache 缓解, 让 mlx 可以实际用于 agentic loop.
我正好在设计这个, 过两天发个 alpha 你可以试下
说 omlx 快 3 倍, 其实是指比 mlx 快 3 倍, 因为 mlx 的 kv cache 没有优化, omlx 引入了 disk cache 缓解, 让 mlx 可以实际用于 agentic loop.
我正好在设计这个, 过两天发个 alpha 你可以试下
Feb 28 Replied to a topic by CherryGods › 推广 › 懒猫微服抽奖活动！（第一轮） |
懒猫微服，自带内网穿透和沙箱 100%隔离，畅玩 OpenClaw ，新年超值 0 元购！！！
Feb 27 Replied to a topic by Edward4074 › 程序员 › 刚发现墙洞（DlerCloud）复活了，改名 oixCloud |
15, 16 年开始用, 那时候稳定又便宜, 感谢站长.
不过后来我觉得在墙内搞这些还能存活的, 怕不是筑墙的人一边的, 就不敢继续了
不过后来我觉得在墙内搞这些还能存活的, 怕不是筑墙的人一边的, 就不敢继续了
Feb 25 Replied to a topic by sweeyeah › 程序员 › OpenClaw 自己切 gemini API 把自己改崩了。 |
现在也可以重新配上 rescue bot 去修 primary bot
Feb 25 Replied to a topic by sweeyeah › 程序员 › OpenClaw 自己切 gemini API 把自己改崩了。 |
修好后记得配置他的 rescue bot https://docs.openclaw.ai/gateway/multiple-gateways#rescue-bot-guide
Feb 9 Replied to a topic by squirrel7105 › Claude Code › 大家用 findskills 这个技能了吗？感觉如何？ |
当你输入 npx 的时候, 你已经走上了错误的道路. AI Native 就应该让 AI 自己去找技能学习, 可以看看 idx.md
BTW 当你输入 npx 的时候, 可能你并不知道在本地运行了什么脚本, 很危险.
BTW 当你输入 npx 的时候, 可能你并不知道在本地运行了什么脚本, 很危险.
Jan 30 Replied to a topic by billzhuang › 程序员 › CC/Codex 提交 GH PR 后，如何让 AI 再去看 comments 并决定是否修改？ |
@wesley20 我在 JP
Select Language