V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  beginor  ›  全部回复第 1 页 / 共 115 页
回复总数  2292
1  2  3  4  5  6  7  8  9  10 ... 115  
如果你自己都不懂的事情,就不要问 AI 。 个人认为, 现阶段 AI 给人类打辅助还是可以的,自己解决不了的问题,不要太指望问下 AI 就能解决。
不是说达摩院都没了么,还有藏经阁么?
存钱,准备买!
7 天前
回复了 Leon6868 创建的主题 程序员 现代化 SSH 客户端求推荐
M1 Max 感觉 tabby 太慢了, 装了 warp 正在玩
7 天前
回复了 Leon6868 创建的主题 程序员 现代化 SSH 客户端求推荐
@hucw21750 谢谢,我看看
7 天前
回复了 GeekGuru 创建的主题 Apple M4 Mac mini 这么火,但是可能存在重大 BUG
Mac 默认的风扇策略就是懒,装个 Macs Fan Control , 根据传感器温度范围自己调整一下,就舒服多了
7 天前
回复了 Leon6868 创建的主题 程序员 现代化 SSH 客户端求推荐
感觉 JetBrains 2024.3 内置的新终端非常舒适,不知道有没有类似的独立终端应用?
关注,没用过 Ava ,准备入坑
这说明是真果粉,苹果设备适应性强。

弄个个 60Hz 的安卓试试?
@emberzhang 补全代码用 starcoder2-3b.q8_0.gguf 就好,超过 7b 的都是浪费。chat 可以再跑一个大一点儿的
看来 M1 Max 还是很能打的嘛, 本地用 llama.cpp 跑 qwen2.5-coder-32b-instruct-q8_0.gguf 结果如下:

```
prompt eval time = 2354.87 ms / 117 tokens ( 20.13 ms per token, 49.68 tokens per second)
eval time = 71813.88 ms / 521 tokens ( 137.84 ms per token, 7.25 tokens per second)
total time = 74168.75 ms / 638 tokens
srv update_slots: all slots are idle
request: POST /chat/completions 127.0.0.1 200
```

自己用的话还是可以的,继续等 M5 、M6 、M7 ...
@kennylam777 continue 的本地话提示分两种,

一种是 tabAutocompleteModel 也就是写代码时的智能提示,这个本地模型推荐的是 starcoder2-3b.q8_0.gguf ,这个只有 3G 大小, 一般的显卡甚至 CPU 都可以跑,效果不错, 基本上每天都在用;

另一种是 chat , 也就是问答, 资源富裕的话跑 gemma 2 27b 或者 qwen 2.5 coder 32b 都可以这个规模的模型应对代码问答肯定没问题了;, 如果不富裕的话,跑个 7b/8b 的做问答也不是不行,但是效果肯定不如 27b/32b 规模的。
家里有老人/小孩的,一定得缴。 生病住院,慢性病都能报销。
直接从这里下载,不用登录注册帐户。

https://softwareupdate.vmware.com/cds/vmw-desktop/

Fusion 完全免费了, 正式支持 arm 版 Win11 , 接下来看 PD 怎么拆招 😂
16 天前
回复了 chutianyao 创建的主题 macOS iMac2019 卡成翔了,求问咋处理
拆机,内存插满 32/64 ,换全固态,清灰,装 Linux/Windows ,再战 5 年
16 天前
回复了 nrtEBH 创建的主题 Apple 65w 冲 m3/m4 max 14 寸够用吗 非高强度任务
够用,高负载时很热,热到烫手的那种热,低负载无所谓。

常年拿倍思 65W 的 2C1A 给 M1 Max 14 寸充电,原配的 96W 就没怎么用过。
@volvo007 真壕!
@volvo007 有 A100 振金内存加持, 肯定不用考虑苹果了。
@mike163 性能上应该不会有太大的差距,llama.cpp/ollama 胜在支持更多的系统和加速器,目前对多模态模型支持比较弱,mlx M 芯片专用, 多模态 (借助 mlx-vlm ) 支持稍微好一些 。

不过两者都不能用上 M 芯片的 NPU 加速。
1  2  3  4  5  6  7  8  9  10 ... 115  
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5052 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 56ms · UTC 09:46 · PVG 17:46 · LAX 01:46 · JFK 04:46
Developed with CodeLauncher
♥ Do have faith in what you're doing.