
![]() |
各位的 m4 设备都陆续到货了,能否跑一下 ollama/llama.cpp ,看看大模型这块的算力究竟比 m1 max m2 ultra , 提升有多少? beginor • 92 天前 • 最后回复来自 ohblue | 25 |
本地模型如何优化"大"文件? ttut • 190 天前 • 最后回复来自 zachariahss | 1 |
![]() |
推荐一个最近很喜欢的自部署书签管理 Hoarder ychen997 • 192 天前 • 最后回复来自 mooyo | 1 |
mac 有什么方案本地跑 ai 字幕 Jaie • 191 天前 • 最后回复来自 qbmiller | 9 |
![]() |
体验了 Qwen2.5 Coder 32B 之后,我觉得本地 LLM 能用了 ShadowPower • 196 天前 • 最后回复来自 yanyuechuixue | 98 |
代码助手用 cursor pro 划算还是 cursor+ollama 本地部署划算? raw0xff • 202 天前 • 最后回复来自 poorcai | 28 |
![]() |
有没有非常小型的开源 ai 项目,想根据每个账号的视频标题做分类 Joshuahui • 216 天前 • 最后回复来自 june4 | 3 |
![]() |
求助,我笔记本的 4060 跑 语言模型很困难吗? kevan • 230 天前 • 最后回复来自 chronos | 1 |
![]() |
Meta 发布了 llama3.2,我试了一下 ollama 版本,发现这是假的 winglight2016 • 245 天前 • 最后回复来自 yuting0501 | 14 |
![]() |
本地跑大模型代码助手还挺好用 songray • 250 天前 • 最后回复来自 tabc2tgacd | 6 |
Llama3.1 8B 本地部署抢先体验, win&mac 一键启动整合包,图形化界面+知识库 mumbler • 100 天前 • 最后回复来自 yuandidi | 24 |
gemma2 2B 一键整合包(2.3G),能力超过 gpt3.5, cpu 也能跑得飞快 mumbler • 222 天前 • 最后回复来自 Pepsigold | 7 |
mac mini 24g 大模型推理怎么样 ChipWat • 290 天前 • 最后回复来自 xing7673 | 27 |
关于在本地部署开源模型的一些问题请教 ddvswgg • 292 天前 • 最后回复来自 CynicalRose | 9 |
![]() |
intel mbp 有办法用 gpu 给 ollama 提速吗 Vitta • 292 天前 • 最后回复来自 Vitta | 6 |
win&mac 下开箱即用的本地大模型+知识库,支持数十种开源模型 mumbler • 277 天前 • 最后回复来自 mumbler | 18 |
ollama 本地模型 GPU 跑不满 CNYoki • 312 天前 • 最后回复来自 clemente | 12 |
![]() |
Tesla V100-DGXS-32GB 这张卡能用来跑 ollama 或者 vllm 不? idblife • 249 天前 • 最后回复来自 woscaizi | 2 |
![]() |
本地跑 sd 和 local llm 推理, 什么显卡性价比最高? cinlen • 335 天前 • 最后回复来自 crackidz | 38 |