vpsvps 最近的时间轴更新
vpsvps

vpsvps

V2EX 第 398787 号会员,加入于 2019-04-05 10:32:03 +08:00
今日活跃度排名 10721
根据 vpsvps 的设置,主题列表被隐藏
二手交易 相关的信息,包括已关闭的交易,不会被隐藏
vpsvps 最近回复了
@uncat 谢谢 我试试
@uncat 谢谢回复,是直接 ollama run deepseek-r1:671b 这个就行吗?这个简单些。huginnface 上的版本还得合并,比较麻烦,您说的是指用 unsloth/DeepSeek-R1-GGUF 这个模型文件吗
@snowkylin #6 👍,这种方式是不是不能直接使用 ollama run deepseek-r1:671b 从 ollama 上下载,404G 的,而需要在 huginnface 上下载?

Download the model files (.gguf) from HuggingFace (better with a downloader, I use XDM), then merge the seperated files into one
@snowkylin #4 谢谢回复,用 ollama 就可以吧,显存用完就会调用内存,
比如 我的服务器有 8 块 4090 ,内存 640G ,能跑得动 671b 404GB 这个,就是速度慢点是吧?
请问 1.73-bit 量化版( 158GB 大小的模型)
一个 4090 24G 加上 160G 内存
可以跑起来吗?
不是需要 7 块 4090 吗?
12 天前
回复了 Czzzzzzzzzzr 创建的主题 买买买 今年买的最值的电子产品是什么
Mac mini m4
@yzqn 细说下平时如何相处之类的,谢谢
居然设置后门!
真服了

点开已安装套件页面
进入软件界面
看到发布者是矿神 XXX 的
我都把卸载了
谢谢提醒!
已卸载全部群晖上的所有矿神源提供的软件!
17 天前
回复了 louisliu813 创建的主题 Apple 2025 了,大家怎么在 iPad 远程 macbook
@xinmans windows App ( remote desktop ) 可以远程 Mac ?
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2088 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 11ms · UTC 08:21 · PVG 16:21 · LAX 00:21 · JFK 03:21
Developed with CodeLauncher
♥ Do have faith in what you're doing.