babyedi31996

babyedi31996

V2EX 第 613998 号会员,加入于 2023-02-14 01:00:52 +08:00
今日活跃度排名 27715
babyedi31996 最近回复了
2 天前
回复了 mazz 创建的主题 NAS 各位爹,企业级 200TB 左右 NAS 求推荐
要稳和单纯存储,群晖是最好的没有之一了.
我的 418PLAY 刚出就买了,到现在都很稳.
如果有其他需求,直接 PVE 按按需安装吧,也有 Raid5
5 天前
回复了 babyedi31996 创建的主题 程序员 本地部署大语言模型哪家强?
@supemaomao 在阿 B 搜酒馆就有了
6 天前
回复了 babyedi31996 创建的主题 程序员 本地部署大语言模型哪家强?
@supemaomao 没,跟视频教程一步一步很简单。最麻烦就是弄 cuda
6 天前
回复了 babyedi31996 创建的主题 程序员 本地部署大语言模型哪家强?
@Hookery 好多佬友都推荐 qwen,这个模型效果好?
6 天前
回复了 babyedi31996 创建的主题 程序员 本地部署大语言模型哪家强?
@guiyun 7b 效果如何?
6 天前
回复了 babyedi31996 创建的主题 程序员 本地部署大语言模型哪家强?
@WuDiHaiTai 4090 也才 24G 阿,最多就是玩下 20b 了
6 天前
回复了 babyedi31996 创建的主题 程序员 本地部署大语言模型哪家强?
@NGGTI api 是不贵,但是审查和隐私问题阿
6 天前
回复了 babyedi31996 创建的主题 程序员 本地部署大语言模型哪家强?
@LaTero 感谢你的经验分享,"如果我写的东西都不会被封,你也不需要担心……而速度快( command r+ 60 token/s )选项多是实打实的。"我懂这句的含金量了.哈哈
6 天前
回复了 babyedi31996 创建的主题 程序员 本地部署大语言模型哪家强?
@shuimugan 官翻+员工优惠在哪里可以买到?
6 天前
回复了 babyedi31996 创建的主题 程序员 本地部署大语言模型哪家强?
@yshtcn 是可以的,我看林亦在 b 站的视频,他是用 120G 统一内存的 Mac Studio 跑 120b 量化模型.好像也有 4-5t/s 没记错的话.
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1004 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 15ms · UTC 20:32 · PVG 04:32 · LAX 12:32 · JFK 15:32
Developed with CodeLauncher
♥ Do have faith in what you're doing.