主题总数 162
这个节点讨论在本地电脑或者局域网里运行 LLM（大语言模型）的技术细节
 |
有什么高性价比的开源大模型体验和生产部署服务？ wencan • 352 天前 • 最后回复来自 bkdlee | 7 |
 |
支持不同显存显卡的推理加速框架 whyorwhynot • 363 天前 • 最后回复来自 whyorwhynot | 4 |
 |
使用 llama3:70b 本地化部署， 100 人左右的并发，大概需要多少块 4090 才能满足？ leeum • 323 天前 • 最后回复来自 keakon | 52 |
 |
现在买 3090TI 玩 AI 靠谱吗 Tuatara • 2024-05-24 05:35:42 +08:00 • 最后回复来自 glouhao | 91 |
 |
请教各位，开源的 AI 模型需要什么样配置的机器？比如图像类啊大语言模型啊语音类啊都想玩玩 fushall • 2024-05-16 14:28:29 +08:00 • 最后回复来自 AlexHsu | 14 |
 |
大佬们，求助本地部署大模型 jjyyryxdxhpyy • 167 天前 • 最后回复来自 skykk1op | 39 |
 |
折腾 Llama3 跑在 NAS...结果确实一言难尽 CoffeeLeak • 2024-05-04 13:51:26 +08:00 • 最后回复来自 lchynn | 6 |
 |
llama 3 发布了，我感觉挺猛的... t41372 • 308 天前 • 最后回复来自 kangfenmao | 12 |
 |
ollama run 报错请教大佬 xmtpw • 280 天前 • 最后回复来自 finalsatan | 4 |
 |
对 Llama-3-8B 模型在指令跟随方面的测试。 smalltong02 • 2024-04-30 16:40:16 +08:00 • 最后回复来自 qinfengge | 16 |
 |
electron 有没有办法集成开源 AI 模型？ superliwei • 2024-04-29 15:08:48 +08:00 • 最后回复来自 jones2000 | 19 |
 |
目前最快的模型, 微软 Phi-3 zsxzy • 2024-04-26 23:25:39 +08:00 • 最后回复来自 xudong | 2 |
 |
感谢巨硬， Phi-3 Mini 让我八年前的破笔记本也能玩本地大模型翻译了 iX8NEGGn • 2024-04-26 16:43:52 +08:00 • 最后回复来自 SuperMaxine | 13 |
 |
有啥好的开源分类工具或者模型供学习？ kite16x • 2024-04-26 09:28:46 +08:00 • 最后回复来自 kite16x | 4 |
 |
想离线运行下大模型玩玩，现在还能搞到 4090 么？ sunfly • 2024-04-10 20:09:49 +08:00 • 最后回复来自 doruison | 29 |
 |
想本地部署 AI 大模型,主要用于 AI 问答聊天,电脑配置需要什么样的,总预算 1w5 以内 dary141229 • 2024-04-08 10:22:10 +08:00 • 最后回复来自 Motorola3 | 2 |
 |
假设有一批客户对话记录，怎么能用 AI 训练出来客服机器人？ JohnChang • 2024-04-06 21:53:29 +08:00 • 最后回复来自 mmdsun | 8 |
 |
Ollama 运行 Llama2 大模型，怎么友好的支持中文 xiaohupro • 309 天前 • 最后回复来自 kangfenmao | 13 |
 |
离线大模型有支持文档翻译的吗 gtese • 2024-04-03 13:36:46 +08:00 • 最后回复来自 MapleEve | 9 |
第 121 到 140 / 共 162 个主题
159 人收藏了这个节点
Select Language