hmxxmh

hmxxmh

V2EX 第 401166 号会员,加入于 2019-04-12 19:53:35 +08:00
58 S 77 B
hmxxmh 最近回复了
@puppyxxx 对,我们也有做私有化部署,不过参数用的小很多的,满血需要的显卡太多了,今天新出的 qwq-32b 看着效果不错,最主要的是参数小,俩个 4090 差不多可以私有化了
4 天前
回复了 SGL 创建的主题 生活 人类的命运无常,悲欢不同
@harryWebb 第一时间我也是这种看法,包括我自己或者大多数人,焦虑的主要原因想必都是如此,过于完美化,行动没有跟上,就会导致预期和实际有差异,这样的痛苦要想解决只有动起来。未雨绸缪固然没错,想一步走三步才是最佳的状态
4 天前
回复了 axuahui 创建的主题 职场话题 绩效 B,是不是扯淡
@Yukineko 思维很跳跃,东一句西一句,可能他们领导就是这样呗说懵了
https://img.picui.cn/free/2025/03/06/67c905fe4d26e.jpg 问了下大模型,可以在流水线里面加一个吧代码发送给大模型去检查,没有实操过,楼主要是成功了也可以分享一下经验
第三个,很多企业接入都是接入了 api 吧,为了股票,私有化部署成本太高,除了大厂没几个
4 天前
回复了 silencegg 创建的主题 Linux Linux 权限问题
谨慎一点,我们就是有个新人运维把客户数据删了,客户那边也没备份,整的一个头俩个大。(服务器是客户的)
如果你在国内,第一次登录先挂梯子,后面就不用了,颜值 ok, 体验一般
这破软件 cpu 占用奇高,不知道在干什么,不用了
17 天前
回复了 v2exgo 创建的主题 职场话题 问一下上海的行情?
@oldking24 我昨晚刚买,等我使用几天给你回复
30 天前
回复了 selfless 创建的主题 职场话题 何去何从,求建议
@selfless 感谢,我也打算找 ai 应用方向的,目前比较常用的就是部署 qwen 、deepseek 结合 dify 搞 agent, 微调还没弄过,听说外挂知识库比微调更好,你们业务有落地的场景吗,还有面试一般会问什么
把 stearm 设置成 false 就是一次性输出了,因为回答比较耗时,一次性输出会给人一种卡顿的感觉,而流式输出给人的感官是友好的,像人一样一个字一个字说
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5593 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 19ms · UTC 01:33 · PVG 09:33 · LAX 18:33 · JFK 21:33
Developed with CodeLauncher
♥ Do have faith in what you're doing.