V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  mscb  ›  全部回复第 1 页 / 共 15 页
回复总数  297
1  2  3  4  5  6  7  8  9  10 ... 15  
@nexmoe #24 我看了下你们的文档,目前是要自己调用 API 扩缩容。而且看起来侧重于从 1 到 N 的扩容。到时候会实现从 0 到 1 的自动扩容吗?
4090 本身对多 GPU 训练也不算支持的太好,其实单卡比友商便宜一点,对于训练来说也差不了几块钱,训模型优先还是会用 A100 这种。你们可以在推理上多发发力,我们公司遇到的最大的痛点是模型部署问题。像我们小公司,模型多,请求不大,又不值得单独租 GPU 机器(成本太高)。用阿里的 serverless 能解决按量付费的问题,可是冷启动又太慢(毕竟他们是通用的架构),差不多要 1 ~ 2 分钟整个模型对外的 API 才可用。国外的平台,延迟高,充钱也不方便,所以也没试过。不知道你们平台有没有办法解决这个问题。
杭州,8 点半上班,5 点半下班,直接就走人
AI 生成的东西多留个心眼
我们公司直接把短信登录给关了,现在改成微信登录了 https://i.imgur.com/krir4IG.png 。验证码短信毫无理由的随机失败,用户投诉太多。
只要实习生吗
140 天前
回复了 seven777 创建的主题 程序员 Trac 在发力, Trac 怎么样?相比 vscode 来说.
题外话,TRAE 是不是经常拼不对 https://i.imgur.com/io2SM1h.png ,后来我不知道从哪里看到了的:TRAE = The Real AI Engineer ,就再也不会拼错了
“和团队一起工作 / 生活” 意思是大家都住在一起?
2023-04-07 18:45:56 +08:00
回复了 geomancy 创建的主题 问与答 ChatGPT Next Web 的使用问题
ChatGPT plus 能用 gpt4 ,并不意味着 api 能用 gpt4 ,你 gpt4 的 api 申请通过了吗?如果没通过是不能用的
公司技术氛围不错的,大家有兴趣可以来投个简历~
哈喽,你这边的 Email 地址 [email protected] 显示不存在哦!
2022-02-23 23:47:24 +08:00
回复了 VibeHR 创建的主题 酷工作 [杭州] [WLB] 微软谷歌大牛带领的智能硬件公司大量招聘
能到点就走吗?哈哈哈
现在还有远程岗位吗?
2021-06-02 11:25:27 +08:00
回复了 balabalaguguji 创建的主题 程序员 腾讯这个网页刷新技术怎么实现的?
带服务端渲染功能的单页面程序
2021-02-23 09:25:18 +08:00
回复了 zhuzhibin 创建的主题 生活 [!]钥匙忘记带了,找人开锁,1 分钟结束 50 块没了
价格可不是根据劳动时间算的啊
这个薪资兼职还差不多
2021-02-15 17:22:38 +08:00
回复了 yitalin 创建的主题 PHP PHP 反向代理访问任意网站源码来了_Any-Proxy
确实是 10 年前流行的东西
1  2  3  4  5  6  7  8  9  10 ... 15  
关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1216 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 50ms · UTC 17:37 · PVG 01:37 · LAX 10:37 · JFK 13:37
Developed with CodeLauncher
♥ Do have faith in what you're doing.