V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  huc2  ›  全部回复第 1 页 / 共 2 页
回复总数  34
1  2  
@EdmondGUO 现在 llm base 的推荐好像是 listwise 的?比如快手的 oneRec 。不过现在的 llm base 的推荐算法还感觉还是偏讲故事用
56 天前
回复了 MorisWang 创建的主题 酷工作 小红书北京&上海招聘
校招 ios 开发要求高吗
63 天前
回复了 javalaw2010 创建的主题 Claude 对 claude code 中的 kimi-k2 表现有些失望。
cc 有一个问题,我一般是不放心全部交给 AI 的,所以我都是手动 accept ,但是 cc 不是一次性生成完整的代码询问我是否接受,是一部分一部分问我,有时候就 import 了一个包都先问我要不要接受,他再生成接下来的,太麻烦了
66 天前
回复了 FaiChou 创建的主题 健身 健身大佬们,请教个问题,怎么才能持久
@FaiChou 拍视频要求好高,需要有朋友🧑‍🤝‍🧑
67 天前
回复了 huc2 创建的主题 奇思妙想 基于 AI/VLM 做 OCR 的需求大吗?
@Selenium39 他这种怎么做到完全免费的?感觉很烧钱啊,如果用户多了。
@kiko12324 你是看了最近站里的那个很火的帖子吗,哈哈
68 天前
回复了 huc2 创建的主题 奇思妙想 基于 AI/VLM 做 OCR 的需求大吗?
@love060701 star 了,模型是开源的?其实如果是通用的 vlm 的话,会更灵活一些,比如还能指定输出的格式。
68 天前
回复了 huc2 创建的主题 奇思妙想 基于 AI/VLM 做 OCR 的需求大吗?
@noneofmyb7s 如果只是一个小截图的公式的话速度其实还行。解析 pdf 的话速度慢确实,优势可能就是可以帮你自动排版了,可能如果 pdf 有水印可以自动帮你忽略水印
峰哥是对的,现在是大压抑时代
81 天前
回复了 Livid 创建的主题 奇思妙想 你最近有什么让你特别激动的 idea?
@nicktogo 用记事本记录的吗,感觉我身边的人都用训计,虽然花里胡哨的功能很多,但我基本只赢他的那个记录功能。
168 天前
回复了 Limexb 创建的主题 分享创造 [独立开发] 为了看漫画,我做了个软件!
我在 ipad 上用的是一个叫可达漫画的,还有一些 ai 画质增强的功能,感觉这个领域做的其实不少啊,我之前搜的时候应该还有很多其他看漫画的
207 天前
回复了 manami 创建的主题 游戏开发 移动端游戏开发的流程是怎么样的?
从来没做过游戏开发,想问下,如果想做的东西视角是固定,不需要 3d 游戏那种视角的转换。但是希望有的地方有一些稍微酷一点的效果,比如卡牌的翻转之类的,是不是还是得基于 3d 做?
pc 和主机是不是没啥区别,我看说可以跨平台联机
@frayesshi1 我问题里说的是 nextChat 里没有推理过过程。硅基流动的 deepseek 最好用 pro 版本的,没有 pro 版本的是可以用注册账号的时候送你的一些钱,但是速度慢。有 pro 的版本是只能用自己充值的钱。deepseek 官网的 api 确实快,但是我自己用下来还是很不稳定,有时候经常没反应。
@me007 open webui 官方似乎并没有支持"推理过程"的现实,不过社区里有提供一些 function 可以。
@yinmin lobechat 是功能挺强大的,但我自己 docker 里部署就是感觉卡卡的。
@GensKinsey 这个我怎么在 google 上搜啥也搜不到,倒是有个 lyricsx 的项目,不过三年没维护了。我上次看到 lyricfever 要用 spotify 登陆就感觉怪怪的,然后 app store 里有个叫灵动歌词的 app ,但是不开源。当时还想着去学一下 swift 也去写一个玩玩,但是太忙了就没搞🫠
247 天前
回复了 Qiuchi 创建的主题 程序员 AI 在 BI 领域的发展前景
咨询一下 op bi 的实际使用场景。我是学生,最近可能导师要我调研一下 bi 加 ai 。我好奇的公司或者会计事务所里用 bi 的时候,需要手动调整的东西多吗(比如数据怎么处理,可视化参数)。我了解到似乎其实很多东西都是固定的?很多时候只要数据进来一下就搞好了?

上面说的是固定的情况,如果是需要变化的情况。下面哪种情况会多一些:1.任务相同,只是数据有些不同,所以有些地方要小调整一下 2.任务不同,全都要重新搞
@frankyzf 谢谢谢谢,有空去刷刷
@bug2018 谢谢大佬回复,我感觉方案 1 和方案 2 其实本质都差不多,都是利用提前算好的 kv 来缓解这个问题。但是我对方案 2 有一些疑问,chunk split 是不是一种损失精度的方式。因为 kv 只有第一层 layer 是上下文无关的,切了 chunk 后,后面 layer 的 kv 都缺失了很多上下文。这个方法让我想到了最近看到的这个里面提到的 kvcache 不光可以前缀匹配,后面甚至中间的匹配也可以用到,我当时也很疑惑。这种方法在实际操作过程中是不是都会损失精度 https://zhuanlan.zhihu.com/p/17239625983?utm_medium=social&utm_psn=1860823961383874560&utm_source=wechat_session
@RoccoShi orz ,我主要是看到最上面那篇博客里的图,他每一列对齐是用 token 对齐的,从某种角度看似乎也没错。但是我脑子里想这个过程的时候,就总是一个 batch 里大家先一起 prefill (也就是我说的 prefill 阶段是左右都对齐的),然后大家每个 new_token 都一起生成第一个,第二个,,,这样子。然后看他这个图就很别扭,所以想确认一下我的理解是否有误。
1  2  
关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   861 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 41ms · UTC 21:47 · PVG 05:47 · LAX 14:47 · JFK 17:47
Developed with CodeLauncher
♥ Do have faith in what you're doing.