Theigrams 最近的时间轴更新
Theigrams

Theigrams

V2EX 第 428757 号会员,加入于 2019-07-11 23:45:10 +08:00
今日活跃度排名 4107
Theigrams 最近回复了
> With this set of optimizations, on iPhone 15 Pro we are able to reach time-to-first-token latency of about 0.6 millisecond per prompt token, and a generation rate of 30 tokens per second.

苹果的端侧模型才 3B ,M1 随便跑无压力
3 天前
回复了 steelshadow39 创建的主题 Apple 后端开发 MacBook 求推荐
没啥问题,就是 16 寸有点大了,一般会外接显示器,用不着那么大,带着不方便。
GitHub Copilot 也能读取整个工作区的代码,devv.ai 的 GitHub 模式也能读取整个 GitHub 仓库的代码,

Copilot 是直接基于文本相似度检测,devv 是对 embedding 计算相似度
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1016 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 11ms · UTC 23:07 · PVG 07:07 · LAX 16:07 · JFK 19:07
Developed with CodeLauncher
♥ Do have faith in what you're doing.