V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  noahlias  ›  全部回复第 10 页 / 共 10 页
回复总数  193
1  2  3  4  5  6  7  8  9  10  
c++太危险了 未成年不要学
255 天前
回复了 lcl101 创建的主题 商业模式 睡后收入(无人直播)
直播 老外早就玩穿了

你说的是这种吧
https://www.youtube.com/watch?v=jfKfPfyJRdk&ab_channel=LofiGirl
openai-python 就是用的 rye
https://github.com/openai/openai-python
最简单的一个 github copilot chat 不就落地了吗?
大部分落地 我看了下都是在原有的业务上做一些扩展 比如 b 站的 ai 总结 抖音的 ai 搜索 还有飞书的会议总结等
这种方式最能被用户接受 属于锦上添花的部分
不过大模型我觉得真正能带来革命的还是机器人好吧,如果能大幅改善机器人的智能
赛博朋克时代就真的到来了
256 天前
回复了 Dffcc 创建的主题 程序员 国外论坛
reddit /discord
257 天前
回复了 bddxg 创建的主题 Linux 想转 manjaro 但是有几个问题困扰着我
why not arch ?
https://github.com/Awesome-Windows/Awesome

windows 的感觉上面都有覆盖,但是国产软件可能有一些没有比如 snipaste 等
工具这种东西我觉得是你有需求才会去找和用,而且基本上都会有人实现(没人实现只能自己写一个了
@abcfreedom 应该是可以的

ollama 不过你得自己编译下 issue( https://github.com/ollama/ollama/issues/738)里面找解决方案
或者你用 llama.cpp https://github.com/ggerganov/llama.cpp
readme 里面是提到有支持 hipBlAS 的 https://github.com/ggerganov/llama.cpp#hipblas
@yankebupt 中文你用 qwen 模型吧 那个效果好,instruct 在一些问题回答上会更好啊 当然也是答辩

想看比较,自己去 llm leaderboard 看吧 ,
https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
我看了一下在我的 8G 3060TI 上 推理速度
https://i.imgur.com/XmbsWLD.png

在我的 m1. pro 16g
https://i.imgur.com/9Ey1B4w.jpg

看来还是 cuda🐮
看了一下 点开它的 fork 都是机器人
都是 2 周前注册的 而且他们的 repo 都有这段代码哈哈 应该都是钓鱼的
1  2  3  4  5  6  7  8  9  10  
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1009 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 27ms · UTC 20:02 · PVG 04:02 · LAX 12:02 · JFK 15:02
Developed with CodeLauncher
♥ Do have faith in what you're doing.