是否有 AI 能实现投喂某本书之后再让它把所有关于 XXX 的描写列出来？

[senlinmuvs]

要能用户自己导入书籍 甚至可以导入很多本书，然后让它从所有这些书里找，能实现不？

[183387594]

现在很多支持文档上传的 都支持了，kimi,minimax,讯飞
向量搜索+ai 解读

[senlinmuvs]

@183387594 OK 谢谢

[senlinmuvs]

@183387594 minimax 像没看到针对普通用户的界面
讯飞也是针对开发者的吧
kimi 之前倒是试过 老是说人太多

[183387594]

@senlinmuvs 3l ，是的 有向量化的接口 可以本地做知识库 再结合他们的接口

[senlinmuvs]

@183387594 要是有能完全在本地跑的就好了 就一个单机软件 导入 然后分析

[MapleEve]

@senlinmuvs 本地可以，训练千亿级大模型先准备几百万的设备就行。就算花钱云上微调训练也要大几千上万

[senlinmuvs]

@MapleEve 把那些训练好的模型打包进单机软件 再用来分析固定的文本 就不需要这么复杂吧

[MapleEve]

@senlinmuvs 你先明白本地要跑起来训练好的模型需要多大的显存，然后再搞明白 finetune 需要多大的显存。本地不是不能跑，是你的电脑跑不了。

[senlinmuvs]

@MapleEve 哦 那不了解 跑起来大概是要多大配置呢

[ywkk]

@senlinmuvs 你不了解，你以为打包的仅是这本书的内容，其实你需要打包的是理解这本书的大脑，也就是大模型本身，千亿大模型需要什么配置，你的本地化就需要什么配置。

[senlinmuvs]

@ywkk 我说的就是打包大脑要多大配置呢 有固定场景的大脑应该比那些通用智能的大脑需要的应该是简化些的 现在没有 以后应该会出现

[senlinmuvs]

@ywkk 那个啥文生图的不是就有本地的方案吗

[MapleEve]

@senlinmuvs 得了吧，什么都不懂，能跑得动千亿大模型的集群硬件成本就是大几百万。
本地能跑的那些都是玩具。

[senlinmuvs]

@MapleEve 现在那些线上的不也是玩具 世界上第一台电脑还有房子那么大呢

[MapleEve]

@senlinmuvs 是的你说得对，所以你去造一台出来吧

[senlinmuvs]

@MapleEve https://www.ruanyifeng.com/blog/2024/03/weekly-issue-295.html
https://www.bentoml.com/blog/navigating-the-world-of-large-language-models
你不会说话就别说 没谁让你跑来硬答呢

[senlinmuvs]

@MapleEve 看你博客了 啥都往网上放

[MapleEve]

@senlinmuvs 笑了，7B 模型有锤子用，Grok 跑起来要 200G 显存也是个垃圾。
你先看明白电脑跑 100B 模型要什么配置再说吧，什么都不懂，别人指出你的理解有问题还杠。
你说的都对，你自己去部署了试试吧。

[senlinmuvs]

@MapleEve 行吧 想必你是想得这么个回复：“你厉害呢”

[ruike2]

这就不得不提及这个 AI 工具网址大全了： https://aitool8.com/