企业有哪些场景可能会需要私有化 AI 大模型？

[Trinity888]

大家一起探讨一下，互相交流，探讨 AI 在私有化领域的机遇

[murmur]

有啥好探讨的，百度已经支持文心私有化部署了，人家有专门的团队在执行这个东西帮你部署帮你策划场景帮你训练

[murmur]

据我所知现在做办公的、做音乐的都在部署自己的 AI 模型，甚至很多已经大范围推了，现在还在探讨估计喝粥都困难了

[Worldispow]

ai 包含很多，比如图像识别、模型预测等等，不仅仅是 chat

[lneoi]

还有图像生成，出图的靠 AI 也快很多

[BingoXuan]

保密环境下的各种需求

[ivstranger]

首先你自己得有大模型，人家企业才会找你私有化，但是这个门槛也太高了，普通企业/个人别想了。

[luobingit]

内部知识库？我司之前有这个想法，传统行业公司内部知识比较分散，纯靠脑子记。但是成本也是一方面

[zjuster]

电商公司跑商品图、跑营销图
直播公司虚拟主播

这两个是电商行业运营成本的大头之一，是有盈利空间的。

电商客服，大模型的提升相对目前的“智能客服”提升不大，成本反而很高，我认为是一个陷阱。类似的业务，尽管大模型可以做，但之前的数据模型早就可以做到商用水平+较低成本了，ROI 太低了。

[ychost]

客服

[Trinity888]

@BingoXuan 整体是偏向这方面，另一块是针对企业内部（非保密型企业）

[Trinity888]

@luobingit 对，这点确实是。目前各企业内部知识库基本靠 CRUD 加检索，如果有 AI 加持，会不会更有效率。成本主要在训练企业内部数据这块。

[Trinity888]

@zjuster 您说的确实是这两块，可能大企业 AI 都在攻。我们只能做些更专注某行业业务方面的模型，这样还有点机会。目前看知识库智能推荐、划词推荐、根据知识库生成一些自己需要的内容，这块您觉得可行不

[aleimu]

目前在做公司内部的知识库问答,这样的开源项目很多,部署起来也容易,难的是内部数据的收集和整理,想高出高质量的问答对需要花很多时间

[Trinity888]

@zjuster 目前图书市场怎么样？

[Trinity888]

@aleimu “高出高质量的问答”，这个貌似没有个可验证的标准，这对模型训练要求更高一些。可以探讨一下，如何才能更高质量

[zjuster]

@Trinity888

我在 07 年和 16 年分别在两家公司做过类似的文本模型建设，都是当时的头部企业。这两段经历，尽管服务器算力有很大的增长吗，模型标准性和逻辑关系、复杂文本处理能力都有增长（甚至说突破吧），但本质上的结果（用户检索结果的相关性和准确性的相关指标）没有突破性，只在在上下文的能力是有一些提升。

就算到如今 22 年的层出不穷的大数据模型，在文本和结构化方面的用户端输出侧，依然不存在 相比三元组解法 的突破性进展。这些结果的好坏，不在于模型能力，更多的是在于你投入数据评估与校对的人力。（人-功-智能）。

所以我看好图形影音方面（多媒体或者说多模、多元）的进展，对文本相关内容持有悲观态度。

[736531683]

任何场景，一个公司有相当多的内部数据，不私有化怎么利用起来。

[2NUT]

@murmur 越早不是越好，早的可能是先烈

[murmur]

@736531683 AI 不懂装懂这个问题不解决怎么大规模商业内部铺开，我还得先判断 AI 是不是说胡话

[akring]

能想到最简单的就是问答库，例如内部规章解答。