连接 gpt4 - 教育
本地模型 - 情感聊天

全尺寸模型，也就是 gpu 内存要求很大微调成本很高。一般就租云服务器去练习。

企业微调要求全尺寸 nv gpu ，个人玩可以用量化模型。另外现在企业微调的效果并不是很好,包括 rag(提供上下文进行推理），所以现在大模型开始有点冷了，就看看谷歌出的模型如何了。

现在开源大模型除了企业研究外其他普通人一般就用来生成 s 文和 s 聊天，功能太弱，最大的那个 180b 刚出，看看有没人调教，我体验过基本超过 gpt3.5 但是没到 gpt4, 不知道是否有人能发挥出它的性能

要跑 llama213b 那么 13900+ddr5 也够了, llama.cpp 大概 1 秒 5token ，跟得上自己的速度。但是关键是现在没有 ai 应用场景，也就是除了 gpt4 场景外 其他的比较弱，如果你不喜欢玩 roleplay ，并且没有自己的 ai 想法，那么可能过段新鲜感时间后基本就不玩了

计算力上去后大模型主要跟内存速度有关，要跑大模型并且想简单，还是建议 mac + llama.cpp, 800gb/s 速度可以直接跑 falcon 180b (得 192g 内存版本的) 个人觉得这个模型虽然微调难度大，但微调结果超过 gpt3.5

硬件学习曲线高试错成本高，都找科班出身的

拿最大的那个模型，不要量化，我前面直接 cpu 转的效果不错

有 a100 之类的卡吗？搞上 5 个以上，然后上 vllm, 但是 10b 以下可用性太差，能满足功能要求吗？一般都是 13b 起步，如果 33b 发布那么更好建议是 33b

互联网挣钱的原理在于它与工业不同：
1. 工业贵的是机器，人是辅助机器的，所以重点是维护和升级机器，工人收入低，管理人员能够组织工人更好的利用机器价格会更高
2. 工业是生产实体的，需要耗费生产成本运输成本宣传成本等才能得到一点毛利率，在不知道市场真正需求容量前不敢大规模投入来摊薄成本来提高收入
互联网是反过来的，所以看互联网收入时不能把这些互联网的生产者跟工业时代的工人收入做对比

建议上 ddr5 ，看 llm 是下一个大风口，而内存越来越重要，上 ddr5 可以用得更久

@mgrxwl 没有嘲笑的意思，
人生经历的事情多后会发现，很多时候像我们这样的小民考虑问题时更多考虑到是我们要依靠组织的力量，而不是认为组织故意针对自己。
要针对自己的团体太多了，组织为了名声还不至于看上小民这点东西。
从这个观点出发看问题应该会效率更高。
就像说个人隐私的，例如个人密码聊天记录交易记录等，只要使用平台那么那个平台都会收集数据，还有网贷等等，个人完全无抵抗能力，只能希望组织去管理规范。

农村那么大地方那么多老人那点警力，只能希望自己不出事，真出了事有探头还不一定能够有警力去排查，没个探头那就听天由命了
看到说自己掏钱监控自己的就觉得好笑，个人在组织面前就是赤 luoluo 的 只是有没必要动用组织力量的问题 多一个探头也不会多什么东西

notion, 复制粘贴然后保持原链接。
看过一段时间后自己整理一下

c++开发效率低对开发人员要求高出错难以定位，在 AI 时代难有大作为
大家都在拼快速修改快速验证快速迭代，语言层面的事情越少越好，让开发者把重心放在业务层面的开发上
毕竟开发人员的时薪和抢占市场对效率要求可不低，

至于 C++能提高的那点性能，因为业务会快速修改，已经被业务开发和定位占用的时间给抵消并且变成负的了（维护代码对开发人员要求高）
现代 C++只适合写那些不经常改变，对性能要求高，并且有高额利润的东西，这些才能养得起高水平开发人员和维护团队，例如量化，或是游戏库等，市场还会收到 rust 的抢占，应该还是会减小。

“解释你的回答背后的原因。” 让 ChatGPT 解释其思考过程可以帮助您更好地理解它是如何得出结论或解决方案的，还可以提供可能对您有用的额外上下文。 可以试试看

基本上是组要解散的意思，
如果公司先找你才是你要提升。因为公司能提前一个月得知负责人离职消息，然后会提前安排后备领导。这时如果觉得你合适那么会提前跟你聊，或是大领导提前安抚人心
如果都没有，一切无声无息那大概率是要解散

@goodman111 算力和数据都不是问题，算法方面有差距但是可以通过堆参数去。如果仅看当前国产 ai 能力很容易小看，但是联系到 ai 到身份地位那么就不会这样想了，
最关键 ai 的另一个身份是武器，ai 的理解和推理能力可以增加企业竞争力，
ai 的快速信息输出能力可以用在社交媒体上引导 yl ，扭转人们看法和内心思想
ai 内部的偏见可以输出自己的价值观 - 毒教材几幅画就引起这么大的舆论，那么 ai 呢，
ai 收集的信息可以出售给竞争对手，
从这些角度看 ai 有关系着生死存亡的能力，无论国家还是大企业都会全力投入

基本上不会有多少好转了吧，
个人看法软件开发市场基本满了，存量市场需要的软件基本满了，市场容纳的公司和人员不会那么多，而且每年还有新毕业生 -- 水平不行但是胜在价格便宜好用，
下一步和投资应该往 ai ，再下一步是往 vr
这时企业内开发人员继续原来的修改软件和界面也够了，应该会增加 ai prompt 人员 -- 用新毕业学生刚好
所以建议有机会多学习 prompt ， 这是给当前软件赋能的好工具，需求量会很大，特别是当国产 ai 能用后 - 可能几个月或是半年后，但是时间不会太长。