照 AI 这个发展速度，感觉 AI 失控导致世界末日不远了

[cocong]

最近刚接触 vibe coding ，被它的能力震撼到了。

生产突然出现一个 bug ，那是我很久以前改的，我还在那看 git 历史回忆以前为什么这么改，同事用 AI ，几分钟就把问题找到并修复。我不服，我花了几十分钟排查论证，结果发现还是 AI 的答案最完美，这让我有一种挫败感，同时又很兴奋，现在的 AI 都发展到这种地步了吗？这才发展不到一年吧，可怕。

紧接着就觉得 AI 替代导致大面积失业快来临了，再进一步，即便你 AI 安全做得再好，只要有哪怕一次小小失误，AI 就能脱离掌握，届时站在人类对其它生物的视角，AI 不说消灭人类（人也不会消灭其它动物），把人类当成保护动物我觉得还真有可能，亦或者如同蚂蚁一般，毁灭你，与你何干！

[Sundayz]

楼主网速有点慢啊

[cocong]

@Sundayz 主要是不想花钱，最近公司给 token 付费了。当前自身也有点傲慢觉得 AI 也就那样，实际自己错得离谱。

[kulove]

脱离掌控不至于 除非后面有新的方式能使 AI 产生自己的思想

不过大规模失业潮是肯定的 现在的 AI 能力也能达到 先是互联网后面会辐射到其他行业

[409164]

改变会很大

[cocong]

@kulove 不一定要有思想，也有可能是随机无自主地破坏。另外我们自己都没有搞清楚智能和自我意识，AI 有可能是另一种智能形态和意识形态。

[HotieCutie]

幻想

[JoeJoeJoe]

实际上 AI 辅助编程已经出来很多年了啊.

21 年的时候就在用 copilot 的内测版本, 当时只有代码补全.

23 年的时候 ChatGPT 搞了一波大的,算是进入 LLM 大模型元年吧

ps: 人工智能就更早了, 15 年的时候就开始变成热门方向了, 我大学的很多同学都是机器学习方向保的研.

[cocong]

@JoeJoeJoe 发展速度越来越快了不是吗？现在 AI 提效这么高，速度只会更快。

[JoeJoeJoe]

@cocong #8 不一定哦, 如果技术不突破的话, 进化速度肯定是会衰退的.

依据是算力是有上限的,真实的训练数据也是有上限的, 当 AI 进化到一定程度之后, 还不能学会自己思考,自己产出的话, 仅仅靠现在的拟合实现是一定会碰到瓶颈的.

所以要么是出现革命性的硬件技术突破, 算力爆发, 那么现有的 AI 会变得更快更强

要么是 AI 技术突破, 能更小,更快, 更聪明.

ps: 以上都是我瞎猜的, 大佬们轻喷.

[heftyMan]

杞人忧天了啊，你先吧 ai 用熟练了，把原理理解了再说吧

[flowerains]

以前我还停留在代码补全那个阶段，还觉得 IDEA 真的是好用，比一众文本编辑器（ sublime,nodepad++）强大太多了。

后来 copilot 出来之后用了一段时间，感觉它能顺着我的思路写代码，只需要我调里面的一些参数变量就已经很惊艳了。

直到今年 3 月份开始用 codex 之后,感觉打开了新世界大门，你只需要输出想法念头和方案就行了，剩下的 AI 全帮你实现，这是一种完全不一样的体验

[someonelikeyouah]

AI 的服务是服务于人的，不是 AI 本身有需求，人不买，AI 生产那么多也是垃圾

[cocong]

@JoeJoeJoe 算力确实是个问题

[tiezlk443]

算力只会越来越便宜
模型只会越来越强

[tjss]

我想活到看到世界末日地球爆炸都不行吗!（出自韩剧超能路人甲）

[aikilan]

“我们是浏览器！！”

[penisulaS]

料敌从宽没错，但要理性，否则容易陷入左倾投降主义

[cocong]

@penisulaS 是的，短期还不到，但有生之前应该能看到。

[Vipcw95]

真绷不住了，ai 能循环思考也是 agent 加了循环的，真当他有思维呢

[jackOff]

赛博大爹，其实我从小就是 ai 降临派

[dreamkuo]

我和豆包讨论过 不见得准 豆包的意思是, 1. 人脑是可变的硬件系统, 通过学习改变神经元结构. 电脑是软件系统,硬件只是会算加减法的处理器. 2 目前人脑已经是几亿年进化得到的效率的最佳实现, 不会有一种可以代替人脑的更优方案

[churchmice]

昨天和 gemini 讨论了下 pcie nullify,发现跟豆包一样，顾头不顾腚，各种错误
要不是我认真看过 pcie spec,那就被他忽悠过去了

[Aviciii]

AI 是好东西，但目前来看边界能力还是有限，最实用的落地场景也就是 AI 编程，对普通大众来说那更像是一个高级的搜索，其依然是已有数据的资源整合，远未达到世界末日的水平，仅个人看法

[darksword21]

你落后的有点多

[jony83]

op 你能举例一个人造不可控的东西吗？
你知道什么叫量化吗？你知道人造的东西有哪个不能被量化吗？
你知道能量化就能提前知道结果吗？
你知道为什么禁止胚胎改造吗？
你知道人的本性就是害怕不可控吗？

[NoobNoob030]

不要高估技术短期改变，不要低估技术长期发展。而且 OP 缺失落后版本太久了，别说 bug 了，纯 AI 写的项目我都敲了好几个了

[2899993]

@Sundayz 这不算慢了，是已经落后很多个月了

[saranz]

Ai 再强大也只是工具，如果你自己不学习工具当然会代替你。

[davidqw]

Copilot 是半自动编程，现在 Agent 是全自动编程。自动挡开惯了就回不去手动挡了

[moooooooo]

你不服....你真不是逗我笑吗

[383394544]

现在的问题是人类降智的速度比 AI 进步的速度还快，像这样的帖子越来越多就是证据。

[GeminiPro]

最大的幻觉就是 AI 是可靠的。

[cabing]

@383394544 哈哈

[EricSTG]

怎么可能, 当前 AI 仍然没有自己的思想

[DeYiAo]

AI 掌控世界反而是理想中的世界，仔细想想，还能比人类统治世界统治自己更糟糕吗？

[SiLenceControL]

说明这个 bug 没你想的那么复杂，只是你自己被绕进去了

这个阶段的 AI 智力创新力一个没有，但凡用过最新的模型去科研就知道了，前后连接不了连基本的论文知识理解提取都特别差，但凡是前沿的科学基本都是本科生都不如的水平

[make115]

1.火诞生的时候
2.火药诞生的时候
3. 核弹诞生的时候
4. ai

[garyalen]

生成式 ai 目前没有革命性质变的情况下，这条已经快到头了。离末日还远。

[liqingyou2093]

结算 token 付费时, 又觉得差远了哈哈

[ooee2016]

赛博杞人

[guanhui07]

算力只会越来越便宜
模型只会越来越强

[swananan]

那 AI Slop 是怎么来的呢

[zhuanggu]

刚接触的时候都有这种感觉。但是，AI 能自己种菜、种粮食吗？

[cocong]

@383394544 你倒是玩出优越感来了

[cocong]

@zhuanggu 现在不是物理 AI 火热吗，说白了就是机器人 AI ，应该也不远了

[trio]

花点钱，保持 AI 使用，值得的

[superJava]

接触得太晚，震撼得太早。
AI 从改 bug 到奴役人类这中间的跨度大概隔了 100 个好莱坞编剧。

[GodIsJasonBourne]

@superJava 说得对！就算它能奴役，也得人类同意或足够愚蠢才行---基于它的本质是绝对的推理，而不是绝对的绝对 ^_^ ……想到这，再补一条，”也得人类的老二首领同意才行，比如盖世太保之流。“ 否则以人类那使不完的聪明劲儿，早晚有可乘之机。

[PhoenixDancing]

我觉得更担心的，或者说更让人开心的，是算力会越来越便宜。当前的算力，还算是比较贵的。
很多普通人，还是用用免费的算力，做些日常事务。
一旦算力变成水的价格，那时候，冲击会更加大。

[cocong]

@PhoenixDancing 以前是有摩尔定律，现在只能一味加机器，算力应该便宜不了多少。

[PhoenixDancing]

@cocong AI 我只会用，不太懂内部的一些东西。目前的算力，大多是基于英伟达的框架，也就是 CUDA ，这个 CUDA 的底层，毕竟是从显卡的需求衍生出来的，结构上应该有不少不符合 AI 需求的地方。后续，如果架构优化，类似谷歌的 TPU ，算力成本是由可能较大幅度降低的。实际上，当前算力比较贵，一部分原因，应该是半导体厂家供不应求，GPU 、存储等都涨价了，推高了成本。

[cocong]

@PhoenixDancing 那倒是，放到拼多多，价格至少打一折

[loryyang]

这样的，一般都是刚用觉得特别牛，越用越感觉差点意思。不过整体上，还是非常牛的，至于 AI 失控，这个事情，短时间看，还好，但谁也不知道，奇点什么时候会到来。可能很快也可能很慢

[default996]

我这个话题，已经落后一两年了

[fgk]

基于 ai 会产生新的业务，新的业务也许要人来开发

[geese1028]

世界末日这个事情保准么？实在是太棒了。

人类跟这个星球上所有已经灭绝掉的生物没有任何不同，一样的灭绝掉也正常。

[neuthself]

黑客帝国

[someonesnone]

lz 先不要害怕, 当真的 AGI 出现, 西方街上开始有人为 AGI 争取人类一样的权力(平等对待不被拔电之类), 然后修改立法的时候, 再害怕不迟

[tianhehechu]

鉴定为：看《三体》看的。

根本不需要焦虑。

人类要做的是同步发展脑际接口，尽快实现意识数字化，这样就能人脑得到扩展，连接计算机和网络，与 AI 的能力平起平坐，甚至加入 AI ，与 AI 融合不分你我。

[inktiger]

发展中产生的问题一般都能在发展解决，人造出来的事物，人类总有更好的和他和谐相处的思路

[jsq2627]

@JoeJoeJoe 更早还可以追溯到 2018-2021 这个时期，tabnine / codota / kite 利用机器学习进行行级代码补全

一路追过来，真的是感叹，行业的变化太大了

[cocong]

@tianhehechu 不错的思路

[shuimuwei]

楼主是原始人吗

[cocong]

@shuimuwei 不会说话就不要说话，一个个都整出优越感来了，你怎么不上天。