不同于上面大多数人的观点。
先表明下，本人已经深度学习领域学习三年多，某 985 读研，自己炼丹。
我是同意 op 的看似神学的观点，人类文明似乎已经进入黄昏了。
简单说下原因：
说下 #4
你会因为显微镜能看到细胞核而肉眼不行，就认为“人类黄昏”了么？
你会因为你自己跑不过汽车，就认为“人类黄昏”了么？
你会因为你自己不会飞而飞机可以，就认为“人类黄昏”了么？
@
kop1989smurf 显微镜的发明，完全是人类可以理解的范围内，从一开始的光作为探测器，到电子显微镜，采用更小的粒子能够获得更精确的探测，这些都是人类能理解的范围。
另外汽车跑的很快，也属于人类很容易理解的范围，因为汽车的零件都是各部分简单组合成整体，并且相当多的组合比较线性。
飞机同样也是。
最近几年深度学习已经验证了连接主义在巨大算力和数据的帮助下已经取得前所未有的胜利。
想想深度学习中采用上百亿的参数形成的网络，已经非常接近人脑的细胞连接，再大量数据和算力的帮助下，已经能够自己学习自己总结出模式，甚至于产生一点自我的意识，该技术完全不同于上面所说的飞机、汽车、显微镜，最大的区别就是参数量非常非常大，超过上面说的技术的上百亿，如果说一个飞机里面有效参数为几百万、汽车和显微镜中参数为几万，那么深度学习已经参数量级上远超这些。
或许有人会说参数多就一定厉害了吗？
现实情况下得到的结论就是：算力足够的情况下，确实是。
量变产生质量。
很早的一篇论文叫 More is different. 所说的便是不同学科由于研究的尺度不一样产生不同的学科属性。简单理解就是，虽然化学中的化合物是由物理中研究的基本粒子组成的，但是不能简单说将物理中的基本粒子研究透彻后，化学就自然解决了，如同三体问题一样，当两个天体形成系统时，非常容易预测其轨道，但是当数量达到三个时，便产生了质的改变，从一个简单可预测的系统，变成了一个混沌不可预测的系统，当然不是完全不可预测，而是说无法精确预测，短时预测还是可以的，这点也就是天气预报无法长期预测的原因。
物理中的粒子当聚集到一定规模后便产生了新的属性，便属于化学学科。
化学进一步当化学物质足够多，产生了生物学科，等等。
这便是哲学中所说的量变产生质变。
现在想想三体问题与一个经典道家话非常像，即所说的，道生一，一生二，二生三，三生万物。
不管是量变产生质量，还是道家上面那一句话，还是 More is different ，其实都在说一个东西，当简单事物通过聚合到一定规模，形成足够复杂的系统后，便会产生新的属性，而且孤立的简单事物完全不具备该属性。
那么，也就可以想想人本身这个复杂体，人具备自我认为的情感和自我意识，完全属于是复杂系统涌现出的新属性，并不具备任何神秘主义意义上的特殊性。同样的道理，当 AI 中的参数量足够大，并且这些参数形成的计算单元具有连接与更新功能时，便会组成一个可能比人还要复杂的系统，该系统也同样会涌现出新的属性，当复杂体与人的规模相当时，人或许可以理解，但是当复杂体参数量超过人的神经个数时，或许会诞生人类无法理解的属性，如同猫无法理解人的高级思维一样，人也无法理解 AI 。
有意思的是，或许存在一个规律便是，更复杂的系统能够理解比其简单一些的系统，理解本身的含义便是模拟，或者说经历，复杂系统中是能够用其一部分来模拟简单系统，从而达到所说的理解。
如果上面所说的成立，那么未来可能会诞生的 AI 复杂度远高于人类，AI 本身也是可以理解人类的情感和所谓的自我意识，但是 AI 本身由于巨大的复杂性产生的新属性，我们人类永远也理解不了了。
此时，便是人类文明的末日。
虽然人类文明到达末日，但是从更高意义上所说的智慧体，还存在，不过这个智慧体被硅基 AI 所代替。
之前看过一本书，讲得尺度更大，最终结局可能是宇宙觉醒，即智慧体几乎将宇宙量级的物质都连接到一个系统，注意现在的宇宙并未进行有效连接，相当多物质仅仅是简单堆叠，和智慧体的复杂连接不一样。
此时，宇宙便觉醒了，产生了宇宙级别的“自我意识”，借用“自我意识”这个词，其实产生的新属性，人更甚至将来的 AI 都无法理解，因为将来的 AI 也注定灭亡。