感觉 AI 已经到临界点了

[sillydaddy]

从最近看到的 AI 相关的新闻资讯，包括 AI 的能力，AI 的安全性报道，AI 的价格，我感觉 AI 发展到现在，它可能导致的大规模社会变化，正处在一个突变的临界点上。

先说“临界点”这个词，这个词不是一个模糊的概念，它在数学(物理)上有准确的含义。具体来说，就是系统发生相变的那个点位。

一个平凡的例子：冰变成水，就发生在 0 摄氏度这个临界点。0 度以上就是水，0 度以下就是冰。
一个更让人惊讶的例子：渗流，一个巨大的棋盘网格，网格的每一小段有独立 50.0000001%的概率打开，水就能流过网格，改为 49.9999999%，水就无法流过。

（这个视频里有渗流和其他相变的直观描述：

）

相变（临界点）的直观理解就是突变，在发展到某个点时突变。AI 带来的变化很可能也不是渐进发生的。我感觉已经靠近临界点了。

[xlxx]

不是有个往杯子里装石头沙子水的故事吗，ai 最多就那层水可以填的更满但份量大的还是之前那些。虽然说全装满要干嘛不知道

[Nasdaq]

感觉质变有 2 个条件（纯个人观点）

1.不需要人类投喂数据，也不需要人类训练
2.直接产生全新理论指导人类生产

[particlec]

现在的 ai 本质上是一个预测机吧，根本没有理解事务的能力啊，所以加的前置条件越多，后续的回答难度越大，感觉下一个阶段才是飞速发展，等预测机的下一代

[sunxc2581]

AI 大模型的能力也许在边际递减，但利用大模型开发应用的能力应该还会有很多前景吧

[revoirzl]

证实偏差（ confirmation bias ），指心理学层面，是指当人确立了某一个信念或观念时，在收集信息和分析信息的过程中，产生的一种寻找支持这个信念的证据的倾向。带着这个心态大搬运一下就要搞个议题。
我只能说人还是要有点科学精神。

1.AI 目前在部分任务上确实提高了效率，但从社会总体生产力看，数据中心和基础设施的巨额投入、持续上升的耗电与资源消耗、低质量信息扩散，以及围绕 AI 形成的高估值和资本泡沫，可能使其短期净效应低于宣传，甚至在部分阶段表现为拖累。

2.最近沸沸扬扬的 AI 的安全性话题本质上是一种宣传，侧面让投资者相信自己的技术领先，是一种为资本和金融设计的话术套路。

3.AI 的价格走低是因为面临开源竞争以及维持投资者吸引力，属于商业策略，而非技术进步。

最后：
当前最接近临界点的，或许是资本预期、基础设施投资和舆论情绪，而不是已经被验证的宏观收益。个人认为真正的临界点体现在现实指标中,如果 AI 已经接近社会转折点，应当是看到持续的全要素生产率提升、广泛的企业盈利改善、明确的劳动生产率增长和可复制的无人化流程，而不只是估值上涨、媒体热度和产品发布速度加快。

[ffalex]

现在还在力大砖飞阶段，还需要等下一个突破点

[413420]

现在是能力很强，宣传也很强

[davidqw]

头部模型内部开发已经在自进化了，临界点已过

[zhangli2946]

开始 根据自己的经验 优化硅基芯片了么？

[Potatooo]

你感觉的太晚了，一年前学界就已经有公论了 单次交通 gpt-4 就是 AI 极限，现在工具都在在优化工作流，调用链条，一个对话中，经常要反复推理 4,5 次才有结论，看起来像是那么回事

[volvo007]

水会相变结冰就等于其他事物都会突变吗…… 那石蜡、玻璃这种没有熔点的又怎么说呢……

[cnrting]

如果真的到了临界点那他们为什么还找不到可以明显降低成本的方法

[zdf3]

你是？

[yyh0808]

OP 抛出的概念太模糊了，AI 导致了什么临界点？从 AI 技术角度，我认为才刚开始，甚至我认为 AI 都不能算临界点，只是几十年来很大的一次软件技术革命。

真正把 AI 推向临界点的，我认为还是量子计算或核聚变等背后算力+能源技术突破，以现在这种架构的计算能力，搞再多也都是商业行为上优化。

AI 占真正临界点，肯定有一定比例，但是不一定是比例最大的。

[busterian]

个人觉得 ai agent 最终形态应该是 ai 主导的 Hybrid 操作系统, 用户所有的操作可被 ai 完全读取和理解的容器中完成. 所用的软件也提供 ai 的 mcp, 用户做什么可以选择古法操作完成或让 ai 自动完成.

[autumncry]

先定义啥是 AI
如果说的是 next token prediction 的 LLM ，那到临界点还早呢，目前还在解决工程问题的阶段，per token 的价值还没到，scaling law 还在生效中。
如果说的是递归进化 agent ，那更是天方夜谭，现在还是 collect knowledge -> decision 的循环，所谓的自进化也就是把人/LLM 的反馈加入 knowledge 中，距离真正的 intelligence 还很遥远。设想生物大脑是如何产生智力的？当前 agent 的复杂度还差了 N 个数量级，还远着呢

个人看法：目前看还远没有研究的顶点，甚至当前没那么智能的智能体还没有广泛在工业界使用，任重而道远，不必担心

[satoru]

有没有人给我科普一下“临界点”是什么，OP 说的“就是系统发生相变的那个点位”里的“相变”又是什么发生了变化？
“水渗过去了”类比到 AI 领域是指什么？

[AEDaydreamer]

如果说纯能力的话，有点意思了。
但是最重要的我觉得还是成本。

[NESeeker]

临界点就是 AI 的数学能力全面超越人类

[darkengine]

那两个例子，你是知道冰能变成水的，渗流是有通过和不通过两种状态的。

但是你都没能定义“当前的 AI”会突变成什么样子的，又怎么能观测/定义这个临界点？

[sillydaddy]

@revoirzl #5 「证实偏差」其实挺好的，只要不拒绝那些反对意见就可以。你提到的全要素生产率的增长，应该是过了临界点后，才会体现啊。

@satoru #17
@darkengine #20
「相变」一般是说宏观的某个指标发生了突变，比如渗流中，整体是否渗过去这个指标从 0 变成了 1 。水和冰的密度能量和结构都不同。而这个不连续的变化，是在某个微观指标的连续变化下产生的。AI 导致社会领域的相变其实我也不太清楚是什么。
问了 AI ，它定义了一个宏观指标， 「 AI 闭环无需人类参与的经济价值/整个经济的体量」 这个比例，在后面将从 0 变为一个大于 0 的值。当然，这个指标不严谨，比如由人来提出需求，AI 来实现，算不算人参与了？我还在拷问 AI 。

[qishiyexu]

刚达里奥也在呼吁 ai 降速

[yangliang8985883]

临不临界点不知道，马斯克说 27 年电脑前的工作都将不再需要人来做。下一步就是应用到机器上，比如机器人仿生人等。现在 AI 本质上还是循环推理，我觉得临界点就是 AI 能力足够强到人类劳动被替代。至于 AI 的突破临界点还早的很，只要还在大量堆算力去训练去计算就离突破还非常远。