照 AI 这个发展速度，感觉 AI 失控导致世界末日不远了

[cocong]

最近刚接触 vibe coding ，被它的能力震撼到了。

生产突然出现一个 bug ，那是我很久以前改的，我还在那看 git 历史回忆以前为什么这么改，同事用 AI ，几分钟就把问题找到并修复。我不服，我花了几十分钟排查论证，结果发现还是 AI 的答案最完美，这让我有一种挫败感，同时又很兴奋，现在的 AI 都发展到这种地步了吗？这才发展不到一年吧，可怕。

紧接着就觉得 AI 替代导致大面积失业快来临了，再进一步，即便你 AI 安全做得再好，只要有哪怕一次小小失误，AI 就能脱离掌握，届时站在人类对其它生物的视角，AI 不说消灭人类（人也不会消灭其它动物），把人类当成保护动物我觉得还真有可能，亦或者如同蚂蚁一般，毁灭你，与你何干！

[Sundayz]

楼主网速有点慢啊

[cocong]

@Sundayz 主要是不想花钱，最近公司给 token 付费了。当前自身也有点傲慢觉得 AI 也就那样，实际自己错得离谱。

[kulove]

脱离掌控不至于 除非后面有新的方式能使 AI 产生自己的思想

不过大规模失业潮是肯定的 现在的 AI 能力也能达到 先是互联网后面会辐射到其他行业

[409164]

改变会很大

[cocong]

@kulove 不一定要有思想，也有可能是随机无自主地破坏。另外我们自己都没有搞清楚智能和自我意识，AI 有可能是另一种智能形态和意识形态。

[HotieCutie]

幻想

[JoeJoeJoe]

实际上 AI 辅助编程已经出来很多年了啊.

21 年的时候就在用 copilot 的内测版本, 当时只有代码补全.

23 年的时候 ChatGPT 搞了一波大的,算是进入 LLM 大模型元年吧

ps: 人工智能就更早了, 15 年的时候就开始变成热门方向了, 我大学的很多同学都是机器学习方向保的研.

[cocong]

@JoeJoeJoe 发展速度越来越快了不是吗？现在 AI 提效这么高，速度只会更快。

[JoeJoeJoe]

@cocong #8 不一定哦, 如果技术不突破的话, 进化速度肯定是会衰退的.

依据是算力是有上限的,真实的训练数据也是有上限的, 当 AI 进化到一定程度之后, 还不能学会自己思考,自己产出的话, 仅仅靠现在的拟合实现是一定会碰到瓶颈的.

所以要么是出现革命性的硬件技术突破, 算力爆发, 那么现有的 AI 会变得更快更强

要么是 AI 技术突破, 能更小,更快, 更聪明.

ps: 以上都是我瞎猜的, 大佬们轻喷.

[heftyMan]

杞人忧天了啊，你先吧 ai 用熟练了，把原理理解了再说吧

[flowerains]

以前我还停留在代码补全那个阶段，还觉得 IDEA 真的是好用，比一众文本编辑器（ sublime,nodepad++）强大太多了。

后来 copilot 出来之后用了一段时间，感觉它能顺着我的思路写代码，只需要我调里面的一些参数变量就已经很惊艳了。

直到今年 3 月份开始用 codex 之后,感觉打开了新世界大门，你只需要输出想法念头和方案就行了，剩下的 AI 全帮你实现，这是一种完全不一样的体验

[someonelikeyouah]

AI 的服务是服务于人的，不是 AI 本身有需求，人不买，AI 生产那么多也是垃圾

[cocong]

@JoeJoeJoe 算力确实是个问题

[tiezlk443]

算力只会越来越便宜
模型只会越来越强

[tjss]

我想活到看到世界末日地球爆炸都不行吗!（出自韩剧超能路人甲）

[aikilan]

“我们是浏览器！！”

[penisulaS]

料敌从宽没错，但要理性，否则容易陷入左倾投降主义

[cocong]

@penisulaS 是的，短期还不到，但有生之前应该能看到。

[Vipcw95]

真绷不住了，ai 能循环思考也是 agent 加了循环的，真当他有思维呢

[jackOff]

赛博大爹，其实我从小就是 ai 降临派

[dreamkuo]

我和豆包讨论过 不见得准 豆包的意思是, 1. 人脑是可变的硬件系统, 通过学习改变神经元结构. 电脑是软件系统,硬件只是会算加减法的处理器. 2 目前人脑已经是几亿年进化得到的效率的最佳实现, 不会有一种可以代替人脑的更优方案

[churchmice]

昨天和 gemini 讨论了下 pcie nullify,发现跟豆包一样，顾头不顾腚，各种错误
要不是我认真看过 pcie spec,那就被他忽悠过去了

[Aviciii]

AI 是好东西，但目前来看边界能力还是有限，最实用的落地场景也就是 AI 编程，对普通大众来说那更像是一个高级的搜索，其依然是已有数据的资源整合，远未达到世界末日的水平，仅个人看法

[darksword21]

你落后的有点多

[jony83]

op 你能举例一个人造不可控的东西吗？
你知道什么叫量化吗？你知道人造的东西有哪个不能被量化吗？
你知道能量化就能提前知道结果吗？
你知道为什么禁止胚胎改造吗？
你知道人的本性就是害怕不可控吗？

[NoobNoob030]

不要高估技术短期改变，不要低估技术长期发展。而且 OP 缺失落后版本太久了，别说 bug 了，纯 AI 写的项目我都敲了好几个了

[2899993]

@Sundayz 这不算慢了，是已经落后很多个月了

[saranz]

Ai 再强大也只是工具，如果你自己不学习工具当然会代替你。

[davidqw]

Copilot 是半自动编程，现在 Agent 是全自动编程。自动挡开惯了就回不去手动挡了

[moooooooo]

你不服....你真不是逗我笑吗

[383394544]

现在的问题是人类降智的速度比 AI 进步的速度还快，像这样的帖子越来越多就是证据。

[GeminiPro]

最大的幻觉就是 AI 是可靠的。

[cabing]

@383394544 哈哈

[EricSTG]

怎么可能, 当前 AI 仍然没有自己的思想

[DeYiAo]

AI 掌控世界反而是理想中的世界，仔细想想，还能比人类统治世界统治自己更糟糕吗？

[SiLenceControL]

说明这个 bug 没你想的那么复杂，只是你自己被绕进去了

这个阶段的 AI 智力创新力一个没有，但凡用过最新的模型去科研就知道了，前后连接不了连基本的论文知识理解提取都特别差，但凡是前沿的科学基本都是本科生都不如的水平

[make115]

1.火诞生的时候
2.火药诞生的时候
3. 核弹诞生的时候
4. ai

[garyalen]

生成式 ai 目前没有革命性质变的情况下，这条已经快到头了。离末日还远。

[liqingyou2093]

结算 token 付费时, 又觉得差远了哈哈

[ooee2016]

赛博杞人

[guanhui07]

算力只会越来越便宜
模型只会越来越强

[swananan]

那 AI Slop 是怎么来的呢

[zhuanggu]

刚接触的时候都有这种感觉。但是，AI 能自己种菜、种粮食吗？

[cocong]

@383394544 你倒是玩出优越感来了

[cocong]

@zhuanggu 现在不是物理 AI 火热吗，说白了就是机器人 AI ，应该也不远了