现在大模型思考能力还是为零，我让 Claude 帮我分析内存泄漏原因，它对 10GB 的 byte[]占用只提一句，揪着一个 60MB 的 List 输出了满满一页。那些说 AI 编程有用的人做的都是多无脑的工作

[drymonfidelia]

GPT-4 也是差不多的情况。
另外我给它上传了一个公共库代码和调用它的完整代码，它疯狂优化根本没用上的函数，怎么提醒都不看实际用上的函数，必须把公用库代码清理干净或者是完整写明哪些函数有用他才会看。看完也是几个地方翻来覆去就是改不出来，要不就是直接把我业务逻辑全改/删了。

[z7356995]

既然为零，不要用就好了，觉得有用的自然会用下去，就怕有些人，嘴上说为零，实际每天都离不开，还安装了好几个，又是 claude 又是 chatgpt

[drymonfidelia]

@z7356995 查谷歌前顺便问一下，偶尔有一点用

[fengemma9]

会不会是用错了方法，或者说用错模型

[drymonfidelia]

@z7356995 部分场景可以代替谷歌，但是指望靠它创造内容是别想了

[InkStone]

用 LLM 是有技巧性的，就跟你用一个三方库一样，有适用前提，有正确的使用方式，而不是无脑调库就能解决你所有问题。

OP 这个评价要是发在 22 年末，还算是有一点参考价值的意见。这 24 年都快过完了，类似的无知言论只能让人感到厌烦

[drymonfidelia]

@InkStone 那你说这个场景要怎么问？你只评价连什么问题都说不请求才是真正的无知

[drymonfidelia]

请求 > 清楚

[beginor]

如果你自己都不懂的事情，就不要问 AI 。 个人认为， 现阶段 AI 给人类打辅助还是可以的，自己解决不了的问题，不要太指望问下 AI 就能解决。

[drymonfidelia]

@InkStone 我已经把所有它可能用上的内容全部整理好发给 AI 了，AI 完全没有判断哪些重要的能力，我发现 AI 没有判断能力也给它写清楚了问题，它还是翻来覆去解决不了是不是就是完全没有思考能力

[Donaldo]

在编程这一块，本身就是把不需要脑子或者你经过学习肯定能做出来的东西交给它做来省事省力。另外定位好自己的问题，描述好自己的需求也不是一件容易的事情。可以学习一下这个 https://www.promptingguide.ai/

[billzhuang]

dotprofile dotmemory

[xxss0903]

就是帮你把一些无脑的工作做了，你好专心做有脑力的

[dianfuzhe]

你有点标题党哦

[dcsuibian]

AI 编程确实有用
但如果说替代程序员还是算了

[felixcode]

你没思考模型怎么思考的，所以你的思考能力更接近零

[daybreakfangyang]

至少贴一下完整对话吧

[onikage]

写点废话还行，了解大模型原理就不会奢望它会推理了。

[lscho]

工具有什么思考能力，工具全靠人指挥

有些人拿枪就是神枪手，有些人就是靶子都不上，你说谁的问题

[ShadowPower]

如果大模型有这个能力，老板可以把程序员全裁了，找个会打字的人帮忙用大模型实现老板的需求就好了。
最能体现程序员价值的工作，当然得程序员亲自做。

[prosgtsr]

它本来就没有思考能力，你说的太对了

[justFxxk2060]

至少贴一下完整对话吧

[mumbler]

你还停留在聊天机器人阶段，就断定 AI 编程不靠谱，工作基本都用 cursor 和 bolt 了

解决复杂问题，用 gpt o1

[laikick]

连 prompt 都不会写就别说没用了.

[mxT52CRuqR6o5]

就是说你的这些对话，对面如果是个真人，经过一定的思考逻辑推理，大概率可以解决你问的问题吗？

[WinG]

AI 是绝世好剑，可以令无武功的人增添霸气，可以令有武功的人如虎添翼。

[dadaji]

我还真就是用来干重复无脑的活，重复说明有规律，有规律就太适合丢给 AI 了

[kneo]

想别人教你，先学会好好说话。我说的是你这个帖子。

[proxytoworld]

GPT 不是思考，而是预测最大概率的下一个 token

[MYDB]

AI 現階段還是靠總結，如果之前訓練的數據裏面沒有或者數據被污染，那么结果是不可靠的，偶尔能答对就算谢天谢地了，我都是让 AI 帮忙查语法错误，逻辑错误根本无法用 AI 解决，AI 逻辑能力很差 get 不到需求

[LanhuaMa]

你有试过用英文写 prompt 吗？用中文写 prompt 相当于直接把模型降一级，4o 变成 3.5 ，能写出来才有鬼

[Pastsong]

@kneo 哈哈截图看得出来对 AI 也没有好好说话

[lovestudykid]

你如果想讨论问题最好把代码放出来，看看是你用的方式不对，还是真的解决不了。如果只是发泄情绪，显然没有选好地方。

[Takuron]

ai 都能代替你思考了是不是直接把你炒了比较合适？
先不说提问方式有问题，实际这东西最有用的方面也只限于减少重复劳动和扩展开发思路（我有的时候不知道调哪个 API 又不是非常明确可用的 API 类型的的时候会问一下实现思路当模糊搜索用），性能优化这种核心技能要是都能替代真的离失业不远了

[yyysuo]

AI 才出来的时候，铺天盖地的宣传和讨论可不是这个论调，另外楼上回帖的诸位，幼儿园的基本礼貌都没有了，这个社会真是戾气重了，连好好说话也不会了。

[matepi]

大语言模型，别指望它推理能力啊…
文字工作、理解和浅层创作为主

[potatowish]

试试 gpt o1

[songray]

现在 cursor 和 codedium 都订阅了，debug 不太行，但是写原型和重复劳动可以。
偶尔重复劳动里发生错误，我会给它两次机会，然后就我自己上。
因为我发现第一个错误的 context 会遗留到下一次，带偏它的思路。
至于英文 prompt 比中文强的论调不太可靠，因为我一开始都是用英文，后来发现对 o1 和 claude3.5 这种级别的模型来说没啥意义。

[lw4free]

如果 AI 能解决一个人解决不了的问题 说明 AI 已经能完全替代那个人工作了吧 那个人离被炒已经不远啦

[huage]

资本家之所以有钱是掌握了生产资料，而 AI 工具也能够让你高效利用生产工具进而有了获得生产资料的机会

[daimiaopeng]

经典一个问题否认所有

[czfy]

这个 OP 是有移动主题权限的
然后 ta 持续发布看起来很傻的主题，我只能理解为是在运营/促活
最好的方式我觉得是标记然后不回复任何 ta 发布的主题

[ruimz]

恭喜 OP 发现了现在软件工程领域对 LLM 研究的三大前沿：
1. ”我给它上传了一个公共库代码和调用它的完整代码“，这对应着 ”仓库级代码自动修复“ （ Repository-Level Automatic Program Repair)
如今年的 Y. Chen et al., "When Large Language Models Confront Repository-Level Automatic Program Repair: How Well They Done?," in 2024 IEEE/ACM 46th International Conference on Software Engineering: Companion Proceedings (ICSE-Companion), Lisbon, Portugal, 2024, pp. 459-471, doi: 10.1145/3639478.3647633.

2. ”必须把公用库代码清理干净“，这表明 OP 发现了代码注释对 LLM 理解的重大影响甚至误导的现象，在 2024 年发表的多篇论文中亦有研究记载，如今年的 H. Yu et al., "CoderEval: A Benchmark of Pragmatic Code Generation with Generative Pretrained Models," in 2024 IEEE/ACM 46th International Conference on Software Engineering (ICSE), Lisbon, Portugal, 2024, pp. 428-439, doi: 10.1145/3597503.3623322.

3. “或者是完整写明哪些函数有用他才会看”，这表明 OP 发现了思考链（ chain-of-thought ）以及专业知识对 LLM 理解能力的提升的现象

此外，SWE-agent: Agent-Computer Interfaces Enable Automated Software Engineering 或许可以对”它疯狂优化根本没用上的函数“ 的现象有所缓解

[sillydaddy]

@czfy #41 你想歪了。最近 1 年间站长给好几个人添加了移动主题的权限，包括我。

[lao66]

知道了，就你的工作有脑。无脑就无脑吧，一个月几万块也够用了。

[jonsmith]

需要引导，自己要有大体解决思路，比如 bug 的可能原因，让 AI 分析检查，不断尝试。

[durban126]

其实大部分还是在宣传阶段
每个阶段的社会发展都有好找一些东西来炒作，炒作的本质就是泡沫
因为如果日子都是平平常常的话，是无法让经济活跃的

[Skifary]

把 AI 当做有总结的搜索来用在目前来说是最合适的，不要信任 AI 输出的代码，一定要检查+测试。

顺便说一句，AI 写出来的正则很好用，好用体现在 AI 能写一个大概 90%正确的东西出来，用这个东西跑一跑测试，改一改就能用了。

[mightybruce]

@czfy 原来还有这种人，我标记他了。

[txhwind]

AI 要那么厉害大伙就该下岗了，现在适合把 AI 当实习生用，你写好文档或者架构，让它做脏活累活填空。

[tabc2tgacd]

感觉纯粹是没获得自己想要的结果说得气话。其实得不到想要的结果很正常的，我也用 AI ，能得到想要的结果固然是好事，得不到也没什么。毕竟自己在解决问题过程中通过手动搜索也一样不可能一次命中获得想要的结果的。

[lightattractbugs]

@czfy 中肯

[agegcn]

没有东西是万能的。ai 目前能完成的任务，大概是一个中上水平的大学生，思考几十秒，加动手几分钟，能完成的任务。你能在几分钟内就分析完公共代码库和调用关系吗

[zxfgds]

提问都不会, 考虑转行吧
这么强悍的 AI 工具都用不明白 , 考虑转行吧

[lovestudykid]

@songray 让他纠正，不如回到初始点，把需要注意的问题加到 prompt 里，这样效果感觉好很多

[gorvey]

第一，要选对模型
第二，要给出正确的提示词和上下文，IDE 里面的 AI 插件就是干这个的
第三，要正确提问

[unco020511]

应该是你使用的不对,大模型很强,你要引导他的

[vipfts]

你清高, 你了不起🤣👉🤡

[iyaozhen]

我觉得挺好的，有人觉得有用，有人觉得没用。
先不说不用的人会不会淘汰，但有用的人效率、思路会提升，得到更多机会

[auhah]

代码注释影响 GPT 确实。。。

我给他一段代码进行 codereview

他就把代码注释念了一遍。。。

[AlexHsu]

你知道去年这个时候大模型的代码能力啥样么
那你能预想到明年这时候大模型的代码能力吗
另外 ai 只是解决重复性工作
在另外 你这个工作我也没看出来多‘有脑’ 倒是你这个 prompt 写的 没什么脑

[lizhengbo]

@auhah

确实，没必要加任何注释，可能我写的代码简单，就发个代码过去，突突一连串教我做人。注释都帮我写好了。

还带纠正，这个方法已经弃用，采用新的方法等等。

[lizhengbo]

目前 Ai 取反效果好，就是给出信息，它也给出信息，继续对答下去就慢慢降智了。

需要不断对答，估计提问方式得改改。

[querysecret]

懂的领域用它能被气死，不懂的惊为天人，适合从 0-1 ，不适合从 1-2

[mynameislihua]

工具而已，不行就别用

[luyaolu]

你可以不用 但需要说用 AI 的人做的是无脑工作吗？

[graydust]

AI 只是工具而已，反正我一个不写前端的前几天借助 ai 把一个现有的开源 web 应用从全量查询改成了分页查询，用着很开心

[Meld]

为啥 AI 解决不了你的一个问题就等于没用
为啥 AI 能解决别人的问题等于别人在做无脑的工作

我不理解

[mayday1997]

@ruimz 问一下如果软件开发想使用 LLM 做辅助有哪些实用工具或教程吗

[encro]

会不会已经有这样的 AI ，但是不给我们用，自己用用就好了。