WorkerMatt's recent timeline updates
WorkerMatt

WorkerMatt

V2EX member #580005, joined on 2022-05-04 23:32:17 +08:00
Today's activity rank 13308
PRO
PRO member
做了一个 AI Bot 的开源项目,欢迎大家体验
分享创造  •  WorkerMatt  
PRO
 •  17 days ago  •  Lastly replied by WorkerMatt
3
最近想在中文开发者圈介绍一下 Modelflare
推广  •  WorkerMatt  
PRO
 •  Aug 14  •  Lastly replied by damnu
2
大家真的觉得 Manus 是套壳 Agent 么
问与答  •  WorkerMatt  
PRO
 •  Aug 13  •  Lastly replied by sxbaixing
7
WorkerMatt's recent replies
先拆一下输入、输出和缓存命中各占多少吧,同样十亿 token,成本能差很多。如果主要是 agent 反复带历史上下文,先看缓存和重试日志。套餐还得问清楚持续限流和并发,额度写得再大,跑不满也没用。
别一口气让它改太大,diff 大到自己不想看就已经失控一半了。另开个干净上下文帮忙审可以,但不能当验收。迁移、删数据、改线上配置这些权限也别顺手给,写代码和上线是两回事。
7h 4m ago
Replied to a topic by ciogao › 程序员 › 咨询:你换模型供应商的原因是什么
价格是一方面,真到要用的时候突然 429,才最想换。还有切换成本,工具调用、缓存这些换一家未必完全兼容,不能只比单价。

利益相关,我们在做 [Modelflare](https://modelflare.dev/),一个 Key 调多家模型,按量付费。不过适不适合自己的任务,还是先小额跑一轮比较实在。
先看喜欢的是 Opus 哪一点吧,是不用反复解释,还是改代码不乱动别的地方。同个仓库拿一个 bug、一个重构任务试一下,比看跑分有用。最好连工具和权限也保持一致,不然很难分清是模型差异还是 agent 的差异。
AI 十分钟写完,人审两小时,也不一定比自己写轻松。可以先试试每次只让它改一小块,自己看懂、测完再继续。不然几个任务一起跑,最后全是等着自己验收的代码,确实容易变成给 AI 收尾。
3 days ago
Replied to a topic by tmtstudio › 程序员 › AI 离谱越权操作一则,大家引以为戒
能改生产 nginx 还能 reload,那「修改需审核」实际上就没拦住。只读和部署账号得拆开,不能让 agent 手里拿着完整权限,再靠提示词告诉它别用。上下文一压缩,前面交代过什么就不好说了。
对用户一个入口,后台按任务拆 session,这俩其实不冲突。写代码最怕不同项目的上下文串了,日常助手又不能每次都从头交代,难点还是哪些该记、哪些该隔离。

利益相关,我们在做的 [AnyModelBot](https://anymodel.bot/) 也是这个方向,MIT 开源,能本地或 Docker 跑。入口合在一起不难,任务之间的记忆怎么共享才比较头疼。
4 days ago
Replied to a topic by jedeft › 程序员 › cursor 月限额用完了,怎么办?
我的做法是 Cursor 只留给 tab 补全和小改动,大任务交给 Claude Code 或 Codex 走 API,按量付费反而更可控。再给不同任务配不同的模型,日常重构用便宜的模型就够了,月中就不太会撞限额。
判断中转站靠不靠谱,可以看三点:是不是按官方的 token 口径计费(按张卖的多半是逆向网页接口)、有没有明确的用量明细、能不能开票或走正规支付。利益相关:我们自己在做 Modelflare(https://modelflare.dev),一个 API 网关,楼主可以拿来对比一下,不过建议先小额测试,哪家都一样。
agentic coding 烧 token 的大头一般是每轮都重发的上下文,不是输出。几个省钱的办法:开 prompt caching、定期压缩或重开会话、简单任务切到便宜的模型,复杂推理再用大模型。6000 万 token 花 100 刀,其实算正常水平了。
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   937 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 84ms · UTC 20:35 · PVG 04:35 · LAX 12:35 · JFK 15:35
♥ Do have faith in what you're doing.