TGOcc

@linhu66 重做数据模版是个啥意思，是装维后台操作吗？还是要上门解决？

@techhe 不正常吧，我 32g 内存，跑 Qwen3.6-35B-A3B-4bit 速度还不错。


oMLX - LLM inference, optimized for your Mac

Benchmark Model: Qwen3.6-35B-A3B-4bit
Engine: Auto
================================================================================

Single Request Results
--------------------------------------------------------------------------------
Test TTFT(ms) TPOT(ms) pp TPS tg TPS E2E(s) Throughput Peak Mem
pp1024/tg128 1265.0 15.99 809.5 tok/s 63.0 tok/s 3.296 349.5 tok/s 19.20 GB
pp4096/tg128 6128.9 16.64 668.3 tok/s 60.6 tok/s 8.242 512.5 tok/s 19.89 GB

Continuous Batching
pp1024 / tg128
--------------------------------------------------------------------------------
Batch tg TPS Speedup pp TPS pp TPS/req TTFT(ms) E2E(s)
1x 63.0 tok/s 1.00x 809.5 tok/s 809.5 tok/s 1265.0 3.296
2x 119.1 tok/s 1.89x 461.2 tok/s 230.6 tok/s 2847.9 6.591
4x 235.4 tok/s 3.74x 370.4 tok/s 92.6 tok/s 6131.4 13.234

@zlkent 商宽你可以报修或投诉，后端应该能解决。

你老婆是孕妇啊，那你有再多的理由来讨论这事，也说不过去啊，怀孕的人，身体激素心理状态就不是一个正常状态，需要更多的心理关怀跟照顾，你很累没错，但这种洗碗上的小事担当一下，又是在特殊时期，你还计较。唉，你继续计较吧。

个人的分析只是说可能性，你老婆可能的心态，你加班忙，缺少交流，缺少家庭互动参与，你不吃饭但要你洗碗收拾家务，不一定是她自己懒的洗，有时女人的心态是复杂多变的，就是要那个感觉，就是要你做她认为或在意的事情，做了就你好我好，不做不是事情本身有没有做，而是心态上的不舒服，这是的一种表达方式。都结婚了不可能对自己老婆一点性格情况都不了解。婚姻生活时间长了很多时候就是妥协，是谁将就谁多一点少一点谁包融的多点少点，长期的一个磨合双方找到契合点。如果站在对立的状态看事情，大部分的矛盾都发生在家务或生活琐事上。你赢了或她赢了又能怎么样，生活过的一地鸡毛。你真不想每天洗，可以沟通一半的时间她洗一半你洗，具体执行时间再灵活机动分配。结婚找对象又不是找保姆，哪能事事随自己心意啊。换位来说如果每天你能回家吃饭，你再洗碗是不是心理上就没啥抱怨了。

@tubanwu 现在二手也不便宜啊，能抢到新发的话，搞不好价格贵不了太多性能提升大。数码电子类产品买新不买旧。

@xubeiyou 实用上来讲，免费的模型都已经够我日常使用了。

@felixcode 折腾的过程也挺有意思的，就像买无人机，飞的不多（现在的新规就更少飞了），也拍不出别人的大片感觉，但这中间花的时间学习跟试错都挺有意思。

@quantum00549 是的，关键是能不能适配自己的使用场景。

@wu67 可能算是伪需求吧，有时就是折腾，喜欢那个折腾的过程，在不停的折腾中学习跟享受过程，就像钓鱼佬（没贬义的意思），买器材的钱，能买多少鱼是一个道理。