fanhed's recent timeline updates fanhed's recent timeline updates |
fanhedV2EX member #378639, joined on 2019-01-19 18:44:50 +08:00 |
| 今天我去 neovim 官网找图标的时候, 顺手点了一点 donate 的 btc 地址 Vim • fanhed • Jun 16, 2024 • Lastly replied by Sample | 26 |
| 升级到 13 或 14 后, 恢复最小化窗口的时候会有闪烁 macOS • fanhed • Nov 11, 2025 • Lastly replied by ab | 15 |
| macOS 的窗口管理逻辑能不能修改? 例如关闭当前 app 的窗口后, 我要切换到另一个 app macOS • fanhed • Nov 16, 2023 • Lastly replied by ambition117 | 28 |
| Alfred 搜索应用的时候，关键词匹配规则能不能改？ macOS • fanhed • Mar 1, 2019 • Lastly replied by IBNOTW | 7 |
fanhed's recent replies
8 days ago Replied to a topic by majuzhang › Local LLM › 公司本地部署开源模型 |
先确定想用什么模型, 然后根据并发数和上下文要求, 确定多大显存, 然后再根据要求的 prefill 和 decode 速度, 确定具体的显卡型号
11 days ago Replied to a topic by kylebing › MacBook Pro › 闲聊，感觉 MacbookPro M1Pro 还是很能打，这都过去 5 年了 |
我 M1 Max 顶配, 确实没有性能问题, 但是不支持最新的 studio display 的高刷有点难受.
感觉还能再战三四年
感觉还能再战三四年
11 days ago Replied to a topic by Erona › 程序员 › 有人把「词元」一词塞进了 opencode |
不觉得糟糕, 词元翻译比令牌精准得多
14 days ago Replied to a topic by kneo › OpenAI › Codex 把我电脑文件都删了 |
@Ryanzlab claude 一样有删了别人文件的案例, 自己不设防中招是迟早的
16 days ago Replied to a topic by yiranw09 › Local LLM › 请教一下，本地部署 deepseekV4flash 大概需要什么样的配置需求？ |
两张 RTX PRO 6000, 数据自己看:
Prefill tok/s Aggregate decode tok/s
╭──────┬─────────┬────────┬────────┬───╮╭────────────┬───────┬───────┬───────╮
│ ctx │ tokens │ TTFT s │ tok/s │ N ││ ctx \ conc │ 1 │ 2 │ 4 │
├──────┼─────────┼────────┼────────┼───┤├────────────┼───────┼───────┼───────┤
│ 8k │ 8,192 │ 0.82 │ 9,959 │ 1 ││ 0 │ 213.7 │ 331.0 │ 494.7 │
│ 16k │ 16,250 │ 1.61 │ 10,094 │ 1 ││ 16k │ 214.3 │ 333.4 │ 585.7 │
│ 32k │ 32,342 │ 3.10 │ 10,429 │ 1 ││ 32k │ 209.1 │ 335.3 │ 491.9 │
│ 64k │ 64,559 │ 6.15 │ 10,501 │ 1 │╰────────────┴───────┴───────┴───────╯
│ 128k │ 128,992 │ 14.53 │ 8,878 │ 1 │
╰──────┴─────────┴────────┴────────┴───╯
Prefill tok/s Aggregate decode tok/s
╭──────┬─────────┬────────┬────────┬───╮╭────────────┬───────┬───────┬───────╮
│ ctx │ tokens │ TTFT s │ tok/s │ N ││ ctx \ conc │ 1 │ 2 │ 4 │
├──────┼─────────┼────────┼────────┼───┤├────────────┼───────┼───────┼───────┤
│ 8k │ 8,192 │ 0.82 │ 9,959 │ 1 ││ 0 │ 213.7 │ 331.0 │ 494.7 │
│ 16k │ 16,250 │ 1.61 │ 10,094 │ 1 ││ 16k │ 214.3 │ 333.4 │ 585.7 │
│ 32k │ 32,342 │ 3.10 │ 10,429 │ 1 ││ 32k │ 209.1 │ 335.3 │ 491.9 │
│ 64k │ 64,559 │ 6.15 │ 10,501 │ 1 │╰────────────┴───────┴───────┴───────╯
│ 128k │ 128,992 │ 14.53 │ 8,878 │ 1 │
╰──────┴─────────┴────────┴────────┴───╯
16 days ago Replied to a topic by dbow › Local LLM › 两台 dgx-spark 部署满血 deepseek v4 flash 完全指南,稳定 60~70tok/s 单流 |
@sillydaddy 还要算 prefill, 还要算 prefill 的 cache 命中
16 days ago Replied to a topic by dbow › Local LLM › 两台 dgx-spark 部署满血 deepseek v4 flash 完全指南,稳定 60~70tok/s 单流 |
@yoshiyuki agent 是否联网是可控的
16 days ago Replied to a topic by edgeedge › 程序员 › AI Coding 还看源代码吗？要是不看，会害怕血崩吗？ |
只看 spec, 具体代码已经来不及看了
16 days ago Replied to a topic by andforce › OpenAI › 使用礼品卡订阅的 ChatGPT，如何丝滑续费？ |
@notebookarno 支付宝把位置调到旧金山, 然后就可以看到卖 Apple 礼品卡的, 能用国内 Visa 信用卡直接买
Select Language