shuimugan 最近的时间轴更新 shuimugan 最近的时间轴更新 |
shuimuganV2EX 第 83209 号会员，加入于 2014-11-23 14:34:54 +08:00 |
shuimugan 最近回复了
19 小时 7 分钟前 回复了 jeesk 创建的主题 › 程序员 › cloudfalre worker 也许是目前 web 服务部署的一种最佳实践。 |
Cloudflare Workers 连冷启动都没有，而且 IO 等待的耗时不计在内，只算 CPU 时间，比 Serverless 好太多了
12 天前 回复了 DK7S 创建的主题 › 买买买 › 2024 年马上结束了，今年买的最值得的东西是什么 |
迪卡侬山地车 EXPL500 ，重新激发了对运动的喜爱，经常骑出去溜圈，身体健康了很多
56 天前 回复了 raw0xff 创建的主题 › Local LLM › 代码助手用 cursor pro 划算还是 cursor+ollama 本地部署划算？ |
@kaichen 你这个链接里恰巧说明了 Qwen2.5.1-Coder-7B-Instruct 这个 7B 的模型即使在 8bit 量化下也非常接近 gpt4 啊
59 天前 回复了 Jak 创建的主题 › Android › OPPO 授权体验店购买一加 13 的垃圾体验 |
后续结果不错，恭喜楼主了，送三无充电宝就是送炸弹，就算是自己要丢掉也要放那种处理有害垃圾的桶，丢街边的垃圾桶万一太阳照射下高温起火了也是很可怕的事情。
1：充电宝强制 3C 认证了
自 2023 年 8 月 1 日起，对锂离子电池和电池组、移动电源实施 3C 认证管理；自 2024 年 8 月 1 日起，未获得 3C 认证证书和标注认证标志的，不得出厂、销售、进口或者在其他经营活动中使用。
2：充电宝有国标
https://std.samr.gov.cn/gb/search/gbDetailed?id=71F772D82450D3A7E05397BE0A0AB82A
https://openstd.samr.gov.cn/bzgk/gb/newGbInfo?hcno=7256184719B195F1E60A1610156A1C76
里面明确提到了必须印刷的信息、材料的阻燃等级、环境适应性里不得爆炸和起火。
这些年也有不少充电宝起火和爆炸的新闻，不符合标准的充电宝连飞机都上不去，我对待电池相关产品一直都是小心翼翼的，生怕家里有电池鼓包起火，所以非常理解楼主。
1：充电宝强制 3C 认证了
自 2023 年 8 月 1 日起，对锂离子电池和电池组、移动电源实施 3C 认证管理；自 2024 年 8 月 1 日起，未获得 3C 认证证书和标注认证标志的，不得出厂、销售、进口或者在其他经营活动中使用。
2：充电宝有国标
https://std.samr.gov.cn/gb/search/gbDetailed?id=71F772D82450D3A7E05397BE0A0AB82A
https://openstd.samr.gov.cn/bzgk/gb/newGbInfo?hcno=7256184719B195F1E60A1610156A1C76
里面明确提到了必须印刷的信息、材料的阻燃等级、环境适应性里不得爆炸和起火。
这些年也有不少充电宝起火和爆炸的新闻，不符合标准的充电宝连飞机都上不去，我对待电池相关产品一直都是小心翼翼的，生怕家里有电池鼓包起火，所以非常理解楼主。
60 天前 回复了 dafen7 创建的主题 › 程序员 › 最低成本本地运行 70B 模型， V 友有哪些建议 |
@dafen7 mac book pro 能跑 70B 吗？能
带宽不足吗？不足，所以速度慢
慢多少？带宽是 Ultra 的多少，速度就是 Ultra 的多少，看 https://github.com/ggerganov/llama.cpp/discussions/4167 可以发现带宽就是首要的决定因素，而且模型越大，带宽瓶颈需求就越大，特别是 70B 这个体量，传输都不够了，算得再快都没用
带宽不足吗？不足，所以速度慢
慢多少？带宽是 Ultra 的多少，速度就是 Ultra 的多少，看 https://github.com/ggerganov/llama.cpp/discussions/4167 可以发现带宽就是首要的决定因素，而且模型越大，带宽瓶颈需求就越大，特别是 70B 这个体量，传输都不够了，算得再快都没用
61 天前 回复了 Jak 创建的主题 › Android › OPPO 授权体验店购买一加 13 的垃圾体验 |
送三无充电宝和送炸弹有什么区别，肯定要较真啊，不保留好证据万一起火爆炸时起诉都麻烦
61 天前 回复了 dafen7 创建的主题 › 程序员 › 最低成本本地运行 70B 模型， V 友有哪些建议 |
P40 很垃圾的，10 张 P40 加一起速度还没到 M2 Ultra 的 1/3
66 天前 回复了 babyedi31996 创建的主题 › 程序员 › 本地部署大语言模型哪家强? |
@LaTero 是的，更多的优质数据训练出来的模型就是底大一级压死人，roll 到好的回答的几率高很多。但是大的模型对硬件的要求也很高，本地难部署，期待未来会有个更好的架构，基础模型是个智商和学习能力都很强的白纸，然后选择外挂要用到的知识库进行对话，那样就爽了。
66 天前 回复了 babyedi31996 创建的主题 › 程序员 › 本地部署大语言模型哪家强? |
@babyedi31996 我当时是买官方翻新的，不到 4.5w 。现在肯定不买，按刚出的 M4 Max 内存带宽推断 M4 Ultra 内存带宽应该能超过 1000GB/s 了，跑推理的速度比 M2 Ultra 要快 1/4 ，不急的话还可以等官方翻新 + 员工优惠叠加更便宜。教育优惠貌似不能在 studio 上使用
66 天前 回复了 babyedi31996 创建的主题 › 程序员 › 本地部署大语言模型哪家强? |
@babyedi31996 是的，我也是反复对比计算衡量过后，才直接上了顶配的 Mac Studio ，有 apple care 加持可以大胆拿来高强度推理，开箱即用很省心，电费也省下不少，还很安静
Select Language