cinlen 最近的时间轴更新 cinlen 最近的时间轴更新 |
cinlenV2EX 第 201407 号会员，加入于 2016-11-15 13:08:51 +08:00今日活跃度排名 19105 |
| 本地跑 sd 和 local llm 推理, 什么显卡性价比最高？ 程序员 • cinlen • 4 小时 19 分钟前 • 最后回复来自 crackidz | 38 |
| 使用 c 某 dn 的程序员是一种什么心理？ 互联网 • cinlen • 4 天前 • 最后回复来自 artiga033 | 19 |
cinlen 最近回复了
2 天前 回复了 cinlen 创建的主题 › 程序员 › 本地跑 sd 和 local llm 推理, 什么显卡性价比最高？ |
@FlintyLemming 请教一下，如果我想要学习量化这个过程(我可以找一个 fp16 但是参数量小一点的模型例如 phi-2), 大致需要的显存应该如何计算？ 和推理一样用参数量乘以数据类型占用 bit 数吗？
3 天前 回复了 cinlen 创建的主题 › 程序员 › 本地跑 sd 和 local llm 推理, 什么显卡性价比最高？ |
@luchenwei9266 可以考虑看看 , 魔改的 22g 踩雷概率高吗？
3 天前 回复了 cinlen 创建的主题 › 程序员 › 本地跑 sd 和 local llm 推理, 什么显卡性价比最高？ |
@ccloving 好问题. 话说你不提我压根没想过 A 卡
3 天前 回复了 cinlen 创建的主题 › 程序员 › 本地跑 sd 和 local llm 推理, 什么显卡性价比最高？ |
@netizenHan 目前我是 m1 跑小模型没啥问题。 但还有 sd webui 和 sd comfyui 的需求，所以应该会攒台新机器。
3 天前 回复了 cinlen 创建的主题 › 程序员 › 本地跑 sd 和 local llm 推理, 什么显卡性价比最高？ |
@hez2010 最好是可以 fp16
3 天前 回复了 cinlen 创建的主题 › 程序员 › 本地跑 sd 和 local llm 推理, 什么显卡性价比最高？ |
@justFxxk2060 有看到 2080ti + 22g 的方案，这个靠谱吗？
4 天前 回复了 cinlen 创建的主题 › 互联网 › 使用 c 某 dn 的程序员是一种什么心理？ |
@woodfizky 我使用 kimi chat 的时候就发现搜索资料来源很多是 csdn ，特地加了提示让 kimi 不要从 cdsn 中检索资料，还是没有效果。 果断换 perplexity 。
5 天前 回复了 ncisoft 创建的主题 › Java › 对垃圾回收器的改进方案 |
benchmark 没出来就开始找商业合作了？
9 天前 回复了 zhongjun96 创建的主题 › Linux › 两台服务器，网口对插，延迟偏大，有没有大神碰到过？ |
你期望的延迟大概是什么范围
2021-12-27 10:00:14 +08:00 回复了 richangfan 创建的主题 › 程序员 › 有没有 30 天精通 golang 的教程？ |
@yazinnnn 动态转静态一开始都会痛，只是转 go 相对没那么痛
Select Language