Volekingsg 最近的时间轴更新
Volekingsg

Volekingsg

V2EX 第 207939 号会员,加入于 2016-12-27 22:42:44 +08:00
今日活跃度排名 482
Volekingsg 最近回复了
2 天前
回复了 lp7631010 创建的主题 OpenAI openai api 余额咋充值
@lp7631010 注意下 API 绑卡和开 plus 不一样,是要到 https://platform.openai.com/account/billing/payment-methods 去绑定
2 天前
回复了 Ansen678 创建的主题 OpenAI ChatGPT 正式登陆 iOS 平台
4 天前
回复了 jingsam 创建的主题 问与答 求一套做大语言模型推理的机器配置
参数用 fp32 存的话,Model Memory=Model Parameter * 32 / 8 ,比如说 7B 的 LLaMA 就是 4*7 Billion Byte= 28GB
fp16/bp16 减半,int8 再减半

Inference 时,Total Memory ≈ 1.2 * Model Memory ,因此全量 7B LLaMA 需要 40G 的显卡

全量微调的需要的参数量就更多了,> 5 * Model Memory ( AdamW 优化器,另外没算 Activation Memeory ,与 tokens 量有关)

因此想要微调可以看下低参数量微调的工作,像 lora 等 https://github.com/huggingface/peft ,配合 16 精度参数能在 24G 上微调

更具体数字可以参考 https://blog.eleuther.ai/transformer-math/
4 天前
回复了 ycyppq123 创建的主题 OpenAI OneKey 今天新用户是不是可以申请美国卡
目前无,可以去群里看一手消息 https://discord.gg/nwUJaTzjzv
@FinlayX #1 如果是为了 OpenAI 付费等这周上了 4040 的新卡再开吧。

虽然我也是 aff man ,但还是想吐槽现在的 aff man 自己不了解或者故意不说清楚情况,就匡别人开

OneKey 最早开的是美卡(国内外都可支付),那卡不行后给新用户开的是只支持国内支付的港卡,周末给开美卡的补了张 4040 (卡内余额可以互转,尝试了下可以绑定 OpenAI ),新用户暂时还不能开(说是这周支持)

另外还没有上提现功能,据说还在开发,具体时间未知,介意者建议先观望

最新消息可以围观下官方 Discord https://discord.gg/nwUJaTzjzv

最后附个我的 invite link https://card.onekey.so/?i=8Y8O3W
5 天前
回复了 wuxiran 创建的主题 OpenAI chatgpt 被封, depay 的退款到账了。
目前看下来主要有两种说法,
一,很多用 Depay 绑卡卖 120 刀的账号但不付费,卡 BIN 被拉黑了
二,iOS App 出来后没有 Cloudflare 验证,或通过 sentry.io 收集 IP ,把不支持的国家 BAN 了
也都有例外情况,另外这波大多是开过 PLUS 的被封。
@likunyan #4
@avenger #6
目前美国卡只给之前开到美国的替换,上线说是要等到下周
6 天前
回复了 liul2566 创建的主题 OpenAI 用 depay 续费的号直接没了
@Hormazed #46 交易所买币转账充值,和 depay 一样,搜一下应该有不少教程,另外非原先美卡用户下周二才能开,可以先等等
7 天前
回复了 liul2566 创建的主题 OpenAI 用 depay 续费的号直接没了
@Mandyer #25 Onekey 官网下面有个 Slack ,里面会有通知 https://onekey.so
7 天前
回复了 liul2566 创建的主题 OpenAI 用 depay 续费的号直接没了
@Alexf4 #30 我有个没续 PLUS 的号 IP 全球跳,暂时也没事
关于   ·   帮助文档   ·   博客   ·   nftychat   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   2583 人在线   最高记录 5634   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 30ms · UTC 09:02 · PVG 17:02 · LAX 02:02 · JFK 05:02
Developed with CodeLauncher
♥ Do have faith in what you're doing.