V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
Xheldon
V2EX  ›  OpenAI

你们的 Azure OpenAI GPT-4 turbo 1106 有计费异常吗?

  •  
  •   Xheldon · 2023-11-29 13:12:48 +08:00 · 1721 次点击
    这是一个创建于 395 天前的主题,其中的信息可能已经有所发展或是发生改变。
    本月 19 号部署的美西 gpt-4-1106-preview 版,知识库是 2023 年 4 月(虽然问它的时候依然说是 2021 年 9 月)

    预览版介绍见这里: https://techcommunity.microsoft.com/t5/ai-azure-ai-services-blog/azure-openai-service-launches-gpt-4-turbo-and-gpt-3-5-turbo-1106/ba-p/3985962

    20 号开始计费,到现在总共 58 个请求,30k 的 token (我这里不区分进出了)
    就是按最贵的 gpt-4 32k ,0.12 美元/千 token 算,也不到 4 美元,但是累计成本那个图表显示我已经超过 7 美元了。而 gpt-4-1106-preview 官方计费标价也只是 32k 的 1/4 的价格。

    V 站不会放图,具体看推上的吐槽截图: https://twitter.com/_Xheldon/status/1729537459573440621

    想问下你们的新版 GPT-4 也是这个情况吗?

    我已经提工单了,客服支持也联系我让我提供详细信息,等个结果。大家检查下自己的消耗吧
    第 1 条附言  ·  2023-12-01 12:00:00 +08:00
    今天成本分析的那个视图调整了,但是计费依然不对。

    不过在成本分析里面的那个 GPT-X 和 GPT-Z 的显示名称,终于该成 GPT-3.5 turbo 1106 和 GPT-4 turbo 128K 了。

    另外 GPT-3.5 的计费成本依然是实际的 30 倍,我按 Tokens 算的 0.2 美元,给我显示的 6 美元多,服了...

    客服工单要了我的订阅 id 后两天了现在没有反馈。
    第 2 条附言  ·  2023-12-04 13:27:53 +08:00
    今天看了看,终于正常了,见:

    https://twitter.com/_Xheldon/status/1731545558773625020


    此贴终结哈
    16 条回复    2023-12-01 18:41:35 +08:00
    billzhuang
        1
    billzhuang  
       2023-11-29 13:14:12 +08:00 via iPhone
    azure 已经有 1106 啦?我还在用最老的版本 0304 好像
    Xheldon
        2
    Xheldon  
    OP
       2023-11-29 13:15:08 +08:00
    @billzhuang 刚出 10 多天了,看我贴的那个预览版介绍哈
    leoleozhu
        3
    leoleozhu  
       2023-11-29 14:06:22 +08:00 via iPhone
    标题好像不对,azure 的 GPT4 不是 turbo 的好像。
    leoleozhu
        4
    leoleozhu  
       2023-11-29 14:07:59 +08:00 via iPhone
    还是只是名称没有.
    Xheldon
        5
    Xheldon  
    OP
       2023-11-29 15:42:07 +08:00
    不清楚是不是 turbo ,只是上面显示的是 gpt-4 是 1106-preview ,应该就是最新的吧
    xabclink
        6
    xabclink  
       2023-11-29 16:49:00 +08:00
    @Xheldon 代表官方送你了 $5 , 请查收 gmail 邮箱
    itskingname
        7
    itskingname  
       2023-11-29 17:01:48 +08:00
    @Xheldon 就是 turbo ,我已经用上一周多了,效果非常好。注意 US East 1 没有,需要切换到 US East2 才有。

    @leoleozhu
    itskingname
        8
    itskingname  
       2023-11-29 17:03:56 +08:00
    @Xheldon 你写个英文版的反馈,我可以直接帮你给 Azure OpenAI 产品组发邮件询问。比走客服快一些。
    billzhuang
        9
    billzhuang  
       2023-11-29 18:54:01 +08:00
    也改到 1106 了,隔两天看看账单
    Xheldon
        10
    Xheldon  
    OP
       2023-11-29 20:09:08 +08:00
    @itskingname 谢谢建议,我这边先走客服反馈吧,他们解决不了再说。另外开这个帖子等等看有没有人跟我一样的问题,也好给大家个提醒🤣
    itskingname
        12
    itskingname  
       2023-11-30 12:23:41 +08:00
    @Xheldon 感谢,其实我也遇到这个问题了。
    itskingname
        13
    itskingname  
       2023-11-30 12:32:12 +08:00
    @Xheldon 请问你是在哪里记录输入输出花了多少 token 的?我在 azure 上面找不到这个图表,都是自己写代码手算的。
    Xheldon
        14
    Xheldon  
    OP
       2023-12-01 11:57:09 +08:00
    @itskingname

    到仪表板,点编辑,然后新建一个叫「指标图标」的磁贴,这个磁贴可以按照服务、资源、Meter 之类分组显示你的 请求成功率、成功数、Prompt 数相关的内容。

    也可以直接进到「资源」后,左侧栏的「指标」中筛选,比较有用的就是「应用拆分」,可以按照你部署的多个资源应用分组(而不是笼统的算 3.5 、4 的,因为你可能 4 的资源有多个应用),你试试。
    itskingname
        15
    itskingname  
       2023-12-01 17:50:01 +08:00
    @Xheldon token 有了,你的计费是怎么加到仪表盘的?
    Xheldon
        16
    Xheldon  
    OP
       2023-12-01 18:41:35 +08:00
    @itskingname 左上角标题右边有个 ping (挨着收藏五角星),可以添加
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   922 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 25ms · UTC 20:39 · PVG 04:39 · LAX 12:39 · JFK 15:39
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.