letmatte
V2EX  ›  问与答

昇腾是目前性价比最高的推理 GPU 吗?

  •  
  •   letmatte · 3 days ago · 1660 views

    对于企业内部私有化部署小模型,如 32B 、72B 等,对比英伟达或其他一众国内厂商,华为昇腾是目前性价比最高的选择吗?仅用于主流模型(如 deepseek 、qwen 、未来不知道 mimo 会不会发开源小模型)的推理,不做训练。

    如果是,是否有经销商推荐?目前在京东淘宝等渠道没找到官方店铺

    8 replies    2026-05-21 12:52:38 +08:00
    suke119
        1
    suke119  
       3 days ago   ❤️ 2
    昇腾哪里性价比高了 贵又不好用,
    SeduceQAQ
        2
    SeduceQAQ  
       3 days ago via iPhone
    京东淘宝🧐没记错的话这玩意应该直接找华为吧
    letmatte
        3
    letmatte  
    OP
       3 days ago
    @suke119 有好用的推荐吗
    suckinbottle
        4
    suckinbottle  
       2 days ago
    up 忽略了时间成本!
    senooo
        5
    senooo  
       2 days ago
    法国记者问黄仁勋: 你会卖芯片给华为吗?!
    想到了这个片段....
    legendBro
        6
    legendBro  
       2 days ago
    你来做运维
    yjhatfdu2
        7
    yjhatfdu2  
       2 days ago
    不如 RTX PRO 6000
    lyxxxh2
        8
    lyxxxh2  
       1 day ago
    昇腾性价比高??? 我又去了解了下。

    https://e.huawei.com/cn/products/computing/ascend/atlas-300-ai
    Atlas 300I Pro 推理卡
    24gb
    算力:140 TOPS INT8,
    功耗:72W
    传输:204.8 GB/s
    淘宝:6k

    https://www.nvidia.com/en-gb/data-center/tesla-t4/
    tesla-t4
    算力:130 INT8 TOPS
    功耗:70w
    传输:320+ GB/s
    淘宝:4.6k

    奇怪了,怎么感觉相差不多。
    去年我记得昇腾贵的一批。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2894 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 40ms · UTC 04:44 · PVG 12:44 · LAX 21:44 · JFK 00:44
    ♥ Do have faith in what you're doing.