V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
dododada
V2EX  ›  程序员

AI 服务器配置在线推荐

  •  
  •   dododada · 221 天前 · 1237 次点击
    这是一个创建于 221 天前的主题,其中的信息可能已经有所发展或是发生改变。

    有没有什么在线配置 AI 服务器的网站?

    可以组合选择 cpu ,gpu ,功耗的

    比如:至强 83522 + tesla8 + 3000W*2 这种的

    能够给出性能+算力评估的,有国产选项的更好了

    最近在做选型,搞得头大。

    2 条回复    2024-04-17 11:27:13 +08:00
    mythabc
        1
    mythabc  
       221 天前
    没那么复杂,因为没有几款可以选的

    GPU: NVIDIA ampere 、ada lovelace 、hopper 架构的工作站卡、数据中心卡,techpowerup 的 GPU 数据库里面筛选一下就出来了,但是里面的算力不是很准确,要搜 NVIDIA 的官方参数。常见的训练卡 A100/H100 。 推理 4090 、A6000 、A40 等。
    连接性要考虑上不上 nvlink 、nvSwitch 。前者只能连接两张卡,后者用在 HGX 平台一出手就是八张卡。

    CPU 就志强三代、四代。AMD 宵龙。cpubenchmark 上看个单线程、多线程跑分。
    chesha1
        2
    chesha1  
       221 天前
    算力估算你可以去 vast.ai 上看,它们有一个自己的 benchmark
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2812 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 22ms · UTC 08:01 · PVG 16:01 · LAX 00:01 · JFK 03:01
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.