V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
andantin0
V2EX  ›  机器学习

大学生因机器学习不会选主机配置寝食难安,求帮助

  •  
  •   andantin0 · 2020-07-10 17:55:14 +08:00 · 3441 次点击
    这是一个创建于 1594 天前的主题,其中的信息可能已经有所发展或是发生改变。

    首先为我的标题党行为向各位朋友道个歉,但确实今天导师突然让我给实验室配个服务器,我因为没有装机经验,所以现在有点懵,想问问各位有没有什么推荐的配置

    需求:目前比较主流的显卡,能用大概三年左右不落伍,跑机器学习算法的训练,有几个师兄做 VR/AR 的研究,所以也需要承担 VR/AR 的性能

    预算:导师说没有预算,尽量选比较好的,但也不要太奢华的(我们实验室算上今年新生大概 17 个人,搞机器学习的目前好像就我,其他师兄师姐主要做的还是 VR 这类人机交互的方向,后面可能还会有几个新生确定机器学习方向,也会去训练一下模型啥的

    我的想法:我看了一圈京东,目前感觉:

    • 显卡:
      • 似乎选 RTX2080 TI 比较合适,但它价格从 8000-13000 不等,这块还是有点疑惑,选择哪个牌子和哪个系列比较好,还有就是似乎有帖子建议买 turbo 型号的,说三个风扇那种不利于多卡(我也不确定实验室会不会有后续扩展多卡需求,但感觉上是不是留出一些扩展性更好一些?)
    • 主板:
      • 是不是应该选支持多卡的,这样可进可退,单卡也可以用?目前看到的有帖子推荐技嘉 X299
    • CPU:
      • i9 9900K (这个没细看
    • 内存:
      • 海盗船 DDR4 32G (是不是 32G 比较主流
    • 其他的元器件还没看

    其实导师让我配服务器的时候还发给我一个店铺链接,让我在这个经销商这看看,但我看里面好像都是装机套餐,感觉可能有水分,所以还是有点犹豫,顺便问问各位装机是自己买好了组装好一些还是选这种直接列清单给装好的

    编辑比较仓促,感谢各位看完,先谢谢大家了

    14 条回复    2020-09-04 08:42:42 +08:00
    RingoTC
        1
    RingoTC  
       2020-07-11 00:35:21 +08:00
    你确定可以不在导师指定的店铺买吗
    kofko123
        2
    kofko123  
       2020-07-11 01:43:34 +08:00 via iPhone
    ML 核心应该还是 GPU,基本首选 titan,单双精度浮点性能没有像游戏卡一样阉割,又比计算卡便宜很多,我认识的一个做 ML 的也是用的 titan 跑学习。不过新品可能快出来了,但是实验室采购大概拖不了。
    不知道现在这些专业软件 amd 平台的兼容性如何,单以计算性能和价格比来说对照 intel 平台优势是相当巨大的。而且如果是作为服务器的话也不应该买 9900k 这种既针对游戏又已经过时的 cpu 吧(提醒一下,10 代 core 已经上市)。可能买 xeon 或者 eypc 更合适?
    necomancer
        3
    necomancer  
       2020-07-11 14:30:34 +08:00
    我是做计算的,一定程度算相似吧。ML 的话 NVIDIA 有专门的 TPU,这个不是很了解。但这几年下来摸索的计算力价格比最大的组合:一般的科学计算,单精度还算行,所以游戏卡就可以,我们配置一般是 4U 机箱,4 块显卡的服务器( 8 块卡的一般要定制主板啥的),显卡买公版,侧面出风那种。双路 E5-26xx 具体忘了,总共 48 线程,因为我们的情况是 CPU/GPU 都密集。内存尽量大,系统装在 SSD 里,然后上 4 块(可以逐步加) 4T 硬盘。主板我忘了具体型号,只记得是华硕的一个服务器主板,可以双路 E5-26xx 的,3k 左右,1500w 电源,自用也不用加冗余。总下来 4w-5w 左右( 4 块卡,2 块硬盘,2xCPU,32G 内存),性能很赞,可以撑好几年(升级显卡还能再战一轮)。其实大头还是在显卡上,要是你还要考虑到后续小朋友一起用,推荐配置。
    necomancer
        4
    necomancer  
       2020-07-11 14:32:17 +08:00
    如果人多以后一人一块卡,这个价格很合理了。或者偶尔搞点多卡并行,效果也很好。
    necomancer
        5
    necomancer  
       2020-07-11 14:55:02 +08:00
    另:如果是走经费报销和固定资产,一般是有上限的,超过多少就要竞标,所以一般科研组都会有个很固定的买机器的商家,发票啥的都是有说道的。除非是你们老师是用从经费哪里套出的钱或者是一些企业合作之类的没那么严格的经费,才能让你直接淘宝搜。这点上你可以把整机配置挑好、京东 /淘宝的大致报价给老师,然后让他去办。我的建议是找固定的供货商,让他们赚点有时候也没啥,票子一套可是很麻烦的。要你出方案价格没必要那么担心,算好性价比就行,实在不行到本地电脑城那种地方去找个靠谱的实体,淘宝你可能得磨一阵子嘴皮子。个人建议,尽量找个靠谱的商家然后建立长期供货关系,公版显卡、E 系列 CPU 和一些服务器专用的东西对很多散户商家不那么好找的,专门做服务器业务的一般都会贵,当然服务也保障,但是真的贵。
    andantin0
        6
    andantin0  
    OP
       2020-07-11 15:42:09 +08:00
    @kofko123 谢谢老哥的建议,我描述一下我们实验室的情况,目前是可能还有三四个新生会选机器学习的方向,读硕士,所以当时考虑两块 2080TI 是感觉一个人能分着用一部分,这里 TITAN RTX 一块的显存我看了比 2080ti 的 11*2 要大,但不知道这种同时的多人复用哪种方案会比较好;其次就是目前的预算可能不太多,去京东的品牌服务器经销商咨询了价格,那里给的都是至强的准系统,加配一块 RTX 2080TI 价格就 3W+了,同系列的酷睿解决方案可以配两块 2080TI 了,配一块 TITAN RTX 就要到了 5W....这里我也不知道怎么选,至强肯定是比酷睿的游戏芯稳定,但我觉得老师不一定能接受这个价格,我自己在中间有点纠结了。。。
    andantin0
        7
    andantin0  
    OP
       2020-07-11 15:47:21 +08:00
    @necomancer 谢谢老哥,建议很详细,讲的是我没有了解过的专业服务器相关的配置,我最近做的功课都是这类游戏机的配置,因为大家都说它不够稳定所以我也想看看服务器这边的系统,但确实是小白没经验,京东上的品牌零售商,塔式,2 颗银牌 4210,64G 内存,一块 TITAN RTX 就要 5W....单卡 RTX 2080TI 要 3W....实在是和游戏主机差别有点大,所以还是想问问老哥这种服务器攒机有没有什么推荐的商家(目前看老师的意思并没有说必须在哪家店
    jQE2EiL
        8
    jQE2EiL  
       2020-07-11 17:16:25 +08:00 via iPhone
    TITAN RTX 单卡虚拟化复用不是两块 2080 Ti 可以比的
    andantin0
        9
    andantin0  
    OP
       2020-07-11 17:37:47 +08:00
    @jQE2EiL 愿闻其详,单个的 TITAN RTX 比两张 2080ti 好吗
    necomancer
        10
    necomancer  
       2020-07-11 21:46:06 +08:00
    @andantin0 店的话很抱歉,我没啥能推荐的。因为我们是找了长期合作商,是本地人,有注册公司,发票方便。我一般都是淘宝看看 CPU 、主板之类的价格,然后让他们去找,只要价格差异不离谱就接受。XEON 系列 CPU 的价格浮动是很丧心病狂的,你如果要自己协商,恐怕要费不少嘴皮子。我提供一下大概的参考价格:我记得我们用的 E5-26xx 系列是 3k 左右一颗(有工程版 2k 多点一颗,但是大家都说稳定性不好,我们有台当时没行货用了工程版,两年了没啥事,可能看人品多一些),主板 3k 左右,硬盘 1000 左右(固态系统 128G+4TBx1 ),电源海盗船 1500w 在 2k 左右,机箱几百,内存 16Gx2 带 ECC 加下来除了显卡在 1.7w 左右。我们一直用的是丽台的公版,是合作方直接联系丽台,每代(或上代,公版没货快,经费有周期)的 80(TI)系列都在 7k-10k,所以总价 5w 左右。也就是控制除了显卡的价格在 1.5w 左右,4 块卡、4 个人用就很合算。当然,我们的要求是做计算,CPU 也有需求,你们如果允许 i9+单路主板可能能便宜一点。你可以多看看 TPU 卡,这个和导师商量一下。买家的事还是和导师聊聊比较好,别最后你都能定了,价格超了需要竞标啥的。品牌的尤其是服务器他们卖的主要可能是服务还有售后,当然贵。
    andantin0
        11
    andantin0  
    OP
       2020-07-13 11:52:37 +08:00
    @necomancer 感谢老哥,太详细了!!!
    necomancer
        12
    necomancer  
       2020-07-13 15:40:58 +08:00
    @andantin0 祝福你,新入坑的科研狗。个人小建议:一次性给一个设计方案,出方案毕竟也是很麻烦的。落实的事情让导师去头疼。落实的事情让导师去头疼。落实的事情让导师去头疼。如果你不想几年以后也许正在和对象鼓掌,电话过来听见:师兄~老师让配个 xxx,xxx 怎么报销……挂了电话想再起需要很长时间。
    shm7
        13
    shm7  
       2020-08-28 17:35:59 +08:00
    做服务器的话。显存选大的,1080ti 起;内存 128g 起; cpu 至少 8 核,否则预处理可能吃亏。
    sunziren
        14
    sunziren  
       2020-09-04 08:42:42 +08:00
    为什么到首页了?
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   3025 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 25ms · UTC 14:39 · PVG 22:39 · LAX 06:39 · JFK 09:39
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.