V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
请不要把任何和邀请码有关的内容发到 NAS 节点。

邀请码相关的内容请使用 /go/in 节点。

如果没有发送到 /go/in,那么会被移动到 /go/pointless 同时账号会被降权。如果持续触发这样的移动,会导致账号被禁用。
heisenyu
V2EX  ›  NAS

[求助] 从云服务器到 DIY 全能主机:我的 All-In-One 进化之路

  •  1
     
  •   heisenyu · 83 天前 · 1633 次点击
    这是一个创建于 83 天前的主题,其中的信息可能已经有所发展或是发生改变。

    大家好!今天我想和大家聊聊我是如何一步步从云服务器用户变成打算自己 DIY 一个全能主机的。希望能听听大家的意见,特别是有经验的大佬们,你们的建议对我来说非常宝贵!!

    起步阶段

    最开始,我使用云服务器来部署日常任务。虽然第一年的价格相对划算,但续费时就是老用户不得进内了。所以,我就有了自己搭建一个的想法,然后整个内网穿透,多好。

    于是,我决定购买一台简单的 Mini 主机(比如 N100 ),配置 32GB 内存和 2TB 硬盘,这配置不比云服务器香多了。

    逐步深入

    但是,我对大模型服务又很感兴趣,比如部署个服务跑跑 SD 画图和语音合成等。于是我找到了一款支持显卡的 Mini 主机,准备搭配 4070 Ti Super 显卡,这样既能满足游戏需求,又能支持模型运算,岂不是一举两得!

    然后我就在网上都各种方案,经过这两天让我高强度冲浪,原来这种“既要又要”的需求就是 All In One

    计划与配置

    我的计划是使用 PVE 系统管理几个虚拟机,具体配置如下:

    • OpenWRT:路由管理
    • Windows 11:玩游戏(需要显卡)
    • Linux:日常开发
    • Linux:专门跑大型模型(需要显卡)
    • 黑群/飞牛:搭建 NAS

    具体配置

    • 主机:零刻 Gti12 Ultra + EX 显卡扩展坞(准系统)
    • CPU:i9-12900H
    • 显卡:4070 Ti Super
    • 内存:DDR5 4800MHz 32GB x 2
    • SSD:2TB x 2
    • SATA 机械硬盘:8TB x 2 (用于 NAS )

    需求分析

    我的需求是,平时不玩游戏和模型的时候,希望主机能够低功耗、低噪音(毕竟得放在卧室里)。同时,我希望它能玩游戏、部署模型服务,NAS 功能则是附带的,并不是刚需。我的整体预算大概在 15K 左右。

    讨论与建议

    对于我这种需求,All-In-One 是否是一个好选择?如果使用直连显卡用于游戏和模型,一个显卡是否足够?希望各位大佬能给予一些指点,万分感谢!

    此帖可有偿回复,欢迎各位大佬不吝赐教!

    16 条回复
    ztmzzz
        1
    ztmzzz  
       83 天前 via iPhone
    卧室和机械硬盘是冲突的
    4070 跑大模型只能说想多了
    dongzhuoyao
        2
    dongzhuoyao  
       83 天前
    这需求 15k 是不是太少了点
    heisenyu
        3
    heisenyu  
    OP
       83 天前
    @ztmzzz
    感谢回复,4070tis ,16g 显存,对于普通的一些模型已经够用了吧,我自己使用,也不提供服务
    abc0123xyz
        4
    abc0123xyz  
       83 天前
    建议把路由独立出来,要不然就是 all in boom.

    网络崩了,连搜索问题都搜不了
    zbatman
        5
    zbatman  
       83 天前
    反正这一套让我用的话我会很别扭,All in one 也不是这么 All 的
    15k 让我分配的话
    500 买个好点的路由器,刷 OpenWrt
    2.5K - 3K 淘个 7840HS 的小主机,带 16/32G 内存+1T nvme ,看看能不能挤出点再搞个大点的机械硬盘
    剩下的 1 万多配台 4070 Ti super 的台式机

    小主机上装 PVE ,可以做软路由+Linux (日常开发)+NAS ,平时一直开着,也不怎么耗电
    台式机玩游戏+WSL 跑模型(不太清楚 WSL 能不能用显卡)
    xwjlucky
        6
    xwjlucky  
       83 天前
    我家都是分开的
    songyoucai
        7
    songyoucai  
       83 天前
    安装我的部署,一定要把网络分开, 走硬路由,主机 boom 不影响家庭网络。
    同时把下载器,算,存进行分开。

    硬路由: 家庭路由器即可 300 内 24 小时开机。
    下载器: 星际蜗牛等矿渣 300 内 加上你得 8T*2 的硬盘,来安装黑裙,主做 nas ,可以安装 docker 服务,来提供爬墙等代理。功耗 60w 左右
    算力服务器:普通主机电脑+显卡 底层用 pve 安装虚拟机, 当不需要用的时候,把整个主机关机。需要的时候,通过群晖 nas 来进行远程唤醒即可。 这个需要考虑散热,扩展性,以及不用的时候卖出回血。 普通台式机是最好的选择,内存可以插满,显卡到时候也能上到 5090 。

    这样才是最好的规划。
    xwjlucky
        8
    xwjlucky  
       83 天前
    800 块的 J6412 小主机当软路由/1200 的 J4125 的当 nas 配了一块 16t 硬盘/主力机 12700k+48g 内存玩游戏写代码/9700x+48g 内存小主机当服务器开虚拟机后期可以外接显卡跑各种东西
    songyoucai
        9
    songyoucai  
       83 天前
    @songyoucai 我自己 homeserver 为 11700+128g+2T*2 以及一个 2T 机械。 我是通过下载器(群晖 nas)和算力服务器 同时备份。来做的我说的存的部分。重要资料我都是手动存储,群晖 nas 一份,homeserver 一份,网盘一份。

    这就是我的 网络,下载器,算,存的方案。
    phenixc
        10
    phenixc  
       83 天前
    建议将存储独立出来,分两个模块:网络和计算,存储。或者三个模块:网络,计算,存储
    ztmzzz
        11
    ztmzzz  
       83 天前 via iPhone
    @heisenyu mistral7b ,float16 ,占用 16253mb 。加上显示占用的显存,不好说。
    要显卡的 linux 改为 wsl ,docker 默认支持调用显卡,还不用在本机装 cuda 。
    phenixc
        12
    phenixc  
       83 天前
    我目前的结构是:
    j4125 负责网络和智能家居:安装 pve,挂 ikuai, dae, singbox, homeassistant, zerotier, tailscale, frpc 。功耗大概 10w ,无风扇,无声音。
    8845hs 负责计算:挂 win11, centos, docker, dsm 这些服务,待机功耗大概 12w,50cm 以外基本听不到声音,重度使用就另说了。
    极空间 z4pro 负责存储,也挂了一些 docker,两块 16t hc550 待机功耗 14w, 使用功耗 25w 。
    还有一台台式机 10850k, 6600xt, 安装 win11, 黑苹果。

    ups 给 j4125 和极空间,路由器,交换机,以及米家网关供电,nas 待机情况下,ups 统计电量大概 0.8 度/每天
    ellermister
        13
    ellermister  
       83 天前
    把路由独立出来,上面有人说的。
    另外把游戏机也独立出来,虚拟机里容易被检测封号,体验也不好。

    all in one 之后一个非常大的缺点,一旦物理机有个什么参数要改,要重启系统,所有机器实例都中断!
    sn0wdr1am
        14
    sn0wdr1am  
       83 天前
    别人的 ALL——IN:我有好多篮子的鸡蛋。
    你的 ALL——IN:我把鸡蛋都放在一个篮子里。
    heisenyu
        15
    heisenyu  
    OP
       60 天前
    @phenixc 感谢,请问 j4125 和 8845hs 用的是 mini 主机吗?能推荐一下吗?
    heisenyu
        16
    heisenyu  
    OP
       60 天前
    @songyoucai 感谢回复,确实打开了新思路。我也准备分开了,请教一下这边科学上网是通过部署 docker 服务,然后用到的话通过 配置代理 ip 进行科学上网的吗?如果这样的话是不是就不需要软路由了
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5357 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 24ms · UTC 08:53 · PVG 16:53 · LAX 00:53 · JFK 03:53
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.