V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
storyxc
V2EX  ›  问与答

炼丹这块业务, AMD 还能能支棱起来吗?

  •  
  •   storyxc · 322 天前 · 1963 次点击
    这是一个创建于 322 天前的主题,其中的信息可能已经有所发展或是发生改变。
    想自己跑下最近很火的 so-vits-svc 项目,结果发现 A 卡跑不动,难受
    11 条回复    2023-05-12 12:07:35 +08:00
    zxfreedom
        1
    zxfreedom  
       322 天前
    cuda 老黄布局这么多年了都,不可能一下子就追上的,就算追上了肯定也要涨价
    Planarians
        2
    Planarians  
       322 天前 via iPhone
    @zxfreedom 有竞争打破垄断才能降价啊
    seres
        3
    seres  
       322 天前
    放弃幻想,早日换 N
    ETiV
        4
    ETiV  
       322 天前 via iPhone
    cuda 是入场券、是🚪
    Aloento
        5
    Aloento  
       322 天前
    我就没见哪个框架不用 CUDA 的(
    https://www.amd.com/en/technologies/infinity-hub/pytorch
    storyxc
        6
    storyxc  
    OP
       322 天前
    @seres #3 当了大怨种了,21 年显卡最贵的时候 8.5k 买的 6900xt ,看了下黄鱼还值 3k
    ysc3839
        7
    ysc3839  
       322 天前
    ROCm 跑不了吗?许多用 PyTorch 等框架的项目是没有使用 CUDA 独有功能的,ROCm 基本上能跑。
    secondwtq
        8
    secondwtq  
       322 天前   ❤️ 1
    @ysc3839 AMD 最大的问题不是跑不跑得了,是人家根本就没把个人消费者当人看
    你要是不管其他条件光是要跑 ROCm 肯定是能跑的,但是 ROCm 到现在不支持 Windows ,虽然我自己天天用 Linux ,几个人真会为这个装 Linux 啊(你别说,貌似还真有 A 卡用户这么干)?这就好比给你一个小目标,但是要强制你带着钞票去一个屁都没有连网都不通的海岛上面去 ...

    我刚上去最上面还挂了个新 issue: https://github.com/RadeonOpenCompute/ROCm/issues/2128 Will the RX7900 series be supported? 要知道 7000 系 technically 是去年的卡,然后 ROCm 是自己的软件不存在什么开源社区项目要 review 不能进的问题,现在还没消息就离谱

    然后 AMD 你能解释下这个迷之文档页面是怎么回事么? https://docs.amd.com/category/ROCm%E2%84%A2%20v5.x 为什么 5.5 没有“Getting Started Guide”,而且 5.4 里面该文档的 href 是“//”?
    不过我觉得不需要解释,因为点进去就能看到“GPU requirement”只有有限的 Instinct 和 Radeon Pro 型号。反正大客户有问题都是直接一个邮件过去就行,公开页面随便摆烂得了呗?
    实际上这问题早就给撕烂了 https://github.com/RadeonOpenCompute/ROCm/issues/887 可能不存在一个人类个体完整地了解 ROCm 究竟支持什么硬件 https://github.com/RadeonOpenCompute/ROCm/issues/1714

    作为对比,CUDA 基本从一开始就是随便 N 卡( G80 之后)什么系统都能用(虽然严格上并不是,因为 NVIDIA 官方提供了 FreeBSD 的驱动,但是并没有提供 FreeBSD 的 CUDA Toolkit ,不过想在 FreeBSD 上用 CUDA 的怕是比 Windows 用户为了用 ROCm 切 Linux 的还要少 😅 而且 FreeBSD 本身有 Linux compatibility 功能,然后根据一些最近的信息好像经过一堆 hack 之后还真他娘的能用 😅😅 https://github.com/verm/freebsd-stable-diffusion 虽然 NV 官方对这问题好像也是一直摆烂)。Intel oneAPI 直接把 N 和 A 的支持也做了。

    有小道消息说 ROCm 的 Windows 支持要出来了,但是 ChatGPT 都火了半年了,现在还没出来真就突出一个慢热。这不是一个单独的问题,AMD 整体都这样,X670 皇帝吊死在二仙桥上才几年哪,忘啦!
    storyxc
        9
    storyxc  
    OP
       321 天前
    @secondwtq #8 农企没有竞争力导致老黄现在刀法更肆无忌惮,彻底不拿消费级市场的用户当人了,40 系的定价就是依托答辩,更恶心的是最高端的 4090 居然是性价比最高的,反正 A 卡只能打个游戏,只要有生产力需求就得来买我的 N 卡🤮
    israinbow
        10
    israinbow  
       321 天前 via Android
    按摩店最后的倔强就是能拿 ncnn 和 vulkan 跑小体量模型了🥹
    黄核弹在嵌入式平台也打好了市场,最后的倔强也会被 cuda 加速给橄榄。
    zeze0556
        11
    zeze0556  
       321 天前
    A 卡只能用来打游戏。。。。
    我两块 A 卡, RX590 。。。在 linux 上折腾 pytorch 都一周了,驱动装是装好了,sd 运行报段错误。逼的我目前在从源代码编译,后悔去年图便宜入了 A 卡的坑。
    从目前看到的 rocm 的各个版本来看,除了死贵的新卡之外,统统不支持,新卡支持的稳定性如何我不知道,但老卡就基本靠 Hack 了,然后各种资料还找不到。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   956 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 27ms · UTC 21:47 · PVG 05:47 · LAX 14:47 · JFK 17:47
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.