V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
Vitta
V2EX  ›  macOS

intel mbp 有办法用 gpu 给 ollama 提速吗

  •  
  •   Vitta · 88 天前 via iPhone · 1172 次点击
    这是一个创建于 88 天前的主题,其中的信息可能已经有所发展或是发生改变。
    目前看的都是 m 系列的可以,intel 的有点慢
    6 条回复    2024-08-13 11:58:35 +08:00
    eclipselu
        1
    eclipselu  
       88 天前
    好像不行,详见: https://github.com/ollama/ollama/issues/1016 ,我看了下很折腾就没搞了。
    感觉只能装个 Windows 或者 linux
    Vitta
        2
    Vitta  
    OP
       88 天前
    @eclipselu 好吧,谢谢,我看了个 intel 加速 的,不过是 linux 和 win 的
    longbye0
        3
    longbye0  
       86 天前
    intel 的加速服务现在叫 oneapi ,有用 gpu/vpu 做加速计算的能力,你可以去看 oneapi 支持 macos 不?
    msn1983aa
        4
    msn1983aa  
       86 天前
    外置 gpu 一套下来不便宜,有这个钱不如直接换 M 系列本了
    Vitta
        5
    Vitta  
    OP
       84 天前
    @msn1983aa 对啊,白瞎 64g 内存了
    Vitta
        6
    Vitta  
    OP
       84 天前
    @longbye0 看到一个 OpenVINO 方案,也挺麻烦的。还是不如 m 系列
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5637 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 21ms · UTC 03:08 · PVG 11:08 · LAX 19:08 · JFK 22:08
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.