ota 最近的时间轴更新
ota

ota

V2EX 第 77893 号会员,加入于 2014-10-21 00:37:33 +08:00
今日活跃度排名 18864
一個綜合了很多語言模型的在綫 chat,他是怎麽工作的?
OpenAI  •  ota  •  24 天前  •  最后回复来自 ota
3
为什么要在本地部署大模型?
OpenAI  •  ota  •  17 天前  •  最后回复来自 akira
13
安卓小白,想知道国行版的 pad 能刷国际版的 rom 吗?
Android  •  ota  •  28 天前  •  最后回复来自 ota
13
求 Python 初学者书籍推荐
Python  •  ota  •  32 天前  •  最后回复来自 ota
42
m1max64g8t14'⇋m3pro18g512G14'
MacBook Pro  •  ota  •  40 天前  •  最后回复来自 ota
30
copilot+pc 轻薄本求推荐。
问与答  •  ota  •  55 天前  •  最后回复来自 guanhui07
2
iPad pro 還是 mbp?
iPad  •  ota  •  156 天前  •  最后回复来自 wobushisavior
25
福冈或大阪,如何选择?
移民  •  ota  •  36 天前  •  最后回复来自 markyume
8
ota 最近回复了
不带情怀,单纯的觉得要避开国产,大部分原因是国产的安装包很大,被植入很多无用组件。
我到手三星的 s9 第一件事就是刷成国际版,然后系统就顺滑无比,不知道为什么。
@mumbler @jun0205 原来如此,没注意到,就看了后台的模型列表了。
27 天前
回复了 ota 创建的主题 OpenAI 为什么要在本地部署大模型?
@johnny2inc 的确,如果跑一些敏感数据,有必要跑在本地或者说自己部署(远程也一样)。现在一键安装包,docker 部署也在普及,这类更多的是想做一些其他非常规用途感觉。大部分在线服务已经在整合了,并不是完全竞争的关系,都在做细分领域的深耕及并存关系,比如 sd 和 mj 的关系。后面随着 flux 异军突起,包容性会越来越强,所以也是导致我不太明显需要自己部署到本地的理由是什么。感觉是想训练模型是假,想在现有的模型里添加 uncen 内容才是真的。我也理解性是第一生产力,但还是觉得有点小众,而且无法正常出道,擦边球的生成大部分在线也能搞定,所以又回到自建的必要性了。

而且这种需求需要的代价挺大的,我看了 scaleway 或者 hz 提供的 gpu 服务器,要达到 1500TFLOPS 最低成本起码在 7-8k rmb 每月,除非是真的想要弄落地应用,不然真的很烧钱,这就是另外一码事了,目标明确就是要做那些公开平台无法实现的内容提供者。如果自建,存在硬件上的劣势,多路 gpu ,4090 起步等,这些成本不低的情况下,仅仅是想保证出图的稳定性和自主性,感觉有点轮子的嫌疑。而且回到开头说的,这些硬件的搭建加上部署,真的很烧时间,ai 的进步太快了,我觉得还停留在 installation 的第 0 阶段实属有点浪费时间,还不如尽可能把大模型和插件吃透。因为看了 huggface 后,真的没办法一个一个玩,更别说自己一个一个部署了。现在也在慢慢出现通用 api 的中间件,用来调用各大模型的 api ,感觉这才是最终形态。不然玩一个模型就要了解一个 api ,太累了。

关于误人子弟的确说过了,只能说了解原理对一部分人来说还是有必要的,就得看每个人的需求了。
27 天前
回复了 ota 创建的主题 OpenAI 为什么要在本地部署大模型?
@frankyzf 比如 runway 事件那种?
@BrokenArrow 小新的 padpro 是最优选择,如果能刷国际版的话。舒适版适合长时间看电子书,也适合绘画,虽然是电容笔,但延迟已经很小了。肯定不能拿 wacom 技术支持的 spen 比较,但不至于影响体验。
我也主要是拿出门配合笔记本,现在 remote 办公有点频繁,需要改设计稿的时候越来越多,在外面出差的时候,有一块既能看书,又能影音,还能当笔记本第二块屏以及绘图板的平板实在太重要了。
@BrokenArrow 原来能刷啊,我在 lenovo 的论坛看了一圈,帖子就 2 个,而且也不建议刷了,一个是刷完无限重启。所以放弃了,入了 fe+,猎户座的那个 u 太拉跨,定位太精准了,只能作为娱乐以及轻度创作,比如画图画个草图上点色没问题,要叠加特效增加图层,得卡了。pdf 的笔记整篇太多也会出现卡顿。
@chqome 这方面有资料吗?安卓小白,刷机还没弄过。无法降级也无法还原对吧。

@JensenQian 小米,小新这类最新 pad ,貌似已经锁区了,刷不了或者已经不建议刷了。
我主要拿来看书,漫画等,偶尔看看剧,游戏完全不打,绘图为主,span 这块和 wacom 高度联合,圈内没有对手了。所以价格差距不太大的情况下,宁愿上三星了。入手 fe+ 2300 ,算上补贴的。小新那个最新的舒适版+笔+套,拿下来也要 2500 了,除 soc 差距大以外(对我来说,870 还是 8300 都是性能过剩),配置都一样的情况下,三星可能更便宜。
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1079 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 22ms · UTC 18:20 · PVG 02:20 · LAX 10:20 · JFK 13:20
Developed with CodeLauncher
♥ Do have faith in what you're doing.