lyang 最近的时间轴更新
lyang

lyang

V2EX 第 437626 号会员,加入于 2019-08-23 15:26:53 +08:00
根据 lyang 的设置,主题列表被隐藏
二手交易 相关的信息,包括已关闭的交易,不会被隐藏
lyang 最近回复了
@rookie2luochao 有博客和公众号的,直接搜就能搜到
@huangliu 我之前还以为漏看了,今天看到也跑回来找这个帖子
195 天前
回复了 askfermi 创建的主题 分享创造 去中心化的大模型 LLM 服务
不太懂去中心化 正确性是否可以多收集几个返回,一致就正确
360 天前
回复了 nativeBoy 创建的主题 程序员 想买个 mini 主机在公司里编程,可行吗
这方面硬性要求挺难受,我一般选择两台电脑
2023-07-19 12:31:05 +08:00
回复了 lyang 创建的主题 程序员 大语言模型能单卡多用户访问吗
@thorneLiu chatglm 的 stream_chat 可以,测过了
@aleimu2 同时提问的问题变多,时间也会变长,但确实可行
2023-07-17 17:07:35 +08:00
回复了 lyang 创建的主题 程序员 大语言模型能单卡多用户访问吗
@zooo 没有什么特定模型,就是大语言那些
2023-07-17 17:05:28 +08:00
回复了 lyang 创建的主题 程序员 大语言模型能单卡多用户访问吗
@thorneLiu chatglm 这个,我看模型就一个 model ,没有多个实例,https://github.com/THUDM/ChatGLM-6B/blob/main/web_demo.pyhttps://huggingface.co/THUDM/chatglm-6b/blob/main/modeling_chatglm.py ,但这个 stream_chat 听别人可以同时回答,这个是并发的吗
2023-07-17 09:04:59 +08:00
回复了 lyang 创建的主题 程序员 大语言模型能单卡多用户访问吗
@lingyidxx 多线程调用接口吗,但后端应该还是一个个排队回答的吧
2023-05-26 15:04:31 +08:00
回复了 lyang 创建的主题 程序员 pytorch 模型怎么获取应该输入的形状
@565656 看来也只能这样了
@coldheart 我有时候测出来了输入形状,用这工具也报错,很尴尬,感觉要补挺多知识了
2023-05-26 14:15:17 +08:00
回复了 lyang 创建的主题 程序员 pytorch 模型怎么获取应该输入的形状
@connectsixboy
@psycho9631
这些应该都是要输入一个测试数据的吧
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2086 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 11ms · UTC 16:10 · PVG 00:10 · LAX 09:10 · JFK 12:10
Developed with CodeLauncher
♥ Do have faith in what you're doing.