jieee's recent timeline updates
jieee

jieee

V2EX member #278710, joined on 2018-01-02 17:04:14 +08:00
jieee's recent replies
我测试的 m4 max 配置满上下文内存占用 70G+,20t/s
太拉了,一直报错“活动太火爆,请稍候再试”
Jan 29
Replied to a topic by skuuhui 随想 智商越低, AI 越牛
@lsl233 哈哈,我之前本地部署 8B 模型,做了一个 agent ,帮我管理内容,AI 自动提确内容持久化到数据库,然后自动去查询。其中就有记录和查询密码,AI 经常回答因为安全,不给查询或者存储。
好多在说汽车和纺织机的例子。
我认为有一个问题,LLM 是吃了互联网内容发展起来的,有点像教会徒弟饿死师傅
@OnePeace1
嗯,这是现在快速实现的功能。还预留了构建内部知识图谱、指标库、few shot 等模块。
等我这几个月下班后再完善一下。
@junjian2016 类似,我想做的是基于企业现状,理解已有数据,通过小模型微调和上下文工程成为数据开发者的辅助,不断演化,最后在主动数据治理和编写 SQL 达到一个很好的效果。
@hkiJava 嗯,首先初始化数据库,根据 schema 建立表、字段索引。后面查询的时候如果第一次使用列,还要再次对这个列的数据建立索引,但都是后台自动进行。现在前端还不完善,比如没有流式展示这些步骤信息,后面会继续优化
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   794 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 30ms · UTC 20:27 · PVG 04:27 · LAX 13:27 · JFK 16:27
♥ Do have faith in what you're doing.