V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  clino  ›  全部回复第 2 页 / 共 246 页
回复总数  4907
1  2  3  4  5  6  7  8  9  10 ... 246  
如果是 RAG ,那么相关性的检索是由 embedding 和向量数据库来完成的,然后 LLM 的功能是对搜索到的功能进行总结回答,这里效果好不好要看 embedding 那部分好不好,而主要不是由 LLM 来决定的,当然现在 RAG 经过很多迭代发展出来很多做法比如向量检索和全文检索相结合之类的
如果不用 RAG ,那就要用上面说的超长上下文的做法,这种成本可能也不低,而且一般也不是本地开源 LLM 能搞定的,需要比较强的硬件
你这个需求是不是就是知识库聊天机器人的需求,就是 RAG 方式的就能满足
用 QAnything FastGPT 之类的可以试试
但是问题是你如果不想要调云上的 api ,那就要本地有显卡才能跑大模型,你有能跑大模型的显卡吗?
39 天前
回复了 BenjaminNL 创建的主题 Python anaconda 商业收费,有什么替代品吗?
内网可以搭建 pypi 的镜像服务供内部使用
@zhmouV2 我在 cursor 上用 deepseek 感觉还挺好,你说的是哪方面问题?
是不是我很多时候是在用 ctrl+k 做局部代码迭代,所以比较没有碰到你们说的这些问题。
QQ 的好像也有新版本了
https://im.qq.com/linuxqq/index.shtml
77 天前
回复了 BlackSnow 创建的主题 git git 合并文件的冲突理解
你要切成用远端的,那就 git fetch 远端的以后,再直接 reset 成远端的版本,当然 git gc 一下原来本地 init 的那些版本就会没了
89 天前
回复了 kylebing 创建的主题 问与答 你小时候有没有被电过的经历?
我也有两个:
- 我爸怕我周末看电视太多,把电视后面的天线接口给拔掉藏起来了,有一次我手伸到电视柜后面一阵摸索,不知道摸到什么地方给电了一下,还好不厉害
- 另外一个是电警棍,按着会啪啪响很吓人,但是有一次我刚按完好奇地去摸了一下那两个金属头,浑身一震好像被一个大锤突然砸中,大脑一片空白,感觉身体不是自己的,那感觉终身难忘
等 AI 编程助手都支持了是不是就不太成为负担了
在判断实现是否符合目的满足需求上只能由人来做,这部分是目前 AI 无法完成的
你们国产的有用过吗?
智谱的 CodeGeeX ,阿里的通义灵码,其实用起来也还行。
@bagel 你可以写一些注释说明避免生成你不想要的风格,应该会听劝的吧
赞同楼上冷知识,不好用就换
可以换用微软收费的,也可以用免费的比如智谱的
136 天前
回复了 qq1147 创建的主题 问与答 有什么办法强迫自己早睡
眼睛是裸露的大脑,面对蓝光设备很容易兴奋以为是白天导致睡眠紊乱
但是不看手机又怕无聊想娱乐,我最终的解决方案就是改成听,听有点意思但是又不会导致自己太兴奋的节目
通过 poe.com 去用呢?
172 天前
回复了 saranz 创建的主题 Linux 各位 Linux 用的输入法都是?
172 天前
回复了 saranz 创建的主题 Linux 各位 Linux 用的输入法都是?
刚才找了个教程导入了 sougou 词库以后 fcitx 用着感觉舒服多了
172 天前
回复了 saranz 创建的主题 Linux 各位 Linux 用的输入法都是?
一直用小企鹅 fcitx ,用起来还行就是词库不够好
182 天前
回复了 foreverpp50 创建的主题 汽车 开车老是容易放空怎么解决
要养成习惯,隔几秒钟扫描一下后视/左视/右视这几个镜子,不能只看前面
1  2  3  4  5  6  7  8  9  10 ... 246  
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2728 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 55ms · UTC 14:25 · PVG 22:25 · LAX 06:25 · JFK 09:25
Developed with CodeLauncher
♥ Do have faith in what you're doing.