V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
JCZ2MkKb5S8ZX9pq
V2EX  ›  OpenAI

2024-03 如果要搭一个 GPT 公司内部用,有什么现成的轮子?

  •  
  •   JCZ2MkKb5S8ZX9pq · 232 天前 · 2447 次点击
    这是一个创建于 232 天前的主题,其中的信息可能已经有所发展或是发生改变。

    先叠甲

    • 不用担心法务和担责的问题,买了专线,也有买海外服务器,仅公司内网环境下使用。
    • 不需要担心什么老板没让你做你就不要做,或者出了问题要担责啥的。
    • 纯讨论技术实现。聊不出技术内容光东拉西扯的不需要。

    需求

    • 身份验证
    • 对话记录
    • 不要让用户自己配置 api-key

    用过的轮子

    • ChatGPT-web

      • 这个有身份认证,大体可用。
      • 有对话记录。但查询起来略麻烦。
      • 小缺点是对话轮次无法限制,经常有人用了忘记清上下文,导致 token 被浪费。
      • 很久没更新了。
    • ChatGPT-Next-Web

      • 优点是 Vercel 一键部署
      • 缺点是要自己输入 key

    提前感谢能提供有效回复的各位大师

    19 条回复    2024-04-09 17:25:07 +08:00
    Plutooo
        1
    Plutooo  
       232 天前
    ChatGPT-Next-Web 也可以直接设置 key ,不需要用户再输入,配置参数就可以
    CheckTime
        2
    CheckTime  
       232 天前
    lobe-chat ?
    JCZ2MkKb5S8ZX9pq
        3
    JCZ2MkKb5S8ZX9pq  
    OP
       232 天前
    @Plutooo 我之前直接 vercel 的,我去文档找找看,感谢。
    JCZ2MkKb5S8ZX9pq
        4
    JCZ2MkKb5S8ZX9pq  
    OP
       232 天前
    @CheckTime
    lobe 我用过的,emoji 的那个,vercel 上好像还有一个,好像也是要自己输入 key 的吧。
    忘了为啥,最后反正常用的还是 next-web 那个。
    JCZ2MkKb5S8ZX9pq
        5
    JCZ2MkKb5S8ZX9pq  
    OP
       232 天前
    @Plutooo 另外 Next-web 好像不能记录对话的吧?它的对话我记得都在 local-storage 里,这样对话同步、统计、拉取历史等功能就有点麻烦。可能人家的设计意图一开始就想做纯单页面应用的。
    Plutooo
        6
    Plutooo  
       232 天前
    @JCZ2MkKb5S8ZX9pq 是的,没法远程拉取历史记录,如果要做到对话同步那么跟你说的不要输入 key 就冲突了
    ProxyXAI
        7
    ProxyXAI  
       232 天前
    完美的方案经常需要付费才行
    maymay5
        8
    maymay5  
       232 天前
    https://github.com/MayDay-wpf/AIBotPublic

    虽然不太能和预期,但是可以给你参考
    caomingjun
        9
    caomingjun  
       232 天前 via Android
    librechat
    优点是满足你的全部需求,对话存在数据库里,可以邮箱密码验证也可以 sso ,可以统一配置 apikey ,更新频繁。
    缺点是发送的信息没 markdown 渲染( gpt 的回复有渲染,因为他模仿的官方界面),似乎也不能限制轮数,且我个人感觉移动端适配略差。
    lekai63
        10
    lekai63  
       232 天前 via iPhone
    我也用的 librechat
    winterx
        11
    winterx  
       232 天前
    next-web 、lobeai 都支持直接设置 key
    jwangbyus
        12
    jwangbyus  
       232 天前
    你怎么解决用户花费 token 过多的问题
    CHTuring
        13
    CHTuring  
       232 天前
    直接用 Vercel 的这个吧 https://chat.vercel.ai/
    listkun
        14
    listkun  
       232 天前
    CheckTime
        15
    CheckTime  
       231 天前
    @JCZ2MkKb5S8ZX9pq #4 你用的时候是自己部署的吗?自己部署的时可以设置一系列环境变量,包括模型和 Key ,这样应该用户使用的时候就不需要输入 key 也可以使用了,当然我没试过看文档意思好像是这样。我现在有用别人部署好的,直接微信登录后就可以直接使用(这个应该是他自己实现的),GPT4 ,Claude3 部署的时候配置了的话就都可以用。

    https://chat-docs.lobehub.com/zh/self-hosting/start
    MapleEve
        16
    MapleEve  
       231 天前
    Lobe Chat ,docker 配置完所有默认 key ,不设置密码就可以所有人无限制访问了
    julyclyde
        17
    julyclyde  
       231 天前
    不如问问 gpt 看看怎么做
    ProxyXAI
        18
    ProxyXAI  
       229 天前
    Marwin
        19
    Marwin  
       218 天前
    我目前也在寻找类似的项目,我自己部署了一遍上面回复提到的四个项目
    chat-next-web 、lobeChat 应该是 UI 和交互体验都相对优秀的项目,但是目前都没有后端数据库功能,而且 chat-next-web 也没有专门做鉴权相关,两个都适合个人或者家庭使用,不太适合在公司使用,不过我看了下后续 lobeChat 会引入后端数据库,可以期待一波
    librechat 和 chat-web 个人感觉比较适合公司部署,librechat 支持后端数据库也就是可以跨端跨设备拉取对话记录,支持鉴权可以引用公司登录,chat-web 目前已经大概 5 个月没更新了吧,不推荐
    所以个人推荐 librechat 吧,详细的对比信息我写在我的 blog 了,https://winxuan.github.io/posts/casing-chatgpt-research/
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5759 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 27ms · UTC 03:11 · PVG 11:11 · LAX 19:11 · JFK 22:11
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.