V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
LemonLeon
V2EX  ›  OpenAI

OpenKey 中转接口为什么稳定?最新系统架构图已公布,可供学习

  •  
  •   LemonLeon · 209 天前 · 1274 次点击
    这是一个创建于 209 天前的主题,其中的信息可能已经有所发展或是发生改变。
    OpenKey.Cloud 作为 ChatGPT 生态圈内的重要基础设施,提供官方 API 的转发,长久以来一直保持着高稳定性,这是如何做到的?今天就来揭秘 OpenKey 系统的详细架构图。



    官网: https://openkey.cloud/
    文档: https://docs.openkey.cloud/
    18 条回复    2023-11-06 01:15:00 +08:00
    OceanBreeze
        1
    OceanBreeze  
       209 天前
    所以你们把用户的对话也记录到你们的数据库了嘛?
    superares
        2
    superares  
       209 天前 via iPhone
    这个设计不是常规操作吗
    potatowish
        3
    potatowish  
       209 天前 via iPhone
    有没有想过监控程序挂了怎么办
    cdwyd
        4
    cdwyd  
       209 天前 via Android
    这不是常规方案吗?
    SingeeKing
        5
    SingeeKing  
       209 天前 via iPhone
    OpenKey.Cloud 作为 ChatGPT 生态圈内的重要基础设施???
    Sricor
        6
    Sricor  
       209 天前
    套壳也是真敢说 "OpenKey.Cloud 作为 ChatGPT 生态圈内的重要基础设施,长久以来一直保持着高稳定性"
    ispinfx
        7
    ispinfx  
       209 天前
    老是你们的广告烦不烦
    justin2018
        8
    justin2018  
       209 天前 via iPhone
    价格不错
    就是不知道 5 美元有没有官方的耐用
    LemonLeon
        9
    LemonLeon  
    OP
       209 天前
    @OceanBreeze 没有记录对话数据,只记录了计费信息
    LemonLeon
        10
    LemonLeon  
    OP
       209 天前
    @superares 是的。只是入门级的方案,主要解决了单点故障问题
    LemonLeon
        11
    LemonLeon  
    OP
       209 天前
    @potatowish 监控程序连接着 Google Sheet 做监控面板,可以看到分钟级别的更新情况
    LemonLeon
        12
    LemonLeon  
    OP
       209 天前
    @justin2018 OpenKey 价格并不算低,文档有详细的说明
    xabcstack
        13
    xabcstack  
       209 天前
    可以对比看看 https://docs.open-assistant.cn

    一顿操作,唯独最关键的 api proxy 没有搞定,官方价格的 16 倍吗?
    xabcstack
        14
    xabcstack  
       209 天前
    请问目前你们服务请求 503 响应比例是多少? 如有数据,可以具体列举
    LemonLeon
        15
    LemonLeon  
    OP
       209 天前
    @xabcstack 这个报错是存在的,没有具体统计过。OK 总体的报错率可以控制在 2%以下
    xabcstack
        16
    xabcstack  
       209 天前
    @LemonLeon 你们的服务可以使用上面 愚公代理 作为基础支撑,这个错误可以控制在 0.02%
    xiaotian456
        17
    xiaotian456  
       208 天前
    我目前在用的一家也特别稳定,https://api.aigcbest.top
    aigcbest
        18
    aigcbest  
       205 天前
    不错不错
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2912 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 32ms · UTC 14:07 · PVG 22:07 · LAX 07:07 · JFK 10:07
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.