V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
Kyle18Tang
V2EX  ›  Java

使用 Rancher 搭建的 K8S 环境采集 Spring Boot 日志有什么好的方案

  •  
  •   Kyle18Tang · 2020-11-28 14:01:10 +08:00 · 2708 次点击
    这是一个创建于 1216 天前的主题,其中的信息可能已经有所发展或是发生改变。

    目前我们的日志采集流程是 Spring Boot 服务生成 log 文件,Filebeat 采集 --> Logstash 进行 Grok,同时遇到 ERROR 日志发送到 RabbitMQ 来进行钉钉告警 --> ElasticSearch --> Kibana 搜索查看。

    现在测试环境已经使用 K8S 来部署,如果使用 Rancher 里的日志设置直接发送到 ElasticSearch 里,没有 Grok 的过程,发送的日志格式不是我们想要的,ERROR 日志也不好告警了,想看看大家是如何进行这部分日志采集的。

    第 1 条附言  ·  2020-12-03 11:33:15 +08:00
    目前已经搞定了一个方案,可能不是最好的,先这样用着,有空再试试其他方式。

    1 、创建 PV 、PVC 映射主机目录
    2 、设置 Spring Boot 日志文件位置,然后使用 PVC 映射到主机上
    3 、创建 DaemonSet 模式的 Filebeat,然后把主机的日志目录映射到 Filebeat 容器里,这样 Filebeat 就能采集到 Spring Boot 日志了

    这样的方式可以使用我们目前现有的 Logstash 、ElasticSearch 及 Kibana 。
    8 条回复    2020-11-29 14:32:24 +08:00
    anexplore
        1
    anexplore  
       2020-11-28 16:22:33 +08:00
    直接把 log 写到共享卷里面;外面依然走 filebeat 那一套
    cheng6563
        2
    cheng6563  
       2020-11-28 20:02:45 +08:00
    我司是一开始就统一配置日志写到 /var/log 里,k8s 里把这个目录挂进容器就是了
    smilingsun
        3
    smilingsun  
       2020-11-28 22:40:56 +08:00
    不知道 loki 能不能解决?
    goxy
        4
    goxy  
       2020-11-29 00:48:21 +08:00
    grafana
    把日志和报警分开
    grafana 可以设置 es 为 datasource,然后 webhook 到钉钉
    glongzh
        5
    glongzh  
       2020-11-29 00:57:30 +08:00
    rancher 又不是非得走自带的日志模块,你自己也可以在 k8s 上部署 filebeat,logstash 这些啊,跟你原来一样的
    hantsy
        6
    hantsy  
       2020-11-29 11:03:20 +08:00
    具体不知道 Rancher 与 K8S 有什么差别,感觉对于熟悉 DevOps 部署一套 ELK,或者 EFK 应该不难。
    Kyle18Tang
        7
    Kyle18Tang  
    OP
       2020-11-29 14:29:54 +08:00
    @goxy #4 Grafana 我们有展示 Prometheus 监控数据, 你说的这个我可以去了解一下, 这样告警确实也挺方便的.
    Kyle18Tang
        8
    Kyle18Tang  
    OP
       2020-11-29 14:32:24 +08:00
    @anexplore #1 下周试一下共享卷
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   1380 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 28ms · UTC 17:40 · PVG 01:40 · LAX 10:40 · JFK 13:40
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.