Public | Automated Build

Last pushed: 3 months ago
Short Description
The official image of Rebellion in LAIN.
Full Description

Rebellion



Introduction

Rebellion 是 LAIN 中负责管理日志数据的 layer0 组件, 以 host 模式运行在 docker 上。但 Rebellion 并不是单进程的容器,而是由 supervisord 管理的多进程容器。Rebellion 主要包括两个部分:

  • lain-filebeat:负责接受日志输入、处理并发送。
  • Rebellion 程序:负责在启动时生成 lain-filebeat 的配置文件。并监听 lainlet,当集群配置更新或应用更新时,及时更新lain-filebeat 的配置文件并重启 lain-filebeat。

Rebellion 目前主要处理三类日志流:

  • Docker 的 Syslog:Rebellion 通过只读挂载主机的 /var/log/messages,并通过 parse_regex_fields 解析,通过 tag_lain_fields 加工,然后输出至Kafka。

  • LainApp 的 log文件:Rebellion 通过只读形式挂载主机的 /data/lain/volume 目录,读取应用配置的日志文件,然后输出至 Kafka。

  • Webrouter 的 access log:Rebellion 通过读取 webrouter volume 出来的*.access.log文件,使用 parse_regex_fields 解析得到每个请求的结构化日志,然后发送给 Kafka。

Build and Run

Build image

已经直接配置了 docker hub 上的自动构建。

Run

Rebellion 的运行是以 Host 模式运行的 Container,目前已经作为 Service 在 boostrap 时就已经部署并运行了。
Service 中运行的指令为:

/usr/bin/docker run \
          --name %n --rm --network=host \
          -e LAINLET_PORT={{ LAINLET_PORT }} \
          -v /data/lain/volumes/:/data/lain/volumes/:ro \
          -v /data/lain/rebellion/var/lib/filebeat/:/var/lib/filebeat \
          -v /data/lain/rebellion/logs/filebeat:/var/log/filebeat/ \
          -v /data/lain/rebellion/logs/supervisor:/var/log/supervisor/ \
          -v /var/log/:/var/log/syslog/:ro \
          laincloud/rebellion:{{ rebellion_version }}

运行时的参数说明如下

  • -e LAINLET_PORT={{ lainlet_port }}

    设置环境变量NODE_NAME为主机的host_name,设置环境变量LAINLET_PORT, GRAPHITE_PORT为集群bootstrap时的lainlet_port和graphite_port。

  • -v /data/lain/volumes/:/data/lain/volumes/:ro

    以只读模式挂载lain的volume目录。

  • -v /data/lain/rebellion/var/lib/filebeat/:/var/lib/filebeat

    将 filebeat 的 registry 目录挂载到宿主机上,registry 记录了读取的文件的位置等重要信息,防止升级rebellion时丢失。

  • -v /data/lain/rebellion/logs/supervisor:/var/log/supervisor/

    挂载 Rebellion 本身的日志文件以及 filebeat 的标准输出文件。

  • -v /var/log/:/var/log/syslog/:ro

    以只读形式挂载 /var/log/messages 目录,读取 docker 的标准输出。

目前由于所有的日志都发送至Kafka,所以部署时集群应该在etcd中配置了/lain/config/kafka

Upgrade

由于 v2.3.02.0.x 配置及收集工具不兼容,因此无法直接从 2.0.x 升级到 v2.3.x 及更高版本,需要先升级至 v2.3.0

2.0.x -> v2.3.0

执行 LAIN 的 ansible 任务 rebellion-upgrade-2.0.x-to-v2.3.0

ansible-playbook -i playbooks/cluster -e "role=rebellion-upgrade-2.0.x-to-v2.3.0" playbooks/role.yaml

v2.3.0 -> v2.3.x (x > 0)

执行 LAIN 的 ansible 任务 rebellion-upgrade,参数 upgrade_version 为目的版本。

例如升级到 v2.3.1

ansible-playbook -i playbooks/cluster -e "role=rebellion-upgrade" -e "upgrade_version=v2.3.1" playbooks/role.yaml

升级时会丢失少量日志,建议在日志输出量较低的时间段进行。

License

Rebellion 遵循MIT开源协议.

Docker Pull Command
Owner
laincloud
Source Repository