InfluxDB, Telegraf, Grafana 를 활용한 Monitoring System 만들기(1)

그러던 중 Grafana를 알게 되었고 투박한 RRD기반의 그래프와 다소 아쉬움이 있는 상용모니터링 시스템만 보던 저에게는 신선한 충격이었습니다.

처음에는 Graphite를 저장소로 사용하고 데이터 수집은 입맛에 맞는 솔루션이 없어 쉘스크립트로 자체 제작했었는데 설치도 까다롭고 번거로웠지만 Grafana의 아름다움을 위해서는 참을 수 있었습니다.

그렇게 1년 반 가까이 잘 사용하다 InfluxDB라는 솔루션을 알게되었고 지금은 성능과 편리함 때문에 InfluxDB + Telegraf + Grafana 조합으로 굳혀서 사용하고 있습니다.

물론 이 조합도 100% 만족스럽다고 할 수는 없겠으나 왠만한 모니터링 시스템 부럽지 않은 퀄리티는 될거라고 봅니다.

 Why InfluxDB?

이에 비해서 InfluxDB는 Go언어로 개발되었고  LSM(Log Structured Merge) Tree를 개량하여 시계열 데이터 저장에 최적화되도록 자체 개발한 TSM(Time Structured Merge) Tree를 스토리지 엔진으로 사용합니다. 그래서 동시성 및 IO처리 성능이 뛰어나며 압축 알고리즘도 적용하여 저장 용량 효율면에서  뛰어납니다. (정확히 말하면 처음에는 LevelDB(LSM Tree)를 스토리지 엔진으로 사용하였으나 0.10 버전부터 TSM Tree를 사용하고 있습니다.)

또한 Graphite는 더이상 업데이트가 안되는 듯하나  InfluxDB는 활발하게 업데이트되고 있는데 글을 쓰고 있는 현재 0.13 버전이 최신 버전이며 올여름에 1.0출시 예정이라고 합니다.

이외 InfluxDB의 주요 특징으로는 다음과 같은 점을 들 수 있습니다.

• 오픈소스로서 MIT 라이센스
• 의존 관계가 없어 설치가 매우 간편함.
• SQL-like 문법을 사용하여 사용에 친숙함.
• Schemaless 구조.
• 클러스터링을 지원하여 확장 가능.
• Grafana 와의 연계가 훌륭 함.

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
[root@devdb:/root]# influx
Visit https://enterprise.influxdata.com to register for updates, InfluxDB server management, and monitoring.
Connected to http://localhost:8086 version 0.10.0
InfluxDB shell 0.10.0
>
> show databases
name: databases
---------------
name
_internal
mydb
telegraf
melon
>
> create database testdb
>
> use testdb 
Using database testdb
>
> show measurements
>
> insert devdb,mon_type=os,metric=cpu_idle value=88.20
>
> show measurements
name: measurements
------------------
name
devdb
> select * from devdb
name: devdb
-----------
time metric mon_type value
1463151090146831513 cpu_idle os 88.2
>
> insert devdb,mon_type=os,metric=cpu sys=11,user=15,io_wait=10
> insert devdb,mon_type=os,metric=cpu sys=11,user=15,io_wait=11,idle=63
>
> select * from devdb
name: devdb
-----------
time idle io_wait metric mon_type sys user value
1463151090146831513 cpu_idle os 88.2
1463151107975728431 10 cpu os 11 15
1463151113823628131 63 11 cpu os 11 15
>

insert devdb,mon_type=os,metric=cpu sys=11,user=15,io_wait=10

이 insert 문으로 예를 들면 다음과 같습니다.

• measurement : devdb
• tag key : mon_type, metric
• tag value : os(mon_type), cpu(metric)
• field key : sys, user, io_wait
• field value : 11(sys), 15(user), 10(io_wait)

Schemaless 구조라 measurement나 tag, filed 를 생성하는 DDL을 수행하지 않고 바로 insert 하는 것을 볼 수 있습니다. 별로 중요한 건 아니지만 한가지 특이한 점은 출력 결과가 tag, field 가 구분되어 나오지 않고 단순히 알파벳 순서로 나열되어 나옵니다.

아래는 curl 을이용하여 http 통신으로 데이터를 입력하고 확인하는 예시입니다.

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
[root@devdb:/root]#
[root@devdb:/root]# curl -i -XPOST 'http://localhost:8086/write?db=testdb' --data-binary 'devdb,mon_type=os sys=30,user=15,io_wait=15,idle=40'
HTTP/1.1 204 No Content
Request-Id: 0d157f64-191c-11e6-af10-000000000000
X-Influxdb-Version: 0.10.0
Date: Fri, 13 May 2016 15:04:55 GMT
Connection: close
[root@devdb:/root]# influx
Visit https://enterprise.influxdata.com to register for updates, InfluxDB server management, and monitoring.
Connected to http://localhost:8086 version 0.10.0
InfluxDB shell 0.10.0
>
> use testdb
Using database testdb
>
> select * from devdb
name: devdb
-----------
time idle io_wait metric mon_type sys user value
1463151090146831513 cpu_idle os 88.2
1463151107975728431 10 cpu os 11 15
1463151113823628131 63 11 cpu os 11 15
1463151895067151010 40 15 os 30 15

# 추가 내용 (2016.07)

Clustering 기능은 0.12.0 버전 부터 오픈소스로는 지원하지 않고 비용을 지불하고 InfluxData라는 솔루션의 서비스로 이용해야 한다고 합니다.

즉, 오픈소스로는 standalone 모드로만 운영 가능한데 대신 Influx Relay라는 별도 오픈소스 프로젝트로 HA 기능을 구현할 수는 있다고 합니다.

아래 링크는 HA를 구현하는 다양한 방법에 대한 소개입니다.