취미가 좋다
Kibana 키바나 정리 본문
키바나는 로그를 직접 보고 분석할 때 사용한다.
ELK stack
로그를 수집하고 분석하여 시각화까지 해주는 솔루션이다.
Logstash
오픈소스 서버측 데이터 처리 파이프 라인으로, 다양한 데이터를 동시에 수집하고 변환하여 stash 보관소로 보낸다.
Elasticsearch
분산형 RESTful 검색 및 분석 엔진. 데이터를 중심부에 저장하여 예상되는 항목을 검색하고 예상치 못한 항목을 밝혀낸다.
Kibana
데이터를 시각적으로 탐색하고 실시간으로 분석한다.
키바나의 특징
- 로그를 원하는 조건에 맞게 검색하면서 찾는 방식으로, 이전 검색 기록이 남는 다는 것이 특징이자 장점이다.
- Elasticsearch 와 동일한 버전이어야 돌아가므로, 상위 버전의 kibana 를 사용할 수 없다.
키바나 구성요소
Management
- 키바나는 ElasticSearch가 저장한 데이터를 시각화하여 보여준다.
- ElasticSearch는 데이터를 index로 저장한다. (테이블로 저장된다고 생각하면 된다.)
- management에서 보기 원하는 index 패턴를 지정하여야 한다.
Discover
- 선택한 인덱스 패턴에 대한 로그들을 필터링하여 원하는 대로 볼 수 있다.
- 우측 위의 보고싶은 로그의 기간을 설정해야 한다.
- 페이지 상단 query 바에 검색을 통해 원하는 데이터를 볼 수 있다.
- 검색 방식엔 2가지가 있다.
- Lucene query syntax
- Elasticsearch Query DSL
- quick example
- 문자열을 입력하면 해당 문자열이 포함된 필드를 가진 모든 로그를 보여준다.
- ex) "translate"
- 특정 필드에 대한 값을 지정한다.
- ex) @timestamp : 12344567890
- 값의 범위도 지정할 수 있다.
- ex) @timestamp : [1234567890 TO 9876543210]
- AND 와 OR 를 혼합하여 사용할 수도 있다.
- ex) status:[400 TO 499] AND (extension:php OR extension:html)
- 필드의 타입에 따라 쿼리 방식의 차이가 있다.
- 각 필드의 타입은 Management / Index Patterns 에서 원하는 인덱스를 선택하면 볼 수 있다.
- 왼쪽 field bar
- 왼쪽에 각 필드를 확인할 수 있고, [add] 를 클릭하면 위에 Selected Fields에 추가가 되면서 오른쪽 로그 테이블에 열이 추가된다.
- 필드를 누르면 빈도수가 높은 값들이 나오고, 그 값을 [+] 하면 해당하는 로그들만 볼 수 있다.
- 원하는 데이터만 걸러낸 상태를 저장해서 나중에 불러올 수도 있다.
- https://www.elastic.co/guide/en/kibana/5.1/search.html
Visualize
- 위 Discover에서 저장한 search 혹은 새로운 search로 검색한 데이터를 바 그래프, 파이 차트 형태로 시각화한다.
dashboard
- visualize에서 만든 여러 차트들을 한눈에 보기 쉽게 대시보드를 구성한다.
'Data Engineer' 카테고리의 다른 글
데이터웨어하우스 vs 데이터레이크 vs 데이터카탈로그 (0) | 2021.08.30 |
---|---|
Prometheus & Grafana 정리 (0) | 2021.07.27 |
Comments