6.5.4 Path Hierarchy

이 문서의 허가되지 않은 무단 복제나 배포 및 출판을 금지합니다. 본 문서의 내용 및 도표 등을 인용하고자 하는 경우 출처를 명시하고 김종민(kimjmin@gmail.com)에게 사용 내용을 알려주시기 바랍니다.

디렉토리나 파일 경로 등은 흔하게 저장되는 데이터입니다. 앞의 Pattern 토크나이저에서 "/usr/share/elasticsearch/bin" 를 실행했을 때는 디렉토리명 들이 각각 하나의 토큰으로 분리 된 것을 확인했습니다. 이 경우 다른 패스에 있는데 하위 디렉토리 명이 같은 경우 데이터 검색에 혼동이 올 수 있습니다.

Path Hierarchy 토크나이저를 사용하면 경로 데이터를 계층별로 저장해서 하위 디렉토리에 속한 도큐먼트들을 수준별로 검색하거나 집계하는 것이 가능합니다. 다음은 Path Hierarchy 토크나이저로 "/usr/share/elasticsearch/bin" 를 분석하는 예제입니다.

request
response
request
path_hierarchy 토크나이저로 문장 분석
POST _analyze
{
"tokenizer": "path_hierarchy",
"text": "/usr/share/elasticsearch/bin"
}
response
path_hierarchy 토크나이저로 문장 분석 결과
{
"tokens" : [
{
"token" : "/usr",
"start_offset" : 0,
"end_offset" : 4,
"type" : "word",
"position" : 0
},
{
"token" : "/usr/share",
"start_offset" : 0,
"end_offset" : 10,
"type" : "word",
"position" : 0
},
{
"token" : "/usr/share/elasticsearch",
"start_offset" : 0,
"end_offset" : 24,
"type" : "word",
"position" : 0
},
{
"token" : "/usr/share/elasticsearch/bin",
"start_offset" : 0,
"end_offset" : 28,
"type" : "word",
"position" : 0
}
]
}

delimiter 항목값으로 경로 구분자를 지정할 수 있습니다. 디폴트는 / 입니다. 그리고 replacement 옵션을 이용해서 소스의 구분자를 다른 구분자로 대치해서 저장하는 것도 가능합니다. 그 외의 옵션들은 공식 도큐먼트를 참고하시기 바랍니다.

다음은 인덱스 hir_tokenizer- 구분자를 / 구분자로 대치하는 my_hir_tokenizer라는 사용자 정의 토크나이저를 만들고 "one-two-three" 문장을 분석하는 예제입니다.

hir_tokenizer 인덱스에 my_hir_tokenizer 토크나이저 생성
PUT hir_tokenizer
{
"settings": {
"analysis": {
"tokenizer": {
"my_hir_tokenizer": {
"type": "path_hierarchy",
"delimiter": "-",
"replacement": "/"
}
}
}
}
}
request
response
request
hir_tokenizer 토크나이저로 문장 분석
GET hir_tokenizer/_analyze
{
"tokenizer": "my_hir_tokenizer",
"text": [
"one-two-three"
]
}
response
hir_tokenizer 토크나이저로 문장 분석 결과
{
"tokens" : [
{
"token" : "one",
"start_offset" : 0,
"end_offset" : 3,
"type" : "word",
"position" : 0
},
{
"token" : "one/two",
"start_offset" : 0,
"end_offset" : 7,
"type" : "word",
"position" : 0
},
{
"token" : "one/two/three",
"start_offset" : 0,
"end_offset" : 13,
"type" : "word",
"position" : 0
}
]
}