이 문서의 허가되지 않은 무단 복제나 배포 및 출판을 금지합니다. 본 문서의 내용 및 도표 등을 인용하고자 하는 경우 출처를 명시하고 김종민([email protected])에게 사용 내용을 알려주시기 바랍니다.
디렉토리나 파일 경로 등은 흔하게 저장되는 데이터입니다. 앞의 Pattern 토크나이저에서 "/usr/share/elasticsearch/bin" 를 실행했을 때는 디렉토리명 들이 각각 하나의 토큰으로 분리 된 것을 확인했습니다. 이 경우 다른 패스에 있는데 하위 디렉토리 명이 같은 경우 데이터 검색에 혼동이 올 수 있습니다.
Path Hierarchy 토크나이저를 사용하면 경로 데이터를 계층별로 저장해서 하위 디렉토리에 속한 도큐먼트들을 수준별로 검색하거나 집계하는 것이 가능합니다. 다음은 Path Hierarchy 토크나이저로 "/usr/share/elasticsearch/bin" 를 분석하는 예제입니다.
request
response
path_hierarchy 토크나이저로 문장 분석
POST _analyze
{
"tokenizer":"path_hierarchy",
"text":"/usr/share/elasticsearch/bin"
}
path_hierarchy 토크나이저로 문장 분석 결과
{
"tokens":[
{
"token":"/usr",
"start_offset":0,
"end_offset":4,
"type":"word",
"position":0
},
{
"token":"/usr/share",
"start_offset":0,
"end_offset":10,
"type":"word",
"position":0
},
{
"token":"/usr/share/elasticsearch",
"start_offset":0,
"end_offset":24,
"type":"word",
"position":0
},
{
"token":"/usr/share/elasticsearch/bin",
"start_offset":0,
"end_offset":28,
"type":"word",
"position":0
}
]
}
delimiter 항목값으로 경로 구분자를 지정할 수 있습니다. 디폴트는 / 입니다. 그리고 replacement 옵션을 이용해서 소스의 구분자를 다른 구분자로 대치해서 저장하는 것도 가능합니다. 그 외의 옵션들은 공식 도큐먼트를 참고하시기 바랍니다.
다음은 인덱스 hir_tokenizer에 - 구분자를 / 구분자로 대치하는 my_hir_tokenizer라는 사용자 정의 토크나이저를 만들고 "one-two-three" 문장을 분석하는 예제입니다.