Isolation Forest아이솔레이션 포레스트 · Isolation Forest
데이터를 무작위 속성 · 무작위 값으로 거듭 나눠 한 점이 홀로 남을 때까지의 분할 횟수(경로 길이)를 재고, 여러 나무에서 평균 경로가 짧은 점일수록 높은 이상 점수를 주는 비지도 이상 탐지 방법이다.
1요약
- Isolation Forest 는 Liu · Ting · Zhou 가 2008년 ICDM 에서 낸 고립 기반 이상 탐지로, 하위 표본 256점마다 높이 8 의 무작위 이진 나무를 세워 100그루 숲을 만들고 평균 경로 길이를 0 ~ 1 점수로 바꾸며, 레이블 없는 설비 · 거래 · 로그 데이터의 이상 순위 매기기가 그 위에서 돈다.
- 거리 · 밀도 계열은 점 사이 거리를 모든 쌍에 가깝게 재야 하지만 고립은 거리 계산 없이 학습 O(tψ log ψ)로 끝나고, 작은 표본이 오히려 낫다 — 원 논문의 합성 데이터 4,096점에서 전체를 쓰면 AUC 0.67, 128점 하위 표본이면 0.91 이었다(Liu 2008 3절).
- 「이상이 상위에 안 올라온다」는 이상이 무엇에 비해 드문가로 가른다 — 전체 데이터에서 동떨어진 점은 잘 잡지만, 밀도가 다른 군집 바로 옆의 국소 이상은 성긴 군집 가장자리 정상과 같은 점수대에 놓여 오염률을 바꿔도 순위가 그대로다.
2등장 배경
2000년대 중반까지 이상 탐지는 정상의 모양(분포 · 이웃 거리 · 밀도)을 먼저 그리고 거기서 벗어난 점을 찾았다. 이 방식은 정상을 잘 그리도록 맞춰질 뿐 이상을 찾도록 맞춰지지 않아 오경보 · 놓침이 많고, k-NN · LOF 처럼 이웃 거리를 재는 방법은 데이터가 수십만 점이면 계산을 감당하지 못했다(Liu 2008 1절).
2008년 Liu · Ting · Zhou 는 이상이 «적고 다르다(few and different)»는 두 성질만으로 정상을 그리지 않고 이상을 직접 고립시키는 iForest 를 냈다(Liu 2008). 같은 저자들은 2010년 국소 군집 이상용 결정적 변형 SCiForest 를(Liu 2010), 2012년 ACM TKDD 논문에서 평가 높이 제한과 swamping · masking 분석을 더했다(Liu 2012 4.4 · 4.5절). 2018년 Hariri · Carrasco Kind · Brunner 는 축에 나란한 분할이 남기는 점수 줄무늬를 기울기 무작위 초평면으로 줄인 Extended Isolation Forest 를 냈다(Hariri 2021).
scikit-learn 1.9.1 은 IsolationForest 를 기본값 100그루 · max_samples=(= min(256, n)) · contamination= 로 제공한다(scikit-learn IsolationForest). 이상 탐지 안에서 Isolation Forest 는 «분할 경로 길이»라는 점수 하나를 맡고, 정상 기준 이동 · 경보 운영 같은 공통 고리는 상위 「이상 탐지」가 맡는다.
3쉽게 이해하기 — 운동장 칸막이 놀이
운동장에 학생 1,000명이 모여 있다. 진행자는 명단에서 256명만 뽑아 세운 뒤 눈을 감고 운동장 가로나 세로 아무 곳에 줄을 그어 무리를 둘로 나누고, 나뉜 칸 안에서 또 줄을 긋는다. 무리에서 떨어져 혼자 서 있던 학생은 두세 번 만에 자기 칸에 혼자 남지만, 무리 한가운데 학생은 열 번을 넘게 그어야 혼자가 된다. 진행자 100명이 저마다 따로 해 본 「혼자 남을 때까지 그은 줄 수」의 평균이 짧은 학생부터 선생님이 이름을 부른다.
그림 1 · 줄을 아무렇게나 그어도 무리에서 떨어진 학생은 일찍 혼자 남고, 진행자 100명의 평균 줄 수가 짧은 순서로 이름이 불린다.
그림 2 · 떨어진 학생은 줄 2개로 혼자 남고 무리 속 학생은 8개를 그어도 둘이 남는다 — 실제 나무에서는 잎까지의 깊이가 그 줄 수다.
| 비유 속 역할 | 실제 이름 | 실제로 하는 일 |
|---|---|---|
| 운동장의 학생 1,000명 | 학습 데이터 X | 사례는 두 변수 1,010점 |
| 명단에서 뽑은 256명 | 하위 표본 ψ | 나무마다 비복원으로 256점을 뽑는다 |
| 가로 · 세로 줄 | 분할(속성 q · 값 p) | 무작위 속성 하나 · 그 최솟값 ~ 최댓값 사이 균일 값 |
| 혼자 될 때까지 그은 줄 수 | 경로 길이 h(x) | 뿌리에서 잎까지 가지 수 + 잎에 남은 점 수의 어림값 |
| 8번까지만 긋기 | 높이 제한 l | ⌈log₂256⌉ = 8 에서 나무 성장을 멈춘다 |
| 진행자 한 명 | iTree | 표본 하나로 세운 무작위 이진 나무 |
| 보통 학생의 평균 줄 수 | 정규화 c(ψ) | c(256) = 10.245 와 견줘 점수 s 로 바꾼다 |
| 상위 몇 명 부르기 | 오염률 · 임계값 | 예상 이상 비율만큼 점수 상위 점을 이상으로 본다 |
⚠ 비유가 맞지 않는 곳: 진행자는 혼자 남은 학생이 왜 떨어져 있는지 보지만 나무는 줄 수만 낸다. 운동장에 조밀한 무리와 성긴 무리가 함께 있으면 조밀한 무리 바로 옆 학생보다 성긴 무리 가장자리 학생이 먼저 혼자 남는다 — 이 놀이에는 «이웃에 비해 떨어진 정도»를 재는 규칙이 없다.
4구조 — iTree · 숲 · 점수
iForest 는 나무를 세우는 학습 단계와 경로를 재는 평가 단계 둘로 나뉜다(Liu 2008 4절). 설정 값은 나무 수 t 와 하위 표본 크기 ψ 둘뿐이고, 높이 제한 l = ⌈log₂ψ⌉ 는 ψ 에서 자동으로 정해진다 — 평균보다 짧은 경로만 이상 후보라 평균 높이까지만 세운다(Liu 2008 4.1절).
그림 3 · 학습은 작은 표본으로 무작위 나무 t 그루를 세우는 일뿐이고, 평가는 나무마다 잰 깊이를 평균해 c(ψ) 로 나눈 점수 하나로 끝난다.
| 요소 | 역할 | 값 | 근거 |
|---|---|---|---|
| 하위 표본 ψ | 나무마다 뽑는 점 수 · 비복원 | 기본 256 · max_samples | Liu 2008 4.1절 |
| 내부 노드 | 시험 q < p 로 점을 둘로 나눔 | 속성 q 무작위 · 값 p 는 그 속성 최솟값 ~ 최댓값 | Liu 2008 2절 |
| 외부 노드(잎) | 남은 점 수 size 만 저장 | 점 1개 · 모두 같은 값 · 높이 l 도달 때 | Liu 2008 2절 |
| 높이 제한 l | 평균 높이에서 성장을 멈춤 | ⌈log₂256⌉ = 8 | Liu 2008 4.1절 |
| 경로 길이 h(x) | 뿌리 → 잎 가지 수 + 못 세운 아래 부분의 어림 | e + c(size) | Liu 2008 알고리즘 3 |
| 정규화 c(n) | n 점 이진 탐색 나무의 실패 탐색 평균 경로 | 2H(n−1) − 2(n−1)/n · H(i) ≈ ln i + 0.5772 | Liu 2012 식 (1) |
| 점수 s | 평균 경로를 0 ~ 1 로 | 2^(−E(h)/c(ψ)) | Liu 2008 식 (2) |
| 오염률 | 상위 몇 %를 이상으로 볼지 | "auto" = 원 논문 기준 · 실수는 (0, 0.5] | scikit-learn IsolationForest |
점수 s 가 1 에 가까우면 이상, 0.5 보다 훨씬 작으면 정상이고, 모든 점이 0.5 근처면 뚜렷한 이상이 없다는 뜻이다(Liu 2008 2절). 평가는 O(nt log ψ)이고 나무 하나는 최대 2ψ − 1 노드라 기억 공간이 ψ 에만 비례한다(Liu 2008 2 · 4.2절).
5동작 — 밀도가 다른 두 운전 모드의 합성 데이터
Python 3.14.0 · NumPy 2.4.3 · default_rng(0) 으로 원 논문 알고리즘 1 ~ 3 을 그대로 구현해 직접 실행한 사례다(합성 데이터 · 모든 값은 설명용 가정 값). 두 변수 x1 · x2 평면에 조밀한 정상 군집 A(중심 (0, 0) · 표준편차 0.5 · 600점), 성긴 정상 군집 B(중심 (6, 6) · 표준편차 1.5 · 400점), 멀리 떨어진 전역 이상 6점, A 중심에서 A 표준편차의 3.8 ~ 4.2 배 떨어진 국소 이상 4점을 둔다.
- 1,010점에서 나무마다 256점을 비복원으로 뽑고 높이 제한을 ⌈log₂256⌉ = 8 로 둔다 — 정규화 값은 c(256) = 2H(255) − 2·255/256 = 10.245 다.
- 첫 나무의 뿌리 시험은 x2 < 1.53 이다 — 전역 이상 (−4, 9) 은 x2 ≥ 1.53 → x2 ≥ 4.80 → x2 < 9.88 → … 7번 분할 끝에 점 1개 잎에 닿아 h = 7.0 이다.
- 같은 나무에서 A 중심 근처 정상 (0.06, −0.07) 은 8번 분할로 높이 제한에 닿고 점 2개 잎에서 멈춘다 — h = 8 + c(2) = 9.0.
- 나무를 100그루로 늘린다 — 전역 이상의 평균 경로는 1그루 7.0 → 10그루 4.80 → 100그루 4.31, 정상은 9.0 → 13.33 → 13.58 로 모인다.
- 점수로 바꾼다 — 전역 이상 s = 2^(−4.31/10.245) = 0.747, 정상 s = 0.399 · 정상 점수 중앙값은 A 0.415, B 0.497 이다.
- 오염률 10/1,010 으로 상위 10점을 이상으로 본다(경계 s = 0.631) — 전역 이상 6점은 모두 들어오고 나머지 4점은 B 위쪽 가장자리 정상(0.631 ~ 0.640)이며, 국소 이상 4점(0.561 ~ 0.602)은 24 ~ 74위로 밀린다.
- 시드 0 ~ 19 로 데이터와 나무를 바꿔 20번 돌린다 — 상위 10점 안의 전역 이상은 매번 6/6, 국소 이상은 매번 0/4 로 결과가 시드에 따라 갈리지 않는다.
그림 4 · 전역 이상 6점은 모두 상위 10점에 들지만 나머지 넷은 B 가장자리 정상이 차지하고, A 바로 옆 국소 이상 4점은 경계 밖으로 밀린다.
그림 5 · 점수는 평균 경로의 지수 함수라 c(256) 에서 0.5 를 지나고, 국소 이상은 정상보다 경로가 짧아도 경계 E 6.81 보다 길어 경보 구간 밖에 남는다.
🔑 점수는 «전체 표본 안에서 얼마나 빨리 혼자 되나»이지 «이웃에 비해 얼마나 떨어졌나»가 아니다 — 그래서 성긴 군집 가장자리 정상이 조밀한 군집 옆 이상보다 먼저 불린다.
6비교 — 표준 iForest · Extended IF · SCiForest · LOF
| 기준 | 표준 iForest | Extended IF | SCiForest | LOF(거리 · 밀도 대안) |
|---|---|---|---|---|
| 분할 | 속성 하나 · 무작위 값 — 축에 나란함 | 법선 n 의 각 성분 ~ N(0, 1) · 절편 p 무작위 · (x − p)·n ≤ 0(Hariri 2021) | 초평면 · 분할 값을 기준에 따라 결정적으로 고름(Liu 2012 6.4절) | 분할 없음 · k 이웃 거리(기본 20 · scikit-learn LOF) |
| 축 정렬 흔적 | 군집 사이 빈 영역에 점수가 낮은 줄무늬 · 유령 군집 | 확장 수준을 올릴수록 줄어듦 · 수준 0 = 표준 iForest | 초평면이라 축에 묶이지 않음 | 없음 |
| 국소 이상 | 국소 군집 이상을 놓침(Liu 2012 6.4절) · 사례 0/4 | 분할 각도만 바꿈 · 사례 0/4 | 국소 군집 이상이 목표 | 이웃 대비 밀도라 강함 · 사례 3/4(시드 0 ~ 19 에서 1 ~ 4) |
| 계산 | 거리 계산 없음 · 학습 O(tψ log ψ) | 표준과 수렴 속도 · 계산 시간 차이가 거의 없음(Hariri 2021) | 분할 기준 계산이 더해짐 | 이웃 탐색 · 전수 비교면 n² |
| 사례 빈 영역 (0, 6) | s 0.603 · 23위 — 경계 아래 | s 0.657 · 7위 — 경계 위 | 실행하지 않음 | 실행하지 않음 |
그림 6 · 표준 iForest 는 군집 사이 빈 영역에서 점수가 평평하게 눌려 경계 아래에 머물고, 기울기 무작위 분할은 같은 점을 경계 위로 올린다.
분석이상이 전체에서 동떨어진 점이고 속성이 많고 데이터가 크면 표준 iForest 로 시작하고, 군집 사이 빈 영역에 들어오는 새 점까지 봐야 하면 Extended IF 를, 밀도가 다른 운전 모드 옆의 국소 이상이 목표면 LOF 같은 국소 밀도 방법을 먼저 시험한다. 근거는 표의 「국소 이상」 · 「사례 빈 영역」 행 — 같은 데이터에서 국소 이상은 두 iForest 모두 0/4, LOF 3/4 였고 (0, 6) 은 Extended IF 만 상위 10점 경계를 넘었다.
정상 데이터의 상관 구조로 거리를 재는 다변량 통계(T² · PCA), 재구성 오차로 재는 오토인코더 이상 탐지와의 차이는 그 둘과 상위 「이상 탐지」의 계열 비교에서 다룬다.
7실무 진단 — 순위가 어긋날 때의 원인 가르기
분석이상이 상위에 안 올라오면 임계값보다 먼저 «무엇에 비해 드문가»를 확인한다. iForest 점수는 하위 표본 전체 기준의 고립 속도라서(Liu 2008 2절) 국소 이상 · 운전 모드 섞임은 오염률을 바꿔도 순위가 그대로다(동작 6단계).
| # | 증상 | 의심 원인 | 단계 | 확인 자료 | 판정 기준(근거) |
|---|---|---|---|---|---|
| 1 | 성긴 운전 모드 가장자리 정상이 상위를 차지 | 밀도가 다른 군집 섞임 · 국소 이상 | 점수 | 운전 모드별 점수 분포 · 상위 점의 모드 | 모드별로 나눠 학습하거나 국소 밀도 방법과 대조(Liu 2012 6.4절) |
| 2 | 모든 점의 s 가 0.5 근처 | 뚜렷한 이상 없음 · 관계없는 속성이 많음 | 데이터 | 점수 범위 · 속성별 분포 | 모두 s ≈ 0.5 면 뚜렷한 이상 없음(Liu 2008 2절) |
| 3 | 이상 덩어리가 통째로 낮은 점수 | masking — 이상이 많고 조밀함 | 하위 표본 | ψ 를 줄여 다시 실행 · 상위 점의 군집 크기 | 작은 표본이 swamping · masking 을 줄임(Liu 2012 4.4절) |
| 4 | 군집 사이 빈 영역의 새 점이 정상으로 나옴 | 축 정렬 분할의 줄무늬 | 분할 | 격자 점 점수 지도 · Extended IF 결과와 대조 | 확장 수준 0 과 최대 수준의 점수 차(Hariri 2021) |
| 5 | 다시 돌릴 때마다 상위 목록이 바뀜 | 나무 수 부족 · 난수 미고정 | 숲 | random_state 고정 · t 를 늘려 평균 경로 수렴 확인 | 경로 길이는 대개 t = 100 전에 수렴(Liu 2008 4.1절) |
| 6 | 경보 수가 기대와 다름 | contamination 해석 | 임계값 | offset_ · decision_function 부호 | auto 면 offset −0.5 · 실수면 학습 세트에서 그 비율이 음수(scikit-learn IsolationForest) |
가려내는 순서는 데이터(점수 범위) → 하위 표본 → 분할 → 숲 → 임계값이다. 점수 범위가 0.5 근처에 몰려 있으면 그 뒤 설정을 바꿔도 순위가 생기지 않으므로 속성 선택이 먼저다.
8시험 대비
시험에서는 고립 원리 · 경로 길이 · 점수 식을 쓰는 정의 · 특징형, 그리고 표준 iForest 를 Extended IF · LOF 와 견주는 비교형이 나올 수 있다. c(ψ) 값을 직접 계산해 「평균 경로와 같으면 0.5」를 숫자로 보이면 정의 수준을 넘는다.
- 개요 — 정의(무작위 분할 · 고립 · 경로 길이) · 「적고 다르다」 두 성질 · 레이블 없는 순위 매기기
- 구조 — 그림 3 구성도(하위 표본 ψ → iTree · 높이 제한 l → 숲 t 그루 → 경로 길이 → 점수)
- 점수 식 — c(n) = 2H(n−1) − 2(n−1)/n · s = 2^(−E(h)/c(ψ)) · 그림 5 곡선(0.5 · 1 근처 · 0 근처의 뜻)
- 동작 사례 — 그림 4 처럼 전역 이상 E(h) 4.31 ↔ 정상 13.58 · 나무 수에 따른 수렴
- 비교와 한계 — 표준 · Extended IF · SCiForest · LOF 비교표 · 그림 6 축 정렬 흔적 · 국소 이상
- 적용 — 설정(t 100 · ψ 256 · contamination) · 운전 모드별 학습 · 상위 이상 탐지 운영 고리와 연결
꼭 쓸 키워드
고립iTree경로 길이c(n) 정규화이상 점수 s하위 표본높이 제한오염률swampingmaskingExtended Isolation Forest
다른 답안과 차이를 내는 한 가지는 c(256) = 10.245 를 계산해 점수 곡선 위에 이상 · 정상 점을 찍고, 축 정렬 분할 때문에 빈 영역 점수가 낮아지는 그림 6 단면을 덧붙이는 것이다.
9오해와 사실
- 오해iForest 는 정상 데이터의 분포를 학습해 거기서 벗어난 점을 찾는다.사실정상의 모양을 그리지 않고 이상을 직접 고립시킨다 — 거리 · 밀도를 계산하지 않고 분할 횟수만 센다(Liu 2008 1 · 2절).
- 오해표준 iForest 도 변수마다 표준화해야 한다.사실분할 값을 그 속성의 최솟값 ~ 최댓값 사이에서 고르므로(Liu 2008 2절) 속성별 단위 · 배율을 바꿔도 나무의 분포가 같다 — 척도를 맞춰야 하는 쪽은 초평면 기울기가 여러 속성에 걸치는 Extended IF 다(Hariri 2021).
- 오해점수가 0.5 를 넘으면 이상이다.사실s = 0.5 는 평균 경로가 c(ψ) 와 같다는 뜻일 뿐이다 — 사례에서 정상 B 군집 중앙값이 0.497, 정상 최고가 0.640 이었고 경보선은 오염률이나 업무 비용으로 정한다.
10핵심 정리
| 구분 | 맡는 일 | 식 · 값 | 사례 값(시드 0) | scikit-learn | 흔한 실패 |
|---|---|---|---|---|---|
| 하위 표본 ψ | 나무마다 뽑는 점 | 기본 256 · 비복원 | 1,010점 중 256 | max_samples | 크게 잡아 masking |
| iTree | 무작위 분할 나무 | 높이 제한 ⌈log₂ψ⌉ | l = 8 | n_estimators = 100 | 나무 수가 적어 순위 흔들림 |
| 경로 길이 h(x) | 고립까지 분할 횟수 | e + c(size) | 4.31 · 13.58 | 내부 계산 | 잎 크기 어림 c(size) 를 빠뜨림 |
| 정규화 c(n) | 경로를 표본 크기와 무관하게 | 2H(n−1) − 2(n−1)/n | 10.245 | 내부 계산 | 학습 표본 수 대신 전체 n 을 넣음 |
| 점수 s | 이상 정도 0 ~ 1 | 2^(−E(h)/c(ψ)) | 0.747 · 0.399 | score_samples = −s | 부호 방향 혼동 |
| 오염률 | 경보 비율 | "auto" 또는 (0, 0.5] | 10/1,010 · 경계 0.631 | contamination · offset_ | 순위 문제를 경보 비율로 덮음 |
| 한계 | 약한 경우 | 국소 이상 · 축 정렬 흔적 | 국소 0/4 · (0, 6) 23위 | — | 모드가 섞인 데이터에 그대로 씀 |
11참고 문헌
- 먼저 볼 문헌
- ★ Isolation Forest (2008 Eighth IEEE International Conference on Data Mining 413-422) — 고립 원리 · 경로 길이 · 점수 식과 기본 설정(100그루 · 256점)을 볼 때
- ★ Isolation-Based Anomaly Detection (ACM Transactions on Knowledge Discovery from Data 6(1) Article 3) — 하위 표본이 swamping · masking 을 줄이는 이유와 평가 높이 제한 · 국소 군집 이상의 한계를 볼 때
- ★ Extended Isolation Forest (IEEE Transactions on Knowledge and Data Engineering 33(4) 1479-1489) — 축에 나란한 분할이 만드는 점수 줄무늬와 기울기 무작위 초평면 분할을 볼 때
- ★ scikit-learn 1.9.1 API sklearn.ensemble.IsolationForest — n_estimators · max_samples · contamination · offset_ 로 직접 돌려 볼 때
- 본문 근거
- On Detecting Clustered Anomalies Using SCiForest (ECML PKDD 2010 LNCS 6322 274-290) — Springer · 2010-09 ·
doi.org/10.1007/978-3-642-15883-4_18· 확인 2026-11-12 - scikit-learn 1.9.1 API sklearn.neighbors.LocalOutlierFactor — scikit-learn developers · 2026-11 ·
scikit-learn.org/stable/modules/generated/sklearn.neighbors.LocalOutlierFactor.html· 확인 2026-11-12 - NumPy 2.4 Reference Random Generator — NumPy developers · 2026-11 ·
numpy.org/doc/stable/reference/random/generator.html· 확인 2026-11-12