비지도 학습Unsupervised Learning
정답 레이블 없이 입력 데이터만으로 군집 · 축 · 밀도 · 규칙 같은 구조를 찾는 머신러닝 방식이다.
1요약
- 비지도 학습은 지도 · 강화 학습과 함께 머신러닝의 세 학습 방식 가운데 레이블 없는 입력 X 만 받아 구조를 찾는 방식으로(ESL 14장), 그 위에서 군집 · 차원 축소 · 밀도 추정 · 연관 규칙이 돈다.
- 레이블이 없으면 지도 학습은 출발하지 못하지만 구조는 측정값에 남아 있다 — 사례에서 와인 178 표본의 화학 측정값 13개만으로 묶은 세 군집이 숨겨 둔 품종과 ARI 0.897(178 중 172 일치)로 맞았다.
- 「군집이 업무와 맞지 않는다」는 먼저 특징 하나가 전체 분산을 차지하는가로 가른다 — 사례 원 값에서는 프롤린 한 특징이 분산의 99.8% 를 차지해 ARI 가 0.371 에 그쳤고, 표준화만으로 0.897 이 됐다.
2등장 배경
측정값은 쌓이는데 정답을 붙일 사람이 없거나, 정답 자체가 아직 정해지지 않은 일이 많았다. 1901년 Pearson 은 공간의 점들에 가장 가까운 직선 · 평면을 찾는 문제를 풀어(Pearson 1901) 주성분 분석의 출발점을 놓았고, 1967년 MacQueen 은 표본을 가장 가까운 평균에 배정하는 절차를 「k-means」라고 불렀다(MacQueen 1967). 같은 반복은 Lloyd 가 신호 양자화 문제로 1982년 학술지에 실었다(Lloyd 1982).
군집을 레이블 없이 재는 기준은 1987년 Rousseeuw 의 실루엣이 정했고(Rousseeuw 1987), 1989년 Barlow 는 중복을 줄이는 표현을 찾는 일을 비지도 학습이라는 이름으로 정리했다(Barlow 1989). 1996년 Ester 등은 반지름 Eps 안의 이웃 수 MinPts 로 임의 모양 군집과 잡음을 가르는 DBSCAN 을 냈고(Ester 1996 정의 1), 2002년 Kleinberg 는 척도 불변성 · 풍부성 · 일관성 세 성질을 모두 만족하는 군집 함수가 없음을 증명했다(Kleinberg 2002 정리 2.1).
2007년 k-평균++ 가 초기 중심을 거리 제곱에 비례해 뽑아 최적 대비 O(log k) 근사를 보였고(Arthur 2007), 지금 k-평균 구현의 표준 초기화가 됐다. 지금 비지도 학습은 고객 · 제품 묶기, 지도 학습 전의 차원 축소, 이상 후보 찾기에 쓰이고, 레이블 없는 대량 데이터로 표현을 미리 배우는 일은 자기 지도 학습이 이어받았다.
3쉽게 이해하기 — 꼬리표 없는 기증 책을 정리하는 헌책방 하린
헌책방 주인 하린은 분류 꼬리표가 하나도 없는 기증 책 600권을 받았다. 하린은 책마다 쪽수와 표지 밝기를 재고, 두 값을 같은 잣대로 맞춘 뒤 서로 가까운 책끼리 책장에 모은다. 책장 가운데를 다시 잡고 다시 모으기를 책이 더 움직이지 않을 때까지 되풀이하고, 책장을 두 칸에서 여섯 칸까지 바꿔 가며 가장 촘촘한 칸 수를 고른다. 책장 이름은 정리가 끝난 뒤 하린이 책을 펼쳐 보고 직접 붙이고, 단골손님이 원하는 책을 쉽게 찾는지로 정리가 잘됐는지 확인한다.
그림 1 · 꼬리표 없는 책을 같은 잣대로 재어 가까운 것끼리 모으고, 이름표는 정리가 끝난 뒤 사람이 붙인다.
그림 2 · 잣대를 맞추지 않으면 숫자가 큰 쪽수가 거리를 독차지하고, 맞추면 표지 밝기 차이가 더 크게 보인다.
| 비유 속 역할 | 실제 이름 | 실제로 하는 일 |
|---|---|---|
| 꼬리표 없는 기증 책 | 레이블 없는 데이터 X | 표본마다 측정값만 있고 정답 y 는 없다 |
| 쪽수 · 표지 밝기 | 특징 | 표본을 숫자 벡터로 바꾼다 |
| 잣대 맞추기 | 표준화 · 거리 정의 | 무엇을 «가깝다»고 볼지 정한다 |
| 가까운 책장으로 | 군집 배정 | 표본을 가장 가까운 중심의 군집에 넣는다 |
| 가운데 다시 잡기 | 중심 갱신 · 반복 | 목적 함수가 더 줄지 않을 때까지 되풀이한다 |
| 칸 수 바꿔 보기 | k 선택 · 내부 지표 | k 마다 실루엣 · SSE 를 비교한다 |
| 나중에 붙이는 이름표 | 해석 | 군집 중심을 원 단위로 읽고 사람이 이름을 붙인다 |
| 찾기 쉬운가 | 외부 · 하류 평가 | 일부 레이블 · 다음 업무 성능으로 쓸모를 잰다 |
⚠ 비유가 맞지 않는 곳: 하린은 책을 펼쳐 장르를 짐작할 수 있지만, 알고리즘은 사람이 정한 측정값의 거리만 보고 「군집 0 · 1 · 2」 번호를 줄 뿐이다. 측정값에 장르를 가르는 정보가 없으면 아무리 반복해도 장르별 책장은 나오지 않는다.
4구조 — 표현 · 목적 함수 · 출력 · 평가
그림 3 · 입력에는 레이블이 없고, 사람이 고른 표현과 목적 함수가 구조를 정하며, 평가는 고리 밖에서 내부 지표 · 일부 레이블 · 다음 업무로 한다.
| 요소 | 역할 | 사례 값 | 근거 |
|---|---|---|---|
| 입력 X | 레이블 없는 측정값 | 178 표본 · 화학 측정값 13개 | UCI Wine |
| 표현 · 거리 | 무엇을 가깝다고 볼지 정함 | 표준화 뒤 유클리드 거리 | ESL 14장 |
| 목적 함수 | 방식이 줄이거나 키우는 값 | k-평균 SSE = Σ‖x − μ_c‖² | Lloyd 1982 |
| 초기화 | 반복의 출발점 · 결과를 바꿈 | k-평균++ 10회 중 SSE 최소 | Arthur 2007 |
| 출력 | 군집 번호 · 축 · 점수 · 규칙 | 군집 셋(62 · 51 · 65 표본) | 직접 실행 |
| 내부 지표 | 레이블 없이 묶음의 질을 잼 | 실루엣 s = (b − a) / max(a, b) | Rousseeuw 1987 |
| 외부 지표 | 레이블이 일부 있을 때 대조 | ARI · 우연 일치 보정 | Hubert 1985 |
| 해석 | 중심을 원 단위로 읽고 이름 붙임 | 군집 A = 프롤린 1,100 | 직접 실행 |
실루엣의 a 는 같은 군집 안 평균 거리, b 는 가장 가까운 다른 군집까지의 평균 거리이고 −1 ~ 1 사이 값을 갖는다(Rousseeuw 1987). ARI 는 두 분할이 표본 쌍을 같게 묶은 비율을 우연 기대값으로 보정해 무작위 분할이면 0 근처, 완전 일치면 1 이 된다(Hubert 1985).
🔑 비지도 학습은 정답 대신 목적 함수를 받는다 — 무엇을 «비슷하다»고 볼지는 데이터가 아니라 사람이 고른 특징 · 척도 · 거리가 정한다.
5동작 — 와인 178 표본을 레이블 없이 세 군집으로
Python 3.14.0 · NumPy 2.4.3 으로 k-평균 · k-평균++ · 실루엣 · ARI 를 직접 구현해 실행한 사례다(default_rng(0) · scikit-learn 없이). 품종 레이블은 학습에 쓰지 않고 마지막 평가 때만 꺼낸다.
- UCI 와인 데이터 178 표본을 읽는다 — 같은 지역 세 품종의 화학 측정값 13개 · 품종 수 59 · 71 · 48 은 숨긴다(UCI Wine).
- 원 값 그대로 k = 3 으로 묶으면 프롤린(표준편차 314.02)이 전체 분산의 99.8% 를 차지해, 군집 중심이 프롤린 458 · 728 · 1,195 로만 갈리고 숨긴 품종과의 ARI 는 0.371 이다.
- 13 특징을 평균 0 · 표준편차 1 로 표준화해 특징마다 분산 비율을 1/13(7.7%)로 맞춘다.
- k = 2 ~ 6 마다 k-평균++ 로 초기 중심을 10번 뽑아 SSE 가 가장 작은 실행을 남긴다 — k = 3 은 7회 반복에서 SSE 2,314.1 → 1,277.9 로 수렴한다(Arthur 2007 2.2절).
- 실루엣이 k = 2 · 3 · 4 · 5 · 6 에서 0.268 · 0.285 · 0.245 · 0.200 · 0.204 로 k = 3 에서 가장 크고, SSE 도 1,659 → 1,278 → 1,180 으로 k = 3 뒤에 줄어드는 폭이 작아져 k = 3 을 고른다.
- 주성분 두 축(설명 분산 36.2% · 19.2%)에 세 군집을 비춰 겹침을 보고, 중심을 원 단위로 읽어 이름을 붙인다 — A 는 플라바노이드 3.00 · 프롤린 1,100, B 는 플라바노이드 0.82 · 색 강도 7.23, C 는 색 강도 2.97 · 알코올 12.25 다.
- 평가 때만 품종을 꺼내 대조하면 178 표본 중 172개가 품종 하나와 짝지어지고 ARI 는 0.897 이며, 어긋난 6개는 모두 품종 2 표본이다(Hubert 1985).
초기 중심을 10번 뽑는 대신 한 번만 뽑으면 시드 0 ~ 19 에서 ARI 가 0.381 ~ 0.915 로 흔들리고, 10번 뽑아 SSE 최소를 남기면 시드 0 ~ 9 모두 0.897 로 같다. 2단계의 원 값 군집은 실루엣이 0.571 로 표준화 군집(0.285)보다 높지만 품종과는 훨씬 덜 맞는다.
그림 4 · 레이블을 숨긴 채 원 값 → 표준화 → k-평균++ → k 선택 순으로 가며, 품종은 그림 5 의 7단계에서 처음 꺼낸다.
그림 5 · 주성분 평면에서 세 군집은 거의 겹치지 않고, 품종과 어긋난 6 표본은 모두 군집 사이 경계에 놓인 품종 2 다.
그림 6 · 실루엣은 같은 표현 안에서 k 를 고를 때 품종과의 일치(ARI)와 같은 k 를 가리키지만, 표현이 다르면 실루엣이 높은 쪽이 오히려 덜 맞는다.
🔑 내부 지표는 같은 표현 안에서 k 를 고를 때만 믿는다 — 사례 원 값 군집은 실루엣 0.571 로 표준화 군집 0.285 보다 높지만 품종과의 ARI 는 0.371 대 0.897 이다.
6비교 — 비지도 학습 안의 다섯 방식
지도 · 강화 학습과 레이블 · 평가 · 비용을 견준 표는 지도 학습에서 다루므로, 여기서는 비지도 학습 안의 방식끼리 견준다.
| 방식 | 줄이거나 키우는 값 | 출력 | 대표 알고리즘 | 사람이 정할 값 | 맞는 문제 |
|---|---|---|---|---|---|
| 군집 | 군집 안 거리 합 · 밀도 연결 | 표본마다 군집 번호 | k-평균 · DBSCAN · 계층 군집 | k · Eps · MinPts | 고객 · 제품 묶기 |
| 차원 축소 | 남기는 분산 | 축 좌표 · 적재값 | PCA | 남길 축 수 | 시각화 · 다음 모델 입력 줄이기 |
| 밀도 추정 · 이상 점수 | 정상 데이터 가능도 · 고립 깊이 | 표본마다 점수 | 가우시안 혼합 · Isolation Forest | 점수 임계값 | 드문 표본 찾기 |
| 연관 규칙 | 함께 나오는 빈도 | X → Y 규칙 | Apriori · FP-growth | 최소 지지도 · 신뢰도 | 장바구니 · 동시 발생 |
| 표현 학습 | 재구성 오차 | 압축 벡터 | 오토인코더 · VAE | 병목 크기 | 영상 · 신호 원자료 특징 |
분석사람이 읽고 이름 붙일 묶음이 필요하면 군집을, 변수끼리 상관이 커서 다음 모델의 입력을 줄여야 하면 차원 축소를, 드문 표본 하나를 찾아야 하면 밀도 추정 · 이상 점수를 고른다. 근거는 표의 「출력」 · 「사람이 정할 값」 열이고, 사례 6단계처럼 군집 결과를 차원 축소 평면에 비춰 보는 식으로 둘을 함께 쓰는 일이 많다.
군집이 둥글지 않거나 잡음 표본이 섞이면 k-평균 대신 반지름 Eps 안 이웃 수로 군집을 넓히는 DBSCAN 이 맞고, 이때는 k 대신 Eps · MinPts 를 사람이 정한다(Ester 1996 정의 1 · 2).
7실무 진단 — 군집 결과가 이상할 때의 원인 가르기
분석표현 → 초기화 → k → 지표 순으로 본다. 표현이 틀리면 뒤의 k · 지표 판단이 모두 그 표현 위의 판단이 되고(사례 2단계 · 그림 6), 초기화가 흔들리면 같은 k 에서도 결과가 바뀐다(Arthur 2007).
| # | 증상 | 의심 원인 | 단계 | 확인 자료 | 판정 기준(근거) |
|---|---|---|---|---|---|
| 1 | 군집이 특징 하나의 구간으로만 갈림 | 척도 차이 | 표현 | 특징별 분산 비율 · 원 단위 군집 중심표 | 한 특징의 분산 비율이 대부분이면(사례 프롤린 99.8%) 표준화 뒤 다시 실행(사례 2 · 3단계) |
| 2 | 실행할 때마다 군집 구성이 바뀜 | 초기 중심 · 국소 최솟값 | 학습 | 초기화 여러 번의 SSE · 실행 사이 ARI | 초기화 1회 실행 사이 ARI 가 0.381 ~ 0.915 처럼 흔들리면 k-평균++ 여러 번 중 SSE 최소를 남김(Arthur 2007) |
| 3 | k 를 바꿔도 실루엣이 비슷하고 꺾임이 없음 | 구조가 약함 · 둥글지 않은 군집 | 모델 선택 | k 별 실루엣 · SSE 곡선 · 밀도 기반 결과 | 실루엣 최댓값이 뚜렷하지 않으면 군집 모양 가정을 의심하고 DBSCAN 과 비교(Rousseeuw 1987 · Ester 1996) |
| 4 | 지표는 좋은데 업무 쪽에서 의미가 없다고 함 | 표현이 업무 기준과 다름 | 평가 | 일부 레이블 표본과의 ARI · 중심의 원 단위 해석 | 표현이 다른 군집끼리 실루엣을 비교하지 않고, 일부 레이블과의 ARI 로 견줌(Hubert 1985 · 그림 6) |
운영 데이터가 학습 때 군집 중심에서 점점 멀어지는 문제는 모델 모니터링이, 군집을 쓰지 않고 드문 표본 하나를 찾는 문제는 이상 탐지가 다룬다.
8시험 대비
www.q-net.or.kr시험에서는 비지도 학습의 정의 · 방식 · 평가를 쓰는 정의 · 특징형, 그리고 군집 · 차원 축소 · 밀도 추정 · 연관 규칙을 목적 함수와 출력으로 가르는 비교형이 나올 수 있다. 「레이블이 없는데 어떻게 평가하는가」를 내부 · 외부 지표로 나눠 쓰면 정의 수준을 넘는다.
- 개요 — 정의(레이블 없는 X 에서 구조 찾기 · ESL 14장) · 지도 · 강화 학습과 정답을 주는 주체의 차이 한 줄
- 구성 — 그림 3 구조(표현 · 목적 함수 · 출력 · 사람 해석 · 고리 밖 평가)
- 방식 비교 — 다섯 방식 표(줄이거나 키우는 값 · 출력 · 대표 알고리즘 · 사람이 정할 값)
- 절차 사례 — 그림 4 · 그림 5(178 표본 · 표준화 · k-평균++ · k = 3 · ARI 0.897)
- 평가 — 실루엣 식 · ARI · 그림 6(같은 표현 안 k 선택 ↔ 표현 사이 비교 금지)
- 한계와 대응 — 척도 의존(프롤린 99.8%) · 초기화(0.381 ~ 0.915) · 불가능성 정리(Kleinberg 2002) · 준지도 · 자기 지도 학습으로 연결
꼭 쓸 키워드
군집차원 축소밀도 추정연관 규칙목적 함수표준화k-평균++실루엣ARI불가능성 정리
다른 답안과 차이를 내는 한 가지는 그림 6 이다 — 「실루엣으로 k 를 고른다」 한 줄 대신, 같은 표현 안에서는 실루엣과 ARI 가 같은 k 를 가리키지만 표현이 다르면 실루엣 0.571 이 ARI 0.371 에 그친다는 것을 숫자로 보인다.
9오해와 사실
- 오해비지도 학습은 사람이 정하는 것이 없다.사실특징 · 척도 · 거리 · k 를 사람이 정하고, 사례에서는 척도만 바꿨는데 숨긴 품종과의 ARI 가 0.371 에서 0.897 로 달라졌다.
- 오해좋은 군집 알고리즘은 어떤 데이터에서도 하나의 «진짜» 군집을 찾는다.사실척도 불변성 · 풍부성 · 일관성 세 성질을 모두 만족하는 군집 함수는 없으므로(Kleinberg 2002 정리 2.1), 어떤 알고리즘이든 셋 중 하나를 포기한 기준이다.
- 오해k-평균은 같은 데이터 · 같은 k 에서 늘 같은 답을 준다.사실초기 중심에 따라 국소 최솟값이 달라, 사례에서 초기화 1회 실행은 시드마다 ARI 0.381 ~ 0.915 였다(Arthur 2007 1절).
10핵심 정리
| 구분 | 맡는 일 | 사례 값 | 확인 지표 · 식 | 흔한 실패 |
|---|---|---|---|---|
| 입력 X | 레이블 없는 측정값 | 178 × 13 | 특징별 분산 비율 | 척도를 보지 않음 |
| 표현 · 척도 | 가깝다의 정의 | 표준화 · 각 7.7% | 원 값 분산 비율 99.8% | 원 값 그대로 묶음 |
| 목적 함수 | 방식이 최적화하는 값 | SSE 1,277.9 | Σ‖x − μ_c‖² | 방식과 문제 불일치 |
| 초기화 | 반복 출발점 | k-평균++ 10회 | 실행 사이 ARI | 1회 실행 · 0.381 ~ 0.915 |
| 내부 지표 | 레이블 없이 k 선택 | 실루엣 k = 3 · 0.285 | (b − a) / max(a, b) | 표현 사이 비교 |
| 외부 지표 | 일부 레이블과 대조 | ARI 0.897 · 172/178 | 우연 보정 일치 | 정확도처럼 읽음 |
| 해석 | 이름 · 쓰임 정함 | A = 프롤린 1,100 | 원 단위 중심표 | 번호를 정답으로 봄 |
11참고 문헌
- 먼저 볼 문헌
- ★ Wine (UCI Machine Learning Repository · DOI 10.24432/C5PC7J · CC BY 4.0) — 사례 데이터 178 표본 · 측정값 13개를 내려받아 따라 해 볼 때
- ★ An Impossibility Theorem for Clustering (Advances in Neural Information Processing Systems 15) — 모든 데이터에 맞는 군집 기준이 왜 없는지 세 성질로 볼 때
- ★ k-means++: The Advantages of Careful Seeding (Proc. 18th ACM-SIAM Symposium on Discrete Algorithms 1027-1035) — k-평균 초기화가 결과를 바꾸는 이유와 k-평균++ 를 볼 때
- ★ Silhouettes: A Graphical Aid to the Interpretation and Validation of Cluster Analysis (Journal of Computational and Applied Mathematics 20 53-65) — 레이블 없이 군집 품질을 재는 실루엣 식을 볼 때
- ★ The Elements of Statistical Learning 2nd ed. (Hastie · Tibshirani · Friedman) Chapter 14 Unsupervised Learning — 군집 · 주성분 · 연관 규칙을 한 장에서 통계 관점으로 볼 때
- 본문 근거
- Comparing Partitions (Journal of Classification 2(1) 193-218) — Springer · 1985-12 ·
doi.org/10.1007/BF01908075· 확인 2026-11-12 - A Density-Based Algorithm for Discovering Clusters in Large Spatial Databases with Noise (Proc. KDD-96 226-231) — AAAI · 1996-08 ·
cdn.aaai.org/KDD/1996/KDD96-037.pdf· 확인 2026-11-12 - On Lines and Planes of Closest Fit to Systems of Points in Space (Philosophical Magazine Series 6 2(11) 559-572) — Taylor & Francis · 1901-11 ·
doi.org/10.1080/14786440109462720· 확인 2026-11-12 - Some Methods for Classification and Analysis of Multivariate Observations (Proc. Fifth Berkeley Symposium on Mathematical Statistics and Probability 1 281-297) — University of California Press · 1967 ·
projecteuclid.org/euclid.bsmsp/1200512992· 확인 2026-11-12 - Least Squares Quantization in PCM (IEEE Transactions on Information Theory 28(2) 129-137) — IEEE · 1982-03 ·
doi.org/10.1109/TIT.1982.1056489· 확인 2026-11-12 - Unsupervised Learning (Neural Computation 1(3) 295-311) — MIT Press · 1989-09 ·
doi.org/10.1162/neco.1989.1.3.295· 확인 2026-11-12 - NumPy v2.4 Manual - Random Generator (numpy.random.default_rng) — NumPy Developers · 2026-11 ·
numpy.org/doc/stable/reference/random/generator.html· 확인 2026-11-12