선형 회귀Linear Regression
입력 특징의 가중 합(계수 × 특징 + 절편)으로 실수 목표 값을 예측하는 회귀 모델이며, 계수는 대개 잔차 제곱합을 가장 작게 하는 최소제곱으로 정한다.
1요약
- 선형 회귀는 지도 학습의 회귀 문제에서 모수에 선형인 모델 f(x) = β₀ + Σβⱼxⱼ 를 쓰는 가장 기본 알고리즘으로(ESL 식 3.1), 해가 b = (XᵀX)⁻¹Xᵀy 한 식으로 닫혀 있고 그 위에서 다항 회귀 · 리지 · 라쏘 · 일반화 선형 모델이 확장된다.
- 계수와 R² 만으로는 틀린 모델을 가리지 못한다 — Anscombe 의 네 데이터는 모두 기울기 0.500 · R² 0.667 로 같지만, 하나는 곡선이고 하나는 이상점 하나가, 하나는 점 하나가 기울기를 정한 데이터다(Anscombe 1973).
- 「계수는 그럴듯한데 예측이 빗나간다」는 잔차 그림의 모양으로 가른다 — 곡선 무늬면 모델 형태, 깔때기면 등분산, 홀로 떨어진 점이면 영향점 문제다(NIST 4.4.4).
2등장 배경
18세기 말 천문학자들은 혜성 · 행성 궤도를 정할 때 미지수보다 관측 방정식이 훨씬 많아, 어느 관측을 버리고 어떻게 평균할지가 사람마다 달랐다. Legendre 는 1805년 혜성 궤도 책의 부록에서 오차 제곱의 합을 가장 작게 하는 최소제곱법을 발표했고, Gauss 가 1809년 천체 운동론에서 자기가 먼저 써 왔다고 밝혀 통계학사에서 가장 유명한 우선권 논쟁이 생겼다(Stigler 1981 · NIST 4.1.4.1).
「회귀」라는 이름은 Galton 에게서 왔다. 그는 1886년 성인 자녀 930명과 부모 205쌍의 키를 모아, 자녀 키의 평균 편차가 부모 평균 편차의 3분의 2 에 그친다는 「평균으로의 회귀」를 보였다(Galton 1886). 1973년 Anscombe 는 통계량이 같은 데이터 네 세트를 만들어 계산 결과보다 그림을 먼저 보라고 했다(Anscombe 1973).
지금 선형 회귀는 머신러닝에서 성능 비교의 기준선이자 계수가 그대로 설명이 되는 모델로 남아 있다. 특징이 표본보다 많거나 서로 겹치면 XᵀX 가 특이해져 해가 하나로 정해지지 않으므로, 계수를 줄이는 리지 · 라쏘가 그 빈틈을 메운다(ESL 3.2 · 3.4절).
3쉽게 이해하기 — 용수철로 막대를 거는 목수
목수 하람은 공방 벽에 박힌 못 여섯 개를 가장 잘 따라가는 곧은 막대 하나를 달려고 한다. 못마다 세로로만 늘어나는 용수철을 막대에 걸고 손을 놓으면, 많이 늘어난 용수철일수록 세게 당겨 막대는 모든 용수철의 힘이 맞서는 곳에서 멈춘다. 하람은 멈춘 막대에서 아직 못이 없는 곳의 높이를 읽고, 혼자 멀리 떨어진 못 하나가 막대를 끌어당기지 않았는지 살핀다.
그림 1 · 못마다 건 용수철이 막대를 당겨, 늘어난 길이 제곱의 합이 가장 작은 곳에서 막대가 멈춘다.
그림 2 · 쌓인 힘은 늘어난 길이의 제곱이라, 크게 벗어난 점 하나가 잔차 제곱합의 76% 를 차지하고 기울기를 0.345 에서 0.500 으로 바꾼다.
| 비유 속 역할 | 실제 이름 | 실제로 하는 일 |
|---|---|---|
| 벽의 못 | 관측값 (xᵢ, yᵢ) | 학습 데이터 한 행 · 특징과 목표 값의 쌍 |
| 용수철이 늘어난 길이 | 잔차 eᵢ | 실제 값과 직선 사이의 세로 차이 |
| 용수철에 쌓인 힘 | 잔차 제곱 eᵢ² | 길이의 제곱이라 큰 차이를 훨씬 무겁게 센다 |
| 막대가 멈춘 곳 | 최소제곱 해 b | 잔차 제곱합(RSS)이 가장 작은 기울기 · 절편 |
| 막대의 기울기 · 높이 | 계수 β₁ · 절편 β₀ | x 가 1 늘 때 예측이 변하는 양 · x = 0 의 예측 |
| 못 없는 곳의 높이 | 예측 ŷ | 새 x 의 예측값 · 못 무리에서 멀수록 덜 믿는다 |
| 멀리 떨어진 못 | 이상점 · 영향점 | 한 점이 계수를 크게 바꾼다 |
| 목수 하람 | 분석가 | 막대(모델 형태)를 고르고 용수철(잔차)을 살핀다 |
⚠ 비유가 맞지 않는 곳: 진짜 용수철은 비스듬히도 당기지만 최소제곱은 세로(y) 차이만 센다 — x 는 오차 없이 쟀다고 본다. 막대가 곧다는 것도 사람이 정한 것이라, 못이 곡선을 이루면 막대는 멈춰도 맞는 선이 아니다.
4구조 — 설계 행렬에서 계수 · 진단 값까지
그림 3 · 계수는 열이 선형 독립이기만 하면 계산되지만, 표준오차 · 구간은 오차가 독립 · 등분산이라는 가정이 맞을 때만 믿을 수 있다.
| 요소 | 크기 | 역할 | 값 · 근거 |
|---|---|---|---|
| 설계 행렬 X | n × (p+1) | 특징 p 개 + 절편용 1 열 · 변환 · 더미 · 교호 항도 열로 넣음 | ESL 3.2절 |
| 정규 방정식 | (p+1) × (p+1) | XᵀXβ = Xᵀy · RSS 의 기울기가 0 이 되는 조건 | ESL 식 3.5 |
| 추정 계수 b | p+1 | (XᵀX)⁻¹Xᵀy(교재 기호는 β 위에 hat) · 실제 계산은 역행렬 대신 QR · SVD | ESL 식 3.6 · 3.32 · NumPy lstsq |
| 잔차 e | n | y − Xb · X 의 모든 열과 직교(Xᵀe = 0) | ESL 3.2절 |
| 지렛값 hᵢᵢ | n | 투영 행렬 H = X(XᵀX)⁻¹Xᵀ 의 대각 · 평균 (p+1)/n | ESL 식 3.7 · Hoaglin 1978 |
| σ̂² · 표준오차 | 1 · p+1 | RSS/(n−p−1) · Var(b) = (XᵀX)⁻¹σ² | ESL 식 3.8 |
| 결정계수 R² | 1 | 1 − RSS/TSS · 목표 변동 중 모델이 설명한 비율 | NIST 4.4.4 |
「선형」은 직선이라는 뜻이 아니라 계수에 대해 선형이라는 뜻이다 — x² · log x 를 열로 넣어도 같은 식으로 풀린다(ESL 3.2절 · NIST 4.1.4.1). 오차가 독립 · 등분산이면 최소제곱은 편향 없는 선형 추정량 가운데 분산이 가장 작고(Gauss–Markov 정리 · ESL 3.2.2절), 편향을 조금 허용하면 더 작은 오차도 가능하다는 점이 리지 · 라쏘의 출발점이다.
🔑 계수는 가정 없이도 계산되지만, 표준오차 · p 값은 오차 가정이 맞을 때만 뜻이 있다 — 잔차를 보기 전의 p 값은 숫자일 뿐이다.
5동작 — Anscombe 세트 Ⅰ 의 최소제곱 한 번
R datasets 의 anscombe 세트 Ⅰ 11점(R anscombe)을 NumPy 2.4.3(Python 3.14.0)의 numpy.linalg.solve 와 lstsq 로 각각 풀어 같은 값을 얻은 직접 실행 사례다 — 난수는 쓰지 않았다.
- x 11개(4 ~ 14 의 정수)와 y 11개를 읽는다 — x̄ = 9.0 · ȳ = 7.501.
- 1 열을 붙인 설계 행렬로 XᵀX = [[11, 99], [99, 1001]] · Xᵀy = [82.51, 797.60] 을 만든다.
- 정규 방정식을 풀면 b₀ = 3.000 · b₁ = 0.500 이다 — 특징이 하나면 b₁ = Sxy/Sxx = 55.01/110 과 같다(ESL 식 3.6).
- 잔차 제곱합 RSS = 13.763, 전체 제곱합 TSS = 41.273 이므로 R² = 0.667 · σ̂ = √(13.763/9) = 1.237 이다 — 가장 큰 잔차는 x = 13 의 −1.92 다.
- 기울기 표준오차는 √(σ̂²/Sxx) = 0.118 이고 t = 4.24(자유도 9), 양측 p = 0.0022, 95% 신뢰구간은 0.233 ~ 0.767 이다(ESL 식 3.8 · 3.12).
- 다시 맞추지 않고 eᵢ/(1 − hᵢᵢ) 로 한 점씩 뺀 교차 검증(LOOCV)을 계산하면 RMSE 가 학습 1.119 에서 1.368 로 오른다(ESL 식 7.51) — hᵢᵢ 최댓값은 양 끝 x = 4 · 14 의 0.318 이다.
- 95% 예측 구간은 x̄ = 9 에서 ±2.92 로 가장 좁고, x = 12 의 예측 9.00 은 5.97 ~ 12.03, 데이터 밖 x = 20 의 예측 13.00 은 8.86 ~ 17.14(±4.14)로 넓어진다.
- 같은 해를 경사 하강으로 구하면 원래 x 에서는 2XᵀX/n 의 조건수가 844 라 학습률 0.01(발산 한계 0.0109)로 3,663회가 걸리고, x 를 표준화하면 조건수 1 · 학습률 0.1 로 36회 만에 계수 오차 0.001 안에 든다.
여기까지의 숫자는 그림을 한 번도 보지 않고 얻었다. 같은 3.00 + 0.500x · R² 0.667 이 나오는 데이터가 세 개 더 있다(그림 5).
그림 4 · 세트 Ⅰ 의 최소제곱 직선은 3.000 + 0.500x 이고, 예측 구간은 x̄ = 9 에서 가장 좁다가 데이터 밖 x = 20 에서 ±4.14 로 넓어진다.
그림 5 · 네 세트 모두 3.00 + 0.500x · R² 0.667 이지만 잔차 모양이 곡선 · 이상점 · 한 점 지렛대로 갈려, 직선이 맞는 데이터는 Ⅰ 하나다.
🔑 최소제곱은 «직선이 맞는가»를 검사하지 않고 «직선이라면 이것이 최선»만 답한다 — 맞는지는 잔차가 말한다.
6비교 — 규제 선형 회귀 · 로지스틱 회귀 · 결정 트리와의 차이
| 기준 | 선형 회귀(최소제곱) | 리지 · 라쏘 | 로지스틱 회귀 | 결정 트리 회귀 |
|---|---|---|---|---|
| 출력 | 실수 값 | 실수 값 | 클래스 확률(0 ~ 1) | 실수 값(잎의 평균) |
| 손실 | 잔차 제곱합 | 제곱합 + λ × 계수 제곱합(리지) · 절댓값 합(라쏘) | 로그 손실 | 구간 안 제곱합 |
| 해 구하기 | 닫힌 식(정규 방정식 · QR) | 리지 = 닫힌 식 · 라쏘 = 반복 계산 | 반복 계산(뉴턴 · 경사 하강) | 탐욕 분할 |
| 특징 수 > 표본 수 | XᵀX 특이 · 해가 하나로 정해지지 않음 | 풀림 · 라쏘는 계수 일부를 0 으로 | 규제가 있어야 풀림 | 풀림 |
| 비선형 · 상호작용 | 사람이 열로 넣어야 함 | 사람이 열로 넣어야 함 | 사람이 열로 넣어야 함 | 분할로 스스로 잡음 |
| 계수 해석 | x 1 단위당 y 변화 · 표준오차 있음 | 줄어든 계수 · 편향 있음 | 로그 오즈 변화 | 계수 없음 · 분할 규칙 |
분석목표가 실수이고 표본이 특징보다 충분히 많으며 계수의 뜻(단위당 변화 · 구간)이 필요하면 최소제곱 선형 회귀를, 특징이 많거나 서로 겹치면 리지 · 라쏘를, 목표가 클래스면 로지스틱 회귀를, 상호작용을 미리 모르고 해석보다 적합이 중요하면 트리 · 앙상블을 쓴다. 근거는 표의 「특징 수 > 표본 수」 · 「비선형 · 상호작용」 행이다(ESL 3.4 · 4.4 · 9.2절).
로지스틱 회귀 · 트리와의 깊은 비교는 둘이 각각, 규제의 강도 고르기는 과적합이 맡는다.
7실무 진단 — 선형 회귀 모델의 문제 가르기
분석잔차 대 적합값 그림부터 보고, 다음에 지렛값 · Cook 거리, 특징 사이 상관, 시간 순 잔차 순으로 내려간다. 모델 형태가 틀리면 그 뒤의 검정이 모두 틀린 전제 위에 서기 때문이다(NIST 4.4.4).
| # | 증상 | 의심 원인 | 단계 | 확인 자료 | 판정 기준(근거) |
|---|---|---|---|---|---|
| 1 | R² 는 괜찮은데 잔차가 U 자 · 곡선 | 모델 형태(비선형) | 모델 형태 | 잔차 대 적합값 · 잔차 대 x 그림 | 0 주위에 무늬 없이 흩어져야 함 · 세트 Ⅱ 는 x² 열을 넣자 R² 1.000(NIST 4.4.4.1) |
| 2 | 적합값이 클수록 잔차 폭이 넓어짐 | 등분산 위반 | 오차 가정 | 구간별 잔차 폭 | 구간마다 폭이 다르면 표준오차 · 구간을 믿지 않음 · 가중 최소제곱 · 로그 변환 비교(NIST 4.4.4.2) |
| 3 | 한 점을 빼면 기울기가 크게 바뀜 | 이상점 · 지렛점 | 데이터 | hᵢᵢ · Cook 거리 | hᵢᵢ 가 평균 (p+1)/n 의 2배를 넘으면 지렛점(Hoaglin 1978) · Cook 거리가 다른 점보다 두드러지면 영향점(Cook 1977) · 세트 Ⅲ 1.39 · 세트 Ⅳ hᵢᵢ 1.00 |
| 4 | 계수 부호가 상식과 반대 · 표준오차가 큼 | 특징끼리 강한 상관(다중공선성) | 특징 | 상관 행렬 · VIF = 1/(1 − Rⱼ²) · XᵀX 조건수 | 한 특징을 나머지로 회귀한 Rⱼ² 가 1 에 가까우면 계수가 흔들림 · 리지로 비교(ESL 3.2 · 3.4.1절) |
| 5 | 시간 순으로 잔차가 몇 개씩 같은 부호 | 오차 독립 위반(자기상관) | 오차 가정 | 측정 순서대로 그린 잔차 · 지연 그림 | 앞 잔차와 다음 잔차가 이어지면 독립 위반(NIST 4.4.4.4) |
학습 RMSE 와 검증 RMSE 의 격차가 크면 과적합의 진단 순서를 따른다. 사례 세트 Ⅰ 은 1행 그림에 무늬가 없고 hᵢᵢ 최댓값 0.318 이 기준 0.364(= 2 × 2/11)보다 작아 그대로 쓴다.
8시험 대비
www.q-net.or.kr시험에서는 모델 식 · 최소제곱 · 가정을 쓰는 정의 · 특징형, 그리고 리지 · 라쏘 · 로지스틱 회귀와 출력 · 손실 · 해법을 가르는 비교형이 나올 수 있다. 정규 방정식 한 줄과 잔차 진단 그림을 함께 보이면 정의 수준을 넘는다.
- 개요 — 정의(모수에 선형 · ESL 식 3.1) · 회귀 ↔ 분류 · 머신러닝의 기준선 모델
- 구성 — 그림 3 설계 행렬 → 정규 방정식 → 계수 · 잔차 · 지렛값 · 표준오차와 단계별 가정
- 학습 절차 — 그림 4 사례(b = 3.000 · 0.500 · R² 0.667 · LOOCV 1.368 · 예측 구간 ±2.92 → ±4.14)
- 가정과 진단 — 선형 · 독립 · 정규 · 등분산 + 그림 5 같은 R² 네 세트의 잔차 모양
- 비교 — 최소제곱 · 리지 · 라쏘 · 로지스틱 · 트리 표(출력 · 손실 · 해법 · 특징 수 > 표본 수)
- 한계와 대응 — 다중공선성(VIF) · 영향점(Cook 거리) · 경사 하강 전 표준화(3,663회 → 36회)
꼭 쓸 키워드
최소제곱정규 방정식잔차결정계수표준오차지렛값Cook 거리다중공선성등분산경사 하강
다른 답안과 차이를 내는 한 가지는 그림 5 처럼 R² 가 0.667 로 같은 네 데이터의 잔차 모양을 나란히 보이는 것이다 — 「R² 만으로 부족하다」를 숫자와 그림으로 증명한다.
9오해와 사실
- 오해R² 가 높으면 선형 모델이 데이터에 맞는다.사실Anscombe 네 세트는 R² 가 모두 0.667 이지만 직선이 맞는 것은 세트 Ⅰ 뿐이고, NIST 도 높은 R² 가 적합을 보장하지 않으니 잔차 그림을 먼저 보라고 한다(NIST 4.4.4).
- 오해선형 회귀는 직선만 맞춘다.사실「선형」은 계수에 대한 선형이라 x² · log x · 더미 · 교호 항을 열로 넣으면 곡선도 같은 식으로 풀린다 — 세트 Ⅱ 는 x² 열 하나로 R² 1.000 이 된다(ESL 3.2절).
- 오해x 로 y 를 회귀한 식을 뒤집으면 y 로 x 를 예측하는 식이 된다.사실세트 Ⅰ 에서 y ~ x 기울기는 0.500 이지만 x ~ y 기울기는 2.0 이 아니라 1.333 이고, 두 기울기의 곱이 R² 0.667 이다 — Galton 도 자녀 편차는 부모의 3분의 2, 부모 편차는 자녀의 3분의 1 로 적었다(Galton 1886).
10핵심 정리
| 구분 | 맡는 일 | 식 | 사례 값(세트 Ⅰ) | 흔한 실패 |
|---|---|---|---|---|
| 설계 행렬 X | 입력 · 절편 열 | n × (p+1) | 11 × 2 | 열끼리 겹침 |
| 최소제곱 해 | 계수 정하기 | (XᵀX)⁻¹Xᵀy | 3.000 · 0.500 | 역행렬을 직접 계산 |
| 잔차 | 맞음 확인 | y − ŷ | RSS 13.763 · 최대 −1.92 | 그림을 안 봄 |
| 결정계수 R² | 설명 비율 | 1 − RSS/TSS | 0.667 | R² 만 봄 |
| 표준오차 · 구간 | 계수 불확실성 | √diag((XᵀX)⁻¹σ̂²) | 0.118 · 0.233 ~ 0.767 | 가정 확인 전 해석 |
| 지렛값 · Cook 거리 | 영향점 찾기 | H 대각 · Cook D | 최대 0.318 < 0.364 | 한 점이 기울기 결정 |
| 경사 하강 | 큰 데이터 해법 | β ← β − η∇RSS | 3,663회 → 표준화 36회 | 표준화 안 함 |
11참고 문헌
- 먼저 볼 문헌
- ★ The Elements of Statistical Learning 2nd ed. (Hastie · Tibshirani · Friedman · corrected 12th printing) — 최소제곱 해(식 3.6) · 계수 분산(식 3.8) · Gauss–Markov 정리(3.2.2절) · 리지 · 라쏘(3.4절)를 볼 때
- ★ NIST/SEMATECH e-Handbook of Statistical Methods 4.1.4.1 Linear Least Squares Regression — 「모수에 선형」의 뜻과 최소제곱의 장단점을 볼 때
- ★ NIST/SEMATECH e-Handbook of Statistical Methods 4.4.4 How can I tell if a model fits my data? — R² 만으로 부족한 이유와 잔차 그림 진단(4.4.4.1 ~ 4.4.4.6)을 볼 때
- ★ R datasets: anscombe — Anscombe's Quartet of 'Identical' Simple Linear Regressions (data/anscombe.R) — 사례 데이터 네 세트(각 11점)를 내려받아 따라 해 볼 때
- 본문 근거
- Graphs in Statistical Analysis (The American Statistician 27(1) 17-21) — American Statistical Association · 1973-02 ·
doi.org/10.1080/00031305.1973.10478966· 확인 2026-11-12 - Regression Towards Mediocrity in Hereditary Stature (Journal of the Anthropological Institute of Great Britain and Ireland 15 246-263) — Royal Anthropological Institute · 1886 ·
doi.org/10.2307/2841583· 확인 2026-11-12 - Gauss and the Invention of Least Squares (The Annals of Statistics 9(3) 465-474) — Institute of Mathematical Statistics · 1981-05 ·
doi.org/10.1214/aos/1176345451· 확인 2026-11-12 - Detection of Influential Observation in Linear Regression (Technometrics 19(1) 15-18) — American Statistical Association · ASQ · 1977-02 ·
doi.org/10.1080/00401706.1977.10489493· 확인 2026-11-12 - The Hat Matrix in Regression and ANOVA (The American Statistician 32(1) 17-22) — American Statistical Association · 1978-02 ·
doi.org/10.1080/00031305.1978.10479237· 확인 2026-11-12 - NumPy v2.5 Manual - numpy.linalg.lstsq — NumPy Developers · 2026-11 ·
numpy.org/doc/stable/reference/generated/numpy.linalg.lstsq.html· 확인 2026-11-12