AI › 인공지능 개요 › 머신러닝 › 알고리즘

선형 회귀Linear Regression

입력 특징의 가중 합(계수 × 특징 + 절편)으로 실수 목표 값을 예측하는 회귀 모델이며, 계수는 대개 잔차 제곱합을 가장 작게 하는 최소제곱으로 정한다.

1요약

  1. 선형 회귀는 지도 학습의 회귀 문제에서 모수에 선형인 모델 f(x) = β₀ + Σβⱼxⱼ 를 쓰는 가장 기본 알고리즘으로(ESL 식 3.1), 해가 b = (XᵀX)⁻¹Xᵀy 한 식으로 닫혀 있고 그 위에서 다항 회귀 · 리지 · 라쏘 · 일반화 선형 모델이 확장된다.
  2. 계수와 R² 만으로는 틀린 모델을 가리지 못한다 — Anscombe 의 네 데이터는 모두 기울기 0.500 · R² 0.667 로 같지만, 하나는 곡선이고 하나는 이상점 하나가, 하나는 점 하나가 기울기를 정한 데이터다(Anscombe 1973).
  3. 「계수는 그럴듯한데 예측이 빗나간다」는 잔차 그림의 모양으로 가른다 — 곡선 무늬면 모델 형태, 깔때기면 등분산, 홀로 떨어진 점이면 영향점 문제다(NIST 4.4.4).

2등장 배경

18세기 말 천문학자들은 혜성 · 행성 궤도를 정할 때 미지수보다 관측 방정식이 훨씬 많아, 어느 관측을 버리고 어떻게 평균할지가 사람마다 달랐다. Legendre 는 1805년 혜성 궤도 책의 부록에서 오차 제곱의 합을 가장 작게 하는 최소제곱법을 발표했고, Gauss 가 1809년 천체 운동론에서 자기가 먼저 써 왔다고 밝혀 통계학사에서 가장 유명한 우선권 논쟁이 생겼다(Stigler 1981 · NIST 4.1.4.1).

「회귀」라는 이름은 Galton 에게서 왔다. 그는 1886년 성인 자녀 930명과 부모 205쌍의 키를 모아, 자녀 키의 평균 편차가 부모 평균 편차의 3분의 2 에 그친다는 「평균으로의 회귀」를 보였다(Galton 1886). 1973년 Anscombe 는 통계량이 같은 데이터 네 세트를 만들어 계산 결과보다 그림을 먼저 보라고 했다(Anscombe 1973).

지금 선형 회귀는 머신러닝에서 성능 비교의 기준선이자 계수가 그대로 설명이 되는 모델로 남아 있다. 특징이 표본보다 많거나 서로 겹치면 XᵀX 가 특이해져 해가 하나로 정해지지 않으므로, 계수를 줄이는 리지 · 라쏘가 그 빈틈을 메운다(ESL 3.2 · 3.4절).

3쉽게 이해하기 — 용수철로 막대를 거는 목수

목수 하람은 공방 벽에 박힌 못 여섯 개를 가장 잘 따라가는 곧은 막대 하나를 달려고 한다. 못마다 세로로만 늘어나는 용수철을 막대에 걸고 손을 놓으면, 많이 늘어난 용수철일수록 세게 당겨 막대는 모든 용수철의 힘이 맞서는 곳에서 멈춘다. 하람은 멈춘 막대에서 아직 못이 없는 곳의 높이를 읽고, 혼자 멀리 떨어진 못 하나가 막대를 끌어당기지 않았는지 살핀다.

목수 하람의 공방 벽 손을 놓으면 막대가 스스로 멈춘다 1 2 3 4 5 먼 못 하나 크게 늘어나 막대를 끈다 1 못 · 측정한 점 관측값 (xᵢ, yᵢ) 2 용수철이 늘어난 길이 잔차 eᵢ = yᵢ − ŷᵢ 3 막대가 멈춘 곳 제곱합이 가장 작은 직선 4 못 없는 곳의 높이 예측값 ŷ(새 x) 5 멀리 떨어진 못 이상점 · 영향점 관측값 모델(직선) 잔차 · 예측 위험한 점 사람 새 x 에서 읽는 선

그림 1 · 못마다 건 용수철이 막대를 당겨, 늘어난 길이 제곱의 합이 가장 작은 곳에서 막대가 멈춘다.

못 박기측정한 점 여섯
용수철 걸기세로로만 늘어남
손 놓기힘이 맞서는 곳에서 멈춤
높이 읽기못 없는 곳의 높이
먼 못 살피기막대를 끌었는가
비유 — 늘어난 길이와 쌓인 힘 실제 — 세트 Ⅲ 의 잔차 제곱 길이 1 길이 1 길이 3 힘 1 힘 1 힘 9 쌓인 힘 = 길이²(넓이로 그림) 길이가 3배인 용수철 하나에 나머지 둘을 합친 힘의 4.5배가 쌓인다 잔차 제곱합 RSS = 13.76(11점) 이상점 1개 · 10.50 10개 3.25 x = 13 의 잔차 3.24 → 제곱 10.50 = 76% 이 점을 빼면 기울기 0.345 넣으면 0.500 — 한 점이 기울기를 바꾼다 그래서 계수보다 잔차를 먼저 본다 제곱은 큰 잔차를 몇 배로 무겁게 센다 이상점 몫 나머지 잔차 몫

그림 2 · 쌓인 힘은 늘어난 길이의 제곱이라, 크게 벗어난 점 하나가 잔차 제곱합의 76% 를 차지하고 기울기를 0.345 에서 0.500 으로 바꾼다.

비유 속 역할실제 이름실제로 하는 일
벽의 못관측값 (xᵢ, yᵢ)학습 데이터 한 행 · 특징과 목표 값의 쌍
용수철이 늘어난 길이잔차 eᵢ실제 값과 직선 사이의 세로 차이
용수철에 쌓인 힘잔차 제곱 eᵢ²길이의 제곱이라 큰 차이를 훨씬 무겁게 센다
막대가 멈춘 곳최소제곱 해 b잔차 제곱합(RSS)이 가장 작은 기울기 · 절편
막대의 기울기 · 높이계수 β₁ · 절편 β₀x 가 1 늘 때 예측이 변하는 양 · x = 0 의 예측
못 없는 곳의 높이예측 ŷ새 x 의 예측값 · 못 무리에서 멀수록 덜 믿는다
멀리 떨어진 못이상점 · 영향점한 점이 계수를 크게 바꾼다
목수 하람분석가막대(모델 형태)를 고르고 용수철(잔차)을 살핀다

⚠ 비유가 맞지 않는 곳: 진짜 용수철은 비스듬히도 당기지만 최소제곱은 세로(y) 차이만 센다 — x 는 오차 없이 쟀다고 본다. 막대가 곧다는 것도 사람이 정한 것이라, 못이 곡선을 이루면 막대는 멈춰도 맞는 선이 아니다.

4구조 — 설계 행렬에서 계수 · 진단 값까지

계산 흐름 필요한 가정 설계 행렬 X · n × (p+1)첫 열 = 1(절편) · 나머지 = 특징 목표 y · n × 1실수 값 정규 방정식XᵀX β = Xᵀy 추정 계수 b = (XᵀX)⁻¹Xᵀy실제 계산 = QR · SVD 적합값 ŷ = Xb예측에 씀 잔차 e = y − ŷXᵀe = 0(직교) 지렛값 hᵢᵢH = X(XᵀX)⁻¹Xᵀ 대각 R² · σ̂²RSS 에서 표준오차 · t · 구간(XᵀX)⁻¹σ̂² LOOCV · Cook 거리eᵢ 와 hᵢᵢ 로 열이 선형 독립 어기면 XᵀX 특이 E(y | x) 가 선형 어기면 잔차에 무늬 오차 독립 · 등분산 + 작은 n 은 정규성 어기면 구간이 틀림 입력 데이터 모델 · 해법 출력 진단 값 가정(점선)

그림 3 · 계수는 열이 선형 독립이기만 하면 계산되지만, 표준오차 · 구간은 오차가 독립 · 등분산이라는 가정이 맞을 때만 믿을 수 있다.

요소크기역할값 · 근거
설계 행렬 Xn × (p+1)특징 p 개 + 절편용 1 열 · 변환 · 더미 · 교호 항도 열로 넣음ESL 3.2절
정규 방정식(p+1) × (p+1)XᵀXβ = Xᵀy · RSS 의 기울기가 0 이 되는 조건ESL 식 3.5
추정 계수 bp+1(XᵀX)⁻¹Xᵀy(교재 기호는 β 위에 hat) · 실제 계산은 역행렬 대신 QR · SVDESL 식 3.6 · 3.32 · NumPy lstsq
잔차 eny − Xb · X 의 모든 열과 직교(Xᵀe = 0)ESL 3.2절
지렛값 hᵢᵢn투영 행렬 H = X(XᵀX)⁻¹Xᵀ 의 대각 · 평균 (p+1)/nESL 식 3.7 · Hoaglin 1978
σ̂² · 표준오차1 · p+1RSS/(n−p−1) · Var(b) = (XᵀX)⁻¹σ²ESL 식 3.8
결정계수 R²11 − RSS/TSS · 목표 변동 중 모델이 설명한 비율NIST 4.4.4

「선형」은 직선이라는 뜻이 아니라 계수에 대해 선형이라는 뜻이다 — x² · log x 를 열로 넣어도 같은 식으로 풀린다(ESL 3.2절 · NIST 4.1.4.1). 오차가 독립 · 등분산이면 최소제곱은 편향 없는 선형 추정량 가운데 분산이 가장 작고(Gauss–Markov 정리 · ESL 3.2.2절), 편향을 조금 허용하면 더 작은 오차도 가능하다는 점이 리지 · 라쏘의 출발점이다.

🔑 계수는 가정 없이도 계산되지만, 표준오차 · p 값은 오차 가정이 맞을 때만 뜻이 있다 — 잔차를 보기 전의 p 값은 숫자일 뿐이다.

5동작 — Anscombe 세트 Ⅰ 의 최소제곱 한 번

R datasets 의 anscombe 세트 Ⅰ 11점(R anscombe)을 NumPy 2.4.3(Python 3.14.0)의 numpy.linalg.solve 와 lstsq 로 각각 풀어 같은 값을 얻은 직접 실행 사례다 — 난수는 쓰지 않았다.

  1. x 11개(4 ~ 14 의 정수)와 y 11개를 읽는다 — x̄ = 9.0 · ȳ = 7.501.
  2. 1 열을 붙인 설계 행렬로 XᵀX = [[11, 99], [99, 1001]] · Xᵀy = [82.51, 797.60] 을 만든다.
  3. 정규 방정식을 풀면 b₀ = 3.000 · b₁ = 0.500 이다 — 특징이 하나면 b₁ = Sxy/Sxx = 55.01/110 과 같다(ESL 식 3.6).
  4. 잔차 제곱합 RSS = 13.763, 전체 제곱합 TSS = 41.273 이므로 R² = 0.667 · σ̂ = √(13.763/9) = 1.237 이다 — 가장 큰 잔차는 x = 13 의 −1.92 다.
  5. 기울기 표준오차는 √(σ̂²/Sxx) = 0.118 이고 t = 4.24(자유도 9), 양측 p = 0.0022, 95% 신뢰구간은 0.233 ~ 0.767 이다(ESL 식 3.8 · 3.12).
  6. 다시 맞추지 않고 eᵢ/(1 − hᵢᵢ) 로 한 점씩 뺀 교차 검증(LOOCV)을 계산하면 RMSE 가 학습 1.119 에서 1.368 로 오른다(ESL 식 7.51) — hᵢᵢ 최댓값은 양 끝 x = 4 · 14 의 0.318 이다.
  7. 95% 예측 구간은 x̄ = 9 에서 ±2.92 로 가장 좁고, x = 12 의 예측 9.00 은 5.97 ~ 12.03, 데이터 밖 x = 20 의 예측 13.00 은 8.86 ~ 17.14(±4.14)로 넓어진다.
  8. 같은 해를 경사 하강으로 구하면 원래 x 에서는 2XᵀX/n 의 조건수가 844 라 학습률 0.01(발산 한계 0.0109)로 3,663회가 걸리고, x 를 표준화하면 조건수 1 · 학습률 0.1 로 36회 만에 계수 오차 0.001 안에 든다.

여기까지의 숫자는 그림을 한 번도 보지 않고 얻었다. 같은 3.00 + 0.500x · R² 0.667 이 나오는 데이터가 세 개 더 있다(그림 5).

4 8 12 16 20 0 4 8 12 16 x y 17.14 13.00 8.86 7 1 11점 · x 4 ~ 14 · ȳ 7.501 점선 띠 = 95% 예측 구간 2 정규 방정식 재료 XᵀX = [11 99; 99 1001] 3 계수 b₀ = 3.000 · b₁ = 0.500 4 적합도 RSS 13.763 · R² 0.667 · σ̂ 1.237 5 기울기 불확실성 SE 0.118 · t 4.24 · 0.233 ~ 0.767 6 한 점 뺀 검증(LOOCV) RMSE 1.119 → 1.368 8 경사 하강 반복 3,663회 → 표준화 뒤 36회 관측값 최소제곱 직선(점선 = 데이터 밖) 잔차 · 가장 큰 값 −1.92(x = 13)

그림 4 · 세트 Ⅰ 의 최소제곱 직선은 3.000 + 0.500x 이고, 예측 구간은 x̄ = 9 에서 가장 좁다가 데이터 밖 x = 20 에서 ±4.14 로 넓어진다.

네 세트 공통 — ŷ = 3.00 + 0.500x · R² 0.667 · σ̂ 1.24 Ⅰ 고른 잔차 → 직선이 맞음 5 10 15 20 Ⅱ 곡선 → x² 열을 넣으면 R² 1.000 5 10 15 20 Ⅲ 이상점 하나 → Cook 거리 1.39 · 빼면 기울기 0.345 5 10 15 20 Ⅳ 한 점 지렛대 → x = 19 의 지렛값 hᵢᵢ = 1.00 5 10 15 20 관측값 공통 회귀 직선 영향점 · 지렛점 2차 곡선(세트 Ⅱ)

그림 5 · 네 세트 모두 3.00 + 0.500x · R² 0.667 이지만 잔차 모양이 곡선 · 이상점 · 한 점 지렛대로 갈려, 직선이 맞는 데이터는 Ⅰ 하나다.

🔑 최소제곱은 «직선이 맞는가»를 검사하지 않고 «직선이라면 이것이 최선»만 답한다 — 맞는지는 잔차가 말한다.

6비교 — 규제 선형 회귀 · 로지스틱 회귀 · 결정 트리와의 차이

기준선형 회귀(최소제곱)리지 · 라쏘로지스틱 회귀결정 트리 회귀
출력실수 값실수 값클래스 확률(0 ~ 1)실수 값(잎의 평균)
손실잔차 제곱합제곱합 + λ × 계수 제곱합(리지) · 절댓값 합(라쏘)로그 손실구간 안 제곱합
해 구하기닫힌 식(정규 방정식 · QR)리지 = 닫힌 식 · 라쏘 = 반복 계산반복 계산(뉴턴 · 경사 하강)탐욕 분할
특징 수 > 표본 수XᵀX 특이 · 해가 하나로 정해지지 않음풀림 · 라쏘는 계수 일부를 0 으로규제가 있어야 풀림풀림
비선형 · 상호작용사람이 열로 넣어야 함사람이 열로 넣어야 함사람이 열로 넣어야 함분할로 스스로 잡음
계수 해석x 1 단위당 y 변화 · 표준오차 있음줄어든 계수 · 편향 있음로그 오즈 변화계수 없음 · 분할 규칙

분석목표가 실수이고 표본이 특징보다 충분히 많으며 계수의 뜻(단위당 변화 · 구간)이 필요하면 최소제곱 선형 회귀를, 특징이 많거나 서로 겹치면 리지 · 라쏘를, 목표가 클래스면 로지스틱 회귀를, 상호작용을 미리 모르고 해석보다 적합이 중요하면 트리 · 앙상블을 쓴다. 근거는 표의 「특징 수 > 표본 수」 · 「비선형 · 상호작용」 행이다(ESL 3.4 · 4.4 · 9.2절).

로지스틱 회귀 · 트리와의 깊은 비교는 둘이 각각, 규제의 강도 고르기는 과적합이 맡는다.

7실무 진단 — 선형 회귀 모델의 문제 가르기

분석잔차 대 적합값 그림부터 보고, 다음에 지렛값 · Cook 거리, 특징 사이 상관, 시간 순 잔차 순으로 내려간다. 모델 형태가 틀리면 그 뒤의 검정이 모두 틀린 전제 위에 서기 때문이다(NIST 4.4.4).

#증상의심 원인단계확인 자료판정 기준(근거)
1R² 는 괜찮은데 잔차가 U 자 · 곡선모델 형태(비선형)모델 형태잔차 대 적합값 · 잔차 대 x 그림0 주위에 무늬 없이 흩어져야 함 · 세트 Ⅱ 는 x² 열을 넣자 R² 1.000(NIST 4.4.4.1)
2적합값이 클수록 잔차 폭이 넓어짐등분산 위반오차 가정구간별 잔차 폭구간마다 폭이 다르면 표준오차 · 구간을 믿지 않음 · 가중 최소제곱 · 로그 변환 비교(NIST 4.4.4.2)
3한 점을 빼면 기울기가 크게 바뀜이상점 · 지렛점데이터hᵢᵢ · Cook 거리hᵢᵢ 가 평균 (p+1)/n 의 2배를 넘으면 지렛점(Hoaglin 1978) · Cook 거리가 다른 점보다 두드러지면 영향점(Cook 1977) · 세트 Ⅲ 1.39 · 세트 Ⅳ hᵢᵢ 1.00
4계수 부호가 상식과 반대 · 표준오차가 큼특징끼리 강한 상관(다중공선성)특징상관 행렬 · VIF = 1/(1 − Rⱼ²) · XᵀX 조건수한 특징을 나머지로 회귀한 Rⱼ² 가 1 에 가까우면 계수가 흔들림 · 리지로 비교(ESL 3.2 · 3.4.1절)
5시간 순으로 잔차가 몇 개씩 같은 부호오차 독립 위반(자기상관)오차 가정측정 순서대로 그린 잔차 · 지연 그림앞 잔차와 다음 잔차가 이어지면 독립 위반(NIST 4.4.4.4)

학습 RMSE 와 검증 RMSE 의 격차가 크면 과적합의 진단 순서를 따른다. 사례 세트 Ⅰ 은 1행 그림에 무늬가 없고 hᵢᵢ 최댓값 0.318 이 기준 0.364(= 2 × 2/11)보다 작아 그대로 쓴다.

8시험 대비

출제 정보 정보관리(118회) · 컴퓨터시스템응용(120회)문제 원문 — 큐넷 자료실 「기출문제(기술사)」 www.q-net.or.kr

시험에서는 모델 식 · 최소제곱 · 가정을 쓰는 정의 · 특징형, 그리고 리지 · 라쏘 · 로지스틱 회귀와 출력 · 손실 · 해법을 가르는 비교형이 나올 수 있다. 정규 방정식 한 줄과 잔차 진단 그림을 함께 보이면 정의 수준을 넘는다.

답안 목차
  1. 개요 — 정의(모수에 선형 · ESL 식 3.1) · 회귀 ↔ 분류 · 머신러닝의 기준선 모델
  2. 구성 — 그림 3 설계 행렬 → 정규 방정식 → 계수 · 잔차 · 지렛값 · 표준오차와 단계별 가정
  3. 학습 절차 — 그림 4 사례(b = 3.000 · 0.500 · R² 0.667 · LOOCV 1.368 · 예측 구간 ±2.92 → ±4.14)
  4. 가정과 진단 — 선형 · 독립 · 정규 · 등분산 + 그림 5 같은 R² 네 세트의 잔차 모양
  5. 비교 — 최소제곱 · 리지 · 라쏘 · 로지스틱 · 트리 표(출력 · 손실 · 해법 · 특징 수 > 표본 수)
  6. 한계와 대응 — 다중공선성(VIF) · 영향점(Cook 거리) · 경사 하강 전 표준화(3,663회 → 36회)

꼭 쓸 키워드
최소제곱정규 방정식잔차결정계수표준오차지렛값Cook 거리다중공선성등분산경사 하강

다른 답안과 차이를 내는 한 가지는 그림 5 처럼 R² 가 0.667 로 같은 네 데이터의 잔차 모양을 나란히 보이는 것이다 — 「R² 만으로 부족하다」를 숫자와 그림으로 증명한다.

9오해와 사실

  • 오해R² 가 높으면 선형 모델이 데이터에 맞는다.
    사실Anscombe 네 세트는 R² 가 모두 0.667 이지만 직선이 맞는 것은 세트 Ⅰ 뿐이고, NIST 도 높은 R² 가 적합을 보장하지 않으니 잔차 그림을 먼저 보라고 한다(NIST 4.4.4).
  • 오해선형 회귀는 직선만 맞춘다.
    사실「선형」은 계수에 대한 선형이라 x² · log x · 더미 · 교호 항을 열로 넣으면 곡선도 같은 식으로 풀린다 — 세트 Ⅱ 는 x² 열 하나로 R² 1.000 이 된다(ESL 3.2절).
  • 오해x 로 y 를 회귀한 식을 뒤집으면 y 로 x 를 예측하는 식이 된다.
    사실세트 Ⅰ 에서 y ~ x 기울기는 0.500 이지만 x ~ y 기울기는 2.0 이 아니라 1.333 이고, 두 기울기의 곱이 R² 0.667 이다 — Galton 도 자녀 편차는 부모의 3분의 2, 부모 편차는 자녀의 3분의 1 로 적었다(Galton 1886).

10핵심 정리

구분맡는 일식사례 값(세트 Ⅰ)흔한 실패
설계 행렬 X입력 · 절편 열n × (p+1)11 × 2열끼리 겹침
최소제곱 해계수 정하기(XᵀX)⁻¹Xᵀy3.000 · 0.500역행렬을 직접 계산
잔차맞음 확인y − ŷRSS 13.763 · 최대 −1.92그림을 안 봄
결정계수 R²설명 비율1 − RSS/TSS0.667R² 만 봄
표준오차 · 구간계수 불확실성√diag((XᵀX)⁻¹σ̂²)0.118 · 0.233 ~ 0.767가정 확인 전 해석
지렛값 · Cook 거리영향점 찾기H 대각 · Cook D최대 0.318 < 0.364한 점이 기울기 결정
경사 하강큰 데이터 해법β ← β − η∇RSS3,663회 → 표준화 36회표준화 안 함

11참고 문헌

  1. 먼저 볼 문헌
  2. ★ The Elements of Statistical Learning 2nd ed. (Hastie · Tibshirani · Friedman · corrected 12th printing) — 최소제곱 해(식 3.6) · 계수 분산(식 3.8) · Gauss–Markov 정리(3.2.2절) · 리지 · 라쏘(3.4절)를 볼 때
    Springer · 2017-01 · hastie.su.domains/ElemStatLearn/ · 확인 2026-11-12
  3. ★ NIST/SEMATECH e-Handbook of Statistical Methods 4.1.4.1 Linear Least Squares Regression — 「모수에 선형」의 뜻과 최소제곱의 장단점을 볼 때
    NIST · 2026-11 · www.itl.nist.gov/div898/handbook/pmd/section1/pmd141.htm · 확인 2026-11-12
  4. ★ NIST/SEMATECH e-Handbook of Statistical Methods 4.4.4 How can I tell if a model fits my data? — R² 만으로 부족한 이유와 잔차 그림 진단(4.4.4.1 ~ 4.4.4.6)을 볼 때
    NIST · 2026-11 · www.itl.nist.gov/div898/handbook/pmd/section4/pmd44.htm · 확인 2026-11-12
  5. ★ R datasets: anscombe — Anscombe's Quartet of 'Identical' Simple Linear Regressions (data/anscombe.R) — 사례 데이터 네 세트(각 11점)를 내려받아 따라 해 볼 때
    The R Core Team · 2026-11 · svn.r-project.org/R/trunk/src/library/datasets/data/anscombe.R · 확인 2026-11-12
  6. 본문 근거
  7. Graphs in Statistical Analysis (The American Statistician 27(1) 17-21) — American Statistical Association · 1973-02 · doi.org/10.1080/00031305.1973.10478966 · 확인 2026-11-12
  8. Regression Towards Mediocrity in Hereditary Stature (Journal of the Anthropological Institute of Great Britain and Ireland 15 246-263) — Royal Anthropological Institute · 1886 · doi.org/10.2307/2841583 · 확인 2026-11-12
  9. Gauss and the Invention of Least Squares (The Annals of Statistics 9(3) 465-474) — Institute of Mathematical Statistics · 1981-05 · doi.org/10.1214/aos/1176345451 · 확인 2026-11-12
  10. Detection of Influential Observation in Linear Regression (Technometrics 19(1) 15-18) — American Statistical Association · ASQ · 1977-02 · doi.org/10.1080/00401706.1977.10489493 · 확인 2026-11-12
  11. The Hat Matrix in Regression and ANOVA (The American Statistician 32(1) 17-22) — American Statistical Association · 1978-02 · doi.org/10.1080/00031305.1978.10479237 · 확인 2026-11-12
  12. NumPy v2.5 Manual - numpy.linalg.lstsq — NumPy Developers · 2026-11 · numpy.org/doc/stable/reference/generated/numpy.linalg.lstsq.html · 확인 2026-11-12