AI › 인공지능 개요

머신러닝Machine Learning

데이터로 모델의 파라미터를 맞추어, 사람이 규칙을 직접 쓰지 않아도 과제 성능이 경험과 함께 나아지게 하는 인공지능의 한 분야다.

1요약

  1. 머신러닝은 Mitchell(1997)이 과제 T · 성능 P · 경험 E 세 가지로 정의한 학습 프로그램의 기술 전체로, ISO/IEC 22989 · 23053(2022)이 용어와 시스템 틀을 정하고 그 위에서 지도 · 비지도 · 강화 학습과 딥러닝이 돈다.
  2. 규칙을 손으로 다 쓸 수 없는 과제를 데이터로 풀지만 학습 점수만 보면 과적합을 놓친다 — 숫자 손글씨 1,347장 사례에서 gamma 0.03 의 SVM 은 학습 정확도 1.000 · 검증 정확도 0.206 이다.
  3. 「모델 성능이 나쁘다」는 학습 점수와 검증 점수의 짝으로 가른다 — 둘 다 낮으면 과소적합, 학습만 높으면 과적합, 둘 다 높은데 테스트 · 운영에서 떨어지면 데이터 누수나 분포 변화다.

2등장 배경

1950년대 체커 프로그램은 판세를 점수로 매기는 평가식을 사람이 직접 짜야 했고, 짠 사람의 실력을 넘지 못했다. IBM 의 Arthur Samuel 은 1959년 논문에서 둔 판의 기록을 저장하는 rote learning 과 평가식 계수를 스스로 고치는 generalization learning 두 방법을 보였다(Samuel 1959 · 후속 논문 Samuel 1967 서두의 요약).

Tom Mitchell 은 1997년 교재에서 「과제 T 에서 성능 P 로 잰 실력이 경험 E 로 나아지면 그 프로그램은 학습한다」고 정의해(Mitchell 1997 1장), 학습 문제를 세 값으로 적는 틀을 만들었다. 2011년 공개 라이브러리 scikit-learn(Pedregosa 2011)이 분할 · 교차 검증 · 평가를 같은 API 로 묶었고, 2015년 LeCun · Bengio · Hinton 은 여러 계층의 표현을 데이터에서 배우는 딥러닝을 정리했다(LeCun 2015).

지금은 ISO/IEC 22989:2022 가 AI 용어를, ISO/IEC 23053:2022 가 머신러닝을 쓰는 AI 시스템의 구성 틀을 정한 국제 표준이다. 생성형 AI 와 산업 AI 의 모델도 데이터 분할 · 학습 · 검증 · 테스트라는 같은 절차 위에서 만든다.

3쉽게 이해하기 — 경시대회를 준비하는 민지

민지는 수학 경시대회를 준비한다. 선생님은 문제 1,797개 가운데 450개를 봉투에 넣어 봉인하고, 나머지 1,347개를 해설지와 함께 준다. 민지는 문제를 풀고 해설로 채점해 틀린 유형의 풀이법을 고치고, 해설 없는 문제 더미는 비슷한 유형끼리 묶고, 정답은 안 알려 주고 총점만 주는 연습 대회에도 나간다. 대회 전날 봉투를 열어 처음 보는 문제로 실력을 잰다.

해설 달린 문제집 1,347문제 + 해설 1 지도 학습 · 레이블 해설 없는 문제 비슷한 유형끼리 묶음 비지도 학습 연습 대회 총점만 알려 줌 강화 학습 · 보상 민지 모델 2 해설로 채점 내 답과 정답의 차이 풀이법 고치기 틀린 유형부터 다시 손실 → 파라미터 갱신 1,347문제를 여러 번 돌며 실력을 쌓음 자체 모의고사 공부 문제 일부로 3 검증 세트 · 교차 검증 봉인한 450문제 대회 전날 한 번만 4 테스트 세트 답만 외우면 문제집 만점 · 봉투 낙제 과적합 데이터 정답 레이블 보상 모델 · 학습 규칙 평가 실패

그림 1 · 민지는 세 가지 재료로 공부하고, 공부에 쓰지 않은 모의고사와 봉인한 문제로만 실력을 잰다.

문제집 풀기해설 달린 1,347문제
해설로 채점맞고 틀림을 셈
풀이법 고치기틀린 유형을 다시
유형별 묶기해설 없는 문제 정리
연습 대회총점만 받음
봉투 열기처음 보는 450문제
비유 — 문제를 나눠 쓰는 법 실제 — 데이터 분할 받은 문제 1,797문제 처음 공부용 1,347 봉인 450 1회 모의 공부 공부 공부 공부 2회 공부 모의 공부 공부 공부 3회 공부 공부 모의 공부 공부 4회 공부 공부 공부 모의 공부 5회 공부 공부 공부 공부 모의 마지막 1,347 전부로 다시 공부 열기 테스트 세트 마지막에 한 번만 5겹 교차 검증 모의 묶음 = 269 ~ 270문제 다섯 점수의 평균으로 설정 고름 다시 학습 고른 설정 · 1,347 전부

그림 2 · 봉인한 450문제는 마지막에 한 번만 열고, 공부용 1,347문제는 다섯 묶음으로 나눠 돌아가며 모의고사로 쓴다.

비유 속 역할실제 이름실제로 하는 일
민지모델파라미터(가중치 · 계수)를 가진 함수로, 학습하면서 값이 바뀐다
해설 달린 문제집학습 데이터 + 레이블특징 X 와 정답 y 의 쌍 1,347개를 준다
해설로 채점손실 함수예측과 정답의 차이를 숫자 하나로 잰다
풀이법 고치기최적화 · 파라미터 갱신손실이 줄어드는 쪽으로 파라미터를 바꾼다
유형별 묶기비지도 학습레이블 없이 가까운 표본끼리 군집으로 묶는다
총점만 주는 연습 대회강화 학습 · 보상행동 뒤에 받는 보상의 합이 커지도록 정책을 고친다
자체 모의고사검증 세트 · 교차 검증하이퍼파라미터(gamma · C 등)를 고른다
봉인한 450문제테스트 세트처음 보는 데이터에서의 성능을 마지막에 한 번 잰다

⚠ 비유가 맞지 않는 곳: 사람은 몇 문제로 원리를 깨치지만 모델은 수백 ~ 수만 개 표본으로 숫자(파라미터)를 맞출 뿐 원리를 이해하지 않는다. 강화 학습은 문제집 없이 환경과 행동 · 보상을 주고받으며 데이터를 스스로 만든다.

4구조 — 세 학습 방식과 공통 구성 요소

세 하위 방식은 학습에 쓰는 신호가 다르다. 지도 학습은 표본마다 붙은 정답 레이블을, 비지도 학습은 데이터 자체의 거리 · 분산을, 강화 학습은 환경이 행동 뒤에 돌려주는 보상을 쓴다(Sutton 2018 1장).

지도 학습 정답이 붙은 표본 비지도 학습 정답 없는 표본 강화 학습 환경과 주고받음 특징 X 정답 y 특징 X 만 상태 s 보상 r 예측 ↔ 정답 오차 줄이기 거리 · 분산으로 구조 찾기 누적 보상 키우기 분류 · 회귀 모델 군집 · 축소한 특징 정책 — 상태 → 행동 테스트 정확도 · 오차 군집 순도 · 설명 분산 에피소드 누적 보상 예 · 숫자 손글씨 분류(그림 4) 예 · 64 특징 → 21 주성분(그림 4) 왼쪽 선 = 행동 결과가 다음 입력 데이터 · 특징 정답 레이블 보상 학습 규칙 평가 학습 결과물

그림 3 · 세 학습 방식은 입력과 학습 신호가 다르고, 평가도 그 신호에 맞춰 따로 잰다.

하위 이름푸는 문제학습 데이터학습 신호대표 알고리즘
지도 학습입력에서 정답을 맞힘(분류 · 회귀)특징 + 정답 레이블 쌍예측과 정답의 손실선형 회귀 · SVM · 결정 트리 · 신경망
비지도 학습레이블 없이 데이터 구조를 찾음(군집 · 차원 축소)특징만거리 · 분산 · 밀도k-평균 · PCA · DBSCAN
강화 학습연속된 결정에서 장기 보상을 키움(제어 · 게임)상태 · 행동 · 보상 기록(스스로 만듦)지연된 보상 · 가치 추정Q-learning · 정책 경사
공통 요소역할사례 값(그림 4)근거
데이터 세트학습 · 검증 · 테스트로 나눌 표본1,797장 · 특징 64load_digits
모델 · 파라미터입력을 출력으로 바꾸는 함수와 그 값RBF 커널 SVMISO/IEC 23053
하이퍼파라미터학습 전에 사람이 정하는 설정C = 1 · gamma = 0.001GridSearchCV
평가 지표성능 P 를 숫자로정확도 0.987scikit-learn 3.4

🔑 세 하위 방식은 «정답을 누가 주는가»로 나뉜다 — 지도 학습은 표본마다 사람이, 비지도 학습은 아무도, 강화 학습은 환경이 행동 뒤에 점수로 준다.

5동작 — 숫자 손글씨 분류 한 번

scikit-learn 1.9.1 의 숫자 손글씨 데이터로 비지도(PCA)와 지도(SVM)를 이어 붙인 사례다. 값은 random_state=0 으로 직접 실행한 결과이며 같은 코드로 다시 나온다.

  1. load_digits() 로 8×8 손글씨 1,797장을 읽는다 — 특징 64개(값 0 ~ 16) · 레이블 0 ~ 9 열 종류(load_digits).
  2. train_test_split(test_size=0.25, stratify=y) 로 학습 1,347장 · 테스트 450장을 나누고, 숫자마다 테스트 43 ~ 46장이 되게 비율을 맞춘다(train_test_split).
  3. PCA(n_components=0.90, svd_solver="full") 를 학습 세트로만 맞춰 분산 90% 를 남기는 주성분 21개로 줄인다(PCA · scikit-learn 12.2.1 테스트 세트에 fit 금지).
  4. GridSearchCV 로 SVM 의 C 2개 × gamma 3개 = 6조합을 5겹 교차 검증해 모델을 30번 학습한다(GridSearchCV cv 기본 5).
  5. 검증 평균이 가장 높은 C = 1 · gamma = 0.001(0.988)을 고르고, 그 설정으로 1,347장 전부를 다시 학습한다(refit=True) — gamma = 0.01 조합은 0.899 였다.
  6. 테스트 450장을 처음이자 한 번 넣어 정확도 0.987(444장 정답 · 6장 오답)을 얻고, 혼동 행렬에서 오답 6장 중 3장이 숫자 8 임을 본다(scikit-learn 3.4.4.6).

같은 학습 세트를 레이블 없이 k-평균 10 군집으로 묶으면 군집마다 가장 많은 숫자의 비율 합이 0.789 다 — 구조는 상당히 잡지만 어느 군집이 「3」인지는 레이블 없이는 알 수 없다. 강화 학습은 고정 데이터 세트 대신 환경과 주고받으므로 이 사례에 끼지 않는다.

1 데이터 1,797장 · 8×8 특징 64 · 값 0 ~ 16 레이블 0 ~ 9 2 나누기 학습 1,347 테스트 450 봉인 25% · stratify=y 3 PCA · 비지도 분산 90% 남김 64 → 21 특징 학습 세트로만 fit 4 SVM · 지도 C 2 × gamma 3 6조합 × 5겹 30번 학습 5 고르고 다시 학습 C=1 · gamma=0.001 검증 평균 0.988 1,347장 전부 refit 6 테스트 450장 처음 사용 정확도 0.987 444 정답 · 6 오답 비교 · 레이블 없이 k-평균 학습 1,347장을 10 군집으로 군집별 최다 숫자 비율 합 0.789 군집에 숫자 이름은 붙지 않음 데이터 · 변환 분할 · 평가 학습 규칙 점선 = 같은 학습 세트로 한 비교

그림 4 · 비지도 PCA 가 64 특징을 21개로 줄이고 지도 SVM 이 그 위에서 학습하며, 테스트 450장은 마지막 ⑥ 에서 처음 쓰인다.

과소적합 적정 과적합 정확도 — SVM(C = 1) · 학습 1,347장 · 5겹 교차 검증 1.0 0.5 0 0.00001 0.0001 0.001 0.01 0.1 gamma — RBF 커널 계수(로그 눈금 · 클수록 경계가 복잡) 학습 0.893 · 검증 0.891 고른 값 · 학습 0.998 · 검증 0.988 차이 0.794 학습 1.000 검증 0.206 학습 점수 검증 점수(5겹 평균) 과적합 구간

그림 5 · gamma 를 키우면 학습 점수는 1.000 에 붙고 검증 점수만 무너진다 — 두 선이 벌어지기 직전 값을 고른다.

🔑 테스트 세트를 설정 고르기에 한 번이라도 쓰면 더는 처음 보는 데이터가 아니다 — 고르기는 검증으로, 성능 보고는 테스트로 한다.

6비교 — 규칙 기반 프로그램 · 딥러닝과의 차이

기준규칙 기반 프로그램고전 머신러닝딥러닝
규칙을 만드는 주체사람이 조건문으로 씀데이터로 파라미터를 맞춤데이터로 파라미터를 맞춤
특징사람이 정함사람이 고르거나 PCA 등으로 변환여러 계층이 원자료에서 표현을 배움(LeCun 2015)
필요한 데이터없음(전문가 지식)수백 ~ 수만 표본(사례 1,347장)대개 그보다 많은 표본 · 사전 학습 모델
계산 자원CPUCPU 로 충분(사례 30번 학습)GPU 같은 가속기가 흔함
판단 근거 설명조건문 그대로 읽힘계수 · 트리 분기로 일부 읽힘직접 읽기 어려워 따로 설명 기법이 필요

분석표 형태(행 · 열) 데이터가 수천 건 수준이고 판단 근거를 보여야 하면 고전 머신러닝을, 이미지 · 음성 · 문장처럼 특징을 사람이 정하기 어려운 원자료가 많으면 딥러닝을, 규칙이 법 · 사양으로 정해져 바뀌지 않으면 규칙 기반을 고른다. 근거는 표의 「특징」 · 「필요한 데이터」 행 — 딥러닝의 장점은 표현을 스스로 배우는 데 있고(LeCun 2015), 사례처럼 64 특징 데이터는 SVM 으로 0.987 이 나온다.

7실무 진단 — 성능 저하의 단계 가르기

분석학습 점수부터 보고, 다음에 검증, 마지막에 테스트 · 운영 순으로 내려간다. 학습 점수가 낮은 상태의 검증 · 운영 문제는 원인이 아니라 결과이므로(scikit-learn 3.5), 앞 단계가 정상일 때만 다음 단계를 의심한다.

#증상의심 원인단계확인 자료판정 기준(근거)
1학습 · 검증 점수가 함께 낮음과소적합 — 모델이 단순하거나 특징이 부족학습validation_curve 의 두 점수둘 다 낮으면 과소적합(scikit-learn 3.5)
2학습 점수만 높고 검증이 낮음과적합 — gamma · 트리 깊이가 큼 · 표본 부족학습validation_curve · learning_curve학습 높고 검증 낮으면 과적합 · 표본을 늘려 차이가 주는지 봄(scikit-learn 3.5)
3검증은 높은데 테스트에서 크게 떨어짐데이터 누수 — 전처리를 전체 데이터로 fit데이터 준비전처리를 Pipeline 안에 넣고 다시 교차 검증다시 잰 점수가 내려가면 누수(scikit-learn 12.2)
4정확도는 높은데 소수 클래스를 놓침클래스 불균형평가confusion_matrix · balanced_accuracy_score균형 정확도가 정확도보다 크게 낮으면 불균형 탓(scikit-learn 3.4.4.4)

사례 데이터는 숫자마다 표본이 비슷해 4행이 나오지 않았고, 그림 5 의 gamma 0.03 이 2행이다. 3행은 모델을 바꾸기 전에 확인한다 — 누수가 있으면 어떤 모델을 골라도 운영 성능이 검증 점수를 따라오지 않는다.

8시험 대비

출제 정보 정보관리(139회, 134회, 132회, 131회, 130회, 128회, 123회, 121회, 120회, 119회, 117회, 105회) · 컴퓨터시스템응용(137회, 132회, 131회, 128회, 122회, 120회, 119회, 108회)문제 원문 — 큐넷 자료실 「기출문제(기술사)」 www.q-net.or.kr

시험에서는 머신러닝의 정의(T · P · E)와 학습 방식 분류를 쓰는 정의 · 특징형, 그리고 지도 · 비지도 · 강화 학습의 데이터 · 신호 · 평가 차이를 표로 가르는 비교형이 나올 수 있다. 과적합과 교차 검증을 함께 쓰면 답안이 «정의» 수준을 넘는다.

답안 목차
  1. 개요 — 정의(Mitchell 1997 T · P · E) · ISO/IEC 22989 · 23053(2022) · 규칙 기반과의 차이 한 줄
  2. 학습 방식 분류 — 그림 3 하위 지도(정답을 주는 주체) + 지도 · 비지도 · 강화 표(데이터 · 신호 · 알고리즘)
  3. 학습 절차 — 그림 4 사례 흐름(분할 1,347 · 450 → PCA 64 → 21 → SVM 5겹 30번 → 테스트 0.987)
  4. 일반화와 과적합 — 그림 5 검증 곡선(학습 1.000 · 검증 0.206 · 차이 0.794) · 과소적합 · 적정 · 과적합 세 구간
  5. 평가 방법 — 학습 · 검증 · 테스트 역할 · 5겹 교차 검증 · 정확도 · 균형 정확도 · 혼동 행렬
  6. 활용과 한계 — 딥러닝과의 비교표 · 데이터 누수 · 클래스 불균형 · 판단 근거 설명

꼭 쓸 키워드
과제성능경험(TPE)일반화과적합과소적합교차 검증하이퍼파라미터데이터 누수손실 함수ISO/IEC 23053

다른 답안과 차이를 내는 한 가지는 그림 5 처럼 실제 값으로 그린 검증 곡선이다 — 「과적합 = 학습 데이터에 지나치게 맞춤」 한 줄 대신 두 점수의 차이가 벌어지는 지점을 숫자로 보인다.

9오해와 사실

  • 오해학습 데이터에서 정확도가 높으면 좋은 모델이다.
    사실사례의 gamma 0.03 SVM 은 학습 1.000 · 검증 0.206 이며, scikit-learn 3.1 은 같은 데이터로 학습하고 평가하는 것을 방법상의 잘못으로 본다.
  • 오해머신러닝과 딥러닝은 같은 말이다.
    사실딥러닝은 여러 계층의 표현을 데이터에서 배우는 머신러닝의 한 방법이고(LeCun 2015), 사례의 PCA · SVM 처럼 신경망이 아닌 방법도 머신러닝이다.
  • 오해비지도 학습은 정답이 없으니 성능을 잴 수 없다.
    사실군집 순도 · 설명 분산처럼 따로 재는 지표가 있고, 사례에서 레이블을 숨기고 묶은 k-평균 10 군집은 평가 때만 레이블과 대조해 0.789 로 쟀다.

10핵심 정리

구분맡는 일쓰는 데이터확인 지표도구(scikit-learn)흔한 실패
지도 학습입력 → 정답 예측특징 + 레이블정확도 · 오차SVC · LinearRegression과적합
비지도 학습구조 찾기 · 축소특징만순도 · 설명 분산KMeans · PCA군집 수 잘못 고름
강화 학습연속 결정의 정책상태 · 행동 · 보상누적 보상별도 라이브러리보상 설계 오류
학습 세트파라미터 맞춤사례 1,347장학습 점수fit과소적합
검증 · 교차 검증하이퍼파라미터 고름학습 세트 안 5겹검증 평균GridSearchCV테스트로 고르기
테스트 세트최종 성능 보고사례 450장테스트 정확도score 한 번전처리 누수

11참고 문헌

  1. 먼저 볼 문헌
  2. ★ Machine Learning (Tom M. Mitchell · McGraw-Hill · ISBN 0070428077) — 과제 T · 성능 P · 경험 E 정의의 원전을 볼 때
    McGraw-Hill · 1997-03 · www.cs.cmu.edu/~tom/mlbook.html · 확인 2026-11-03
  3. ★ ISO/IEC 23053:2022 Framework for Artificial Intelligence (AI) Systems Using Machine Learning (ML) — 머신러닝 시스템의 구성 요소를 국제 표준 틀로 볼 때
    ISO/IEC JTC 1/SC 42 · 2022-06 · www.iso.org/standard/74438.html · 확인 2026-11-03
  4. ★ scikit-learn 1.9.1 User Guide 3.1 Cross-validation: evaluating estimator performance — 학습 · 검증 · 테스트 분할과 교차 검증을 따라 해 볼 때
    scikit-learn developers · 2026-11 · scikit-learn.org/stable/modules/cross_validation.html · 확인 2026-11-03
  5. ★ scikit-learn 1.9.1 User Guide 3.5 Validation curves: plotting scores to evaluate models — 과소적합 · 과적합을 점수 곡선으로 가를 때
    scikit-learn developers · 2026-11 · scikit-learn.org/stable/modules/learning_curve.html · 확인 2026-11-03
  6. ★ scikit-learn 1.9.1 User Guide 12 Common pitfalls and recommended practices — 데이터 누수를 막는 Pipeline 규칙을 볼 때
    scikit-learn developers · 2026-11 · scikit-learn.org/stable/common_pitfalls.html · 확인 2026-11-03
  7. 본문 근거
  8. ISO/IEC 22989:2022 Information technology - Artificial intelligence - Artificial intelligence concepts and terminology — ISO/IEC JTC 1/SC 42 · 2022-07 · www.iso.org/standard/74296.html · 확인 2026-11-03
  9. Some Studies in Machine Learning Using the Game of Checkers (IBM Journal of Research and Development 3(3) 210-229) — IBM · 1959-07 · doi.org/10.1147/rd.33.0210 · 확인 2026-11-03
  10. Some Studies in Machine Learning Using the Game of Checkers. II - Recent Progress (IBM Journal of Research and Development 11(6) 601-617) — IBM · 1967-11 · doi.org/10.1147/rd.116.0601 · 확인 2026-11-03
  11. Scikit-learn: Machine Learning in Python (Journal of Machine Learning Research 12 2825-2830) — JMLR · 2011-10 · jmlr.org/papers/v12/pedregosa11a.html · 확인 2026-11-03
  12. Deep learning (Nature 521 436-444) — Nature · 2015-05 · www.nature.com/articles/nature14539 · 확인 2026-11-03
  13. Reinforcement Learning: An Introduction, second edition (Sutton · Barto) — MIT Press · 2018-11 · mitpress.mit.edu/9780262039246/reinforcement-learning/ · 확인 2026-11-03
  14. scikit-learn 1.9.1 API sklearn.datasets.load_digits — scikit-learn developers · 2026-11 · scikit-learn.org/stable/modules/generated/sklearn.datasets.load_digits.html · 확인 2026-11-03
  15. scikit-learn 1.9.1 API sklearn.model_selection.train_test_split — scikit-learn developers · 2026-11 · scikit-learn.org/stable/modules/generated/sklearn.model_selection.train_test_split.html · 확인 2026-11-03
  16. scikit-learn 1.9.1 API sklearn.model_selection.GridSearchCV — scikit-learn developers · 2026-11 · scikit-learn.org/stable/modules/generated/sklearn.model_selection.GridSearchCV.html · 확인 2026-11-03
  17. scikit-learn 1.9.1 API sklearn.decomposition.PCA — scikit-learn developers · 2026-11 · scikit-learn.org/stable/modules/generated/sklearn.decomposition.PCA.html · 확인 2026-11-03
  18. scikit-learn 1.9.1 User Guide 3.4 Metrics and scoring: quantifying the quality of predictions — scikit-learn developers · 2026-11 · scikit-learn.org/stable/modules/model_evaluation.html · 확인 2026-11-03