AI와 개인정보AI and Personal Data
AI 를 만들고 쓰는 과정에서 학습 데이터 · 모델 출력 · 자동 판정에 들어가는 개인정보를 개인정보 보호법으로 다루는 주제다. 학습 데이터의 적법 근거 · 가명처리 · 자동화된 결정에 대한 정보주체의 권리가 중심이다.
1요약
- AI와 개인정보는 2026년 9월 11일 시행판 개인정보 보호법의 조문을 AI 수명주기(목적 설정 · 전략 수립 · 학습 및 개발 · 적용 및 관리)에 대 보는 주제이고, 이 법에서 인공지능을 직접 이름으로 부르는 조문은 자동화된 결정을 다루는 제37조의2 하나다.
- 2021년 4월 개인정보보호위원회는 대화 분석 앱 이용자 약 60만 명의 메신저 대화 문장 94억여 건을 수집 목적 밖에서 챗봇 개발에 쓴 국내 개발사 한 곳에 과징금 · 과태료 1억 330만원을 부과했다(개인정보위 2021).
- 「이 데이터를 학습에 써도 되나」는 식별 가능성(개인정보 · 가명정보 · 익명정보) → 수집 목적과의 관련성 → 결과가 사람의 권리에 미치는 영향 순으로 가르면 적용 조문이 정해진다.
2등장 배경
2011년 3월 29일 법률 제10465호로 공포돼 9월 30일 시행된 개인정보 보호법은 개인정보 처리를 동의 · 법률 · 계약 같은 근거에 묶었다(제15조①). 이미 모은 고객 기록으로 새 분석 모델을 만들면 수집 목적 밖의 이용이 돼(제18조①) 수십만 명에게 동의를 다시 받아야 했고, 이것이 학습 데이터 확보의 가장 큰 제약이었다.
2020년 2월 4일 법률 제16930호 개정(이른바 데이터 3법 · 8월 5일 시행)이 가명정보와 통계 · 과학적 연구 목적의 동의 없는 처리(제28조의2), 당초 목적과 합리적으로 관련된 추가적 이용(제15조③)을 들였다. 2023년 3월 14일 법률 제19234호 개정은 인공지능 기술을 적용한 시스템을 포함하는 자동화된 결정에 대한 거부 · 설명 요구권(제37조의2)을 만들어 2024년 3월 15일 시행했다(부칙 제1조제1호).
지금은 개인정보보호위원회 안내서가 해석을 보탠다 — 2024년 7월 안내서는 웹에 공개된 개인정보 학습의 근거로 정당한 이익(제15조①6호)을 제시했고, 2025년 8월 생성형 AI 안내서는 수명주기 네 단계로 쟁점을 나눴다(개인정보위 2024 · 2025). EU 에서는 2018년 5월부터 적용된 GDPR 제22조가 자동화된 결정을, 2024년 12월 EDPB 의견 28/2024 가 AI 모델의 개인정보 처리를 다룬다.
3쉽게 이해하기 — 손님 사진으로 연습하는 사진관
동네 사진관 주인이 새 보정 기계를 들였다. 기계를 연습시키려고 손님들이 인화하라고 맡긴 사진을 꺼내는데, 맡길 때 약속한 용도는 인화였으니 그대로 쓰지 않고 얼굴을 가린 사본을 만들고 손님 이름 목록은 금고에 따로 넣는다. 연습을 마친 기계가 어느 날 한 손님의 사진을 「인화 불가」로 판정하자, 손님은 왜 안 되는지 묻고 사람이 다시 봐 달라고 한다.
그림 1 · 손님 사진은 맡긴 용도대로만 쓰고, 연습에는 얼굴 가린 사본과 따로 잠근 이름 목록을 쓰며, 기계 판정에는 손님이 이유를 묻고 재확인을 요구할 수 있다.
그림 2 · 얼굴 가린 사본과 금고 속 이름 목록이 따로 있어야 사본만으로는 누구인지 모른다 — 실제 가명정보도 대응표(추가정보)를 다른 곳에 두어야 성립한다.
| 비유 속 역할 | 실제 이름 | 실제로 하는 일 |
|---|---|---|
| 사진 맡긴 손님 | 정보주체 | 처리되는 정보로 알아볼 수 있는 사람(제2조제3호) |
| 사진관 주인 | 개인정보처리자 | 업무 목적으로 개인정보파일을 운용하는 자(제2조제5호) |
| 맡길 때 약속한 용도 | 처리 목적 · 적법 근거 | 목적을 정하고 근거 하나 이상으로 수집한다(제3조① · 제15조①) |
| 얼굴 가린 사본 | 가명정보 | 추가정보 없이는 특정 개인을 알아볼 수 없게 처리한 정보(제2조제1호의2) |
| 금고 속 이름 목록 | 추가정보 분리 보관 | 가명정보와 따로 두고 접근 권한도 나눈다(시행령 제29조의5①) |
| 보정 기계 연습 | AI 학습 | 과학적 연구 등이면 동의 없이 가명정보를 처리한다(제28조의2①) |
| 「인화 불가」 판정 | 자동화된 결정 | 사람 개입 없이 개인정보로 내린 결정(제37조의2①) |
| 이유 묻기 · 다시 보기 | 설명 · 검토 요구 | 결과 · 기준 · 절차를 설명하고 의견 반영을 검토한다(시행령 제44조의3) |
⚠ 비유가 맞지 않는 곳: 사진관은 얼굴만 가리면 끝나 보이지만 실제 가명처리는 다른 정보와 결합해 알아볼 수 있는지까지 따진다(제2조제1호나목). 또 판정이 「맡길 때 맺은 약속(계약)」을 이행하는 결정이면 손님의 거부권은 없고 설명 · 검토 요구만 남는다(제37조의2① 단서).
4구조 — 수명주기 네 단계와 걸리는 조문
개인정보위 2025 안내서는 생성형 AI 수명주기를 목적 설정 · 전략 수립 · 학습 및 개발 · 적용 및 관리 네 단계로 나누고, 전 과정에 개인정보 보호책임자 중심 관리 체계를 둔다. 같은 학습 데이터라도 단계마다 묻는 조문이 다르고, 위반의 제재는 과징금(전체 매출액 3% 이하 · 제64조의2①)과 과태료로 나뉜다.
그림 3 · 앞 두 단계는 근거와 데이터 형태를, 학습 단계는 재식별 위험을, 적용 단계는 정보주체 권리를 묻는다 — 단계마다 걸리는 조문이 다르다.
| 요소 | 조문 | 역할 | 값 · 근거 |
|---|---|---|---|
| 보호 원칙 | 제3조 | 목적 명확 · 최소 수집 · 익명 우선 | 익명 → 가명 순으로 먼저 검토(제3조⑦) |
| 적법 근거 | 제15조① | 수집 · 이용의 근거 | 동의 · 계약 · 정당한 이익 등 일곱 호 |
| 추가적 이용 | 제15조③ | 당초 목적과 합리적으로 관련된 범위 | 고려 사항 넷(시행령 제14조의2①) |
| 가명정보 | 제28조의2 ~ 7 | 통계 · 과학적 연구 등은 동의 없이 | 처리 기록은 파기 뒤 3년 이상 보관(제28조의4③) |
| 익명정보 | 제58조의2 | 더는 개인을 알아볼 수 없는 정보 | 이 법을 적용하지 않음 |
| 민감정보 | 제23조 | 건강 · 신념 · 정치적 견해 등 | 별도 동의 등 예외에만 처리 |
| 자동화된 결정 | 제37조의2 | 거부 · 설명 · 검토 요구 | 공개 항목 다섯(시행령 제44조의4①) |
| 제재 | 제64조의2 · 75조 | 과징금 · 과태료 | 전체 매출액 3% 이하 · 3천만원 이하(제75조②24호) |
🔑 AI 에 쓰이는 개인정보는 새 AI 조항이 아니라 기존 조문으로 다뤄지고, 법문이 인공지능을 직접 부르는 곳은 제37조의2 하나다 — 그래서 «AI 인가»보다 «어느 단계에서 어떤 식별 수준의 데이터를 쓰는가»가 적용 조문을 정한다.
5동작 — 거래 기록으로 사기 의심 계정 판정 모델을 만드는 한 건
설명용 가정 값: 중고 거래 플랫폼 사업자 을이 회원 75,000명의 거래 기록 1,300,000건과 거래 채팅으로 사기 의심 계정 판정 모델을 만들어 계정 이용 제한에 쓴다. 날짜는 회원 병이 요구한 날을 D0 으로 센 가정 값이고, 근거 선택은 가정 사업자의 판단이다. 대체 · 범주화 같은 가명처리 기법의 세부는 가명 · 익명 처리가 맡는다.
- 을은 거래 기록이 중개 서비스 이용 계약 이행(제15조①4호)으로 모은 것임을 확인하고, 판정 모델 개발을 「기술의 개발과 실증」 연구(제2조제8호)로 보아 가명정보 처리(제28조의2①)를 근거로 고른다.
- 전화번호 · 계좌번호를 지우고 회원 ID 는 가명 ID 로 바꿔 학습 데이터를 만든다 — 가명 ID 대응표(추가정보)는 다른 서버에 두고 접근 권한을 나눈다(제28조의4① · 시행령 제29조의5①2 · 3호).
- 처리 목적 · 가명처리 항목 · 이용내역을 기록하고, 가명정보를 파기한 뒤에도 그 기록을 3년 이상 보관하기로 정한다(제28조의4③ · 시행령 제29조의5②).
- 학습 뒤 출력 점검에서 모델 판정 근거 화면에 채팅 문장 속 계좌번호가 그대로 나온다 — 특정 개인을 알아볼 수 있는 정보가 생겼으므로 처리를 즉시 멈추고 그 결과물을 회수 · 파기한 뒤 채팅의 숫자열을 지우고 다시 학습한다(제28조의5②).
- 모델이 사람 개입 없이 계정 이용 제한을 결정하므로, 배포 전 홈페이지에 결정 사실 · 목적 · 대상, 주요 개인정보 유형, 처리 절차, 요구 방법 등 다섯 항목을 공개한다(제37조의2④ · 시행령 제44조의4①).
- D0 에 병의 계정이 자동 제한되고 병은 결정 거부를 요구한다 — 이 결정은 이용 계약 이행에 따른 것이라 거부권 단서에 해당해(제37조의2① 단서), 병은 설명 요구와 함께 「같은 물건을 지역 두 곳에 올린 이유」라는 의견을 내 검토를 요구한다(시행령 제44조의2②).
- D+9 에 을은 결과 · 쓰인 주요 개인정보 유형 · 그 영향 · 처리 절차를 서면등으로 설명하고, 담당자가 의견을 반영해 다시 심사한 결과(제한 해제)를 알린다 — 기한은 요구일부터 30일이고 2회까지 각 30일 연장할 수 있다(시행령 제44조의3②③⑤).
그림 4 · 학습 단계의 의무는 가명처리 · 기록 · 재식별 중지에 몰리고, 배포 뒤에는 공개 → 자동 결정 → 설명 · 검토 요구 → 30일 안 회신으로 이어진다.
그림 5 · 같은 데이터도 식별 가능성이 낮아질수록 적용 조문이 줄어들지만, 추가정보와 결합하거나 모델이 원문을 다시 내놓으면 다시 개인정보 쪽으로 돌아간다.
🔑 가명정보로 학습한 모델이라도 실제 회원을 판정하는 순간 처리 대상은 다시 실명 개인정보이고, 그 판정에는 제37조의2 의 공개 · 설명 의무가 붙는다 — 학습 단계의 특례는 서비스 단계로 넘어가지 않는다.
6비교 — 학습 데이터의 적법 근거 다섯
같은 학습 데이터라도 어느 근거로 처리하느냐에 따라 미리 할 일과 정보주체 권리가 달라진다. 법 전체의 사업자 의무는 AI 기본법, 위험 단계별 규율은 EU AI법, 고위험 판단은 고위험 AI 가 맡는다.
| 기준 | 동의(제15조①1호) | 계약 이행(4호) | 정당한 이익(6호) | 추가적 이용(제15조③) | 가명정보 특례(제28조의2) |
|---|---|---|---|---|---|
| 맞는 데이터 | 새로 모으는 데이터 | 서비스 제공에 필요한 데이터 | 웹에 공개된 개인정보 | 이미 가진 데이터의 관련 용도 | 이미 가진 데이터의 연구 · 통계 |
| 미리 할 일 | 목적 · 항목 · 기간 · 거부권 알리고 동의(제15조②) | 계약 체결 | 수집 사실 · 주요 출처 안내(개인정보위 2024) | 판단 기준을 처리방침에 공개(시행령 제14조의2②) | 가명처리 · 처리 기록 작성(제28조의4③) |
| 판단 요건 | 동의 범위 안 | 계약에 필요한 범위 | 목적 정당성 · 처리 필요성 · 이익 형량 | 관련성 · 예측 가능성 · 부당 침해 · 안전조치 | 통계 · 과학적 연구 · 공익적 기록보존 |
| 정보주체 권리 | 동의 철회 가능(제37조①) | 열람 · 정정 등 적용 | 처리정지 요구 가능(제37조①) | 열람 · 정정 등 적용 | 열람 · 정정 · 처리정지 등 적용 안 함(제28조의7) |
| 위반 시 | 과징금(제64조의2①1호) | 과징금(제64조의2①1호) | 과징금(제64조의2①1호) | 목적 외 이용 과징금(제18조①) | 재식별 목적 처리 5년 이하 징역(제71조제8호) |
분석새로 모으는 데이터는 동의 · 계약으로, 이미 가진 데이터를 새 모델에 쓸 때는 가명정보 특례 또는 추가적 이용으로, 웹 공개 데이터는 정당한 이익으로 근거를 고르는 순서가 조문 구조와 맞는다. 근거는 표의 「정보주체 권리」 행 — 가명정보 특례만 권리 조문 일부를 적용하지 않는 대신(제28조의7) 재식별 목적 처리를 형사처벌로 막는다(제71조제8호).
7실무 진단 — AI 데이터 처리의 걸리는 조문 찾기
분석데이터의 식별 가능성(제2조제1호)부터 확인하고, 처리 근거(제15 · 28조의2) → 출력 · 결정 단계(제28조의5 · 37조의2) 순으로 좁힌다. 식별 수준이 정해져야 어느 조문 묶음이 적용되는지가 정해지기 때문이다(제28조의7 · 제58조의2).
| # | 증상 | 의심 원인 | 단계 | 확인 자료 | 판정 기준(근거) |
|---|---|---|---|---|---|
| 1 | 고객 기록으로 새 모델을 학습하려는데 근거가 없음 | 수집 목적 밖 이용 | 목적 설정 | 수집 당시 고지 문구 · 처리방침 | 고려 사항 넷(시행령 제14조의2①) 또는 가명처리 뒤 연구 목적(제28조의2①) |
| 2 | 학습 데이터를 해외 클라우드 서버로 옮김 | 국외 이전 근거 확인 누락 | 전략 수립 | 이전 국가 · 위탁 계약 · 처리방침 | 국외 이전을 허용하는 각 호 해당 여부(제28조의8①) |
| 3 | 모델 출력에 실제 전화번호 · 주소가 나옴 | 학습 데이터 암기 · 출력 필터 부재 | 학습 및 개발 | 출력 표본 점검 기록 · 필터 로그 | 알아볼 수 있는 정보가 생기면 즉시 중지 · 회수 · 파기(제28조의5②) |
| 4 | 자동 판정 이유를 묻는 민원의 회신이 늦음 | 설명 절차 미비 | 적용 및 관리 | 요구 접수일 · 회신 기록 | 30일 이내 · 2회 각 30일 연장(시행령 제44조의3⑤) |
| 5 | 웹에서 모은 데이터에 삭제 요구가 들어옴 | 출처 안내 · 구제 절차 부재 | 적용 및 관리 | 처리방침의 수집 출처 안내 · 삭제 처리 기록 | 처리정지 요구(제37조①) · 삭제 등 신속한 구제(개인정보위 2024) |
표는 조문을 찾는 순서이고 개별 서비스의 적법 여부 판단을 대신하지 않는다. 해석이 갈리면 개인정보보호위원회 안내서와 법령 해석 문의로 확인한다.
8시험 대비
www.q-net.or.kr시험에서는 AI 학습 데이터의 개인정보 쟁점과 가명정보 · 자동화된 결정 제도를 묻는 정의 · 특징형, AI 서비스를 만들 때 개인정보 보호를 어떻게 설계하는지 묻는 구현 · 설계형이 나올 수 있다. 정의형은 식별 가능성 세 단계 그림과 조문 표로, 설계형은 수명주기 네 단계 그림에 단계별 조치와 사례 흐름을 붙여 답한다.
- 개요 — 정의 · 개인정보 보호법(법률 제21445호) · 인공지능을 직접 부르는 조문 제37조의2 하나
- 쟁점 구조 — 그림 3 수명주기 네 단계 + 단계별 조문 표
- 식별 가능성 — 그림 5 개인정보 · 가명정보 · 익명정보와 적용 조문 · 재식별 금지
- 학습 데이터 근거 — 비교표(동의 · 계약 · 정당한 이익 · 추가적 이용 · 가명정보 특례)
- 서비스 단계 — 그림 4 공개 다섯 항목 · 설명 회신 30일 · 거부권 단서
- 보호 조치 — 추가정보 분리 · 출력 필터 · 프라이버시 레드팀 · 영향평가 · 과징금 매출액 3%
꼭 쓸 키워드
가명정보추가정보익명정보정당한 이익추가적 이용자동화된 결정설명 요구권재식별 금지개인정보 영향평가프라이버시 레드팀
다른 답안과 차이를 내는 한 가지 — 거부권 단서(제37조의2① 단서)와 설명 회신 30일(시행령 제44조의3⑤)을 조문 번호와 함께 적어 «계약으로 돌린 모델에도 설명 의무는 남는다»를 보인다.
9오해와 사실
- 오해가명처리한 데이터는 개인정보가 아니다.사실가명정보는 법 정의상 개인정보의 한 종류(제2조제1호다목)라 안전조치 · 기록 의무가 그대로 붙고, 법 적용에서 빠지는 것은 더는 개인을 알아볼 수 없는 익명정보뿐이다(제58조의2).
- 오해인터넷에 공개된 개인정보는 AI 학습에 마음대로 써도 된다.사실공개된 정보도 개인정보이고, 개인정보위 2024 안내서는 정당한 이익(제15조①6호)을 근거로 쓸 때 목적 정당성 · 처리 필요성 · 이익 형량 세 요건과 출처 안내 · 삭제 지원을 함께 요구한다.
- 오해자동화된 결정에는 언제나 거부권이 있다.사실동의 · 법률 · 계약 이행에 따른 결정은 거부권에서 빠지고(제37조의2① 단서), 그때도 설명 · 검토 요구권과 기준 공개 의무(제37조의2② · ④)는 남는다.
10핵심 정리
| 구분 | 조문 | 대상 데이터 | 정보주체 동의 | 핵심 의무 | 위반 시 |
|---|---|---|---|---|---|
| 적법 근거 | 제15조① | 새로 모으는 데이터 | 일곱 호 중 하나(동의 포함) | 목적 · 항목 고지(제15조②) | 과징금 매출액 3% 이하(제64조의2①1호) |
| 추가적 이용 | 제15조③ | 이미 가진 데이터 | 불필요 | 고려 사항 넷 · 기준 공개 | 목적 외 이용 과징금(제18조①) |
| 가명정보 | 제28조의2 | 연구 · 통계용 데이터 | 불필요 | 추가정보 분리 · 기록 3년 | 재식별 목적 5년 이하 징역(제71조) |
| 익명정보 | 제58조의2 | 알아볼 수 없는 정보 | 불필요 | 법 적용 제외 | — |
| 민감정보 | 제23조 | 건강 · 신념 등 | 별도 동의 등 | 처리 제한 | 과징금(제64조의2①3호) |
| 공개된 개인정보 | 제15조①6호 | 웹 공개 데이터 | 불필요 | 세 요건 · 출처 안내 | 과징금(제64조의2①1호) |
| 자동화된 결정 | 제37조의2 | 결정에 쓰인 개인정보 | — | 공개 · 설명 · 재처리 · 30일 | 과태료 3천만원 이하(제75조②24호) |
11참고 문헌
- 먼저 볼 문헌
- ★ 개인정보 보호법(법률 제21445호 · 2026-03-10 일부개정 · 2026-09-11 시행) 제2 · 3 · 15 · 18 · 23 · 28조의2 ~ 28조의7 · 37 · 37조의2 · 58조의2 · 64조의2 · 71 · 75조 — 가명정보(제28조의2 ~ 7)와 자동화된 결정(제37조의2) 원문을 볼 때
- ★ 개인정보 보호법 시행령(대통령령 제36804호 · 2026-11-10 시행) 제14조의2 · 29조의5 · 44조의2 ~ 44조의4 — 추가적 이용 고려 사항 · 가명정보 안전조치 · 설명 회신 30일 기준을 볼 때
- ★ 생성형 인공지능(AI) 개발·활용 위한 개인정보 처리 기준 제시한다(보도자료 · 생성형 인공지능(AI) 개발·활용을 위한 개인정보 처리 안내서) — 수명주기 네 단계와 단계별 개인정보 쟁점을 볼 때
- ★ '인공지능(AI) 개발·서비스를 위한 공개된 개인정보 처리 안내서' 발표(부처 브리핑) — 공개된 개인정보 학습의 정당한 이익 세 요건과 안전조치를 볼 때
- 본문 근거
- 개인정보 보호법 부칙(법률 제10465호 · 2011-03-29 · 법률 제16930호 · 2020-02-04 · 법률 제19234호 · 2023-03-14) 제1조 — 국가법령정보센터(법제처) · 2023-03 ·
www.law.go.kr/법령/개인정보보호법· 확인 2026-11-12 - AI 챗봇 '이루다' 관련 조사 결과 발표(부처 브리핑 · 제7회 전체회의) — 개인정보보호위원회 · 대한민국 정책브리핑 · 2021-04 ·
www.korea.kr/briefing/policyBriefingView.do?newsId=156449232· 확인 2026-11-12 - Regulation (EU) 2016/679 (General Data Protection Regulation) Article 22 — EUR-Lex(Publications Office of the European Union) · 2016-04 ·
eur-lex.europa.eu/eli/reg/2016/679/oj· 확인 2026-11-12 - Opinion 28/2024 on certain data protection aspects related to the processing of personal data in the context of AI models — European Data Protection Board · 2024-12 ·
www.edpb.europa.eu/our-work-tools/our-documents/opinion-board-art-64/opinion-282024-certain-data-protection-aspects_en· 확인 2026-11-12