딥페이크Deepfake
심층 학습으로 실존 인물의 얼굴 · 몸 · 목소리를 바꾸거나 새로 만들어 실제와 구분하기 어렵게 한 영상 · 이미지 · 음성이다. 이 글은 유형 · 탐지 · 피해 대응을 다루고, 만드는 방법은 다루지 않는다.
1요약
- 딥페이크는 2017년 말 한 온라인 게시판 사용자 이름에서 퍼진 말로, 학술 분류로는 재연 · 교체 · 편집 · 합성 네 유형과 음성 복제가 있고(Mirsky 2020 2절), 그 위에서 사칭 사기 · 성적 허위영상물 · 선거 허위 정보 같은 피해와 탐지 · 삭제 · 처벌 대응이 돈다.
- 사람 눈만으로는 가리기 어렵다 — 204명이 판정한 실험에서 정확도는 고화질 68.7% 에서 저화질 58.7% 로 떨어졌다(Rössler 2019 4.1절). 그래서 자동 탐지 · 출처 확인 · 법의 삭제 절차를 함께 쓴다.
- 「탐지기가 가짜라고 했다」는 재압축 · 처음 보는 생성 방식 · 기저율 세 가지로 다시 따진다 — 같은 탐지기도 가짜가 1% 인 유통 환경에서는 경보의 대부분이 진짜 영상이다.
2등장 배경
얼굴 합성은 예전에도 사진 편집 도구로 가능했지만 사람 손으로 한 장씩 고쳐야 했다. 2017년 말 「deepfakes」라는 이름의 온라인 게시판 사용자가 심층 학습으로 유명인 얼굴을 성인 영상에 바꿔 넣은 영상을 올리면서 이 이름이 퍼졌다(Mirsky 2020 1절).
탐지 연구는 공개 데이터셋으로 자랐다. FaceForensics++(2019)는 원본 영상 1,000개에 조작 방법 넷을 적용해 이미지 180만 장 이상을 만들었고(Rössler 2019 3절), DFDC(2020)는 동의한 배우 3,426명의 클립 10만 개 이상으로 대회를 열어 2,114개 팀이 참가했다(Dolhansky 2020 6.1절).
법은 피해 유형별로 생겼다. 한국은 2020년 성폭력처벌법 제14조의2(허위영상물 등의 반포등)를 신설하고 2024년 소지 · 시청 처벌(④)을 더했으며, 2023년 공직선거법 제82조의8, 2024년 정보통신망법 제4조의2, AI 기본법 제31조③이 이어졌다. EU AI법은 50조 4항에서 배포자의 딥페이크 공개 의무를 정했다 — 표시 기술 자체는 AI 생성물 표시가 맡는다.
3쉽게 이해하기 — 동네 게시판의 가짜 얼굴 벽보
동네 게시판에 가은 씨 얼굴을 다른 사람 몸에 씌운 가짜 벽보가 붙었다. 가은 씨는 그 벽보를 보고 동네 상담소에 알리고, 상담소는 게시판 관리인에게 떼어 달라고 함께 요청한다. 관리인은 인쇄소 출처 도장을 찾아보고 감정사에게 이음매를 보게 한 뒤 벽보를 떼고, 같은 벽보가 다시 붙지 않게 지문을 목록에 올린다. 벽보를 만들어 붙인 사람은 법정에 선다.
그림 1 · 가짜 벽보는 게시판에서 퍼지고, 얼굴 주인의 신고를 상담소가 관리인에게 잇고, 관리인은 도장 · 감정으로 확인해 떼며, 만든 사람은 법정으로 간다.
그림 2 · 벽보를 복사할수록 이음매가 흐려지듯, 영상을 강하게 다시 압축하면 같은 탐지기의 정확도가 99.26% 에서 81.00% 로 내려간다.
| 비유 속 역할 | 실제 이름 | 실제로 하는 일 |
|---|---|---|
| 얼굴을 씌운 벽보 | 딥페이크 | 실존 인물의 얼굴 · 목소리를 바꾸거나 새로 만든 영상 · 이미지 · 음성 |
| 동네 게시판 | 유통 플랫폼 | 게시물이 공개되고 복제 · 재압축되며 퍼진다 |
| 얼굴 주인 | 대상자 · 피해자 | 자기 의사에 반해 합성된 사람(성폭력처벌법 제14조의2①) |
| 동네 상담소 | 디지털성범죄피해자지원센터 | 피해 신고 접수 · 삭제 지원(성폭력방지법 제7조의4②) |
| 인쇄소 출처 도장 | 출처 정보 · 표시 | 메타데이터 · 워터마크로 생성 · 편집 이력을 확인한다(NIST AI 100-4 3.1절) |
| 감정사의 돋보기 | 내용 기반 탐지기 | 화소 규칙성 · 합성 경계 · 움직임 불일치로 점수를 낸다(NIST AI 100-4 3.2절) |
| 관리인의 지문 목록 | 삭제 · 해시 대조 | 지운 게시물의 해시로 다시 올라오는 사본을 막는다(NIST AI 100-4 5.4절) |
| 법정 | 처벌 · 고지 의무 | 제작 · 반포 · 소지 처벌과 생성 사실 고지(제14조의2 · AI 기본법 제31조③) |
⚠ 비유가 맞지 않는 곳: 감정사는 이음매를 보면 확신하지만 실제 탐지기는 0 ~ 1 점수만 내고, 처음 보는 생성 방식에서는 무작위에 가까운 점수를 낸다(Dolhansky 2020 6.1절). 또 출처 정보가 널리 쓰이기 전에는 «도장 없음»이 가짜의 증거가 되지 못한다(NIST AI 100-4 3.2절).
4구조 — 바뀌는 대상에 따른 네 유형과 음성 복제
Mirsky 2020 은 사람 영상 딥페이크를 «대상 인물의 무엇을 바꾸는가»로 넷으로 나누고, 실존 인물의 정체를 통제하는 재연 · 교체를 가장 큰 우려로 꼽았다(2.3절). 음성은 ASVspoof 2019 가 합성(TTS) · 변환(VC)을 논리 접근, 녹음 재생을 물리 접근 시나리오로 나눠 탐지 평가 자료를 만들었다(Wang 2020).
그림 3 · 실존 인물을 겨냥해 정체나 움직임을 바꾸는 교체 · 재연이 피해의 중심이고, 유형마다 남는 탐지 단서가 다르다.
| 유형 | 바뀌는 것 | 공개 데이터 · 근거 | 남는 탐지 단서 | 대표 피해 |
|---|---|---|---|---|
| 교체 | 얼굴 정체 | FF++ 조작 방법 둘 · DFDC | 합성 경계의 혼합 흔적 | 성적 허위영상물 · 사칭 |
| 재연 | 표정 · 입 · 자세(정체는 그대로) | FF++ 조작 방법 둘 | 입 모양 ↔ 소리 불일치 | 발언 조작 · 실시간 영상 사칭 |
| 편집 | 나이 · 옷 · 머리 같은 속성 | Mirsky 2020 2.3절 | 속성 경계의 질감 | 옷을 지운 이미지 · 가짜 신상 |
| 합성 | 실존하지 않는 얼굴 전체 | Mirsky 2020 2.3절 | 화소 규칙성 · 배경 불일치 | 가짜 계정 인물 |
| 음성 복제 | 목소리 정체 | ASVspoof 2019 논리 접근 | 억양 · 음색의 흔적 | 전화 사칭 사기 |
🔑 피해의 크기는 화질이 아니라 «누구의 정체를 쓰는가»가 정한다 — 거친 교체 영상도 실존 인물을 겨냥하면 피해가 되고, 정교한 합성 얼굴도 대상이 없으면 실존 인물 사칭은 되지 않는다.
5동작 — 얼굴 교체 의심 영상 한 건의 확인 · 대응
설명용 가정 값: 한 동영상 플랫폼 신고 창구에 「내 얼굴이 다른 사람 몸에 합성됐다」는 신고가 들어온다. 영상 길이 · 프레임 수 · 탐지 점수는 가정 값이고, 1.3배 자르기와 압축 수준은 FaceForensics++ 의 설정 값이다.
- 대상자가 영상 주소와 본인 원본 사진 2장을 제출한다 — 영상은 10초 × 30 fps = 300 프레임이다.
- 검토팀이 원본 파일의 SHA-256 해시를 기록하고 파일을 보관한다 — 법도 요청 없이 삭제를 지원할 때 증거 인멸을 막으려 관련 자료를 보관하게 한다(성폭력방지법 제7조의3③).
- 메타데이터 · 콘텐츠 자격 증명을 조회하니 출처 정보가 없다 — 이 단계의 «없음»은 판정 근거로 쓰지 않고 다음 단계로 간다(NIST AI 100-4 3.2절).
- 얼굴을 추적해 얼굴 상자를 1.3배 넓혀 자른 300장을 프레임 판별기에 넣는다(Rössler 2019 4.2절) — 프레임 점수 평균 0.71, 0.5 를 넘는 프레임 228장(76%)이다.
- 영상이 공유 과정에서 강하게 재압축돼 점수만으로 정하지 않는다 — 같은 계열 판별기의 정확도는 원본 99.26% · H.264 QP 23 95.73% · QP 40 81.00% 였다(Rössler 2019 표 1). 검토자 두 명이 원본 사진과 얼굴 경계 · 입 움직임을 대조해 합성으로 판정한다.
- 게시물을 삭제 · 접속 차단하고, 재압축 · 크기 변경에도 비슷한 값을 내는 지각 해시를 등록해 다시 올라오는 사본을 막는다(전기통신사업법 제22조의5① · NIST AI 100-4 5.4절).
- 대상자에게 처리 결과를 알린다 — 대상자는 디지털성범죄피해자지원센터 삭제 지원 요청(성폭력방지법 제7조의3② · 제7조의4)과 수사기관 고소를 따로 진행할 수 있다.
그림 4 · 신고 영상은 보존 → 출처 조회 → 프레임 점수를 거치지만 판정은 사람 검토가 내리고, 삭제와 해시 등록 뒤 지원 · 수사 기관으로 이어진다.
그림 5 는 재현율 90% · 오경보율 5% 인 탐지기(가정 값)를 업로드 1만 건에 놓고 원문 식으로 셈한 값이다. DFDC 도 실제 분포에서의 쓸모를 보려고 오경보에 가중치 α 를 곱한 가중 정밀도를 따로 보고했다(Dolhansky 2020 식 1).
그림 5 · 같은 탐지기라도 가짜가 절반인 벤치마크에서는 경보의 94.7% 가 맞지만, 가짜가 1% 인 유통 환경에서는 15.4% 만 맞는다.
🔑 정확도는 탐지기의 값이지만 경보의 정밀도는 가짜가 얼마나 섞였는가의 값이다 — 탐지기를 바꾸지 않아도 유통 환경에서는 경보 열 건 중 여덟 건 이상이 진짜 영상이다.
6비교 — 탐지 · 확인 방식
사후에 내용을 보는 방식과 미리 남긴 기록을 보는 방식은 답하는 질문이 다르다. 워터마크 검출은 생성 단계의 표시 기술이라 AI 생성물 표시가 맡고, 여기서는 한 열로만 견준다.
| 기준 | 사람 눈 판별 | 내용 기반 자동 탐지 | 출처 정보 확인 | 해시 대조 | 워터마크 검출 |
|---|---|---|---|---|---|
| 답하는 질문 | 가짜로 보이나 | 가짜일 확률 | 어디서 왔나 | 전에 지운 것인가 | 어느 생성기가 표시했나 |
| 미리 필요한 것 | 없음 | 학습 데이터(FF++ · DFDC) | 촬영 · 생성 쪽 기록 | 확인된 원본 한 건 | 생성 쪽의 신호 삽입 |
| 처음 보는 생성 방식 | 약함 | 실제 영상 AUC 0.734(Dolhansky 2020) | 기록이 있으면 무관 | 무관 | 신호가 있으면 무관 |
| 재압축 · 편집 | 저화질 58.7%(Rössler 2019) | QP 40 81.00%(Rössler 2019) | 메타데이터가 지워질 수 있음 | 암호 해시는 깨지고 지각 해시는 견딤 | 방식에 따라 약해짐 |
| 오판의 꼴 | 작은 표정 조작을 놓침 | 기저율 때문에 오경보 | 출처 없음을 가짜로 착각 | 지각 해시 오탐 · 회피(NIST AI 100-4 5.4절) | 검출 확률 오차(NIST AI 100-4 3.2절) |
분석새 게시물은 해시 대조 → 출처 정보 → 내용 기반 탐지 순으로 거르고, 최종 판정은 사람 검토로 한다. 근거는 표의 「처음 보는 생성 방식」 행 — 해시 · 출처 기록은 생성 방식과 무관하지만 자동 탐지는 처음 보는 실제 영상에서 AUC 0.734 로 떨어졌다(Dolhansky 2020 6.1절).
7실무 진단 — 탐지 결과가 어긋날 때
분석경보가 이상하면 입력 영상의 압축 상태부터 보고, 다음에 생성 방식이 학습 분포 안인지, 마지막으로 경보 수 대비 확인된 가짜 비율을 본다. 압축으로 흔적이 지워지면 문턱을 바꿔도 점수가 회복되지 않기 때문이다(Rössler 2019 2절 · 표 1).
| # | 증상 | 의심 원인 | 단계 | 확인 자료 | 판정 기준(근거) |
|---|---|---|---|---|---|
| 1 | 실험실 정확도는 높은데 신고 영상 판정이 흔들림 | 공유 과정의 재압축 · 크기 변경 | 입력 | 원본 · 공유본의 압축 수준 비교 | QP 40 에서 99.26% → 81.00%(Rössler 2019 표 1) |
| 2 | 새 유형 영상 점수가 0.5 근처에 몰림 | 학습에 없는 생성 방식 | 탐지 모델 | 생성 방식별 점수 분포 | 로그 손실 0.69 = 모두 0.5 로 찍은 값(Dolhansky 2020 6.1절) |
| 3 | 경보 대부분이 진짜 영상 | 기저율 · 경보 문턱 | 판정 | 경보 건 중 확인된 가짜 비율 | 가짜 1% 면 정밀도 15.4%(그림 5) |
| 4 | 출처 정보가 없다는 이유로 합성 판정 | 출처 부재를 증거로 씀 | 판정 | 판정 근거 기록 | 출처 정보 보급 전에는 부재가 신호가 못 됨(NIST AI 100-4 3.2절) |
| 5 | 지운 영상이 조금 바뀐 채 다시 올라옴 | 암호 해시만 등록 | 유통 방지 | 재게시본 해시 대조 기록 | 작은 변형에도 값이 바뀜 → 지각 해시(NIST AI 100-4 5.4절) |
표는 탐지 · 유통 방지 단계의 문제를 가르는 순서이고, 게시물이 처벌 · 삭제 대상인지의 법적 판단을 대신하지 않는다. 그 판단은 수사기관 · 지원센터 · 법률 전문가의 몫이다.
8시험 대비
www.q-net.or.kr시험에서는 딥페이크의 정의 · 유형 · 탐지 · 대응을 묻는 정의 · 특징형, 그리고 생성과 탐지의 경쟁 · 법 제도 변화를 묻는 동향 · 발전형이 나올 수 있다. 동향형이면 «탐지기 하나»에서 출처 정보 · 표시 · 삭제 절차를 묶는 흐름을 연도와 함께 쓴다.
- 개요 — 정의 · 어원(2017) · AI 기본법 제31조③ 「실제와 구분하기 어려운 가상의 결과물」
- 유형 — 그림 3(교체 · 재연 · 편집 · 합성 + 음성 복제)과 유형 표
- 탐지 기술 — 사람 · 내용 기반 · 출처 정보 · 해시 비교표 · 압축 수준별 정확도 99.26% → 81.00%
- 탐지의 한계 — 그림 5(정밀도 94.7% → 15.4%) · 처음 보는 생성 방식(AUC 0.734)
- 대응 절차 — 그림 4(신고 → 보존 → 출처 조회 → 점수 → 사람 검토 → 삭제 · 해시 → 지원)
- 법 · 제도 — 성폭력처벌법 제14조의2 · 공직선거법 제82조의8 · 정보통신망법 제4조의2 · EU AI법 50조 4항
꼭 쓸 키워드
얼굴 교체얼굴 재연음성 복제FaceForensics++DFDC내용 기반 탐지출처 정보지각 해시기저율허위영상물
다른 답안과 차이를 내는 한 가지는 그림 5 의 기저율 계산이다 — 탐지 정확도만 적는 대신 같은 탐지기의 정밀도가 환경에 따라 94.7% 에서 15.4% 로 바뀐다는 점을 숫자로 보인다.
9오해와 사실
- 오해자세히 보면 사람이 가려낼 수 있다.사실204명 · 1만 2,240건 판정 실험에서 정확도는 68.7% 에서 저화질 58.7% 였고, 표정만 바꾼 NeuralTextures 는 무작위보다 낮았다(Rössler 2019 4.1절).
- 오해대회 1위 탐지기는 실제 영상도 거의 다 맞힌다.사실DFDC 1위 팀의 로그 손실은 대회 데이터 0.1983 · 인터넷 실제 영상 0.6605 였고, 후자는 모두 0.5 로 찍은 값 0.69 에 가깝다(Dolhansky 2020 표 2).
- 오해딥페이크 처벌 조문은 성적 영상에만 있다.사실공직선거법은 선거일 전 90일부터 선거운동용 딥페이크영상등의 제작 · 게시를 금지하고, 그 밖의 기간에는 가상 정보라는 표시를 요구한다(제82조의8①②).
10핵심 정리
| 구분 | 하는 일 | 대표 값 · 조문 | 약점 · 한계 |
|---|---|---|---|
| 교체 · 재연 | 실존 인물의 정체 · 움직임을 바꿈 | FF++ 원본 1,000개 · 조작 방법 넷 | 표정만 바꾸면 사람 눈에 거의 안 보임 |
| 음성 복제 | 목소리 정체를 바꿈 | ASVspoof 2019 논리 · 물리 접근 | 화면 없는 전화 사칭 |
| 내용 기반 탐지 | 화소 · 움직임 흔적으로 점수 | XceptionNet 99.26% → 81.00% | 재압축 · 처음 보는 생성 방식 |
| 출처 정보 | 생성 · 편집 이력 확인 | NIST AI 100-4 3.1절 | 없다고 가짜는 아님 |
| 해시 대조 | 지운 사본의 재게시 차단 | 암호 해시 · 지각 해시 | 작은 변형 · 오탐 |
| 경보 정밀도 | 경보 중 실제 가짜 비율 | 94.7% → 15.4%(가짜 1%) | 기저율에 따라 바뀜 |
| 피해 지원 | 신고 접수 · 삭제 지원 | 성폭력방지법 제7조의3 · 제7조의4 | 대상 범위는 조문이 정함 |
| 처벌 · 고지 | 제작 · 반포 · 소지 처벌 · 생성 사실 고지 | 제14조의2 · 제82조의8 · AI 기본법 제31조③ | 법적 판단은 전문가 확인 |
11참고 문헌
- 먼저 볼 문헌
- ★ The Creation and Detection of Deepfakes: A Survey (Mirsky · Lee · ACM Computing Surveys) — 재연 · 교체 · 편집 · 합성 네 유형과 각 유형의 위험을 볼 때
- ★ FaceForensics++: Learning to Detect Manipulated Facial Images (Rössler · Cozzolino · Verdoliva · Riess · Thies · Nießner · ICCV 2019) — 사람 판별 실험과 압축 수준별 탐지 정확도를 볼 때
- ★ The DeepFake Detection Challenge (DFDC) Dataset (Dolhansky · Bitton · Pflaum · Lu · Howes · Wang · Canton Ferrer) — 대회 탐지기가 실제 영상에서 얼마나 떨어지는지 볼 때
- ★ NIST AI 100-4 Reducing Risks Posed by Synthetic Content: An Overview of Technical Approaches to Digital Content Transparency — 출처 정보 · 내용 기반 탐지 · 사람 검토 · 해시 대조의 한계를 볼 때
- ★ 성폭력범죄의 처벌 등에 관한 특례법(법률 제21997호 · 2026-10-02 시행) 제14조의2 · 제14조의3 — 허위영상물 제작 · 반포 · 소지 · 시청 처벌 조문 원문을 볼 때
- 본문 근거
- 성폭력방지 및 피해자보호 등에 관한 법률(법률 제21857호 · 2026-10-02 시행) 제7조의3 · 제7조의4 — 국가법령정보센터(법제처) · 2026-08 ·
www.law.go.kr/법령/성폭력방지및피해자보호등에관한법률· 확인 2026-11-12 - 공직선거법(법률 제21577호 · 2026-10-23 시행) 제82조의8 · 제255조⑤ · 제261조③ — 국가법령정보센터(법제처) · 2026-04 ·
www.law.go.kr/법령/공직선거법· 확인 2026-11-12 - 정보통신망 이용촉진 및 정보보호 등에 관한 법률(법률 제21988호 · 2026-10-02 시행) 제4조의2 · 제44조의2 — 국가법령정보센터(법제처) · 2026-09 ·
www.law.go.kr/법령/정보통신망이용촉진및정보보호등에관한법률· 확인 2026-11-12 - 전기통신사업법(법률 제21503호 · 2026-10-01 시행) 제22조의5 — 국가법령정보센터(법제처) · 2026-03 ·
www.law.go.kr/법령/전기통신사업법· 확인 2026-11-12 - 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(법률 제21311호 · 2026-07-21 시행) 제31조 · 시행령(대통령령 제36580호) 제23조 — 국가법령정보센터(법제처) · 2026-01 ·
www.law.go.kr/법령/인공지능발전과신뢰기반조성등에관한기본법· 확인 2026-11-12 - ASVspoof 2019: A large-scale public database of synthesized, converted and replayed speech (Wang · Yamagishi · Todisco 외 · Computer Speech and Language) — arXiv · 2019-11 ·
arxiv.org/abs/1911.01601· 확인 2026-11-12 - Regulation (EU) 2024/1689 (Artificial Intelligence Act) · OJ L 2024/1689 — European Parliament · Council of the EU · 2024-07 ·
eur-lex.europa.eu/eli/reg/2024/1689/oj· 확인 2026-11-12 - AI Act Service Desk — Article 50 Transparency obligations (EUR-Lex 통합 본문 2026-07-27 기준) — European Commission · 2026-07 ·
ai-act-service-desk.ec.europa.eu/en/ai-act/article-50· 확인 2026-11-12