해시 함수Cryptographic Hash Function
길이가 제각각인 입력을 정해진 길이의 다이제스트로 줄이는 키 없는 일방향 함수다. 같은 다이제스트를 내는 다른 입력이나 주어진 다이제스트의 입력을 찾는 일이 계산상 불가능해야 한다.
1요약
- 해시 함수는 암호의 기본 연산으로, 임의 길이 입력을 고정 길이 다이제스트로 줄이며 SHA-2(FIPS 180-4) · SHA-3(FIPS 202)가 표준이고 그 위에서 전자서명 · HMAC · 비밀번호 저장 · 블록 연결이 돈다.
- 충돌을 찾을 수 있으면 같은 다이제스트를 내는 다른 문서로 서명이 옮겨 간다 — SHA-1 은 2017년 압축 함수 2^63.1 회 계산으로 실제 충돌이 나왔고(Stevens 2017), NIST 는 2030년 말까지 모든 용도에서 SHA-1 을 끝낸다(NIST SHA-1 전환 공지 2022).
- 「해시 값이 안 맞는다」는 입력 바이트 · 함수 이름 · 키 유무 셋으로 가른다 — 줄바꿈 한 바이트가 끼었는지, SHA3-256 과 Keccak-256 을 섞었는지, 키가 필요한 곳에 맨 해시를 썼는지다.
2등장 배경
1989년 Merkle 과 Damgård 는 고정 길이 블록을 받는 압축 함수를 되풀이해 이으면 압축 함수의 충돌 저항이 전체로 이어진다는 구성을 각각 보였고(Damgård 1989), MD5(RFC 1321 · 1992) · SHA-1 · SHA-2 가 모두 이 Merkle-Damgård 구조를 따랐다. 이 구조는 다이제스트가 곧 내부 상태 전부라 다이제스트만 알아도 뒤에 블록을 더 이어 계산하는 길이 확장이 되고, 1997년 HMAC 은 키를 안팎 두 번 넣어 이를 막았다(RFC 2104 2절).
MD5 는 노트북 한 대로 1분 안에 충돌을 찾는 수준이 되어 «충돌 저항이 필요한 곳에는 쓸 수 없다»는 판정을 받았다(RFC 6151 2절). 같은 구조의 약점이 SHA-2 로 번질 것에 대비해 NIST 는 2007년 11월 공모를 열어 응모 64개 가운데 2012년 10월 Keccak 을 골랐고(NIST IR 7896), 이를 2015년 FIPS 202 의 SHA-3 로 실었다. 지금은 SHA-2 가 주력이고 SHA-3 는 같은 강도에 구조가 다른 대안이다.
3쉽게 이해하기 — 주스 가게의 믹서기
주스 가게 민 사장은 손님이 가져온 과일을 몇 바구니든 받아, 한 바구니씩 믹서기에 넣고 앞 바구니에서 나온 주스와 함께 간다. 마지막 바구니에는 전체 과일 무게를 적은 쪽지를 넣고, 손님에게는 언제나 같은 크기 컵 하나만 내준다. 딸기 한 알만 체리로 바꿔도 컵 전체의 색과 맛이 달라지고, 주스를 보고 과일을 되돌릴 수는 없다. 검사원은 같은 과일을 다시 갈아 두 컵을 맞대 본다.
그림 1 · 과일은 같은 크기 바구니로 나뉘어 앞 주스와 함께 갈리고, 마지막 바구니의 무게 쪽지까지 갈린 뒤 언제나 같은 크기 컵 하나로 나온다.
그림 2 · 과일 하나를 바꾸면 컵 전체가 바뀌듯, 입력 3비트 차이가 SHA-256 출력 256비트 가운데 122비트를 바꾸고 그 변화는 여덟 워드에 고르게 퍼진다.
| 비유 속 역할 | 실제 이름 | 실제로 하는 일 |
|---|---|---|
| 손님의 과일 | 입력 메시지 | SHA-256 은 2^64비트 미만의 어떤 바이트열도 받는다 |
| 같은 크기 바구니 | 메시지 블록 | SHA-256 은 입력을 512비트씩 자른다 |
| 처음 붓는 물 | 초기 해시 값 H(0) | 표준이 정한 32비트 워드 8개로 시작한다 |
| 믹서 한 번 | 압축 함수 | 앞 상태 256비트와 블록 하나를 섞어 새 상태를 만든다 |
| 무게 쪽지 | 덧붙이기 · 길이 필드 | 마지막 블록 끝 64비트에 원래 입력 길이를 적는다 |
| 같은 크기 컵 | 다이제스트 | 입력이 3바이트든 3기가바이트든 256비트다 |
| 검사원 | 검증하는 쪽 | 같은 함수로 다시 계산해 두 다이제스트를 비교한다 |
| 되돌릴 수 없는 주스 | 원상 저항성 | 다이제스트만으로 입력을 찾지 못한다 |
⚠ 비유가 맞지 않는 곳: 실제 압축 함수는 섞은 결과에 앞 상태를 다시 더해 거꾸로 풀기를 막고, SHA-3 는 바구니마다 믹서를 쓰는 대신 큰 그릇(1,600비트 상태)에 붓고 짜내는 다른 구조라 이 비유는 SHA-2 쪽 이야기다.
4구조 — Merkle-Damgård 구조(SHA-2)와 스펀지 구조(SHA-3)
표준 해시는 구조가 둘이다. SHA-256 은 블록마다 압축 함수를 거쳐 256비트 상태를 넘기고 마지막 상태를 그대로 내놓으며, SHA3-256 은 1,600비트 상태 가운데 비트율 r 부분에만 블록을 섞고 용량 c 부분은 밖에 내놓지 않는다(FIPS 202 4 · 6.1절).
그림 3 · SHA-256 은 마지막 256비트 상태를 그대로 다이제스트로 내고, SHA3-256 은 1,600비트 상태 가운데 c = 512비트를 끝까지 숨긴 채 r 부분의 앞 256비트만 낸다.
| 요소 | SHA-256 | SHA3-256 | 근거 |
|---|---|---|---|
| 블록 · 비트율 | 512비트 | r = 1,088비트 | FIPS 180-4 그림 1 · FIPS 202 6.1절(c = 512) |
| 내부 상태 | 256비트(워드 8개) | 1,600비트(r + c) | FIPS 180-4 5.3.3절 · FIPS 202 4절 |
| 섞는 함수 | 압축 함수 64라운드 | Keccak-p[1600, 24] | FIPS 180-4 6.2.2절 · FIPS 202 5.2절 |
| 덧붙이기 | 1 · 0들 · 길이 64비트 | 접미 01 + pad10*1 | FIPS 180-4 5.1.1절 · FIPS 202 5.1 · 6.1절 |
| 출력 | 마지막 상태 전부 | r 부분의 앞 256비트 | FIPS 202 4절 |
| 길이 확장 | 된다 → 키는 HMAC 으로 | 설계상 막힘 | RFC 2104 2절 · FIPS 202 A.1 |
🔑 SHA-256 은 다이제스트가 곧 내부 상태 전부라 그 뒤를 이어 계산할 수 있고, SHA3-256 은 용량 512비트를 끝까지 숨겨 이어 갈 수 없다 — SHA-2 에 키를 섞을 때 HMAC 을 쓰는 이유가 이 차이다.
5동작 — 「abc」 세 바이트의 SHA-256 계산
Python 3.14.0 hashlib 과 OpenSSL 3.2.1 openssl dgst 로 직접 실행해, FIPS 180-4 5.1.1절이 예로 든 입력 「abc」와 맞춘 사례다.
- 입력 「abc」는 ASCII 61 62 63, 길이 ℓ = 24비트다(FIPS 180-4 5.1.1절).
- 끝에 1비트, 0 을 423비트, 길이 24 를 적은 64비트를 붙여 512비트 블록 하나로 맞춘다(24 + 1 + 423 + 64 = 512).
- 블록을 32비트 워드 16개로 나눈다 — W0 = 61626380, W1 ~ W14 = 0, W15 = 00000018(5.2.1절).
- 워드 16개를 메시지 스케줄 W0 ~ W63, 64개로 늘린다(6.2.2절 1단계).
- 작업 변수 a ~ h 에 초기값 H(0)(6a09e667 · bb67ae85 … 워드 8개 · 5.3.3절)를 넣고, 라운드마다 Wt 와 상수 Kt 하나를 섞는 64라운드를 돈다(6.2.2절 3단계).
- 결과를 H(0) 에 워드마다 더해(모듈로 2^32) H(1) 을 얻고, 블록이 하나뿐이라 H(1) = ba7816bf 8f01cfea 414140de 5dae2223 b00361a3 96177a9c b410ff61 f20015ad 이 다이제스트다(6.2.2절 4단계).
- 같은 「abc」를 SHA3-256 으로 계산하면 3a985da7 로 시작하는 전혀 다른 256비트가 나온다 — 함수 이름이 다르면 같은 입력도 비교할 수 없다(FIPS 202 6.1절).
그림 4 · 「abc」 24비트는 1비트 · 0 423비트 · 길이 64비트가 붙어 512비트 블록 하나가 되고, 64라운드 뒤 초기값을 다시 더한 256비트가 다이제스트다.
그림 5 · 충돌 강도는 출력 길이의 절반이라 SHA-256 · SHA3-256 은 128비트이고, SHA-1 은 이론 80비트보다 낮은 63.1비트 계산으로 실제 충돌이 나왔다.
🔑 충돌은 «정해진 값 하나»가 아니라 «같은 값이 나오는 아무 쌍»을 찾는 일이라 출력 n 비트의 절반인 n/2 비트에서 막힌다 — 서명처럼 충돌이 문제인 쓰임은 출력 길이를 두 배로 잡는다.
6비교 — 표준 해시 여섯의 구조와 강도
| 함수 | 구조 | 출력(비트) | 충돌 강도(비트) | 지금 판단 |
|---|---|---|---|---|
| MD5 | Merkle-Damgård | 128 | 노트북으로 1분 안에 충돌(RFC 6151 2.1절) | 충돌 저항이 필요한 곳에 쓰지 않음 |
| SHA-1 | Merkle-Damgård | 160 | 80 미만 · 실제 충돌 2^63.1(Stevens 2017) | 2030-12-31 까지 모든 용도 전환(NIST 2022) |
| SHA-256 | Merkle-Damgård | 256 | 128(FIPS 202 표 4) | 기본 선택 · 키는 HMAC |
| SHA-512 | Merkle-Damgård · 블록 1,024 | 512 | 256 | 64비트 워드 · 긴 출력이 필요할 때 |
| SHA3-256 | 스펀지(c = 512) | 256 | 128 | SHA-2 와 다른 구조의 예비 |
| SHAKE128 | 스펀지(c = 256) | 원하는 길이 d | min(d/2, 128) | 출력 길이를 바꿔야 할 때(XOF) |
분석새 설계는 SHA-256 을 기본으로 두고 키를 섞을 때는 HMAC-SHA256, 다른 구조의 예비나 가변 출력이 필요하면 SHA3-256 · SHAKE 를 고른다. 근거는 표의 같은 충돌 강도 128비트(FIPS 202 표 4)와 MD5 · SHA-1 의 실제 충돌(RFC 6151 · Stevens 2017)이다.
7실무 진단 — 다이제스트 불일치 원인 가르기
분석해시는 같은 바이트열 · 같은 함수면 늘 같은 값이므로, 함수를 의심하기 전에 입력 바이트 → 함수 이름 → 쓰임(키 · 비밀번호) 순으로 본다. 입력 「abc」의 SHA-256 은 ba7816bf … f20015ad 로 표준 예와 같아야 하므로(FIPS 180-4 5.1.1절), 이 값부터 맞추면 도구 문제가 걸러진다.
| # | 증상 | 의심 원인 | 구분 | 확인 명령 | 판정 기준(근거) |
|---|---|---|---|---|---|
| 1 | 같은 「abc」인데 edeaaff3 … 이 나옴 | echo 가 줄바꿈 0x0a 를 붙임 | 입력 바이트 | printf 'abc' | openssl dgst -sha256 | ba7816bf … f20015ad 면 정상(FIPS 180-4 5.1.1절) |
| 2 | SHA3-256 값이 다른 라이브러리와 다름 | 원래 Keccak 덧붙이기(Keccak-256)와 혼동 | 함수 이름 | openssl dgst -sha3-256 과 -keccak-256 을 함께 | 「abc」 = 3a985da7 …(SHA3-256) ↔ 4e03657a …(Keccak-256) · 접미 01 유무(FIPS 202 6.1절) |
| 3 | API 서명값을 SHA-256(비밀 ‖ 본문)으로 만듦 | 길이 확장으로 덧붙인 요청도 검증 통과 | 쓰임 | 서명 생성 코드 검토 | 키를 넣는 해시는 HMAC(RFC 2104 2절) |
| 4 | 유출된 비밀번호 표가 빠르게 풀림 | 소금 없는 SHA-256 한 번 저장 | 쓰임 | 저장 형식(소금 · 체계 · 비용 값) | 소금 32비트 이상 + 비밀번호 해싱 체계(SP 800-63B-4 3.1.1.2절) |
8시험 대비
www.q-net.or.kr시험에서는 해시 함수의 세 성질과 SHA-2 · SHA-3 구조를 묻는 정의 · 특징형, MD5 · SHA-1 에서 SHA-3 로 넘어온 흐름을 묻는 동향 · 발전형으로 나올 수 있다. 정의 · 특징형이면 원상 · 제2원상 · 충돌 저항을 출력 n 비트의 강도(n · n · n/2)와 함께 쓰고 두 구조 그림을 나란히 두며, 동향 · 발전형이면 실제 충돌 → 전환 일정 → SHA-3 선정 순으로 쓴다.
- 개요 — 정의 · 세 성질(원상 · 제2원상 · 충돌 저항) · 쓰임(서명 · HMAC · 비밀번호 저장)
- 구조 — 그림 3 Merkle-Damgård 구조 ↔ 스펀지 구조(블록 512 · 상태 1,600 · 용량 512비트)
- 동작 — 그림 4 「abc」 덧붙이기 · 64라운드 · 다이제스트 값
- 안전성 — 그림 5 생일 한계(n/2)와 SHA-1 실제 충돌 2^63.1
- 비교 — 표(MD5 · SHA-1 · SHA-256 · SHA-512 · SHA3-256 · SHAKE128의 출력 · 충돌 강도)
- 동향 — SHA-1 2030 전환 · 길이 확장과 HMAC · 비밀번호 해싱 체계
꼭 쓸 키워드
원상 저항성제2원상 저항성충돌 저항성생일 한계Merkle-Damgård 구조스펀지 구조길이 확장HMACSHA-2SHA-3
다른 답안과 차이를 내는 한 가지는 표준 표기(묶음 이름 SHA-2 · SHA-3, 함수 이름 SHA-256 · SHA3-256 · SHAKE128)를 정확히 쓰고, 그림 5 처럼 SHA-1 의 이론 강도와 실제 공격 비용을 한 그림에 두는 것이다.
9오해와 사실
- 오해출력이 256비트면 충돌을 찾는 데도 2^256 번 계산이 든다.사실충돌 강도는 출력 길이의 절반인 128비트이고, 256비트에 가까운 것은 원상 찾기다(FIPS 202 표 4).
- 오해SHA-3 는 SHA-2 가 깨져서 나온 후속판이다.사실SHA-2 는 깨지지 않았고, SHA-3 는 같은 강도 이상에 길이 확장까지 막는 다른 구조의 대안으로 설계됐다(FIPS 202 A.1).
- 오해HMAC 은 비밀 키를 본문 앞에 붙여 해시한 것과 같다.사실HMAC 은 ipad(0x36) · opad(0x5C)와 섞은 키를 안팎 두 번 넣어(RFC 2104 2절), 다이제스트 뒤를 이어 계산하는 길이 확장이 통하지 않는다.
10핵심 정리
| 구분 | 맡는 일 | 대표 값 | 깨지면 생기는 일 | 근거 |
|---|---|---|---|---|
| 원상 저항성 | 다이제스트에서 입력 찾기를 막음 | n비트(SHA-256 = 256) | 저장된 해시에서 원문 복원 | FIPS 202 표 4 |
| 제2원상 저항성 | 주어진 입력과 같은 값의 다른 입력을 막음 | 최대 n비트 | 공개된 파일 바꿔치기 | FIPS 202 표 4 |
| 충돌 저항성 | 같은 값의 아무 입력 쌍을 막음 | n/2비트(SHA-256 = 128) | 서명을 다른 문서로 옮김 | FIPS 202 표 4 |
| Merkle-Damgård 구조 | 블록마다 압축 · 상태 넘김 | 블록 512 · 상태 256비트 | 길이 확장 → HMAC 필요 | FIPS 180-4 6.2절 |
| 스펀지 구조 | 흡수 뒤 짜내기 | 상태 1,600 · 용량 512비트 | 용량이 강도를 정함 | FIPS 202 4절 |
| HMAC | 키를 넣은 무결성 · 출처 확인 | ipad 0x36 · opad 0x5C | 맨 해시로 대신하면 위조 | RFC 2104 2절 |
| MD5 · SHA-1 | 옛 함수 | 128 · 160비트 | 실제 충돌 · 2030 전환 | RFC 6151 · NIST 2022 |
11참고 문헌
- 먼저 볼 문헌
- ★ FIPS 180-4 Secure Hash Standard (SHS) — SHA-2 의 덧붙이기 규칙(5.1.1절)과 SHA-256 64라운드 계산(6.2.2절)을 볼 때
- ★ FIPS 202 SHA-3 Standard: Permutation-Based Hash and Extendable-Output Functions — 스펀지 구조 · SHA3 · SHAKE 정의(4 · 6절)와 보안 강도 표 4 를 볼 때
- ★ RFC 2104 HMAC: Keyed-Hashing for Message Authentication — 해시에 키를 넣는 정식 방법(2절)을 볼 때
- ★ Stevens, Bursztein, Karpman, Albertini, Markov 2017 The first collision for full SHA-1 (CRYPTO 2017) — SHA-1 실제 충돌의 계산량을 볼 때
- 본문 근거
- NIST Transitioning away from SHA-1 for All Applications — NIST · 2022-12 ·
csrc.nist.gov/news/2022/nist-transitioning-away-from-sha-1-for-all-apps· 확인 2026-11-14 - RFC 6151 Updated Security Considerations for the MD5 Message-Digest and the HMAC-MD5 Algorithms — IETF · 2011-03 ·
www.rfc-editor.org/rfc/rfc6151· 확인 2026-11-14 - RFC 1321 The MD5 Message-Digest Algorithm — IETF · 1992-04 ·
www.rfc-editor.org/rfc/rfc1321· 확인 2026-11-14 - NIST IR 7896 Third-Round Report of the SHA-3 Cryptographic Hash Algorithm Competition — NIST · 2012-11 ·
csrc.nist.gov/pubs/ir/7896/final· 확인 2026-11-14 - Damgård 1989 A Design Principle for Hash Functions (CRYPTO '89 · LNCS 435) — Springer · 1989-08 ·
doi.org/10.1007/0-387-34805-0_39· 확인 2026-11-14 - SP 800-63B-4 Digital Identity Guidelines: Authentication and Authenticator Management — NIST · 2025-07 ·
csrc.nist.gov/pubs/sp/800/63/b/4/final· 확인 2026-11-14 - openssl-dgst (OpenSSL 3.2 Documentation) — OpenSSL Project · 2026-11 ·
docs.openssl.org/3.2/man1/openssl-dgst/· 확인 2026-11-14 - hashlib — Secure hashes and message digests (Python 3 documentation) — Python Software Foundation · 2026-11 ·
docs.python.org/3/library/hashlib.html· 확인 2026-11-14