IT › 보안 › 암호 · 인증 › 암호

해시 함수Cryptographic Hash Function

길이가 제각각인 입력을 정해진 길이의 다이제스트로 줄이는 키 없는 일방향 함수다. 같은 다이제스트를 내는 다른 입력이나 주어진 다이제스트의 입력을 찾는 일이 계산상 불가능해야 한다.

1요약

  1. 해시 함수는 암호의 기본 연산으로, 임의 길이 입력을 고정 길이 다이제스트로 줄이며 SHA-2(FIPS 180-4) · SHA-3(FIPS 202)가 표준이고 그 위에서 전자서명 · HMAC · 비밀번호 저장 · 블록 연결이 돈다.
  2. 충돌을 찾을 수 있으면 같은 다이제스트를 내는 다른 문서로 서명이 옮겨 간다 — SHA-1 은 2017년 압축 함수 2^63.1 회 계산으로 실제 충돌이 나왔고(Stevens 2017), NIST 는 2030년 말까지 모든 용도에서 SHA-1 을 끝낸다(NIST SHA-1 전환 공지 2022).
  3. 「해시 값이 안 맞는다」는 입력 바이트 · 함수 이름 · 키 유무 셋으로 가른다 — 줄바꿈 한 바이트가 끼었는지, SHA3-256 과 Keccak-256 을 섞었는지, 키가 필요한 곳에 맨 해시를 썼는지다.

2등장 배경

1989년 Merkle 과 Damgård 는 고정 길이 블록을 받는 압축 함수를 되풀이해 이으면 압축 함수의 충돌 저항이 전체로 이어진다는 구성을 각각 보였고(Damgård 1989), MD5(RFC 1321 · 1992) · SHA-1 · SHA-2 가 모두 이 Merkle-Damgård 구조를 따랐다. 이 구조는 다이제스트가 곧 내부 상태 전부라 다이제스트만 알아도 뒤에 블록을 더 이어 계산하는 길이 확장이 되고, 1997년 HMAC 은 키를 안팎 두 번 넣어 이를 막았다(RFC 2104 2절).

MD5 는 노트북 한 대로 1분 안에 충돌을 찾는 수준이 되어 «충돌 저항이 필요한 곳에는 쓸 수 없다»는 판정을 받았다(RFC 6151 2절). 같은 구조의 약점이 SHA-2 로 번질 것에 대비해 NIST 는 2007년 11월 공모를 열어 응모 64개 가운데 2012년 10월 Keccak 을 골랐고(NIST IR 7896), 이를 2015년 FIPS 202 의 SHA-3 로 실었다. 지금은 SHA-2 가 주력이고 SHA-3 는 같은 강도에 구조가 다른 대안이다.

3쉽게 이해하기 — 주스 가게의 믹서기

주스 가게 민 사장은 손님이 가져온 과일을 몇 바구니든 받아, 한 바구니씩 믹서기에 넣고 앞 바구니에서 나온 주스와 함께 간다. 마지막 바구니에는 전체 과일 무게를 적은 쪽지를 넣고, 손님에게는 언제나 같은 크기 컵 하나만 내준다. 딸기 한 알만 체리로 바꿔도 컵 전체의 색과 맛이 달라지고, 주스를 보고 과일을 되돌릴 수는 없다. 검사원은 같은 과일을 다시 갈아 두 컵을 맞대 본다.

주스 가게 — 바구니마다 갈아 컵 하나로 손님 입력 메시지 바구니 1 블록 512비트 바구니 2 블록 512비트 바구니 3 블록 512비트 무게 쪽지 길이 덧붙이기 1 3 처음 물 초기값 H(0) 믹서 1 압축 함수 믹서 2 압축 함수 믹서 3 압축 함수 컵 하나 다이제스트 2 4 5 검사원 — 다시 갈아 두 컵을 맞대 봄 무결성 검증 주스로 과일을 되돌릴 수 없음 원상 저항성

그림 1 · 과일은 같은 크기 바구니로 나뉘어 앞 주스와 함께 갈리고, 마지막 바구니의 무게 쪽지까지 갈린 뒤 언제나 같은 크기 컵 하나로 나온다.

바구니 나누기과일을 같은 크기 바구니에
함께 갈기앞 주스와 다음 바구니를 같이
무게 쪽지마지막 바구니에 총무게
컵 하나언제나 같은 크기
맞대 보기다시 갈아 두 컵 비교
비유 실제 — SHA-256 사과 · 배 · 딸기 연분홍 주스 한 컵 사과 · 배 · 체리 진보라 주스 한 컵 과일 하나만 바꿔도 컵 전체의 색 · 맛이 달라짐 어느 과일인지 컵만으론 모름 abc = 61 62 63 ba7816bf8f01cfea414140de5dae2223 b00361a396177a9cb410ff61f20015ad abd = 61 62 64 (3비트 차이) a52d159f262b2c6ddb724a61840befc3 6eb30c88877a4030b65cbe86298449c9 32비트 워드 여덟 개마다 바뀐 비트 수 12 16 17 17 18 15 12 15 합계 122 / 256비트(47.7%)

그림 2 · 과일 하나를 바꾸면 컵 전체가 바뀌듯, 입력 3비트 차이가 SHA-256 출력 256비트 가운데 122비트를 바꾸고 그 변화는 여덟 워드에 고르게 퍼진다.

비유 속 역할실제 이름실제로 하는 일
손님의 과일입력 메시지SHA-256 은 2^64비트 미만의 어떤 바이트열도 받는다
같은 크기 바구니메시지 블록SHA-256 은 입력을 512비트씩 자른다
처음 붓는 물초기 해시 값 H(0)표준이 정한 32비트 워드 8개로 시작한다
믹서 한 번압축 함수앞 상태 256비트와 블록 하나를 섞어 새 상태를 만든다
무게 쪽지덧붙이기 · 길이 필드마지막 블록 끝 64비트에 원래 입력 길이를 적는다
같은 크기 컵다이제스트입력이 3바이트든 3기가바이트든 256비트다
검사원검증하는 쪽같은 함수로 다시 계산해 두 다이제스트를 비교한다
되돌릴 수 없는 주스원상 저항성다이제스트만으로 입력을 찾지 못한다

⚠ 비유가 맞지 않는 곳: 실제 압축 함수는 섞은 결과에 앞 상태를 다시 더해 거꾸로 풀기를 막고, SHA-3 는 바구니마다 믹서를 쓰는 대신 큰 그릇(1,600비트 상태)에 붓고 짜내는 다른 구조라 이 비유는 SHA-2 쪽 이야기다.

4구조 — Merkle-Damgård 구조(SHA-2)와 스펀지 구조(SHA-3)

표준 해시는 구조가 둘이다. SHA-256 은 블록마다 압축 함수를 거쳐 256비트 상태를 넘기고 마지막 상태를 그대로 내놓으며, SHA3-256 은 1,600비트 상태 가운데 비트율 r 부분에만 블록을 섞고 용량 c 부분은 밖에 내놓지 않는다(FIPS 202 4 · 6.1절).

두 구조 — SHA-256 과 SHA3-256 Merkle-Damgård 구조 — SHA-256 M1 512비트 M2 512비트 M3 끝 블록 H(0) 256비트 압축 함수 f 압축 함수 f 압축 함수 f 다이제스트 = 상태 전부 256비트 256비트 다이제스트가 곧 내부 상태 전부 → 그 뒤를 이어 계산할 수 있음(길이 확장) 스펀지 구조 — SHA3-256 M1 M2 끝 r 1,088 c 512 + + Keccak-p 24라운드 Keccak-p 24라운드 앞 256비트 = 출력 c 부분은 내보내지 않음 메시지 블록 섞는 함수 초기값 출력 굵은 테두리 = 밖에 내놓지 않는 용량 c + = XOR

그림 3 · SHA-256 은 마지막 256비트 상태를 그대로 다이제스트로 내고, SHA3-256 은 1,600비트 상태 가운데 c = 512비트를 끝까지 숨긴 채 r 부분의 앞 256비트만 낸다.

요소SHA-256SHA3-256근거
블록 · 비트율512비트r = 1,088비트FIPS 180-4 그림 1 · FIPS 202 6.1절(c = 512)
내부 상태256비트(워드 8개)1,600비트(r + c)FIPS 180-4 5.3.3절 · FIPS 202 4절
섞는 함수압축 함수 64라운드Keccak-p[1600, 24]FIPS 180-4 6.2.2절 · FIPS 202 5.2절
덧붙이기1 · 0들 · 길이 64비트접미 01 + pad10*1FIPS 180-4 5.1.1절 · FIPS 202 5.1 · 6.1절
출력마지막 상태 전부r 부분의 앞 256비트FIPS 202 4절
길이 확장된다 → 키는 HMAC 으로설계상 막힘RFC 2104 2절 · FIPS 202 A.1

🔑 SHA-256 은 다이제스트가 곧 내부 상태 전부라 그 뒤를 이어 계산할 수 있고, SHA3-256 은 용량 512비트를 끝까지 숨겨 이어 갈 수 없다 — SHA-2 에 키를 섞을 때 HMAC 을 쓰는 이유가 이 차이다.

5동작 — 「abc」 세 바이트의 SHA-256 계산

Python 3.14.0 hashlib 과 OpenSSL 3.2.1 openssl dgst 로 직접 실행해, FIPS 180-4 5.1.1절이 예로 든 입력 「abc」와 맞춘 사례다.

  1. 입력 「abc」는 ASCII 61 62 63, 길이 ℓ = 24비트다(FIPS 180-4 5.1.1절).
  2. 끝에 1비트, 0 을 423비트, 길이 24 를 적은 64비트를 붙여 512비트 블록 하나로 맞춘다(24 + 1 + 423 + 64 = 512).
  3. 블록을 32비트 워드 16개로 나눈다 — W0 = 61626380, W1 ~ W14 = 0, W15 = 00000018(5.2.1절).
  4. 워드 16개를 메시지 스케줄 W0 ~ W63, 64개로 늘린다(6.2.2절 1단계).
  5. 작업 변수 a ~ h 에 초기값 H(0)(6a09e667 · bb67ae85 … 워드 8개 · 5.3.3절)를 넣고, 라운드마다 Wt 와 상수 Kt 하나를 섞는 64라운드를 돈다(6.2.2절 3단계).
  6. 결과를 H(0) 에 워드마다 더해(모듈로 2^32) H(1) 을 얻고, 블록이 하나뿐이라 H(1) = ba7816bf 8f01cfea 414140de 5dae2223 b00361a3 96177a9c b410ff61 f20015ad 이 다이제스트다(6.2.2절 4단계).
  7. 같은 「abc」를 SHA3-256 으로 계산하면 3a985da7 로 시작하는 전혀 다른 256비트가 나온다 — 함수 이름이 다르면 같은 입력도 비교할 수 없다(FIPS 202 6.1절).
「abc」 블록 하나 — 덧붙이기에서 다이제스트까지 합계 512비트 = 블록 1개 1 61 62 63 1 0 이 423비트 길이 = 24 2 24비트 1비트 423비트(상자 너비는 비례 아님) 64비트 3 W0 = 61626380 W1 ~ W14 = 00000000 W15 = 00000018 4 메시지 스케줄 W0 ~ W63(64개) 5 초기값 H(0) 32비트 워드 8개 64라운드(작업 변수 a ~ h) 라운드 t 마다 Wt · Kt 를 섞음 + H(0) 다시 더함 6 H(1) = H(0) + 64라운드 결과(워드마다 모듈로 2^32) = 다이제스트 ba7816bf 8f01cfea 414140de 5dae2223 b00361a3 96177a9c b410ff61 f20015ad 입력 · 워드 덧붙인 비트 길이 · 초기값 라운드 계산 다이제스트

그림 4 · 「abc」 24비트는 1비트 · 0 423비트 · 길이 64비트가 붙어 512비트 블록 하나가 되고, 64라운드 뒤 초기값을 다시 더한 256비트가 다이제스트다.

보안 강도(비트) — 충돌은 출력 길이의 절반(생일 한계) SHA-1 출력 160비트 160 80 미만 · 실제 공격 63.1 SHA-256 출력 256비트 256 128 SHA3-256 출력 256비트 256 128 SHAKE128 출력 d = 256비트 128 — 출력이 길어도 128 에서 멈춤 128 0 64 128 192 256 원상 저항 충돌 저항(출력의 절반) 실제 공격 비용(SHA-1)

그림 5 · 충돌 강도는 출력 길이의 절반이라 SHA-256 · SHA3-256 은 128비트이고, SHA-1 은 이론 80비트보다 낮은 63.1비트 계산으로 실제 충돌이 나왔다.

🔑 충돌은 «정해진 값 하나»가 아니라 «같은 값이 나오는 아무 쌍»을 찾는 일이라 출력 n 비트의 절반인 n/2 비트에서 막힌다 — 서명처럼 충돌이 문제인 쓰임은 출력 길이를 두 배로 잡는다.

6비교 — 표준 해시 여섯의 구조와 강도

함수구조출력(비트)충돌 강도(비트)지금 판단
MD5Merkle-Damgård128노트북으로 1분 안에 충돌(RFC 6151 2.1절)충돌 저항이 필요한 곳에 쓰지 않음
SHA-1Merkle-Damgård16080 미만 · 실제 충돌 2^63.1(Stevens 2017)2030-12-31 까지 모든 용도 전환(NIST 2022)
SHA-256Merkle-Damgård256128(FIPS 202 표 4)기본 선택 · 키는 HMAC
SHA-512Merkle-Damgård · 블록 1,02451225664비트 워드 · 긴 출력이 필요할 때
SHA3-256스펀지(c = 512)256128SHA-2 와 다른 구조의 예비
SHAKE128스펀지(c = 256)원하는 길이 dmin(d/2, 128)출력 길이를 바꿔야 할 때(XOF)

분석새 설계는 SHA-256 을 기본으로 두고 키를 섞을 때는 HMAC-SHA256, 다른 구조의 예비나 가변 출력이 필요하면 SHA3-256 · SHAKE 를 고른다. 근거는 표의 같은 충돌 강도 128비트(FIPS 202 표 4)와 MD5 · SHA-1 의 실제 충돌(RFC 6151 · Stevens 2017)이다.

7실무 진단 — 다이제스트 불일치 원인 가르기

분석해시는 같은 바이트열 · 같은 함수면 늘 같은 값이므로, 함수를 의심하기 전에 입력 바이트 → 함수 이름 → 쓰임(키 · 비밀번호) 순으로 본다. 입력 「abc」의 SHA-256 은 ba7816bf … f20015ad 로 표준 예와 같아야 하므로(FIPS 180-4 5.1.1절), 이 값부터 맞추면 도구 문제가 걸러진다.

#증상의심 원인구분확인 명령판정 기준(근거)
1같은 「abc」인데 edeaaff3 … 이 나옴echo 가 줄바꿈 0x0a 를 붙임입력 바이트printf 'abc' | openssl dgst -sha256ba7816bf … f20015ad 면 정상(FIPS 180-4 5.1.1절)
2SHA3-256 값이 다른 라이브러리와 다름원래 Keccak 덧붙이기(Keccak-256)와 혼동함수 이름openssl dgst -sha3-256 과 -keccak-256 을 함께「abc」 = 3a985da7 …(SHA3-256) ↔ 4e03657a …(Keccak-256) · 접미 01 유무(FIPS 202 6.1절)
3API 서명값을 SHA-256(비밀 ‖ 본문)으로 만듦길이 확장으로 덧붙인 요청도 검증 통과쓰임서명 생성 코드 검토키를 넣는 해시는 HMAC(RFC 2104 2절)
4유출된 비밀번호 표가 빠르게 풀림소금 없는 SHA-256 한 번 저장쓰임저장 형식(소금 · 체계 · 비용 값)소금 32비트 이상 + 비밀번호 해싱 체계(SP 800-63B-4 3.1.1.2절)

8시험 대비

출제 정보 정보관리(138회, 118회, 105회)문제 원문 — 큐넷 자료실 「기출문제(기술사)」 www.q-net.or.kr

시험에서는 해시 함수의 세 성질과 SHA-2 · SHA-3 구조를 묻는 정의 · 특징형, MD5 · SHA-1 에서 SHA-3 로 넘어온 흐름을 묻는 동향 · 발전형으로 나올 수 있다. 정의 · 특징형이면 원상 · 제2원상 · 충돌 저항을 출력 n 비트의 강도(n · n · n/2)와 함께 쓰고 두 구조 그림을 나란히 두며, 동향 · 발전형이면 실제 충돌 → 전환 일정 → SHA-3 선정 순으로 쓴다.

답안 목차
  1. 개요 — 정의 · 세 성질(원상 · 제2원상 · 충돌 저항) · 쓰임(서명 · HMAC · 비밀번호 저장)
  2. 구조 — 그림 3 Merkle-Damgård 구조 ↔ 스펀지 구조(블록 512 · 상태 1,600 · 용량 512비트)
  3. 동작 — 그림 4 「abc」 덧붙이기 · 64라운드 · 다이제스트 값
  4. 안전성 — 그림 5 생일 한계(n/2)와 SHA-1 실제 충돌 2^63.1
  5. 비교 — 표(MD5 · SHA-1 · SHA-256 · SHA-512 · SHA3-256 · SHAKE128의 출력 · 충돌 강도)
  6. 동향 — SHA-1 2030 전환 · 길이 확장과 HMAC · 비밀번호 해싱 체계

꼭 쓸 키워드
원상 저항성제2원상 저항성충돌 저항성생일 한계Merkle-Damgård 구조스펀지 구조길이 확장HMACSHA-2SHA-3

다른 답안과 차이를 내는 한 가지는 표준 표기(묶음 이름 SHA-2 · SHA-3, 함수 이름 SHA-256 · SHA3-256 · SHAKE128)를 정확히 쓰고, 그림 5 처럼 SHA-1 의 이론 강도와 실제 공격 비용을 한 그림에 두는 것이다.

9오해와 사실

  • 오해출력이 256비트면 충돌을 찾는 데도 2^256 번 계산이 든다.
    사실충돌 강도는 출력 길이의 절반인 128비트이고, 256비트에 가까운 것은 원상 찾기다(FIPS 202 표 4).
  • 오해SHA-3 는 SHA-2 가 깨져서 나온 후속판이다.
    사실SHA-2 는 깨지지 않았고, SHA-3 는 같은 강도 이상에 길이 확장까지 막는 다른 구조의 대안으로 설계됐다(FIPS 202 A.1).
  • 오해HMAC 은 비밀 키를 본문 앞에 붙여 해시한 것과 같다.
    사실HMAC 은 ipad(0x36) · opad(0x5C)와 섞은 키를 안팎 두 번 넣어(RFC 2104 2절), 다이제스트 뒤를 이어 계산하는 길이 확장이 통하지 않는다.

10핵심 정리

구분맡는 일대표 값깨지면 생기는 일근거
원상 저항성다이제스트에서 입력 찾기를 막음n비트(SHA-256 = 256)저장된 해시에서 원문 복원FIPS 202 표 4
제2원상 저항성주어진 입력과 같은 값의 다른 입력을 막음최대 n비트공개된 파일 바꿔치기FIPS 202 표 4
충돌 저항성같은 값의 아무 입력 쌍을 막음n/2비트(SHA-256 = 128)서명을 다른 문서로 옮김FIPS 202 표 4
Merkle-Damgård 구조블록마다 압축 · 상태 넘김블록 512 · 상태 256비트길이 확장 → HMAC 필요FIPS 180-4 6.2절
스펀지 구조흡수 뒤 짜내기상태 1,600 · 용량 512비트용량이 강도를 정함FIPS 202 4절
HMAC키를 넣은 무결성 · 출처 확인ipad 0x36 · opad 0x5C맨 해시로 대신하면 위조RFC 2104 2절
MD5 · SHA-1옛 함수128 · 160비트실제 충돌 · 2030 전환RFC 6151 · NIST 2022

11참고 문헌

  1. 먼저 볼 문헌
  2. ★ FIPS 180-4 Secure Hash Standard (SHS) — SHA-2 의 덧붙이기 규칙(5.1.1절)과 SHA-256 64라운드 계산(6.2.2절)을 볼 때
    NIST · 2015-08 · csrc.nist.gov/pubs/fips/180-4/upd1/final · 확인 2026-11-14
  3. ★ FIPS 202 SHA-3 Standard: Permutation-Based Hash and Extendable-Output Functions — 스펀지 구조 · SHA3 · SHAKE 정의(4 · 6절)와 보안 강도 표 4 를 볼 때
    NIST · 2015-08 · csrc.nist.gov/pubs/fips/202/final · 확인 2026-11-14
  4. ★ RFC 2104 HMAC: Keyed-Hashing for Message Authentication — 해시에 키를 넣는 정식 방법(2절)을 볼 때
    IETF · 1997-02 · www.rfc-editor.org/rfc/rfc2104 · 확인 2026-11-14
  5. ★ Stevens, Bursztein, Karpman, Albertini, Markov 2017 The first collision for full SHA-1 (CRYPTO 2017) — SHA-1 실제 충돌의 계산량을 볼 때
    IACR · 2017-06 · eprint.iacr.org/2017/190 · 확인 2026-11-14
  6. 본문 근거
  7. NIST Transitioning away from SHA-1 for All Applications — NIST · 2022-12 · csrc.nist.gov/news/2022/nist-transitioning-away-from-sha-1-for-all-apps · 확인 2026-11-14
  8. RFC 6151 Updated Security Considerations for the MD5 Message-Digest and the HMAC-MD5 Algorithms — IETF · 2011-03 · www.rfc-editor.org/rfc/rfc6151 · 확인 2026-11-14
  9. RFC 1321 The MD5 Message-Digest Algorithm — IETF · 1992-04 · www.rfc-editor.org/rfc/rfc1321 · 확인 2026-11-14
  10. NIST IR 7896 Third-Round Report of the SHA-3 Cryptographic Hash Algorithm Competition — NIST · 2012-11 · csrc.nist.gov/pubs/ir/7896/final · 확인 2026-11-14
  11. Damgård 1989 A Design Principle for Hash Functions (CRYPTO '89 · LNCS 435) — Springer · 1989-08 · doi.org/10.1007/0-387-34805-0_39 · 확인 2026-11-14
  12. SP 800-63B-4 Digital Identity Guidelines: Authentication and Authenticator Management — NIST · 2025-07 · csrc.nist.gov/pubs/sp/800/63/b/4/final · 확인 2026-11-14
  13. openssl-dgst (OpenSSL 3.2 Documentation) — OpenSSL Project · 2026-11 · docs.openssl.org/3.2/man1/openssl-dgst/ · 확인 2026-11-14
  14. hashlib — Secure hashes and message digests (Python 3 documentation) — Python Software Foundation · 2026-11 · docs.python.org/3/library/hashlib.html · 확인 2026-11-14