암호Cryptography
키를 써서 데이터의 기밀성 · 무결성을 지키는 기술이다. 기본 연산(대칭키 · 공개키 · 해시), 새 방향(양자내성암호 · 동형 암호), 그 키를 다루는 키 관리와 이를 엮은 암호 시스템이 여기에 든다.
1요약
- 암호는 암호 · 인증의 첫 토픽으로, 대칭키 · 공개키 · 해시의 기본 연산 위에 양자내성암호 · 동형 암호라는 새 방향과 키 관리(KMS · HSM)를 얹고, 암호 시스템이 이 부품을 TLS · 저장 암호화 같은 조합으로 엮는다.
- 부품이 맞아도 키가 데이터 옆에 있으면 소용없다 — 그래서 NIST 는 데이터를 잠그는 키와 그 키를 감싸는 키를 다른 종류로 나누고(SP 800-57 5.1.1절), 2024년 8월에는 양자 컴퓨터에 대비한 FIPS 203 ~ 205 를 냈다.
- 「어느 암호를 쓰나」는 지킬 것이 무엇이고 어디에 있나로 가른다 — 쌓인 데이터는 대칭키, 처음 만나는 상대와의 키 확립은 공개키(오래 지킬 것이면 양자내성암호), 맡긴 계산은 동형 암호, 그 모든 키의 수명은 키 관리 쪽이다.
2등장 배경
1970년대 저장 · 통신 암호화는 키 하나를 미리 나눠 가진 대칭키뿐이었고, 키를 프로그램 설정이나 데이터와 같은 디스크에 두면 하나를 훔친 사람이 둘 다 가졌다. AES(FIPS 197 · 2001)가 기본 연산을 정한 뒤에도 남은 일은 키를 어디 두나였고, 암호 모듈 보안 요건은 FIPS 140-3(2019)의 네 수준으로, 키를 다른 키로 감싸는 방식은 RFC 3394(2002)로 정리됐다.
1994년 Shor 는 양자 컴퓨터가 소인수분해와 이산 로그를 빠르게 푼다는 알고리즘을 보였다(Shor 1994). RSA · ECC 의 근거가 흔들리자 NIST 는 여러 해의 국제 공모 끝에 2024년 8월 격자 · 해시 기반 표준 FIPS 203 ~ 205 를 냈고, 2025년 HQC 를 추가 표준화 대상으로 골랐다(NIST PQC 프로젝트).
2009년 Gentry 는 암호문을 풀지 않고 덧셈 · 곱셈을 이어 할 수 있는 완전 동형 암호를 처음 구성했다(Gentry 2009). 2018년 연구자 · 기업 공동체가 BGV · BFV 방식과 매개변수 표를 담은 보안 표준을 냈고(HE 보안 표준 2018), 지금 암호의 일은 «여섯 부품 중 무엇을 어디에 쓰고 키를 어떻게 돌리나»를 고르는 것이 됐다.
3쉽게 이해하기 — 기록 보관소의 하루
한 기록 보관소가 고객 서류 상자 1,000개를 맡는다. 직원은 상자마다 다른 작은 열쇠로 잠그고, 작은 열쇠는 봉투에 넣어 지하 금고의 큰 열쇠로 봉인한 뒤 상자 옆에 붙여 둔다. 상자에는 내용으로 만든 번호표를 달아 바뀌면 드러나게 하고, 먼 지점에서 서류를 받을 때는 누구나 채울 수 있는 열린 자물쇠를 보내며, 앞으로 나올 만능 열쇠 기계에 대비해 새 모양 자물쇠로 바꾸는 중이다. 합계를 맡긴 회계사는 상자를 열지 않고 장갑 구멍으로 손을 넣어 셈한다.
그림 1 · 상자는 작은 열쇠가, 작은 열쇠는 금고가 지키고, 번호표 · 열린 자물쇠 · 새 자물쇠 · 장갑 상자가 각각 다른 암호 토픽에 짝지어진다.
그림 2 · 큰 열쇠는 금고 밖으로 나오지 않고, 금고 창구는 봉투를 열어 작은 열쇠만 건네며, 상자는 접수대에서만 열린다 — 키 관리와 대칭키 암호의 경계가 창구다.
| 비유 속 역할 | 실제 이름 | 실제로 하는 일 |
|---|---|---|
| 작은 열쇠로 잠근 상자 | 대칭키 암호 · 데이터 키 | 파일마다 AES 키 하나로 암호화하고 인증 태그를 붙인다 |
| 지하 금고 · 큰 열쇠 | 키 관리 · HSM · 마스터 키 | 데이터 키를 감싸고 풀며, 마스터 키는 모듈 밖으로 내보내지 않는다 |
| 봉인한 봉투 | 감싼 데이터 키 | 데이터 키 32바이트를 키 감싸기로 40바이트로 만들어 파일 옆에 둔다 |
| 내용 번호표 | 해시 함수 · 다이제스트 | 파일 전체를 32바이트로 요약해 사본이 같은지 가린다 |
| 열린 자물쇠 | 공개키 암호 | 만난 적 없는 상대와 공개값만 주고받아 공유 비밀을 만든다 |
| 새 모양 자물쇠 | 양자내성암호 | 격자 문제 위의 ML-KEM 으로 키 확립을 옮긴다 |
| 장갑 상자 | 동형 암호 | 암호문끼리 덧셈 · 곱셈을 해서 맡긴 쪽이 평문을 보지 못하게 한다 |
| 보관소 운영 규칙 | 암호 시스템 | 위 부품을 저장 · 통신 같은 쓰임에 맞춰 한 체계로 엮는다 |
⚠ 비유가 맞지 않는 곳: 실제 「봉투」는 열쇠를 숨기기만 하지 않고 바뀌었는지도 함께 검사하며(키 감싸기의 무결성 검사 값), 장갑 상자 셈은 손 한 번이 아니라 수천 배 큰 암호문 위의 계산이라 같은 합계를 내는 데 훨씬 오래 걸린다.
4구조 — 아래 토픽 일곱의 안전성 근거와 크기
일곱 토픽은 기본 연산 셋, 새 방향 둘, 운영 하나, 조합 하나로 나뉜다. 기본 연산은 서로 다른 계산 문제의 어려움에 기대고, 새 방향은 그 근거를 격자 문제로 바꾸거나 넓히며, 키 관리는 모든 토픽의 키를 생성부터 폐기까지 맡는다(SP 800-57 5.1.1 · 7절).
그림 3 · 기본 연산 셋이 바닥이고, 양자내성암호는 공개키의 근거를 바꾸며, 동형 암호는 암호문 위 연산으로 넓히고, 키 관리는 모든 토픽의 키를 맡는다.
| 아래 토픽 | 지키는 것 | 안전성 근거 | 더해지는 크기(예) | 대표 표준 |
|---|---|---|---|---|
| 암호 시스템 | 쓰임별 조합 | 부품 각각 | 조합에 따름 | 상세는 암호 시스템 |
| 대칭키 암호 | 기밀성 · 무결성(AEAD) | 키 전수 조사 비용 | AES-GCM 28바이트(논스 12 + 태그 16) | FIPS 197 · RFC 5116 5.1절 |
| 공개키 암호 | 키 확립 · 서명 | 소인수분해 · 이산 로그 | 공개값 · 서명값 | RSA · ECC |
| 해시 함수 | 무결성 · 요약 | 충돌 · 원상 찾기 비용 | SHA-256 다이제스트 32바이트 | FIPS 180-4 |
| 양자내성암호(PQC) | 양자 이후 키 확립 · 서명 | 모듈 격자 · 해시 | ML-KEM-768 암호문 1,088바이트 | FIPS 203 표 3 · FIPS 204 · 205 |
| 동형 암호 | 맡긴 계산의 기밀성 | 격자(RLWE) | n = 4,096 암호문 약 111,616바이트 | HE 보안 표준 2018 표 1 |
| 키 관리(KMS · HSM) | 키의 수명 전체 | 모듈의 물리 · 논리 보호 | 감싼 256비트 키 40바이트 | SP 800-57 · FIPS 140-3 · RFC 3394 |
동형 암호문 크기는 BGV · BFV 암호문이 계수 n 개짜리 다항식 둘이라는 점에서 2 × 4,096 × 109비트로 셈한 값이다(128비트 보안 · 삼진 비밀 · HE 보안 표준 2018 2.1절 표 1).
🔑 기본 연산 셋은 크기를 수십 바이트만 더하지만, 새 방향 둘은 근거를 격자로 바꾸는 대가로 수천에서 수십만 바이트를 더한다 — 암호에서 «무엇을 고르나»는 보호 성질과 크기 비용의 맞바꿈이다.
5동작 — 문서 보관 서비스의 파일 한 건
사내 문서 보관 서비스가 계약서 파일 1,000개(파일마다 2,000,000바이트)를 키 관리 서버(KMS)와 HSM 으로 저장 암호화하는 사례다. 파일 수 · 크기 · 교체 주기는 설명용 가정 값이다.
- 응용이 KMS 에 데이터 키 생성을 요청하고, KMS 는 HSM 의 마스터 키(AES-256 키 감싸기 키)로 감싼 사본과 평문 데이터 키 32바이트를 함께 돌려준다(SP 800-57 5.1.1절 6 · 7항).
- 응용이 파일을 AES-256-GCM 으로 암호화한다 — 논스 12바이트 · 인증 태그 16바이트가 붙어 저장 크기는 2,000,028바이트다(RFC 5116 5.2절).
- 응용이 평문 데이터 키를 메모리에서 지우고, 감싼 데이터 키 40바이트(32 + 8 · RFC 3394 2.2.1절)와 파일의 SHA-256 다이제스트 32바이트(FIPS 180-4)를 파일 머리 · 백업 대조 목록에 적는다.
- 읽을 때 응용이 감싼 키 40바이트를 KMS 에 보내면, HSM 이 마스터 키로 풀어 검사 값(A6A6A6A6A6A6A6A6)이 맞을 때만 32바이트를 돌려준다(RFC 3394 2.2.3절).
- 응용이 GCM 으로 복호화하고, 태그가 맞지 않으면 평문을 하나도 내지 않고 실패를 돌려준다(RFC 5116 2.2절).
- 1년 뒤 마스터 키를 새 키로 바꾸면 KMS 는 파일 1,000개의 감싼 키 40,000바이트만 풀고 다시 감싼다 — 파일 본문 2,000,028,000바이트는 그대로다.
- 옛 마스터 키는 비활성 상태로 옮겨 새 보호에는 쓰지 않고, 미처 다시 감싸지 못한 키를 푸는 데만 쓴다(SP 800-57 7.4절).
그림 4 · 마스터 키는 ①④⑥ 에서 HSM 안에만 있고, 응용은 ② ⑤ 에서 데이터 키를 잠깐 쓰며, 저장소에는 암호문과 감싼 키만 남는다.
그림 5 · 키 계층이 있으면 마스터 키 교체는 감싼 키 40,000바이트만 다시 처리하고, 계층 없이 키 하나로 잠갔다면 2,000,028,000바이트를 모두 다시 암호화해야 한다(약 5만 배).
🔑 키 관리가 키를 계층으로 나누는 까닭은 보안보다 교체 비용이다 — 큰 키를 바꿀 때 작은 키만 다시 감싸면 되므로, 교체 주기를 지키는 일이 데이터 양과 무관해진다.
6비교 — 관련 기술과의 경계
| 기술 | 맡는 일 | 다루는 결과물 | 암호와의 경계 |
|---|---|---|---|
| 암호 | 키로 데이터를 감추고 묶는 연산과 그 키의 수명 | 암호문 · 다이제스트 · 감싼 키 | 연산과 키 보관까지 |
| 공개키 기반 구조 · 전자서명 | 공개키의 주인을 인증서로 보증 · 서명으로 출처 증명 | 인증서 · 서명값 · 폐지 목록 | 서명 · 공개키 연산은 암호에서 가져가고, 「누구의 키인가」를 더함 |
| 인증 | 접속한 주체가 등록한 그 사람인지 판정 | 인증기 · 판정 결과 | 인증기 안의 HMAC · 서명 연산을 암호에서 씀 |
| 인증 · 인가 프로토콜 | 인증 결과를 다른 서비스로 실어 나름 | 티켓 · 토큰 · 주장 | 토큰의 서명 · 암호화 알고리즘을 암호에서 고름 |
| ID · 접근 관리 체계 | 계정 · 역할의 수명과 허용 여부 | 계정 · 역할 · 정책 | KMS 의 「누가 이 키를 풀어도 되나」 정책을 정함 |
분석질문이 «어떤 연산 · 키 길이 · 키 보관»이면 암호, «이 키가 누구 것인가»면 공개키 기반 구조 · 전자서명, «이 사람이 맞나 · 무엇을 허용하나»면 인증 · ID · 접근 관리 체계로 넘긴다. 근거는 표의 「암호와의 경계」 열이며, NIST 도 키 종류 · 보호 요건(SP 800-57 5.1.1 · 6.1절)과 키를 쓸 주체의 인가를 나눠 적는다.
7실무 진단 — 암호 오류의 아래 토픽 가르기
분석실패가 데이터를 풀 때 났는지, 키를 풀 때 났는지부터 가르고, 키 쪽이면 키 상태 → 권한 순, 데이터 쪽이면 키 판 → 변조 순으로 본다. GCM 은 키가 틀려도 변조와 똑같이 태그 실패만 돌려주므로(RFC 5116 2.2절), 태그 실패를 변조로 판정하기 전에 감싼 키의 판부터 맞춘다.
| # | 증상 | 의심 원인 | 아래 토픽 | 확인 자료 | 판정 기준(근거) |
|---|---|---|---|---|---|
| 1 | 일부 파일만 복호화가 「태그 불일치」로 실패 | 파일 머리의 감싼 키와 본문이 다른 판 · 본문 변조 | 대칭키 암호 | 복호화 오류 기록 · 파일 머리의 키 식별자 | 태그가 틀리면 평문을 내지 않음(RFC 5116 2.2절) |
| 2 | 감싼 키 풀기가 「무결성 검사 실패」 | 다른 마스터 키로 풀거나 감싼 키 손상 | 키 관리 | KMS 감사 기록의 키 식별자 · 판 | 검사 값 A6A6A6A6A6A6A6A6 불일치 = 오류(RFC 3394 2.2.3절) |
| 3 | 새 파일 저장만 「키 사용 불가」 · 옛 파일 읽기는 됨 | 마스터 키가 비활성 상태 | 키 관리 | KMS 키 상태 · 교체 일정 | 비활성 키는 새 보호 금지 · 풀기는 허용(SP 800-57 7.4절) |
| 4 | 백업 사본과 원본이 같은지 의심 | 복제 중 손상 | 해시 함수 | 두 사본의 SHA-256 다이제스트 | 32바이트 값이 하나라도 다르면 다른 파일(FIPS 180-4) |
| 5 | 장기 보관 자료의 키 확립이 RSA 라는 점검 지적 | 지금 모은 암호문을 양자 컴퓨터로 나중에 풀 위험 | 양자내성암호 | 암호 목록(어느 연결 · 파일이 어떤 키 확립을 쓰나) | 키 확립을 ML-KEM(FIPS 203)으로 옮길 대상 · 전환 일정은 암호 시스템 |
8시험 대비
www.q-net.or.kr시험에서는 대칭키 · 공개키 · 해시 · 양자내성암호 · 동형 암호의 원리와 특징을 나란히 묻는 정의 · 특징형과, 저장 데이터 암호화나 키 관리 체계를 세우는 구현 · 설계형으로 나올 수 있다. 정의 · 특징형이면 «안전성 근거 → 지키는 성질 → 크기 비용» 세 축의 표로 쓰고, 구현 · 설계형이면 응용 · KMS · HSM · 저장소 네 요소의 순서도에 키 계층과 교체 절차를 그린다.
- 개요 — 정의(키로 기밀성 · 무결성을 지킴) · 기본 연산 셋 · 새 방향 둘 · 키 관리 · 조합
- 하위 토픽 지도 — 그림 3 일곱 토픽과 안전성 근거(전수 조사 · 소인수분해 · 충돌 · 격자)
- 비교 — 표(지키는 것 · 근거 · 더해지는 크기 · 대표 표준 · 28바이트 ~ 약 111,616바이트)
- 설계 사례 — 그림 4 저장 암호화 순서도(데이터 키 · 키 감싸기 40바이트 · GCM 태그)
- 핵심 원리 — 그림 5 키 계층과 교체 비용(40,000 ↔ 2,000,028,000바이트)
- 동향 — FIPS 203 ~ 205(2024) · HQC 추가 선정(2025) · 동형 암호 매개변수 표준
꼭 쓸 키워드
대칭키공개키해시안전성 근거키 계층데이터 암호화 키키 감싸기HSM양자내성암호동형 암호
다른 답안과 차이를 내는 한 가지는 그림 5 처럼 키 계층의 이유를 «교체 때 다시 처리하는 바이트 수»로 보여, 키 관리가 성능 설계이기도 하다는 판단을 수치로 내는 것이다.
9오해와 사실
- 오해파일을 AES-256 으로 암호화하면 키를 어디에 두든 안전하다.사실키가 데이터와 같은 저장소에 평문으로 있으면 한 번의 유출로 둘 다 넘어가므로, NIST 는 키 종류마다 보호 요건을 따로 둔다(SP 800-57 6.1절).
- 오해동형 암호도 일반 암호처럼 크기가 조금만 늘어난다.사실128비트 보안 · n = 4,096 매개변수에서 암호문 하나가 약 111,616바이트이고(HE 보안 표준 2018 표 1), AES-GCM 은 28바이트만 더한다(RFC 5116 5.2절).
- 오해HSM 에 키를 넣으면 키 관리가 끝난다.사실HSM 은 키를 보관하고 연산하는 암호 모듈(FIPS 140-3 네 보안 수준)일 뿐이고, 키마다 사용 기간 · 교체 · 비활성 · 폐기는 키 관리 절차가 정한다(SP 800-57 5.3.6 · 7절).
10핵심 정리
| 아래 토픽 | 고르는 때 | 키가 있는 곳 | 대표 실패 신호 | 비용이 드는 곳 |
|---|---|---|---|---|
| 암호 시스템 | 쓰임(통신 · 저장)에 맞춰 부품을 엮을 때 | 부품마다 | 부품 하나의 검증 실패 | 조합 설계 |
| 대칭키 암호 | 쌓인 데이터 · 대량 전송 | 응용 메모리(잠깐) | 태그 불일치 | 거의 없음(28바이트) |
| 공개키 암호 | 처음 만나는 상대와 키 확립 · 서명 | 개인키 보관소 | 키 쌍 불일치 | 연결마다 연산 |
| 해시 함수 | 사본 대조 · 요약 · 서명 입력 | 키 없음 | 다이제스트 불일치 | 거의 없음(32바이트) |
| 양자내성암호(PQC) | 10년 넘게 지킬 자료의 키 확립 | 개인키 보관소 | 상대가 새 방식을 모름 | 키 · 암호문 1천 바이트대 |
| 동형 암호 | 남에게 맡긴 계산 | 맡긴 쪽 비밀키 | 결과를 풀지 못함 | 암호문 10만 바이트대 · 연산 시간 |
| 키 관리(KMS · HSM) | 키가 여럿이고 교체 주기가 있을 때 | HSM 안 마스터 키 | 키 상태 · 권한 거부 | 운영 절차 · 모듈 |
11참고 문헌
- 먼저 볼 문헌
- ★ SP 800-57 Part 1 Rev. 5 Recommendation for Key Management: Part 1 - General — 데이터 암호화 키 · 키 감싸기 키의 구분과 키 상태(비활성 · 폐기)를 볼 때
- ★ FIPS 203 Module-Lattice-Based Key-Encapsulation Mechanism Standard — ML-KEM 매개변수 셋과 키 · 암호문 크기(표 3)를 볼 때
- ★ Homomorphic Encryption Security Standard v1.1 — BGV · BFV 방식과 보안 수준별 매개변수 표를 볼 때
- ★ FIPS 140-3 Security Requirements for Cryptographic Modules — HSM 같은 암호 모듈의 네 보안 수준을 볼 때
- 본문 근거
- RFC 3394 Advanced Encryption Standard (AES) Key Wrap Algorithm — IETF · 2002-09 ·
www.rfc-editor.org/rfc/rfc3394· 확인 2026-11-14 - RFC 5116 An Interface and Algorithms for Authenticated Encryption — IETF · 2008-01 ·
www.rfc-editor.org/rfc/rfc5116· 확인 2026-11-14 - FIPS 197 Advanced Encryption Standard (AES) (FIPS 197-upd1) — NIST · 2023-05 ·
csrc.nist.gov/pubs/fips/197/final· 확인 2026-11-14 - FIPS 180-4 Secure Hash Standard (SHS) — NIST · 2015-08 ·
csrc.nist.gov/pubs/fips/180-4/upd1/final· 확인 2026-11-14 - Post-Quantum Cryptography project — NIST · 2026-11 ·
csrc.nist.gov/projects/post-quantum-cryptography· 확인 2026-11-14 - Shor 1994 Algorithms for quantum computation: discrete logarithms and factoring (FOCS 1994) — IEEE · 1994-11 ·
doi.org/10.1109/SFCS.1994.365700· 확인 2026-11-14 - Gentry 2009 Fully homomorphic encryption using ideal lattices (STOC 2009) — ACM · 2009-05 ·
doi.org/10.1145/1536414.1536440· 확인 2026-11-14