IT › 보안 › 암호 · 인증

암호Cryptography

키를 써서 데이터의 기밀성 · 무결성을 지키는 기술이다. 기본 연산(대칭키 · 공개키 · 해시), 새 방향(양자내성암호 · 동형 암호), 그 키를 다루는 키 관리와 이를 엮은 암호 시스템이 여기에 든다.

1요약

  1. 암호는 암호 · 인증의 첫 토픽으로, 대칭키 · 공개키 · 해시의 기본 연산 위에 양자내성암호 · 동형 암호라는 새 방향과 키 관리(KMS · HSM)를 얹고, 암호 시스템이 이 부품을 TLS · 저장 암호화 같은 조합으로 엮는다.
  2. 부품이 맞아도 키가 데이터 옆에 있으면 소용없다 — 그래서 NIST 는 데이터를 잠그는 키와 그 키를 감싸는 키를 다른 종류로 나누고(SP 800-57 5.1.1절), 2024년 8월에는 양자 컴퓨터에 대비한 FIPS 203 ~ 205 를 냈다.
  3. 「어느 암호를 쓰나」는 지킬 것이 무엇이고 어디에 있나로 가른다 — 쌓인 데이터는 대칭키, 처음 만나는 상대와의 키 확립은 공개키(오래 지킬 것이면 양자내성암호), 맡긴 계산은 동형 암호, 그 모든 키의 수명은 키 관리 쪽이다.

2등장 배경

1970년대 저장 · 통신 암호화는 키 하나를 미리 나눠 가진 대칭키뿐이었고, 키를 프로그램 설정이나 데이터와 같은 디스크에 두면 하나를 훔친 사람이 둘 다 가졌다. AES(FIPS 197 · 2001)가 기본 연산을 정한 뒤에도 남은 일은 키를 어디 두나였고, 암호 모듈 보안 요건은 FIPS 140-3(2019)의 네 수준으로, 키를 다른 키로 감싸는 방식은 RFC 3394(2002)로 정리됐다.

1994년 Shor 는 양자 컴퓨터가 소인수분해와 이산 로그를 빠르게 푼다는 알고리즘을 보였다(Shor 1994). RSA · ECC 의 근거가 흔들리자 NIST 는 여러 해의 국제 공모 끝에 2024년 8월 격자 · 해시 기반 표준 FIPS 203 ~ 205 를 냈고, 2025년 HQC 를 추가 표준화 대상으로 골랐다(NIST PQC 프로젝트).

2009년 Gentry 는 암호문을 풀지 않고 덧셈 · 곱셈을 이어 할 수 있는 완전 동형 암호를 처음 구성했다(Gentry 2009). 2018년 연구자 · 기업 공동체가 BGV · BFV 방식과 매개변수 표를 담은 보안 표준을 냈고(HE 보안 표준 2018), 지금 암호의 일은 «여섯 부품 중 무엇을 어디에 쓰고 키를 어떻게 돌리나»를 고르는 것이 됐다.

3쉽게 이해하기 — 기록 보관소의 하루

한 기록 보관소가 고객 서류 상자 1,000개를 맡는다. 직원은 상자마다 다른 작은 열쇠로 잠그고, 작은 열쇠는 봉투에 넣어 지하 금고의 큰 열쇠로 봉인한 뒤 상자 옆에 붙여 둔다. 상자에는 내용으로 만든 번호표를 달아 바뀌면 드러나게 하고, 먼 지점에서 서류를 받을 때는 누구나 채울 수 있는 열린 자물쇠를 보내며, 앞으로 나올 만능 열쇠 기계에 대비해 새 모양 자물쇠로 바꾸는 중이다. 합계를 맡긴 회계사는 상자를 열지 않고 장갑 구멍으로 손을 넣어 셈한다.

기록 보관소의 하루 — 상자 · 열쇠 · 금고 상자 잠그기 1 대칭키 암호 상자마다 작은 열쇠 열쇠 봉인 2 키 관리(KMS · HSM) 큰 열쇠는 금고 안에만 번호표 달기 3 해시 함수 내용이 바뀌면 드러남 열린 자물쇠 4 공개키 암호 먼 지점이 채워 보냄 새 자물쇠 5 양자내성암호(PQC) 만능 열쇠 기계에 대비 장갑 상자 6 동형 암호 열지 않고 합계를 셈

그림 1 · 상자는 작은 열쇠가, 작은 열쇠는 금고가 지키고, 번호표 · 열린 자물쇠 · 새 자물쇠 · 장갑 상자가 각각 다른 암호 토픽에 짝지어진다.

상자 잠그기상자마다 다른 작은 열쇠
열쇠 봉인작은 열쇠를 금고 열쇠로 봉함
번호표 달기내용으로 만든 번호
자물쇠 보내기먼 지점이 채워 돌려줌
자물쇠 바꾸기새 모양으로 교체
장갑 상자 셈열지 않고 합계
비유 실제 금고 안 — 큰 열쇠 밖으로 꺼내지 않음 금고 창구 — 봉투 열기 작은 열쇠만 건넴 접수대 — 상자 열기 작은 열쇠는 쓰고 버림 HSM — 마스터 키(키 감싸기 키) AES-256 · 모듈 밖으로 나가지 않음 KMS — 감싼 키 40바이트 풀기 데이터 키 32바이트만 돌려줌 응용 — AES-256-GCM 복호화 쓴 뒤 메모리에서 지움 키 관리 ↑ 대칭키 ↓

그림 2 · 큰 열쇠는 금고 밖으로 나오지 않고, 금고 창구는 봉투를 열어 작은 열쇠만 건네며, 상자는 접수대에서만 열린다 — 키 관리와 대칭키 암호의 경계가 창구다.

비유 속 역할실제 이름실제로 하는 일
작은 열쇠로 잠근 상자대칭키 암호 · 데이터 키파일마다 AES 키 하나로 암호화하고 인증 태그를 붙인다
지하 금고 · 큰 열쇠키 관리 · HSM · 마스터 키데이터 키를 감싸고 풀며, 마스터 키는 모듈 밖으로 내보내지 않는다
봉인한 봉투감싼 데이터 키데이터 키 32바이트를 키 감싸기로 40바이트로 만들어 파일 옆에 둔다
내용 번호표해시 함수 · 다이제스트파일 전체를 32바이트로 요약해 사본이 같은지 가린다
열린 자물쇠공개키 암호만난 적 없는 상대와 공개값만 주고받아 공유 비밀을 만든다
새 모양 자물쇠양자내성암호격자 문제 위의 ML-KEM 으로 키 확립을 옮긴다
장갑 상자동형 암호암호문끼리 덧셈 · 곱셈을 해서 맡긴 쪽이 평문을 보지 못하게 한다
보관소 운영 규칙암호 시스템위 부품을 저장 · 통신 같은 쓰임에 맞춰 한 체계로 엮는다

⚠ 비유가 맞지 않는 곳: 실제 「봉투」는 열쇠를 숨기기만 하지 않고 바뀌었는지도 함께 검사하며(키 감싸기의 무결성 검사 값), 장갑 상자 셈은 손 한 번이 아니라 수천 배 큰 암호문 위의 계산이라 같은 합계를 내는 데 훨씬 오래 걸린다.

4구조 — 아래 토픽 일곱의 안전성 근거와 크기

일곱 토픽은 기본 연산 셋, 새 방향 둘, 운영 하나, 조합 하나로 나뉜다. 기본 연산은 서로 다른 계산 문제의 어려움에 기대고, 새 방향은 그 근거를 격자 문제로 바꾸거나 넓히며, 키 관리는 모든 토픽의 키를 생성부터 폐기까지 맡는다(SP 800-57 5.1.1 · 7절).

암호 — 일곱 하위 토픽 암호 시스템 조합 — TLS · 저장 암호화처럼 아래 부품을 엮음 대칭키 암호 지킴: 기밀성 · 무결성 근거: 키 전수 조사 비용 공개키 암호 지킴: 키 확립 · 서명 근거: 소인수분해 · 이산 로그 해시 함수 지킴: 무결성 · 요약 근거: 충돌 · 원상 찾기 비용 암호문 위 연산으로 양자 대비 대체 해시 기반 서명 (SLH-DSA) 동형 암호 지킴: 맡긴 계산의 기밀성 근거: 격자(RLWE) 양자내성암호(PQC) 지킴: 양자 이후 키 확립 · 서명 근거: 모듈 격자 · 해시 키 관리(KMS · HSM) 위 여섯 토픽의 모든 키 — 생성 · 보관 · 감싸기 · 교체 · 폐기

그림 3 · 기본 연산 셋이 바닥이고, 양자내성암호는 공개키의 근거를 바꾸며, 동형 암호는 암호문 위 연산으로 넓히고, 키 관리는 모든 토픽의 키를 맡는다.

아래 토픽지키는 것안전성 근거더해지는 크기(예)대표 표준
암호 시스템쓰임별 조합부품 각각조합에 따름상세는 암호 시스템
대칭키 암호기밀성 · 무결성(AEAD)키 전수 조사 비용AES-GCM 28바이트(논스 12 + 태그 16)FIPS 197 · RFC 5116 5.1절
공개키 암호키 확립 · 서명소인수분해 · 이산 로그공개값 · 서명값RSA · ECC
해시 함수무결성 · 요약충돌 · 원상 찾기 비용SHA-256 다이제스트 32바이트FIPS 180-4
양자내성암호(PQC)양자 이후 키 확립 · 서명모듈 격자 · 해시ML-KEM-768 암호문 1,088바이트FIPS 203 표 3 · FIPS 204 · 205
동형 암호맡긴 계산의 기밀성격자(RLWE)n = 4,096 암호문 약 111,616바이트HE 보안 표준 2018 표 1
키 관리(KMS · HSM)키의 수명 전체모듈의 물리 · 논리 보호감싼 256비트 키 40바이트SP 800-57 · FIPS 140-3 · RFC 3394

동형 암호문 크기는 BGV · BFV 암호문이 계수 n 개짜리 다항식 둘이라는 점에서 2 × 4,096 × 109비트로 셈한 값이다(128비트 보안 · 삼진 비밀 · HE 보안 표준 2018 2.1절 표 1).

🔑 기본 연산 셋은 크기를 수십 바이트만 더하지만, 새 방향 둘은 근거를 격자로 바꾸는 대가로 수천에서 수십만 바이트를 더한다 — 암호에서 «무엇을 고르나»는 보호 성질과 크기 비용의 맞바꿈이다.

5동작 — 문서 보관 서비스의 파일 한 건

사내 문서 보관 서비스가 계약서 파일 1,000개(파일마다 2,000,000바이트)를 키 관리 서버(KMS)와 HSM 으로 저장 암호화하는 사례다. 파일 수 · 크기 · 교체 주기는 설명용 가정 값이다.

  1. 응용이 KMS 에 데이터 키 생성을 요청하고, KMS 는 HSM 의 마스터 키(AES-256 키 감싸기 키)로 감싼 사본과 평문 데이터 키 32바이트를 함께 돌려준다(SP 800-57 5.1.1절 6 · 7항).
  2. 응용이 파일을 AES-256-GCM 으로 암호화한다 — 논스 12바이트 · 인증 태그 16바이트가 붙어 저장 크기는 2,000,028바이트다(RFC 5116 5.2절).
  3. 응용이 평문 데이터 키를 메모리에서 지우고, 감싼 데이터 키 40바이트(32 + 8 · RFC 3394 2.2.1절)와 파일의 SHA-256 다이제스트 32바이트(FIPS 180-4)를 파일 머리 · 백업 대조 목록에 적는다.
  4. 읽을 때 응용이 감싼 키 40바이트를 KMS 에 보내면, HSM 이 마스터 키로 풀어 검사 값(A6A6A6A6A6A6A6A6)이 맞을 때만 32바이트를 돌려준다(RFC 3394 2.2.3절).
  5. 응용이 GCM 으로 복호화하고, 태그가 맞지 않으면 평문을 하나도 내지 않고 실패를 돌려준다(RFC 5116 2.2절).
  6. 1년 뒤 마스터 키를 새 키로 바꾸면 KMS 는 파일 1,000개의 감싼 키 40,000바이트만 풀고 다시 감싼다 — 파일 본문 2,000,028,000바이트는 그대로다.
  7. 옛 마스터 키는 비활성 상태로 옮겨 새 보호에는 쓰지 않고, 미처 다시 감싸지 못한 키를 푸는 데만 쓴다(SP 800-57 7.4절).
응용 KMS · HSM 저장소 1 데이터 키 생성 요청 평문 키 32B + 감싼 키 40B 2 AES-256-GCM 3 암호문 2,000,028B · 감싼 키 40B 평문 키 지움 + 다이제스트 32B 4 감싼 키 40B 풀기 요청 검사 값 맞으면 32B 5 복호화 · 태그 6 감싼 키 40,000B 교체 파일 본문은 그대로

그림 4 · 마스터 키는 ①④⑥ 에서 HSM 안에만 있고, 응용은 ② ⑤ 에서 데이터 키를 잠깐 쓰며, 저장소에는 암호문과 감싼 키만 남는다.

키를 바꿀 때 다시 처리하는 양(바이트 · 10배 눈금) 1천 1만 10만 100만 1천만 1억 10억 100억 마스터 키 교체 키 계층 있음 40,000 데이터 키 하나 파일 1개 다시 암호화 2,000,028 마스터 키 교체 계층 없이 키 하나 2,000,028,000 감싼 키만 다시 감쌈 파일 본문 다시 암호화 전부 다시 암호화

그림 5 · 키 계층이 있으면 마스터 키 교체는 감싼 키 40,000바이트만 다시 처리하고, 계층 없이 키 하나로 잠갔다면 2,000,028,000바이트를 모두 다시 암호화해야 한다(약 5만 배).

🔑 키 관리가 키를 계층으로 나누는 까닭은 보안보다 교체 비용이다 — 큰 키를 바꿀 때 작은 키만 다시 감싸면 되므로, 교체 주기를 지키는 일이 데이터 양과 무관해진다.

6비교 — 관련 기술과의 경계

기술맡는 일다루는 결과물암호와의 경계
암호키로 데이터를 감추고 묶는 연산과 그 키의 수명암호문 · 다이제스트 · 감싼 키연산과 키 보관까지
공개키 기반 구조 · 전자서명공개키의 주인을 인증서로 보증 · 서명으로 출처 증명인증서 · 서명값 · 폐지 목록서명 · 공개키 연산은 암호에서 가져가고, 「누구의 키인가」를 더함
인증접속한 주체가 등록한 그 사람인지 판정인증기 · 판정 결과인증기 안의 HMAC · 서명 연산을 암호에서 씀
인증 · 인가 프로토콜인증 결과를 다른 서비스로 실어 나름티켓 · 토큰 · 주장토큰의 서명 · 암호화 알고리즘을 암호에서 고름
ID · 접근 관리 체계계정 · 역할의 수명과 허용 여부계정 · 역할 · 정책KMS 의 「누가 이 키를 풀어도 되나」 정책을 정함

분석질문이 «어떤 연산 · 키 길이 · 키 보관»이면 암호, «이 키가 누구 것인가»면 공개키 기반 구조 · 전자서명, «이 사람이 맞나 · 무엇을 허용하나»면 인증 · ID · 접근 관리 체계로 넘긴다. 근거는 표의 「암호와의 경계」 열이며, NIST 도 키 종류 · 보호 요건(SP 800-57 5.1.1 · 6.1절)과 키를 쓸 주체의 인가를 나눠 적는다.

7실무 진단 — 암호 오류의 아래 토픽 가르기

분석실패가 데이터를 풀 때 났는지, 키를 풀 때 났는지부터 가르고, 키 쪽이면 키 상태 → 권한 순, 데이터 쪽이면 키 판 → 변조 순으로 본다. GCM 은 키가 틀려도 변조와 똑같이 태그 실패만 돌려주므로(RFC 5116 2.2절), 태그 실패를 변조로 판정하기 전에 감싼 키의 판부터 맞춘다.

#증상의심 원인아래 토픽확인 자료판정 기준(근거)
1일부 파일만 복호화가 「태그 불일치」로 실패파일 머리의 감싼 키와 본문이 다른 판 · 본문 변조대칭키 암호복호화 오류 기록 · 파일 머리의 키 식별자태그가 틀리면 평문을 내지 않음(RFC 5116 2.2절)
2감싼 키 풀기가 「무결성 검사 실패」다른 마스터 키로 풀거나 감싼 키 손상키 관리KMS 감사 기록의 키 식별자 · 판검사 값 A6A6A6A6A6A6A6A6 불일치 = 오류(RFC 3394 2.2.3절)
3새 파일 저장만 「키 사용 불가」 · 옛 파일 읽기는 됨마스터 키가 비활성 상태키 관리KMS 키 상태 · 교체 일정비활성 키는 새 보호 금지 · 풀기는 허용(SP 800-57 7.4절)
4백업 사본과 원본이 같은지 의심복제 중 손상해시 함수두 사본의 SHA-256 다이제스트32바이트 값이 하나라도 다르면 다른 파일(FIPS 180-4)
5장기 보관 자료의 키 확립이 RSA 라는 점검 지적지금 모은 암호문을 양자 컴퓨터로 나중에 풀 위험양자내성암호암호 목록(어느 연결 · 파일이 어떤 키 확립을 쓰나)키 확립을 ML-KEM(FIPS 203)으로 옮길 대상 · 전환 일정은 암호 시스템

8시험 대비

출제 정보 정보관리(138회, 137회, 136회, 135회, 133회, 132회, 131회, 130회, 128회, 127회, 125회, 117회, 116회, 114회, 113회, 107회, 98회, 96회, 78회, 72회, 69회) · 컴퓨터시스템응용(138회, 113회, 111회, 110회, 108회, 104회, 81회, 66회)문제 원문 — 큐넷 자료실 「기출문제(기술사)」 www.q-net.or.kr

시험에서는 대칭키 · 공개키 · 해시 · 양자내성암호 · 동형 암호의 원리와 특징을 나란히 묻는 정의 · 특징형과, 저장 데이터 암호화나 키 관리 체계를 세우는 구현 · 설계형으로 나올 수 있다. 정의 · 특징형이면 «안전성 근거 → 지키는 성질 → 크기 비용» 세 축의 표로 쓰고, 구현 · 설계형이면 응용 · KMS · HSM · 저장소 네 요소의 순서도에 키 계층과 교체 절차를 그린다.

답안 목차
  1. 개요 — 정의(키로 기밀성 · 무결성을 지킴) · 기본 연산 셋 · 새 방향 둘 · 키 관리 · 조합
  2. 하위 토픽 지도 — 그림 3 일곱 토픽과 안전성 근거(전수 조사 · 소인수분해 · 충돌 · 격자)
  3. 비교 — 표(지키는 것 · 근거 · 더해지는 크기 · 대표 표준 · 28바이트 ~ 약 111,616바이트)
  4. 설계 사례 — 그림 4 저장 암호화 순서도(데이터 키 · 키 감싸기 40바이트 · GCM 태그)
  5. 핵심 원리 — 그림 5 키 계층과 교체 비용(40,000 ↔ 2,000,028,000바이트)
  6. 동향 — FIPS 203 ~ 205(2024) · HQC 추가 선정(2025) · 동형 암호 매개변수 표준

꼭 쓸 키워드
대칭키공개키해시안전성 근거키 계층데이터 암호화 키키 감싸기HSM양자내성암호동형 암호

다른 답안과 차이를 내는 한 가지는 그림 5 처럼 키 계층의 이유를 «교체 때 다시 처리하는 바이트 수»로 보여, 키 관리가 성능 설계이기도 하다는 판단을 수치로 내는 것이다.

9오해와 사실

  • 오해파일을 AES-256 으로 암호화하면 키를 어디에 두든 안전하다.
    사실키가 데이터와 같은 저장소에 평문으로 있으면 한 번의 유출로 둘 다 넘어가므로, NIST 는 키 종류마다 보호 요건을 따로 둔다(SP 800-57 6.1절).
  • 오해동형 암호도 일반 암호처럼 크기가 조금만 늘어난다.
    사실128비트 보안 · n = 4,096 매개변수에서 암호문 하나가 약 111,616바이트이고(HE 보안 표준 2018 표 1), AES-GCM 은 28바이트만 더한다(RFC 5116 5.2절).
  • 오해HSM 에 키를 넣으면 키 관리가 끝난다.
    사실HSM 은 키를 보관하고 연산하는 암호 모듈(FIPS 140-3 네 보안 수준)일 뿐이고, 키마다 사용 기간 · 교체 · 비활성 · 폐기는 키 관리 절차가 정한다(SP 800-57 5.3.6 · 7절).

10핵심 정리

아래 토픽고르는 때키가 있는 곳대표 실패 신호비용이 드는 곳
암호 시스템쓰임(통신 · 저장)에 맞춰 부품을 엮을 때부품마다부품 하나의 검증 실패조합 설계
대칭키 암호쌓인 데이터 · 대량 전송응용 메모리(잠깐)태그 불일치거의 없음(28바이트)
공개키 암호처음 만나는 상대와 키 확립 · 서명개인키 보관소키 쌍 불일치연결마다 연산
해시 함수사본 대조 · 요약 · 서명 입력키 없음다이제스트 불일치거의 없음(32바이트)
양자내성암호(PQC)10년 넘게 지킬 자료의 키 확립개인키 보관소상대가 새 방식을 모름키 · 암호문 1천 바이트대
동형 암호남에게 맡긴 계산맡긴 쪽 비밀키결과를 풀지 못함암호문 10만 바이트대 · 연산 시간
키 관리(KMS · HSM)키가 여럿이고 교체 주기가 있을 때HSM 안 마스터 키키 상태 · 권한 거부운영 절차 · 모듈

11참고 문헌

  1. 먼저 볼 문헌
  2. ★ SP 800-57 Part 1 Rev. 5 Recommendation for Key Management: Part 1 - General — 데이터 암호화 키 · 키 감싸기 키의 구분과 키 상태(비활성 · 폐기)를 볼 때
    NIST · 2020-05 · csrc.nist.gov/pubs/sp/800/57/pt1/r5/final · 확인 2026-11-14
  3. ★ FIPS 203 Module-Lattice-Based Key-Encapsulation Mechanism Standard — ML-KEM 매개변수 셋과 키 · 암호문 크기(표 3)를 볼 때
    NIST · 2024-08 · csrc.nist.gov/pubs/fips/203/final · 확인 2026-11-14
  4. ★ Homomorphic Encryption Security Standard v1.1 — BGV · BFV 방식과 보안 수준별 매개변수 표를 볼 때
    HomomorphicEncryption.org · 2018-11 · homomorphicencryption.org/standard/ · 확인 2026-11-14
  5. ★ FIPS 140-3 Security Requirements for Cryptographic Modules — HSM 같은 암호 모듈의 네 보안 수준을 볼 때
    NIST · 2019-03 · csrc.nist.gov/pubs/fips/140-3/final · 확인 2026-11-14
  6. 본문 근거
  7. RFC 3394 Advanced Encryption Standard (AES) Key Wrap Algorithm — IETF · 2002-09 · www.rfc-editor.org/rfc/rfc3394 · 확인 2026-11-14
  8. RFC 5116 An Interface and Algorithms for Authenticated Encryption — IETF · 2008-01 · www.rfc-editor.org/rfc/rfc5116 · 확인 2026-11-14
  9. FIPS 197 Advanced Encryption Standard (AES) (FIPS 197-upd1) — NIST · 2023-05 · csrc.nist.gov/pubs/fips/197/final · 확인 2026-11-14
  10. FIPS 180-4 Secure Hash Standard (SHS) — NIST · 2015-08 · csrc.nist.gov/pubs/fips/180-4/upd1/final · 확인 2026-11-14
  11. Post-Quantum Cryptography project — NIST · 2026-11 · csrc.nist.gov/projects/post-quantum-cryptography · 확인 2026-11-14
  12. Shor 1994 Algorithms for quantum computation: discrete logarithms and factoring (FOCS 1994) — IEEE · 1994-11 · doi.org/10.1109/SFCS.1994.365700 · 확인 2026-11-14
  13. Gentry 2009 Fully homomorphic encryption using ideal lattices (STOC 2009) — ACM · 2009-05 · doi.org/10.1145/1536414.1536440 · 확인 2026-11-14