기밀 컴퓨팅Confidential Computing
처리 중인 데이터와 코드를 하드웨어가 만든 신뢰 실행 환경(TEE) 안에 두어 운영체제 · 하이퍼바이저 · 운영자도 읽거나 바꾸지 못하게 하고, 원격 증명으로 그 환경이 진짜인지 확인한 뒤에만 키와 데이터를 넘기는 보안 기술이다.
1요약
- 기밀 컴퓨팅은 저장 중(디스크 암호화) · 전송 중(TLS) 다음 남은 사용 중 데이터를 CPU 가 만든 TEE 안에서 처리하는 방식으로, 2019년 리눅스 재단 아래 모인 업계 협의체(CCC)가 정의했고 그 위에서 기밀 VM · 엔클레이브 응용 · 원격 증명 기반 키 해제가 돈다.
- 처리 중인 데이터는 메모리에 평문으로 있어 운영체제 · 하이퍼바이저 · 물리 접근자가 읽을 수 있다 — 2008년 실험에서 전원을 끊은 DRAM 은 상온에서도 수 초간 내용을 유지했고, −50 °C 로 식히면 10분 뒤에도 비트 손상이 1% 미만이라 디스크 암호화 키를 메모리에서 되찾았다(Halderman 2008).
- 「기밀 VM 인데 키가 안 나온다」는 증명 결과의 어느 항목이 틀렸는가로 가른다 — 측정값이 기준값과 다르면 이미지 · 기준값 관리, nonce 가 다르면 오래된 보고서 재사용, 보고서 자체가 없으면 하드웨어 기능이 꺼진 VM 이다.
2등장 배경
클라우드로 옮긴 데이터는 디스크와 망에서는 암호문이지만, 계산하는 순간에는 메모리에 평문으로 풀려 호스트 운영자 · 하이퍼바이저 · 같은 서버의 다른 소프트웨어 앞에 놓였다. 2008년 7월 Halderman 등은 꺼진 DRAM 에서 디스크 암호화 키를 되찾아, 소프트웨어 통제만으로는 메모리 속 평문을 지킬 수 없음을 보였다(Halderman 2008).
그 뒤 CPU 가 특정 메모리 영역을 암호화 · 격리하는 확장이 나왔다. 응용의 일부만 엔클레이브로 감싸는 방식은 특권 소프트웨어가 악성이어도 계산을 지키는 것을 목표로 했고(Costan 2016), 이어 VM 전체를 감싸는 기밀 VM 이 리눅스 커널의 게스트 지원으로 들어왔다(커널 TDX 문서). 2019년 8월 리눅스 재단이 CCC 결성을 알렸고(Linux Foundation 2019), CCC 기술 백서는 보호 대상을 사용 중 데이터로 좁히고, 실행 환경이 하드웨어에 기반할 것과 증명을 거칠 것 두 조건을 정의에 함께 적었다(CCC 2021 2.1절).
증명 절차는 2023년 1월 IETF RFC 9334 가 역할 이름과 메시지 흐름을 공통 구조로 묶었다. 지금은 클라우드의 기밀 VM, 여러 기관이 데이터를 맞대는 공동 분석, 모델 가중치를 지키는 AI 추론 서버가 같은 구조를 쓴다.
3쉽게 이해하기 — 공유 오피스의 잠긴 작업실
본사 직원이 공유 오피스 건물의 작업실 한 칸을 빌려 기밀 서류를 처리한다. 건물 관리인은 모든 방을 여는 마스터키를 갖고 있지만, 이 작업실 자물쇠는 자물쇠 회사가 벽 속에 심어 둔 것이라 마스터키가 맞지 않는다. 본사는 서류 금고 열쇠를 보내기 전에, 작업실 자물쇠가 찍어 준 봉인 확인서를 자물쇠 회사 창구에 보여 진품인지 확인한다. 확인이 끝나야 열쇠가 작업실로 간다.
그림 1 · 관리인의 마스터키는 벽 속 자물쇠에 맞지 않고, 본사는 봉인 확인서를 자물쇠 회사 창구에서 확인한 뒤에만 금고 열쇠를 작업실로 보낸다.
그림 2 · 봉인 확인서는 방 안 상태 · 본사가 준 오늘 번호 · 자물쇠 회사 도장 셋이 모두 맞아야 통과한다 — 실제로는 측정값 · nonce · 하드웨어 서명이다.
| 비유 속 역할 | 실제 이름 | 실제로 하는 일 |
|---|---|---|
| 공유 오피스 건물 | 클라우드 호스트 | 여러 고객의 VM 을 한 서버에서 돌린다 |
| 관리인 · 마스터키 | 하이퍼바이저 · 호스트 운영자 | 일반 VM 의 메모리 · 레지스터를 읽고 바꿀 수 있다 |
| 잠긴 작업실 | TEE(엔클레이브 · 기밀 VM) | 메모리를 VM 마다 다른 키로 암호화하고 밖의 접근을 막는다 |
| 벽 속 자물쇠 | CPU 신뢰 루트 · 보안 펌웨어 | 키를 칩 안에 두고 측정 · 서명을 맡는다 |
| 봉인 확인서 | 증명 보고서(Evidence) | 측정값 · nonce 를 하드웨어 키로 서명한다 |
| 자물쇠 회사 창구 | 검증기(Verifier) | 서명 · 측정값 · nonce 를 기준과 대조해 결과를 낸다 |
| 금고 열쇠 | 키 브로커가 내주는 데이터 키 | 증명을 통과한 TEE 에만 디스크 · 모델 키를 보낸다 |
| 방 안에서 처리 | 사용 중 데이터 처리 | 평문은 CPU 안에서만 생기고 메모리에는 암호문으로 남는다 |
⚠ 비유가 맞지 않는 곳: 실제 작업실은 관리인이 전기를 끊거나 방을 비울 수 있다 — 기밀 컴퓨팅은 가용성 공격을 막지 않는다(CCC 2021 5.2.2절). 또 작업실은 소리 · 전력 같은 간접 신호를 밖으로 흘릴 수 있어, 부채널 대응은 하드웨어 · 응용이 함께 맡는다(5.3절).
4구조 — 신뢰 경계를 긋는 세 방식
TEE 는 CCC 정의상 데이터 기밀성 · 데이터 무결성 · 코드 무결성 세 성질을 보장하는 실행 환경이고, 증명 가능성 · 코드 기밀성은 구현마다 더해진다(CCC 2021 3.1절). 방식은 신뢰 경계를 어디에 긋는가로 나뉜다.
그림 3 · 세 방식 모두 CPU 를 신뢰 루트로 두되, 경계 안에 응용 일부만 넣는가 · 게스트 운영체제까지 넣는가 · 보안 세계를 따로 두는가가 다르다.
| 요소 | 위치 | 역할 | 값 · 근거 |
|---|---|---|---|
| 하드웨어 신뢰 루트 | CPU · 보안 펌웨어 | 메모리 키 생성 · 측정 · 서명 | 키는 칩 밖으로 나오지 않음(NIST IR 8320) |
| 메모리 암호화 · 격리 | 메모리 제어기 | TEE 마다 다른 키로 암호화 · 무결성 검사 | 기밀 VM 메모리는 부팅 때 전부 비공개(커널 TDX 문서) |
| 공유 메모리 | TEE 경계 | 입출력 · 하이퍼바이저와 주고받기 | 보호 없음 · 커널 스택 같은 민감 데이터 금지(커널 TDX 문서) |
| 측정 · 보고서 | TEE 안 | 시작 이미지 해시 + 사용자 데이터에 서명 | 사용자 데이터 최대 64바이트(configfs-tsm) |
| 검증기 | 외부 서비스 | 보고서를 승인 값 · 기준값과 대조 | Endorsement · Reference Value(RFC 9334 8.2 · 8.3절) |
| 신뢰 당사자 · 키 브로커 | 데이터 주인 쪽 | 증명 결과로 키 · 데이터 제공 여부 판정 | Attestation Result(RFC 9334 8.4절) |
🔑 메모리 암호화는 운영자를 «밖으로 밀어내고», 원격 증명은 데이터 주인이 «안을 확인하게» 한다 — 증명이 빠진 TEE 는 진짜 TEE 인지 · 그 안에 원하는 코드가 도는지 알 수 없다(CCC 2021 2.1절).
5동작 — 기밀 VM 이 디스크 키를 받는 원격 증명
기밀 VM 안의 분석 작업이 키 브로커 kbs.example.com 에서 디스크 복호 키(AES-256 · 32바이트)를 받는 사례로, RFC 9334 의 Background-Check 모델(5.2절)이다. 브로커 이름 · 보고서 이름 r1 · 키 길이는 설명용 가정 값이다.
- VM 이 시작될 때 보안 펌웨어가 초기 메모리 이미지를 측정해 측정 레지스터에 기록한다 — 이 값은 VM 안 소프트웨어도 바꿀 수 없다(커널 TDX 문서).
- VM 안 응용이 브로커에 키를 요청하고, 브로커는 예측할 수 없는 nonce 64바이트를 돌려준다(RFC 9334 10.2절).
- 응용이 nonce 를
/에 쓰고sys/ kernel/ config/ tsm/ report/ r1/ inblob outblob을 읽는다 —provider가tdx_guest또는sev_guest로 보고서 형식을 알린다(configfs-tsm). - 응용이 측정값 · nonce · 하드웨어 서명이 든 보고서(Evidence)를 브로커에 보내고, 브로커는 이를 검증기로 넘긴다(RFC 9334 5.2절).
- 검증기는 서명을 제조사 인증서로, 측정값을 승인된 이미지의 기준값으로, nonce 를 2단계 값으로 대조해 「허용」 결과에 서명한다(8.4절).
- 브로커는 결과를 확인하고 디스크 키를 VM 안 공개키로 감싸 보낸다 — 호스트는 감싼 키만 본다.
- 응용이 VM 안에서 키를 풀어 디스크를 열고, 평문 데이터는 VM 의 비공개 메모리에만 놓인다.
그림 4 · nonce 가 든 보고서가 검증기를 통과해야 브로커가 키를 내주며, 호스트가 볼 수 있는 것은 감싼 키뿐이다.
그림 5 · 일반 VM 에서는 메모리 위치가 평문이라 호스트 쪽 셋이 읽을 수 있고, 기밀 VM 은 그 위치만 암호문으로 바꿔 평문을 CPU 안에만 남긴다.
🔑 기밀 컴퓨팅이 바꾸는 위치는 메모리 하나다 — 디스크 · 망 암호화는 그대로 두고, 평문이 남던 마지막 위치를 CPU 안으로 줄인다.
6비교 — 일반 VM · 동형 암호 · TPM 과의 차이
| 기준 | 기밀 컴퓨팅(TEE) | 일반 VM | 동형 암호 | TPM |
|---|---|---|---|---|
| 사용 중 데이터 기밀성 | 있음 | 없음 — 호스트가 읽음 | 있음 — 암호문 그대로 계산 | 키만 보호 |
| 코드 무결성 | 있음 | 호스트를 믿어야 함 | 보장 안 함 | 있음(측정) |
| 임의 프로그램 | 있음 | 있음 | 연산 회로 일부 | 없음 |
| 원격 증명 | 있음 | 없음 | 없음 | 있음 |
| 계산 속도 | 높음 ~ 중간 | 높음 | 낮음 | 해당 없음 |
| 믿어야 하는 쪽 | CPU 제조사 · 보안 펌웨어 | 공급자 전체 | 수학적 가정 | 칩 제조사 |
분석임의 응용을 거의 그대로 돌리며 운영자를 배제하려면 기밀 컴퓨팅, 하드웨어 제조사도 믿을 수 없고 연산이 단순하면 동형 암호, 부팅 무결성과 키 보관만 필요하면 TPM 을 고른다. 근거는 CCC 2021 4.1 · 4.2절 비교표의 「코드 무결성」 · 「계산 속도」 행이며, 셋은 함께 쓸 수 있다.
7실무 진단 — 증명 실패와 성능 저하 가르기
분석먼저 VM 안에 보고서 인터페이스가 있는지 보고, 있으면 검증기 결과의 항목(서명 · 측정값 · nonce)을 하나씩 대조한다. 보고서가 없으면 그 위 검증 · 정책을 볼 필요 없이 VM 생성 설정 문제로 끝나기 때문이다(configfs-tsm).
| # | 증상 | 의심 원인 | 구분 | 확인 명령 · 자료 | 판정 기준(근거) |
|---|---|---|---|---|---|
| 1 | 보고서를 받을 수 없음 | 기밀 기능이 꺼진 일반 VM 으로 생성 | 하드웨어 · 생성 설정 | cat / | 디렉터리 생성 실패 · provider 없음 = TSM 미지원(configfs-tsm) |
| 2 | 이미지 갱신 뒤 키 거부 | 측정값이 기준값 목록에 없음 | 검증 정책 | 검증기 결과의 측정 항목 · 기준값 목록 | 측정값 ≠ 기준값 = 기준값 미갱신(RFC 9334 8.3절) |
| 3 | 간헐적 거부 | 앞 요청의 보고서 재사용 · 동시 쓰기 | 신선도 | cat …/r1/generation · 브로커 nonce 기록 | nonce 불일치 = 재전송으로 판정(RFC 9334 10.2절) · generation 이 예상보다 크면 다른 쓰기가 끼어듦(configfs-tsm) |
| 4 | 입출력이 많은 작업만 느림 | 공유 메모리를 거치는 복사 | 입출력 경로 | 작업별 입출력량 대비 CPU 시간 | 입출력은 공유 메모리 버퍼를 거침(커널 TDX 문서 · SWIOTLB) |
측정값 불일치는 이미지 배포 절차에서 기준값 등록이 빠진 경우가 많아, 증명 실패가 나면 이미지 해시와 기준값 목록 갱신 시각부터 맞춘다.
8시험 대비
시험에서는 등장 배경 · TEE 성질 · 원격 증명을 묻는 정의 · 특징형, 동형 암호 · TPM 과 견주어 사용 중 데이터 보호 방식을 고르는 비교형으로 나올 수 있다. 비교형이면 비교표에 «믿어야 하는 쪽» 행을 꼭 넣는다.
- 개요 — 데이터 세 상태(저장 · 전송 · 사용) · CCC 정의(하드웨어 기반 · 증명된 TEE) · 콜드 부트 실험 수치
- 구성 — 그림 3 세 방식 신뢰 경계(프로세스 · VM · 보안 세계) + 요소 표(신뢰 루트 · 메모리 암호화 · 공유 메모리 · 측정 · 검증기)
- 원격 증명 절차 — 그림 4 순서도(nonce → 보고서 → 검증기 → 키 해제) · RFC 9334 역할 이름
- 보호 원리 — 그림 5 네 위치 상태(메모리 위치만 암호문으로 바뀜)
- 비교 — 일반 VM · 동형 암호 · TPM 비교표 6행 + 선택 기준
- 한계 · 동향 — 부채널 · 가용성 공격은 범위 밖 · GPU 등 가속기로 넓어지는 TEE
꼭 쓸 키워드
사용 중 데이터신뢰 실행 환경엔클레이브기밀 VM메모리 암호화원격 증명측정값nonce키 브로커부채널
다른 답안과 차이를 내려면 그림 5 처럼 «평문이 남는 위치가 메모리에서 CPU 안으로 줄어든다»를 네 위치로 보인다.
9오해와 사실
- 오해기밀 컴퓨팅을 쓰면 클라우드 쪽은 아무것도 믿지 않아도 된다.사실CPU 제조사 · 보안 펌웨어 · 증명 인증서는 여전히 믿어야 하고, 서비스 거부 같은 가용성 공격은 위협 범위 밖이다(CCC 2021 5.2.2절).
- 오해메모리가 암호화되면 부채널 공격도 막힌다.사실전력 · 시간 차이 같은 부채널은 TEE 설계만으로 막히지 않아, CCC 는 그 대응을 하드웨어 공급자와 응용 개발자가 함께 맡는다고 본다(CCC 2021 5.3절).
- 오해TEE 안에서 돌기만 하면 데이터를 넘겨도 된다.사실증명 없이는 상대가 진짜 TEE 인지, 승인한 이미지가 도는지 알 수 없어 CCC 정의에 «증명된» 조건이 들어 있다(CCC 2021 2.1절).
10핵심 정리
| 구성 | 맡는 일 | 위치 | 대표 값 · 인터페이스 | 빠지면 |
|---|---|---|---|---|
| 신뢰 루트 | 키 생성 · 측정 · 서명 | CPU · 보안 펌웨어 | 칩 안 키 | 증명 위조 |
| 메모리 암호화 | TEE 마다 다른 키로 암호화 | 메모리 제어기 | 비공개 메모리 | 호스트가 평문 읽음 |
| 공유 메모리 | 입출력 통로 | TEE 경계 | SWIOTLB 버퍼 | 민감 데이터 노출 |
| 증명 보고서 | 측정값 + nonce + 서명 | TEE 안 | inblob 64B · outblob | 신선도 확인 불가 |
| 검증기 | 기준값 · 인증서 대조 | 외부 서비스 | Attestation Result | 바뀐 이미지 통과 |
| 키 브로커 | 결과 보고 키 해제 | 데이터 주인 쪽 | 감싼 데이터 키 | 운영자에게 키 노출 |
11참고 문헌
- 먼저 볼 문헌
- ★ A Technical Analysis of Confidential Computing v1.2 — 기밀 컴퓨팅의 정의 · TEE 성질 · 위협 범위(범위 안 · 밖)를 볼 때
- ★ RFC 9334 Remote ATtestation procedureS (RATS) Architecture — 증명자 · 검증기 · 신뢰 당사자의 역할과 신선도 방식을 볼 때
- ★ configfs-tsm (ABI testing) — /sys/kernel/config/tsm/report — 기밀 VM 안에서 증명 보고서를 받는 인터페이스를 볼 때
- ★ Intel Trust Domain Extensions (TDX) — 기밀 VM 의 비공개 메모리 · 공유 메모리 구분을 볼 때
- 본문 근거
- Lest We Remember: Cold Boot Attacks on Encryption Keys — J. A. Halderman 외 · 17th USENIX Security Symposium · 2008-07 ·
www.usenix.org/legacy/event/sec08/tech/full_papers/halderman/halderman_html/· 확인 2026-11-14 - NIST IR 8320 Hardware-Enabled Security: Enabling a Layered Approach to Platform Security for Cloud and Edge Computing Use Cases — NIST · 2022-05 ·
csrc.nist.gov/pubs/ir/8320/final· 확인 2026-11-14 - The Linux Kernel user-space API guide — AMD SEV guest API (sev-guest) — The Linux Kernel documentation · 2026-11 ·
docs.kernel.org/virt/coco/sev-guest.html· 확인 2026-11-14 - Intel SGX Explained (Cryptology ePrint Archive 2016/086) — V. Costan · S. Devadas · IACR · 2016-01 ·
eprint.iacr.org/2016/086· 확인 2026-11-14 - New Cross-Industry Effort to Advance Computational Trust and Security for Next-Generation Cloud and Edge Computing — The Linux Foundation · 2019-08 ·
www.linuxfoundation.org/press-release/new-cross-industry-effort-to-advance-computational-trust-and-security-for-next-generation-cloud-and-edge-computing/· 확인 2026-11-14