IT › 보안 › 시스템 보안 › 컴퓨팅 플랫폼 보안

기밀 컴퓨팅Confidential Computing

처리 중인 데이터와 코드를 하드웨어가 만든 신뢰 실행 환경(TEE) 안에 두어 운영체제 · 하이퍼바이저 · 운영자도 읽거나 바꾸지 못하게 하고, 원격 증명으로 그 환경이 진짜인지 확인한 뒤에만 키와 데이터를 넘기는 보안 기술이다.

1요약

  1. 기밀 컴퓨팅은 저장 중(디스크 암호화) · 전송 중(TLS) 다음 남은 사용 중 데이터를 CPU 가 만든 TEE 안에서 처리하는 방식으로, 2019년 리눅스 재단 아래 모인 업계 협의체(CCC)가 정의했고 그 위에서 기밀 VM · 엔클레이브 응용 · 원격 증명 기반 키 해제가 돈다.
  2. 처리 중인 데이터는 메모리에 평문으로 있어 운영체제 · 하이퍼바이저 · 물리 접근자가 읽을 수 있다 — 2008년 실험에서 전원을 끊은 DRAM 은 상온에서도 수 초간 내용을 유지했고, −50 °C 로 식히면 10분 뒤에도 비트 손상이 1% 미만이라 디스크 암호화 키를 메모리에서 되찾았다(Halderman 2008).
  3. 「기밀 VM 인데 키가 안 나온다」는 증명 결과의 어느 항목이 틀렸는가로 가른다 — 측정값이 기준값과 다르면 이미지 · 기준값 관리, nonce 가 다르면 오래된 보고서 재사용, 보고서 자체가 없으면 하드웨어 기능이 꺼진 VM 이다.

2등장 배경

클라우드로 옮긴 데이터는 디스크와 망에서는 암호문이지만, 계산하는 순간에는 메모리에 평문으로 풀려 호스트 운영자 · 하이퍼바이저 · 같은 서버의 다른 소프트웨어 앞에 놓였다. 2008년 7월 Halderman 등은 꺼진 DRAM 에서 디스크 암호화 키를 되찾아, 소프트웨어 통제만으로는 메모리 속 평문을 지킬 수 없음을 보였다(Halderman 2008).

그 뒤 CPU 가 특정 메모리 영역을 암호화 · 격리하는 확장이 나왔다. 응용의 일부만 엔클레이브로 감싸는 방식은 특권 소프트웨어가 악성이어도 계산을 지키는 것을 목표로 했고(Costan 2016), 이어 VM 전체를 감싸는 기밀 VM 이 리눅스 커널의 게스트 지원으로 들어왔다(커널 TDX 문서). 2019년 8월 리눅스 재단이 CCC 결성을 알렸고(Linux Foundation 2019), CCC 기술 백서는 보호 대상을 사용 중 데이터로 좁히고, 실행 환경이 하드웨어에 기반할 것과 증명을 거칠 것 두 조건을 정의에 함께 적었다(CCC 2021 2.1절).

증명 절차는 2023년 1월 IETF RFC 9334 가 역할 이름과 메시지 흐름을 공통 구조로 묶었다. 지금은 클라우드의 기밀 VM, 여러 기관이 데이터를 맞대는 공동 분석, 모델 가중치를 지키는 AI 추론 서버가 같은 구조를 쓴다.

3쉽게 이해하기 — 공유 오피스의 잠긴 작업실

본사 직원이 공유 오피스 건물의 작업실 한 칸을 빌려 기밀 서류를 처리한다. 건물 관리인은 모든 방을 여는 마스터키를 갖고 있지만, 이 작업실 자물쇠는 자물쇠 회사가 벽 속에 심어 둔 것이라 마스터키가 맞지 않는다. 본사는 서류 금고 열쇠를 보내기 전에, 작업실 자물쇠가 찍어 준 봉인 확인서를 자물쇠 회사 창구에 보여 진품인지 확인한다. 확인이 끝나야 열쇠가 작업실로 간다.

공유 오피스 건물 데이터센터 관리인 하이퍼바이저 · 운영자 마스터키 다른 방은 모두 열림 4 마스터키가 맞지 않음 잠긴 작업실 TEE · 기밀 VM 기밀 서류 사용 중 데이터 벽 속 자물쇠 CPU 신뢰 루트 본사 데이터 주인 금고 열쇠 데이터 키 자물쇠 회사 창구 검증기 자물쇠 진품 · 방 상태 확인 1 봉인 확인서 2 진품 확인 3 확인 뒤 열쇠 번호 = 이야기 순서 · 이름표 = 실제 기술 · 굵은 테두리 = 신뢰 경계

그림 1 · 관리인의 마스터키는 벽 속 자물쇠에 맞지 않고, 본사는 봉인 확인서를 자물쇠 회사 창구에서 확인한 뒤에만 금고 열쇠를 작업실로 보낸다.

작업실 빌림공유 오피스 한 칸에 입주
벽 속 자물쇠마스터키가 맞지 않는 방
봉인 확인서방 안 상태와 오늘 번호를 찍음
창구 확인자물쇠 회사가 진품인지 봄
열쇠 보냄확인된 방에만 금고 열쇠
서류 처리관리인 모르게 방 안에서만
비유 — 봉인 확인서 세 칸 실제 — 증명 보고서 세 항목 방 안 물건 목록의 지문 입주 때 들인 것과 같은가 측정값 시작 이미지 해시 = 기준값 본사가 준 오늘 번호 어제 찍은 확인서는 무효 nonce 검증 쪽이 준 64바이트가 그대로 자물쇠 회사 도장 위조한 확인서를 가려냄 하드웨어 서명 증명 키 서명 + 제조사 인증서 세 칸 모두 맞음 → 열쇠 전달 세 항목 모두 통과 → 데이터 키 해제 한 칸이라도 틀리면 열쇠는 나가지 않는다

그림 2 · 봉인 확인서는 방 안 상태 · 본사가 준 오늘 번호 · 자물쇠 회사 도장 셋이 모두 맞아야 통과한다 — 실제로는 측정값 · nonce · 하드웨어 서명이다.

비유 속 역할실제 이름실제로 하는 일
공유 오피스 건물클라우드 호스트여러 고객의 VM 을 한 서버에서 돌린다
관리인 · 마스터키하이퍼바이저 · 호스트 운영자일반 VM 의 메모리 · 레지스터를 읽고 바꿀 수 있다
잠긴 작업실TEE(엔클레이브 · 기밀 VM)메모리를 VM 마다 다른 키로 암호화하고 밖의 접근을 막는다
벽 속 자물쇠CPU 신뢰 루트 · 보안 펌웨어키를 칩 안에 두고 측정 · 서명을 맡는다
봉인 확인서증명 보고서(Evidence)측정값 · nonce 를 하드웨어 키로 서명한다
자물쇠 회사 창구검증기(Verifier)서명 · 측정값 · nonce 를 기준과 대조해 결과를 낸다
금고 열쇠키 브로커가 내주는 데이터 키증명을 통과한 TEE 에만 디스크 · 모델 키를 보낸다
방 안에서 처리사용 중 데이터 처리평문은 CPU 안에서만 생기고 메모리에는 암호문으로 남는다

⚠ 비유가 맞지 않는 곳: 실제 작업실은 관리인이 전기를 끊거나 방을 비울 수 있다 — 기밀 컴퓨팅은 가용성 공격을 막지 않는다(CCC 2021 5.2.2절). 또 작업실은 소리 · 전력 같은 간접 신호를 밖으로 흘릴 수 있어, 부채널 대응은 하드웨어 · 응용이 함께 맡는다(5.3절).

4구조 — 신뢰 경계를 긋는 세 방식

TEE 는 CCC 정의상 데이터 기밀성 · 데이터 무결성 · 코드 무결성 세 성질을 보장하는 실행 환경이고, 증명 가능성 · 코드 기밀성은 구현마다 더해진다(CCC 2021 3.1절). 방식은 신뢰 경계를 어디에 긋는가로 나뉜다.

프로세스 방식 VM 방식 보안 세계 분리 엔클레이브 응용 나머지 운영체제 하이퍼바이저 CPU · 메모리 암호화 응용 게스트 운영체제 하이퍼바이저 · 호스트 OS CPU · 보안 펌웨어 신뢰 앱 일반 앱 보안 OS 일반 OS 보안 모니터(세계 전환) CPU(두 세계 구분) SGX SEV-SNP · TDX · CCA TrustZone 응용을 나눠 고쳐 씀 응용 그대로 · VM 단위 기기 안 작은 보안 기능 믿는 코드가 가장 적음 게스트 OS 전체를 믿음 보안 OS 를 믿음 경계 안(보호됨) 경계 밖(믿지 않음) 신뢰 루트(키 · 측정) 점선 = 신뢰 경계

그림 3 · 세 방식 모두 CPU 를 신뢰 루트로 두되, 경계 안에 응용 일부만 넣는가 · 게스트 운영체제까지 넣는가 · 보안 세계를 따로 두는가가 다르다.

요소위치역할값 · 근거
하드웨어 신뢰 루트CPU · 보안 펌웨어메모리 키 생성 · 측정 · 서명키는 칩 밖으로 나오지 않음(NIST IR 8320)
메모리 암호화 · 격리메모리 제어기TEE 마다 다른 키로 암호화 · 무결성 검사기밀 VM 메모리는 부팅 때 전부 비공개(커널 TDX 문서)
공유 메모리TEE 경계입출력 · 하이퍼바이저와 주고받기보호 없음 · 커널 스택 같은 민감 데이터 금지(커널 TDX 문서)
측정 · 보고서TEE 안시작 이미지 해시 + 사용자 데이터에 서명사용자 데이터 최대 64바이트(configfs-tsm)
검증기외부 서비스보고서를 승인 값 · 기준값과 대조Endorsement · Reference Value(RFC 9334 8.2 · 8.3절)
신뢰 당사자 · 키 브로커데이터 주인 쪽증명 결과로 키 · 데이터 제공 여부 판정Attestation Result(RFC 9334 8.4절)

🔑 메모리 암호화는 운영자를 «밖으로 밀어내고», 원격 증명은 데이터 주인이 «안을 확인하게» 한다 — 증명이 빠진 TEE 는 진짜 TEE 인지 · 그 안에 원하는 코드가 도는지 알 수 없다(CCC 2021 2.1절).

5동작 — 기밀 VM 이 디스크 키를 받는 원격 증명

기밀 VM 안의 분석 작업이 키 브로커 kbs.example.com 에서 디스크 복호 키(AES-256 · 32바이트)를 받는 사례로, RFC 9334 의 Background-Check 모델(5.2절)이다. 브로커 이름 · 보고서 이름 r1 · 키 길이는 설명용 가정 값이다.

  1. VM 이 시작될 때 보안 펌웨어가 초기 메모리 이미지를 측정해 측정 레지스터에 기록한다 — 이 값은 VM 안 소프트웨어도 바꿀 수 없다(커널 TDX 문서).
  2. VM 안 응용이 브로커에 키를 요청하고, 브로커는 예측할 수 없는 nonce 64바이트를 돌려준다(RFC 9334 10.2절).
  3. 응용이 nonce 를 /sys/kernel/config/tsm/report/r1/inblob 에 쓰고 outblob 을 읽는다 — provider 가 tdx_guest 또는 sev_guest 로 보고서 형식을 알린다(configfs-tsm).
  4. 응용이 측정값 · nonce · 하드웨어 서명이 든 보고서(Evidence)를 브로커에 보내고, 브로커는 이를 검증기로 넘긴다(RFC 9334 5.2절).
  5. 검증기는 서명을 제조사 인증서로, 측정값을 승인된 이미지의 기준값으로, nonce 를 2단계 값으로 대조해 「허용」 결과에 서명한다(8.4절).
  6. 브로커는 결과를 확인하고 디스크 키를 VM 안 공개키로 감싸 보낸다 — 호스트는 감싼 키만 본다.
  7. 응용이 VM 안에서 키를 풀어 디스크를 열고, 평문 데이터는 VM 의 비공개 메모리에만 놓인다.
기밀 VM 안 응용 CPU · 보안 펌웨어 키 브로커 검증기 시작 이미지 측정 측정 레지스터 기록 1 2 키 요청 nonce 64B 3 inblob outblob = 보고서 4 측정값 · nonce · 서명 전달 서명 · 측정값 · nonce 대조 5 결과 = 허용 6 감싼 디스크 키 7 VM 안에서만 키를 풂 요청 증거 판정 결과 키 해제 회색 = 브로커의 응답 · 굵은 테두리 = 신뢰 경계 안 · 값은 설명용 가정 값

그림 4 · nonce 가 든 보고서가 검증기를 통과해야 브로커가 키를 내주며, 호스트가 볼 수 있는 것은 감싼 키뿐이다.

데이터 한 건이 놓이는 네 곳의 상태 디스크 망 메모리(DRAM) CPU 코어 · 캐시 안 일반 VM 암호문 암호문(TLS) 평문 평문(계산 중) 기밀 VM 암호문 암호문(TLS) 암호문(VM 키) 평문(계산 중) 읽을 수 있는 사람 디스크 탈취자 망 도청자 하이퍼바이저 호스트 관리자 콜드 부트 추출 TEE 안 코드만 기밀 VM 에서 평문이 있는 곳 = CPU 안 한 곳 → 남는 위험 = 부채널 · TEE 안 코드 결함 암호문(읽혀도 뜻 없음) 평문 노출 계산 중 평문(코어 안) 굵은 테두리 = 기밀 VM 에서 바뀐 위치

그림 5 · 일반 VM 에서는 메모리 위치가 평문이라 호스트 쪽 셋이 읽을 수 있고, 기밀 VM 은 그 위치만 암호문으로 바꿔 평문을 CPU 안에만 남긴다.

🔑 기밀 컴퓨팅이 바꾸는 위치는 메모리 하나다 — 디스크 · 망 암호화는 그대로 두고, 평문이 남던 마지막 위치를 CPU 안으로 줄인다.

6비교 — 일반 VM · 동형 암호 · TPM 과의 차이

기준기밀 컴퓨팅(TEE)일반 VM동형 암호TPM
사용 중 데이터 기밀성있음없음 — 호스트가 읽음있음 — 암호문 그대로 계산키만 보호
코드 무결성있음호스트를 믿어야 함보장 안 함있음(측정)
임의 프로그램있음있음연산 회로 일부없음
원격 증명있음없음없음있음
계산 속도높음 ~ 중간높음낮음해당 없음
믿어야 하는 쪽CPU 제조사 · 보안 펌웨어공급자 전체수학적 가정칩 제조사

분석임의 응용을 거의 그대로 돌리며 운영자를 배제하려면 기밀 컴퓨팅, 하드웨어 제조사도 믿을 수 없고 연산이 단순하면 동형 암호, 부팅 무결성과 키 보관만 필요하면 TPM 을 고른다. 근거는 CCC 2021 4.1 · 4.2절 비교표의 「코드 무결성」 · 「계산 속도」 행이며, 셋은 함께 쓸 수 있다.

7실무 진단 — 증명 실패와 성능 저하 가르기

분석먼저 VM 안에 보고서 인터페이스가 있는지 보고, 있으면 검증기 결과의 항목(서명 · 측정값 · nonce)을 하나씩 대조한다. 보고서가 없으면 그 위 검증 · 정책을 볼 필요 없이 VM 생성 설정 문제로 끝나기 때문이다(configfs-tsm).

#증상의심 원인구분확인 명령 · 자료판정 기준(근거)
1보고서를 받을 수 없음기밀 기능이 꺼진 일반 VM 으로 생성하드웨어 · 생성 설정cat /sys/kernel/config/tsm/report/r1/provider디렉터리 생성 실패 · provider 없음 = TSM 미지원(configfs-tsm)
2이미지 갱신 뒤 키 거부측정값이 기준값 목록에 없음검증 정책검증기 결과의 측정 항목 · 기준값 목록측정값 ≠ 기준값 = 기준값 미갱신(RFC 9334 8.3절)
3간헐적 거부앞 요청의 보고서 재사용 · 동시 쓰기신선도cat …/r1/generation · 브로커 nonce 기록nonce 불일치 = 재전송으로 판정(RFC 9334 10.2절) · generation 이 예상보다 크면 다른 쓰기가 끼어듦(configfs-tsm)
4입출력이 많은 작업만 느림공유 메모리를 거치는 복사입출력 경로작업별 입출력량 대비 CPU 시간입출력은 공유 메모리 버퍼를 거침(커널 TDX 문서 · SWIOTLB)

측정값 불일치는 이미지 배포 절차에서 기준값 등록이 빠진 경우가 많아, 증명 실패가 나면 이미지 해시와 기준값 목록 갱신 시각부터 맞춘다.

8시험 대비

시험에서는 등장 배경 · TEE 성질 · 원격 증명을 묻는 정의 · 특징형, 동형 암호 · TPM 과 견주어 사용 중 데이터 보호 방식을 고르는 비교형으로 나올 수 있다. 비교형이면 비교표에 «믿어야 하는 쪽» 행을 꼭 넣는다.

답안 목차
  1. 개요 — 데이터 세 상태(저장 · 전송 · 사용) · CCC 정의(하드웨어 기반 · 증명된 TEE) · 콜드 부트 실험 수치
  2. 구성 — 그림 3 세 방식 신뢰 경계(프로세스 · VM · 보안 세계) + 요소 표(신뢰 루트 · 메모리 암호화 · 공유 메모리 · 측정 · 검증기)
  3. 원격 증명 절차 — 그림 4 순서도(nonce → 보고서 → 검증기 → 키 해제) · RFC 9334 역할 이름
  4. 보호 원리 — 그림 5 네 위치 상태(메모리 위치만 암호문으로 바뀜)
  5. 비교 — 일반 VM · 동형 암호 · TPM 비교표 6행 + 선택 기준
  6. 한계 · 동향 — 부채널 · 가용성 공격은 범위 밖 · GPU 등 가속기로 넓어지는 TEE

꼭 쓸 키워드
사용 중 데이터신뢰 실행 환경엔클레이브기밀 VM메모리 암호화원격 증명측정값nonce키 브로커부채널

다른 답안과 차이를 내려면 그림 5 처럼 «평문이 남는 위치가 메모리에서 CPU 안으로 줄어든다»를 네 위치로 보인다.

9오해와 사실

  • 오해기밀 컴퓨팅을 쓰면 클라우드 쪽은 아무것도 믿지 않아도 된다.
    사실CPU 제조사 · 보안 펌웨어 · 증명 인증서는 여전히 믿어야 하고, 서비스 거부 같은 가용성 공격은 위협 범위 밖이다(CCC 2021 5.2.2절).
  • 오해메모리가 암호화되면 부채널 공격도 막힌다.
    사실전력 · 시간 차이 같은 부채널은 TEE 설계만으로 막히지 않아, CCC 는 그 대응을 하드웨어 공급자와 응용 개발자가 함께 맡는다고 본다(CCC 2021 5.3절).
  • 오해TEE 안에서 돌기만 하면 데이터를 넘겨도 된다.
    사실증명 없이는 상대가 진짜 TEE 인지, 승인한 이미지가 도는지 알 수 없어 CCC 정의에 «증명된» 조건이 들어 있다(CCC 2021 2.1절).

10핵심 정리

구성맡는 일위치대표 값 · 인터페이스빠지면
신뢰 루트키 생성 · 측정 · 서명CPU · 보안 펌웨어칩 안 키증명 위조
메모리 암호화TEE 마다 다른 키로 암호화메모리 제어기비공개 메모리호스트가 평문 읽음
공유 메모리입출력 통로TEE 경계SWIOTLB 버퍼민감 데이터 노출
증명 보고서측정값 + nonce + 서명TEE 안inblob 64B · outblob신선도 확인 불가
검증기기준값 · 인증서 대조외부 서비스Attestation Result바뀐 이미지 통과
키 브로커결과 보고 키 해제데이터 주인 쪽감싼 데이터 키운영자에게 키 노출

11참고 문헌

  1. 먼저 볼 문헌
  2. ★ A Technical Analysis of Confidential Computing v1.2 — 기밀 컴퓨팅의 정의 · TEE 성질 · 위협 범위(범위 안 · 밖)를 볼 때
    Confidential Computing Consortium · 2021-10 · confidentialcomputing.io/wp-content/uploads/sites/10/2023/03/CCC-A-Technical-Analysis-of-Confidential-Computing-v1.3_unlocked.pdf · 확인 2026-11-14
  3. ★ RFC 9334 Remote ATtestation procedureS (RATS) Architecture — 증명자 · 검증기 · 신뢰 당사자의 역할과 신선도 방식을 볼 때
    IETF · 2023-01 · www.rfc-editor.org/rfc/rfc9334 · 확인 2026-11-14
  4. ★ configfs-tsm (ABI testing) — /sys/kernel/config/tsm/report — 기밀 VM 안에서 증명 보고서를 받는 인터페이스를 볼 때
    The Linux Kernel documentation · 2026-11 · www.kernel.org/doc/Documentation/ABI/testing/configfs-tsm · 확인 2026-11-14
  5. ★ Intel Trust Domain Extensions (TDX) — 기밀 VM 의 비공개 메모리 · 공유 메모리 구분을 볼 때
    The Linux Kernel documentation · 2026-11 · docs.kernel.org/arch/x86/tdx.html · 확인 2026-11-14
  6. 본문 근거
  7. Lest We Remember: Cold Boot Attacks on Encryption Keys — J. A. Halderman 외 · 17th USENIX Security Symposium · 2008-07 · www.usenix.org/legacy/event/sec08/tech/full_papers/halderman/halderman_html/ · 확인 2026-11-14
  8. NIST IR 8320 Hardware-Enabled Security: Enabling a Layered Approach to Platform Security for Cloud and Edge Computing Use Cases — NIST · 2022-05 · csrc.nist.gov/pubs/ir/8320/final · 확인 2026-11-14
  9. The Linux Kernel user-space API guide — AMD SEV guest API (sev-guest) — The Linux Kernel documentation · 2026-11 · docs.kernel.org/virt/coco/sev-guest.html · 확인 2026-11-14
  10. Intel SGX Explained (Cryptology ePrint Archive 2016/086) — V. Costan · S. Devadas · IACR · 2016-01 · eprint.iacr.org/2016/086 · 확인 2026-11-14
  11. New Cross-Industry Effort to Advance Computational Trust and Security for Next-Generation Cloud and Edge Computing — The Linux Foundation · 2019-08 · www.linuxfoundation.org/press-release/new-cross-industry-effort-to-advance-computational-trust-and-security-for-next-generation-cloud-and-edge-computing/ · 확인 2026-11-14