IT › 클라우드 › 가상화 › 서버 가상화

하이퍼바이저Hypervisor

물리 서버의 CPU · 메모리 · 장치를 가상 머신마다 나눠 주고, 게스트 운영체제의 특권 조작을 가로채 대신 처리해 가상 머신끼리 서로를 건드리지 못하게 하는 소프트웨어다. 가상 머신의 생성 · 정지 · 이동(라이브 마이그레이션)도 맡는다.

1요약

  1. 하이퍼바이저는 가상 머신 모니터(VMM)에 VM 스케줄링 같은 운영체제 기능을 더한 소프트웨어로, NIST SP 800-125A Rev.1(2018)은 그 일을 기본 기능 다섯(HY-BF1 ~ HY-BF5)으로 나누고, 그 위에서 IaaS 인스턴스와 서버 통합 VM 이 돈다.
  2. 게스트 운영체제가 페이지 표 · 장치를 직접 바꾸면 이웃 VM 까지 무너지므로 하이퍼바이저가 그 조작을 가로채 대신 처리해야 하며, 이 경계가 있기에 800 MB VM 을 SPECweb99 부하 중에 210 ms 만 멈추고 다른 호스트로 옮길 수 있었다(Clark 외 2005 6.3절).
  3. 「VM 이 느리다」는 어느 기본 기능의 비용인가로 가른다 — 입출력 탈출이 많으면 장치 중재, 이동 중에만 느리면 수명 주기(마이그레이션), VM 생성부터 막히면 하드웨어 확장 쪽이다.

2등장 배경

운영체제는 자기가 하드웨어 전체를 쥔다고 믿고 페이지 표 · 인터럽트 · 입출력 포트를 직접 바꾼다. 운영체제 둘을 한 서버에 올리면 한쪽의 그 조작이 다른 쪽의 메모리 · 장치를 덮어쓰므로, 둘 사이에서 특권 조작을 받아 VM 마다 따로 처리하는 소프트웨어가 필요했다(NIST SP 800-125A Rev.1 1.1절).

x86 에서는 2003년 Xen 이 게스트 커널을 고쳐 하이퍼바이저를 부르게 한 반가상화로 성능을 냈고(Barham 외 2003), 2005년 Clark 외는 같은 Xen 위에서 VM 을 멈추지 않은 채 메모리를 여러 차례 미리 보내는 사전 복사(pre-copy) 라이브 마이그레이션을 내놓았다(Clark 외 2005). 2007년 2월 리눅스 2.6.20 에 들어간 KVM 은 프로세서의 가상화 확장을 써서 커널 모드 · 사용자 모드 옆에 게스트 모드를 더해 리눅스 자체를 하이퍼바이저로 만들었다(Kivity 외 2007 · Linux 2.6.20).

지금 서버 하이퍼바이저는 CPU 를 하드웨어 지원으로 처리하고 입출력은 virtio 같은 가상 전용 장치로 탈출을 줄이는 혼합이 흔하다(VIRTIO 1.2 · 2022). 한편 과할당 없이 코어 · 메모리를 고정 배정하는 파티셔닝 하이퍼바이저(Jailhouse README)가 실시간 · 안전 분리 쓰임으로 남아 있다.

3쉽게 이해하기 — 여러 극단이 나눠 쓰는 극장의 무대 감독

극장 한 곳을 세 극단이 나눠 쓴다. 극단마다 이 무대가 자기 것인 줄 알고 연습하지만, 배우가 배전반 · 소품 창고 · 조명기에 손을 대면 벨이 울리고 무대 감독이 달려와 그 극단 몫만 대신 조작해 준다. 극장을 수리해야 하는 날에는 공연을 멈추지 않고 세트를 트럭으로 먼저 옮긴 뒤, 그사이 바뀐 소품만 다시 나르다가 막간 휴식 한 번에 다른 극장에서 공연을 이어 간다.

극장 A 물리 서버 한 대 극단 1 게스트 OS 극단 2 게스트 OS 극단 3 게스트 OS 1 무대 감독 하이퍼바이저 2 배전반 CPU 특권 명령 소품 창고 물리 메모리 조명 · 음향 장치 I/O 3 극장 B 다른 서버 대상 호스트 라이브 마이그레이션 공연을 멈추지 않고 막간 한 번에 옮김 1 극단은 무대 감독에게만 요청한다 · 2 감독이 배전반 · 창고 · 조명을 그 극단 몫만 대신 다룬다 3 세트를 먼저 옮기고 바뀐 소품만 다시 나른 뒤, 막간 한 번에 다른 극장에서 공연을 잇는다

그림 1 · 극단들은 무대가 제 것인 줄 알지만 배전반 · 창고 · 조명은 무대 감독만 만지고, 수리하는 날에는 막간 한 번에 다른 극장으로 공연을 옮긴다.

무대 착각극단마다 제 무대로 앎
벨배전반에 손대면 울림
대신 조작감독이 그 극단 몫만
차례무대 시간을 번갈아
미리 운반세트 먼저 · 바뀐 소품 다시
막간한 번 멈추고 극장 B 로
비유 — 극장 실제 — CPU 와 하이퍼바이저 배우가 배전반을 만짐 자기 극장인 줄 안다 벨이 울리고 공연이 멈춤 배전반은 감독 몫 감독이 대신 조작 그 극단의 조명만 바꾼다 공연을 이어 감 배우는 멈춘 줄 모른다 게스트가 특권 명령 실행 예: 입출력 포트 쓰기 · 제어 레지스터 쓰기 VM exit CPU 가 게스트 모드를 벗어나며 이유를 남김 하이퍼바이저가 처리 장치 에뮬레이션 · 그 VM 의 상태만 갱신 VM entry 게스트 모드로 돌아가 다음 명령부터 실행 점선 = 같은 단계 · 벨이 울리는 횟수가 VM exit 수이고, 횟수가 적을수록 게스트는 실제 서버와 가까운 속도로 돈다

그림 2 · 배우가 배전반에 손대는 순간 벨이 울리고 감독이 대신 조작하듯, 게스트의 특권 명령은 VM exit 로 하이퍼바이저에 넘어갔다가 VM entry 로 돌아온다.

비유 속 역할실제 이름실제로 하는 일
극장물리 서버(호스트)CPU · 메모리 · 장치를 하나씩 가진다
극단게스트 OS · VM하드웨어를 독차지한다고 믿고 그대로 실행된다
무대 감독하이퍼바이저특권 조작을 받아 그 VM 몫만 처리한다
배전반 벨VM exit게스트 모드를 벗어나 하이퍼바이저로 넘어간다
무대 시간 차례vCPU 스케줄링VM 의 vCPU 를 물리 코어에 번갈아 올린다
소품 창고 번호표2단 페이지 표게스트 물리 주소를 호스트 물리 주소로 바꾼다
세트 미리 운반사전 복사실행 중에 메모리를 보내고 바뀐 쪽만 다시 보낸다
막간 휴식정지 후 복사(다운타임)남은 페이지 · CPU 상태를 보내는 동안만 멈춘다

⚠ 비유가 맞지 않는 곳: 감독은 한 사람이지만 실제 하이퍼바이저는 CPU 코어마다 동시에 가로채기를 처리한다. 또 하드웨어 지원이 있으면 대부분의 명령은 벨 없이 실제 CPU 에서 바로 실행되고, 극장을 칸막이로 영구히 나누는 파티셔닝에서는 감독이 차례를 정하지 않는다.

4구조 — 기본 기능 다섯의 분담

하이퍼바이저는 하드웨어와 게스트 사이에서 기본 기능 다섯을 나눠 맡는다. HY-BF1 · 3 은 하이퍼바이저 커널이, HY-BF2 는 커널 또는 장치 드라이버 VM 이, HY-BF4 · 5 는 관리 콘솔(특권 VM)이 맡는 경우가 많다(NIST SP 800-125A Rev.1 1.1절).

VM 1 — 게스트 OS virtio 드라이버(반가상화 장치) VM 2 — 게스트 OS 에뮬레이션 장치용 기존 드라이버 관리 VM · 콘솔 HY-BF4 수명 주기 · HY-BF5 설정 VM exit · 하이퍼콜 관리 API 하이퍼바이저 커널 vCPU 스케줄 · 격리 HY-BF1 물리 코어에 번갈아 올리고 문맥 전환 메모리 2단 변환 게스트 가상 → 게스트 물리 → 호스트 물리 TDP 또는 섀도 표 장치 중재 HY-BF2 에뮬레이션 · virtio 패스스루 · SR-IOV 하이퍼콜 처리 HY-BF3 반가상화 게스트의 직접 요청만 CPU 게스트 모드 · VM exit MMU 2단 페이지 표(EPT · NPT) IOMMU 장치 DMA 주소 제한 NIC · 디스크 물리 장치 1형 = 하드웨어 바로 위에 하이퍼바이저 · 2형 = 호스트 OS 위에 하이퍼바이저(호스트 OS 도 신뢰 대상) 게스트 몫 하이퍼바이저 · 관리 몫 물리 자원

그림 3 · 게스트는 하이퍼바이저 커널을 거쳐서만 물리 자원에 닿고, 수명 주기 · 설정은 커널 밖 관리 VM 이 맡는다 — 2형은 이 전체가 호스트 OS 위에 올라간다.

요소맡는 일값 · 근거
vCPU 스케줄 · 격리VM 을 물리 코어에 번갈아 올리고 메모리를 가른다(HY-BF1)KVM 은 리눅스 스케줄러 · NUMA 지원을 그대로 쓴다(Kivity 외 2007)
메모리 2단 변환gva → gpa → hpa 변환하드웨어 2단 페이지 표(TDP = EPT · NPT)가 없으면 섀도 페이지 표로 대신한다(KVM MMU 문서)
장치 중재에뮬레이션 · 반가상화 · 패스스루 · 자기 가상화 장치(HY-BF2)DMA 장치는 IOMMU 로 하이퍼바이저가 통제한다(NIST SP 800-125A Rev.1 1.1절)
하이퍼콜 처리반가상화 게스트의 직접 요청(HY-BF3)전가상화 하이퍼바이저에는 없다(1.1절)
수명 주기생성 · 정지 · 스냅숏 · 마이그레이션(HY-BF4)마이그레이션은 인증 + 전용 망 구간(HY-SR-13)
플랫폼 관리설정 · 가상 망 · 패치(HY-BF5)콘솔은 커널 밖 특권 VM 인 경우가 많다(1.1절)
1형 · 2형설치 위치2형은 호스트 OS 결함이 모든 게스트에 미친다(1.2절 신뢰 모델)

🔑 하이퍼바이저의 비용은 «가로채는 횟수»다 — 전가상화 · 반가상화 · 하드웨어 지원은 모두 VM exit 같은 가로채기를 어디서 몇 번 하느냐의 차이다.

5동작 — 메모리 8 GiB VM 한 대의 라이브 마이그레이션

설명용 가정 값 — VM vm-a 메모리 8,192 MiB · 이동 링크 1,000 MiB/s · 정지 허용 300 ms. 회차 · 정지 시간은 사전 복사 규칙(Clark 외 2005 3.1절)으로 직접 계산했다.

  1. 대상 호스트 B 에서 virt-host-validate qemu 로 하드웨어 가상화가 켜졌는지 보고, 원본 호스트 A 에서 virsh domdirtyrate-calc vm-a --seconds 10 으로 바뀌는 속도 150 MiB/s 를 잰다(virsh(1)).
  2. virsh migrate-setmaxdowntime vm-a 300 으로 정지 허용 값을 정하고, B 에 8 GiB 컨테이너를 예약한다(Clark 외 2005 단계 1).
  3. 1회차 — VM 이 도는 채로 8,192 MiB 전부를 8.19 초에 보낸다. 그사이 150 × 8.19 ≈ 1,229 MiB 가 다시 바뀐다.
  4. 2회차 — 바뀐 1,229 MiB 만 1.23 초에 보낸다. 그사이 184 MiB 가 또 바뀐다.
  5. 판정 — 남은 184 MiB ÷ 1,000 MiB/s = 184 ms 로 허용 300 ms 안이므로 반복을 멈춘다(QEMU migration.json downtime-limit).
  6. 정지 후 복사 — A 에서 VM 을 멈추고 남은 184 MiB 와 vCPU · 장치 상태를 보낸 뒤, 망 트래픽을 B 로 돌린다(Clark 외 2005 단계 3).
  7. 확정 · 재개 — B 가 받았다고 알리면 A 는 원본을 버리고 B 에서 VM 이 이어 돈다. 걸린 시간 9.6 초 · 보낸 양 9,605 MiB(메모리의 1.17배) · 멈춘 시간 184 ms.
호스트 A 이동 링크 호스트 B VM 실행 — 메모리가 계속 바뀜 1회차 8,192 MiB · 8.19 초 1,229 MiB 8 GiB 공간 예약 · 받은 페이지를 쌓음 재개 1 2 3 4 5 6 7 정지 184 ms = 남은 184 MiB ÷ 1,000 MiB/s 0 초 2 4 6 8 9.6 실행 사전 복사 회차 정지(다운타임) 대상에서 재개 · 수치 = 설명용 가정 값

그림 4 · VM 은 9.6 초 가운데 마지막 184 ms 만 멈추고, 그 앞 9.4 초는 실행되는 채로 메모리가 두 회차에 걸쳐 옮겨진다.

회차마다 보낼 양(MiB · 로그 눈금) — 링크 1,000 MiB/s 10,000 1,000 100 정지 기준 300 MiB = 300 ms × 1,000 MiB/s 150 MiB/s · 2회차 + 정지 184 ms 600 MiB/s · 7회차 + 정지 229 ms 1,100 MiB/s · 계속 커짐(수렴 안 함) 1 2 3 4 5 6 7 8 회차 줄어드는 비율 = 바뀌는 속도 ÷ 링크 속도(0.15 · 0.6 · 1.1) · 네모 = 정지 후 복사 · 점선 끝 = 기준선 아래로 내려온 회차 비율이 1 이상이면 auto-converge 로 게스트 CPU 를 늦추거나 post-copy 로 넘겨야 끝난다 · 수치 = 설명용 가정 값

그림 5 · 회차마다 보낼 양은 «바뀌는 속도 ÷ 링크 속도» 비율로 줄어들고, 비율이 1 을 넘으면 정지 기준선 아래로 내려오지 않는다.

🔑 라이브 마이그레이션이 끝나는지는 메모리 크기가 아니라 «바뀌는 속도 ÷ 링크 속도»가 정한다 — 1 보다 작으면 회차마다 줄고, 1 이상이면 기다려도 줄지 않는다.

6비교 — 전가상화 · 반가상화 · 하드웨어 지원 · 파티셔닝

기준전가상화(이진 변환)반가상화하드웨어 지원 가상화파티셔닝
민감 명령 처리실행 전에 게스트 코드를 바꿔 쓴다게스트가 명령 대신 하이퍼콜을 부른다(HY-BF3)CPU 가 게스트 모드에서 잡아 VM exit 로 넘긴다게스트가 직접 실행 · 경계 위반만 잡는다
게스트 수정없음커널 · 드라이버 수정없음운영체제를 맞춰 고칠 수 있음(Jailhouse README)
장치 제공실제 장치를 에뮬레이션virtio 같은 가상 전용 장치에뮬레이션 · virtio · 패스스루 모두장치를 셀마다 통째로 배정
과할당 · 스케줄링있음있음있음없음(Jailhouse README)
느려지는 원인변환 · 변환 캐시하이퍼콜 왕복VM exit 횟수 · 2단 변환 실패남는 코어를 다른 셀이 못 씀

분석범용 서버는 하드웨어 지원 가상화에 입출력만 virtio 로 반가상화하는 혼합이 맞고, 지연 상한을 보장해야 하는 실시간 · 안전 분리에는 파티셔닝이 맞다. 근거는 입출력 에뮬레이션이 게스트 모드를 벗어나는 비싼 조작이라 가상 전용 장치를 둔다는 설명(Kivity 외 2007 8.2절)과, 스케줄링 · 과할당을 하지 않는 파티셔닝의 설계(Jailhouse README)다.

7실무 진단 — 기본 기능별로 느림 가르기

분석하드웨어 확장 → 장치 중재 → 수명 주기 순서로 본다. 확장이 꺼져 있으면 뒤의 모든 수치가 소프트웨어 에뮬레이션 값이라 비교가 의미 없고(virt-host-validate(1)), 마이그레이션 문제는 이동 중에만 나타나므로 마지막에 본다.

#증상의심 원인구분확인 명령판정 기준(근거)
1VM 을 만들 때 가속을 쓸 수 없다고 나옴펌웨어에서 가상화 확장 꺼짐하드웨어virt-host-validate qemu하드웨어 가상화 점검이 PASS 가 아님(virt-host-validate(1))
2디스크 · 망이 많은 VM 만 호스트 CPU 가 높음에뮬레이션 장치로 입출력마다 탈출장치 중재perf kvm stat live --event=ioport · --event=mmio입출력 탈출이 상위를 차지하면 virtio 로 바꿈(perf-kvm(1) · Kivity 외 2007 8.2절)
3마이그레이션이 끝나지 않음바뀌는 속도 ≥ 링크 속도수명 주기virsh domdirtyrate-calc vm-a 뒤 virsh domstats --dirtyrate vm-adirtyrate.megabytes_per_second 가 링크 속도 이상이면 --auto-converge · --postcopy(virsh(1))
4마이그레이션 뒤 응답이 길게 끊김정지 허용 값이 큼 · 링크가 느림수명 주기virsh domjobinfo vm-a --completed정지 시간이 «남은 양 ÷ 링크 속도»와 허용 값 안인지(QEMU migration.json downtime-limit)

8시험 대비

출제 정보 정보관리(122회, 89회) · 컴퓨터시스템응용(114회, 104회, 98회)문제 원문 — 큐넷 자료실 「기출문제(기술사)」 www.q-net.or.kr

시험에서는 하이퍼바이저의 유형과 구성 요소를 그림으로 묻는 구조 · 구성형, 라이브 마이그레이션 · 가상화 방식을 서버 통합 설계에 어떻게 고르는지 묻는 구현 · 설계형으로 나올 수 있다. 구조형이면 1형 · 2형 그림 위에 기본 기능 다섯을 놓고, 설계형이면 방식 비교 표와 사전 복사의 수렴 조건을 숫자로 보인다.

답안 목차
  1. 개요 — 정의(VMM + 스케줄링) · 특권 조작 가로채기 · NIST SP 800-125A Rev.1 기본 기능 다섯
  2. 구조 — 그림 3 1형 · 2형 위의 vCPU 스케줄 · 2단 메모리 변환 · 장치 중재 · 하이퍼콜 · 관리 VM
  3. 가상화 방식 — 표: 전가상화 · 반가상화 · 하드웨어 지원 · 파티셔닝의 민감 명령 처리 · 게스트 수정 · 과할당
  4. 라이브 마이그레이션 — 그림 4 사전 복사 → 정지 후 복사 → 확정(8,192 MiB · 184 ms 사례)
  5. 수렴 조건 — 그림 5 «바뀌는 속도 ÷ 링크 속도» 곡선 · auto-converge · post-copy
  6. 보안 · 운영 — 1형 · 2형 신뢰 모델 · 마이그레이션 인증과 전용 망 구간(HY-SR-13)

꼭 쓸 키워드
가상 머신 모니터1형2형VM exit2단 페이지 표전가상화반가상화하이퍼콜파티셔닝사전 복사

다른 답안과 차이를 내는 한 가지는 그림 5 의 수렴 곡선이다 — «라이브 마이그레이션은 무중단»이라고 쓰지 않고, 바뀌는 속도가 링크 속도를 넘으면 끝나지 않는다는 조건을 숫자로 보인다.

9오해와 사실

  • 오해라이브 마이그레이션은 VM 을 전혀 멈추지 않는다.
    사실마지막 정지 후 복사 단계에서는 VM 을 멈추고 남은 페이지와 CPU 상태를 보내며, 측정 사례에서도 210 ms 동안 서비스가 멈췄다(Clark 외 2005 6.3절).
  • 오해반가상화는 옛 방식이라 지금은 쓰지 않는다.
    사실하드웨어 지원으로 CPU 를 처리하는 하이퍼바이저도 입출력은 virtio 같은 가상 전용 장치로 반가상화하며, 이 장치 규격은 2022년에도 개정됐다(VIRTIO 1.2).
  • 오해2형 하이퍼바이저도 1형과 신뢰 범위가 같다.
    사실2형은 호스트 OS 위에서 돌아 호스트 OS 를 신뢰 대상에 넣어야 하므로, 그 결함이 모든 게스트에 미친다(NIST SP 800-125A Rev.1 1.2절).

10핵심 정리

구분맡는 일핵심 값 · 조건확인근거
HY-BF1 스케줄 · 격리vCPU 를 물리 코어에 올림문맥 전환 · 메모리 격리perf kvm statNIST SP 800-125A 1.1절
HY-BF2 장치 중재장치 제공 · 접근 통제에뮬레이션 · virtio · 패스스루 · IOMMU--event=ioport · mmioNIST 1.1절 · VIRTIO 1.2
HY-BF3 하이퍼콜반가상화 게스트 요청전가상화에는 없음게스트 드라이버 종류NIST 1.1절
HY-BF4 수명 주기생성 · 정지 · 이동정지 = 남은 양 ÷ 링크 속도virsh domjobinfoClark 외 2005
2단 페이지 표gva → gpa → hpa없으면 섀도 페이지 표호스트 CPU 기능KVM MMU 문서
수렴 실패사전 복사가 끝나지 않음바뀌는 속도 ≥ 링크 속도virsh domstats --dirtyratevirsh(1)
1형 · 2형설치 위치 · 신뢰 범위2형 = 호스트 OS 도 신뢰호스트 OS 유무NIST 1.2절
파티셔닝고정 배정 · 분리과할당 · 스케줄링 없음셀 구성 파일Jailhouse README

11참고 문헌

  1. 먼저 볼 문헌
  2. ★ NIST SP 800-125A Rev. 1 Security Recommendations for Server-based Hypervisor Platforms — 하이퍼바이저 기본 기능 다섯과 1형 · 2형 · 전가상화 · 반가상화의 정의를 볼 때
    NIST · 2018-06 · doi.org/10.6028/NIST.SP.800-125Ar1 · 확인 2026-11-14
  3. ★ Clark et al. 2005 Live Migration of Virtual Machines (NSDI 2005) — 사전 복사 라이브 마이그레이션의 단계와 정지 시간 측정을 볼 때
    USENIX · 2005-05 · www.usenix.org/legacy/events/nsdi05/tech/full_papers/clark/clark.pdf · 확인 2026-11-14
  4. ★ Kivity et al. 2007 kvm: the Linux Virtual Machine Monitor (Ottawa Linux Symposium 2007) — 게스트 모드와 VM exit 처리 고리를 볼 때
    Linux Symposium · 2007-06 · www.kernel.org/doc/ols/2007/ols2007v1-pages-225-230.pdf · 확인 2026-11-14
  5. ★ The x86 kvm shadow mmu — 섀도 페이지 표와 2단 페이지 표(TDP)의 차이를 볼 때
    The Linux Kernel documentation · 2026-11 · docs.kernel.org/virt/kvm/x86/mmu.html · 확인 2026-11-14
  6. 본문 근거
  7. Jailhouse README — Jailhouse project · 2026-11 · github.com/siemens/jailhouse · 확인 2026-11-14
  8. Virtual I/O Device (VIRTIO) Version 1.2 Committee Specification 01 — OASIS · 2022-07 · docs.oasis-open.org/virtio/virtio/v1.2/virtio-v1.2.html · 확인 2026-11-14
  9. Barham et al. 2003 Xen and the Art of Virtualization (SOSP 2003) — University of Cambridge Computer Laboratory · 2003-10 · www.cl.cam.ac.uk/research/srg/netos/papers/2003-xensosp.pdf · 확인 2026-11-14
  10. Linux 2.6.20 (KVM) — kernelnewbies.org · 2007-02 · kernelnewbies.org/Linux_2_6_20 · 확인 2026-11-14
  11. QEMU QAPI migration schema (qapi/migration.json) — QEMU Project · 2026-11 · github.com/qemu/qemu/blob/master/qapi/migration.json · 확인 2026-11-14
  12. virsh(1) libvirt manual page (migrate · domdirtyrate-calc · domstats) — libvirt · 2026-11 · www.libvirt.org/manpages/virsh.html · 확인 2026-11-14
  13. virt-host-validate(1) libvirt manual page — libvirt · 2026-11 · www.libvirt.org/manpages/virt-host-validate.html · 확인 2026-11-14
  14. perf-kvm(1) Linux manual page — man7.org · 2026-11 · man7.org/linux/man-pages/man1/perf-kvm.1.html · 확인 2026-11-14