하이퍼바이저Hypervisor
물리 서버의 CPU · 메모리 · 장치를 가상 머신마다 나눠 주고, 게스트 운영체제의 특권 조작을 가로채 대신 처리해 가상 머신끼리 서로를 건드리지 못하게 하는 소프트웨어다. 가상 머신의 생성 · 정지 · 이동(라이브 마이그레이션)도 맡는다.
1요약
- 하이퍼바이저는 가상 머신 모니터(VMM)에 VM 스케줄링 같은 운영체제 기능을 더한 소프트웨어로, NIST SP 800-125A Rev.1(2018)은 그 일을 기본 기능 다섯(HY-BF1 ~ HY-BF5)으로 나누고, 그 위에서 IaaS 인스턴스와 서버 통합 VM 이 돈다.
- 게스트 운영체제가 페이지 표 · 장치를 직접 바꾸면 이웃 VM 까지 무너지므로 하이퍼바이저가 그 조작을 가로채 대신 처리해야 하며, 이 경계가 있기에 800 MB VM 을 SPECweb99 부하 중에 210 ms 만 멈추고 다른 호스트로 옮길 수 있었다(Clark 외 2005 6.3절).
- 「VM 이 느리다」는 어느 기본 기능의 비용인가로 가른다 — 입출력 탈출이 많으면 장치 중재, 이동 중에만 느리면 수명 주기(마이그레이션), VM 생성부터 막히면 하드웨어 확장 쪽이다.
2등장 배경
운영체제는 자기가 하드웨어 전체를 쥔다고 믿고 페이지 표 · 인터럽트 · 입출력 포트를 직접 바꾼다. 운영체제 둘을 한 서버에 올리면 한쪽의 그 조작이 다른 쪽의 메모리 · 장치를 덮어쓰므로, 둘 사이에서 특권 조작을 받아 VM 마다 따로 처리하는 소프트웨어가 필요했다(NIST SP 800-125A Rev.1 1.1절).
x86 에서는 2003년 Xen 이 게스트 커널을 고쳐 하이퍼바이저를 부르게 한 반가상화로 성능을 냈고(Barham 외 2003), 2005년 Clark 외는 같은 Xen 위에서 VM 을 멈추지 않은 채 메모리를 여러 차례 미리 보내는 사전 복사(pre-copy) 라이브 마이그레이션을 내놓았다(Clark 외 2005). 2007년 2월 리눅스 2.6.20 에 들어간 KVM 은 프로세서의 가상화 확장을 써서 커널 모드 · 사용자 모드 옆에 게스트 모드를 더해 리눅스 자체를 하이퍼바이저로 만들었다(Kivity 외 2007 · Linux 2.6.20).
지금 서버 하이퍼바이저는 CPU 를 하드웨어 지원으로 처리하고 입출력은 virtio 같은 가상 전용 장치로 탈출을 줄이는 혼합이 흔하다(VIRTIO 1.2 · 2022). 한편 과할당 없이 코어 · 메모리를 고정 배정하는 파티셔닝 하이퍼바이저(Jailhouse README)가 실시간 · 안전 분리 쓰임으로 남아 있다.
3쉽게 이해하기 — 여러 극단이 나눠 쓰는 극장의 무대 감독
극장 한 곳을 세 극단이 나눠 쓴다. 극단마다 이 무대가 자기 것인 줄 알고 연습하지만, 배우가 배전반 · 소품 창고 · 조명기에 손을 대면 벨이 울리고 무대 감독이 달려와 그 극단 몫만 대신 조작해 준다. 극장을 수리해야 하는 날에는 공연을 멈추지 않고 세트를 트럭으로 먼저 옮긴 뒤, 그사이 바뀐 소품만 다시 나르다가 막간 휴식 한 번에 다른 극장에서 공연을 이어 간다.
그림 1 · 극단들은 무대가 제 것인 줄 알지만 배전반 · 창고 · 조명은 무대 감독만 만지고, 수리하는 날에는 막간 한 번에 다른 극장으로 공연을 옮긴다.
그림 2 · 배우가 배전반에 손대는 순간 벨이 울리고 감독이 대신 조작하듯, 게스트의 특권 명령은 VM exit 로 하이퍼바이저에 넘어갔다가 VM entry 로 돌아온다.
| 비유 속 역할 | 실제 이름 | 실제로 하는 일 |
|---|---|---|
| 극장 | 물리 서버(호스트) | CPU · 메모리 · 장치를 하나씩 가진다 |
| 극단 | 게스트 OS · VM | 하드웨어를 독차지한다고 믿고 그대로 실행된다 |
| 무대 감독 | 하이퍼바이저 | 특권 조작을 받아 그 VM 몫만 처리한다 |
| 배전반 벨 | VM exit | 게스트 모드를 벗어나 하이퍼바이저로 넘어간다 |
| 무대 시간 차례 | vCPU 스케줄링 | VM 의 vCPU 를 물리 코어에 번갈아 올린다 |
| 소품 창고 번호표 | 2단 페이지 표 | 게스트 물리 주소를 호스트 물리 주소로 바꾼다 |
| 세트 미리 운반 | 사전 복사 | 실행 중에 메모리를 보내고 바뀐 쪽만 다시 보낸다 |
| 막간 휴식 | 정지 후 복사(다운타임) | 남은 페이지 · CPU 상태를 보내는 동안만 멈춘다 |
⚠ 비유가 맞지 않는 곳: 감독은 한 사람이지만 실제 하이퍼바이저는 CPU 코어마다 동시에 가로채기를 처리한다. 또 하드웨어 지원이 있으면 대부분의 명령은 벨 없이 실제 CPU 에서 바로 실행되고, 극장을 칸막이로 영구히 나누는 파티셔닝에서는 감독이 차례를 정하지 않는다.
4구조 — 기본 기능 다섯의 분담
하이퍼바이저는 하드웨어와 게스트 사이에서 기본 기능 다섯을 나눠 맡는다. HY-BF1 · 3 은 하이퍼바이저 커널이, HY-BF2 는 커널 또는 장치 드라이버 VM 이, HY-BF4 · 5 는 관리 콘솔(특권 VM)이 맡는 경우가 많다(NIST SP 800-125A Rev.1 1.1절).
그림 3 · 게스트는 하이퍼바이저 커널을 거쳐서만 물리 자원에 닿고, 수명 주기 · 설정은 커널 밖 관리 VM 이 맡는다 — 2형은 이 전체가 호스트 OS 위에 올라간다.
| 요소 | 맡는 일 | 값 · 근거 |
|---|---|---|
| vCPU 스케줄 · 격리 | VM 을 물리 코어에 번갈아 올리고 메모리를 가른다(HY-BF1) | KVM 은 리눅스 스케줄러 · NUMA 지원을 그대로 쓴다(Kivity 외 2007) |
| 메모리 2단 변환 | gva → gpa → hpa 변환 | 하드웨어 2단 페이지 표(TDP = EPT · NPT)가 없으면 섀도 페이지 표로 대신한다(KVM MMU 문서) |
| 장치 중재 | 에뮬레이션 · 반가상화 · 패스스루 · 자기 가상화 장치(HY-BF2) | DMA 장치는 IOMMU 로 하이퍼바이저가 통제한다(NIST SP 800-125A Rev.1 1.1절) |
| 하이퍼콜 처리 | 반가상화 게스트의 직접 요청(HY-BF3) | 전가상화 하이퍼바이저에는 없다(1.1절) |
| 수명 주기 | 생성 · 정지 · 스냅숏 · 마이그레이션(HY-BF4) | 마이그레이션은 인증 + 전용 망 구간(HY-SR-13) |
| 플랫폼 관리 | 설정 · 가상 망 · 패치(HY-BF5) | 콘솔은 커널 밖 특권 VM 인 경우가 많다(1.1절) |
| 1형 · 2형 | 설치 위치 | 2형은 호스트 OS 결함이 모든 게스트에 미친다(1.2절 신뢰 모델) |
🔑 하이퍼바이저의 비용은 «가로채는 횟수»다 — 전가상화 · 반가상화 · 하드웨어 지원은 모두 VM exit 같은 가로채기를 어디서 몇 번 하느냐의 차이다.
5동작 — 메모리 8 GiB VM 한 대의 라이브 마이그레이션
설명용 가정 값 — VM vm-a 메모리 8,192 MiB · 이동 링크 1,000 MiB/s · 정지 허용 300 ms. 회차 · 정지 시간은 사전 복사 규칙(Clark 외 2005 3.1절)으로 직접 계산했다.
- 대상 호스트 B 에서
virt-host-validate qemu로 하드웨어 가상화가 켜졌는지 보고, 원본 호스트 A 에서virsh domdirtyrate-calc vm-a --seconds 10으로 바뀌는 속도 150 MiB/s 를 잰다(virsh(1)). virsh migrate-setmaxdowntime vm-a 300으로 정지 허용 값을 정하고, B 에 8 GiB 컨테이너를 예약한다(Clark 외 2005 단계 1).- 1회차 — VM 이 도는 채로 8,192 MiB 전부를 8.19 초에 보낸다. 그사이 150 × 8.19 ≈ 1,229 MiB 가 다시 바뀐다.
- 2회차 — 바뀐 1,229 MiB 만 1.23 초에 보낸다. 그사이 184 MiB 가 또 바뀐다.
- 판정 — 남은 184 MiB ÷ 1,000 MiB/s = 184 ms 로 허용 300 ms 안이므로 반복을 멈춘다(QEMU migration.json downtime-limit).
- 정지 후 복사 — A 에서 VM 을 멈추고 남은 184 MiB 와 vCPU · 장치 상태를 보낸 뒤, 망 트래픽을 B 로 돌린다(Clark 외 2005 단계 3).
- 확정 · 재개 — B 가 받았다고 알리면 A 는 원본을 버리고 B 에서 VM 이 이어 돈다. 걸린 시간 9.6 초 · 보낸 양 9,605 MiB(메모리의 1.17배) · 멈춘 시간 184 ms.
그림 4 · VM 은 9.6 초 가운데 마지막 184 ms 만 멈추고, 그 앞 9.4 초는 실행되는 채로 메모리가 두 회차에 걸쳐 옮겨진다.
그림 5 · 회차마다 보낼 양은 «바뀌는 속도 ÷ 링크 속도» 비율로 줄어들고, 비율이 1 을 넘으면 정지 기준선 아래로 내려오지 않는다.
🔑 라이브 마이그레이션이 끝나는지는 메모리 크기가 아니라 «바뀌는 속도 ÷ 링크 속도»가 정한다 — 1 보다 작으면 회차마다 줄고, 1 이상이면 기다려도 줄지 않는다.
6비교 — 전가상화 · 반가상화 · 하드웨어 지원 · 파티셔닝
| 기준 | 전가상화(이진 변환) | 반가상화 | 하드웨어 지원 가상화 | 파티셔닝 |
|---|---|---|---|---|
| 민감 명령 처리 | 실행 전에 게스트 코드를 바꿔 쓴다 | 게스트가 명령 대신 하이퍼콜을 부른다(HY-BF3) | CPU 가 게스트 모드에서 잡아 VM exit 로 넘긴다 | 게스트가 직접 실행 · 경계 위반만 잡는다 |
| 게스트 수정 | 없음 | 커널 · 드라이버 수정 | 없음 | 운영체제를 맞춰 고칠 수 있음(Jailhouse README) |
| 장치 제공 | 실제 장치를 에뮬레이션 | virtio 같은 가상 전용 장치 | 에뮬레이션 · virtio · 패스스루 모두 | 장치를 셀마다 통째로 배정 |
| 과할당 · 스케줄링 | 있음 | 있음 | 있음 | 없음(Jailhouse README) |
| 느려지는 원인 | 변환 · 변환 캐시 | 하이퍼콜 왕복 | VM exit 횟수 · 2단 변환 실패 | 남는 코어를 다른 셀이 못 씀 |
분석범용 서버는 하드웨어 지원 가상화에 입출력만 virtio 로 반가상화하는 혼합이 맞고, 지연 상한을 보장해야 하는 실시간 · 안전 분리에는 파티셔닝이 맞다. 근거는 입출력 에뮬레이션이 게스트 모드를 벗어나는 비싼 조작이라 가상 전용 장치를 둔다는 설명(Kivity 외 2007 8.2절)과, 스케줄링 · 과할당을 하지 않는 파티셔닝의 설계(Jailhouse README)다.
7실무 진단 — 기본 기능별로 느림 가르기
분석하드웨어 확장 → 장치 중재 → 수명 주기 순서로 본다. 확장이 꺼져 있으면 뒤의 모든 수치가 소프트웨어 에뮬레이션 값이라 비교가 의미 없고(virt-host-validate(1)), 마이그레이션 문제는 이동 중에만 나타나므로 마지막에 본다.
| # | 증상 | 의심 원인 | 구분 | 확인 명령 | 판정 기준(근거) |
|---|---|---|---|---|---|
| 1 | VM 을 만들 때 가속을 쓸 수 없다고 나옴 | 펌웨어에서 가상화 확장 꺼짐 | 하드웨어 | virt-host-validate qemu | 하드웨어 가상화 점검이 PASS 가 아님(virt-host-validate(1)) |
| 2 | 디스크 · 망이 많은 VM 만 호스트 CPU 가 높음 | 에뮬레이션 장치로 입출력마다 탈출 | 장치 중재 | perf kvm stat live --event= · --event=mmio | 입출력 탈출이 상위를 차지하면 virtio 로 바꿈(perf-kvm(1) · Kivity 외 2007 8.2절) |
| 3 | 마이그레이션이 끝나지 않음 | 바뀌는 속도 ≥ 링크 속도 | 수명 주기 | virsh domdirtyrate-calc vm-a 뒤 virsh domstats --dirtyrate vm-a | dirtyrate.megabytes_--auto-converge · --postcopy(virsh(1)) |
| 4 | 마이그레이션 뒤 응답이 길게 끊김 | 정지 허용 값이 큼 · 링크가 느림 | 수명 주기 | virsh domjobinfo vm-a --completed | 정지 시간이 «남은 양 ÷ 링크 속도»와 허용 값 안인지(QEMU migration.json downtime-limit) |
8시험 대비
www.q-net.or.kr시험에서는 하이퍼바이저의 유형과 구성 요소를 그림으로 묻는 구조 · 구성형, 라이브 마이그레이션 · 가상화 방식을 서버 통합 설계에 어떻게 고르는지 묻는 구현 · 설계형으로 나올 수 있다. 구조형이면 1형 · 2형 그림 위에 기본 기능 다섯을 놓고, 설계형이면 방식 비교 표와 사전 복사의 수렴 조건을 숫자로 보인다.
- 개요 — 정의(VMM + 스케줄링) · 특권 조작 가로채기 · NIST SP 800-125A Rev.1 기본 기능 다섯
- 구조 — 그림 3 1형 · 2형 위의 vCPU 스케줄 · 2단 메모리 변환 · 장치 중재 · 하이퍼콜 · 관리 VM
- 가상화 방식 — 표: 전가상화 · 반가상화 · 하드웨어 지원 · 파티셔닝의 민감 명령 처리 · 게스트 수정 · 과할당
- 라이브 마이그레이션 — 그림 4 사전 복사 → 정지 후 복사 → 확정(8,192 MiB · 184 ms 사례)
- 수렴 조건 — 그림 5 «바뀌는 속도 ÷ 링크 속도» 곡선 · auto-converge · post-copy
- 보안 · 운영 — 1형 · 2형 신뢰 모델 · 마이그레이션 인증과 전용 망 구간(HY-SR-13)
꼭 쓸 키워드
가상 머신 모니터1형2형VM exit2단 페이지 표전가상화반가상화하이퍼콜파티셔닝사전 복사
다른 답안과 차이를 내는 한 가지는 그림 5 의 수렴 곡선이다 — «라이브 마이그레이션은 무중단»이라고 쓰지 않고, 바뀌는 속도가 링크 속도를 넘으면 끝나지 않는다는 조건을 숫자로 보인다.
9오해와 사실
- 오해라이브 마이그레이션은 VM 을 전혀 멈추지 않는다.사실마지막 정지 후 복사 단계에서는 VM 을 멈추고 남은 페이지와 CPU 상태를 보내며, 측정 사례에서도 210 ms 동안 서비스가 멈췄다(Clark 외 2005 6.3절).
- 오해반가상화는 옛 방식이라 지금은 쓰지 않는다.사실하드웨어 지원으로 CPU 를 처리하는 하이퍼바이저도 입출력은 virtio 같은 가상 전용 장치로 반가상화하며, 이 장치 규격은 2022년에도 개정됐다(VIRTIO 1.2).
- 오해2형 하이퍼바이저도 1형과 신뢰 범위가 같다.사실2형은 호스트 OS 위에서 돌아 호스트 OS 를 신뢰 대상에 넣어야 하므로, 그 결함이 모든 게스트에 미친다(NIST SP 800-125A Rev.1 1.2절).
10핵심 정리
| 구분 | 맡는 일 | 핵심 값 · 조건 | 확인 | 근거 |
|---|---|---|---|---|
| HY-BF1 스케줄 · 격리 | vCPU 를 물리 코어에 올림 | 문맥 전환 · 메모리 격리 | perf kvm stat | NIST SP 800-125A 1.1절 |
| HY-BF2 장치 중재 | 장치 제공 · 접근 통제 | 에뮬레이션 · virtio · 패스스루 · IOMMU | --event=ioport · mmio | NIST 1.1절 · VIRTIO 1.2 |
| HY-BF3 하이퍼콜 | 반가상화 게스트 요청 | 전가상화에는 없음 | 게스트 드라이버 종류 | NIST 1.1절 |
| HY-BF4 수명 주기 | 생성 · 정지 · 이동 | 정지 = 남은 양 ÷ 링크 속도 | virsh domjobinfo | Clark 외 2005 |
| 2단 페이지 표 | gva → gpa → hpa | 없으면 섀도 페이지 표 | 호스트 CPU 기능 | KVM MMU 문서 |
| 수렴 실패 | 사전 복사가 끝나지 않음 | 바뀌는 속도 ≥ 링크 속도 | virsh domstats --dirtyrate | virsh(1) |
| 1형 · 2형 | 설치 위치 · 신뢰 범위 | 2형 = 호스트 OS 도 신뢰 | 호스트 OS 유무 | NIST 1.2절 |
| 파티셔닝 | 고정 배정 · 분리 | 과할당 · 스케줄링 없음 | 셀 구성 파일 | Jailhouse README |
11참고 문헌
- 먼저 볼 문헌
- ★ NIST SP 800-125A Rev. 1 Security Recommendations for Server-based Hypervisor Platforms — 하이퍼바이저 기본 기능 다섯과 1형 · 2형 · 전가상화 · 반가상화의 정의를 볼 때
- ★ Clark et al. 2005 Live Migration of Virtual Machines (NSDI 2005) — 사전 복사 라이브 마이그레이션의 단계와 정지 시간 측정을 볼 때
- ★ Kivity et al. 2007 kvm: the Linux Virtual Machine Monitor (Ottawa Linux Symposium 2007) — 게스트 모드와 VM exit 처리 고리를 볼 때
- ★ The x86 kvm shadow mmu — 섀도 페이지 표와 2단 페이지 표(TDP)의 차이를 볼 때
- 본문 근거
- Jailhouse README — Jailhouse project · 2026-11 ·
github.com/siemens/jailhouse· 확인 2026-11-14 - Virtual I/O Device (VIRTIO) Version 1.2 Committee Specification 01 — OASIS · 2022-07 ·
docs.oasis-open.org/virtio/virtio/v1.2/virtio-v1.2.html· 확인 2026-11-14 - Barham et al. 2003 Xen and the Art of Virtualization (SOSP 2003) — University of Cambridge Computer Laboratory · 2003-10 ·
www.cl.cam.ac.uk/research/srg/netos/papers/2003-xensosp.pdf· 확인 2026-11-14 - Linux 2.6.20 (KVM) — kernelnewbies.org · 2007-02 ·
kernelnewbies.org/Linux_2_6_20· 확인 2026-11-14 - QEMU QAPI migration schema (qapi/migration.json) — QEMU Project · 2026-11 ·
github.com/qemu/qemu/blob/master/qapi/migration.json· 확인 2026-11-14 - virsh(1) libvirt manual page (migrate · domdirtyrate-calc · domstats) — libvirt · 2026-11 ·
www.libvirt.org/manpages/virsh.html· 확인 2026-11-14 - virt-host-validate(1) libvirt manual page — libvirt · 2026-11 ·
www.libvirt.org/manpages/virt-host-validate.html· 확인 2026-11-14 - perf-kvm(1) Linux manual page — man7.org · 2026-11 ·
man7.org/linux/man-pages/man1/perf-kvm.1.html· 확인 2026-11-14