가상 머신 · 컨테이너Virtual Machine and Container
한 서버를 여러 실행 환경으로 나누는 두 방식으로, 가상 머신은 하이퍼바이저가 만든 가상 하드웨어 위에 운영체제를 따로 올리고, 컨테이너는 호스트 커널 하나를 함께 쓰며 프로세스 묶음마다 보이는 범위와 쓰는 양을 가른다.
1요약
- 가상 머신은 하이퍼바이저(리눅스 KVM 등)가 나눠 준 vCPU · 가상 장치 위에서 게스트 커널을 따로 부팅하고, 컨테이너는 OCI 런타임 · 이미지 명세(2015년 출범)를 따라 호스트 커널의 네임스페이스 · cgroup 으로 실행 환경을 만들며, 그 위에서 IaaS 인스턴스 · 쿠버네티스 파드 · CI 빌드가 돈다.
- 격리가 없으면 한 응용의 메모리 폭주가 같은 서버의 다른 응용까지 멈추게 하는데, 컨테이너는 이를 커널의 상한으로 막는 대신 커널을 함께 써서 하이퍼바이저보다 공격 표면이 넓다(NIST SP 800-190 3.5.2절).
- 「컨테이너가 갑자기 죽거나 느리다」는 어느 상한에 닿았는가로 가른다 — memory.events 의 oom_kill 이 늘면 메모리 상한, cpu.stat 의 nr_throttled 가 늘면 CPU 상한, VM 안에서 steal 이 늘면 같은 호스트의 다른 VM 이 원인이다.
2등장 배경
1960 ~ 70년대 메인프레임 한 대를 여러 사용자가 나눠 쓸 때는 운영체제 하나가 모든 작업을 맡아, 한 작업의 결함이나 시험 중인 운영체제가 전체를 멈추게 했다. IBM 은 사용자마다 가상 머신을 주는 CP-67 · VM/370 으로 이를 풀었고, 1974년 Popek · Goldberg 는 «민감한 명령이 모두 특권 명령이면 효율적인 가상 머신 모니터를 만들 수 있다»는 조건을 정리했다(CACM 17(7)).
x86 서버에서는 2007년 2월 리눅스 2.6.20 이 Intel · AMD 하드웨어 가상화 확장을 쓰는 KVM 을 들였다(kernelnewbies 2.6.20). 같은 커널에 2008년 1월 cgroup(2.6.24)이 들어오고 리눅스 3.8 에서 PID · 사용자 네임스페이스가 더해져(namespaces(7)), 커널 하나를 여러 실행 환경으로 나누는 재료가 갖춰졌다.
2015년 6월 Docker · CoreOS 등이 OCI 를 세워 런타임 · 이미지 · 배포 명세를 정했고(OCI 소개), 지금 최신은 런타임 v1.3.0 · 이미지 v1.1.1 이다. 오늘 퍼블릭 클라우드는 VM 위에 컨테이너를 올려 두 경계를 겹쳐 쓰며, NIST SP 800-190 4.3.4절은 민감도가 다른 컨테이너를 서로 다른 호스트 커널로 나누라고 권한다.
3쉽게 이해하기 — 독채와 공유 사무실을 함께 임대하는 건물
한 건물주가 큰 건물 하나를 두 방식으로 빌려준다. 동관은 독채마다 벽 · 보일러 · 전속 관리인을 따로 두어서, 세입자가 관리 규칙까지 마음대로 고른다. 서관은 공용 관리실 하나가 모든 호실의 전기 · 수도를 대 주고, 칸막이와 출입증으로 남의 호실을 못 보게 한 공유 사무실이다. 세입자는 미리 싼 인테리어 꾸러미를 들고 와 몇 분 만에 입주하고, 계량기 상한을 넘기면 관리실이 그 호실 전기만 끊는다 — 다만 관리실 열쇠 하나가 털리면 서관 전체가 위험하다.
그림 1 · 동관은 독채마다 관리인을 따로 두고, 서관 공유 사무실은 관리실 하나가 칸막이 · 출입증 · 계량기로 호실을 가른다.
그림 2 · 동관 세입자의 요청은 전속 관리인이 먼저 받지만, 서관 세입자의 요청은 곧장 공용 관리실로 간다 — 실제로 게스트 커널과 호스트 커널의 차이다.
| 비유 속 역할 | 실제 이름 | 실제로 하는 일 |
|---|---|---|
| 건물 뼈대 · 전기 | 물리 서버 | CPU · 메모리 · 디스크를 모든 VM · 컨테이너가 나눠 쓴다 |
| 건물 관리 회사 | 하이퍼바이저 | 하드웨어를 vCPU · 가상 장치로 쪼개 VM 마다 준다 |
| 전속 관리인이 있는 독채 | 가상 머신 · 게스트 커널 | VM 마다 커널이 따로 돌아 다른 OS 도 실행한다 |
| 공용 관리실 | 호스트 커널 | 모든 컨테이너의 시스템 호출을 직접 처리한다 |
| 인테리어 꾸러미 | 컨테이너 이미지 | 읽기 전용 계층 묶음과 설정 · digest 로 식별한다 |
| 칸막이 · 출입증 | 네임스페이스 | 프로세스 · 네트워크 · 마운트가 보이는 범위를 나눈다 |
| 계량기 상한 | cgroup | CPU · 메모리 · 프로세스 수의 상한을 걸고 넘으면 막는다 |
| 퇴거 · 원상 복구 | 컨테이너 삭제 | 쓰기 계층을 지우고 이미지 계층은 남긴다 |
⚠ 비유가 맞지 않는 곳: 네임스페이스는 벽이 아니라 커널 안 이름표라서 물리적으로 막지 않는다. 하이퍼바이저도 관리 회사처럼 늘 끼어들지 않는다 — 게스트의 보통 명령은 CPU 가 직접 실행하고 특권 명령 · 장치 접근 때만 넘어온다.
4구조 — 두 스택과 격리 경계
가상 머신은 하이퍼바이저 위에 게스트 커널을 VM 마다 두고, 컨테이너는 호스트 커널 하나 위에 이미지 계층과 프로세스만 올린다. KVM 은 리눅스 커널 모듈로 /dev/kvm → VM → vCPU 순서의 파일 기술자를 주고 KVM_RUN 으로 게스트를 실행한다(KVM API 1절).
그림 3 · 가상 머신은 커널을 VM 마다 따로 갖고, 컨테이너는 커널 하나를 나눠 쓰므로 격리 경계가 하이퍼바이저에서 커널 안의 표로 내려온다.
| 요소 | 위치 | 역할 | 값 · 근거 |
|---|---|---|---|
| 하이퍼바이저 | 하드웨어 위(1형) · 호스트 OS 위(2형) | vCPU · 메모리 · 가상 장치를 VM 에 나눔 | KVM = KVM_CREATE_VM → KVM_CREATE_VCPU → KVM_RUN(KVM API 4절) |
| 게스트 커널 | VM 안 | VM 마다 따로 부팅 | 리눅스 · 윈도를 한 하드웨어에 함께(NIST SP 800-190 2.2절) |
| 호스트 커널 | 모든 컨테이너 아래 하나 | 시스템 호출 처리 | 리눅스 호스트는 리눅스 컨테이너만(2.2절) |
| 네임스페이스 | 커널 | 보이는 범위 분리 | 8종 — mount · pid · network · ipc · uts · user · cgroup · time(namespaces(7)) |
| cgroup | 커널 · /sys/fs/cgroup | 쓰는 양 상한 | memory.max · cpu.max(기본 「max 100000」) · pids.max(cgroup v2 문서) |
| OCI 런타임 | 사용자 공간(runc 등) | 번들(config.json + rootfs)로 컨테이너 생성 · 시작 · 삭제 | 상태 creating → created → running → stopped(OCI runtime.md) |
| 이미지 | 레지스트리 · 로컬 | 읽기 전용 계층 + 설정 + manifest | digest = sha256: + 소문자 16진 64자(OCI descriptor.md) |
| 쓰기 계층 | 이미지 위 | 실행 중 바뀐 파일 | 처음 고칠 때 아래 계층에서 복사(copy-on-write) · 컨테이너 삭제 때 함께 지움(Docker 저장 드라이버 문서) |
🔑 가상 머신은 커널을 나눠 갖고, 컨테이너는 커널 하나를 나눠 쓴다 — 그래서 컨테이너의 격리 경계는 하이퍼바이저가 아니라 커널 안의 표다(NIST SP 800-190 3.5.2절).
5동작 — 메모리 상한에 이른 컨테이너 한 개의 수명
리눅스 호스트(cgroup v2)에서 웹 응용 이미지 example/web:1.0 을 메모리 256 MiB · CPU 0.5개로 실행하다 메모리 상한에 닿는 사례다. 이미지 이름 · digest · PID 는 설명용 가정 값이다.
- 사용자가
docker run --memory 256m --cpus 0.을 실행한다.5 example/ web: 1. 0 - 엔진이 manifest 를 받아 digest
sha256:3f9a…로 확인하고, 읽기 전용 계층 3개를 풀어 그 위에 빈 쓰기 계층을 얹는다(OCI 이미지 명세 · Docker 저장 드라이버 문서). - 엔진이 config.json 과 rootfs 를 담은 번들로 runc
create를 부르고, 상태가 creating → created 로 바뀐다(OCI runtime.md). - runc 가 config.json 의
linux.namespaces대로 새 pid · network · mount · uts · ipc 네임스페이스를 만들고, 컨테이너 cgroup 에 memory.max268435456· cpu.max50000 100000을 쓴다 —--cpus 0.5= 주기 100,000 µs 마다 50,000 µs(Docker 자원 제한 문서). start로 응용이 실행되어 컨테이너 안에서는 PID 1, 호스트에서는 PID 24817 로 보이고 상태가 running 이 된다.- 요청이 몰려 memory.current 가 256 MiB 에 닿고 회수로도 줄지 않자, 커널이 그 cgroup 안에서만 OOM killer 를 불러 memory.events 의 oom_kill 이 1 이 되고(cgroup v2 문서) PID 1 이 끝나 상태가 stopped 가 된다 — 호스트의 다른 프로세스는 그대로다.
docker rm이 runcdelete를 불러 cgroup 과 쓰기 계층을 지우고, 이미지 계층 3개는 다음 실행을 위해 남는다.
그림 4 · docker run 한 번이 이미지 풀기 → 네임스페이스 · cgroup 생성 → 실행으로 이어지고, 메모리 상한에서는 커널이 그 컨테이너 안에서만 프로세스를 끝낸다.
그림 5 · 같은 프로세스가 호스트와 컨테이너에서 다른 번호로 보이고, 메모리는 56 MiB, CPU 는 주기마다 50 ms 가 남은 상태다 — 두 표 모두 커널 하나가 관리한다.
🔑 네임스페이스는 무엇이 보이는가를, cgroup 은 얼마나 쓰는가를 정한다 — 컨테이너가 바깥을 못 보는 것과 바깥만큼 쓰지 못하는 것은 서로 다른 장치다.
⚠ cgroup v1 호스트는 같은 상한의 파일 이름이 다르다(memory.limit_in_bytes · cpu.cfs_quota_us). 사례 값은 cgroup v2 파일 이름을 따른다.
6비교 — 가상 머신 · 컨테이너 · 경량 VM
| 기준 | 가상 머신 | 컨테이너 | 경량 VM(Firecracker) |
|---|---|---|---|
| 격리 경계 | 하드웨어 가상화(하이퍼바이저) | 커널 안 네임스페이스 · cgroup | 하드웨어 가상화 + 최소 장치 |
| 커널 | VM 마다 따로 · 다른 OS 가능 | 호스트와 공유 · 같은 OS 계열만(NIST SP 800-190 2.2절) | VM 마다 최소 커널 |
| 시작 | 게스트 OS 부팅 | 프로세스 시작 · 부팅 없음 | /sbin/init 까지 125 ms 이하(1 vCPU · 128 MiB · Firecracker 명세) |
| 하나당 추가 메모리 | 게스트 커널 + 가상 장치 | 프로세스 메모리만 | VMM 스레드 5 MiB 이하(같은 명세) |
| 공격 표면 | 하이퍼바이저 인터페이스 | 커널 시스템 호출 전체 — 하이퍼바이저보다 넓음(3.5.2절) | 장치 모델을 줄인 하이퍼바이저 |
| 묶음 형식 | 디스크 이미지 | OCI 이미지(계층 · digest) | 커널 + 루트 파일 시스템 |
분석다른 OS 를 돌리거나 서로 믿지 못하는 고객을 한 서버에 올리면 VM · 경량 VM, 같은 팀의 리눅스 서비스를 빠르게 많이 띄우면 컨테이너가 맞고, 민감도별 VM 안에 컨테이너를 두는 겹친 배치가 둘의 약점을 메운다. 근거는 표의 「공격 표면」 행과 민감도가 같은 컨테이너끼리 한 호스트 커널에 두라는 NIST SP 800-190 4.3.4절이다.
7실무 진단 — 경계별 상한 원인 가르기
분석먼저 VM 경계인지 컨테이너 경계인지 가린 뒤, 그 경계가 거는 상한을 차례로 본다. 컨테이너 상한은 cgroup 파일에 횟수로 남으므로(cgroup v2 문서) 응용 로그보다 먼저 연다.
| # | 증상 | 의심 원인 | 구분 | 확인 명령 | 판정 기준(근거) |
|---|---|---|---|---|---|
| 1 | 컨테이너가 예고 없이 다시 시작 | 메모리 상한 | cgroup memory | 컨테이너 cgroup 의 cat memory.events | oom_ |
| 2 | 응답 지연이 100 ms 주기로 튐 | CPU 상한 | cgroup cpu | cat cpu.stat | nr_ |
| 3 | VM 안 CPU 사용률은 낮은데 느림 | 같은 호스트의 다른 VM 이 CPU 점유 | 하이퍼바이저 | vmstat 1 의 st · /proc/stat steal | st 가 0 보다 계속 큼(vmstat(8) · proc_ |
| 4 | 호스트에서 컨테이너 포트가 안 보임 | 다른 network 네임스페이스 | 네임스페이스 | lsns -t net · nsenter -t 24817 -n ss -tln | 그 PID 가 다른 net 네임스페이스에 있고 그 안에서만 포트가 보임(lsns(8) · nsenter(1)) |
memory.events 부터 보는 까닭은 OOM 이 응용 로그를 남기지 못한 채 프로세스를 끝내기 때문이다. 그다음 cpu.stat 으로 상한 대기를 보고, 컨테이너 상한이 모두 깨끗한데 VM 안에서 느리면 st 로 호스트 쪽 경합을 본다.
8시험 대비
www.q-net.or.kr시험에서는 하이퍼바이저 방식과 컨테이너 방식의 격리 · 성능 · 보안을 견주는 비교형과, 네임스페이스 · cgroup · 이미지 계층으로 컨테이너가 만들어지는 과정을 묻는 구조 · 구성형이 나올 수 있다. 비교형은 두 스택 그림을 먼저 그리고 표로 차이를 적으며, 구조형은 생성 순서도와 두 표 그림으로 원리를 보인다. 배치 · 복구 같은 오케스트레이션은 쿠버네티스가 맡는다.
- 개요 — 정의 · Popek · Goldberg 의 가상화 조건 · OCI 런타임 · 이미지 명세
- 구조 비교 — 그림 3 두 스택(하이퍼바이저 · 게스트 커널 ↔ 호스트 커널 · 네임스페이스 · cgroup) + 요소 표
- 격리 원리 — 그림 5 PID 대응(24817 ↔ 1) · memory.max · cpu.max 「50000 100000」
- 생성 · 실행 절차 — 그림 4 순서도(이미지 받기 → create → clone · cgroup → start → OOM → delete)
- 성능 · 보안 비교 — 비교표 6행(시작 125 ms · VMM 5 MiB · 공격 표면 NIST SP 800-190 3.5.2절)
- 대응 · 동향 — 민감도별 VM 분리(4.3.4절) · seccomp 기본 프로필(4.4.3절) · 경량 VM
꼭 쓸 키워드
하이퍼바이저게스트 커널네임스페이스cgroupOCI이미지 계층copy-on-write공격 표면경량 VMOOM killer
차이를 내는 한 가지는 그림 5 처럼 같은 프로세스의 두 PID 와 cgroup 상한 값을 함께 그려 «보이는 범위 ↔ 쓰는 양»을 가르는 것이다.
9오해와 사실
- 오해컨테이너는 작은 가상 머신이다.사실컨테이너에는 자기 커널이 없고 호스트 커널의 시스템 호출을 그대로 쓰므로, 리눅스 호스트는 리눅스용 컨테이너만 돌린다(NIST SP 800-190 2.2절).
- 오해컨테이너 안에서 바꾼 파일은 이미지에 남는다.사실바뀐 파일은 맨 위 쓰기 계층에만 쓰이고 컨테이너를 지우면 함께 지워지므로, 남길 데이터는 볼륨에 둔다(Docker 저장 드라이버 문서).
- 오해메모리 상한을 넘기면 컨테이너가 느려질 뿐이다.사실memory.max 에 닿아 회수로도 줄지 않으면 커널이 그 cgroup 안에서 OOM killer 를 부른다(cgroup v2 문서 memory.max).
10핵심 정리
| 구분 | 나누는 것 | 경계 · 단위 | 설정 · 값 | 확인 |
|---|---|---|---|---|
| 하이퍼바이저 | 하드웨어 → vCPU · 가상 장치 | VM | KVM_CREATE_VM · KVM_RUN | vmstat st |
| 게스트 커널 | VM 하나의 OS | VM 안 | VM 마다 따로 · 다른 OS | VM 안 uname -r |
| 호스트 커널 | 모든 컨테이너 | 시스템 호출 | 컨테이너가 공유 | 안 · 밖 uname -r 이 같음 |
| 네임스페이스 | 보이는 범위 | 8종 | mount · pid · network · ipc · uts · user · cgroup · time | lsns · /proc/<PID>/ns |
| cgroup | 쓰는 양 | 컨테이너 cgroup | memory.max · cpu.max · pids.max | memory.events · cpu.stat |
| 이미지 | 파일 시스템 묶음 | digest | 읽기 전용 계층 + 쓰기 계층 | docker image inspect |
| OCI 런타임 | 생명주기 | 상태 4 | create · start · kill · delete | runc state |
11참고 문헌
- 먼저 볼 문헌
- ★ Formal Requirements for Virtualizable Third Generation Architectures — 가상 머신 모니터가 갖출 성질과 명령 조건을 볼 때
- ★ NIST SP 800-190 Application Container Security Guide — 가상 머신과 컨테이너의 격리 차이 · 컨테이너 위험 분류 · 대응 권고를 볼 때
- ★ OCI Runtime Specification (runtime.md · config-linux.md) — 컨테이너 생명주기 상태와 네임스페이스 설정 필드를 볼 때
- ★ OCI Image Format Specification (manifest · descriptor) — 이미지 계층 · manifest · digest 형식을 볼 때
- ★ Control Group v2 — memory.max · cpu.max · memory.events · cpu.stat 의 뜻을 원문으로 볼 때
- 본문 근거
- namespaces(7) Linux manual page — man7.org · 2026-11 ·
man7.org/linux/man-pages/man7/namespaces.7.html· 확인 2026-11-03 - The Definitive KVM (Kernel-based Virtual Machine) API Documentation — The Linux Kernel documentation · 2026-11 ·
docs.kernel.org/virt/kvm/api.html· 확인 2026-11-03 - Linux 2.6.20 (KVM) — kernelnewbies.org · 2007-02 ·
kernelnewbies.org/Linux_2_6_20· 확인 2026-11-03 - Linux 2.6.24 (Task Control Groups) — kernelnewbies.org · 2008-01 ·
kernelnewbies.org/Linux_2_6_24· 확인 2026-11-03 - About the Open Container Initiative — Open Container Initiative · 2026-11 ·
opencontainers.org/about/overview/· 확인 2026-11-03 - Resource constraints (Docker Engine) — Docker · 2026-11 ·
docs.docker.com/engine/containers/resource_constraints/· 확인 2026-11-03 - Storage drivers (Docker Engine) — Docker · 2026-11 ·
docs.docker.com/engine/storage/drivers/· 확인 2026-11-03 - Firecracker Specification — Firecracker project · 2026-11 ·
github.com/firecracker-microvm/firecracker/blob/main/SPECIFICATION.md· 확인 2026-11-03 - proc_stat(5) Linux manual page — man7.org · 2026-11 ·
man7.org/linux/man-pages/man5/proc_stat.5.html· 확인 2026-11-03 - vmstat(8) Linux manual page — man7.org · 2026-11 ·
man7.org/linux/man-pages/man8/vmstat.8.html· 확인 2026-11-03 - lsns(8) Linux manual page — man7.org · 2026-11 ·
man7.org/linux/man-pages/man8/lsns.8.html· 확인 2026-11-03 - nsenter(1) Linux manual page — man7.org · 2026-11 ·
man7.org/linux/man-pages/man1/nsenter.1.html· 확인 2026-11-03