가상 메모리Virtual Memory
프로세스마다 0번지부터 시작하는 넓은 주소 공간을 주고, 그 주소를 페이지 단위로 물리 메모리 프레임이나 디스크 위치에 대응시켜 MMU 와 운영체제가 변환하는 메모리 관리 기법이다.
1요약
- 가상 메모리는 x86-64 리눅스에서 4 KiB 페이지와 4단계 페이지 테이블로 프로세스마다 약 128 TB 의 사용자 주소 공간을 주는 기법이며(Intel SDM 3A 4.5 · 커널 x86_64 메모리 지도), 그 위에서 프로세스 격리 · 공유 라이브러리 · 요구 페이징 · 스왑이 동작한다.
- 1962년 Atlas 는 코어 16K 워드에 드럼 96K 워드를 붙이고 둘을 한 단계 저장 장치처럼 보이게 했다(Manchester Atlas) — 이 변환이 없으면 물리 메모리보다 큰 프로그램은 옮겨 싣는 코드를 손으로 짜야 하고, 한 프로세스의 잘못된 주소가 다른 프로세스 메모리를 덮는다.
- 「메모리 때문에 느리다」는 페이지 폴트가 디스크 입출력을 부르는가로 가른다 — major fault 와 vmstat 의 si · so 가 계속 늘면 스왑 왕복이고, minor fault 만 늘면 첫 접근 할당이라 디스크와 무관하다.
2등장 배경
1950년대 프로그램이 빠른 코어 메모리보다 크면, 프로그래머가 드럼과 코어 사이에서 어느 부분을 언제 옮길지 직접 코드로 짰다. 같은 프로그램도 코어 크기가 다른 기계로 가면 그 옮기는 코드를 다시 써야 했다.
맨체스터 대학 Kilburn 팀은 1962년 「One-Level Storage System」(Kilburn 외 1962)을 발표했고, 같은 해 12월 7일 문을 연 Atlas 는 512워드 페이지와 페이지 주소 레지스터 32개로 주소를 자동 변환했다(Manchester Atlas). 어느 페이지를 드럼으로 내보낼지는 사용 통계를 모으는 드럼 학습 프로그램이 정했다. Denning 은 1968년 작업 집합(working set) 모델로 프로세스에 줄 프레임 수의 기준을 냈고(Denning 1968), 1970년 「Virtual Memory」로 주소 변환과 교체 정책을 정리했다(Denning 1970).
지금은 범용 운영체제가 모두 이 구조를 쓴다. x86-64 는 4단계(48비트 · 사용자 공간 약 128 TB)와 5단계(57비트 · 약 64 PB) 페이징을 두며(커널 x86_64 메모리 지도), 2 MiB · 1 GiB 대형 페이지로 TLB 부담을 줄인다(커널 mm 개념 문서).
3쉽게 이해하기 — 작은 책상과 큰 서고
도서관 열람실의 김 연구원은 0번부터 수천 번까지 쓸 수 있는 «내 책 번호»를 받았지만, 책상에는 자리가 여덟 개뿐이다. 「37번」을 찾으면 사서가 카드철에서 그 책이 책상 몇 번 자리에 있는지 알려 주고, 책상에 없으면 서고에서 가져온다. 책상이 꽉 차 있으면 가장 오래 안 본 책 한 권을 서고로 돌려보낸다. 김 연구원은 자주 찾는 번호 몇 개를 손 쪽지에 적어 두고 사서를 거치지 않는다.
그림 1 · 책 번호(가상 주소)는 카드철(페이지 테이블)을 거쳐 책상 자리(프레임)으로 바뀌고, 책상에 없을 때만 서고(디스크)까지 간다.
그림 2 · 두 연구원의 같은 37번이 카드철이 달라 다른 자리로 가듯, 두 프로세스의 같은 가상 주소도 다른 프레임으로 가고 공유할 자리만 함께 가리킨다.
| 비유 속 역할 | 실제 이름 | 실제로 하는 일 |
|---|---|---|
| 김 연구원 | 프로세스 · CPU | 가상 주소로 읽고 쓴다 — 물리 위치는 모른다 |
| 카드철 | 페이지 테이블 | 가상 페이지 번호마다 프레임 번호 · 권한 · 있음 표시(P)를 적는다 |
| 손 쪽지 | TLB | 최근 변환 결과를 CPU 안에 두어 표 읽기를 건너뛴다 |
| 책상 자리 | 물리 메모리 프레임 | 4 KiB 단위로 실제 데이터를 담는다 |
| 서고 | 디스크 · 스왑 영역 | 프레임에서 밀려난 페이지와 파일 내용을 둔다 |
| 사서가 서고에 다녀옴 | 페이지 폴트 처리 | 커널이 프레임을 채우고 페이지 테이블을 고친 뒤 명령을 다시 실행시킨다 |
| 오래 안 본 책 돌려보내기 | 회수 · 스왑 아웃 | 접근 비트(A)로 덜 쓴 페이지를 골라 디스크로 내보낸다 |
⚠ 비유가 맞지 않는 곳: 실제 변환은 사서(커널)가 아니라 CPU 의 MMU 가 하드웨어로 하고 커널은 표에 없을 때만 불려 오며, 처음 쓰는 페이지는 서고에서 가져오지 않고 0 으로 채운 새 프레임을 받는다.
4구조 — 주소 공간 · 페이지 테이블 · 프레임
프로세스는 가상 주소만 쓰고, MMU 가 그 주소의 페이지 번호를 페이지 테이블에서 찾아 프레임 번호로 바꾼다. 표 항목(PTE)의 P 비트가 0 이면 변환 대신 페이지 폴트(예외 14번)가 나고 커널이 처리한다(Intel SDM 3A 4.7).
그림 3 · 페이지 테이블 항목 하나가 «프레임에 있음 · 스왑에 있음 · 아직 없음» 셋 중 하나를 가리키고, P=1 일 때만 커널 없이 바로 변환된다.
| 요소 | 크기 | 역할 | 값 · 근거 |
|---|---|---|---|
| 가상 주소 | 48비트(4단계) | 프로세스가 쓰는 주소 | 사용자 공간 0 ~ 0x00007fffffffefff · 약 128 TB(커널 x86_ |
| 페이지 · 프레임 | 4 KiB | 변환과 이동의 단위 | 아래 12비트 = 페이지 안 오프셋(커널 Page Tables · PAGE_ |
| 페이지 테이블 | 표 하나 4 KiB | VPN → 프레임 번호 | 표마다 8바이트 항목 512개 · 단계마다 9비트(Intel SDM 3A 4.5) |
| PTE 비트 | 8바이트 | 있음 · 권한 · 사용 기록 | P(0) · R/W(1) · U/S(2) · A(5) · D(6) · XD(63) · 가운데 프레임 번호 |
| CR3 | 레지스터 1개 | 맨 위 표의 물리 주소 | 프로세스를 바꾸면 커널이 다시 씀 |
| TLB | CPU 안 캐시 | 변환 결과 사본 | 부재 때 표 4개를 메모리에서 읽음 · 대형 페이지로 부담 감소(커널 mm 개념 문서) |
| 스왑 영역 | 디스크 파티션 · 파일 | 밀려난 익명 페이지 보관 | 프로세스별 사용량 = /proc/<pid>/status 의 VmSwap(proc_ |
🔑 변환을 정하는 것은 페이지 테이블, 빠르게 하는 것은 TLB 이고, 커널은 P=0 인 항목을 만났을 때만 불려 온다.
5동작 — 1 MiB 할당부터 스왑 왕복까지 한 주소
x86-64 리눅스 프로세스가 익명 메모리 1 MiB 를 받아 주소 0x7f3a1c2d5e88 에 쓰는 사례다. 주소 · 프레임 번호는 설명용 가정 값이다.
mmap(NULL, 1048576, PROT_READ|PROT_WRITE, MAP_PRIVATE|MAP_ANONYMOUS, -1, 0)이 0x7f3a1c200000 을 돌려준다 — 커널은 주소 범위(VMA)만 기록하므로ps의 VSZ 는 1,024 KiB 늘고 RSS 는 그대로다(ps(1)).- CPU 가 0x7f3a1c2d5e88 에 쓰려 하고 TLB 에 이 페이지의 변환이 없다.
- MMU 가 CR3 에서 시작해 인덱스 254 · 232 · 225 · 213 으로 표 네 개를 읽고, 마지막 PTE 의 P=0 을 만나 페이지 폴트(14번)를 내며 CR2 에 그 주소를 남긴다(Intel SDM 3A 4.7).
- 커널
handle_mm_fault()가 VMA 안의 주소임을 확인하고 0 으로 채운 프레임 0x1a2b3 을 붙여 PTE 를 P=1 · R/W=1 · U/S=1 로 쓴다 — 입출력이 없으므로 minor fault 1회다(getrusage(2) ru_minflt · mmap(2) 0 초기화). - 같은 명령이 다시 실행되어 물리 주소 0x1a2b3e88 에 쓰고, TLB 에 변환이 들어가며 PTE 의 A · D 비트가 1 이 된다.
- 메모리가 낮은 기준선 아래로 떨어지자 kswapd 가 이 페이지를 스왑에 쓰고 PTE 를 P=0(스왑 위치)으로 바꾼 뒤 TLB 항목을 무효화한다(커널 mm 개념 문서).
- 프로세스가 같은 주소를 다시 읽으면 폴트 → 스왑 읽기 → 새 프레임 연결이 일어나고, 이번에는 입출력이 있어 major fault 가 1 늘며
vmstat의 si 에 잡힌다(getrusage(2) ru_majflt · vmstat(8)).
그림 4 · 첫 쓰기(①~⑤)는 입출력 없는 minor fault 로 끝나고, 스왑에 밀려난 뒤의 접근(⑥~⑦)만 디스크를 읽는 major fault 가 된다.
그림 5 · 가상 주소의 위 36비트는 표 네 개를 거쳐 프레임 번호로 바뀌고, 아래 12비트 오프셋은 그대로 물리 주소가 된다.
🔑 가상 메모리는 주소의 «위치»만 바꾸고 «페이지 안 자리»는 바꾸지 않는다 — 위 36비트는 프레임 번호로 갈리고 아래 12비트는 그대로 내려간다.
6비교 — 캐시 메모리와의 차이
| 기준 | 가상 메모리 | 캐시 메모리 |
|---|---|---|
| 사이에 두는 두 기억 장치 | 주 메모리(DRAM) ↔ 디스크 · SSD | CPU 캐시(SRAM) ↔ 주 메모리 |
| 옮기는 단위 | 페이지 4 KiB · 대형 2 MiB · 1 GiB(커널 mm 개념 문서) | 캐시 라인 64바이트(Intel SDM 3A 캐시 장) |
| 부재 처리 | 커널 소프트웨어(#PF 14 → handle_ | 하드웨어가 자동으로 |
| 놓을 수 있는 자리 | 어느 프레임에나 | 주소로 정해진 집합 안에서만 |
| 위치 기록 | 메모리에 있는 페이지 테이블 + TLB | 캐시 안의 태그 |
| 프로그램이 보는 주소 | 프로세스마다 다른 가상 주소 | 바뀌지 않음 |
| 보호 | PTE 의 R/W · U/S · XD 비트 | 없음 |
분석캐시 부재는 데이터 접근 순서를 고쳐 줄이고, major fault 는 작업 집합이 프레임에 들어가도록 메모리를 늘리거나 동시에 도는 프로세스를 줄여 막는다. 근거는 표의 「부재 처리」 행 — 페이지 부재는 커널이 처리하고 디스크 입출력까지 부를 수 있어(getrusage(2) ru_majflt) 비용의 단위가 다르다.
7실무 진단 — 메모리 원인 가르기
분석시스템 전체(vmstat)에서 스왑 입출력이 있는지 먼저 보고, 있으면 프로세스별 major fault 로 범인을 좁힌다. 스왑 입출력이 없는데 느리면 페이지 폴트는 원인이 아니므로 다른 자원으로 넘어간다.
| # | 증상 | 의심 원인 | 구분 | 확인 명령 | 판정 기준(근거) |
|---|---|---|---|---|---|
| 1 | 시스템 전체가 몇 초씩 멈추고 디스크가 바쁨 | 스왑 왕복 · 작업 집합 > 메모리 | 스왑 | vmstat 1 | si · so 가 매초 0 이 아니면 스왑 입출력 중(vmstat(8)) |
| 2 | 한 프로세스만 느림 | 그 프로세스의 페이지가 밀려남 | 프로세스 | ps -o pid, | maj_ |
| 3 | 프로세스가 갑자기 사라짐 | 회수 실패 → OOM killer | 회수 | dmesg | grep -i oom | OOM 기록이 있으면 회수로 메모리를 못 만든 것(커널 mm 개념 문서) |
| 4 | 여유 메모리가 있는데 malloc 실패(ENOMEM) | 엄격한 커밋 한도 | 할당 | cat / | 2 = 스왑 + RAM 의 overcommit_ |
| 5 | Segmentation fault 종료 | 매핑 없는 주소 · 권한 위반 | 변환 | dmesg | grep segfault | 해결할 수 없는 사용자 공간 폴트 = SIGSEGV(커널 Page Tables) |
VSZ 가 커도 RSS 가 작으면 예약만 한 것이므로 2행에서 RSS 와 VmSwap(/proc/4211/status)을 함께 본다. 1행에서 si 만 있고 so 가 0 이면 예전에 밀려난 페이지를 되읽는 중이라, 지금 메모리가 모자란 상태와 구분한다.
8시험 대비
www.q-net.or.kr시험에서는 가상 주소 하나가 TLB · 페이지 테이블을 거쳐 물리 주소로 바뀌는 길을 단계별로 그리는 동작 · 절차 설명형, 가상 메모리 · TLB 를 묻는 정의 · 특징형, 페이징과 세그멘테이션의 장단점을 견주는 비교형이 나올 수 있다.
- 개요 — 정의 · 목적 셋(주소 공간 확장 · 프로세스 격리 · 공유) · Atlas 1962 one-level store
- 구성 요소 — 그림 3 구조(가상 주소 공간 · CR3 · 4단계 페이지 테이블 · 프레임 · 스왑) + 요소 표(4 KiB · 512 항목 · PTE 비트)
- 주소 변환 — 그림 5 비트 나눔(9 · 9 · 9 · 9 · 12 · 인덱스 254 · 232 · 225 · 213 · 오프셋 그대로) + TLB 적중 · 부재
- 페이지 폴트 처리 — 그림 4 순서도(#PF 14 · CR2 · handle_mm_fault · minor ↔ major)
- 캐시 메모리와 비교 — 비교표(단위 64바이트 ↔ 4 KiB · 하드웨어 ↔ 커널 처리 · 보호 비트)
- 운영 이슈 — vmstat si · so · major fault · OOM · overcommit 모드 2
꼭 쓸 키워드
페이지프레임페이지 테이블PTETLBMMU페이지 폴트스왑작업 집합주소 변환
9오해와 사실
- 오해가상 메모리는 디스크를 메모리처럼 쓰는 스왑과 같은 말이다.사실스왑이 없어도 주소 변환 · 프로세스 격리 · 요구 페이징은 그대로 동작하며, 파일에서 온 페이지는 스왑이 아니라 원래 파일에서 다시 읽는다(커널 mm 개념 문서).
- 오해VSZ 가 큰 프로세스는 그만큼 물리 메모리를 차지한다.사실VSZ 는 예약한 가상 주소의 크기이고 프레임을 실제로 차지한 양은 RSS 다(ps(1)) — 1 MiB mmap 직후 VSZ 만 1,024 KiB 늘어난다.
- 오해페이지 폴트는 프로그램 오류다.사실대부분은 첫 접근 할당 · 쓰기 시 복사처럼 예정된 동작이고, 해결할 수 없는 사용자 공간 폴트만 SIGSEGV 가 된다(커널 Page Tables).
10핵심 정리
| 구성 요소 | 맡는 일 | 단위 · 크기 | 놓이는 곳 | 관리 주체 | 확인 방법 |
|---|---|---|---|---|---|
| 가상 주소 | 프로세스가 쓰는 주소 | 48비트 · 약 128 TB | 프로세스마다 | 커널(VMA) | /proc/<pid>/maps · VSZ |
| 페이지 테이블 | VPN → 프레임 번호 · 권한 | 표 4 KiB · 항목 8바이트 × 512 | 주 메모리 | 커널이 쓰고 MMU 가 읽음 | CR3 · PTE 비트 |
| TLB | 변환 결과 사본 | 항목 = 페이지 하나 | CPU 안 | 하드웨어 | 대형 페이지로 부담 감소 |
| 프레임 | 실제 데이터 | 4 KiB · 2 MiB · 1 GiB | 주 메모리 | 커널 | RSS |
| 페이지 폴트 | 변환 없음 알림 | minor(입출력 없음) · major(입출력) | CPU 예외 14 → 커널 | 커널 | ps -o min_flt,maj_flt |
| 스왑 영역 | 밀려난 익명 페이지 보관 | 페이지 단위 | 디스크 | kswapd · 커널 | vmstat si · so · VmSwap |
11참고 문헌
- 먼저 볼 문헌
- ★ Intel 64 and IA-32 Architectures Software Developer's Manual Volume 3A: System Programming Guide (4 Paging) — 4단계 페이징의 비트 나눔 · PTE 비트 · 페이지 폴트 예외를 원문으로 확인할 때
- ★ Page Tables — 리눅스의 페이지 테이블 단계와 페이지 폴트 처리 흐름을 볼 때
- ★ Concepts overview (Memory Management) — TLB · 대형 페이지 · 익명 메모리 · 회수 · OOM 의 관계를 한 번에 볼 때
- ★ Virtual Memory — 주소 변환 · 교체 · 작업 집합을 한 편으로 정리한 고전을 볼 때
- 본문 근거
- One-Level Storage System — T. Kilburn · D. B. G. Edwards · M. J. Lanigan · F. H. Sumner · IRE Transactions on Electronic Computers EC-11(2) 223-235 · 1962-04 ·
doi.org/10.1109/TEC.1962.5219356· 확인 2026-11-02 - The Atlas (Computer 50 · Manchester computer history) — The University of Manchester · 2026-11 ·
curation.cs.manchester.ac.uk/computer50/www.computer50.org/kgill/atlas/atlas.html· 확인 2026-11-02 - The Working Set Model for Program Behavior — P. J. Denning · Communications of the ACM 11(5) 323-333 · 1968-05 ·
doi.org/10.1145/363095.363141· 확인 2026-11-02 - Memory Management on x86_64 (Complete virtual memory map) — The Linux Kernel documentation · 2026-11 ·
docs.kernel.org/arch/x86/x86_64/mm.html· 확인 2026-11-02 - Overcommit Accounting — The Linux Kernel documentation · 2026-11 ·
docs.kernel.org/mm/overcommit-accounting.html· 확인 2026-11-02 - mmap(2) Linux manual page — man7.org · 2026-11 ·
man7.org/linux/man-pages/man2/mmap.2.html· 확인 2026-11-02 - getrusage(2) Linux manual page — man7.org · 2026-11 ·
man7.org/linux/man-pages/man2/getrusage.2.html· 확인 2026-11-02 - vmstat(8) Linux manual page — man7.org · 2026-11 ·
man7.org/linux/man-pages/man8/vmstat.8.html· 확인 2026-11-02 - ps(1) Linux manual page — man7.org · 2026-11 ·
man7.org/linux/man-pages/man1/ps.1.html· 확인 2026-11-02 - proc_pid_status(5) Linux manual page — man7.org · 2026-11 ·
man7.org/linux/man-pages/man5/proc_pid_status.5.html· 확인 2026-11-02