IT › 컴퓨터 시스템 › 운영체제 › 메모리 관리

가상 메모리Virtual Memory

프로세스마다 0번지부터 시작하는 넓은 주소 공간을 주고, 그 주소를 페이지 단위로 물리 메모리 프레임이나 디스크 위치에 대응시켜 MMU 와 운영체제가 변환하는 메모리 관리 기법이다.

1요약

  1. 가상 메모리는 x86-64 리눅스에서 4 KiB 페이지와 4단계 페이지 테이블로 프로세스마다 약 128 TB 의 사용자 주소 공간을 주는 기법이며(Intel SDM 3A 4.5 · 커널 x86_64 메모리 지도), 그 위에서 프로세스 격리 · 공유 라이브러리 · 요구 페이징 · 스왑이 동작한다.
  2. 1962년 Atlas 는 코어 16K 워드에 드럼 96K 워드를 붙이고 둘을 한 단계 저장 장치처럼 보이게 했다(Manchester Atlas) — 이 변환이 없으면 물리 메모리보다 큰 프로그램은 옮겨 싣는 코드를 손으로 짜야 하고, 한 프로세스의 잘못된 주소가 다른 프로세스 메모리를 덮는다.
  3. 「메모리 때문에 느리다」는 페이지 폴트가 디스크 입출력을 부르는가로 가른다 — major fault 와 vmstat 의 si · so 가 계속 늘면 스왑 왕복이고, minor fault 만 늘면 첫 접근 할당이라 디스크와 무관하다.

2등장 배경

1950년대 프로그램이 빠른 코어 메모리보다 크면, 프로그래머가 드럼과 코어 사이에서 어느 부분을 언제 옮길지 직접 코드로 짰다. 같은 프로그램도 코어 크기가 다른 기계로 가면 그 옮기는 코드를 다시 써야 했다.

맨체스터 대학 Kilburn 팀은 1962년 「One-Level Storage System」(Kilburn 외 1962)을 발표했고, 같은 해 12월 7일 문을 연 Atlas 는 512워드 페이지와 페이지 주소 레지스터 32개로 주소를 자동 변환했다(Manchester Atlas). 어느 페이지를 드럼으로 내보낼지는 사용 통계를 모으는 드럼 학습 프로그램이 정했다. Denning 은 1968년 작업 집합(working set) 모델로 프로세스에 줄 프레임 수의 기준을 냈고(Denning 1968), 1970년 「Virtual Memory」로 주소 변환과 교체 정책을 정리했다(Denning 1970).

지금은 범용 운영체제가 모두 이 구조를 쓴다. x86-64 는 4단계(48비트 · 사용자 공간 약 128 TB)와 5단계(57비트 · 약 64 PB) 페이징을 두며(커널 x86_64 메모리 지도), 2 MiB · 1 GiB 대형 페이지로 TLB 부담을 줄인다(커널 mm 개념 문서).

3쉽게 이해하기 — 작은 책상과 큰 서고

도서관 열람실의 김 연구원은 0번부터 수천 번까지 쓸 수 있는 «내 책 번호»를 받았지만, 책상에는 자리가 여덟 개뿐이다. 「37번」을 찾으면 사서가 카드철에서 그 책이 책상 몇 번 자리에 있는지 알려 주고, 책상에 없으면 서고에서 가져온다. 책상이 꽉 차 있으면 가장 오래 안 본 책 한 권을 서고로 돌려보낸다. 김 연구원은 자주 찾는 번호 몇 개를 손 쪽지에 적어 두고 사서를 거치지 않는다.

열람자 자리 김 연구원 프로세스 · CPU 손 쪽지 TLB 5 자주 찾는 번호는 사서 없이 바로 찾음 1 37번 사서 데스크 사서 커널 · MMU 카드철 페이지 테이블 책 번호 → 책상 자리 번호마다 한 줄씩 2 자리 5 책상 자리 8개 · 좁고 빠름 펼친 책 물리 메모리 프레임 37 0 1 2 3 4 5 6 7 자리 번호 = 프레임 번호 3 4 서고 넓지만 느림 꽂아 둔 책 디스크 · 스왑 책상에 없는 책이 있는 곳 3 책상에 없으면 서고에서 가져옴 → 페이지 폴트 4 꽉 차면 오래 안 본 책을 서고로 → 스왑 아웃 5 자주 찾는 번호는 쪽지에서 바로 → TLB 적중

그림 1 · 책 번호(가상 주소)는 카드철(페이지 테이블)을 거쳐 책상 자리(프레임)으로 바뀌고, 책상에 없을 때만 서고(디스크)까지 간다.

번호 묻기김 연구원이 37번을 찾음
쪽지 보기적어 둔 번호면 바로 감
카드철 찾기사서가 책상 자리를 확인
서고 다녀오기책상에 없으면 가져옴
책 돌려보내기자리가 모자라면 한 권을 비움
책 펼치기자리 5 의 책을 읽음
비유 — 연구원 둘의 카드철 실제 — 페이지 테이블 둘 김 연구원 37번 → 자리 1 90번 사전 → 자리 3 이 연구원 90번 사전 → 자리 3 37번 → 자리 6 자리 0 자리 1 자리 2 자리 3 자리 4 자리 5 자리 6 자리 7 프로세스 A 페이지 37 → 프레임 1 페이지 90 → 프레임 3 공유 프로세스 B 페이지 90 → 프레임 3 공유 페이지 37 → 프레임 6 책상 자리 = 물리 프레임 페이지 = 가상 페이지 번호 · 90번 사전 = 공유 라이브러리 · 자리 3 = 둘이 함께 읽는 공유 자리

그림 2 · 두 연구원의 같은 37번이 카드철이 달라 다른 자리로 가듯, 두 프로세스의 같은 가상 주소도 다른 프레임으로 가고 공유할 자리만 함께 가리킨다.

비유 속 역할실제 이름실제로 하는 일
김 연구원프로세스 · CPU가상 주소로 읽고 쓴다 — 물리 위치는 모른다
카드철페이지 테이블가상 페이지 번호마다 프레임 번호 · 권한 · 있음 표시(P)를 적는다
손 쪽지TLB최근 변환 결과를 CPU 안에 두어 표 읽기를 건너뛴다
책상 자리물리 메모리 프레임4 KiB 단위로 실제 데이터를 담는다
서고디스크 · 스왑 영역프레임에서 밀려난 페이지와 파일 내용을 둔다
사서가 서고에 다녀옴페이지 폴트 처리커널이 프레임을 채우고 페이지 테이블을 고친 뒤 명령을 다시 실행시킨다
오래 안 본 책 돌려보내기회수 · 스왑 아웃접근 비트(A)로 덜 쓴 페이지를 골라 디스크로 내보낸다

⚠ 비유가 맞지 않는 곳: 실제 변환은 사서(커널)가 아니라 CPU 의 MMU 가 하드웨어로 하고 커널은 표에 없을 때만 불려 오며, 처음 쓰는 페이지는 서고에서 가져오지 않고 0 으로 채운 새 프레임을 받는다.

4구조 — 주소 공간 · 페이지 테이블 · 프레임

프로세스는 가상 주소만 쓰고, MMU 가 그 주소의 페이지 번호를 페이지 테이블에서 찾아 프레임 번호로 바꾼다. 표 항목(PTE)의 P 비트가 0 이면 변환 대신 페이지 폴트(예외 14번)가 나고 커널이 처리한다(Intel SDM 3A 4.7).

가상 주소 공간 프로세스마다 · 약 128 TB 스택 공유 라이브러리 힙 코드 · 데이터 VPN CR3 = 맨 위 표의 물리 주소 페이지 테이블 4단계 PTE P=1 · 프레임 번호 PTE P=0 · 스왑 위치 항목 없음 · 첫 접근 전 TLB = 최근 변환의 사본 물리 메모리 프레임 하나 = 4 KiB 사용 중 빈 프레임 스왑 영역(디스크) 읽으면 major fault 커널 폴트 처리기 프레임 할당 · PTE 작성 입출력 없으면 minor fault 주소 표 · 제어 데이터 사본 부재 시 보관 점선 = 아직 항목 없음 · TLB 와 표의 연결

그림 3 · 페이지 테이블 항목 하나가 «프레임에 있음 · 스왑에 있음 · 아직 없음» 셋 중 하나를 가리키고, P=1 일 때만 커널 없이 바로 변환된다.

요소크기역할값 · 근거
가상 주소48비트(4단계)프로세스가 쓰는 주소사용자 공간 0 ~ 0x00007fffffffefff · 약 128 TB(커널 x86_64 메모리 지도)
페이지 · 프레임4 KiB변환과 이동의 단위아래 12비트 = 페이지 안 오프셋(커널 Page Tables · PAGE_SHIFT 12)
페이지 테이블표 하나 4 KiBVPN → 프레임 번호표마다 8바이트 항목 512개 · 단계마다 9비트(Intel SDM 3A 4.5)
PTE 비트8바이트있음 · 권한 · 사용 기록P(0) · R/W(1) · U/S(2) · A(5) · D(6) · XD(63) · 가운데 프레임 번호
CR3레지스터 1개맨 위 표의 물리 주소프로세스를 바꾸면 커널이 다시 씀
TLBCPU 안 캐시변환 결과 사본부재 때 표 4개를 메모리에서 읽음 · 대형 페이지로 부담 감소(커널 mm 개념 문서)
스왑 영역디스크 파티션 · 파일밀려난 익명 페이지 보관프로세스별 사용량 = /proc/<pid>/status 의 VmSwap(proc_pid_status(5))

🔑 변환을 정하는 것은 페이지 테이블, 빠르게 하는 것은 TLB 이고, 커널은 P=0 인 항목을 만났을 때만 불려 온다.

5동작 — 1 MiB 할당부터 스왑 왕복까지 한 주소

x86-64 리눅스 프로세스가 익명 메모리 1 MiB 를 받아 주소 0x7f3a1c2d5e88 에 쓰는 사례다. 주소 · 프레임 번호는 설명용 가정 값이다.

  1. mmap(NULL, 1048576, PROT_READ|PROT_WRITE, MAP_PRIVATE|MAP_ANONYMOUS, -1, 0) 이 0x7f3a1c200000 을 돌려준다 — 커널은 주소 범위(VMA)만 기록하므로 ps 의 VSZ 는 1,024 KiB 늘고 RSS 는 그대로다(ps(1)).
  2. CPU 가 0x7f3a1c2d5e88 에 쓰려 하고 TLB 에 이 페이지의 변환이 없다.
  3. MMU 가 CR3 에서 시작해 인덱스 254 · 232 · 225 · 213 으로 표 네 개를 읽고, 마지막 PTE 의 P=0 을 만나 페이지 폴트(14번)를 내며 CR2 에 그 주소를 남긴다(Intel SDM 3A 4.7).
  4. 커널 handle_mm_fault() 가 VMA 안의 주소임을 확인하고 0 으로 채운 프레임 0x1a2b3 을 붙여 PTE 를 P=1 · R/W=1 · U/S=1 로 쓴다 — 입출력이 없으므로 minor fault 1회다(getrusage(2) ru_minflt · mmap(2) 0 초기화).
  5. 같은 명령이 다시 실행되어 물리 주소 0x1a2b3e88 에 쓰고, TLB 에 변환이 들어가며 PTE 의 A · D 비트가 1 이 된다.
  6. 메모리가 낮은 기준선 아래로 떨어지자 kswapd 가 이 페이지를 스왑에 쓰고 PTE 를 P=0(스왑 위치)으로 바꾼 뒤 TLB 항목을 무효화한다(커널 mm 개념 문서).
  7. 프로세스가 같은 주소를 다시 읽으면 폴트 → 스왑 읽기 → 새 프레임 연결이 일어나고, 이번에는 입출력이 있어 major fault 가 1 늘며 vmstat 의 si 에 잡힌다(getrusage(2) ru_majflt · vmstat(8)).
프로세스 TLB MMU · 페이지 표 커널 스왑 디스크 1 mmap 1 MiB VMA 만 기록 2 쓰기 …5e88 부재 3 표 4개 읽기 PTE P=0 #PF 14 4 0 프레임 0x1a2b3 PTE P=1 · minor 명령 다시 실행 5 물리 0x1a2b3e88 TLB 채움 6 kswapd 내보냄 PTE P=0 7 다시 읽기 #PF 14 스왑 읽기 major · si 증가 범례 · …5e88 = 가상 주소 7f3a1c2d5e88(16진)의 끝 네 자리

그림 4 · 첫 쓰기(①~⑤)는 입출력 없는 minor fault 로 끝나고, 스왑에 밀려난 뒤의 접근(⑥~⑦)만 디스크를 읽는 major fault 가 된다.

가상 주소 0x7f3a1c2d5e88 47 ~ 39 38 ~ 30 29 ~ 21 20 ~ 12 11 ~ 0 254 232 225 213 0xe88 9비트씩 CR3 PML4 [254] PDPT [232] PD [225] PT [213] TLB 부재이면 메모리에서 표 4개를 차례로 읽음 · 적중이면 건너뜀 PTE · P=1 · 프레임 0x1a2b3 그대로 물리 주소 0x1a2b3e88 프레임 번호 0x1a2b3 (PTE 가 줌) 0xe88 표 인덱스(9비트) 페이지 안 오프셋(12비트) 프레임 번호

그림 5 · 가상 주소의 위 36비트는 표 네 개를 거쳐 프레임 번호로 바뀌고, 아래 12비트 오프셋은 그대로 물리 주소가 된다.

🔑 가상 메모리는 주소의 «위치»만 바꾸고 «페이지 안 자리»는 바꾸지 않는다 — 위 36비트는 프레임 번호로 갈리고 아래 12비트는 그대로 내려간다.

6비교 — 캐시 메모리와의 차이

기준가상 메모리캐시 메모리
사이에 두는 두 기억 장치주 메모리(DRAM) ↔ 디스크 · SSDCPU 캐시(SRAM) ↔ 주 메모리
옮기는 단위페이지 4 KiB · 대형 2 MiB · 1 GiB(커널 mm 개념 문서)캐시 라인 64바이트(Intel SDM 3A 캐시 장)
부재 처리커널 소프트웨어(#PF 14 → handle_mm_fault)하드웨어가 자동으로
놓을 수 있는 자리어느 프레임에나주소로 정해진 집합 안에서만
위치 기록메모리에 있는 페이지 테이블 + TLB캐시 안의 태그
프로그램이 보는 주소프로세스마다 다른 가상 주소바뀌지 않음
보호PTE 의 R/W · U/S · XD 비트없음

분석캐시 부재는 데이터 접근 순서를 고쳐 줄이고, major fault 는 작업 집합이 프레임에 들어가도록 메모리를 늘리거나 동시에 도는 프로세스를 줄여 막는다. 근거는 표의 「부재 처리」 행 — 페이지 부재는 커널이 처리하고 디스크 입출력까지 부를 수 있어(getrusage(2) ru_majflt) 비용의 단위가 다르다.

7실무 진단 — 메모리 원인 가르기

분석시스템 전체(vmstat)에서 스왑 입출력이 있는지 먼저 보고, 있으면 프로세스별 major fault 로 범인을 좁힌다. 스왑 입출력이 없는데 느리면 페이지 폴트는 원인이 아니므로 다른 자원으로 넘어간다.

#증상의심 원인구분확인 명령판정 기준(근거)
1시스템 전체가 몇 초씩 멈추고 디스크가 바쁨스왑 왕복 · 작업 집합 > 메모리스왑vmstat 1si · so 가 매초 0 이 아니면 스왑 입출력 중(vmstat(8))
2한 프로세스만 느림그 프로세스의 페이지가 밀려남프로세스ps -o pid,min_flt,maj_flt,rss,vsz -p 4211maj_flt 가 계속 늚 = 입출력이 필요한 폴트(ps(1) · getrusage(2))
3프로세스가 갑자기 사라짐회수 실패 → OOM killer회수dmesg | grep -i oomOOM 기록이 있으면 회수로 메모리를 못 만든 것(커널 mm 개념 문서)
4여유 메모리가 있는데 malloc 실패(ENOMEM)엄격한 커밋 한도할당cat /proc/sys/vm/overcommit_memory2 = 스왑 + RAM 의 overcommit_ratio(기본 50%) 까지만 허용(Overcommit Accounting)
5Segmentation fault 종료매핑 없는 주소 · 권한 위반변환dmesg | grep segfault해결할 수 없는 사용자 공간 폴트 = SIGSEGV(커널 Page Tables)

VSZ 가 커도 RSS 가 작으면 예약만 한 것이므로 2행에서 RSS 와 VmSwap(/proc/4211/status)을 함께 본다. 1행에서 si 만 있고 so 가 0 이면 예전에 밀려난 페이지를 되읽는 중이라, 지금 메모리가 모자란 상태와 구분한다.

8시험 대비

출제 정보 정보관리(139회) · 컴퓨터시스템응용(138회, 137회, 126회, 110회, 87회, 80회, 78회, 72회, 65회)문제 원문 — 큐넷 자료실 「기출문제(기술사)」 www.q-net.or.kr

시험에서는 가상 주소 하나가 TLB · 페이지 테이블을 거쳐 물리 주소로 바뀌는 길을 단계별로 그리는 동작 · 절차 설명형, 가상 메모리 · TLB 를 묻는 정의 · 특징형, 페이징과 세그멘테이션의 장단점을 견주는 비교형이 나올 수 있다.

답안 목차
  1. 개요 — 정의 · 목적 셋(주소 공간 확장 · 프로세스 격리 · 공유) · Atlas 1962 one-level store
  2. 구성 요소 — 그림 3 구조(가상 주소 공간 · CR3 · 4단계 페이지 테이블 · 프레임 · 스왑) + 요소 표(4 KiB · 512 항목 · PTE 비트)
  3. 주소 변환 — 그림 5 비트 나눔(9 · 9 · 9 · 9 · 12 · 인덱스 254 · 232 · 225 · 213 · 오프셋 그대로) + TLB 적중 · 부재
  4. 페이지 폴트 처리 — 그림 4 순서도(#PF 14 · CR2 · handle_mm_fault · minor ↔ major)
  5. 캐시 메모리와 비교 — 비교표(단위 64바이트 ↔ 4 KiB · 하드웨어 ↔ 커널 처리 · 보호 비트)
  6. 운영 이슈 — vmstat si · so · major fault · OOM · overcommit 모드 2

꼭 쓸 키워드
페이지프레임페이지 테이블PTETLBMMU페이지 폴트스왑작업 집합주소 변환

9오해와 사실

  • 오해가상 메모리는 디스크를 메모리처럼 쓰는 스왑과 같은 말이다.
    사실스왑이 없어도 주소 변환 · 프로세스 격리 · 요구 페이징은 그대로 동작하며, 파일에서 온 페이지는 스왑이 아니라 원래 파일에서 다시 읽는다(커널 mm 개념 문서).
  • 오해VSZ 가 큰 프로세스는 그만큼 물리 메모리를 차지한다.
    사실VSZ 는 예약한 가상 주소의 크기이고 프레임을 실제로 차지한 양은 RSS 다(ps(1)) — 1 MiB mmap 직후 VSZ 만 1,024 KiB 늘어난다.
  • 오해페이지 폴트는 프로그램 오류다.
    사실대부분은 첫 접근 할당 · 쓰기 시 복사처럼 예정된 동작이고, 해결할 수 없는 사용자 공간 폴트만 SIGSEGV 가 된다(커널 Page Tables).

10핵심 정리

구성 요소맡는 일단위 · 크기놓이는 곳관리 주체확인 방법
가상 주소프로세스가 쓰는 주소48비트 · 약 128 TB프로세스마다커널(VMA)/proc/<pid>/maps · VSZ
페이지 테이블VPN → 프레임 번호 · 권한표 4 KiB · 항목 8바이트 × 512주 메모리커널이 쓰고 MMU 가 읽음CR3 · PTE 비트
TLB변환 결과 사본항목 = 페이지 하나CPU 안하드웨어대형 페이지로 부담 감소
프레임실제 데이터4 KiB · 2 MiB · 1 GiB주 메모리커널RSS
페이지 폴트변환 없음 알림minor(입출력 없음) · major(입출력)CPU 예외 14 → 커널커널ps -o min_flt,maj_flt
스왑 영역밀려난 익명 페이지 보관페이지 단위디스크kswapd · 커널vmstat si · so · VmSwap

11참고 문헌

  1. 먼저 볼 문헌
  2. ★ Intel 64 and IA-32 Architectures Software Developer's Manual Volume 3A: System Programming Guide (4 Paging) — 4단계 페이징의 비트 나눔 · PTE 비트 · 페이지 폴트 예외를 원문으로 확인할 때
    Intel · 2026-11 · www.intel.com/content/www/us/en/developer/articles/technical/intel-sdm.html · 확인 2026-11-02
  3. ★ Page Tables — 리눅스의 페이지 테이블 단계와 페이지 폴트 처리 흐름을 볼 때
    The Linux Kernel documentation · 2026-11 · docs.kernel.org/mm/page_tables.html · 확인 2026-11-02
  4. ★ Concepts overview (Memory Management) — TLB · 대형 페이지 · 익명 메모리 · 회수 · OOM 의 관계를 한 번에 볼 때
    The Linux Kernel documentation · 2026-11 · docs.kernel.org/admin-guide/mm/concepts.html · 확인 2026-11-02
  5. ★ Virtual Memory — 주소 변환 · 교체 · 작업 집합을 한 편으로 정리한 고전을 볼 때
    P. J. Denning · ACM Computing Surveys 2(3) 153-189 · 1970-09 · doi.org/10.1145/356571.356573 · 확인 2026-11-02
  6. 본문 근거
  7. One-Level Storage System — T. Kilburn · D. B. G. Edwards · M. J. Lanigan · F. H. Sumner · IRE Transactions on Electronic Computers EC-11(2) 223-235 · 1962-04 · doi.org/10.1109/TEC.1962.5219356 · 확인 2026-11-02
  8. The Atlas (Computer 50 · Manchester computer history) — The University of Manchester · 2026-11 · curation.cs.manchester.ac.uk/computer50/www.computer50.org/kgill/atlas/atlas.html · 확인 2026-11-02
  9. The Working Set Model for Program Behavior — P. J. Denning · Communications of the ACM 11(5) 323-333 · 1968-05 · doi.org/10.1145/363095.363141 · 확인 2026-11-02
  10. Memory Management on x86_64 (Complete virtual memory map) — The Linux Kernel documentation · 2026-11 · docs.kernel.org/arch/x86/x86_64/mm.html · 확인 2026-11-02
  11. Overcommit Accounting — The Linux Kernel documentation · 2026-11 · docs.kernel.org/mm/overcommit-accounting.html · 확인 2026-11-02
  12. mmap(2) Linux manual page — man7.org · 2026-11 · man7.org/linux/man-pages/man2/mmap.2.html · 확인 2026-11-02
  13. getrusage(2) Linux manual page — man7.org · 2026-11 · man7.org/linux/man-pages/man2/getrusage.2.html · 확인 2026-11-02
  14. vmstat(8) Linux manual page — man7.org · 2026-11 · man7.org/linux/man-pages/man8/vmstat.8.html · 확인 2026-11-02
  15. ps(1) Linux manual page — man7.org · 2026-11 · man7.org/linux/man-pages/man1/ps.1.html · 확인 2026-11-02
  16. proc_pid_status(5) Linux manual page — man7.org · 2026-11 · man7.org/linux/man-pages/man5/proc_pid_status.5.html · 확인 2026-11-02