운영체제Operating Systems
응용 프로그램과 하드웨어 사이에서 CPU · 메모리 · 장치를 여러 프로그램에 나눠 주고 서로 침범하지 못하게 막는 시스템 소프트웨어다. 그 중심은 커널 모드에서 도는 커널이며, 응용은 시스템 호출 · 예외 · 인터럽트로만 커널에 들어간다.
1요약
- 운영체제는 커널 모드에서 도는 커널과 사용자 모드 프로그램으로 나뉜 시스템 소프트웨어로, 응용에 내놓는 인터페이스는 POSIX.1-2024(IEEE Std 1003.1-2024)가 정하고 그 위에서 셸 · 데이터베이스 · 웹 서버 · 컨테이너 실행기가 돈다.
- 프로그램마다 CPU · 메모리 · 장치를 직접 다루면 잘못된 주소 쓰기 하나가 기계 전체를 멈추므로 특권을 커널에 모으는데, 그 대가로 커널 모드 코드의 크기가 곧 고장 범위가 된다 — 리눅스 커널은 약 2,000만 줄, seL4 마이크로커널은 약 1만 줄이다(Heiser 2026 1장 · 그림 2.1).
- 「서버가 느리다」는 어느 관리자 앞에 줄이 생겼는가로 가른다 — 실행 대기 작업 수(r)가 코어 수를 넘으면 프로세스 관리, 입출력 대기(b · wa)가 크면 장치 쪽, 스왑 입출력(si · so)이 0 이 아니면 메모리 관리가 맡는다(vmstat(8)).
2등장 배경
초기 컴퓨터에서는 프로그램 하나가 기계를 통째로 차지하고 드럼 · 콘솔 · 프린터를 직접 다뤘다. 그러면 입출력을 기다리는 동안 CPU 가 놀고, 한 프로그램의 실수가 다음 작업까지 망쳤다.
1968년 Dijkstra 팀(6명)은 코어 32K 워드 · 드럼 512K 워드의 EL X8 위에 THE 다중 프로그래밍 시스템을 만들고, 기능을 계층 0(프로세서 할당 · 실시간 클록 인터럽트) → 1(코어 · 드럼 사이 세그먼트 관리) → 2(콘솔 메시지) → 3(입출력 버퍼) → 4(사용자 프로그램)로 쌓았다(EWD196). 1974년 Ritchie · Thompson 이 CACM 에 발표한 UNIX 는 프로세스 · 계층형 파일 시스템 · 셸을 작은 커널 위에 묶었고, 그 호출 인터페이스가 POSIX.1-1988 로 표준이 되었다(fork(2) HISTORY).
지금은 IEEE Std 1003.1-2017 을 대체한 POSIX.1-2024 가 현행 표준이다(IEEE 1003.1-2024). 리눅스 같은 단일형 커널이 서버 · 휴대폰을 맡는 한편, 2009년 소스 코드 수준의 기계 검증 증명을 마친 seL4 같은 마이크로커널이 보안 · 안전 장비에 쓰인다(Heiser 2026 3장).
3쉽게 이해하기 — 회의실 하나를 나눠 쓰는 공유 오피스
공유 오피스 건물에 입주 팀이 여럿 있지만 회의실은 하나뿐이다. 팀들은 회의실 · 방 · 창고에 직접 들어가지 못하고, 접수 창구에 신청서를 내면 관리소가 회의실 시간표를 짜고 호실 번호를 실제 방으로 바꿔 준다. 짐이 방에 없으면 관리소가 지하 창고에서 가져오는 동안 그 팀은 회의실을 비워 주고, 택배 벨이 울리면 관리소는 하던 일을 잠시 멈추고 벨부터 처리한다. 열쇠가 하나뿐인 자료실은 열쇠함에서 열쇠를 받은 팀만 들어간다.
그림 1 · 팀은 접수 창구로만 부탁하고, 회의실 · 방 · 열쇠는 관리소가 나눠 주며, 택배 벨이 울리면 관리소가 하던 일을 먼저 멈춘다.
그림 2 · 짐 하나가 방에 없을 때 배정표 담당 · 창고 담당 · 시간표 담당 · 벨 담당이 차례로 일을 넘기듯, 페이지 폴트 하나는 메모리 · 장치 · 프로세스 관리를 차례로 지난다.
| 비유 속 역할 | 실제 이름 | 실제로 하는 일 |
|---|---|---|
| 입주 팀 | 프로세스 · 스레드 | 주소 공간 · 열린 파일을 가진 실행 단위로, 커널이 만들고 거둔다 |
| 관리소 | 커널 | 커널 모드에서 CPU · 메모리 · 장치를 혼자 다룬다 |
| 접수 창구 | 시스템 호출 | 응용이 호출 번호와 인자로 커널 기능을 부탁하는 정식 입구다 |
| 회의실 시간표 | CPU 스케줄링 | 준비 큐에서 다음에 코어를 쓸 작업과 그 시간 몫을 정한다 |
| 호실 배정표 | 페이지 테이블 · 가상 메모리 | 가상 주소를 물리 프레임으로 바꾸고 남의 방을 막는다 |
| 지하 창고 | 디스크 · 스왑 | 메모리에 없는 페이지를 읽어 오는 동안 그 작업은 대기 상태가 된다 |
| 택배 벨 | 인터럽트 | 장치 · 타이머가 CPU 를 멈추고 커널 처리 함수를 부른다 |
| 열쇠함 | 상호배제 · 세마포어 | 공유 자원에 정해진 수만 들어가게 하고 나머지는 재운다 |
⚠ 비유가 맞지 않는 곳: 실제 회의실(CPU 코어)은 여럿일 수 있고 차례가 매우 짧게 바뀌어 응용은 교대를 느끼지 못하며, 관리소(커널)는 따로 상주하는 사람이 아니라 시스템 호출 · 예외 · 인터럽트가 올 때마다 그 CPU 위에서 잠깐 실행되는 코드다.
4구조 — 세 입구 뒤의 관리 기능
운영체제 아래에는 운영체제 개요 · 프로세스 관리 · 메모리 관리 · 운영체제 입출력 구조 넷이 있다. 응용은 사용자 모드에 있고 커널에 들어가는 길은 시스템 호출(응용이 부름) · 예외(명령이 일으킴 · 페이지 폴트) · 인터럽트(장치 · 타이머가 일으킴) 셋뿐이며, 입출력 구조가 그 입구와 장치 사이의 길을, 그 뒤에서 프로세스 관리 · 메모리 관리가 일을 나누고, 운영체제 개요가 커널을 어디까지 둘지를 다룬다.
그림 3 · 응용은 세 입구로만 커널에 들어가고, 그 뒤에서 프로세스 관리(실행 · 동기화 · 통신) · 메모리 관리 · 운영체제 입출력 구조 · 운영체제 개요가 하드웨어 위의 일을 나눈다.
| 하위 토픽 | 푸는 문제 | 관리 단위 | 하드웨어 지원 | 토픽 |
|---|---|---|---|---|
| 프로세스 관리 — 실행 | 코어보다 많은 작업을 번갈아 실행 | 프로세스 · 스레드 | 타이머 인터럽트 · 레지스터 저장 | 프로세스 · 스레드 · CPU 스케줄링 · 비선점/선점 · 문맥 교환 |
| 프로세스 관리 — 동기화 | 공유 데이터를 동시에 고치지 않게 | 잠금 · 세마포어 값 · 대기 큐 | 원자적 명령(비교 후 교환) | 상호 배제 · 세마포어 · 모니터 · 교착상태 · Starvation · 우선순위 역전 |
| 메모리 관리 | 작은 물리 메모리를 큰 주소 공간처럼 쓰고 서로 격리 | 페이지 · 세그먼트 | MMU · TLB · 페이지 폴트 예외 | 가상 메모리 · 페이징 · 세그멘테이션 · 페이지 교체 알고리즘 · 참조 지역성 · 스래싱 |
| 운영체제 입출력 구조 | 응용 · 장치가 커널을 부르고 데이터를 옮기는 길 | 호출 번호 · 인터럽트 벡터 | syscall 명령 · 인터럽트 컨트롤러 | 시스템 호출 · 인터럽트 · DMA · 제로 카피 · 비동기 입출력 · eBPF |
| 운영체제 개요 | 커널을 어디까지 둘지 · 어떤 계열인가 | 커널 구조 · 계열 | 특권 모드(커널 ↔ 사용자) | 운영체제 구조 · 역할 · 리눅스 · 커널 구조(모놀리식 · 마이크로커널) |
단일형 커널은 위 관리 기능을 모두 커널 모드에 두고, 마이크로커널은 IPC · 스레드 · 가상 메모리만 남긴 채 파일 시스템 · 드라이버 · 망 스택을 사용자 모드 서버로 뺀다(Heiser 2026 그림 2.1). 제로 카피(Zero Copy)는 데이터를 사용자 공간으로 올리지 않고 커널 안에서 옮기는 방식으로, sendfile() 이 read() · write() 짝보다 빠른 이유다(sendfile(2)). 관련 기술과의 경계는 하드웨어 쪽(MMU · 캐시 · 인터럽트 컨트롤러)이 컴퓨터 구조, 파일 · 블록 장치 아래가 스토리지, 자원이 작은 기기용 RTOS 가 임베디드이며, 운영체제는 그 사이에서 «자원을 누구에게 언제 줄 것인가»를 정하는 소프트웨어를 맡는다.
🔑 응용이 커널에 들어가는 길은 시스템 호출 · 예외 · 인터럽트 셋뿐이고, 운영체제 하위 토픽은 모두 그 입구 뒤에서 무엇을 결정하는가로 나뉜다.
5동작 — gzip 한 번이 관리 기능을 지나는 길
리눅스 x86-64 에서 /(200 MiB 로그 · 페이지 캐시에 없음)를 실행하는 사례다. PID 와 횟수는 설명용 가정 값이고, 호출 번호는 커널 syscall_64.tbl 의 값이다.
- time(PID 4127)이 clone(56번)으로 자식 PID 4128 을 만든다 — 부모 페이지는 쓰기 시 복사로 나눠 가져 페이지 테이블만 복제된다(fork(2) NOTES).
- 4128 이 execve(59번)로 gzip 을 싣는다 — 스택 · 힙 · 데이터 영역이 새로 초기화되고(execve(2)), 아직 메모리에 없는 코드 페이지를 건드릴 때마다 페이지 폴트가 난다. 페이지 캐시에 있던 것은 minor, 디스크를 읽은 것은 major 로 센다(getrusage(2) ru_minflt · ru_majflt).
- openat(257번)이 파일 서술자 3 을 돌려주고, read(0번)가 그 파일의 페이지 캐시를 찾는다.
- 캐시에 없는 블록이라 커널이 디스크 읽기를 요청하고 4128 을 D(입출력 대기)로 재운다 — 스케줄러가 같은 코어에 다른 작업을 올리고 자발적 문맥 교환이 1 는다(ps(1) · time(1) %w).
- 디스크 완료 인터럽트가 오면 커널이 4128 을 깨워 준비 큐(R)에 넣고, 다음 차례에 read 가 읽은 바이트 수를 돌려준다.
- 압축 계산 중 시간 몫을 다 써 같은 코어의 다른 작업에 선점되면 비자발적 문맥 교환이 1 는다(time(1) %c).
- write(1번)로 access.log.gz 에 쓰면 데이터는 페이지 캐시에 남고 호출은 곧 돌아온다 — 성공 반환이 디스크 기록을 보장하지는 않는다(write(2) NOTES).
- exit_group(231번)으로 끝난 4128 은 좀비(Z)로 남다가 time 이 wait4(61번)로 회수하고(wait4(2) · ps(1)), 화면에
2 180 1600 35(major · minor · 자발 · 비자발 · 가정 값)가 찍힌다(time(1)).
그림 4 · gzip 한 번은 커널 처리(①②③⑦⑧) · 입출력 대기(④) · 선점(⑥)을 오가고, 대기와 선점 구간에는 같은 코어를 다른 작업이 쓴다.
🔑 같은 일을 하는 동안에도 프로세스는 실행 · 대기 · 준비를 수없이 오가며, 대기로 보내는 쪽은 메모리 · 장치 관리이고 다시 코어에 올리는 쪽은 스케줄러다.
하위 토픽은 모두 이 세 상태 사이 화살표 하나씩을 맡는다. 화살표가 끊기면 이름이 붙은 문제가 된다 — 깨울 쪽도 대기에 있으면 교착상태, 준비 큐에서 거듭 밀리면 Starvation 이다.
그림 5 · 실행 · 준비 · 대기 사이의 화살표마다 맡는 하위 토픽이 있고, 대기에서 돌아오지 못하면 교착상태, 준비에서 뽑히지 못하면 기아가 된다.
6비교 — 운영체제 · 컴퓨터 구조 · 스토리지 · 임베디드의 경계
| 기준 | 운영체제 | 컴퓨터 구조 | 스토리지 | 임베디드 |
|---|---|---|---|---|
| 맡는 일 | 프로그램 사이의 자원 배분과 격리 | 명령어 집합과 그 아래 코어 · 캐시 회로 | 매체 · 사본 · 접근 방식(블록 · 파일 · 객체) | 기기 하나에 맞춘 칩 · 펌웨어 · 실시간 소프트웨어 |
| 다루는 단위 | 프로세스 · 페이지 · 파일 서술자 | 명령어 · 캐시 줄 · 사이클 | 블록 · LUN · 볼륨 | 태스크 · 인터럽트 응답 시간 · 플래시 이미지 |
| 대표 하위 토픽 | CPU 스케줄링 · 세마포어 · 가상 메모리 | 파이프라인 · 캐시 메모리 · 캐시 일관성 | RAID · 저널링 파일 시스템 · NVMe | RTOS · 펌웨어 · MCU |
| 묻는 질문 | 누구를 먼저 돌리고 누구를 재우는가 | 명령어 하나를 몇 사이클에 끝내는가 | 쓴 데이터가 고장 뒤에도 남는가 | 마감 시간 안에 반드시 응답하는가 |
| 페이지 폴트 · 쓰기에서 맡는 몫 | 폴트 처리 · 페이지 캐시 · 디스크로 내리는 시점(write(2) NOTES) | 변환 항목이 없음을 감지해 예외를 일으킴 | 블록이 매체에 기록되는 순서와 보장 | MMU 없는 MCU 는 페이징 없이 플래시 · SRAM 주소를 그대로 씀 |
| 확인 도구 | vmstat 1 · ps -o stat,wchan | perf stat | iostat -x | chrt · 디버거 |
| 다음으로 넘기는 곳 | 하드웨어 동작 → 컴퓨터 구조 · 블록 장치 아래 → 스토리지 | 자원 배분 정책 → 운영체제 | 저장 노드 대수 · 이중화 → 시스템 아키텍처 | 범용 커널 원리 → 운영체제 |
분석증상이 «이 프로세스가 기다린다»이면 운영체제, «명령어가 느리게 끝난다»이면 컴퓨터 구조, «기다림이 장치 응답에서 풀리지 않는다»이면 스토리지로 넘긴다. 근거는 표의 「확인 도구」 행 — vmstat 에서 입출력 대기가 크면 줄은 커널 밖 장치 앞에 있으므로(vmstat(8) b · wa), 그다음은 블록 장치 지표로 내려간다.
7실무 진단 — 느린 서버를 관리 기능별로 가르기
분석vmstat 한 줄로 어느 관리 기능의 줄인지 먼저 정하고, 그다음 그 하위 토픽의 도구로 내려간다. 같은 「느림」이라도 r · b · si · so · sy 열은 각각 다른 관리자 앞의 대기를 센다(vmstat(8) FIELD DESCRIPTION).
| # | 증상 | 의심 원인 | 관리 기능 | 확인 명령 | 판정 기준(근거) |
|---|---|---|---|---|---|
| 1 | 모든 요청이 고르게 느림 · CPU 100% | 실행 큐 포화 | 프로세스 관리 — 실행 | vmstat 1 | r 이 코어 수보다 계속 큼(vmstat(8) r) |
| 2 | CPU 는 한가한데 응답이 늦음 | 입출력 완료 대기 | 입출력 구조 — 장치 | vmstat 1 | b 와 wa 가 늘고 bi · bo 가 큼(vmstat(8) b · wa) |
| 3 | 디스크가 쉬지 않고 전체가 느려짐 | 메모리 부족 · 스왑 왕복 | 메모리 관리 | vmstat 1 · ps -o pid,maj_flt,cmd | si · so 가 0 이 아닌 값으로 이어지고 maj_ |
| 4 | 커널 시간이 사용자 시간보다 큼 | 잦은 호출 · 인터럽트 폭주 | 입출력 구조 — 커널 진입 | vmstat 1 | sy 가 us 보다 크고 in · cs 가 평소보다 급증(vmstat(8) sy · in · cs) |
| 5 | 프로세스 하나만 멈춤 · CPU 0% | 잠금 대기 · 교착상태 | 프로세스 관리 — 동기화 | ps -o pid, · /proc/4128/status | STAT 이 S · D 로 오래 머물고 wchan 이 잠금 대기 함수 · voluntary_ |
먼저 si · so 를 본다 — 스왑 왕복은 디스크 대기(b)와 실행 지연(r)을 함께 부풀려 다른 두 판정을 흐리기 때문이다. 메모리가 깨끗하면 r 과 b 중 큰 쪽의 관리 기능으로 내려가고, 전체 지표가 정상인데 한 프로세스만 멈췄을 때만 그 프로세스의 STAT · wchan 을 본다.
8시험 대비
www.q-net.or.kr시험에서는 운영체제의 정의 · 목표 · 관리 기능을 묻는 정의 · 특징형, 커널 구조(단일형 · 마이크로커널)나 관리 기능의 관계를 그림으로 묻는 구조 · 구성형이 나올 수 있다. 교착상태 · 페이지 교체 같은 하위 토픽이 나오면 그 토픽 답안을 쓰되, 첫 문단에 «어느 관리 기능의 어느 상태 전이 문제인가»를 이 지도로 놓으면 답안의 자리가 잡힌다.
- 개요 — 정의(자원 관리자 · 사용자와 하드웨어 사이) · 목표(처리량 · 응답 시간 · 보호) · 표준 인터페이스 POSIX.1-2024
- 구성 — 그림 3 지도(사용자 모드 · 세 입구 · 하위 토픽 넷 · 하드웨어) + 하위 토픽 표(푸는 문제 · 관리 단위 · 하드웨어 지원)
- 커널 구조 — 단일형 ↔ 마이크로커널(커널 모드 코드 약 2,000만 줄 ↔ 약 1만 줄 · 드라이버 위치 · IPC 비용)
- 동작 — 그림 4 사례(clone → execve · 페이지 폴트 → read 대기 → 완료 인터럽트 → 선점 → 회수)
- 핵심 원리 — 그림 5 상태 전이(화살표마다 맡는 하위 토픽 · 교착상태 · 기아)
- 발전 — 일괄 처리 → 다중 프로그래밍(THE 1968 · 계층 0 ~ 4) → UNIX(1974) · POSIX → 검증 커널(seL4 2009)
꼭 쓸 키워드
커널 모드시스템 호출문맥 교환프로세스 상태 전이가상 메모리페이지 폴트인터럽트마이크로커널POSIX상호배제
다른 답안과 차이를 내려면 관리 기능을 나열하지 말고 그림 5 처럼 «상태 전이 화살표마다 맡는 관리 기능»으로 묶어 보인다.
9오해와 사실
- 오해운영체제는 곧 커널이다.사실커널은 커널 모드에서 도는 부분일 뿐이고 셸 · 라이브러리 · 시스템 데몬은 사용자 모드 프로그램이며, 마이크로커널에서는 파일 시스템 · 드라이버까지 사용자 모드 서버다(Heiser 2026 그림 2.1).
- 오해CPU 사용률이 낮으면 운영체제에 여유가 있다.사실입출력 대기(D) 프로세스는 CPU 를 쓰지 않으므로 사용률이 낮아도 vmstat 의 b · wa 가 크면 장치 쪽 줄이 막힌 것이다(vmstat(8) b · wa).
- 오해write() 가 성공하면 데이터는 디스크에 있다.사실성공 반환은 커널 버퍼에 넣었다는 뜻이고 디스크 기록은 보장하지 않으므로(write(2) NOTES), 꼭 남겨야 할 데이터는 fsync() 로 따로 내린다.
10핵심 정리
| 관리 기능 | 관리 자원 | 줄 서는 곳 | vmstat 열 | 대표 실패 | 맡는 상태 전이 |
|---|---|---|---|---|---|
| 프로세스 관리 — 실행 | CPU 코어 | 준비 큐 | r · cs | 실행 큐 포화 · 기아 | 준비 → 실행 · 실행 → 준비 |
| 프로세스 관리 — 동기화 | 공유 데이터 · 잠금 | 잠금 대기 큐 | 없음(ps STAT · wchan) | 교착상태 · 우선순위 역전 | 실행 → 대기(P) · 대기 → 준비(V) |
| 입출력 구조 — 커널 진입 | 커널 기능 · 장치 사건 | 호출 · 인터럽트 처리 | sy · in | 호출 · 인터럽트 폭주 | 대기 → 준비(완료 인터럽트) |
| 메모리 관리 | 물리 프레임 | 페이지 회수 · 스왑 | si · so · free | Thrashing | 실행 → 대기(major 폴트) |
| 입출력 구조 — 장치 | 디스크 · NIC | 블록 요청 큐 | b · wa · bi · bo | 입출력 대기 누적 | 실행 → 대기(read 등) |
| 운영체제 개요 | 커널 경계 · 계열 | 없음 | 없음 | 커널 모드 결함의 전체 정지 | 전이를 실행하는 코드 자체 |
11참고 문헌
- 먼저 볼 문헌
- ★ POSIX.1-2024 (IEEE Std 1003.1-2024) The Open Group Base Specifications Issue 8 — 운영체제가 응용에 내놓는 표준 인터페이스 전체를 볼 때
- ★ Dijkstra 1968 The Structure of the THE-Multiprogramming System (EWD196 · CACM 11(5)) — 운영체제 기능을 계층으로 나눈 첫 설계를 볼 때
- ★ The seL4 Microkernel - An Introduction (White paper Revision 1.4.1) — 단일형 커널과 마이크로커널의 경계 · 코드 규모를 비교할 때
- ★ vmstat(8) Linux manual page — 서버 부하를 자원 관리자별로 처음 가를 때
- 본문 근거
- Ritchie and Thompson 1974 The UNIX Time-Sharing System (CACM 17(7)) — ACM · 1974-07 ·
doi.org/10.1145/361011.361061· 확인 2026-11-09 - IEEE 1003.1-2024 Standard for Information Technology - Portable Operating System Interface (POSIX) — IEEE SA · 2024-06 ·
standards.ieee.org/ieee/1003.1/7700/· 확인 2026-11-09 - Linux arch/x86/entry/syscalls/syscall_64.tbl — Linux kernel · 2026-11 ·
github.com/torvalds/linux/blob/master/arch/x86/entry/syscalls/syscall_64.tbl· 확인 2026-11-09 - fork(2) Linux manual page — man7.org · 2026-11 ·
man7.org/linux/man-pages/man2/fork.2.html· 확인 2026-11-09 - execve(2) Linux manual page — man7.org · 2026-11 ·
man7.org/linux/man-pages/man2/execve.2.html· 확인 2026-11-09 - getrusage(2) Linux manual page — man7.org · 2026-11 ·
man7.org/linux/man-pages/man2/getrusage.2.html· 확인 2026-11-09 - write(2) Linux manual page — man7.org · 2026-11 ·
man7.org/linux/man-pages/man2/write.2.html· 확인 2026-11-09 - wait4(2) Linux manual page — man7.org · 2026-11 ·
man7.org/linux/man-pages/man2/wait4.2.html· 확인 2026-11-09 - sendfile(2) Linux manual page — man7.org · 2026-11 ·
man7.org/linux/man-pages/man2/sendfile.2.html· 확인 2026-11-09 - time(1) Linux manual page — man7.org · 2026-11 ·
man7.org/linux/man-pages/man1/time.1.html· 확인 2026-11-09 - ps(1) Linux manual page (PROCESS STATE CODES · wchan) — man7.org · procps-ng · 2026-11 ·
man7.org/linux/man-pages/man1/ps.1.html· 확인 2026-11-09 - proc_pid_status(5) Linux manual page — man7.org · 2026-11 ·
man7.org/linux/man-pages/man5/proc_pid_status.5.html· 확인 2026-11-09