운영체제 개요Operating System Overview
운영체제가 무엇을 맡는가(역할 · 구성), 그 기능을 커널 모드에 어디까지 두는가(커널 구조), 그 배치가 어떤 계열로 굳었는가(리눅스 · 모바일 OS 등)를 함께 보는 입문이다. 같은 기능을 다른 자리에 두면 고장 범위와 호출 비용이 달라진다는 점을 비교 축으로 삼는다.
1요약
- 운영체제 개요는 운영체제 가운데 입문 토픽으로, 역할(자원 배분 · 보호 · 장치 추상화)과 커널 구조(모놀리식 · 혼합형 · 마이크로커널)와 계열(리눅스 · 윈도 · 모바일 OS · 실시간 OS)을 한자리에 놓고, 그 위에서 프로세스 관리 · 메모리 관리 · 입출력 구조가 세부를 맡는다.
- 같은 드라이버라도 놓인 자리가 고장 범위를 정한다 — 커널 모드 드라이버가 죽으면 운영체제 전체가 죽고(MS 사용자 · 커널 모드 문서), 마이크로커널 설계였다면 리눅스의 치명 등급 취약점 중 29%는 사라지고 55%는 치명 등급 밖으로 내려간다는 분석이 있다(Heiser 2026 2.1절).
- 「이 OS 가 왜 이렇게 동작하나」는 그 기능이 커널 모드에 있는가, 사용자 모드 서버에 있는가로 먼저 가른다 — 커널 안이면 고장이 기계 전체로 번지는 대신 호출이 싸고, 밖이면 고장은 갇히는 대신 경계를 넘는 호출 비용을 낸다.
2등장 배경
초기 유닉스 계열 커널은 파일 시스템 · 드라이버 · 망 스택을 모두 커널 모드에 넣었고, 코드가 커질수록 드라이버 하나의 잘못된 주소 쓰기가 기계 전체를 멈췄다. 그래서 커널을 줄이고 서비스를 사용자 모드로 빼자는 설계가 나왔다.
1990년대 중반 L4 계열 마이크로커널이 스레드 · 주소 공간 · 보호된 호출만 커널에 남긴 설계를 보였고, 그 후손 seL4 는 x86 왕복 호출 약 720 사이클을 보고한다(Heiser 2026 2.2절 · 6장). 반대편에서는 Mach 위에 BSD · I/O Kit · 파일 시스템을 함께 커널로 묶은 설계(Apple 커널 문서)와, 커널 모드 드라이버를 기본으로 두되 일부를 사용자 모드 호스트로 옮기는 UMDF(MS UMDF 개요)처럼 둘 사이의 혼합형이 자리 잡았다.
지금 리눅스는 모놀리식 커널에 적재 모듈을 더한 구조로, 2019년 5.4 판은 9월 15일 5.3 에서 11월 24일까지 70일 주기로 나왔다(커널 개발 절차 문서). 모바일 쪽은 Android 12 부터 커널 5.10 이상 기기에 GKI 를 적용해 핵심 커널과 벤더 모듈을 갈랐다(GKI 문서).
3쉽게 이해하기 — 매장 운영 방식이 다른 세 쇼핑몰
손님은 쇼핑몰 안내 데스크에 부탁만 하고, 매장 안으로 직접 들어가 물건을 꺼내지 못한다. 직영몰은 모든 매장을 몰 직원이 운영해 빠르지만 한 매장에 불이 나면 몰 전체가 문을 닫는다. 입점몰은 몰이 통로와 출입증만 맡고 매장마다 방화 칸막이를 둬 불이 나도 그 매장만 닫지만, 매장끼리 물건을 넘길 때마다 출입증 검사를 거친다. 체인몰은 본사가 같은 건물을 지어 주고 지점은 정해진 규격 콘센트에만 자기 장비를 꽂는다.
그림 1 · 손님은 안내 데스크로만 부탁하고, 세 쇼핑몰은 매장을 누가 어디서 운영하는가로 갈리며 그 배치가 불이 번지는 범위를 정한다.
그림 2 · 방화 칸막이가 어디 있는가가 불의 범위를 정하듯, 드라이버가 놓인 모드가 고장의 범위를 정한다.
| 비유 속 역할 | 실제 이름 | 실제로 하는 일 |
|---|---|---|
| 손님 | 응용 프로그램 | 사용자 모드에서 돌며 장치 · 메모리를 직접 만지지 못한다 |
| 안내 데스크 | 시스템 호출 | 응용이 커널 기능을 부탁하는 정식 입구다 |
| 직영몰 | 모놀리식 커널 | 파일 시스템 · 드라이버 · 망 스택을 모두 커널 모드에 둔다 |
| 팝업 매장 | 적재 모듈 | 필요한 드라이버를 실행 중인 커널에 올리고 내린다 |
| 입점몰 | 마이크로커널 | 격리 · 보호된 호출만 커널에 두고 서비스는 사용자 모드 서버로 뺀다 |
| 체인몰 · 규격 콘센트 | 모바일 OS · GKI · KMI | 공통 핵심 커널에 벤더 모듈을 정해진 인터페이스로만 붙인다 |
| 방화 칸막이 | 주소 공간 격리 | 고장 · 침해를 한 프로세스 안에 가둔다 |
| 불이 난 날 | 드라이버 오류 · oops | 놓인 모드에 따라 기계 전체 또는 서버 하나가 멈춘다 |
⚠ 비유가 맞지 않는 곳: 실제 운영체제는 한 구조로 딱 떨어지지 않아 리눅스도 일부 일을 사용자 모드 도구(udev 등)에 맡기고, 입점몰의 «출입증 검사»는 사람 손이 아니라 커널의 보호된 호출 한 번이라 수백 사이클 수준이다.
4구조 — 역할 · 커널 구조 · 계열
하위 토픽은 세 물음으로 놓인다. 운영체제가 무엇을 맡는가(운영체제 구조 · 역할), 그 일을 커널 모드에 어디까지 두는가(커널 구조), 그 배치가 어느 계열로 굳어 어디서 도는가(리눅스 · 모바일 OS)이다.
그림 3 · 역할은 모든 운영체제가 같고, 커널 모드에 무엇을 두는가가 구조를 가르며, 그 구조가 계열과 쓰이는 자리로 이어진다.
| 토픽 | 푸는 물음 | 가르는 값 | 대표 예 | 확인 자료 |
|---|---|---|---|---|
| 운영체제 구조 · 역할 | 무엇을 맡나 | 자원 배분 · 보호 · 추상화 | 장치를 /dev 파일로 | 시스템 호출 표 |
| 커널 구조 | 어디까지 커널 모드에 두나 | 커널 모드 코드 양 · 호출 비용 | 모놀리식 · 혼합형 · 마이크로커널 | Heiser 2026 그림 2.1 |
| 리눅스 | 모놀리식을 어떻게 넓히나 | 적재 모듈 · 70일 안팎 판 주기 | modprobe · lsmod | 커널 개발 절차 문서 |
| 모바일 OS | 기기마다 다른 부품을 어떻게 붙이나 | 핵심 커널 ↔ 벤더 모듈 | 안드로이드 GKI · KMI | GKI 문서 |
윈도는 커널 모드 관리자 · 드라이버를 기본으로 두면서 일부 드라이버를 사용자 모드 호스트로 돌리고(MS UMDF 개요), 실시간 OS 는 응답 마감을 지키는 것을 목표로 삼아 리눅스도 PREEMPT_RT 설정을 둔다(커널 실시간 문서). 두 계열은 하위 토픽이 없어 구조 축의 예로만 쓴다.
🔑 역할은 모든 운영체제가 같고, 계열을 가르는 것은 그 역할을 커널 모드 안에 두느냐 밖에 두느냐이다.
5동작 — USB 시리얼 장치 하나가 커널에 붙는 길
리눅스 x86-64 서버(커널 6.6.0 · 설명용 가정 값)에 USB 시리얼 장치를 꽂는 사례다.
- 장치가 버스에 붙으면 커널이 장치 추가 사건을 사용자 모드로 알리고, 장치 관리자 udev 가
modprobe cdc_acm을 부른다. - modprobe 가
/lib/modules/6.6.0/의 modules.dep.bin 을 읽어 cdc_acm 이 기대는 모듈을 먼저 올린 뒤 cdc_acm 을 커널 모드에 적재한다(modprobe(8)). lsmod가/proc/modules를 읽어 cdc_acm 을 보이고(lsmod(8)), 드라이버가 통신 · 데이터 인터페이스를 잡아 ttyACM0 이 생긴다(커널 ACM 문서).- 응용이
/dev/ttyACM0를 열고at를 쓰면OK가 돌아온다 — 응용은 USB 전송 형식을 모르고 파일 읽기 · 쓰기만 한다(커널 ACM 문서). - 같은 장치에 배포판 밖에서 빌드한 벤더 모듈을 올리면
/가 0 에서 4096(O · 비트 12)이 된다(tainted 문서).proc/ sys/ kernel/ tainted - 그 모듈이 잘못된 주소에 쓰면 커널 모드 코드가 주소 공간 하나를 나누므로 커널 전체가 oops 를 내고, 값은 4096 + 128(D · 비트 7) = 4224 가 된다(tainted 문서 · 직접 계산).
- 같은 기능을 윈도 UMDF 드라이버로 만들면 드라이버는 사용자 모드 호스트 Wudfhost 안에서 돌고 커널 쪽에는 반사기(reflector)만 남는다(MS UMDF 개요).
- 안드로이드 기기라면 이 벤더 모듈은 GKI 핵심 커널이 내놓는 KMI 에만 기대도록 만든다 — SoC · 보드 지원을 핵심 커널 밖 적재 모듈로 빼는 규칙이다(GKI 문서).
그림 4 · 장치 하나는 사용자 모드의 udev 와 커널 모드의 모듈을 오가며 붙고, 모듈이 커널 모드에 있기에 그 오류는 커널 전체의 흔적(4224)으로 남는다.
그림 5 · 드라이버 오류 하나가 멈추는 범위는 드라이버가 놓인 모드가 정하고, 범위를 좁힌 대가는 경계를 넘는 호출 비용이다.
🔑 드라이버 오류가 기계를 멈추느냐 프로세스 하나를 멈추느냐는 코드 품질이 아니라 그 코드가 놓인 모드가 정한다.
6비교 — 프로세스 관리 · 메모리 관리 · 운영체제 입출력 구조와의 경계
| 기준 | 운영체제 개요 | 프로세스 관리 | 메모리 관리 | 운영체제 입출력 구조 |
|---|---|---|---|---|
| 맡는 일 | 역할 · 커널 배치 · 계열 | 코어 배분 · 스레드 차례 | 주소 공간 · 프레임 배분 | 호출 · 인터럽트 · 장치 대기 |
| 다루는 단위 | 커널 모드 경계 · 모듈 | 스레드 · 잠금 | 페이지 · 세그먼트 | 버퍼 · 인터럽트 벡터 |
| 묻는 물음 | 이 기능은 어디에 있나 | 누가 먼저 도나 | 이 주소는 어디인가 | 데이터를 누가 옮기나 |
| 넘기는 곳 | 배치가 정해진 뒤 동작 → 나머지 셋 | 장치 대기 → 입출력 구조 | 잠금 대기 → 프로세스 관리 | 깨운 뒤 차례 → 프로세스 관리 |
분석문제가 «특정 계열에서만 · 드라이버를 바꾸면 사라지는» 꼴이면 운영체제 개요(배치)에서, 모든 계열에 같은 꼴이면 나머지 셋(동작)에서 찾는다. 근거는 표의 「묻는 물음」 행 — 배치는 계열마다 다르고 스케줄링 · 페이징 · 입출력 규칙은 계열을 넘어 같기 때문이다.
7실무 진단 — 장치 · 커널 문제를 토픽별로 가르기
분석먼저 «이 기계의 커널 판과 적재된 모듈»을 확정하고, 그다음 문제 코드가 커널 모드인지 사용자 모드인지 가른다. 같은 「장치가 안 된다」도 모듈이 없는 것(판 문제)과 모듈이 오류를 낸 것(배치 문제)은 대책이 다르기 때문이다(그림 5).
| # | 증상 | 의심 원인 | 해당 토픽 | 확인 명령 | 판정 기준(근거) |
|---|---|---|---|---|---|
| 1 | 같은 장치가 이 서버에서만 안 됨 | 커널 판에 맞는 모듈 없음 | 리눅스 | uname -r · modprobe -n -v cdc_acm | 그 판의 /lib/modules 아래에 모듈이 없음(modprobe(8)) |
| 2 | 꽂아도 장치 파일이 없음 | 드라이버가 인터페이스를 못 잡음 | 운영체제 구조 · 역할 | lsmod | grep cdc_acm | /proc/modules 에 없음(lsmod(8)) |
| 3 | 커널 버그 보고가 받아들여지지 않음 | 외부 · 독점 모듈 적재 | 커널 구조 | cat / | 0 이 아님 · O = 4096 · P = 1(tainted 문서) |
| 4 | 드라이버 오류 뒤 기계 전체 정지 | 커널 모드 드라이버 | 커널 구조 | 같은 값의 D 비트 | 128 이 켜짐 · 윈도는 커널 모드 드라이버 충돌 = 전체 충돌(MS 사용자 · 커널 모드 문서) |
| 5 | 커널 갱신 뒤 벤더 모듈이 안 올라옴 | KMI 밖 기호 사용 | 모바일 OS | 기기 빌드의 KMI 목록 대조 | 벤더 모듈은 KMI 만 쓴다(GKI 문서) |
판이 먼저다 — 판과 모듈 목록이 틀리면 뒤의 판정을 믿을 수 없다. 그다음 tainted 값으로 외부 모듈 여부를 가리고, 외부 모듈이 커널 전체를 멈춘다면 사용자 모드로 옮길 수 있는 드라이버인지(UMDF · 사용자 공간 드라이버) 검토한다.
8시험 대비
www.q-net.or.kr시험에서는 운영체제의 정의 · 역할 · 구성 요소를 묻는 정의 · 특징형, 모놀리식 커널과 마이크로커널을 견주는 비교형이 나올 수 있다. 둘 다 첫 문단에 «역할은 같고 배치가 다르다»를 놓고, 배치 차이를 고장 범위 · 호출 비용 두 값으로 보이면 답이 선다.
- 개요 — 운영체제 정의 · 세 역할(자원 배분 · 보호 · 추상화) · 사용자 · 커널 모드
- 구성 — 그림 3 지도(역할 · 커널 구조 축 · 계열)
- 커널 구조 비교 — 모놀리식 · 혼합형 · 마이크로커널 · 그림 5(고장 범위 ↔ 호출 비용 · 약 720 사이클)
- 동작 — 그림 4 사례(udev · modprobe · cdc_acm · tainted 4224)
- 대표 계열 — 리눅스(적재 모듈 · 판 주기) · 모바일 OS(GKI · KMI) · 윈도(UMDF) · 실시간 OS
- 동향 — 핵심 커널과 벤더 모듈 분리 · 사용자 모드 드라이버 · 검증된 마이크로커널
꼭 쓸 키워드
커널 모드사용자 모드모놀리식 커널마이크로커널혼합형 커널적재 모듈신뢰 컴퓨팅 기반보호된 호출GKIKMI
다른 답안과 차이를 내려면 장단점을 글로 나열하지 말고, 그림 5 처럼 «드라이버의 자리 ↔ 멈추는 범위 ↔ 경계 비용» 세 열로 한 장에 보인다.
9오해와 사실
- 오해리눅스는 모듈을 쓰므로 마이크로커널이다.사실적재 모듈은 실행 중인 커널 모드에 올라가 같은 주소 공간을 쓰므로, 외부 모듈 오류도 커널 전체의 D 흔적으로 남는다(tainted 문서).
- 오해마이크로커널은 느려서 실제로 쓰이지 않는다.사실seL4 는 보호된 호출 왕복을 약 720 사이클로 보고하고, 같은 계열 커널이 수십억 개의 휴대폰 모뎀 칩에 실렸다(Heiser 2026 2.2절 · 6장).
- 오해윈도 드라이버는 모두 커널 모드에서 돈다.사실UMDF 드라이버는 사용자 모드 호스트 프로세스에서 돌고, 파일 시스템 · 화면 · 인쇄 드라이버만 UMDF 로 만들 수 없다(MS UMDF 개요).
10핵심 정리
| 토픽 · 구조 | 커널 모드에 두는 것 | 고장 범위 | 경계 비용 | 대표 예 | 확인 자료 |
|---|---|---|---|---|---|
| 운영체제 구조 · 역할 | 자원 배분 · 보호 | — | 시스템 호출 한 번 | 장치를 파일로 | 시스템 호출 표 |
| 모놀리식 + 적재 모듈 | 드라이버 · 파일 시스템 · 망 스택 | 운영체제 전체 | 함수 호출 | 리눅스 | lsmod · tainted |
| 혼합형 | 대부분 · 일부 드라이버 제외 | 커널 쪽은 전체 · 호스트 쪽은 하나 | 반사기 경유 | 윈도 · iOS 커널 | UMDF 문서 |
| 마이크로커널 | 격리 · 보호된 호출 | 서버 하나 | 왕복 약 720 사이클 | seL4 · L4 계열 | Heiser 2026 |
| 리눅스 | 모놀리식 | 운영체제 전체 | 함수 호출 | 서버 · 임베디드 | 커널 개발 절차 문서 |
| 모바일 OS | 핵심 커널 + 벤더 모듈 | 운영체제 전체 | KMI | 안드로이드 GKI | GKI 문서 |
11참고 문헌
- 먼저 볼 문헌
- ★ The seL4 Microkernel - An Introduction (White paper Revision 1.4.1) — 모놀리식 커널과 마이크로커널의 고장 범위 · 호출 비용을 견줄 때
- ★ User Mode and Kernel Mode (Windows drivers) — 커널 모드 드라이버 하나가 운영체제 전체를 멈추는 까닭을 볼 때
- ★ Generic Kernel Image (GKI) project — 모바일 OS 가 핵심 커널과 벤더 모듈을 가르는 방식을 볼 때
- ★ How the development process works (Linux kernel documentation) — 리눅스 커널 판이 나오는 주기와 병합 기간을 볼 때
- ★ Tainted kernels (Linux kernel documentation) — 외부 모듈 · 커널 오류 흔적을 숫자 하나로 읽을 때
- 본문 근거
- Overview of UMDF (Windows drivers) — Microsoft Learn · 2025-03 ·
learn.microsoft.com/en-us/windows-hardware/drivers/wdf/overview-of-the-umdf· 확인 2026-11-14 - Kernel Programming Guide - Kernel Architecture Overview — Apple Developer Documentation Archive · 2013-08 ·
developer.apple.com/library/archive/documentation/Darwin/Conceptual/KernelProgramming/Architecture/Architecture.html· 확인 2026-11-14 - Real-time preemption (PREEMPT_RT) - Linux kernel documentation — kernel.org · 2026-11 ·
docs.kernel.org/core-api/real-time/index.html· 확인 2026-11-14 - Linux ACM driver v0.16 (Linux kernel documentation) — kernel.org · 2026-11 ·
docs.kernel.org/usb/acm.html· 확인 2026-11-14 - modprobe(8) Linux manual page — man7.org · kmod · 2026-11 ·
man7.org/linux/man-pages/man8/modprobe.8.html· 확인 2026-11-14 - lsmod(8) Linux manual page — man7.org · kmod · 2026-11 ·
man7.org/linux/man-pages/man8/lsmod.8.html· 확인 2026-11-14