IT › 컴퓨터 시스템 › 운영체제

운영체제 개요Operating System Overview

운영체제가 무엇을 맡는가(역할 · 구성), 그 기능을 커널 모드에 어디까지 두는가(커널 구조), 그 배치가 어떤 계열로 굳었는가(리눅스 · 모바일 OS 등)를 함께 보는 입문이다. 같은 기능을 다른 자리에 두면 고장 범위와 호출 비용이 달라진다는 점을 비교 축으로 삼는다.

1요약

  1. 운영체제 개요는 운영체제 가운데 입문 토픽으로, 역할(자원 배분 · 보호 · 장치 추상화)과 커널 구조(모놀리식 · 혼합형 · 마이크로커널)와 계열(리눅스 · 윈도 · 모바일 OS · 실시간 OS)을 한자리에 놓고, 그 위에서 프로세스 관리 · 메모리 관리 · 입출력 구조가 세부를 맡는다.
  2. 같은 드라이버라도 놓인 자리가 고장 범위를 정한다 — 커널 모드 드라이버가 죽으면 운영체제 전체가 죽고(MS 사용자 · 커널 모드 문서), 마이크로커널 설계였다면 리눅스의 치명 등급 취약점 중 29%는 사라지고 55%는 치명 등급 밖으로 내려간다는 분석이 있다(Heiser 2026 2.1절).
  3. 「이 OS 가 왜 이렇게 동작하나」는 그 기능이 커널 모드에 있는가, 사용자 모드 서버에 있는가로 먼저 가른다 — 커널 안이면 고장이 기계 전체로 번지는 대신 호출이 싸고, 밖이면 고장은 갇히는 대신 경계를 넘는 호출 비용을 낸다.

2등장 배경

초기 유닉스 계열 커널은 파일 시스템 · 드라이버 · 망 스택을 모두 커널 모드에 넣었고, 코드가 커질수록 드라이버 하나의 잘못된 주소 쓰기가 기계 전체를 멈췄다. 그래서 커널을 줄이고 서비스를 사용자 모드로 빼자는 설계가 나왔다.

1990년대 중반 L4 계열 마이크로커널이 스레드 · 주소 공간 · 보호된 호출만 커널에 남긴 설계를 보였고, 그 후손 seL4 는 x86 왕복 호출 약 720 사이클을 보고한다(Heiser 2026 2.2절 · 6장). 반대편에서는 Mach 위에 BSD · I/O Kit · 파일 시스템을 함께 커널로 묶은 설계(Apple 커널 문서)와, 커널 모드 드라이버를 기본으로 두되 일부를 사용자 모드 호스트로 옮기는 UMDF(MS UMDF 개요)처럼 둘 사이의 혼합형이 자리 잡았다.

지금 리눅스는 모놀리식 커널에 적재 모듈을 더한 구조로, 2019년 5.4 판은 9월 15일 5.3 에서 11월 24일까지 70일 주기로 나왔다(커널 개발 절차 문서). 모바일 쪽은 Android 12 부터 커널 5.10 이상 기기에 GKI 를 적용해 핵심 커널과 벤더 모듈을 갈랐다(GKI 문서).

3쉽게 이해하기 — 매장 운영 방식이 다른 세 쇼핑몰

손님은 쇼핑몰 안내 데스크에 부탁만 하고, 매장 안으로 직접 들어가 물건을 꺼내지 못한다. 직영몰은 모든 매장을 몰 직원이 운영해 빠르지만 한 매장에 불이 나면 몰 전체가 문을 닫는다. 입점몰은 몰이 통로와 출입증만 맡고 매장마다 방화 칸막이를 둬 불이 나도 그 매장만 닫지만, 매장끼리 물건을 넘길 때마다 출입증 검사를 거친다. 체인몰은 본사가 같은 건물을 지어 주고 지점은 정해진 규격 콘센트에만 자기 장비를 꽂는다.

손님 응용 프로그램 안내 데스크 시스템 호출 1 쇼핑몰 = 운영체제 몰 직원 구역 = 커널 모드 손님 구역 = 사용자 모드 2 직영몰 매장 모두 몰 직원이 운영 팝업 매장 = 적재 모듈 불 하나 → 몰 전체 닫힘 3 모놀리식 커널 입점몰 몰은 통로 · 출입증만 매장마다 방화 칸막이 불 → 그 매장만 닫힘 넘길 때마다 출입증 검사 마이크로커널 체인몰 본사가 같은 건물을 지음 규격 콘센트 = KMI 지점 장비만 따로 꽂음 모바일 OS · GKI 몰 브랜드 = 리눅스 · 윈도 · 실시간 OS — 같은 일을 다른 배치로 한다 번호 = 부탁 하나가 지나는 길 · 3 = 직영 배치에서 불이 번지는 범위

그림 1 · 손님은 안내 데스크로만 부탁하고, 세 쇼핑몰은 매장을 누가 어디서 운영하는가로 갈리며 그 배치가 불이 번지는 범위를 정한다.

부탁하기손님은 안내 데스크로만
직영 운영몰 직원이 모든 매장
팝업 들이기필요한 매장만 잠시
입점 운영매장은 칸막이 안에서
규격 콘센트지점 장비는 정해진 자리에
불이 난 날어디까지 닫히나
비유 — 칸막이의 자리 실제 — 드라이버가 놓인 모드 직영 매장에 불 칸막이가 없어 몰 전체가 닫힌다 1 커널 모드 드라이버 주소 공간 하나 → 운영체제 전체 정지 리눅스 적재 모듈 · 윈도 커널 모드 드라이버 입점 매장에 불 칸막이 안이라 그 매장만 닫는다 2 사용자 모드 서버 그 프로세스 하나만 다시 띄운다 seL4 서버 · 윈도 UMDF 호스트 규격 콘센트 본사가 건물을 고쳐도 장비는 그대로 3 KMI · GKI 핵심 커널과 벤더 모듈의 경계 벤더 모듈은 정해진 인터페이스만 쓴다 하위 토픽은 «무엇을 맡나 · 어디에 두나 · 어떤 계열인가» 중 하나를 맡고, 셋이 만나는 곳이 이 경계다

그림 2 · 방화 칸막이가 어디 있는가가 불의 범위를 정하듯, 드라이버가 놓인 모드가 고장의 범위를 정한다.

비유 속 역할실제 이름실제로 하는 일
손님응용 프로그램사용자 모드에서 돌며 장치 · 메모리를 직접 만지지 못한다
안내 데스크시스템 호출응용이 커널 기능을 부탁하는 정식 입구다
직영몰모놀리식 커널파일 시스템 · 드라이버 · 망 스택을 모두 커널 모드에 둔다
팝업 매장적재 모듈필요한 드라이버를 실행 중인 커널에 올리고 내린다
입점몰마이크로커널격리 · 보호된 호출만 커널에 두고 서비스는 사용자 모드 서버로 뺀다
체인몰 · 규격 콘센트모바일 OS · GKI · KMI공통 핵심 커널에 벤더 모듈을 정해진 인터페이스로만 붙인다
방화 칸막이주소 공간 격리고장 · 침해를 한 프로세스 안에 가둔다
불이 난 날드라이버 오류 · oops놓인 모드에 따라 기계 전체 또는 서버 하나가 멈춘다

⚠ 비유가 맞지 않는 곳: 실제 운영체제는 한 구조로 딱 떨어지지 않아 리눅스도 일부 일을 사용자 모드 도구(udev 등)에 맡기고, 입점몰의 «출입증 검사»는 사람 손이 아니라 커널의 보호된 호출 한 번이라 수백 사이클 수준이다.

4구조 — 역할 · 커널 구조 · 계열

하위 토픽은 세 물음으로 놓인다. 운영체제가 무엇을 맡는가(운영체제 구조 · 역할), 그 일을 커널 모드에 어디까지 두는가(커널 구조), 그 배치가 어느 계열로 굳어 어디서 도는가(리눅스 · 모바일 OS)이다.

운영체제 구조 · 역할 — 무엇을 맡나 자원 배분 — CPU · 메모리 · 장치 보호 — 사용자 · 커널 모드 추상화 — 장치를 파일로 커널 구조(모놀리식 · 마이크로커널) — 어디까지 커널 모드에 두나 모놀리식 + 적재 모듈 드라이버 · 파일 시스템 · 망 스택 안 혼합형 대부분 안 · 일부 드라이버 밖 마이크로커널 격리 · 보호된 호출만 안 커널 모드 코드 많음 · 호출 쌈 커널 모드 코드 적음 · 고장 갇힘 계열 — 어디서 도는가 리눅스 서버 · 임베디드 · 안드로이드 바탕 모바일 OS 안드로이드 GKI · iOS(Mach + BSD) 윈도 · 실시간 OS 토픽 없음 · 비교 대상으로만 띠 = 세 물음 · 점선 상자 = 하위 토픽이 없는 계열 · 축 = 커널 모드에 둔 기능의 양

그림 3 · 역할은 모든 운영체제가 같고, 커널 모드에 무엇을 두는가가 구조를 가르며, 그 구조가 계열과 쓰이는 자리로 이어진다.

토픽푸는 물음가르는 값대표 예확인 자료
운영체제 구조 · 역할무엇을 맡나자원 배분 · 보호 · 추상화장치를 /dev 파일로시스템 호출 표
커널 구조어디까지 커널 모드에 두나커널 모드 코드 양 · 호출 비용모놀리식 · 혼합형 · 마이크로커널Heiser 2026 그림 2.1
리눅스모놀리식을 어떻게 넓히나적재 모듈 · 70일 안팎 판 주기modprobe · lsmod커널 개발 절차 문서
모바일 OS기기마다 다른 부품을 어떻게 붙이나핵심 커널 ↔ 벤더 모듈안드로이드 GKI · KMIGKI 문서

윈도는 커널 모드 관리자 · 드라이버를 기본으로 두면서 일부 드라이버를 사용자 모드 호스트로 돌리고(MS UMDF 개요), 실시간 OS 는 응답 마감을 지키는 것을 목표로 삼아 리눅스도 PREEMPT_RT 설정을 둔다(커널 실시간 문서). 두 계열은 하위 토픽이 없어 구조 축의 예로만 쓴다.

🔑 역할은 모든 운영체제가 같고, 계열을 가르는 것은 그 역할을 커널 모드 안에 두느냐 밖에 두느냐이다.

5동작 — USB 시리얼 장치 하나가 커널에 붙는 길

리눅스 x86-64 서버(커널 6.6.0 · 설명용 가정 값)에 USB 시리얼 장치를 꽂는 사례다.

  1. 장치가 버스에 붙으면 커널이 장치 추가 사건을 사용자 모드로 알리고, 장치 관리자 udev 가 modprobe cdc_acm 을 부른다.
  2. modprobe 가 /lib/modules/6.6.0/ 의 modules.dep.bin 을 읽어 cdc_acm 이 기대는 모듈을 먼저 올린 뒤 cdc_acm 을 커널 모드에 적재한다(modprobe(8)).
  3. lsmod 가 /proc/modules 를 읽어 cdc_acm 을 보이고(lsmod(8)), 드라이버가 통신 · 데이터 인터페이스를 잡아 ttyACM0 이 생긴다(커널 ACM 문서).
  4. 응용이 /dev/ttyACM0 를 열고 at 를 쓰면 OK 가 돌아온다 — 응용은 USB 전송 형식을 모르고 파일 읽기 · 쓰기만 한다(커널 ACM 문서).
  5. 같은 장치에 배포판 밖에서 빌드한 벤더 모듈을 올리면 /proc/sys/kernel/tainted 가 0 에서 4096(O · 비트 12)이 된다(tainted 문서).
  6. 그 모듈이 잘못된 주소에 쓰면 커널 모드 코드가 주소 공간 하나를 나누므로 커널 전체가 oops 를 내고, 값은 4096 + 128(D · 비트 7) = 4224 가 된다(tainted 문서 · 직접 계산).
  7. 같은 기능을 윈도 UMDF 드라이버로 만들면 드라이버는 사용자 모드 호스트 Wudfhost 안에서 돌고 커널 쪽에는 반사기(reflector)만 남는다(MS UMDF 개요).
  8. 안드로이드 기기라면 이 벤더 모듈은 GKI 핵심 커널이 내놓는 KMI 에만 기대도록 만든다 — SoC · 보드 지원을 핵심 커널 밖 적재 모듈로 빼는 규칙이다(GKI 문서).
사용자 모드 커널 모드 USB 장치 버스에 붙음 · 인터페이스 둘 1 장치 추가 사건 2 modprobe cdc_acm ttyACM0 생성 3 4 open · write "at" OK 벤더 모듈 · tainted 4096 5 oops · tainted 4224 6 굵은 화살 = 이 사례가 만든 호출 · 회색 = 장치 쪽 응답 · 4224 = O(4096) + D(128) · 커널 판 · 장치 = 가정 값

그림 4 · 장치 하나는 사용자 모드의 udev 와 커널 모드의 모듈을 오가며 붙고, 모듈이 커널 모드에 있기에 그 오류는 커널 전체의 흔적(4224)으로 남는다.

드라이버가 놓인 자리 오류 하나가 멈추는 범위 경계를 넘는 비용 리눅스 적재 모듈 커널 모드 · 주소 공간 하나 운영체제 전체 함수 호출 윈도 UMDF 드라이버 사용자 모드 호스트 Wudfhost 호스트 하나 나머지는 계속 돎 반사기 경유 seL4 사용자 모드 서버 서버마다 샌드박스 서버 나머지는 계속 돎 왕복 약 720 사이클(x86) 리눅스 치명 등급 취약점 중 마이크로커널 설계로 29% 제거 · 55% 완화(Heiser 2026 2.1절) 막대 길이 = 멈추는 범위(비례 아님) · 칠한 막대 = 멈춤 · 점선 = 계속 도는 부분 · 비용 = Heiser 2026 6장

그림 5 · 드라이버 오류 하나가 멈추는 범위는 드라이버가 놓인 모드가 정하고, 범위를 좁힌 대가는 경계를 넘는 호출 비용이다.

🔑 드라이버 오류가 기계를 멈추느냐 프로세스 하나를 멈추느냐는 코드 품질이 아니라 그 코드가 놓인 모드가 정한다.

6비교 — 프로세스 관리 · 메모리 관리 · 운영체제 입출력 구조와의 경계

기준운영체제 개요프로세스 관리메모리 관리운영체제 입출력 구조
맡는 일역할 · 커널 배치 · 계열코어 배분 · 스레드 차례주소 공간 · 프레임 배분호출 · 인터럽트 · 장치 대기
다루는 단위커널 모드 경계 · 모듈스레드 · 잠금페이지 · 세그먼트버퍼 · 인터럽트 벡터
묻는 물음이 기능은 어디에 있나누가 먼저 도나이 주소는 어디인가데이터를 누가 옮기나
넘기는 곳배치가 정해진 뒤 동작 → 나머지 셋장치 대기 → 입출력 구조잠금 대기 → 프로세스 관리깨운 뒤 차례 → 프로세스 관리

분석문제가 «특정 계열에서만 · 드라이버를 바꾸면 사라지는» 꼴이면 운영체제 개요(배치)에서, 모든 계열에 같은 꼴이면 나머지 셋(동작)에서 찾는다. 근거는 표의 「묻는 물음」 행 — 배치는 계열마다 다르고 스케줄링 · 페이징 · 입출력 규칙은 계열을 넘어 같기 때문이다.

7실무 진단 — 장치 · 커널 문제를 토픽별로 가르기

분석먼저 «이 기계의 커널 판과 적재된 모듈»을 확정하고, 그다음 문제 코드가 커널 모드인지 사용자 모드인지 가른다. 같은 「장치가 안 된다」도 모듈이 없는 것(판 문제)과 모듈이 오류를 낸 것(배치 문제)은 대책이 다르기 때문이다(그림 5).

#증상의심 원인해당 토픽확인 명령판정 기준(근거)
1같은 장치가 이 서버에서만 안 됨커널 판에 맞는 모듈 없음리눅스uname -r · modprobe -n -v cdc_acm그 판의 /lib/modules 아래에 모듈이 없음(modprobe(8))
2꽂아도 장치 파일이 없음드라이버가 인터페이스를 못 잡음운영체제 구조 · 역할lsmod | grep cdc_acm/proc/modules 에 없음(lsmod(8))
3커널 버그 보고가 받아들여지지 않음외부 · 독점 모듈 적재커널 구조cat /proc/sys/kernel/tainted0 이 아님 · O = 4096 · P = 1(tainted 문서)
4드라이버 오류 뒤 기계 전체 정지커널 모드 드라이버커널 구조같은 값의 D 비트128 이 켜짐 · 윈도는 커널 모드 드라이버 충돌 = 전체 충돌(MS 사용자 · 커널 모드 문서)
5커널 갱신 뒤 벤더 모듈이 안 올라옴KMI 밖 기호 사용모바일 OS기기 빌드의 KMI 목록 대조벤더 모듈은 KMI 만 쓴다(GKI 문서)

판이 먼저다 — 판과 모듈 목록이 틀리면 뒤의 판정을 믿을 수 없다. 그다음 tainted 값으로 외부 모듈 여부를 가리고, 외부 모듈이 커널 전체를 멈춘다면 사용자 모드로 옮길 수 있는 드라이버인지(UMDF · 사용자 공간 드라이버) 검토한다.

8시험 대비

출제 정보 컴퓨터시스템응용(69회, 65회)문제 원문 — 큐넷 자료실 「기출문제(기술사)」 www.q-net.or.kr

시험에서는 운영체제의 정의 · 역할 · 구성 요소를 묻는 정의 · 특징형, 모놀리식 커널과 마이크로커널을 견주는 비교형이 나올 수 있다. 둘 다 첫 문단에 «역할은 같고 배치가 다르다»를 놓고, 배치 차이를 고장 범위 · 호출 비용 두 값으로 보이면 답이 선다.

답안 목차
  1. 개요 — 운영체제 정의 · 세 역할(자원 배분 · 보호 · 추상화) · 사용자 · 커널 모드
  2. 구성 — 그림 3 지도(역할 · 커널 구조 축 · 계열)
  3. 커널 구조 비교 — 모놀리식 · 혼합형 · 마이크로커널 · 그림 5(고장 범위 ↔ 호출 비용 · 약 720 사이클)
  4. 동작 — 그림 4 사례(udev · modprobe · cdc_acm · tainted 4224)
  5. 대표 계열 — 리눅스(적재 모듈 · 판 주기) · 모바일 OS(GKI · KMI) · 윈도(UMDF) · 실시간 OS
  6. 동향 — 핵심 커널과 벤더 모듈 분리 · 사용자 모드 드라이버 · 검증된 마이크로커널

꼭 쓸 키워드
커널 모드사용자 모드모놀리식 커널마이크로커널혼합형 커널적재 모듈신뢰 컴퓨팅 기반보호된 호출GKIKMI

다른 답안과 차이를 내려면 장단점을 글로 나열하지 말고, 그림 5 처럼 «드라이버의 자리 ↔ 멈추는 범위 ↔ 경계 비용» 세 열로 한 장에 보인다.

9오해와 사실

  • 오해리눅스는 모듈을 쓰므로 마이크로커널이다.
    사실적재 모듈은 실행 중인 커널 모드에 올라가 같은 주소 공간을 쓰므로, 외부 모듈 오류도 커널 전체의 D 흔적으로 남는다(tainted 문서).
  • 오해마이크로커널은 느려서 실제로 쓰이지 않는다.
    사실seL4 는 보호된 호출 왕복을 약 720 사이클로 보고하고, 같은 계열 커널이 수십억 개의 휴대폰 모뎀 칩에 실렸다(Heiser 2026 2.2절 · 6장).
  • 오해윈도 드라이버는 모두 커널 모드에서 돈다.
    사실UMDF 드라이버는 사용자 모드 호스트 프로세스에서 돌고, 파일 시스템 · 화면 · 인쇄 드라이버만 UMDF 로 만들 수 없다(MS UMDF 개요).

10핵심 정리

토픽 · 구조커널 모드에 두는 것고장 범위경계 비용대표 예확인 자료
운영체제 구조 · 역할자원 배분 · 보호—시스템 호출 한 번장치를 파일로시스템 호출 표
모놀리식 + 적재 모듈드라이버 · 파일 시스템 · 망 스택운영체제 전체함수 호출리눅스lsmod · tainted
혼합형대부분 · 일부 드라이버 제외커널 쪽은 전체 · 호스트 쪽은 하나반사기 경유윈도 · iOS 커널UMDF 문서
마이크로커널격리 · 보호된 호출서버 하나왕복 약 720 사이클seL4 · L4 계열Heiser 2026
리눅스모놀리식운영체제 전체함수 호출서버 · 임베디드커널 개발 절차 문서
모바일 OS핵심 커널 + 벤더 모듈운영체제 전체KMI안드로이드 GKIGKI 문서

11참고 문헌

  1. 먼저 볼 문헌
  2. ★ The seL4 Microkernel - An Introduction (White paper Revision 1.4.1) — 모놀리식 커널과 마이크로커널의 고장 범위 · 호출 비용을 견줄 때
    seL4 Foundation · 2026-07 · sel4.systems/About/seL4-whitepaper.pdf · 확인 2026-11-14
  3. ★ User Mode and Kernel Mode (Windows drivers) — 커널 모드 드라이버 하나가 운영체제 전체를 멈추는 까닭을 볼 때
    Microsoft Learn · 2025-10 · learn.microsoft.com/en-us/windows-hardware/drivers/gettingstarted/user-mode-and-kernel-mode · 확인 2026-11-14
  4. ★ Generic Kernel Image (GKI) project — 모바일 OS 가 핵심 커널과 벤더 모듈을 가르는 방식을 볼 때
    Android Open Source Project · 2026-11 · source.android.com/docs/core/architecture/kernel/generic-kernel-image · 확인 2026-11-14
  5. ★ How the development process works (Linux kernel documentation) — 리눅스 커널 판이 나오는 주기와 병합 기간을 볼 때
    kernel.org · 2026-11 · docs.kernel.org/process/2.Process.html · 확인 2026-11-14
  6. ★ Tainted kernels (Linux kernel documentation) — 외부 모듈 · 커널 오류 흔적을 숫자 하나로 읽을 때
    kernel.org · 2026-11 · docs.kernel.org/admin-guide/tainted-kernels.html · 확인 2026-11-14
  7. 본문 근거
  8. Overview of UMDF (Windows drivers) — Microsoft Learn · 2025-03 · learn.microsoft.com/en-us/windows-hardware/drivers/wdf/overview-of-the-umdf · 확인 2026-11-14
  9. Kernel Programming Guide - Kernel Architecture Overview — Apple Developer Documentation Archive · 2013-08 · developer.apple.com/library/archive/documentation/Darwin/Conceptual/KernelProgramming/Architecture/Architecture.html · 확인 2026-11-14
  10. Real-time preemption (PREEMPT_RT) - Linux kernel documentation — kernel.org · 2026-11 · docs.kernel.org/core-api/real-time/index.html · 확인 2026-11-14
  11. Linux ACM driver v0.16 (Linux kernel documentation) — kernel.org · 2026-11 · docs.kernel.org/usb/acm.html · 확인 2026-11-14
  12. modprobe(8) Linux manual page — man7.org · kmod · 2026-11 · man7.org/linux/man-pages/man8/modprobe.8.html · 확인 2026-11-14
  13. lsmod(8) Linux manual page — man7.org · kmod · 2026-11 · man7.org/linux/man-pages/man8/lsmod.8.html · 확인 2026-11-14