시스템 보안System Security
서버 · 운영체제 · 데이터베이스처럼 데이터를 처리하고 저장하는 호스트와, 그 호스트에서 나간 콘텐츠 · 제어 장비를 운영체제 · 호스트 수준에서 지키는 보안 분야다. 웹 응용은 애플리케이션 보안, 클라우드 실행 기반은 클라우드 보안, 망을 지나는 길은 네트워크 보안, 키와 신원 확인은 암호 · 인증이 맡는다.
1요약
- 시스템 보안은 데이터가 처리 · 저장되는 호스트 안쪽을 운영체제 수준에서 지키는 분야로, 컴퓨팅 플랫폼 보안 · 데이터 보안 · 사이버 물리 시스템 보안(CPS 보안)의 세 갈래가 서버 · OS · DB · 콘텐츠 · 산업 제어 장비를 맡고, 그 위에서 DBMS · 커널이 요청마다 허용과 거부를 따로 판정한다. 웹 응용은 관련 토픽 애플리케이션 보안, 클라우드 실행 기반은 클라우드 보안이 잇는다.
- 들어오는 길 하나만 막아서는 부족하다 — 2017년 미국 신용정보 회사 한 곳은 공지된 웹 프레임워크 취약점이 포털 서버에 패치되지 않은 채 남아 5월 13일부터 7월 29일 발견까지 약 2.5개월 동안 최소 1억 4,550만 명의 개인정보가 빠져나갔고, DB 접근 분리 부족이 피해를 키운 요인으로 꼽혔다(GAO-18-559).
- 「권한 거부」 오류는 어느 판정 주체의 기록인가로 가른다 — DB 오류 문구면 DB 권한, 감사 로그의 AVC 거부 기록이면 커널의 강제 접근 통제, 브라우저 콘솔의 정책 위반이면 웹 응용 쪽(애플리케이션 보안)이다.
2등장 배경
1960년대 대형 컴퓨터를 여러 사용자가 나눠 쓰게 되자, 한 사용자의 프로그램이 다른 사용자의 파일을 읽거나 운영체제를 고쳐도 막을 장치가 없었다. 1972년 10월 미 공군 의뢰로 작성된 Anderson 보고서는 주체와 객체 사이의 모든 접근을 검사하는 참조 모니터를 제안했고, 그 검사 장치는 변조할 수 없고 · 언제나 호출되며 · 검증할 수 있을 만큼 작아야 한다는 세 조건을 붙였다(TCSEC 1985 Part II 6절).
1985년 미 국방부의 TCSEC(DoD 5200.28-STD)가 이 개념을 운영체제 평가 등급으로 만들면서 보안 운영체제(Secure OS) 가 하나의 제품군이 되었다. 리눅스는 2003년 12월 LSM 프레임워크를 주류 커널에 넣어 SELinux 같은 강제 접근 통제 모듈을 커널 안에서 돌릴 수 있게 했다(Linux Security Module Development).
1990년대 뒤로 공격 대상은 웹 응용과 DB 로 옮겨 갔고, OWASP Top 10 은 2025년 판에서 접근 통제 실패를 1위, 소프트웨어 공급망 실패를 새 3위로 두었다(OWASP Top 10:2025). 컨테이너(SP 800-190 · 2017)와 OT(SP 800-82 Rev. 3 · 2023)는 같은 통제를 새 실행 환경에 옮긴 것이다.
3쉽게 이해하기 — 임대 건물 안 은행 지점 한 곳
손님이 은행 지점 창구에 1042번 계좌 조회 전표를 낸다. 창구 직원은 금고 열쇠가 없어 전표만 금고 담당에게 넘기고, 금고 담당은 그 칸 하나만 연다. 직원들은 경비실 출입 카드로 정해진 방만 드나들고, 지점 밖으로 나가는 서류에는 일련번호가 찍힌다. 냉난방 설비실은 따로 잠겨 있고, 건물 외벽과 승강기는 건물주가 관리한다.
그림 1 · 창구 · 금고 · 출입 카드 · 반출 번호 · 설비실 · 건물주가 각자 다른 것을 지키고, 손님의 요청은 앞의 세 담당을 차례로 지난다.
그림 2 · 창구가 금고 열쇠를 갖지 않으면, 창구가 속아도 열리는 것은 전표에 적힌 칸 하나뿐이다.
| 비유 속 역할 | 실제 이름 | 실제로 하는 일 |
|---|---|---|
| 손님의 조회 전표 | 사용자 요청 | 브라우저가 HTTPS 로 응용에 요청을 보낸다 |
| 창구 직원 | 애플리케이션 보안(관련 토픽) | 입력을 검증하고 값으로만 DB 에 넘기며 응답 헤더로 브라우저 정책을 건다 |
| 금고 담당 | 데이터 보안 | 계정마다 표 · 열 권한을 판정하고 민감한 열을 암호문으로 둔다 |
| 경비실 출입 카드 | 컴퓨팅 플랫폼 보안 | 커널이 프로세스마다 열 수 있는 파일을 정하고 패치로 알려진 구멍을 막는다 |
| 반출 서류 일련번호 | DRM(데이터 보안) | 시스템 밖으로 나간 사본에 이용 조건 · 워터마크를 붙여 추적한다 |
| 설비실 잠금 | 사이버 물리 시스템 보안(CPS 보안) | 물리 공정을 움직이는 제어 장비를 업무망과 나눠 지킨다 |
| 건물주 관리 | 클라우드 · 컨테이너 보안(관련 토픽) | 공급자가 실행 기반을, 고객이 이미지 · 설정을 나눠 맡는다 |
⚠ 비유가 맞지 않는 곳: 은행 직원은 사람이라 속임수를 알아챌 수 있지만 시스템의 판정은 정책에 적힌 대로만 움직여, 정책에 빠진 경우는 막지 못한다. 또 실제 공격자는 창구를 거치지 않고 서버 프로세스 자체를 빼앗는 일이 많아, 출입 카드(커널 통제)가 마지막 판정이 된다.
4구조 — 세 갈래와 판정 주체
시스템 보안은 컴퓨팅 플랫폼 보안, 데이터 보안, 사이버 물리 시스템 보안(CPS 보안)의 세 갈래로 나뉜다. 요청이 지나는 순서로 보면 웹 응용(애플리케이션 · 클라우드 보안) → 데이터 보안 → 컴퓨팅 플랫폼 보안으로 쌓이고, 그 아래 실행 기반이 클라우드 · 컨테이너다. 데이터 보안 아래 DRM 은 시스템 밖으로 나간 사본을, CPS 보안은 같은 통제를 제어 장비 환경에 옮겨 맡는다.
그림 3 · 요청은 응용 → DBMS → 커널 세 판정 주체를 차례로 지나고, 시스템 밖 사본은 DRM 이, 제어 장비는 CPS 보안이 같은 원리로 지킨다 — 응용 · 클라우드 실행 기반은 관련 토픽이 맡는다.
| 갈래 | 지키는 대상 | 푸는 문제 | 대표 통제(근거) | 아래 토픽 |
|---|---|---|---|---|
| 컴퓨팅 플랫폼 보안 | 커널 · 프로세스 · 파일 · 계정 | 권한 상승 · 패치 누락 · 불필요한 서비스 | 강제 접근 통제 · 최소 권한 · 패치 관리(SP 800-123 · SP 800-40 R4) | 보안 운영체제(Secure OS) · 서버 보안 강화(하드닝) · 패치 관리(PMS) · 기밀 컴퓨팅 · TPM · 하드웨어 신뢰 루트 · 소프트웨어 공급망 보안 |
| 데이터 보안 — DB | 표 · 행 · 열 | 과도한 계정 권한 · 평문 저장 | GRANT 권한 · 열 암호화 · 접근 감사(CWE-250) | 데이터베이스 보안 · 데이터베이스 암호화 · 데이터 유출 방지(DLP) |
| 데이터 보안 — 콘텐츠 | 시스템 밖으로 나간 사본 | 무단 복제 · 유출 경로 추적 | 암호화 + 이용 조건 · 워터마크 · 핑거프린트 | DRM · 디지털 워터마킹 |
| 사이버 물리 시스템 보안(CPS 보안) | 제어기 · HMI · 장비 | 오래된 OS · 패치 어려움 · 안전 영향 | 구역 · 도관 분리 · 장비 보안 요구(SP 800-82 R3) | ICS · SCADA 보안 · IEC 62443 · 반도체 장비 보안(SEMI E187) · IoT 보안 · 차량 사이버보안(UN R155) · 의료 정보 · 의료기기 보안 |
| 관련 — 웹 응용 | 요청 · 세션 · 페이지 | 접근 통제 실패 · 주입 · 설정 오류 | 입력 검증 · 매개변수화 질의 · TLS · CSP(OWASP Top 10:2025) | 애플리케이션 · 클라우드 보안에서 다룸 |
| 관련 — 클라우드 · 컨테이너 | 이미지 · 오케스트레이터 · 설정 | 잘못된 설정 · 특권 컨테이너 | 설정 점검 · 이미지 검사 · 실행 정책(SP 800-190) | 애플리케이션 · 클라우드 보안에서 다룸 |
웹 응용과 클라우드 실행 기반의 판정은 애플리케이션 · 클라우드 보안이 다루고, 이 표에는 요청이 지나는 순서를 보이려고 두 행을 함께 둔다.
🔑 시스템 보안은 같은 요청을 응용 · DBMS · 커널이 각자 다시 판정하게 만드는 일이다 — 한 판정이 뚫려도 다음 판정이 피해 범위를 줄인다.
5동작 — 주문 조회 요청 하나가 세 판정을 지나는 길
쇼핑몰 shop.example.com 에서 주문 1042번을 조회하는 요청 하나를 따라간다. 계정 이름 shop_app · 표 40개 · 열 card_no · 카드 번호 12만 건은 설명용 가정 값이고, 명령과 정책 이름은 각 공식 문서의 것이다.
- 브라우저가
GET /orders/1042를 TLS 1.3 연결로 보내고, 웹 서버가 443 포트에서 TLS 를 끝낸 뒤 응용에 넘긴다(→ TLS 1.3). - 응용은 1042 를 문장에 이어 붙이지 않고 매개변수화 질의
SELECT id, status, card_no FROM orders WHERE id = $1의 값으로만 넘긴다 — 입력이 SQL 문장 구조가 되지 않는다(→ SQL Injection). - DBMS 가 shop_app 의 권한을 판정한다 — orders 표에는 SELECT · INSERT 만 있고, 나머지 39개 표와 DELETE 는 거부된다(PostgreSQL 18 문서 role_table_grants).
- card_no 열은 암호문으로 저장되어 있어, 응용은 화면에 끝 4자리만 내보낸다(→ 데이터베이스 암호화).
- 응답 헤더
Content-Security-Policy: require-trusted-types-for 'script'로, 브라우저는 검사를 거치지 않은 문자열을 페이지 HTML 로 넣는 코드를 막는다(W3C Trusted Types 4.2.1절). - 같은 응용 프로세스가 결함으로 /home 아래 파일 읽기를 시도한다 — 파일 권한(DAC)은 읽기를 허락하지만, 커널은 DAC 를 통과한 요청을 SELinux 정책에 한 번 더 묻고 웹 서버 도메인에 없는 접근이라 거부한다(SELinux Notebook).
- 커널이 응용에 EACCES 를 돌려주고 감사 로그에
type=기록을 남긴다 — 운영자는AVC . . . denied { read } ausearch -m avc -ts recent -i로 최근 10분의 거부를 본다(ausearch(8)).
그림 4 · 한 요청에서 응용은 ②⑤, DBMS 는 ③, 커널은 ⑥ 을 판정하고, 거부는 ⑦ 에서 감사 로그에 남는다.
그림 5 · 응용 계정을 빼앗겨도 DB 최소 권한 · 열 암호화 · 커널 정책이 하나씩 더해질 때마다 공격자가 미치는 범위가 줄고, 끝에 남는 표 1개 · 경로 2곳은 패치와 감시가 맡는다.
🔑 패치는 공격자가 들어오는 길을 막고, 최소 권한 · 암호화 · 강제 접근 통제는 들어온 뒤 미치는 범위를 줄인다 — 둘 중 하나만으로는 GAO-18-559 사례처럼 한 번의 침입이 전체 유출이 된다.
6비교 — 관련 기술과의 경계
| 기준 | 시스템 보안 | 네트워크 보안 | 암호 · 인증 | 보안 관리 | 해킹 · 위협 |
|---|---|---|---|---|---|
| 맡는 일 | 시스템 안쪽의 판정과 강화 | 시스템 사이 경로의 차단 · 탐지 | 키 · 신원 · 권한 모델 | 위험 평가 · 정책 · 인증 제도 | 공격 기법과 사고 대응 |
| 다루는 단위 | 프로세스 · 파일 · 표 · 요청 | 패킷 · 세션 · 구간 | 키 · 인증서 · 토큰 | 자산 · 위험 · 통제 항목 | 취약점 · 공격 절차 · 증거 |
| 대표 하위 토픽 | 보안 운영체제(Secure OS) · 데이터베이스 암호화 · ICS · SCADA 보안 | 방화벽 · IDS · VPN | 암호 시스템 · 접근 통제 · OAuth 2.0 | 정보보호 위험 평가 · 정보보호 인증 제도 | SQL Injection · XSS · 랜섬웨어 |
| 기록이 남는 곳 | 감사 로그 · DB 감사 · 응용 로그 | 방화벽 · IDS 로그 | 인증 서버 · 인증서 검증 오류 | 위험 평가서 · 점검 결과 | 포렌식 이미지 · 침해 지표 |
| 넘기는 곳 | 망 구간 → 네트워크 보안 · 키 관리 → 암호 · 인증 | 서버 안 판정 → 시스템 보안 | 판정을 집행하는 시스템 → 시스템 보안 | 기술 통제 구현 → 각 기술 분야 | 막는 통제 → 시스템 · 네트워크 보안 |
분석증상이 «요청이 시스템에 도착했는데 안에서 거부되거나 새는가»이면 시스템 보안, «도착 전 구간에서 막히거나 엿보이는가»이면 네트워크 보안으로 넘긴다. 근거는 표의 「기록이 남는 곳」 행이며, 개인정보는 같은 통제를 법이 요구하는 수준(암호화 대상 · 접속 기록 보관)으로 다시 묻는 쪽이라 구현은 시스템 보안이 맡는다.
7실무 진단 — 권한 거부와 노출의 원인 가르기
분석권한 거부는 바깥에서 안쪽으로, 응용 로그 → DB 권한 → 커널 감사 로그 순으로 본다. 리눅스는 DAC 를 먼저 검사하고 통과한 요청만 SELinux 정책에 묻으므로(SELinux Notebook), 감사 로그에 AVC 기록이 없으면 원인은 파일 권한이나 그 위 응용 · DB 쪽이다.
| # | 증상 | 의심 원인(맡는 쪽) | 확인 명령 · 자료 | 판정 기준(근거) |
|---|---|---|---|---|
| 1 | 파일 권한은 맞는데 웹 프로세스가 Permission denied | SELinux 정책 거부(컴퓨팅 플랫폼 보안) | ausearch -m avc -ts recent -i | 그 시각 denied 레코드가 있으면 강제 접근 통제의 거부(ausearch(8) · SELinux Notebook) |
| 2 | 점검에서 응용 계정이 모든 표를 지울 수 있다는 지적 | 계정 권한 과다(데이터 보안) | SELECT table_name, privilege_type FROM information_schema. | 업무에 쓰지 않는 표 · DELETE 행이 있으면 과다 권한(CWE-250 · PostgreSQL 18 문서) |
| 3 | 브라우저 콘솔에 Trusted Types 위반 | 문자열을 그대로 HTML 로 넣는 코드(관련 토픽 애플리케이션 · 클라우드 보안) | curl -sI https: | 헤더에 require-trusted-types-for 'script' 가 있고 위반이 나면 정책은 정상 · 코드 수정 대상(W3C Trusted Types 4.2.1절 · curl(1)) |
| 4 | 보안 공지가 나온 프레임워크가 서버에 남음 | 패치 누락 · 자산 목록 빠짐(컴퓨팅 플랫폼 보안 · 패치 관리(PMS)) | 자산 목록 · SBOM 과 설치 패키지 버전 대조 | 공지의 수정 버전보다 낮으면 미적용 · 설치 뒤 확인 단계까지 해야 끝(SP 800-40 R4 · GAO-18-559) |
| 5 | 파드가 호스트 장치를 그대로 연다 | 특권 컨테이너(관련 토픽 애플리케이션 · 클라우드 보안) | kubectl get pod web -o yaml | 컨테이너의 securityContext. 가 true 이면 Baseline 위반(Pod Security Standards 「Privileged Containers」) |
1행에서 AVC 기록이 나오면 정책을 넓히기 전에 그 접근이 업무에 필요한지 묻는다. 4행은 «패치를 돌렸는데 그 서버가 목록에 없던» 경우가 많아 자산 목록 누락부터 본다.
8시험 대비
www.q-net.or.kr시험에서는 시스템 보안 또는 그 아래 보안 운영체제(Secure OS) · 데이터 보안의 개념과 필요성을 묻는 정의 · 특징형, 보안 운영체제나 시스템 보안 체계의 구성 요소를 그림으로 묻는 구조 · 구성형이 나올 수 있다. 하위 토픽(보안 운영체제(Secure OS) · 데이터베이스 암호화 · 패치 관리(PMS))이 나오면 그 토픽 답안을 쓰되, 첫 문단에 «요청이 지나는 세 판정(응용 · DBMS · 커널) 가운데 어디인가»를 이 지도로 놓으면 답안의 틀이 잡힌다.
- 개요 — 정의(시스템 안쪽의 판정과 강화) · 참조 모니터 세 조건(변조 불가 · 항상 호출 · 검증 가능 크기 · Anderson 1972)
- 구성 — 그림 3 세 갈래 지도 + 갈래 표(지키는 대상 · 대표 통제 · 토픽)
- 동작 — 그림 4 요청 하나의 세 판정(매개변수화 질의 → DB 권한 → DAC 뒤 SELinux 거부 → AVC 기록)
- 핵심 원리 — 그림 5 피해 범위 계단(최소 권한 · 열 암호화 · 강제 접근 통제) + 패치와의 역할 나눔
- 운영 — 패치 관리(찾기 · 우선순위 · 설치 · 확인 · SP 800-40 R4) · 감사 로그 확인
- 동향 — OWASP Top 10:2025(접근 통제 실패 1위 · 공급망 실패 3위) · 컨테이너 · OT 로 넓어진 범위
꼭 쓸 키워드
참조 모니터강제 접근 통제최소 권한시스템 강화패치 관리심층 방어매개변수화 질의데이터베이스 암호화감사 로그특권 컨테이너
다른 답안과 차이를 내려면 통제를 갈래별로 나열하지 말고 그림 5 처럼 «응용이 뚫린 뒤 통제 하나마다 줄어드는 범위»로 보인다.
9오해와 사실
- 오해방화벽 안쪽 서버는 따로 지키지 않아도 된다.사실2017년 사례의 공격자는 인터넷에 열린 웹 포털 한 곳으로 들어왔고, DB 접근 분리 부족이 피해를 1억 4,550만 명으로 키운 요인으로 꼽혔다(GAO-18-559).
- 오해파일 권한이 허락하면 접근은 성공한다.사실SELinux 를 켠 리눅스는 DAC 검사를 통과한 요청을 정책 서버에 한 번 더 묻고, 정책에 없으면 거부한다(SELinux Notebook).
- 오해DB 를 암호화하면 응용이 뚫려도 데이터는 안전하다.사실응용 계정이 복호 권한을 가지면 공격자도 그 권한으로 평문을 읽으므로, 암호화는 계정 최소 권한과 함께여야 범위를 줄인다(CWE-250).
10핵심 정리
| 구분 | 판정 주체 | 판정 근거 | 남는 기록 | 대표 실패 | 근거 문서 |
|---|---|---|---|---|---|
| 웹 응용(관련 토픽) | 응용 · 브라우저 | 입력 검증 · 응답 헤더 정책 | 응용 로그 · 브라우저 위반 보고 | 접근 통제 실패 · 주입 | OWASP Top 10:2025 · W3C Trusted Types |
| 데이터 보안 — DB | DBMS | 계정별 표 · 열 권한 | DB 감사 기록 · 오류 문구 | 과다 권한 · 평문 저장 | CWE-250 · information_ |
| 컴퓨팅 플랫폼 보안 | 커널(DAC → MAC) | 파일 권한 + 보안 정책 | 감사 로그 AVC | 권한 상승 · 패치 누락 | SP 800-123 · SP 800-40 R4 |
| 데이터 보안 — DRM | 재생 기기 · 소프트웨어 | 이용 조건 · 복호 키 | 워터마크 · 핑거프린트 | 복제본 유출 | DRM 토픽 |
| CPS 보안 | 구역 경계 · 장비 | 구역 · 도관 규칙 | 장비 · 경계 로그 | 업무망에서 제어망 침입 | SP 800-82 R3 · IEC 62443 |
| 클라우드 · 컨테이너(관련 토픽) | 오케스트레이터 · 공급자 | 실행 정책 · 설정 기준 | 설정 점검 결과 | 특권 컨테이너 · 잘못된 설정 | SP 800-190 · Pod Security Standards |
11참고 문헌
- 먼저 볼 문헌
- ★ SP 800-123 Guide to General Server Security — 서버 한 대를 설치 · 강화 · 유지하는 통제 전체를 볼 때
- ★ SP 800-40 Rev. 4 Guide to Enterprise Patch Management Planning: Preventive Maintenance for Technology — 패치를 찾고 · 우선순위를 매기고 · 설치를 확인하는 절차를 볼 때
- ★ OWASP Top 10:2025 — 웹 응용에서 가장 자주 나오는 위험 열 가지의 순서를 볼 때
- ★ SP 800-190 Application Container Security Guide — 컨테이너 이미지 · 레지스트리 · 오케스트레이터 · 호스트의 위험을 볼 때
- 본문 근거
- SP 800-82 Rev. 3 Guide to Operational Technology (OT) Security — NIST · 2023-09 ·
csrc.nist.gov/pubs/sp/800/82/r3/final· 확인 2026-11-09 - GAO-18-559 Data Protection: Actions Taken by Equifax and Federal Agencies in Response to the 2017 Breach — U.S. Government Accountability Office · 2018-08 ·
www.gao.gov/products/gao-18-559· 확인 2026-11-09 - DoD 5200.28-STD Trusted Computer System Evaluation Criteria (Orange Book) Part II 6 Rationale - reference monitor — U.S. Department of Defense (kernel.org 재게시본) · 1985-12 ·
www.kernel.org/pub/linux/libs/security/Orange-Linux/refs/Orange/OrangeI-II-6.html· 확인 2026-11-09 - Linux Security Module Development — The Linux Kernel documentation · 2026-11 ·
docs.kernel.org/security/lsm.html· 확인 2026-11-09 - The SELinux Notebook - Mandatory Access Control — SELinux Project · 2026-11 ·
github.com/SELinuxProject/selinux-notebook/blob/main/src/mac.md· 확인 2026-11-09 - ausearch(8) Linux manual page — man7.org · 2026-11 ·
man7.org/linux/man-pages/man8/ausearch.8.html· 확인 2026-11-09 - PostgreSQL 18 Documentation 35.37 role_table_grants — PostgreSQL Global Development Group · 2026-11 ·
www.postgresql.org/docs/current/infoschema-role-table-grants.html· 확인 2026-11-09 - CWE-250 Execution with Unnecessary Privileges — MITRE · 2026-11 ·
cwe.mitre.org/data/definitions/250.html· 확인 2026-11-09 - Trusted Types (W3C Working Draft) — W3C · 2026-10 ·
www.w3.org/TR/trusted-types/· 확인 2026-11-09 - Kubernetes Pod Security Standards — Kubernetes · 2026-11 ·
kubernetes.io/docs/concepts/security/pod-security-standards/· 확인 2026-11-09 - curl(1) man page — curl project · 2026-11 ·
curl.se/docs/manpage.html· 확인 2026-11-09