IDS침입 탐지 시스템 · Intrusion Detection System
망 패킷의 사본이나 호스트의 로그를 지켜보며 알려진 공격 패턴(오용 탐지)이나 정상 프로파일에서 벗어난 활동(이상 탐지)을 찾아 경보를 내는 보안 시스템이다. 트래픽을 막지 않고 관찰 · 경보 · 분석을 맡는다.
1요약
- IDS 는 망 구간의 패킷 사본(TAP · SPAN 포트)이나 호스트의 OS · 응용 로그를 데이터 원천으로 삼아 센서 → 분석기 → 관리자 순으로 경보를 만드는 시스템으로, Denning(1987) 모델과 NIST SP 800-94(2007)가 틀이며 그 경보 위에서 SIEM 상관 분석과 사고 대응이 돈다.
- 하루 감사 기록 100만 건에 침입이 2건뿐인 환경에서는 탐지율 1.0 · 오탐률 1/100,000 이어도 경보의 약 66%만 진짜이고 오탐률 1/1,000 이면 약 2%로 떨어진다(Axelsson 2000 5.3절) — 기준율을 계산하지 않은 IDS 는 경보 더미에 묻혀 운영자가 경보를 무시하게 된다.
- 「IDS 가 공격을 놓쳤다」는 센서가 그 패킷 · 로그를 받았는가로 먼저 가른다 — 받지 못했으면 배치(SPAN · TAP · 에이전트) 문제, 받았는데 경보가 없으면 규칙 · 프로파일 문제, 센서에는 경보가 있는데 SIEM 에 없으면 전송 · 정규화 문제다.
2등장 배경
1970년대 말 시분할 컴퓨터의 보안 담당자는 날마다 쌓이는 감사 기록을 손으로 넘기며 남의 계정으로 들어온 사용자를 찾았다. 1980년 Anderson 은 감사 기록을 자동으로 훑어 보안 위협을 감시하자는 보고서를 냈고(Anderson 1980), 1987년 Denning 은 주체 · 객체 · 감사 기록 · 프로파일 · 이상 기록 · 활동 규칙 여섯 요소로 된 침입 탐지 모델을 IDES 시스템의 틀로 내놓았다(Denning 1987).
1990년대에 감시 대상이 호스트 기록에서 망 패킷으로 넓어지며 네트워크 기반 IDS 가 퍼졌지만, 제품마다 경보 형식이 달라 여러 IDS 의 경보를 한 화면에서 맞춰 보기 어려웠다. IETF IDWG 는 2007-03 경보 교환 형식 IDMEF(RFC 4765 · 실험 규격)와 그 요구 사항 · 용어(RFC 4766)를 냈고, 같은 해 2007-02 NIST 는 SP 800-94 로 IDS · IPS 운영 지침을 정리했다(SP 800-31 대체).
지금 IDS 는 IPS 엔진의 «탐지만 하는 모드», 오픈소스 센서, 호스트 에이전트로 쓰이고 경보는 SIEM 에 모인다(SP 800-94 8.2.2절). 경로 위에 서지 않아 오탐이 서비스를 멈추지 않으므로, 관찰 · 증거가 먼저인 내부 망 · 제어 망에 남는다.
3쉽게 이해하기 — 산불 감시
산 정상 감시탑의 감시원은 망원경으로 산 전체를 보며 연기를 찾고, 마을 집마다 달린 화재 감지기는 집 안의 연기를 직접 잡는다. 둘 다 연기를 보면 군청 상황실에 무전을 치고, 상황실은 소각 허가 목록과 다른 신고를 맞춰 보아 진짜 산불인지 가린 뒤 진화대를 부른다. 감시원은 불을 끄지 않는다 — 보고 알리기만 한다. 그리고 하루에 올라오는 연기 신고는 대부분 논밭을 태우는 연기다.
그림 1 · 감시탑과 화재 감지기는 연기를 보고 알리기만 하고, 상황실이 맞춰 보아 판정하며, 불을 끄는 일은 진화대가 맡는다.
그림 2 · 신고 하나만으로는 판정하지 않는다 — 같은 곳 · 같은 시각의 다른 보고와 예외 목록을 맞춰 볼 때 진짜 사건이 된다.
| 비유 속 역할 | 실제 이름 | 실제로 하는 일 |
|---|---|---|
| 산과 마을 | 데이터 원천 | 망 패킷 · OS 감사 로그 · 응용 로그 — IDS 가 읽는 원재료 |
| 감시탑 감시원 | NIDS 센서 | TAP · SPAN 포트로 받은 패킷 사본을 읽는다(경로 밖) |
| 집마다 단 감지기 | HIDS 에이전트 | 한 호스트의 로그 · 파일 · 프로세스 변화를 직접 본다 |
| 상황실 무전 | 경보 | 분석기가 관리자에게 보내는 «관심 이벤트가 있다»는 메시지 |
| 소각 허가 목록 | 예외 목록 · 튜닝 | 알려진 정상 활동을 경보에서 뺀다 |
| 신고 맞춰 보기 | 상관 분석(SIEM) | 같은 IP · 시각 · 사용자 이름으로 여러 로그를 묶는다 |
| 논밭 태우는 연기 | 오탐 | 정상 활동을 공격으로 판정한 경보 |
| 진화대 | 대응 · 운영자 | 사람이나 다른 장비(IPS · 방화벽)가 실제로 막는다 |
⚠ 비유가 맞지 않는 곳: 연기는 누구 눈에나 보이지만, 암호화된 트래픽(HTTPS · SSH 본문)은 NIDS 센서가 내용을 읽지 못해 호스트 쪽 로그로 보완해야 한다. 산불은 숨지 않지만 공격자는 일부러 정상처럼 보이게 움직여, 감시원이 «연기가 없다»고 본 것이 «불이 없다»는 뜻이 아니다.
4구조 — 센서 · 분석기 · 관리자
RFC 4766 2.2절은 IDS 를 데이터 원천 → 센서 → 분석기 → 관리자 → 운영자로 나누고, 그 사이를 흐르는 것을 활동 · 이벤트 · 경보 · 통지로 부른다. 제품은 센서와 분석기를 한 장비에 합치는 일이 많고, SP 800-94 3.1.1절은 같은 구성을 센서 · 에이전트 · 관리 서버 · DB 서버 · 콘솔로 부른다.
그림 3 · 센서는 사본과 로그를 이벤트로 바꾸고 분석기가 경보를 내며, 대응은 IDS 밖의 운영자 · 다른 장비 몫이다.
| 요소 | 받는 것 → 내는 것 | 역할 | 값 · 근거 |
|---|---|---|---|
| 데이터 원천 | — → 활동 | IDS 가 읽는 원재료 | 패킷 사본 · OS 감사 로그 · 응용 로그(RFC 4766 2.2절) |
| NIDS 센서 | 패킷 사본 → 이벤트 | 망 구간 수집 · 재조립 | TAP · SPAN 포트 · 부하가 크면 SPAN 이 패킷을 빠뜨림(SP 800-94 4.2.2절) |
| HIDS 에이전트 | 호스트 기록 → 이벤트 | 한 호스트의 코드 · 트래픽 · 파일 · 로그 · 망 설정 감시 | 탐지 기법 여섯(7.2.2절) |
| 분석기 | 이벤트 → 경보 | 시그니처 · 프로파일 · 임계값 대조 | 임계값 예 = 60초 안 실패 연결 x회(3.2.3절) |
| 관리 서버 · DB | 경보 → 상관 경보 | 여러 센서 경보를 같은 IP 로 묶어 저장 | 별도 관리 망 권장(3.1.1 · 3.1.2절) |
| 운영자 · 콘솔 | 통지 → 대응 | 경보 확인 · 대응 시작 또는 권고 | RFC 4766 2.2절 |
| SIEM | 여러 로그 → 메타 이벤트 | 정규화 · 상관 · 원본 로그는 바꾸지 않음 | SP 800-94 8.2.2절 |
분석기의 판정 기준은 둘로 나뉜다. 오용 탐지(SP 800-94 의 시그니처 기반)는 알려진 공격 패턴과 맞추고, 이상 탐지는 주체마다 쌓은 프로파일에서 벗어난 값을 찾는다 — Denning 은 이상 판정을 운영 모델(고정 한계 · 비밀번호 실패 10회 초과), 평균 · 표준편차 모델(평균 ± d × 표준편차 밖 · d = 4 이면 밖일 확률 1/16 이하), 다변량 · 마르코프 과정 · 시계열 모델 다섯으로 정리했고, 이상을 찾으면 「이벤트 · 시각 · 프로파일」 세 필드의 이상 기록을 남긴다(Denning 1987). 학습으로 정상 모델을 만드는 방법은 AI 「이상 탐지」가 맡는다.
경보 한 건의 필드는 IDMEF 가 정했다 — 분석기 · 생성 시각 · 분류는 꼭 하나, 평가(심각도 info ~ high · 신뢰도)는 하나까지, 출발지 · 대상은 여럿까지다(RFC 4765 4.2.2절). Suricata EVE JSON 도 시각 · 5튜플 · 규칙 번호 · 심각도 필드로 같은 내용을 담는다(Suricata EVE 문서).
🔑 IDS 의 산출물은 «판정»이 아니라 «경보»다 — 경보는 운영자가 확인하기 전까지 의심일 뿐이고, 막는 일은 IDS 밖의 사람과 장비가 한다(RFC 4766 2.2절).
5동작 — SSH 비밀번호 대입 경보에서 사건까지
사례는 내부 망 SSH 서버 앞 TAP 에 붙인 NIDS 센서(Suricata · 탐지 모드)가 비밀번호 대입 시도를 경보하고, SIEM 이 서버 인증 로그와 묶어 사건으로 올리는 흐름이다. 주소 · 횟수 · 규칙 번호 · 시각은 설명용 가정 값이다(외부 주소 = RFC 5737 문서용 대역 · 내부 = 사설 대역).
- 출발지 192.0.2.77 이 SSH 서버 10.30.4.12 의 TCP 22 로 60초 동안 연결을 40회 연다. TAP 이 이 패킷의 사본을 센서에 넘기고, 원본은 그대로 서버로 간다.
- 센서의 자체 규칙(번호 1000101)은 22번 포트로 가는 새 연결을
detection_filter: track by_src, count 5, seconds 60으로 센다 — 같은 출발지가 60초 안에 5회를 넘긴 뒤의 매칭마다 경보가 난다(Suricata 규칙 문서). - 센서가 EVE JSON 경보(
event_typealert ·signature_id1000101 ·src_ip192.0.2.77 ·actionallowed)를 syslog 메시지에 실어 TLS(TCP 6514 · RFC 5425)로 SIEM 10.30.9.5 에 보낸다 — 시설 local0(16) · 심각도 warning(4)이라 PRI 는 16 × 8 + 4 = 132 다(RFC 5424 6.2.1절). - 서버 10.30.4.12 는 sshd 인증 기록(실패 38회 · 21:07:42 성공 1회)을 시설 authpriv(10) · 심각도 info(6) · PRI 86 으로 같은 SIEM 에 보낸다.
- SIEM 이 두 기록을 출발지 IP · 시각 · 사용자 필드로 정규화하고, 상관 규칙 「IDS 경보 출발지 = 10분 안 인증 성공 출발지 · 예외 목록에 없음」이 일치해 높은 등급 메타 이벤트를 만든다(SP 800-94 8.2.2절).
- SIEM 이 메타 이벤트를 통지하고, 운영자는 두 로그 원본을 열어 성공이 같은 출발지에서 왔음을 확인한다.
- 운영자가 사고 대응 절차를 시작한다 — 계정 잠금 · 세션 종료 · 출발지 차단은 서버 관리자와 방화벽이 수행한다.
그림 4 · 센서는 TAP 사본으로 경보만 내고, 경보와 인증 성공 기록이 SIEM 에서 묶일 때 사건이 되어 사람에게 간다.
IDS 를 평가하는 값은 넷이다 — 탐지율 = 정탐 ÷ (정탐 + 미탐), 오탐률 = 오탐 ÷ (오탐 + 정상 판정), 그리고 운영자가 체감하는 정밀도(베이즈 탐지율) = 정탐 ÷ (정탐 + 오탐)이다(Axelsson 2000 5.3절). 아래 그림은 Axelsson 의 가정(하루 이벤트 100만 · 침입 2건 × 기록 10 = 20)에 탐지율 0.7 을 두고 오탐률만 바꾼 결과다.
그림 5 · 탐지율을 0.7 로 둔 채 오탐률만 1/1,000 에서 1/100,000 으로 낮추면 경보 속 진짜 비율이 1.4% 에서 58% 로 오른다.
🔑 경보를 믿을 수 있게 만드는 것은 탐지율이 아니라 오탐률이다 — 침입이 이벤트 5만 건에 1건꼴이면 오탐률을 한 자릿수 낮추는 것이 탐지율을 0.7 에서 1.0 으로 올리는 것보다 정밀도를 더 올린다(Axelsson 2000 5.3절).
6비교 — NIDS · HIDS · SIEM
| 기준 | NIDS(망 기반) | HIDS(호스트 기반) | SIEM |
|---|---|---|---|
| 데이터 원천 | TAP · SPAN 포트의 패킷 사본 | 그 호스트의 로그 · 파일 · 프로세스 · 망 설정 | IDS · 방화벽 · OS · 응용 · 출입 기록의 사본 |
| 암호화 트래픽 | TLS · SSH 본문은 못 읽음 | 복호화 뒤의 로그 · 동작을 봄 | 받은 로그에 적힌 만큼 |
| 공격 성공 여부 | 응답 패킷으로 짐작 | 로그 · 파일 변경으로 직접 확인 | 경보와 인증 · 서버 로그를 묶어 확인 |
| 설치 단위 | 망 구간마다 센서 하나 | 호스트마다 에이전트 하나 | 조직에 하나 · 수집기 여럿 |
| 경보까지 지연 | 패킷 단위 · 곧바로 | 로그 기록 주기만큼 | 일괄 전송이면 5 ~ 10분(SP 800-94 8.2.2절) |
분석공격이 오가는 «길»은 NIDS, 공격이 «성공했는가»는 HIDS, 둘을 «같은 사건»으로 묶는 일은 SIEM 이 맡으므로, 셋은 대안이 아니라 겹쳐 쓰는 단계다 — 하나만 고른다면 암호화가 많은 구간은 HIDS, 호스트에 설치할 수 없는 장비(제어 망 · 가전)는 NIDS 가 먼저다. 근거 = 위 표 「암호화 트래픽」 · 「설치 단위」 행과 SP 800-94 8.2.2절(SIEM 은 원본 이벤트를 만들지 않음).
7실무 진단
분석경보가 이상하면 센서가 원천을 받았는가 → 분석기가 규칙을 실었는가 → 경보가 SIEM 까지 갔는가 순으로 본다 — 앞 단계가 깨지면 뒤 단계의 설정을 아무리 고쳐도 경보가 나오지 않기 때문이다. 근거 = RFC 4766 2.2절(데이터 원천 → 센서 → 분석기 → 관리자 순서) · SP 800-94 8.2.2절(SIEM 지연 · 필드 손실).
| # | 증상 | 의심 원인 | 단계 | 확인 명령 · 자료 | 판정 기준(근거) |
|---|---|---|---|---|---|
| 1 | 알려진 시험 트래픽에도 경보 0건 | SPAN 설정 누락 · TAP 방향 | 센서 | 감시 인터페이스에서 tcpdump -ni <장치> -c 50 tcp port 22 | 패킷이 안 보이면 배치 문제 — SPAN 은 부하가 크면 사본을 빠뜨림(SP 800-94 4.2.2절) |
| 2 | 패킷은 보이는데 경보 0건 | 규칙 미적재 · 설정 오류 | 분석기 | suricata -T -c / | 설정 시험이 오류를 내면 규칙 · 설정 문제(Suricata 명령행 문서) |
| 3 | 바쁜 시간대에만 경보 누락 | 센서 처리 한계 | 센서 | stats.log 의 capture.kernel_drops | 값이 늘면 커널이 패킷을 사용자 공간에 못 넘기고 버리는 중 · 기본 8초마다 기록(Suricata 통계 문서) |
| 4 | 센서에는 경보가 있는데 SIEM 에 없음 · 늦음 | 전송 · 정규화 · 시계 | 관리자 | 센서에서 jq -c 'select(.event_type=="alert")' eve. 과 SIEM 검색 결과 대조 | 센서에만 있으면 전송 · 정규화 손실, 시각이 어긋나면 NTP 동기화 점검(SP 800-94 3.2.2 · 8.2.2절) |
| 5 | 경보가 하루 수천 건 · 운영자가 안 봄 | 기준율 무시 · 튜닝 부족 | 운영 | 규칙 번호별 경보 수와 확인 결과의 정탐 비율 | 정밀도가 몇 % 수준이면 예외 목록 · 임계값부터(Axelsson 2000 5.3절 · SP 800-94 3.2.3절) |
가려내는 순서는 센서의 패킷 → 분석기 설정 → 센서 카운터 → SIEM 대조다. 센서 로그(eve.json)를 원본으로, SIEM 화면을 그 사본으로 다뤄야 정규화 손실이 보인다.
8시험 대비
www.q-net.or.kr시험에서는 구성 요소와 분류를 묻는 구조 · 구성형, NIDS · HIDS 나 오용 · 이상 탐지를 맞세우는 비교형이 나올 수 있다. 구조형이면 다섯 요소 그림 위에 두 축의 분류를 얹고, 비교형이면 표 뒤에 «겹쳐 쓴다»는 결론으로 닫는다.
- 정의 · 등장 배경 — 관찰 · 경보 · 분석(차단 안 함) · Anderson 1980 → Denning 1987 → SP 800-94(2007)
- 구성 요소 — 데이터 원천 · 센서 · 분석기 · 관리자 · 운영자 구조 그림(그림 3) · 활동 · 이벤트 · 경보 · 통지
- 분류 — 데이터 원천(NIDS · HIDS) × 판정 기준(오용 · 이상 · Denning 통계 모델 다섯) 표
- 경보 처리 흐름 — 센서 경보 → syslog(RFC 5424 · 5425) → SIEM 상관 → 운영자 순서도(그림 4)
- 평가 지표 — 탐지율 · 오탐률 · 정밀도 · 기준율 오류 그림(그림 5 · 1.4% → 58%)
- 운영 고려 사항 — 배치(TAP · SPAN) · 튜닝 · 암호화 보완 · IDS · HIDS · SIEM 비교 표
꼭 쓸 키워드
데이터 원천센서분석기오용 탐지이상 탐지프로파일오탐미탐기준율 오류상관 분석
다른 답안과 차이를 내는 한 가지는 기준율 계산이다 — 100만 · 20 · 0.7 세 숫자로 정밀도 1.4% → 58% 를 보이면 튜닝의 필요가 숫자로 선다.
9오해와 사실
- 오해IDS 는 탐지한 공격을 막는다.사실TAP · SPAN 사본을 받는 센서는 원본 길 밖에 있어 패킷을 버릴 수 없고, 대응은 경보를 받은 운영자나 다른 장비가 시작한다(RFC 4766 2.2절 · SP 800-94 4.2.2절) — 사례 3단계 경보의
action이 allowed 인 이유다. - 오해탐지율이 99% 면 경보도 99% 믿을 수 있다.사실침입이 이벤트 5만 건에 1건꼴이면 탐지율 1.0 이어도 오탐률 1/1,000 에서 경보의 약 2%만 진짜다(Axelsson 2000 5.3절).
- 오해SIEM 을 두면 IDS 는 없어도 된다.사실SIEM 은 원본 이벤트를 만들지 않고 받은 로그로 메타 이벤트만 만들며, 패킷 원본은 대개 넘겨받지 못한다(SP 800-94 8.2.2절) — 망 구간의 증거는 센서가 만든다.
10핵심 정리
| 구분 | 보는 것 | 내는 것 · 잘 잡는 것 | 약점 | 근거 |
|---|---|---|---|---|
| NIDS | TAP · SPAN 패킷 사본 | 망 구간 공격 경보 · 패킷 증거 | 암호화 본문 · 부하 시 손실 | SP 800-94 4.2.2절 |
| HIDS | 호스트 로그 · 파일 · 프로세스 | 공격 성공 여부 · 파일 변경 | 호스트마다 설치 · 변조 위험 | SP 800-94 7.2.2절 |
| 오용 탐지 | 알려진 공격 패턴 | 알려진 공격 · 정책 위반 | 처음 보는 공격 | SP 800-94 2.3절 |
| 이상 탐지 | 주체별 프로파일 이탈 | 처음 보는 행동 · 이상 기록 | 오탐 · 프로파일 학습 기간 | Denning 1987 |
| 경보 형식 | 분석기 · 시각 · 출발지 · 대상 · 분류 · 평가 | IDMEF · EVE JSON · syslog PRI | 제품마다 필드 이름이 다름 | RFC 4765 4.2.2절 · RFC 5424 |
| SIEM 상관 | 여러 로그의 IP · 시각 · 사용자 | 메타 이벤트 · 성공 확인 | 지연 5 ~ 10분 · 필드 손실 | SP 800-94 8.2.2절 |
| 평가 지표 | 정탐 · 오탐 · 미탐 수 | 탐지율 · 오탐률 · 정밀도 | 기준율이 낮으면 정밀도 급락 | Axelsson 2000 5.3절 |
11참고 문헌
- 먼저 볼 문헌
- ★ NIST SP 800-94 Guide to Intrusion Detection and Prevention Systems (IDPS) — 센서 · 에이전트 · 관리 서버 구성과 호스트 기반 탐지 기법 · SIEM 연계의 한계를 볼 때
- ★ An Intrusion-Detection Model (Dorothy E. Denning · IEEE Transactions on Software Engineering SE-13 No. 2) — 주체 · 프로파일 · 이상 기록 여섯 요소와 통계 판정 모델 다섯을 원문으로 볼 때
- ★ The Base-Rate Fallacy and the Difficulty of Intrusion Detection (Stefan Axelsson · ACM TISSEC Vol. 3 No. 3) — 오탐률이 경보의 신뢰도를 좌우하는 이유를 계산으로 볼 때
- ★ RFC 4766 Intrusion Detection Message Exchange Requirements — 데이터 원천 · 센서 · 분석기 · 관리자 · 운영자 용어와 관계 그림을 볼 때
- ★ RFC 4765 The Intrusion Detection Message Exchange Format (IDMEF) — 경보 한 건에 들어가는 필드(분석기 · 시각 · 출발지 · 대상 · 분류 · 평가)를 볼 때
- 본문 근거
- Computer Security Threat Monitoring and Surveillance (James P. Anderson) — James P. Anderson Co. · 1980-04 ·
csrc.nist.gov/csrc/media/publications/conference-paper/1998/10/08/proceedings-of-the-21st-nissc-1998/documents/early-cs-papers/ande80.pdf· 확인 2026-11-04 - RFC 5424 The Syslog Protocol — IETF · 2009-03 ·
www.rfc-editor.org/rfc/rfc5424· 확인 2026-11-04 - RFC 5425 Transport Layer Security (TLS) Transport Mapping for Syslog — IETF · 2009-03 ·
www.rfc-editor.org/rfc/rfc5425· 확인 2026-11-04 - RFC 5737 IPv4 Address Blocks Reserved for Documentation — IETF · 2010-01 ·
www.rfc-editor.org/rfc/rfc5737· 확인 2026-11-04 - Suricata User Guide - Thresholding Keywords (detection_filter) — OISF · 2026-11 ·
docs.suricata.io/en/latest/rules/thresholding.html· 확인 2026-11-04 - Suricata User Guide - Eve JSON Format — OISF · 2026-11 ·
docs.suricata.io/en/latest/output/eve/eve-json-format.html· 확인 2026-11-04 - Suricata User Guide - Statistics — OISF · 2026-11 ·
docs.suricata.io/en/latest/performance/statistics.html· 확인 2026-11-04 - Suricata User Guide - Command Line Options — OISF · 2026-11 ·
docs.suricata.io/en/latest/command-line-options.html· 확인 2026-11-04 - tcpdump(1) Linux manual page — man7.org · 2026-11 ·
man7.org/linux/man-pages/man1/tcpdump.1.html· 확인 2026-11-04 - jq 1.8 Manual — jqlang · 2026-11 ·
jqlang.org/manual/· 확인 2026-11-04