DDoS분산 서비스 거부 공격 · Distributed Denial of Service
여러 곳에서 동시에 보낸 트래픽 · 요청으로 회선 대역폭 · 연결 상태 · 응용 자원 가운데 하나를 채워 정상 사용자가 서비스를 쓰지 못하게 하는 가용성 공격이다. 출발지가 한 곳이면 DoS 라 부른다.
1요약
- DDoS 는 ATT&CK 의 Impact 전술(T1498 망 · T1499 단말)에 놓이는 가용성 공격으로, CISA · FBI · MS-ISAC 지침(2024-03)이 볼륨 · 프로토콜 · 응용 계층 세 유형으로 나누며, 그 위에서 SYN cookies · 스크러빙 · RTBH · FlowSpec · DOTS 같은 완화가 돈다.
- 출발지가 수천 곳이면 주소 하나를 막는 방화벽 규칙이 듣지 않는다 — 2016년 CISA 경보 TA16-288A 는 기본 비밀번호를 그대로 둔 카메라 · 녹화기 · 공유기로 이루어진 Mirai 봇넷이 620 Gbps 를 넘는 공격을 냈다고 적었다.
- 서비스가 느려지면 어느 자원이 먼저 찼는가로 가른다 — 회선 사용률이 차면 볼륨, 회선은 남는데 반쯤 열린 연결이 쌓이면 프로토콜, 둘 다 정상인데 특정 URL 만 늦으면 응용 계층이다.
2등장 배경
TCP 서버는 SYN 을 받으면 연결이 끝나기 전부터 대기 큐에 자리를 잡는다. 1996년 이 약점을 노린 SYN 홍수가 공개되자 CERT/CC 가 같은 해 9월 권고 CA-1996-21 을 냈고, Bernstein 이 상태를 저장하지 않고 응답 번호에 담는 SYN cookies 를 내놓았다(RFC 4987 2.1절 · 부록 A). IAB 는 2006년 RFC 4732 에서 검증 안 된 상대에게 상태를 주지 말고 나쁜 트래픽은 일찍 거르라고 정리했다.
2016년 사물인터넷 장비 봇넷이 수백 Gbps 를 내면서 피해 쪽 장비만으로는 막을 수 없게 됐다(CISA TA16-288A). 그래서 망 사업자와 함께 거르는 길이 표준이 됐다 — 목적지를 버리는 RTBH(RFC 5635 · 2009) · 거를 규칙을 BGP 로 나르는 FlowSpec(RFC 8955 · 2020) · 공격 중에도 도움을 청하는 DOTS 신호 채널(RFC 9132 · 2021 · RFC 8782 대체)이다.
3쉽게 이해하기 — 명절 기차역 매표소
명절 아침 기차역 매표소에 세 무리가 한꺼번에 몰린다. 빈 버스 행렬이 역 앞 도로를 막고, 번호표만 뽑고 사라지는 사람들이 창구 장부를 채우며, 남은 사람은 창구에서 가장 오래 걸리는 질문만 되풀이한다. 창구는 장부 대신 도장 찍은 영수증을 주고, 관제실은 무전으로 도로 관리소에 검문소를 열어 달라고 하며, 감당이 안 되는 출입구 하나는 아예 닫는다.
그림 1 · 세 무리는 도로 · 창구 장부 · 창구 직원을 각각 채우고, 역은 도장 영수증 · 무전 요청 · 출입구 닫기로 자리마다 다르게 막는다.
그림 2 · 장부에 적으면 장부가 차서 막히지만, 도장 영수증은 아무것도 적지 않고 돌아온 사람만 확인한다 — 실제로는 SYN-ACK 의 순서 번호 32비트에 상태를 담는다.
| 비유 속 역할 | 실제 이름 | 실제로 하는 일 |
|---|---|---|
| 빈 버스 행렬 | 볼륨 공격 | 회선 대역폭을 채워 정상 패킷이 들어올 자리를 없앤다 |
| 번호표만 뽑고 떠남 | 프로토콜 공격 | SYN 만 보내 반쯤 열린 연결로 상태 표를 채운다 |
| 가장 긴 질문만 | 응용 계층 공격 | 처리 비용이 큰 URL 요청으로 CPU · DB 를 채운다 |
| 도장 영수증 | SYN cookies | 상태를 저장하지 않고 응답 번호에 담아 큐 고갈을 피한다 |
| 도로 검문소 | 스크러빙 · CDN | 대상 앞에서 공격 트래픽을 걸러 정상분만 넘긴다 |
| 무전 요청 | DOTS 신호 채널 | 회선이 막혀도 망 사업자에 완화를 요청한다 |
| 출입구 닫기 | RTBH | 대상 주소로 가는 트래픽을 망 경계에서 모두 버린다 |
| 평소 인파 기록 | 기준선 · 징후 | 평소 트래픽과 견줘 공격 시작을 알아챈다 |
⚠ 비유가 맞지 않는 곳: 역에서는 빈 버스와 손님이 눈으로 구분되지만, 실제 공격 요청은 정상 요청과 같은 형식이라 갑자기 몰린 진짜 사용자와 가르기 어렵다(RFC 4732). 또 출입구를 닫으면 그 문으로 오던 정상 손님도 함께 막힌다.
4구조 — 세 유형과 고갈되는 자원
DoS 는 출발지가 한 곳이고, DDoS 는 봇넷처럼 출발지가 여럿이라 주소로 막기 어렵다(CISA · FBI · MS-ISAC 2024). 출발지를 위조해 제3의 서버 응답을 대상으로 돌리는 반사 공격은 볼륨 유형의 한 방식이다.
그림 3 · 세 유형은 채우는 자원이 달라, 거르는 곳도 회선 앞 · 연결 상태 표 · 응용 앞으로 나뉜다.
| 요소 | 위치 | 역할 | 값 · 근거 |
|---|---|---|---|
| 볼륨 공격 | 회선 | 대역폭 소진 | 반사 공격 포함(CISA · FBI · MS-ISAC 2024 유형 1) |
| 프로토콜 공격 | 3 · 4계층 | 상태 표 소진 | SYN 홍수 · T1499.001(ATT&CK T1499) |
| 응용 계층 공격 | 7계층 | 처리 자원 소진 | T1499.002 · .003(ATT&CK T1499) |
| SYN cookies | 서버 커널 | 상태 없이 응답 | 리눅스 tcp_syncookies 기본 1(커널 ip-sysctl) |
| 스크러빙 · CDN | 대상 앞 | 걸러 정상분 전달 | M1037(ATT&CK T1499) |
| RTBH | 망 경계 | 대상 주소 폐기 | BLACKHOLE 65535:666 · /32(RFC 7999 3.3 · 5절) |
| FlowSpec | BGP | 거를 규칙 전파 | RFC 8955(RFC 5575 대체) |
| DOTS | 고객 ↔ ISP | 완화 요청 · 상태 | 신호 채널 UDP(RFC 8811 3.2.4.1절) |
🔑 DDoS 는 «나쁜 패킷»이 아니라 «많은 정상 꼴 패킷»이라, 무엇을 막을지보다 어느 자원이 먼저 차는지가 대응을 정한다.
5동작 — 민원 포털의 세 단계 공격 대응
민원 포털 portal.example(RFC 2606 예약 이름 · 회선 10 Gbit/s)이 한 시간 동안 세 유형을 차례로 받는 사례다. 시각 · 수치는 설명용 가정 값이다.
- 09:10 웹 서버의 SYN 수신이 평소 초당 2,000개에서 18만 개로 늘고, 커널이 대기 큐가 넘치는 순간부터 SYN cookies 로 응답한다(
tcp_syncookies=1· 커널 ip-sysctl). - 운영 담당이
nstat -az TcpExtSyncookiesSent증가와 기존 연결 유지를 확인한다 — 쿠키가 막는 중이라 서버 설정은 바꾸지 않는다(커널 snmp_counter). - 09:25 회선 · 연결은 정상인데
/search요청이 기준선의 40배로 늘어 응답이 6초를 넘는다(CISA 징후 3). - 그 경로에만 출발지별 속도 제한과 CAPTCHA 를 걸고, 정적 페이지는 CDN 캐시로 돌린다(CISA 사전 준비 4 · 9).
- 09:40 경계 라우터 유입이 9.6 Gbit/s 로 회선의 96% 에 이른다 — 우리 장비 앞에서 이미 정상 패킷이 밀린다.
- 경계 라우터의 DOTS 클라이언트가 ISP 의 DOTS 서버에 완화를 요청한다(RFC 9132).
- ISP 가 포털 주소의 트래픽을 스크러빙 센터로 돌려 걸러, 정상분 약 1.2 Gbit/s 만 되돌려 보낸다.
- 10:10 공격이 쓰지 않는 보조 주소 하나로 옮겨 가자, 그 /32 에 BLACKHOLE 커뮤니티를 붙여 RTBH 로 버린다(RFC 7999 · RFC 5635 3절).
그림 4 · 공격이 유형을 바꿀 때마다 막는 자리가 서버 커널 → 응용 앞 → ISP 로 옮겨 가고, 회선이 차는 순간부터는 우리 쪽 장비가 아니라 DOTS 요청이 대응을 잇는다.
그림 5 · 공격 9.6 Gbit/s 와 정상 1.2 Gbit/s 를 더하면 회선 10 Gbit/s 를 넘어, 회선 안쪽 장비가 아무리 잘 걸러도 정상분 0.8 Gbit/s 는 이미 회선 앞에서 밀려난다.
🔑 회선을 채우는 공격은 회선 안쪽에서 거를 수 없다 — 버리는 일은 넘치는 지점보다 앞에서 일어나야 하므로, 볼륨 공격의 대응은 장비 설정이 아니라 ISP 와의 사전 약속이다.
6비교 — 완화 수단
| 기준 | SYN cookies | 스크러빙 · CDN | FlowSpec | RTBH(목적지 기반) |
|---|---|---|---|---|
| 막는 유형 | 프로토콜(SYN 홍수) | 세 유형 모두 | 볼륨 · 프로토콜 | 볼륨 |
| 거르는 곳 | 서버 커널 | 대상 앞 센터 · 가장자리 | ISP 라우터 | ISP 망 경계 |
| 정상 트래픽 | 유지(일부 TCP 옵션 손실) | 유지 | 규칙에 안 걸리면 유지 | 그 주소 전부 폐기 |
| 근거 | RFC 4987 3.6절 | M1037(ATT&CK T1499) | RFC 8955 | RFC 5635 1절 |
분석회선 안에서 끝나는 공격은 SYN cookies · 속도 제한으로, 회선을 넘는 공격은 스크러빙 · FlowSpec 으로 막고, RTBH 는 대상 하나를 버려 나머지 고객 · 서비스를 살릴 때만 쓴다. 근거는 표의 「정상 트래픽」 행 — 목적지 기반 RTBH 는 대상을 완전히 끊는 대가를 치른다(RFC 5635 1절).
7실무 진단 — 먼저 찬 자원으로 유형 가르기
분석회선 → 연결 상태 표 → 응용 순으로 본다. 바깥 자원이 차 있으면 안쪽 지표는 의미가 없고, 대응 주체도 바깥일수록 ISP 쪽으로 넘어가기 때문이다(RFC 8811 1.3절).
| # | 증상 | 의심 원인 | 구분 | 확인 명령 · 자료 | 판정 기준(근거) |
|---|---|---|---|---|---|
| 1 | 회선 사용률 90% 넘음 · 서버 CPU 는 한가 | 볼륨 · 반사 공격 | 볼륨 | 경계 라우터 인터페이스 통계 · 넷플로 출발지 분포 | 유입이 회선 용량에 닿으면 DOTS 요청 · 스크러빙 우회(RFC 8811 2.1절) |
| 2 | SYN-RECV 소켓 급증 · 새 접속 실패 | SYN 홍수 | 프로토콜 | ss -tan state syn-recv | wc -l · nstat -az TcpExtSyncookiesSent | 쿠키 전송이 늘고 기존 연결이 유지되면 쿠키가 막는 중(RFC 4987 3.6절) |
| 3 | 방화벽 세션 표가 최대치 · 서버는 한가 | 상태 장비 고갈 | 프로토콜 | 방화벽 세션 수 · 최대 세션 설정 | 상태 표가 먼저 차면 그 앞에서 상태 없이 거른다(CISA 징후 6) |
| 4 | 회선 · 연결 정상인데 특정 URL 만 5xx · 지연 | HTTP 홍수 | 응용 | 웹 접근 로그의 경로별 · 출발지별 요청 수 | 한 경로 요청이 기준선보다 크게 늘면 응용 계층(CISA 징후 3) |
기준선이 없으면 «얼마나 늘었는가»를 말할 수 없으므로, 평소 트래픽 기록과 ISP 연락 경로 · DOTS 설정은 공격 전에 갖춘다(CISA 사전 준비 3 · 5 · 6).
8시험 대비
www.q-net.or.krDDoS 는 DoS 와의 차이 · 세 유형을 묻는 정의 · 특징형, 공격 중 탐지 · 완화 절차를 묻는 장애 · 보안 대응형으로 나올 수 있다. 정의형은 그림 3 으로 유형과 자원을 한 장에 짝짓고, 대응형은 그림 5 의 «회선을 넘으면 앞에서 거른다» 판단을 그림 4 순서로 펼친다.
- 개요 — 정의 · DoS 와 차이(출발지 수) · 가용성 공격 · TA16-288A 620 Gbps 사례
- 유형 — 그림 3(볼륨 · 프로토콜 · 응용 계층 · 채우는 자원 · 거르는 곳) + 반사 공격 위치
- 탐지 — 기준선 · 징후 표(회선 사용률 · SYN-RECV · 경로별 요청 수)
- 완화 — 비교표(SYN cookies · 스크러빙 · FlowSpec · RTBH) + 그림 5 회선 용량 도표
- 대응 절차 — 그림 4 순서도(쿠키 → 속도 제한 → DOTS → RTBH) · 사후 기준선 갱신
- 사전 준비 — ISP 계약 · DOTS · 대역폭 계획 · 대응 계획 · IoT 기본 비밀번호 변경
꼭 쓸 키워드
볼륨 공격프로토콜 공격응용 계층 공격반사 공격SYN cookies스크러빙RTBHFlowSpecDOTS기준선
9오해와 사실
- 오해방화벽 · IPS 를 크게 두면 DDoS 를 막을 수 있다.사실회선을 채우는 양은 그 장비에 닿기 전에 정상분까지 밀어내고, 상태를 기억하는 장비는 세션 표가 먼저 찰 수 있다(RFC 4987 3.8절 · CISA 징후 6).
- 오해SYN cookies 를 켜면 성능 손해 없이 늘 안전하다.사실쿠키로 만든 연결은 창 크기 배율 같은 옵션을 담지 못하고, 리눅스도 기본값 1 은 큐가 넘칠 때만 쿠키를 쓴다(RFC 4987 3.6절 · 커널 ip-sysctl).
- 오해공격 주소 목록만 막으면 끝난다.사실봇넷은 출발지가 수천 곳이고 위조도 쓰므로 주소 차단보다 흐름 특징 · 경로별 속도 제한이 먼저다(CISA · FBI · MS-ISAC 2024 · ATT&CK T1499 M1037).
10핵심 정리
| 구분 | 채우는 자원 | 계층 | 먼저 볼 지표 | 대표 완화 | 근거 |
|---|---|---|---|---|---|
| 볼륨 공격 | 회선 대역폭 | 망 경계 | 인터페이스 사용률 · 넷플로 | 스크러빙 · FlowSpec · RTBH | CISA · FBI · MS-ISAC 2024 |
| 프로토콜 공격 | 연결 상태 표 | 3 · 4계층 | SYN-RECV 수 · 세션 표 | SYN cookies · 상태 없는 필터 | RFC 4987 |
| 응용 계층 공격 | CPU · DB | 7계층 | 경로별 요청 수 · 응답 시간 | CDN · 속도 제한 · CAPTCHA | ATT&CK T1499 |
| SYN cookies | 큐 대신 순서 번호 | 4계층 | TcpExtSyncookiesSent | tcp_syncookies=1 | 커널 ip-sysctl |
| RTBH | 대상 주소 폐기 | BGP | 경계 폐기량 | BLACKHOLE 65535:666 | RFC 7999 · RFC 5635 |
| FlowSpec | 규칙 전파 | BGP | 규칙 일치량 | 출발 · 목적 · 프로토콜 조건 | RFC 8955 |
| DOTS | 완화 요청 | 고객 ↔ ISP | 신호 채널 상태 | 공격 중 UDP 신호 | RFC 9132 · RFC 8811 |
| 사전 준비 | 조직 · 계약 | 운영 | 기준선 · 연락 경로 | 대응 계획 · 대역폭 계획 | CISA · FBI · MS-ISAC 2024 |
11참고 문헌
- 먼저 볼 문헌
- ★ Understanding and Responding to Distributed Denial-of-Service Attacks (Version 2.0) — 세 유형 분류 · 사전 준비 15항목 · 공격 징후 10항목을 볼 때
- ★ RFC 4987 TCP SYN Flooding Attacks and Common Mitigations — SYN 홍수 완화책 여덟 가지와 SYN cookies 의 비트 배분을 볼 때
- ★ RFC 8811 DDoS Open Threat Signaling (DOTS) Architecture — 공격 중에도 완화 요청을 보내는 신호 채널 구조를 볼 때
- ★ RFC 5635 Remote Triggered Black Hole Filtering with Unicast Reverse Path Forwarding (uRPF) — 목적지 · 출발지 기반 RTBH 의 차이와 대가를 볼 때
- ★ ATT&CK T1499 Endpoint Denial of Service — 단말 자원 고갈의 하위 기법과 완화 M1037 을 볼 때
- 본문 근거
- RFC 9132 Distributed Denial-of-Service Open Threat Signaling (DOTS) Signal Channel Specification — IETF · 2021-09 ·
www.rfc-editor.org/rfc/rfc9132· 확인 2026-11-14 - RFC 8955 Dissemination of Flow Specification Rules — IETF · 2020-12 ·
www.rfc-editor.org/rfc/rfc8955· 확인 2026-11-14 - RFC 7999 BLACKHOLE Community — IETF · 2016-10 ·
www.rfc-editor.org/rfc/rfc7999· 확인 2026-11-14 - RFC 4732 Internet Denial-of-Service Considerations — IAB · IETF · 2006-12 ·
www.rfc-editor.org/rfc/rfc4732· 확인 2026-11-14 - CISA Alert TA16-288A Heightened DDoS Threat Posed by Mirai and Other Botnets — CISA · 2016-10 ·
www.cisa.gov/news-events/alerts/2016/10/14/heightened-ddos-threat-posed-mirai-and-other-botnets· 확인 2026-11-14 - ATT&CK T1498 Network Denial of Service — The MITRE Corporation · 2025-10 ·
attack.mitre.org/techniques/T1498/· 확인 2026-11-14 - Linux kernel documentation — IP Sysctl (tcp_syncookies · tcp_synack_retries) — The kernel development community · 2026-11 ·
docs.kernel.org/networking/ip-sysctl.html· 확인 2026-11-14 - Linux kernel documentation — SNMP counter (TcpExtSyncookiesSent · nstat) — The kernel development community · 2026-11 ·
docs.kernel.org/networking/snmp_counter.html· 확인 2026-11-14 - RFC 2606 Reserved Top Level DNS Names — IETF · 1999-06 ·
www.rfc-editor.org/rfc/rfc2606· 확인 2026-11-14