IT › 보안 › 해킹 · 위협 › 사이버 공격 기법

DDoS분산 서비스 거부 공격 · Distributed Denial of Service

여러 곳에서 동시에 보낸 트래픽 · 요청으로 회선 대역폭 · 연결 상태 · 응용 자원 가운데 하나를 채워 정상 사용자가 서비스를 쓰지 못하게 하는 가용성 공격이다. 출발지가 한 곳이면 DoS 라 부른다.

1요약

  1. DDoS 는 ATT&CK 의 Impact 전술(T1498 망 · T1499 단말)에 놓이는 가용성 공격으로, CISA · FBI · MS-ISAC 지침(2024-03)이 볼륨 · 프로토콜 · 응용 계층 세 유형으로 나누며, 그 위에서 SYN cookies · 스크러빙 · RTBH · FlowSpec · DOTS 같은 완화가 돈다.
  2. 출발지가 수천 곳이면 주소 하나를 막는 방화벽 규칙이 듣지 않는다 — 2016년 CISA 경보 TA16-288A 는 기본 비밀번호를 그대로 둔 카메라 · 녹화기 · 공유기로 이루어진 Mirai 봇넷이 620 Gbps 를 넘는 공격을 냈다고 적었다.
  3. 서비스가 느려지면 어느 자원이 먼저 찼는가로 가른다 — 회선 사용률이 차면 볼륨, 회선은 남는데 반쯤 열린 연결이 쌓이면 프로토콜, 둘 다 정상인데 특정 URL 만 늦으면 응용 계층이다.

2등장 배경

TCP 서버는 SYN 을 받으면 연결이 끝나기 전부터 대기 큐에 자리를 잡는다. 1996년 이 약점을 노린 SYN 홍수가 공개되자 CERT/CC 가 같은 해 9월 권고 CA-1996-21 을 냈고, Bernstein 이 상태를 저장하지 않고 응답 번호에 담는 SYN cookies 를 내놓았다(RFC 4987 2.1절 · 부록 A). IAB 는 2006년 RFC 4732 에서 검증 안 된 상대에게 상태를 주지 말고 나쁜 트래픽은 일찍 거르라고 정리했다.

2016년 사물인터넷 장비 봇넷이 수백 Gbps 를 내면서 피해 쪽 장비만으로는 막을 수 없게 됐다(CISA TA16-288A). 그래서 망 사업자와 함께 거르는 길이 표준이 됐다 — 목적지를 버리는 RTBH(RFC 5635 · 2009) · 거를 규칙을 BGP 로 나르는 FlowSpec(RFC 8955 · 2020) · 공격 중에도 도움을 청하는 DOTS 신호 채널(RFC 9132 · 2021 · RFC 8782 대체)이다.

3쉽게 이해하기 — 명절 기차역 매표소

명절 아침 기차역 매표소에 세 무리가 한꺼번에 몰린다. 빈 버스 행렬이 역 앞 도로를 막고, 번호표만 뽑고 사라지는 사람들이 창구 장부를 채우며, 남은 사람은 창구에서 가장 오래 걸리는 질문만 되풀이한다. 창구는 장부 대신 도장 찍은 영수증을 주고, 관제실은 무전으로 도로 관리소에 검문소를 열어 달라고 하며, 감당이 안 되는 출입구 하나는 아예 닫는다.

몰려오는 무리 빈 버스 행렬 볼륨 공격 번호표만 뽑고 떠남 프로토콜 공격 가장 긴 질문만 응용 계층 공격 역 앞 도로 차선 수만큼만 회선 대역폭 도로 검문소 스크러빙 · CDN 매표 창구 창구 직원 서버 · 응용 도장 영수증 SYN cookies 1 2 역 관제실 몰릴 때 자리마다 다르게 막는다 3 무전으로 도움 요청 관리소가 검문소를 연다 DOTS 신호 4 출입구 하나 닫기 그 문의 손님도 못 들어옴 RTBH 5 평소 인파 기록 얼마나 늘었는지 비교 기준선 · 징후

그림 1 · 세 무리는 도로 · 창구 장부 · 창구 직원을 각각 채우고, 역은 도장 영수증 · 무전 요청 · 출입구 닫기로 자리마다 다르게 막는다.

평소 기록명절 전 하루 인파를 적어 둠
몰려옴세 무리가 한꺼번에 옴
도장 영수증창구는 장부 대신 도장
무전관리소에 검문소 요청
검문소빈 버스는 돌려보냄
출입구 닫기감당 못 할 문 하나 폐쇄
비유 — 장부 대신 도장 번호표 장부 온 사람마다 한 줄 적음 가득 차면 새 손님 거절 도장 영수증 적지 않고 영수증에 도장 돌아온 사람만 도장 확인 도장 모양은 시간이 지나면 바뀐다 실제 — 순서 번호에 담은 상태 대기 큐가 차는 순간부터 쿠키로 응답 SYN-ACK 초기 순서 번호(32비트) 비밀 함수(주소 · 포트 · 시간) 앞 5비트 = 시간 카운터(64초마다 증가) 다음 3비트 = MSS 8가지 중 하나 · 나머지 24비트 돌아온 ACK 번호 − 1 을 다시 계산 맞으면 그때 연결을 만든다 비트 배분 = RFC 4987 부록 A 의 예(구현마다 다름) 창 크기 배율 같은 일부 옵션은 담지 못한다

그림 2 · 장부에 적으면 장부가 차서 막히지만, 도장 영수증은 아무것도 적지 않고 돌아온 사람만 확인한다 — 실제로는 SYN-ACK 의 순서 번호 32비트에 상태를 담는다.

비유 속 역할실제 이름실제로 하는 일
빈 버스 행렬볼륨 공격회선 대역폭을 채워 정상 패킷이 들어올 자리를 없앤다
번호표만 뽑고 떠남프로토콜 공격SYN 만 보내 반쯤 열린 연결로 상태 표를 채운다
가장 긴 질문만응용 계층 공격처리 비용이 큰 URL 요청으로 CPU · DB 를 채운다
도장 영수증SYN cookies상태를 저장하지 않고 응답 번호에 담아 큐 고갈을 피한다
도로 검문소스크러빙 · CDN대상 앞에서 공격 트래픽을 걸러 정상분만 넘긴다
무전 요청DOTS 신호 채널회선이 막혀도 망 사업자에 완화를 요청한다
출입구 닫기RTBH대상 주소로 가는 트래픽을 망 경계에서 모두 버린다
평소 인파 기록기준선 · 징후평소 트래픽과 견줘 공격 시작을 알아챈다

⚠ 비유가 맞지 않는 곳: 역에서는 빈 버스와 손님이 눈으로 구분되지만, 실제 공격 요청은 정상 요청과 같은 형식이라 갑자기 몰린 진짜 사용자와 가르기 어렵다(RFC 4732). 또 출입구를 닫으면 그 문으로 오던 정상 손님도 함께 막힌다.

4구조 — 세 유형과 고갈되는 자원

DoS 는 출발지가 한 곳이고, DDoS 는 봇넷처럼 출발지가 여럿이라 주소로 막기 어렵다(CISA · FBI · MS-ISAC 2024). 출발지를 위조해 제3의 서버 응답을 대상으로 돌리는 반사 공격은 볼륨 유형의 한 방식이다.

공격 유형 채우는 자원 거르는 곳 · 방법 볼륨 공격 반사 공격 포함 회선 대역폭 bit/s · 망 경계 ISP · 스크러빙 RTBH · FlowSpec 프로토콜 공격 SYN 홍수 등 연결 상태 표 커널 · 방화벽 · 3 · 4계층 SYN cookies 상태 없는 필터 응용 계층 공격 HTTP 홍수 등 CPU · DB · 스레드 요청 처리 · 7계층 CDN · 속도 제한 CAPTCHA 공통 — 기준선 감시 · 대응 계획 · DOTS 신호 채널 공격 고갈되는 자원 완화 정책 감시 · 준비

그림 3 · 세 유형은 채우는 자원이 달라, 거르는 곳도 회선 앞 · 연결 상태 표 · 응용 앞으로 나뉜다.

요소위치역할값 · 근거
볼륨 공격회선대역폭 소진반사 공격 포함(CISA · FBI · MS-ISAC 2024 유형 1)
프로토콜 공격3 · 4계층상태 표 소진SYN 홍수 · T1499.001(ATT&CK T1499)
응용 계층 공격7계층처리 자원 소진T1499.002 · .003(ATT&CK T1499)
SYN cookies서버 커널상태 없이 응답리눅스 tcp_syncookies 기본 1(커널 ip-sysctl)
스크러빙 · CDN대상 앞걸러 정상분 전달M1037(ATT&CK T1499)
RTBH망 경계대상 주소 폐기BLACKHOLE 65535:666 · /32(RFC 7999 3.3 · 5절)
FlowSpecBGP거를 규칙 전파RFC 8955(RFC 5575 대체)
DOTS고객 ↔ ISP완화 요청 · 상태신호 채널 UDP(RFC 8811 3.2.4.1절)

🔑 DDoS 는 «나쁜 패킷»이 아니라 «많은 정상 꼴 패킷»이라, 무엇을 막을지보다 어느 자원이 먼저 차는지가 대응을 정한다.

5동작 — 민원 포털의 세 단계 공격 대응

민원 포털 portal.example(RFC 2606 예약 이름 · 회선 10 Gbit/s)이 한 시간 동안 세 유형을 차례로 받는 사례다. 시각 · 수치는 설명용 가정 값이다.

  1. 09:10 웹 서버의 SYN 수신이 평소 초당 2,000개에서 18만 개로 늘고, 커널이 대기 큐가 넘치는 순간부터 SYN cookies 로 응답한다(tcp_syncookies=1 · 커널 ip-sysctl).
  2. 운영 담당이 nstat -az TcpExtSyncookiesSent 증가와 기존 연결 유지를 확인한다 — 쿠키가 막는 중이라 서버 설정은 바꾸지 않는다(커널 snmp_counter).
  3. 09:25 회선 · 연결은 정상인데 /search 요청이 기준선의 40배로 늘어 응답이 6초를 넘는다(CISA 징후 3).
  4. 그 경로에만 출발지별 속도 제한과 CAPTCHA 를 걸고, 정적 페이지는 CDN 캐시로 돌린다(CISA 사전 준비 4 · 9).
  5. 09:40 경계 라우터 유입이 9.6 Gbit/s 로 회선의 96% 에 이른다 — 우리 장비 앞에서 이미 정상 패킷이 밀린다.
  6. 경계 라우터의 DOTS 클라이언트가 ISP 의 DOTS 서버에 완화를 요청한다(RFC 9132).
  7. ISP 가 포털 주소의 트래픽을 스크러빙 센터로 돌려 걸러, 정상분 약 1.2 Gbit/s 만 되돌려 보낸다.
  8. 10:10 공격이 쓰지 않는 보조 주소 하나로 옮겨 가자, 그 /32 에 BLACKHOLE 커뮤니티를 붙여 RTBH 로 버린다(RFC 7999 · RFC 5635 3절).
운영 담당 웹 서버 경계 라우터 ISP · 스크러빙 1 SYN 18만/s · 쿠키로 응답 2 nstat 쿠키 전송 증가 3 /search 요청 40배 4 속도 제한 · CAPTCHA 5 유입 9.6 Gbit/s(96%) 6 DOTS 완화 요청 7 걸러진 정상분 1.2 Gbit/s 8 보조 주소 /32 RTBH 막는 자리 = 서버 커널 → 응용 앞 → ISP 우리가 건 완화 들어오는 트래픽 걸러진 트래픽 점검

그림 4 · 공격이 유형을 바꿀 때마다 막는 자리가 서버 커널 → 응용 앞 → ISP 로 옮겨 가고, 회선이 차는 순간부터는 우리 쪽 장비가 아니라 DOTS 요청이 대응을 잇는다.

우리 회선 안(방화벽 · 서버) 회선 앞(ISP · 스크러빙) 회선 10 평소 1.2 공격 중 공격 9.6 합 10.8 정상 0.8 밀려남 스크러빙 뒤 1.4(남은 공격 0.2) 0 5 15 Gbit/s(설명용 가정 값) 정상 트래픽 공격 트래픽 점선 = 회선 용량

그림 5 · 공격 9.6 Gbit/s 와 정상 1.2 Gbit/s 를 더하면 회선 10 Gbit/s 를 넘어, 회선 안쪽 장비가 아무리 잘 걸러도 정상분 0.8 Gbit/s 는 이미 회선 앞에서 밀려난다.

🔑 회선을 채우는 공격은 회선 안쪽에서 거를 수 없다 — 버리는 일은 넘치는 지점보다 앞에서 일어나야 하므로, 볼륨 공격의 대응은 장비 설정이 아니라 ISP 와의 사전 약속이다.

6비교 — 완화 수단

기준SYN cookies스크러빙 · CDNFlowSpecRTBH(목적지 기반)
막는 유형프로토콜(SYN 홍수)세 유형 모두볼륨 · 프로토콜볼륨
거르는 곳서버 커널대상 앞 센터 · 가장자리ISP 라우터ISP 망 경계
정상 트래픽유지(일부 TCP 옵션 손실)유지규칙에 안 걸리면 유지그 주소 전부 폐기
근거RFC 4987 3.6절M1037(ATT&CK T1499)RFC 8955RFC 5635 1절

분석회선 안에서 끝나는 공격은 SYN cookies · 속도 제한으로, 회선을 넘는 공격은 스크러빙 · FlowSpec 으로 막고, RTBH 는 대상 하나를 버려 나머지 고객 · 서비스를 살릴 때만 쓴다. 근거는 표의 「정상 트래픽」 행 — 목적지 기반 RTBH 는 대상을 완전히 끊는 대가를 치른다(RFC 5635 1절).

7실무 진단 — 먼저 찬 자원으로 유형 가르기

분석회선 → 연결 상태 표 → 응용 순으로 본다. 바깥 자원이 차 있으면 안쪽 지표는 의미가 없고, 대응 주체도 바깥일수록 ISP 쪽으로 넘어가기 때문이다(RFC 8811 1.3절).

#증상의심 원인구분확인 명령 · 자료판정 기준(근거)
1회선 사용률 90% 넘음 · 서버 CPU 는 한가볼륨 · 반사 공격볼륨경계 라우터 인터페이스 통계 · 넷플로 출발지 분포유입이 회선 용량에 닿으면 DOTS 요청 · 스크러빙 우회(RFC 8811 2.1절)
2SYN-RECV 소켓 급증 · 새 접속 실패SYN 홍수프로토콜ss -tan state syn-recv | wc -l · nstat -az TcpExtSyncookiesSent쿠키 전송이 늘고 기존 연결이 유지되면 쿠키가 막는 중(RFC 4987 3.6절)
3방화벽 세션 표가 최대치 · 서버는 한가상태 장비 고갈프로토콜방화벽 세션 수 · 최대 세션 설정상태 표가 먼저 차면 그 앞에서 상태 없이 거른다(CISA 징후 6)
4회선 · 연결 정상인데 특정 URL 만 5xx · 지연HTTP 홍수응용웹 접근 로그의 경로별 · 출발지별 요청 수한 경로 요청이 기준선보다 크게 늘면 응용 계층(CISA 징후 3)

기준선이 없으면 «얼마나 늘었는가»를 말할 수 없으므로, 평소 트래픽 기록과 ISP 연락 경로 · DOTS 설정은 공격 전에 갖춘다(CISA 사전 준비 3 · 5 · 6).

8시험 대비

출제 정보 정보관리(128회, 116회, 93회, 89회) · 컴퓨터시스템응용(125회, 114회, 111회, 84회)문제 원문 — 큐넷 자료실 「기출문제(기술사)」 www.q-net.or.kr

DDoS 는 DoS 와의 차이 · 세 유형을 묻는 정의 · 특징형, 공격 중 탐지 · 완화 절차를 묻는 장애 · 보안 대응형으로 나올 수 있다. 정의형은 그림 3 으로 유형과 자원을 한 장에 짝짓고, 대응형은 그림 5 의 «회선을 넘으면 앞에서 거른다» 판단을 그림 4 순서로 펼친다.

답안 목차
  1. 개요 — 정의 · DoS 와 차이(출발지 수) · 가용성 공격 · TA16-288A 620 Gbps 사례
  2. 유형 — 그림 3(볼륨 · 프로토콜 · 응용 계층 · 채우는 자원 · 거르는 곳) + 반사 공격 위치
  3. 탐지 — 기준선 · 징후 표(회선 사용률 · SYN-RECV · 경로별 요청 수)
  4. 완화 — 비교표(SYN cookies · 스크러빙 · FlowSpec · RTBH) + 그림 5 회선 용량 도표
  5. 대응 절차 — 그림 4 순서도(쿠키 → 속도 제한 → DOTS → RTBH) · 사후 기준선 갱신
  6. 사전 준비 — ISP 계약 · DOTS · 대역폭 계획 · 대응 계획 · IoT 기본 비밀번호 변경

꼭 쓸 키워드
볼륨 공격프로토콜 공격응용 계층 공격반사 공격SYN cookies스크러빙RTBHFlowSpecDOTS기준선

9오해와 사실

  • 오해방화벽 · IPS 를 크게 두면 DDoS 를 막을 수 있다.
    사실회선을 채우는 양은 그 장비에 닿기 전에 정상분까지 밀어내고, 상태를 기억하는 장비는 세션 표가 먼저 찰 수 있다(RFC 4987 3.8절 · CISA 징후 6).
  • 오해SYN cookies 를 켜면 성능 손해 없이 늘 안전하다.
    사실쿠키로 만든 연결은 창 크기 배율 같은 옵션을 담지 못하고, 리눅스도 기본값 1 은 큐가 넘칠 때만 쿠키를 쓴다(RFC 4987 3.6절 · 커널 ip-sysctl).
  • 오해공격 주소 목록만 막으면 끝난다.
    사실봇넷은 출발지가 수천 곳이고 위조도 쓰므로 주소 차단보다 흐름 특징 · 경로별 속도 제한이 먼저다(CISA · FBI · MS-ISAC 2024 · ATT&CK T1499 M1037).

10핵심 정리

구분채우는 자원계층먼저 볼 지표대표 완화근거
볼륨 공격회선 대역폭망 경계인터페이스 사용률 · 넷플로스크러빙 · FlowSpec · RTBHCISA · FBI · MS-ISAC 2024
프로토콜 공격연결 상태 표3 · 4계층SYN-RECV 수 · 세션 표SYN cookies · 상태 없는 필터RFC 4987
응용 계층 공격CPU · DB7계층경로별 요청 수 · 응답 시간CDN · 속도 제한 · CAPTCHAATT&CK T1499
SYN cookies큐 대신 순서 번호4계층TcpExtSyncookiesSenttcp_syncookies=1커널 ip-sysctl
RTBH대상 주소 폐기BGP경계 폐기량BLACKHOLE 65535:666RFC 7999 · RFC 5635
FlowSpec규칙 전파BGP규칙 일치량출발 · 목적 · 프로토콜 조건RFC 8955
DOTS완화 요청고객 ↔ ISP신호 채널 상태공격 중 UDP 신호RFC 9132 · RFC 8811
사전 준비조직 · 계약운영기준선 · 연락 경로대응 계획 · 대역폭 계획CISA · FBI · MS-ISAC 2024

11참고 문헌

  1. 먼저 볼 문헌
  2. ★ Understanding and Responding to Distributed Denial-of-Service Attacks (Version 2.0) — 세 유형 분류 · 사전 준비 15항목 · 공격 징후 10항목을 볼 때
    CISA · FBI · MS-ISAC · 2024-03 · www.cisa.gov/sites/default/files/2024-03/understanding-and-responding-to-distributed-denial-of-service-attacks_508c.pdf · 확인 2026-11-14
  3. ★ RFC 4987 TCP SYN Flooding Attacks and Common Mitigations — SYN 홍수 완화책 여덟 가지와 SYN cookies 의 비트 배분을 볼 때
    IETF · 2007-08 · www.rfc-editor.org/rfc/rfc4987 · 확인 2026-11-14
  4. ★ RFC 8811 DDoS Open Threat Signaling (DOTS) Architecture — 공격 중에도 완화 요청을 보내는 신호 채널 구조를 볼 때
    IETF · 2020-08 · www.rfc-editor.org/rfc/rfc8811 · 확인 2026-11-14
  5. ★ RFC 5635 Remote Triggered Black Hole Filtering with Unicast Reverse Path Forwarding (uRPF) — 목적지 · 출발지 기반 RTBH 의 차이와 대가를 볼 때
    IETF · 2009-08 · www.rfc-editor.org/rfc/rfc5635 · 확인 2026-11-14
  6. ★ ATT&CK T1499 Endpoint Denial of Service — 단말 자원 고갈의 하위 기법과 완화 M1037 을 볼 때
    The MITRE Corporation · 2025-10 · attack.mitre.org/techniques/T1499/ · 확인 2026-11-14
  7. 본문 근거
  8. RFC 9132 Distributed Denial-of-Service Open Threat Signaling (DOTS) Signal Channel Specification — IETF · 2021-09 · www.rfc-editor.org/rfc/rfc9132 · 확인 2026-11-14
  9. RFC 8955 Dissemination of Flow Specification Rules — IETF · 2020-12 · www.rfc-editor.org/rfc/rfc8955 · 확인 2026-11-14
  10. RFC 7999 BLACKHOLE Community — IETF · 2016-10 · www.rfc-editor.org/rfc/rfc7999 · 확인 2026-11-14
  11. RFC 4732 Internet Denial-of-Service Considerations — IAB · IETF · 2006-12 · www.rfc-editor.org/rfc/rfc4732 · 확인 2026-11-14
  12. CISA Alert TA16-288A Heightened DDoS Threat Posed by Mirai and Other Botnets — CISA · 2016-10 · www.cisa.gov/news-events/alerts/2016/10/14/heightened-ddos-threat-posed-mirai-and-other-botnets · 확인 2026-11-14
  13. ATT&CK T1498 Network Denial of Service — The MITRE Corporation · 2025-10 · attack.mitre.org/techniques/T1498/ · 확인 2026-11-14
  14. Linux kernel documentation — IP Sysctl (tcp_syncookies · tcp_synack_retries) — The kernel development community · 2026-11 · docs.kernel.org/networking/ip-sysctl.html · 확인 2026-11-14
  15. Linux kernel documentation — SNMP counter (TcpExtSyncookiesSent · nstat) — The kernel development community · 2026-11 · docs.kernel.org/networking/snmp_counter.html · 확인 2026-11-14
  16. RFC 2606 Reserved Top Level DNS Names — IETF · 1999-06 · www.rfc-editor.org/rfc/rfc2606 · 확인 2026-11-14