IT › 네트워크 › 프로토콜 › L4 전송

4-way 핸드셰이크TCP Connection Termination (4-way Handshake)

TCP 연결의 두 방향을 FIN 과 ACK 한 쌍씩으로 따로 닫는 정상 종료 절차다. 먼저 닫은 쪽은 마지막 ACK 뒤 TIME-WAIT 로 연결 정보를 잠시 남긴다.

1요약

  1. 4-way 핸드셰이크는 RFC 9293 3.6절(초판 RFC 793 · 1981)이 정한 TCP 의 종료 절차로, 응용이 부르는 close() · shutdown(SHUT_WR) 이 이 절차의 첫 FIN 이 된다.
  2. 한쪽이 연결 정보를 곧바로 지우면 상대가 아직 보내던 데이터와 사라진 마지막 ACK 를 처리할 길이 없으므로, 먼저 닫은 쪽은 2 × MSL(표준 4분 · 리눅스 60초) 동안 TIME-WAIT 로 연결 정보를 남긴다(RFC 1122 4.2.2.13).
  3. 종료 상태가 쌓이면 어느 상태가 늘었는가로 가른다 — CLOSE-WAIT 은 FIN 을 받고도 close() 를 빠뜨린 응용, TIME-WAIT 은 짧은 연결을 자주 여닫는 설계, FIN-WAIT-2 는 멈춘 상대 응용이다.

2등장 배경

파일을 다 올린 클라이언트가 연결을 통째로 끊으면, 서버가 아직 보내던 처리 결과는 받을 곳을 잃는다. 마지막 확인이 망에서 사라지면 상대는 끝을 알 수 없고, 같은 주소 · 포트의 새 연결에는 늦게 온 옛 세그먼트가 섞일 수 있다.

1981년 9월 RFC 793 은 CLOSE 를 「더 보낼 데이터가 없다」는 한 방향 동작으로 정하고, FIN 이 순서 번호 하나를 쓰게 하며, 먼저 닫은 쪽이 2 × MSL(MSL 2분) 동안 TIME-WAIT 에 머물게 했다. 1989년 RFC 1122 는 이 대기를 MUST 로 정하고(4.2.2.13), 데이터를 잃지 않는 양방향 종료가 ISO 전송 프로토콜 TP4 에는 없는 기능이라고 같은 절에 적었다.

1999년 Faber · Touch · Yui 는 바쁜 서버에 쌓이는 TIME-WAIT 부담을 분석했고, 2011년 RFC 6191 은 타임스탬프로 TIME-WAIT 연결을 다시 여는 규칙을 냈다. 2022년 RFC 9293 은 RFC 793 을 대체하면서도 종료 절차와 MSL 2분 가정을 그대로 두었다(3.4.2 · 3.6절).

3쉽게 이해하기 — 양쪽이 차례로 끝을 말하는 상담 전화

고객이 상담원과 통화하다 「제 질문은 끝났어요」라고 말한다. 상담원은 「네, 알겠습니다」라고 답한 뒤 남은 배송 안내를 마저 읽고, 「저도 안내 끝났습니다」라고 말한다. 고객은 「네, 끊겠습니다」라고 답하지만 수화기를 곧바로 내려놓지 않는다. 상담원이 마지막 「네」를 못 들었다면 끝 인사를 다시 할 것이기 때문이다.

고객 클라이언트 먼저 끝을 말함 끝을 말한 뒤로는 말하지 않고 듣기만 함 상담원 서버 나중에 끝을 말함 끝 인사 전까지 남은 말을 계속 함 1 「제 질문은 끝났어요」 FIN 2 「네, 알겠습니다」 ACK 3 「내일 배송됩니다」 데이터 4 「저도 안내 끝났습니다」 FIN 5 「네, 끊겠습니다」 ACK 6 수화기를 든 채 잠깐 기다림 마지막 「네」를 상담원이 못 들었다면 끝 인사가 다시 온다 TIME-WAIT 끝 알림 · 남은 말 「네」(받았다는 확인) 배지 = 실제 TCP 이름(세그먼트 · 상태)

그림 1 · 고객과 상담원이 끝을 한 번씩 따로 말하고 서로 「네」로 받기 때문에 말이 네 번 오가고, 먼저 끝낸 고객은 잠깐 더 수화기를 든다.

끝 알림고객이 질문이 끝났다고 말함
「네」상담원이 들었다고 답함
남은 안내상담원이 하던 말을 마침
끝 인사상담원도 끝났다고 말함
마지막 「네」고객이 들었다고 답함
잠깐 대기고객이 수화기를 든 채 기다림
비유 — 말이 오가는 두 줄 고객 → 상담원 질문 1 끝 듣기만 상담원 → 고객 답변 3 남은 안내 4 끝 끝 알림 뒤에도 아랫줄은 열림 시간 → 실제 — 두 바이트 흐름 클라이언트 → 서버 1 ~ 4000 1 FIN 4001 ACK 만 보냄 서버 → 클라이언트 ~ 9000 3 9001 ~ 10000 4 FIN 10001 FIN 뒤에도 아랫줄은 열림 순서 번호 → 끝 알림(FIN) 하나는 한 방향만 닫는다 — 방향마다 FIN 과 확인이 한 쌍씩이라 넷이다 말 · 데이터 끝 알림 · FIN 닫힌 방향 · 번호 = 그림 1 의 단계

그림 2 · 끝 알림 하나는 말이 오가는 두 줄 가운데 한 줄만 닫고, 다른 줄은 상대가 끝을 말할 때까지 열려 있다.

비유 속 역할실제 이름실제로 하는 일
「제 질문은 끝났어요」첫 FIN(먼저 닫는 쪽)이 방향으로 더 보낼 데이터가 없다고 알리고 순서 번호 하나를 쓴다
상담원의 「네」ACKFIN 의 번호 + 1 을 확인 번호로 돌려준다
듣기만 하는 고객FIN-WAIT-2 · 반쯤 닫힌 연결보내기는 닫혔고 받기는 계속된다
남은 배송 안내CLOSE-WAIT 동안의 데이터나중에 닫는 쪽이 열린 방향으로 남은 데이터를 보낸다
「저도 안내 끝났습니다」두 번째 FIN · LAST-ACK나중에 닫는 쪽이 자기 방향을 닫고 마지막 확인을 기다린다
고객의 마지막 「네」마지막 ACK받은 서버는 연결 정보를 지운다
수화기를 든 채 기다림TIME-WAIT(2 × MSL)사라진 마지막 ACK 를 다시 보낼 수 있게 연결 정보를 남긴다

⚠ 비유가 맞지 않는 곳: 전화는 말이 바로 사라지지만 TCP 는 망에 늦게 남은 옛 세그먼트가 있을 수 있어, TIME-WAIT 는 같은 주소 · 포트의 새 연결을 막는 일도 함께 한다. 또 상담원의 「네」와 끝 인사는 한 세그먼트에 함께 실려 갈 수도 있다.

4구조 · 동작 — 파일 업로드 뒤 연결 종료 여섯 단계

요소크기역할값 · 근거
FIN제어 비트 1비트이 방향 데이터의 끝 표시순서 번호 1개를 씀(RFC 9293 3.4 · 4절)
ACK제어 비트 + 확인 번호 32비트FIN 까지 받았다는 확인확인 번호 = FIN 번호 + 1(3.4절)
RST제어 비트 1비트FIN 교환 없이 연결 정보를 버림정상 종료와 구분해 알림(3.6절 MUST-12)
소켓 쌍IP 주소 · 포트 각 2개TIME-WAIT 동안 묶이는 대상주소 · 포트 넷(RFC 1122 4.2.2.13)
MSL시간망에 남는 최대 시간(가정)2분(RFC 9293 3.4.2)
TIME-WAIT 시한시간먼저 닫은 쪽의 대기2 × MSL = 240초(3.6.1 MUST-13) · 리눅스 60초(tcp.h)

사례는 클라이언트 192.0.2.33:51724 가 서버 203.0.113.80:80 에 파일 4,000바이트(순서 번호 1 ~ 4000)를 올린 뒤 끝을 알리는 연결이다(주소 = RFC 5737 문서용 대역 · 번호는 읽기 쉽게 고른 값). 둘 다 ESTABLISHED 이고 서버의 다음 번호는 9001 이다.

  1. 클라이언트 응용이 shutdown(fd, SHUT_WR) 을 부르면 FIN seq=4001 ack=9001 이 나가고 FIN-WAIT-1 이 된다(shutdown(2)).
  2. 서버 커널이 곧바로 ACK seq=9001 ack=4002 로 답해 서버는 CLOSE-WAIT, 클라이언트는 FIN-WAIT-2 가 되고, 서버 응용의 recv() 는 0 을 돌려받는다(recv(2)).
  3. 서버는 열린 방향으로 처리 결과 1,000바이트(seq=9001 ~ 10000)를 보내고 클라이언트는 ack=10001 로 받는다(반쯤 닫힌 연결 · RFC 9293 3.6.1).
  4. 서버 응용이 close() 를 부르면 FIN seq=10001 ack=4002 가 나가고 LAST-ACK 가 된다.
  5. 클라이언트는 마지막 ACK seq=4002 ack=10002 를 보내고 TIME-WAIT 로, 서버는 이를 받자마자 연결 정보(TCB)를 지우고 CLOSED 로 간다.
  6. 클라이언트는 TIME-WAIT 에서 60초(리눅스 · 표준은 240초)를 기다린 뒤 CLOSED 가 된다.
클라이언트 192.0.2.33:51724 서버 203.0.113.80:80 ESTABLISHED ESTABLISHED 1 FIN, ACK seq=4001 ack=9001 FIN-WAIT-1 CLOSE-WAIT 2 ACK seq=9001 ack=4002 FIN-WAIT-2 응용 recv() = 0 남은 결과를 보냄 받기는 계속 3 데이터 1,000바이트 seq=9001 ~ 10000 ACK ack=10001 4 FIN, ACK seq=10001 ack=4002 LAST-ACK TIME-WAIT 5 ACK seq=4002 ack=10002 CLOSED 60초 대기 리눅스 기본 표준 2 × MSL = 240초 6 CLOSED FIN 데이터 ACK 먼저 닫는 쪽 상태 나중에 닫는 쪽 상태 양쪽 같은 상태 seq = 순서 번호 · ack = 확인 번호(다음에 받을 번호) · FIN 은 번호 하나를 쓰므로 4001 의 확인은 4002

그림 3 · 먼저 닫는 클라이언트는 FIN-WAIT 두 상태를 지나 TIME-WAIT 에 머물고, 나중에 닫는 서버는 CLOSE-WAIT 동안 남은 데이터를 다 보낸 뒤 자기 FIN 을 보낸다.

🔑 FIN 하나는 한 방향만 닫는다 — 나중에 닫는 쪽은 CLOSE-WAIT 동안 남은 데이터를 다 보낸 뒤에야 자기 FIN 을 보내므로, 확인까지 세그먼트가 넷이다.

TIME-WAIT 는 사라진 마지막 ACK 를 다시 보낼 기회와 옛 세그먼트를 막는 시간을 함께 준다(RFC 9293 3.3.2).

재전송 ACK 손실 먼저 닫은 쪽 상태 표준 길이까지 클라이언트 먼저 닫은 쪽 TIME-WAIT — 다시 온 FIN 에 ACK 로 답함 표준 2 × MSL 서버 나중에 닫는 쪽 LAST-ACK CLOSED 5 ACK 사라짐 4 FIN 다시 ACK 다시 곧바로 CLOSED 였다면 다시 온 FIN 에 RST 로 답해 서버는 정상 종료를 못 함 ≈ 0 RTO 뒤 60초(리눅스) 240초 시간 이 동안 같은 소켓 쌍을 새 연결이 쓰지 않아 옛 세그먼트(MSL 2분)가 섞이지 않는다

그림 4 · 마지막 ACK 가 사라져도 TIME-WAIT 에 남은 클라이언트가 다시 온 FIN 에 ACK 로 답해 서버가 정상으로 닫히며, 곧바로 CLOSED 였다면 RST 로 답하게 된다.

🔑 TIME-WAIT 는 서버냐 클라이언트냐가 아니라 먼저 close() 를 부른 쪽에 생긴다 — 응답 뒤 먼저 닫는 웹 서버에는 TIME-WAIT 가 쌓인다.

5비교 — 정상 종료 · 동시 종료 · RST 중단

기준정상 종료동시 종료RST 중단
시작한쪽 응용의 close() · shutdown()양쪽이 상대 FIN 전에 닫음응용의 ABORT · 연결 없는 쪽에 세그먼트 도착
세그먼트FIN · ACK 각 2개FIN · ACK 각 2개(엇갈림)RST 1개
남은 데이터양방향 전달양방향 전달버림(RFC 9293 3.10.5)
TIME-WAIT먼저 닫은 쪽만양쪽 모두(3.6절 그림 13)없음(ABORT 는 곧바로 CLOSED)
응용이 받는 결과recv() 0 · 정상 끝recv() 0「connection reset」(3.10.5)

분석데이터를 끝까지 넘겨야 하는 연결은 FIN 으로 닫고, RST 는 상대가 응답하지 않거나 남은 데이터를 버려도 되는 연결에만 쓴다. 근거는 「남은 데이터」 행이다 — ABORT 는 전송 대기열을 비운다(RFC 9293 3.10.5).

6실무 진단 — 종료 상태가 쌓인 쪽 가르기

분석ss -tan 으로 쌓인 상태 이름을 먼저 보고, 그 상태에 머무는 쪽을 고친다. CLOSE-WAIT 은 FIN 을 받은 쪽, TIME-WAIT 은 먼저 닫은 쪽에만 생기므로(RFC 9293 3.6 · 3.6.1) 고칠 곳이 응용 코드와 연결 재사용 설계로 갈린다.

#증상의심 원인위치확인 명령판정 기준(근거)
1CLOSE-WAIT 이 계속 늘어남응용이 recv() 0 을 받고도 close() 를 부르지 않음나중에 닫는 쪽 응용ss -tan state close-wait커널은 ACK 만 하고 응용의 CLOSE 를 기다림(RFC 9293 3.6 Case 2)
2connect() 가 EADDRNOTAVAIL · TIME-WAIT 수만 개같은 목적지로 짧은 연결 반복먼저 닫는 쪽ss -tan state time-wait | wc -l · sysctl net.ipv4.ip_local_port_range출발 포트 28,232개(32768 ~ 60999)가 60초씩 묶여 같은 목적지로 초당 약 470 연결이 한계(계산 · ip-sysctl)
3FIN-WAIT-2 가 쌓였다가 60초 뒤 사라짐상대 응용이 close() 를 하지 않음상대 쪽ss -tano state fin-wait-2응용이 놓은 연결은 tcp_fin_timeout 60초 뒤 정리(ip-sysctl)

7시험 대비

출제 정보 정보관리(133회) · 컴퓨터시스템응용(132회, 125회)문제 원문 — 큐넷 자료실 「기출문제(기술사)」 www.q-net.or.kr

시험에서는 종료 순서와 상태 전이를 그리는 동작 · 절차 설명형, 그리고 TIME-WAIT · CLOSE-WAIT 가 쌓이는 원인과 대응을 묻는 장애 · 보안 대응형이 나올 수 있다. 서버 · 클라이언트 프로그램 구조 안에서 close() 단계가 어디에 걸리는지까지 그리면 차이가 난다.

답안 목차
  1. 개요 — 정의 · RFC 9293 3.6절 · 반쯤 닫힌 연결(3.6.1) · 3-way 핸드셰이크와 짝
  2. 종료 순서 — 그림 3 순서도(FIN · ACK 각 2개 · seq · ack 값 · FIN 이 번호 하나를 씀)
  3. 상태 전이 — FIN-WAIT-1 · 2 → TIME-WAIT / CLOSE-WAIT → LAST-ACK · 동시 종료 CLOSING 비교표
  4. TIME-WAIT — 그림 4(마지막 ACK 손실 대비 · 옛 세그먼트 차단) · 2 × MSL = 240초 · 리눅스 60초
  5. 장애와 대책 — 진단 표(CLOSE-WAIT = close() 누락 · TIME-WAIT = 연결 재사용 · 포트 범위 · RFC 6191)

꼭 쓸 키워드
FIN반쯤 닫힌 연결FIN-WAIT-2CLOSE-WAITLAST-ACKTIME-WAIT2 × MSL동시 종료RST

8오해와 사실

  • 오해종료에는 언제나 세그먼트 네 개가 오간다.
    사실나중에 닫는 쪽이 보낼 데이터가 없으면 ACK 와 FIN 을 한 세그먼트에 실어 셋이 되고, 먼저 닫는 쪽은 FIN-WAIT-2 를 건너 곧바로 TIME-WAIT 로 간다(RFC 9293 3.3.2 주 2).
  • 오해close() 가 돌아오면 상대가 데이터를 다 받은 것이다.
    사실기본 close() 는 곧바로 돌아오고 남은 전송과 FIN 교환은 커널이 뒤에서 하며, SO_LINGER 를 켜야 전송 완료까지 기다린다(socket(7)).
  • 오해tcp_fin_timeout 을 줄이면 TIME-WAIT 가 짧아진다.
    사실이 값은 응용이 놓은 FIN-WAIT-2 연결의 시한이고(ip-sysctl), TIME-WAIT 길이는 커널 상수 TCP_TIMEWAIT_LEN(60초)이다.

9핵심 정리

상태머무는 쪽들어가는 계기나가는 계기오래 머물면 의심할 것
ESTABLISHED양쪽3-way 핸드셰이크 완료close() · FIN 수신—
FIN-WAIT-1먼저 닫는 쪽FIN 보냄FIN 의 ACK 수신FIN 이 상대에 닿지 않음(재전송)
FIN-WAIT-2먼저 닫는 쪽ACK 수신상대 FIN 수신상대 응용의 close() 누락
CLOSE-WAIT나중에 닫는 쪽FIN 받고 ACK응용 close() → FIN우리 응용의 close() 누락
LAST-ACK나중에 닫는 쪽FIN 보냄마지막 ACK 수신마지막 ACK 손실 → FIN 재전송
CLOSING양쪽(동시 종료)FIN 보낸 뒤 상대 FIN 수신자기 FIN 의 ACK 수신양쪽 FIN 의 ACK 손실
TIME-WAIT먼저 닫는 쪽상대 FIN 에 ACK2 × MSL(리눅스 60초) 만료짧은 연결 반복 → 출발 포트 부족

10참고 문헌

  1. 먼저 볼 문헌
  2. ★ RFC 9293 Transmission Control Protocol (TCP) — 종료 상태 열 가지와 FIN 교환 순서를 원문으로 확인할 때
    IETF · 2022-08 · www.rfc-editor.org/rfc/rfc9293 · 확인 2026-11-02
  3. ★ RFC 1122 Requirements for Internet Hosts - Communication Layers — 반쯤 닫힌 연결과 TIME-WAIT 2 × MSL 의무의 배경을 볼 때
    IETF · 1989-10 · www.rfc-editor.org/rfc/rfc1122 · 확인 2026-11-02
  4. ★ RFC 6191 Reducing the TIME-WAIT State Using TCP Timestamps — TIME-WAIT 연결을 타임스탬프로 다시 여는 규칙을 볼 때
    IETF · 2011-04 · www.rfc-editor.org/rfc/rfc6191 · 확인 2026-11-02
  5. ★ IP Sysctl (tcp_fin_timeout · ip_local_port_range · tcp_tw_reuse) — 리눅스 FIN-WAIT-2 시한과 출발 포트 범위 기본값을 볼 때
    The Linux Kernel documentation · 2026-11 · docs.kernel.org/networking/ip-sysctl.html · 확인 2026-11-02
  6. ★ ss(8) Linux manual page — 종료 상태별로 소켓을 세는 명령을 볼 때
    man7.org · 2026-11 · man7.org/linux/man-pages/man8/ss.8.html · 확인 2026-11-02
  7. 본문 근거
  8. RFC 793 Transmission Control Protocol (RFC 9293 이 대체) — IETF · 1981-09 · www.rfc-editor.org/rfc/rfc793 · 확인 2026-11-02
  9. Faber · Touch · Yui 1999 The TIME-WAIT state in TCP and Its Effect on Busy Servers (IEEE INFOCOM) — IEEE · 1999-03 · doi.org/10.1109/INFCOM.1999.752180 · 확인 2026-11-02
  10. Linux include/net/tcp.h (TCP_TIMEWAIT_LEN) — The Linux Kernel (Elixir Cross Referencer) · 2026-11 · elixir.bootlin.com/linux/latest/source/include/net/tcp.h · 확인 2026-11-02
  11. tcp(7) Linux manual page — man7.org · 2026-11 · man7.org/linux/man-pages/man7/tcp.7.html · 확인 2026-11-02
  12. socket(7) Linux manual page (SO_LINGER) — man7.org · 2026-11 · man7.org/linux/man-pages/man7/socket.7.html · 확인 2026-11-02
  13. shutdown(2) Linux manual page — man7.org · 2026-11 · man7.org/linux/man-pages/man2/shutdown.2.html · 확인 2026-11-02
  14. recv(2) Linux manual page — man7.org · 2026-11 · man7.org/linux/man-pages/man2/recv.2.html · 확인 2026-11-02
  15. connect(2) Linux manual page — man7.org · 2026-11 · man7.org/linux/man-pages/man2/connect.2.html · 확인 2026-11-02
  16. RFC 5737 IPv4 Address Blocks Reserved for Documentation — IETF · 2010-01 · www.rfc-editor.org/rfc/rfc5737 · 확인 2026-11-02