IT › 네트워크 › 프로토콜 › L4 전송

TCP Fast OpenTCP Fast Open (TFO)

서버가 발급한 쿠키를 다음 연결의 SYN 에 함께 실어, 3-way 핸드셰이크가 끝나기 전에 첫 요청 데이터를 서버 응용에 넘기는 TCP 확장이다.

1요약

  1. TFO 는 RFC 7413(2014-12 · 실험 표준)이 정한 TCP 옵션 Kind 34 로, 그 위에서 TLS ClientHello 나 HTTP GET 같은 첫 요청이 SYN 과 함께 서버에 닿는다.
  2. 보통 TCP 는 핸드셰이크가 끝나야 데이터를 응용에 넘겨 새 연결마다 1 RTT 가 더 드는데, Chrome 측정에서 HTTP 요청의 35% 가 새 연결이었고 저자들은 TFO 가 페이지 로드 시간을 10 ~ 40% 줄인다고 추정했다(RFC 7413 1 · 6.3.3절).
  3. 「켰는데 빨라지지 않는다」는 SYN-ACK 의 확인 번호로 가른다 — 쿠키가 아직 없으면 SYN 에 데이터가 없고, 서버가 거절하면 확인 번호가 SYN 하나(ISN + 1)만 덮으며, 경로에서 버려지면 옵션 없는 SYN 이 다시 나간다.

2등장 배경

TCP 는 원래도 SYN 에 데이터를 실을 수 있지만, 받는 쪽은 3-way 핸드셰이크가 끝날 때까지 그 데이터를 응용에 넘기지 않고 보관한다(RFC 9293 3.10.7.2절). 핸드셰이크가 옛 · 중복 SYN 을 걸러 내기 때문이며, 그 대가로 Chrome 측정에서 3-way 가 HTTP 거래 지연의 최대 25% 를 차지했다(RFC 7413 2 · 6.3.3절).

1994년 T/TCP(RFC 1644)가 핸드셰이크를 건너뛰려 했으나 보안 취약점 때문에 배치되지 못했고 2011년 RFC 6247 로 역사 문서가 되었다(RFC 7413 8.1절). 같은 2011년 Google 연구진이 CoNEXT 에서 TFO 설계를 발표했고(Radhakrishnan 2011), 2014년 12월 RFC 7413 이 서버 쿠키로 위조 주소 공격을 막는 방식을 실험 표준으로 정했다.

RFC 7413 은 지금도 실험 상태이고, 경로의 6% 가 데이터를 실은 SYN 이나 모르는 옵션을 버린다는 측정이 걸림돌로 남았다(7.1절). RFC 9293 은 SYN 데이터가 TFO 에 쓰이므로 장비가 허용해야 한다고 적고(3.10.7.3절), 같은 목표의 0-RTT 전송은 TLS 1.3(RFC 9846 2.3절)과 QUIC(RFC 9000 17.2.3절)에도 있다.

3쉽게 이해하기 — 단골 카드와 문 앞 주문

손님이 처음 간 식당 문 앞에서 자리 묻기 · 안내 · 입장 인사를 차례로 주고받은 뒤에야 주문한다. 그날 주인은 손님 이름에 가게 도장을 찍은 단골 카드를 건넨다. 다음 방문 때 손님이 문을 열며 카드와 주문서를 함께 내밀면, 주인은 도장과 이름만 확인하고 인사가 끝나기 전에 주문서를 주방으로 넘긴다. 카드가 맞지 않으면 주문서를 돌려주고 평소처럼 인사부터 한다.

첫 방문 — 단골 카드 받기 손님 클라이언트 식당 서버 1 자리를 묻고 카드도 한 장 청함 SYN + 빈 쿠키 옵션 2 자리 안내 · 단골 카드를 건넴 단골 카드 Fast Open 쿠키 8바이트 이 방문은 평소처럼 인사(3-way 핸드셰이크)를 다 마친 뒤 주문한다 다음 방문 — 카드와 주문을 함께 인사를 한 번 덜 기다림 = 1 RTT 절약 손님 클라이언트 식당 서버 3 카드와 주문서를 문 앞에서 함께 SYN + 쿠키 + 첫 요청 데이터 4 도장 확인 후 바로 주방 쿠키 검증 → 응용에 전달 5 음식이 인사 끝나기 전에 나옴 응답 데이터 · 핸드셰이크 완료 전

그림 1 · 첫 방문에 받은 단골 카드를 다음 방문에 주문서와 함께 내밀면, 인사가 끝나기 전에 주방이 움직여 한 번 덜 기다린다.

첫 방문인사부터 다 나눔
카드 받기도장 찍힌 단골 카드
함께 내밀기카드와 주문서를 문 앞에서
도장 확인주인이 이름과 도장을 봄
바로 주방인사가 끝나기 전 요리 시작
일찍 식사한 번 덜 기다림
비유 — 단골 카드 실제 — SYN 의 Fast Open 옵션 단골 카드 손님 이름 — 김 손님 가게 도장 — 주인만 찍음 도장이 바뀌면 옛 카드는 끝 34 10 쿠키 8바이트 Kind · Length · 쿠키 — 필드 너비 = 바이트 수 출발 IP 192.0.2.45 를 인증 서버 키로 AES-128 암호화한 앞 64비트 서버가 키를 바꾸면 옛 쿠키 무효(만료) 남이 주운 카드 이름이 달라 주문서를 돌려받음 다른 IP 에서 온 같은 쿠키 검증 실패 → SYN 데이터 버림 화살표 = 비유 → 실제 · 쿠키 값은 서버만 만들 수 있다(RFC 7413 4.1.2절)

그림 2 · 단골 카드의 이름 · 도장 · 유효 기간이 쿠키의 출발 IP 인증 · 서버 키 · 만료에 하나씩 대응하고, 남의 카드는 쓸 수 없다.

비유 속 역할실제 이름실제로 하는 일
손님클라이언트SYN 을 먼저 보내고 받은 쿠키를 서버 주소별로 캐시한다
식당 주인서버 리스너 소켓응용이 TCP_FASTOPEN 으로 켠 포트에서만 TFO 를 받는다
단골 카드Fast Open 쿠키서버가 만든 4 ~ 16바이트 MAC 태그로 출발 IP 를 인증한다
가게 도장서버 비밀 키쿠키를 만들고 검증하며, 바꾸면 옛 쿠키가 무효가 된다
문 앞 주문서SYN 데이터ClientHello 같은 첫 요청을 SYN 에 싣는다
바로 주방쿠키 검증 · 응용 전달SYN-ACK 확인 번호가 SYN 과 데이터를 함께 덮는다
주문서 돌려줌데이터 거절SYN 만 확인하고, 클라이언트가 데이터를 ACK 에 다시 싣는다
줄이 너무 길면 카드 중단대기 연결 수 한도한도를 넘으면 TFO 를 끄고 보통 핸드셰이크로 받는다

⚠ 비유가 맞지 않는 곳: 식당 주인은 같은 주문서가 두 번 오면 알아채지만, 서버 TCP 는 중복된 SYN 의 데이터를 응용에 두 번 넘길 수 있다(RFC 7413 2.1절) — 그래서 다시 받아도 결과가 같은 요청만 싣는다.

4구조 · 동작 — 쿠키 요청에서 1 RTT 절약까지

요소크기역할값 · 근거
Kind1바이트Fast Open 옵션 표시34 · 옛 구현은 실험 옵션 254 + 0xF989(9절)
Length1바이트옵션 전체 길이2 = 쿠키 요청 · 6 ~ 18 짝수(4.1.1절)
쿠키0 · 4 ~ 16바이트출발 IP 를 인증하는 MAC 태그예시 구현 = AES-128 결과 앞 64비트(4.1.2절)
SYN 데이터캐시한 MSS 이하첫 요청캐시가 없으면 IPv4 536 · IPv6 1220바이트(4.1.3절)
FastOpenEnabled리스너마다서버 TFO 켜짐 여부기본 꺼짐 · 응용이 켬(4.2절)
PendingFastOpenRequests리스너마다SYN-RCVD 상태의 TFO 연결 수한도를 넘으면 새 요청에 TFO 끔(4.2 · 5.1절)
쿠키 캐시서버 주소 쌍마다 1개쿠키 · MSS · 실패 기록실패한 경로는 TFO 를 잠시 끔(4.1.3.1절)

사례 값 — 주소는 문서용 대역(RFC 5737)이고 포트 · 순서 번호 · 데이터 길이는 설명용 가정 값이다.

  1. 첫 연결에서 클라이언트 192.0.2.45:40312 가 순서 번호 7000 의 SYN 에 쿠키 필드가 빈 옵션(Kind 34 · Length 2)을 붙여 서버 203.0.113.17:443 에 보낸다(4.2.1절).
  2. 서버는 출발 IP 를 서버 키로 AES-128 암호화해 64비트로 자른 쿠키 8바이트를 SYN-ACK(확인 번호 7001)에 싣고, 클라이언트는 쿠키와 MSS 1460 을 캐시한다(4.1.2 · 4.1.3절).
  3. 다음 연결에서 응용이 sendto() 에 MSG_FASTOPEN 을 주면, 커널이 순서 번호 9100 의 SYN 에 쿠키와 TLS ClientHello 300바이트를 함께 싣는다(부록 A.1).
  4. 서버는 쿠키를 검증하고 데이터를 응용에 넘겨 accept() 를 바로 돌려주며, 확인 번호 9401(9100 + 1 + 300)의 SYN-ACK 로 SYN 과 데이터를 함께 확인한다(4.2.2절 · 부록 A.2).
  5. 서버 응용은 핸드셰이크가 끝나기 전에 응답 데이터를 초기 혼잡 창 안에서 보낼 수 있다(3절).
  6. 클라이언트의 ACK 로 연결이 확립되고, 응답은 ③ 에서 1 RTT 만에 도착한다(보통 연결은 2 RTT).
클라이언트 192.0.2.45 : 40312 서버 203.0.113.17 : 443 첫 연결 쿠키 요청 ① SYN · seq 7000 · 쿠키 요청 옵션(Length 2) ② SYN-ACK · ack 7001 · 쿠키 8바이트 · MSS 1460 쿠키 · MSS 캐시 — 이 연결은 보통 3-way 로 계속 다음 연결 TFO ③ SYN · seq 9100 · 쿠키 + 데이터 300바이트 쿠키 검증 accept() 반환 ④ SYN-ACK · ack 9401 — SYN 과 데이터 확인 ⑤ 응답 데이터 — 핸드셰이크가 끝나기 전 ⑥ ACK — 연결 확립(ESTABLISHED) 1 RTT ③ → ⑤ 보통 연결이면 요청을 ⑥ 뒤에 보내므로 응답까지 2 RTT 제어(SYN · ACK) 데이터를 실은 SYN 서버의 확인(SYN-ACK) 응답 데이터 seq · ack · 포트 = 설명용 가정 값 · 주소 = 문서용 대역(RFC 5737)

그림 3 · 첫 연결은 쿠키만 받고, 다음 연결은 SYN 에 실은 요청이 1 RTT 만에 응답을 받는다.

클라이언트의 SYN — 쿠키 + 데이터 300바이트 seq 9100 · 출발 192.0.2.45 경로에서 버려짐 경로 차단 — 응답 없음 SYN 시간 초과 뒤 옵션 · 데이터 없는 SYN 재전송 · TFO 잠시 끔 서버 도착 검사 1 · 이 포트가 TFO 를 켰나 예 검사 2 · 대기 TFO 연결 수 < 한도 예 검사 3 · 쿠키가 출발 IP 와 맞나 예 수락 — 데이터를 응용에 넘김(④) ack 9401 · 응답을 먼저 보낼 수 있음 아니오 아니오 아니오 거절 — 데이터 버림 ack 9101(SYN 만) ACK 에 300바이트를 다시 실어 보냄 세 경우 모두 연결은 열리고, 수락일 때만 1 RTT 를 아낀다 서버 검사 수락 거절 · 실패 ack = 받은 순서 번호 + 1(+ 데이터 길이) · 가정 값

그림 4 · 서버 검사 셋을 모두 통과해야 수락되고, 거절 · 경로 차단이어도 연결은 보통 3-way 로 열린다.

🔑 TFO 가 실패해도 잃는 것은 아끼려던 1 RTT 뿐이다 — 거절된 데이터는 첫 ACK 에 다시 실려 보통 3-way 순서로 간다(RFC 7413 4.2.2절).

5비교 — 3-way 핸드셰이크 · QUIC 0-RTT 와의 차이

기준3-way 핸드셰이크TFOQUIC 0-RTT
첫 데이터를 싣는 곳핸드셰이크 뒤 세그먼트SYN0-RTT 패킷(RFC 9000 17.2.3절)
필요한 이전 상태없음서버 쿠키세션 티켓 · 선택 토큰(RFC 9000 8.1.3절)
HTTPS 요청 전 왕복2 RTT(TCP 1 + TLS 1.3 1)1 RTT(ClientHello 를 SYN 에 · 6.3.2절)0 RTT
재생 위험핸드셰이크가 옛 SYN 을 거름중복 SYN 데이터가 응용에 갈 수 있음(2.1절)TLS 가 0-RTT 재생을 막지 않음(RFC 9846 8절)
위조 주소 방어SYN 쿠키 등(RFC 4987)쿠키가 출발 IP 를 인증검증 전 받은 바이트의 3배까지만 송신(RFC 9000 8.1절)
표준 상태인터넷 표준(RFC 9293)실험(RFC 7413)제안 표준(RFC 9000)

분석같은 서버에 짧은 TCP 연결을 자주 다시 여는 서비스는 TFO 를, 암호화까지 한 번에 줄이려는 웹 서비스는 QUIC 0-RTT 를 고르되, 어느 쪽이든 0-RTT 데이터에는 다시 받아도 결과가 같은 요청만 싣는다. 근거는 표의 「HTTPS 요청 전 왕복」 · 「재생 위험」 행이다(RFC 7413 6.1절 · RFC 9846 8절).

6실무 진단 — TFO 가 빨라지지 않는 원인 가르기

분석클라이언트 쿠키 캐시 → 서버 검증 → 경로 순으로 본다. 쿠키가 없으면 데이터를 실은 SYN 이 나가지 않아(RFC 7413 4.2.1절) 뒤 두 단계를 볼 수 없다.

#증상의심 원인단계확인 명령판정 기준(근거)
1재접속해도 SYN 에 데이터 없음클라이언트 꺼짐 · 쿠키 없음쿠키 캐시sysctl net.ipv4.tcp_fastopen · ip tcp_metrics show 203.0.113.170x1 비트 없음 = 꺼짐(tcp(7)) · fo_cookie 없음 = 쿠키 요청부터(ip-tcp_metrics(8))
2데이터를 실었는데 응답까지 2 RTT서버 꺼짐 · 쿠키 무효 · 한도 초과서버 검증서버에서 nstat -az TcpExtTCPFastOpenPassiveFail TcpExtTCPFastOpenListenOverflowSYN-ACK 확인 번호 = ISN + 1 이면 거절(RFC 7413 4.2.2절) · 늘어난 카운터로 원인 구분(커널 SNMP counter 문서)
3TFO 첫 접속만 수 초 지연중간 장비가 데이터 실은 SYN 을 버림경로ip tcp_metrics show 203.0.113.17fo_syn_drops 증가 = 경로 차단 · 옵션 없는 SYN 으로 재전송(RFC 7413 4.2.2 · 7.1절)

7시험 대비

시험에서는 쿠키 요청에서 데이터 실은 SYN 까지를 그리는 동작 · 절차 설명형과 3-way 핸드셰이크 · QUIC 0-RTT 를 견주는 비교형이 나올 수 있다.

답안 목차
  1. 개요 — 정의 · RFC 7413(2014 · 실험) · 3-way 의 1 RTT 문제 · T/TCP 실패와의 차이(쿠키로 위조 주소 방어)
  2. 구조 — 구성 요소 표(Kind 34 · Length · 쿠키 4 ~ 16바이트 · FastOpenEnabled · PendingFastOpenRequests)
  3. 동작 — 그림 3 순서도(쿠키 요청 → 다음 연결 SYN 데이터 · ack 9401 · 1 RTT 절약)
  4. 수락 · 거절 — 그림 4 서버 검사 세 단계(ack ISN + 1 · 옵션 없는 SYN 재전송 · 부정 캐시)
  5. 한계 · 비교 — 중복 SYN 재생 · 증폭 반사 공격 · 경로 6% 차단 · QUIC 0-RTT 비교표

꼭 쓸 키워드
Fast Open 쿠키SYN 데이터Kind 341 RTT 절약중복 SYN 재생증폭 반사 공격PendingFastOpenRequestsMSG_FASTOPENT/TCP0-RTT

8오해와 사실

  • 오해TFO 는 첫 연결부터 1 RTT 를 아낀다.
    사실첫 연결은 빈 쿠키 옵션으로 쿠키를 받을 뿐 보통 3-way 와 같고, SYN 에 데이터를 싣는 것은 쿠키를 받은 다음 연결부터다(RFC 7413 4.2.1 · 4.2.2절).
  • 오해쿠키가 있으니 SYN 데이터의 재생도 막힌다.
    사실쿠키는 출발 IP 주소만 인증하므로(4.1.2절) 중복 SYN 의 데이터가 응용에 두 번 갈 수 있고, 이를 견디지 못하는 응용은 TFO 를 켜면 안 된다(6.1절).
  • 오해운영체제가 지원하면 서버는 저절로 TFO 를 받는다.
    사실서버는 응용이 포트마다 켜야 하며(RFC 7413 2절), 리눅스도 서버 비트 0x2 는 기본값에서 꺼져 있다(tcp(7)).

9핵심 정리

구분누가실리는 곳핵심 값실패하면
쿠키 요청클라이언트SYN 옵션Kind 34 · Length 2쿠키 없이 보통 연결
쿠키 발급서버SYN-ACK 옵션쿠키 4 ~ 16바이트(예 8)발급 없음 → 캐시에서 지울 수 있음
SYN 데이터클라이언트SYN캐시 MSS 이하 · 없으면 536(IPv4)첫 ACK 에 다시 실음
쿠키 검증서버리스너출발 IP 와 쿠키 대조데이터 버림 · ISN + 1 만 확인
대기 한도서버리스너PendingFastOpenRequests한도 초과 시 TFO 잠시 끔
응답 먼저 보냄서버SYN-ACK 뒤초기 혼잡 창 이내증폭 우려 시 핸드셰이크 뒤 응답
경로 차단중간 장비—조사 경로의 6%옵션 없는 SYN 재전송 · 부정 캐시

10참고 문헌

  1. 먼저 볼 문헌
  2. ★ RFC 7413 TCP Fast Open — 쿠키 옵션 형식 · 서버 검사 순서 · 적용 조건을 원문으로 볼 때
    IETF · 2014-12 · www.rfc-editor.org/rfc/rfc7413 · 확인 2026-11-02
  3. ★ RFC 9293 Transmission Control Protocol (TCP) — SYN 에 실린 데이터를 언제 응용에 넘기는지 볼 때
    IETF · 2022-08 · www.rfc-editor.org/rfc/rfc9293 · 확인 2026-11-02
  4. ★ RFC 9846 The Transport Layer Security (TLS) Protocol Version 1.3 (RFC 8446 대체) — TLS 1.3 0-RTT 와 재생 공격 대책을 견줄 때
    IETF · 2026-07 · www.rfc-editor.org/rfc/rfc9846 · 확인 2026-11-02
  5. ★ RFC 9000 QUIC: A UDP-Based Multiplexed and Secure Transport — QUIC 0-RTT 의 주소 검증 · 증폭 한도를 견줄 때
    IETF · 2021-05 · www.rfc-editor.org/rfc/rfc9000 · 확인 2026-11-02
  6. 본문 근거
  7. IP Sysctl (tcp_fastopen · tcp_fastopen_key) — The Linux Kernel documentation · 2026-11 · docs.kernel.org/networking/ip-sysctl.html · 확인 2026-11-02
  8. TCP Fast Open (Proceedings of the 7th ACM CoNEXT) — Google Research · 2011-12 · research.google/pubs/tcp-fast-open/ · 확인 2026-11-02
  9. RFC 1644 T/TCP -- TCP Extensions for Transactions Functional Specification — IETF · 1994-07 · www.rfc-editor.org/rfc/rfc1644 · 확인 2026-11-02
  10. RFC 6247 Moving the Undeployed TCP Extensions to Historic Status — IETF · 2011-05 · www.rfc-editor.org/rfc/rfc6247 · 확인 2026-11-02
  11. RFC 4987 TCP SYN Flooding Attacks and Common Mitigations — IETF · 2007-08 · www.rfc-editor.org/rfc/rfc4987 · 확인 2026-11-02
  12. RFC 5737 IPv4 Address Blocks Reserved for Documentation — IETF · 2010-01 · www.rfc-editor.org/rfc/rfc5737 · 확인 2026-11-02
  13. tcp(7) Linux manual page — man7.org · 2026-11 · man7.org/linux/man-pages/man7/tcp.7.html · 확인 2026-11-02
  14. ip-tcp_metrics(8) Linux manual page — man7.org · 2026-11 · man7.org/linux/man-pages/man8/ip-tcp_metrics.8.html · 확인 2026-11-02
  15. nstat(8) Linux manual page — man7.org · 2026-11 · man7.org/linux/man-pages/man8/nstat.8.html · 확인 2026-11-02
  16. SNMP counter (TcpExtTCPFastOpen*) — The Linux Kernel documentation · 2026-11 · docs.kernel.org/networking/snmp_counter.html · 확인 2026-11-02