IT › 클라우드 › 클라우드 네이티브 › 마이크로서비스

서킷 브레이커Circuit Breaker Pattern

원격 호출을 감싸 최근 실패율이 문턱을 넘으면 일정 시간 호출을 보내지 않고 바로 거부한 뒤, 시험 호출로 회복을 확인해 다시 여는 닫힘 · 열림 · 반열림 세 상태의 장애 차단 패턴이다.

1요약

  1. 서킷 브레이커는 원격 호출을 감싸는 세 상태 기계(닫힘 · 열림 · 반열림)로, Nygard 가 「Release It!」(2007)에서 타임아웃 · 벌크헤드와 함께 안정성 패턴으로 정리했고, 그 위에서 재시도 · 대체 응답 코드가 «지금 불러도 되는가»를 이 상태로 판단한다.
  2. 의존 서비스 30개가 각각 99.99% 가용이어도 모두 거치는 요청은 99.7% 이므로 한 달 2시간 넘게 어딘가가 고장 나 있고(Hystrix 위키), 그때 느린 의존 서비스 하나가 스레드를 붙잡아 관계없는 기능까지 멈춘다(Azure 문서).
  3. 「호출이 실패한다」는 누가 거부했는가로 가른다 — 예외가 CallNotPermittedException 이고 의존 서비스 로그에 요청이 없으면 차단기가 막은 것이고, 시간 초과 · 5xx 면 호출이 실제로 나가 실패한 것이다.

2등장 배경

주문 화면이 재고 서비스를 부르는데 재고 서비스가 응답 없이 멈추면, 호출마다 제한 시간이 끝날 때까지 스레드 · DB 연결을 붙잡는다. 이 자원이 바닥나면 재고와 상관없는 결제 · 조회 화면도 멈추는 연쇄 장애가 된다(Azure 문서 「Context and problem」).

Nygard 는 2007년 「Release It!」에서 전기 차단기에서 이름을 딴 서킷 브레이커를 안정성 패턴으로 소개했고, Netflix 는 2011년부터 Hystrix 를 만들어 10초 창 · 요청 20건 이상 · 오류 50% 를 기본 규칙으로 썼다(Hystrix 위키). Fowler 는 2014년 3월 글에서 실패 5회 · 재설정 0.1초 예제로 세 상태를 정리했다.

Hystrix 는 1.5.18 을 마지막으로 유지 보수 모드에 들어가며 Resilience4j 를 권했고(Hystrix README), NIST SP 800-204(2019-08)는 차단기를 클라이언트 · 서비스 · 프록시 세 곳에 둘 수 있다고 정리했다(4.5.1절). 지금은 라이브러리와 서비스 메시 프록시 양쪽에 들어 있다.

3쉽게 이해하기 — 분식집 카운터의 통화 기록장

분식집 카운터 직원 민지는 손님이 떡볶이를 시킬 때마다 떡 공장에 전화해 재고를 확인한다. 어느 날 공장 전화가 먹통이 되자 손님들이 줄을 선 채 기다리고, 그동안 다른 메뉴 주문도 막힌다. 사장은 규칙을 정한다 — 최근 10통 중 절반이 안 되면 30분 동안 전화를 걸지 않고 「오늘은 라면으로 드려요」 안내판을 걸고, 30분 뒤 세 통만 걸어 보고 되면 평소대로 돌아간다.

손님 사용자 요청 카운터 직원 호출하는 서비스 통화 기록장 서킷 브레이커 떡 공장 의존 서비스 1 2 3 불통 · 지연 기록장 규칙 4 평소 — 매번 전화 결과를 칸 10개에 적음 닫힘 5 안내판 걸고 30분 「오늘은 라면으로」 열림 대체 응답 6 세 통만 걸어 봄 회복했는지 확인 반열림 세 통이 되면 → 평소대로 안 되면 → 다시 30분 주문 · 전화 · 평소로 돌아감 불통 · 차단 시간이 지남 · 규칙 확인 10통 · 절반 · 30분 · 세 통 = 실제로는 슬라이딩 창 크기 · 실패율 문턱 · 열림 대기 시간 · 반열림 시험 호출 수

그림 1 · 손님 주문은 통화 기록장을 거쳐 공장으로 가고, 기록장이 「절반 불통」을 보면 전화 대신 안내판으로 답한 뒤 30분 뒤 세 통으로 회복을 확인한다.

매번 전화주문마다 공장에 묻고 결과를 적음
기록장 확인최근 10통 중 절반이 불통
안내판30분 동안 전화 대신 「라면으로」
세 통 시험30분 뒤 세 통만 걸어 봄
평소대로되면 다시 매번 전화
비유 — 통화 기록장 칸 10개 실제 — 개수 기준 슬라이딩 창 지움 ← 오래된 기록 · 새 기록 → 불통 5개 ÷ 전체 10개 = 절반 「오늘은 라면으로」 안내판을 건다 적은 통화가 5통도 안 되면 아직 판단하지 않는다 S S S S S F F F F F 원형 버퍼 · 새 결과가 맨 옛 결과를 밀어냄 실패율 = F 5 ÷ 기록 10 = 50% ≥ 문턱 50% 이면 열림 기록 수 < 최소 호출 수(이 사례 5) → 실패율을 계산하지 않음 S = 성공 F = 실패 굵은 테두리 = 방금 들어온 결과 점선 = 창에서 밀려난 결과

그림 2 · 기록장은 최근 기록 10개만 보고 가장 오래된 기록을 지우므로, 옛날의 성공이 아니라 지금의 실패 비율이 절반에 닿을 때 안내판이 걸린다.

비유 속 역할실제 이름실제로 하는 일
카운터 직원호출하는 서비스요청마다 의존 서비스를 원격 호출한다
떡 공장의존 서비스멈추거나 느려지면 호출하는 쪽 스레드를 붙잡는다
통화 기록장 칸 10개슬라이딩 창 · 실패율최근 N회 결과로 실패율을 계산한다
평소 매번 전화닫힘호출을 그대로 보내고 결과를 창에 적는다
「오늘은 라면으로」 안내판열림 · 대체 응답호출 없이 바로 거부하고 캐시 · 기본값으로 답한다
30분 기다림열림 대기 시간이 시간 동안 의존 서비스가 회복할 틈을 준다
세 통만 걸어 봄반열림 · 시험 호출 수정해진 수만 보내 실패율로 닫힘 · 열림을 다시 정한다
평소대로 돌아감닫힘 복귀창을 비우고 다시 모든 호출을 보낸다

⚠ 비유가 맞지 않는 곳: 분식집은 직원 한 명이 기록장 하나를 쓰지만, 실제로는 서버 여러 대가 각자 차단기를 가져 같은 의존 서비스를 두고도 서버마다 상태가 다를 수 있고, 열림 대기 시간은 분이 아니라 보통 수십 초다(Resilience4j 기본 60초).

4구조 · 동작 — 재고 서비스 장애 50초 동안의 상태 변화

차단기는 호출 결과를 슬라이딩 창에 모으는 계수기와 세 상태를 오가는 판정 규칙으로 이루어진다. 표의 기본값은 Resilience4j 문서 값이다.

요소역할사례 값기본값 · 근거
닫힘 CLOSED호출 통과 · 결과를 창에 기록—Fowler 2014
슬라이딩 창최근 N회(개수) 또는 N초(시간) 결과 집계개수 10개수 100
실패율 문턱이 값 이상이면 열림50%50%
최소 호출 수기록이 이보다 적으면 계산 안 함5100
느린 호출 문턱오래 걸린 성공도 비율로 셈쓰지 않음60초 · 100%
열림 OPEN즉시 거부(CallNotPermittedException)대기 30초대기 60초
반열림 HALF_OPEN시험 호출만 통과 · 실패율로 다시 판정3회10회
수동 상태운영자가 거는 강제 열림 · 사용 안 함—FORCED_OPEN · DISABLED
닫힘 CLOSED 호출 통과 결과를 창에 기록 열림 OPEN 호출 안 함 · 즉시 거부 → 대체 응답 반열림 HALF_OPEN 시험 호출 3회만 통과 나머지는 거부 기록 ≥ 5회 이고 실패율 ≥ 50% 대기 30초 지난 뒤 시험 실패율 ≥ 50% 시험 실패율 < 50% 창을 비우고 다시 셈 세 상태와 넘어가는 조건 화살 위 글자 = 넘어가는 조건(사례 설정 값) · 운영자가 거는 강제 열림 · 사용 안 함은 이 고리 밖

그림 3 · 닫힘에서 열림으로는 실패율이, 열림에서 반열림으로는 시간이, 반열림에서 어느 쪽으로 갈지는 시험 호출의 실패율이 정한다.

사례는 주문 서비스가 재고 서비스를 1초에 한 번 부르는 흐름이다. 직접 실행 — Python 3.14.0 으로 Resilience4j 의 개수 기준 창 · 반열림 판정 규칙을 옮긴 작은 상태 기계를 돌렸다(설정 = 창 10 · 문턱 50% · 최소 5회 · 대기 30초 · 시험 3회 · 재고 서비스가 6 ~ 55초에 응답하지 않아 호출 제한 시간 1초를 넘기는 것은 가정 값).

  1. 0 ~ 5초 — 호출 6회가 성공해 창에 S 6개가 쌓이고, 5회째부터 실패율 0% 로 계산이 시작된다.
  2. 6 ~ 9초 — 재고 서비스가 멈춰 호출마다 1초 시간 초과가 실패로 기록되고, 실패율이 14 → 25 → 33 → 40% 로 오른다.
  3. 10초 — 다섯 번째 실패로 창(1 ~ 10초) = S 5 · F 5 = 50% 가 되어 문턱 이상이므로 열림이 된다.
  4. 11 ~ 39초 — 29회가 재고 서비스로 나가지 않고 즉시 거부되어 대체 응답(「재고 확인 중」 표시)으로 끝난다.
  5. 40 ~ 42초 — 대기 30초가 지나 반열림이 되고, 시험 3회가 모두 실패해 실패율 100% 로 다시 열림이 된다.
  6. 56초 — 재고 서비스가 회복했지만 열림 대기 중이라 71초까지 16회가 더 거부된다.
  7. 72 ~ 74초 — 반열림 시험 3회가 모두 성공해(실패율 0%) 닫힘으로 돌아가고 창을 비운다.
주문 서비스 → 재고 서비스 호출 80초 1 2 3 4 5 6 7 상태 호출 재고 실패율 닫힘 열림 · 즉시 거부 열림 · 즉시 거부 재고 서비스 응답 없음 6 ~ 55초 0초 10초 20초 30초 40초 50초 60초 70초 80초 100% 50% 0% 문턱 50% 계산 안 함 50% → 열림 시험 3회 중 실패 3 = 100% → 다시 열림 시험 실패 0 = 0% → 닫힘 성공 실패(1초 시간 초과) 즉시 거부 → 대체 응답 반열림(시험 호출) 창 안 실패율(닫힘일 때) 막대 하나 = 1초에 한 번 오는 호출 · 사례 설정 = 창 최근 10회 · 최소 5회 · 문턱 50% · 대기 30초 · 시험 3회 장애 50초 동안 재고 서비스로 실제로 나간 호출 = 8회(나머지 42회는 즉시 거부)

그림 4 · 장애 50초 동안 재고 서비스로 나간 호출은 8회뿐이고 나머지 42회는 기다림 없이 대체 응답으로 끝났으며, 그 대가로 회복 뒤 16회가 더 거부됐다.

🔑 서킷 브레이커는 실패를 막지 않고 실패를 빠르게 만든다 — 장애 50초 동안 50건이 모두 실패했지만, 1초씩 스레드를 붙잡은 것은 8건뿐이다.

차단기는 혼자 쓰지 않는다. Resilience4j 의 기본 감싸는 순서는 Retry(CircuitBreaker(RateLimiter(TimeLimiter(Bulkhead(호출))))) 이고(Getting Started 문서), 재시도는 차단기의 거부를 «일시 장애가 아님»으로 보고 멈춰야 한다(Azure 문서 Solution 절).

감싸는 순서 — 바깥에서 안쪽으로 재시도 Retry 최대 3회 · 차단기 거부는 다시 하지 않음 서킷 브레이커 창 안 실패율 ≥ 문턱이면 열림 · 여기서 다룸 호출 제한 시간 1초를 넘기면 끊고 실패로 넘김 벌크헤드 동시 호출 상한(Resilience4j 기본 25) 재고 서비스 호출 대체 응답 캐시 · 기본값 「확인 중」 표시 열림 거부 · 최종 실패를 받음 굵은 테두리 = 서킷 브레이커 · 속도 제한기(RateLimiter)는 생략 · 재시도 3회 · 1초는 사례 설정 값

그림 5 · 시간 제한이 만든 실패가 차단기 창에 쌓이고, 차단기의 거부는 바깥 재시도가 다시 두드리지 않으며, 벌크헤드는 이 의존 서비스가 쓸 동시 호출 수를 가둔다.

🔑 시간 제한은 차단기 안쪽, 재시도는 바깥쪽에 둔다 — 시간 제한이 실패를 만들어야 창에 실패가 쌓이고, 차단기가 열린 뒤의 거부를 재시도가 다시 보내면 차단한 뜻이 없어진다.

5비교 — 차단기를 두는 위치

기준클라이언트 안(라이브러리)서비스 쪽프록시(게이트웨이 · 메시)
실패를 보는 범위그 클라이언트의 호출만모든 클라이언트의 호출프록시를 지나는 모든 호출
열렸을 때 망 트래픽요청이 나가지 않음요청이 서비스까지 감요청이 프록시까지 감
코드 수정클라이언트마다서비스마다없음(설정)
믿어야 하는 쪽모든 클라이언트서비스프록시 하나

분석업무에 맞는 대체 응답(캐시 · 기본 화면)이 필요하면 클라이언트 라이브러리에, 여러 언어 서비스에 한 가지 규칙을 맞춰야 하면 프록시에 둔다. 근거는 NIST SP 800-204 4.5.1절의 세 위치 분석과, 신뢰 대상을 프록시 하나로 줄이라는 권고 MS-SS-6 이다.

6실무 진단 — 거부한 주체로 가르는 차단기 장애

분석먼저 차단기 상태 지표와 의존 서비스 접근 로그를 같은 시각으로 맞춰 본다. 거부가 차단기 것인지 의존 서비스 것인지가 갈려야 설정을 고칠지 의존 서비스를 고칠지가 정해지기 때문이다(Resilience4j 문서 CallNotPermittedException · Azure 문서 Monitoring).

#증상의심 원인구분확인 자료판정 기준(근거)
1의존 서비스는 정상인데 호출이 거부됨열림 대기 시간이 회복보다 김차단기 설정resilience4j.circuitbreaker.state{state=open} · not.permitted.calls상태 open = 1 이고 그 시각 의존 서비스 로그에 요청 없음(Micrometer 문서)
2열림 · 반열림이 짧은 간격으로 반복부분 회복 · 시험 호출 수가 적음차단기 설정 · 의존 서비스상태 게이지 전환 시각 · failure.rate반열림 전환이 너무 빠르면 흔들린다(Azure 문서 Recoverability)
3장애인데 차단기가 열리지 않음최소 호출 수 미달 · 시간 제한이 너무 김차단기 설정 · 시간 제한buffered.calls · 시간 제한 설정기록 < minimumNumberOfCalls 면 실패율을 계산하지 않음(Resilience4j 문서)

지표 이름은 Resilience4j 의 Micrometer 이름이며, 다른 라이브러리 · 프록시는 같은 값을 다른 이름으로 낸다.

7시험 대비

시험에서는 세 상태와 전이 조건을 묻는 정의 · 특징형, 그리고 마이크로서비스의 연쇄 장애를 막는 방법으로 재시도 · 타임아웃 · 벌크헤드와 함께 묻는 장애 · 보안 대응형이 나올 수 있다.

답안 목차
  1. 개요 — 정의 · 연쇄 장애 문제 · Nygard 2007 · 빠른 실패(fail fast)
  2. 상태와 전이 — 그림 3 상태 전이도(닫힘 · 열림 · 반열림 + 조건)
  3. 구성 요소 — 요소 표(슬라이딩 창 · 실패율 문턱 · 최소 호출 수 · 대기 시간 · 시험 호출 수)
  4. 동작 사례 — 그림 4 장애 50초 사례(호출 50 → 실제 8)
  5. 조합 — 그림 5 감싸는 순서(재시도 · 시간 제한 · 벌크헤드 · 대체 응답)
  6. 배치 위치와 설정 기준 — 비교표(클라이언트 · 서비스 · 프록시) · 대기 시간 길이의 득실

꼭 쓸 키워드
닫힘열림반열림실패율 문턱슬라이딩 창빠른 실패대체 응답벌크헤드연쇄 장애재시도

다른 답안과 차이를 내는 한 가지는 그림 4 처럼 장애 시간 동안 «실제로 나간 호출 수»와 «회복 뒤 더 거부된 호출 수»를 함께 보여 대기 시간의 득실을 수치로 쓰는 것이다.

8오해와 사실

  • 오해반열림에서 시험 호출이 하나라도 실패하면 곧바로 다시 열린다.
    사실구현마다 다르다 — Azure 문서의 기본 설명은 하나라도 실패하면 열림이지만, Resilience4j 는 시험 호출(기본 10회)의 실패율이 문턱 이상일 때만 다시 연다.
  • 오해서킷 브레이커가 있으면 재시도는 필요 없다.
    사실재시도는 곧 풀릴 일시 장애를, 차단기는 오래가는 장애를 맡으며, 둘을 함께 쓸 때는 재시도를 바깥에 두고 차단기의 거부는 다시 시도하지 않는다(Azure 문서 Solution 절).
  • 오해「연속 5회 실패면 연다」가 정해진 규칙이다.
    사실표준 값은 없다 — Fowler 예제는 실패 5회, Hystrix 는 10초 창 · 요청 20건 이상 · 오류 50%, Resilience4j 는 창 100회 · 실패율 50% 를 기본으로 둔다.

9핵심 정리

구분맡는 일무엇을 보고다음 상태 · 결과사례 · 기본값
닫힘호출 통과 · 결과 기록창 안 실패율 · 느린 호출 비율문턱 이상이면 열림문턱 50%
열림즉시 거부 · 대체 응답경과 시간대기 시간 뒤 반열림30초 · 기본 60초
반열림시험 호출만 통과시험 호출 실패율문턱 미만이면 닫힘 · 이상이면 열림3회 · 기본 10회
슬라이딩 창최근 결과 집계최근 N회 또는 N초오래된 결과는 빠짐10회 · 기본 100회
최소 호출 수판단을 미룸기록 수미달이면 계산 안 함5회 · 기본 100회
시간 제한느린 호출을 실패로 바꿈호출 시간실패가 창에 쌓임1초
재시도일시 장애를 다시 보냄실패 종류차단기 거부는 다시 안 함3회
벌크헤드동시 호출 수를 가둠동시 호출 수상한을 넘으면 거부기본 25

10참고 문헌

  1. 먼저 볼 문헌
  2. ★ Release It! Design and Deploy Production-Ready Software, Second Edition — 타임아웃 · 서킷 브레이커 · 벌크헤드를 안정성 패턴으로 묶은 원전을 볼 때
    M. Nygard · The Pragmatic Bookshelf · 2018-01 · pragprog.com/titles/mnee2/release-it-second-edition/ · 확인 2026-11-04
  3. ★ CircuitBreaker — 세 상태와 재설정 시간 · 상태 변화 기록을 짧은 코드로 볼 때
    M. Fowler · martinfowler.com · 2014-03 · martinfowler.com/bliki/CircuitBreaker.html · 확인 2026-11-04
  4. ★ Resilience4j CircuitBreaker — 실패율 · 느린 호출 · 슬라이딩 창 · 반열림 설정과 기본값을 볼 때
    Resilience4j Project · 2026-11 · resilience4j.readme.io/docs/circuitbreaker · 확인 2026-11-04
  5. ★ Circuit Breaker pattern (Azure Architecture Center) — 재시도와의 관계 · 대체 응답 · 설정할 때 따질 것을 볼 때
    Microsoft · 2025-02 · learn.microsoft.com/en-us/azure/architecture/patterns/circuit-breaker · 확인 2026-11-04
  6. ★ NIST SP 800-204 Security Strategies for Microservices-based Application Systems — 클라이언트 · 서비스 · 프록시 세 배치 위치의 장단과 권고 MS-SS-6 을 볼 때
    NIST (R. Chandramouli) · 2019-08 · doi.org/10.6028/NIST.SP.800-204 · 확인 2026-11-04
  7. 본문 근거
  8. Release It! Design and Deploy Production-Ready Software — M. Nygard · The Pragmatic Bookshelf · 2007-03 · www.oreilly.com/library/view/release-it/9780978739218/ · 확인 2026-11-04
  9. Hystrix Wiki — Home (What Is Hystrix For) — Netflix · 2026-11 · github.com/Netflix/Hystrix/wiki · 확인 2026-11-04
  10. Hystrix Wiki — Configuration — Netflix · 2026-11 · github.com/Netflix/Hystrix/wiki/Configuration · 확인 2026-11-04
  11. Hystrix README (Hystrix Status) — Netflix · 2026-11 · github.com/Netflix/Hystrix · 확인 2026-11-04
  12. Resilience4j Getting Started (Spring Boot 3 · Aspect order) — Resilience4j Project · 2026-11 · resilience4j.readme.io/docs/getting-started-3 · 확인 2026-11-04
  13. Resilience4j Bulkhead — Resilience4j Project · 2026-11 · resilience4j.readme.io/docs/bulkhead · 확인 2026-11-04
  14. Resilience4j Micrometer (CircuitBreaker metrics) — Resilience4j Project · 2026-11 · resilience4j.readme.io/docs/micrometer · 확인 2026-11-04
  15. Python 3.14 collections — deque — Python Software Foundation · 2026-11 · docs.python.org/3/library/collections.html · 확인 2026-11-04