서킷 브레이커Circuit Breaker Pattern
원격 호출을 감싸 최근 실패율이 문턱을 넘으면 일정 시간 호출을 보내지 않고 바로 거부한 뒤, 시험 호출로 회복을 확인해 다시 여는 닫힘 · 열림 · 반열림 세 상태의 장애 차단 패턴이다.
1요약
- 서킷 브레이커는 원격 호출을 감싸는 세 상태 기계(닫힘 · 열림 · 반열림)로, Nygard 가 「Release It!」(2007)에서 타임아웃 · 벌크헤드와 함께 안정성 패턴으로 정리했고, 그 위에서 재시도 · 대체 응답 코드가 «지금 불러도 되는가»를 이 상태로 판단한다.
- 의존 서비스 30개가 각각 99.99% 가용이어도 모두 거치는 요청은 99.7% 이므로 한 달 2시간 넘게 어딘가가 고장 나 있고(Hystrix 위키), 그때 느린 의존 서비스 하나가 스레드를 붙잡아 관계없는 기능까지 멈춘다(Azure 문서).
- 「호출이 실패한다」는 누가 거부했는가로 가른다 — 예외가 CallNotPermittedException 이고 의존 서비스 로그에 요청이 없으면 차단기가 막은 것이고, 시간 초과 · 5xx 면 호출이 실제로 나가 실패한 것이다.
2등장 배경
주문 화면이 재고 서비스를 부르는데 재고 서비스가 응답 없이 멈추면, 호출마다 제한 시간이 끝날 때까지 스레드 · DB 연결을 붙잡는다. 이 자원이 바닥나면 재고와 상관없는 결제 · 조회 화면도 멈추는 연쇄 장애가 된다(Azure 문서 「Context and problem」).
Nygard 는 2007년 「Release It!」에서 전기 차단기에서 이름을 딴 서킷 브레이커를 안정성 패턴으로 소개했고, Netflix 는 2011년부터 Hystrix 를 만들어 10초 창 · 요청 20건 이상 · 오류 50% 를 기본 규칙으로 썼다(Hystrix 위키). Fowler 는 2014년 3월 글에서 실패 5회 · 재설정 0.1초 예제로 세 상태를 정리했다.
Hystrix 는 1.5.18 을 마지막으로 유지 보수 모드에 들어가며 Resilience4j 를 권했고(Hystrix README), NIST SP 800-204(2019-08)는 차단기를 클라이언트 · 서비스 · 프록시 세 곳에 둘 수 있다고 정리했다(4.5.1절). 지금은 라이브러리와 서비스 메시 프록시 양쪽에 들어 있다.
3쉽게 이해하기 — 분식집 카운터의 통화 기록장
분식집 카운터 직원 민지는 손님이 떡볶이를 시킬 때마다 떡 공장에 전화해 재고를 확인한다. 어느 날 공장 전화가 먹통이 되자 손님들이 줄을 선 채 기다리고, 그동안 다른 메뉴 주문도 막힌다. 사장은 규칙을 정한다 — 최근 10통 중 절반이 안 되면 30분 동안 전화를 걸지 않고 「오늘은 라면으로 드려요」 안내판을 걸고, 30분 뒤 세 통만 걸어 보고 되면 평소대로 돌아간다.
그림 1 · 손님 주문은 통화 기록장을 거쳐 공장으로 가고, 기록장이 「절반 불통」을 보면 전화 대신 안내판으로 답한 뒤 30분 뒤 세 통으로 회복을 확인한다.
그림 2 · 기록장은 최근 기록 10개만 보고 가장 오래된 기록을 지우므로, 옛날의 성공이 아니라 지금의 실패 비율이 절반에 닿을 때 안내판이 걸린다.
| 비유 속 역할 | 실제 이름 | 실제로 하는 일 |
|---|---|---|
| 카운터 직원 | 호출하는 서비스 | 요청마다 의존 서비스를 원격 호출한다 |
| 떡 공장 | 의존 서비스 | 멈추거나 느려지면 호출하는 쪽 스레드를 붙잡는다 |
| 통화 기록장 칸 10개 | 슬라이딩 창 · 실패율 | 최근 N회 결과로 실패율을 계산한다 |
| 평소 매번 전화 | 닫힘 | 호출을 그대로 보내고 결과를 창에 적는다 |
| 「오늘은 라면으로」 안내판 | 열림 · 대체 응답 | 호출 없이 바로 거부하고 캐시 · 기본값으로 답한다 |
| 30분 기다림 | 열림 대기 시간 | 이 시간 동안 의존 서비스가 회복할 틈을 준다 |
| 세 통만 걸어 봄 | 반열림 · 시험 호출 수 | 정해진 수만 보내 실패율로 닫힘 · 열림을 다시 정한다 |
| 평소대로 돌아감 | 닫힘 복귀 | 창을 비우고 다시 모든 호출을 보낸다 |
⚠ 비유가 맞지 않는 곳: 분식집은 직원 한 명이 기록장 하나를 쓰지만, 실제로는 서버 여러 대가 각자 차단기를 가져 같은 의존 서비스를 두고도 서버마다 상태가 다를 수 있고, 열림 대기 시간은 분이 아니라 보통 수십 초다(Resilience4j 기본 60초).
4구조 · 동작 — 재고 서비스 장애 50초 동안의 상태 변화
차단기는 호출 결과를 슬라이딩 창에 모으는 계수기와 세 상태를 오가는 판정 규칙으로 이루어진다. 표의 기본값은 Resilience4j 문서 값이다.
| 요소 | 역할 | 사례 값 | 기본값 · 근거 |
|---|---|---|---|
| 닫힘 CLOSED | 호출 통과 · 결과를 창에 기록 | — | Fowler 2014 |
| 슬라이딩 창 | 최근 N회(개수) 또는 N초(시간) 결과 집계 | 개수 10 | 개수 100 |
| 실패율 문턱 | 이 값 이상이면 열림 | 50% | 50% |
| 최소 호출 수 | 기록이 이보다 적으면 계산 안 함 | 5 | 100 |
| 느린 호출 문턱 | 오래 걸린 성공도 비율로 셈 | 쓰지 않음 | 60초 · 100% |
| 열림 OPEN | 즉시 거부(CallNotPermittedException) | 대기 30초 | 대기 60초 |
| 반열림 HALF_ | 시험 호출만 통과 · 실패율로 다시 판정 | 3회 | 10회 |
| 수동 상태 | 운영자가 거는 강제 열림 · 사용 안 함 | — | FORCED_ |
그림 3 · 닫힘에서 열림으로는 실패율이, 열림에서 반열림으로는 시간이, 반열림에서 어느 쪽으로 갈지는 시험 호출의 실패율이 정한다.
사례는 주문 서비스가 재고 서비스를 1초에 한 번 부르는 흐름이다. 직접 실행 — Python 3.14.0 으로 Resilience4j 의 개수 기준 창 · 반열림 판정 규칙을 옮긴 작은 상태 기계를 돌렸다(설정 = 창 10 · 문턱 50% · 최소 5회 · 대기 30초 · 시험 3회 · 재고 서비스가 6 ~ 55초에 응답하지 않아 호출 제한 시간 1초를 넘기는 것은 가정 값).
- 0 ~ 5초 — 호출 6회가 성공해 창에 S 6개가 쌓이고, 5회째부터 실패율 0% 로 계산이 시작된다.
- 6 ~ 9초 — 재고 서비스가 멈춰 호출마다 1초 시간 초과가 실패로 기록되고, 실패율이 14 → 25 → 33 → 40% 로 오른다.
- 10초 — 다섯 번째 실패로 창(1 ~ 10초) = S 5 · F 5 = 50% 가 되어 문턱 이상이므로 열림이 된다.
- 11 ~ 39초 — 29회가 재고 서비스로 나가지 않고 즉시 거부되어 대체 응답(「재고 확인 중」 표시)으로 끝난다.
- 40 ~ 42초 — 대기 30초가 지나 반열림이 되고, 시험 3회가 모두 실패해 실패율 100% 로 다시 열림이 된다.
- 56초 — 재고 서비스가 회복했지만 열림 대기 중이라 71초까지 16회가 더 거부된다.
- 72 ~ 74초 — 반열림 시험 3회가 모두 성공해(실패율 0%) 닫힘으로 돌아가고 창을 비운다.
그림 4 · 장애 50초 동안 재고 서비스로 나간 호출은 8회뿐이고 나머지 42회는 기다림 없이 대체 응답으로 끝났으며, 그 대가로 회복 뒤 16회가 더 거부됐다.
🔑 서킷 브레이커는 실패를 막지 않고 실패를 빠르게 만든다 — 장애 50초 동안 50건이 모두 실패했지만, 1초씩 스레드를 붙잡은 것은 8건뿐이다.
차단기는 혼자 쓰지 않는다. Resilience4j 의 기본 감싸는 순서는 Retry(CircuitBreaker(RateLimiter(TimeLimiter(Bulkhead(호출))))) 이고(Getting Started 문서), 재시도는 차단기의 거부를 «일시 장애가 아님»으로 보고 멈춰야 한다(Azure 문서 Solution 절).
그림 5 · 시간 제한이 만든 실패가 차단기 창에 쌓이고, 차단기의 거부는 바깥 재시도가 다시 두드리지 않으며, 벌크헤드는 이 의존 서비스가 쓸 동시 호출 수를 가둔다.
🔑 시간 제한은 차단기 안쪽, 재시도는 바깥쪽에 둔다 — 시간 제한이 실패를 만들어야 창에 실패가 쌓이고, 차단기가 열린 뒤의 거부를 재시도가 다시 보내면 차단한 뜻이 없어진다.
5비교 — 차단기를 두는 위치
| 기준 | 클라이언트 안(라이브러리) | 서비스 쪽 | 프록시(게이트웨이 · 메시) |
|---|---|---|---|
| 실패를 보는 범위 | 그 클라이언트의 호출만 | 모든 클라이언트의 호출 | 프록시를 지나는 모든 호출 |
| 열렸을 때 망 트래픽 | 요청이 나가지 않음 | 요청이 서비스까지 감 | 요청이 프록시까지 감 |
| 코드 수정 | 클라이언트마다 | 서비스마다 | 없음(설정) |
| 믿어야 하는 쪽 | 모든 클라이언트 | 서비스 | 프록시 하나 |
분석업무에 맞는 대체 응답(캐시 · 기본 화면)이 필요하면 클라이언트 라이브러리에, 여러 언어 서비스에 한 가지 규칙을 맞춰야 하면 프록시에 둔다. 근거는 NIST SP 800-204 4.5.1절의 세 위치 분석과, 신뢰 대상을 프록시 하나로 줄이라는 권고 MS-SS-6 이다.
6실무 진단 — 거부한 주체로 가르는 차단기 장애
분석먼저 차단기 상태 지표와 의존 서비스 접근 로그를 같은 시각으로 맞춰 본다. 거부가 차단기 것인지 의존 서비스 것인지가 갈려야 설정을 고칠지 의존 서비스를 고칠지가 정해지기 때문이다(Resilience4j 문서 CallNotPermittedException · Azure 문서 Monitoring).
| # | 증상 | 의심 원인 | 구분 | 확인 자료 | 판정 기준(근거) |
|---|---|---|---|---|---|
| 1 | 의존 서비스는 정상인데 호출이 거부됨 | 열림 대기 시간이 회복보다 김 | 차단기 설정 | resilience4j. · not.permitted.calls | 상태 open = 1 이고 그 시각 의존 서비스 로그에 요청 없음(Micrometer 문서) |
| 2 | 열림 · 반열림이 짧은 간격으로 반복 | 부분 회복 · 시험 호출 수가 적음 | 차단기 설정 · 의존 서비스 | 상태 게이지 전환 시각 · failure.rate | 반열림 전환이 너무 빠르면 흔들린다(Azure 문서 Recoverability) |
| 3 | 장애인데 차단기가 열리지 않음 | 최소 호출 수 미달 · 시간 제한이 너무 김 | 차단기 설정 · 시간 제한 | buffered.calls · 시간 제한 설정 | 기록 < minimumNumberOfCalls 면 실패율을 계산하지 않음(Resilience4j 문서) |
지표 이름은 Resilience4j 의 Micrometer 이름이며, 다른 라이브러리 · 프록시는 같은 값을 다른 이름으로 낸다.
7시험 대비
시험에서는 세 상태와 전이 조건을 묻는 정의 · 특징형, 그리고 마이크로서비스의 연쇄 장애를 막는 방법으로 재시도 · 타임아웃 · 벌크헤드와 함께 묻는 장애 · 보안 대응형이 나올 수 있다.
- 개요 — 정의 · 연쇄 장애 문제 · Nygard 2007 · 빠른 실패(fail fast)
- 상태와 전이 — 그림 3 상태 전이도(닫힘 · 열림 · 반열림 + 조건)
- 구성 요소 — 요소 표(슬라이딩 창 · 실패율 문턱 · 최소 호출 수 · 대기 시간 · 시험 호출 수)
- 동작 사례 — 그림 4 장애 50초 사례(호출 50 → 실제 8)
- 조합 — 그림 5 감싸는 순서(재시도 · 시간 제한 · 벌크헤드 · 대체 응답)
- 배치 위치와 설정 기준 — 비교표(클라이언트 · 서비스 · 프록시) · 대기 시간 길이의 득실
꼭 쓸 키워드
닫힘열림반열림실패율 문턱슬라이딩 창빠른 실패대체 응답벌크헤드연쇄 장애재시도
다른 답안과 차이를 내는 한 가지는 그림 4 처럼 장애 시간 동안 «실제로 나간 호출 수»와 «회복 뒤 더 거부된 호출 수»를 함께 보여 대기 시간의 득실을 수치로 쓰는 것이다.
8오해와 사실
- 오해반열림에서 시험 호출이 하나라도 실패하면 곧바로 다시 열린다.사실구현마다 다르다 — Azure 문서의 기본 설명은 하나라도 실패하면 열림이지만, Resilience4j 는 시험 호출(기본 10회)의 실패율이 문턱 이상일 때만 다시 연다.
- 오해서킷 브레이커가 있으면 재시도는 필요 없다.사실재시도는 곧 풀릴 일시 장애를, 차단기는 오래가는 장애를 맡으며, 둘을 함께 쓸 때는 재시도를 바깥에 두고 차단기의 거부는 다시 시도하지 않는다(Azure 문서 Solution 절).
- 오해「연속 5회 실패면 연다」가 정해진 규칙이다.사실표준 값은 없다 — Fowler 예제는 실패 5회, Hystrix 는 10초 창 · 요청 20건 이상 · 오류 50%, Resilience4j 는 창 100회 · 실패율 50% 를 기본으로 둔다.
9핵심 정리
| 구분 | 맡는 일 | 무엇을 보고 | 다음 상태 · 결과 | 사례 · 기본값 |
|---|---|---|---|---|
| 닫힘 | 호출 통과 · 결과 기록 | 창 안 실패율 · 느린 호출 비율 | 문턱 이상이면 열림 | 문턱 50% |
| 열림 | 즉시 거부 · 대체 응답 | 경과 시간 | 대기 시간 뒤 반열림 | 30초 · 기본 60초 |
| 반열림 | 시험 호출만 통과 | 시험 호출 실패율 | 문턱 미만이면 닫힘 · 이상이면 열림 | 3회 · 기본 10회 |
| 슬라이딩 창 | 최근 결과 집계 | 최근 N회 또는 N초 | 오래된 결과는 빠짐 | 10회 · 기본 100회 |
| 최소 호출 수 | 판단을 미룸 | 기록 수 | 미달이면 계산 안 함 | 5회 · 기본 100회 |
| 시간 제한 | 느린 호출을 실패로 바꿈 | 호출 시간 | 실패가 창에 쌓임 | 1초 |
| 재시도 | 일시 장애를 다시 보냄 | 실패 종류 | 차단기 거부는 다시 안 함 | 3회 |
| 벌크헤드 | 동시 호출 수를 가둠 | 동시 호출 수 | 상한을 넘으면 거부 | 기본 25 |
10참고 문헌
- 먼저 볼 문헌
- ★ Release It! Design and Deploy Production-Ready Software, Second Edition — 타임아웃 · 서킷 브레이커 · 벌크헤드를 안정성 패턴으로 묶은 원전을 볼 때
- ★ CircuitBreaker — 세 상태와 재설정 시간 · 상태 변화 기록을 짧은 코드로 볼 때
- ★ Resilience4j CircuitBreaker — 실패율 · 느린 호출 · 슬라이딩 창 · 반열림 설정과 기본값을 볼 때
- ★ Circuit Breaker pattern (Azure Architecture Center) — 재시도와의 관계 · 대체 응답 · 설정할 때 따질 것을 볼 때
- ★ NIST SP 800-204 Security Strategies for Microservices-based Application Systems — 클라이언트 · 서비스 · 프록시 세 배치 위치의 장단과 권고 MS-SS-6 을 볼 때
- 본문 근거
- Release It! Design and Deploy Production-Ready Software — M. Nygard · The Pragmatic Bookshelf · 2007-03 ·
www.oreilly.com/library/view/release-it/9780978739218/· 확인 2026-11-04 - Hystrix Wiki — Home (What Is Hystrix For) — Netflix · 2026-11 ·
github.com/Netflix/Hystrix/wiki· 확인 2026-11-04 - Hystrix Wiki — Configuration — Netflix · 2026-11 ·
github.com/Netflix/Hystrix/wiki/Configuration· 확인 2026-11-04 - Hystrix README (Hystrix Status) — Netflix · 2026-11 ·
github.com/Netflix/Hystrix· 확인 2026-11-04 - Resilience4j Getting Started (Spring Boot 3 · Aspect order) — Resilience4j Project · 2026-11 ·
resilience4j.readme.io/docs/getting-started-3· 확인 2026-11-04 - Resilience4j Bulkhead — Resilience4j Project · 2026-11 ·
resilience4j.readme.io/docs/bulkhead· 확인 2026-11-04 - Resilience4j Micrometer (CircuitBreaker metrics) — Resilience4j Project · 2026-11 ·
resilience4j.readme.io/docs/micrometer· 확인 2026-11-04 - Python 3.14 collections — deque — Python Software Foundation · 2026-11 ·
docs.python.org/3/library/collections.html· 확인 2026-11-04