서비스 메시Service Mesh
서비스와 서비스 사이의 호출을 각 서비스 옆에 둔 프록시로 지나가게 하고, 제어 평면이 그 프록시들에 암호화 · 재시도 · 라우팅 · 관측 규칙을 내려보내는 전용 인프라 계층이다.
1요약
- 서비스 메시는 마이크로서비스 사이(동서) 호출을 서비스마다 붙은 프록시로 지나가게 하는 전용 인프라 계층으로(NIST SP 800-204A 3절 · 2020), 그 위에서 mTLS · 재시도 · 타임아웃 · 트래픽 분할 · 지표 수집이 서비스 코드 바깥에서 돈다.
- 여러 언어로 쓴 서비스 수백 개에 재시도와 TLS 를 라이브러리로 넣으면 판이 갈려 장애에 서로 다르게 반응하는데, 메시는 이를 제어 평면 설정 한 벌로 맞추는 대신 프록시 하나당 약 0.20 vCPU · 60MB(초당 1,000건 측정)를 치른다(Istio 성능 문서).
- 메시 안의 「503 이 난다」는 프록시 접근 로그의 응답 플래그로 가른다 — UO 면 서킷 브레이커 한도, UH 면 건강한 끝점 없음, 플래그가 없으면 받는 서비스가 낸 503 이다.
2등장 배경
마이크로서비스를 Java · Go · Python 으로 나눠 쓰는 팀은 재시도 · 타임아웃 · 서비스 찾기 · TLS 를 언어마다 다른 라이브러리로 넣어야 했다. 라이브러리 판이 서비스마다 달라 같은 장애에 한 서비스는 세 번 다시 보내고 다른 서비스는 바로 포기했고, 설정 하나를 바꾸려면 모든 서비스를 다시 빌드했다(NIST SP 800-204A 3.2절).
처음에는 트위터의 Finagle 같은 «두꺼운 클라이언트» 라이브러리가 이 일을 맡았다. 2017년 4월 William Morgan 이 「서비스 사이 통신을 처리하는 전용 인프라 계층」이라는 정의를 내놓았고, 같은 달 Linkerd 가 1.0 을 냈다(Morgan 2017). 2020년 5월 NIST 는 SP 800-204A 에서 배치 방식 네 가지(SM-AR1 ~ SM-AR4)를 나누고 사이드카 방식 권고 28개(SM-DR1 ~ SM-DR28)를 냈다.
사이드카가 파드마다 붙는 비용 때문에 노드마다 프록시 하나를 두는 방식이 다시 나왔고, Istio 는 2024년 11월 1.24 에서 사이드카 없는 방식을 정식(GA)으로 내놓았다(Istio ambient GA). 지금은 쿠버네티스 위 서비스 사이 보안 · 관측 계층으로 쓰이며, NIST 는 서비스가 수백 ~ 수천 개일 때 경제적이라고 본다(SP 800-204A 3절).
3쉽게 이해하기 — 사무실마다 전속 비서를 둔 회사
큰 회사의 사무실마다 전속 비서가 한 명씩 앉아 있다. 주문팀 직원이 결제팀에 보낼 편지를 쓰면 비서가 받아 봉인하고, 상대 비서와 서로 출입증을 확인한 뒤 건넨다. 결제팀 담당 한 명이 자리를 비웠으면 비서가 다른 담당에게 다시 보내고, 여러 번 연달아 답이 없는 담당은 잠시 배달 명단에서 뺀다. 총무팀은 비서들에게 규칙집과 출입증을 나눠 주고 배달 기록을 모은다.
그림 1 · 직원은 편지만 쓰고, 봉인 · 신분 확인 · 다시 보내기 · 기록은 사무실마다 앉은 비서가 총무팀 규칙대로 맡는다.
그림 2 · 두 비서가 같은 총무팀 도장이 찍힌 출입증을 서로 보여야 편지가 오가듯, mTLS 는 양쪽 인증서가 같은 메시 CA 에서 나왔는지와 이름을 함께 확인한다.
| 비유 속 역할 | 실제 이름 | 실제로 하는 일 |
|---|---|---|
| 사무실 직원 | 애플리케이션 서비스 | 업무 코드만 실행하고 평문 요청을 같은 파드의 프록시로 보낸다 |
| 전속 비서 | 사이드카 프록시(데이터 평면) | 요청을 가로채 암호화 · 라우팅 · 재시도 · 기록을 집행한다 |
| 총무팀 | 제어 평면 | 라우팅 · 재시도 · 정책 설정을 모든 프록시에 내려보낸다 |
| 출입증 | 워크로드 인증서(SPIFFE ID) | 서비스 신원을 증명하고 몇 시간 단위로 바뀐다 |
| 봉인 · 서로 확인 | mTLS | 양쪽이 인증서를 검증한 뒤 암호화 채널로만 주고받는다 |
| 다른 담당에게 다시 | 재시도 · 부하 분산 | 실패한 요청을 다른 끝점으로 다시 보낸다 |
| 명단에서 잠시 뺌 | 서킷 브레이커 · 이상 끝점 퇴출 | 실패가 이어지는 끝점을 일정 시간 대상에서 뺀다 |
| 배달 기록 | 지표 · 접근 로그 · 분산 추적 | 요청 수 · 실패 코드 · 지연을 모아 제어 평면 쪽 관측 도구로 보낸다 |
⚠ 비유가 맞지 않는 곳: 비서는 편지 내용을 읽고 판단하지만 프록시는 업무 내용(주문 금액 등)을 모르므로 세밀한 업무 권한 검사는 여전히 서비스가 한다(NIST SP 800-204A 3절). 또 총무팀이 잠시 문을 닫아도 비서들은 마지막으로 받은 규칙집으로 계속 일한다.
4구조 — 제어 평면과 데이터 평면
서비스 메시는 요청이 실제로 지나가는 데이터 평면(서로 이어진 프록시들)과, 그 프록시의 동작을 정하는 제어 평면(API · 도구 묶음)으로 나뉜다(NIST SP 800-204A 3.1절). 메시의 제어 평면은 오케스트레이터의 컨트롤 플레인과 별개이고, 서비스 목록만 그쪽에서 받는다.
그림 3 · 제어 평면은 설정 · 인증서만 내려보내고, 요청은 앱 → 자기 사이드카 → 상대 사이드카 → 상대 앱 순으로 데이터 평면 안에서만 흐른다.
| 요소 | 위치 | 역할 | 값 · 근거 |
|---|---|---|---|
| 설정 배포 | 제어 평면 | 라우트 · 클러스터 · 끝점 설정을 프록시에 밀어 넣음 | xDS(LDS · RDS · CDS · EDS) · 판마다 ACK · NACK(xDS 프로토콜 문서) |
| 인증서 발급 | 제어 평면 | 워크로드를 확인한 뒤 신원 인증서 발급 · 교체 | 서명 키는 기업 PKI 아래 · 수명은 시간 단위(SM-DR12 · SM-DR13 · SM-DR16) |
| 서비스 목록 | 제어 평면 ↔ 오케스트레이터 | 서비스 · 끝점 변화를 받아 끝점 설정으로 바꿈 | 건강 검사와 서비스 찾기를 묶어 둠(SM-DR26) |
| 사이드카 프록시 | 서비스 인스턴스마다 | 들어오고 나가는 요청을 가로채 규칙을 집행 | 앱과는 loopback 만 · 프록시끼리는 mTLS 만(SM-DR6) |
| 인그레스 · 이그레스 프록시 | 메시 경계 | 바깥 → 메시 · 메시 → 바깥 트래픽 통제 | 바깥 자원 접근도 같은 재시도 · 정책 적용(SM-DR7 ~ SM-DR10) |
| SPIFFE ID | 인증서 URI SAN | 서비스 신원 문자열 | spiffe: · 2,048바이트까지 지원(SPIFFE-ID 2절 · 2.3절) |
프록시가 집행하는 기능은 NIST 가 다섯 가지로 나눈다 — 인증 · 권한, 서비스 찾기, 보안 통신, 복원력, 관측(SP 800-204A 3.1절).
| 기능 | 프록시가 하는 일 | 설정 값 예 · 근거 |
|---|---|---|
| 타임아웃 | 시도 한 번과 요청 전체에 시간 상한 | 시도당 0.5초 · 전체 2초(본문 사례 설정) |
| 재시도 | 5xx · 연결 실패를 다른 끝점으로 다시 보냄 | 재시도 한도는 서킷 브레이커의 max_ |
| 서킷 브레이커 | 클러스터별 연결 · 대기 · 요청 · 재시도 수 한도 | 연결 기본 1,024개(Envoy 회로 차단 문서) |
| 이상 끝점 퇴출 | 실패가 이어지는 끝점을 부하 분산에서 뺌 | 연속 5xx 5회 · 검사 10초 · 퇴출 30초 · 최대 10%(OutlierDetection 기본값) |
| 트래픽 분할 | 버전별 가중치로 요청을 나눔(카나리) | v1 90 · v2 10(본문 사례 설정) |
| 관측 | 요청 수 · 실패 코드별 수 · 지연 분포 · 추적 범위 | 최소 지표 세 가지(SM-DR23) |
🔑 제어 평면은 규칙을 정할 뿐 요청을 만지지 않고, 요청을 만지는 것은 데이터 평면의 프록시뿐이다 — 그래서 제어 평면이 멈추면 새 설정이 막힐 뿐 트래픽은 마지막 설정으로 계속 흐른다.
5동작 — 결제 호출 한 건의 실패와 재시도
네임스페이스 shop 의 checkout 이 payment 를 부르는 사례다. payment 끝점은 v1 10.244.1.15 · 10.244.2.21 과 v2 10.244.3.9 이며, 서비스 이름 · 주소 · 응답 시간 · 라우트 설정(v1 90 · v2 10 · 전체 2초 · 시도당 0.5초 · 재시도 2회) · max_ejection_percent 50 · 인증서 24시간은 설명용 가정 값이고, 퇴출 값(연속 5회 · 10초 · 30초)은 기본값이다.
- 제어 평면이 checkout 사이드카에 xDS 로 리스너 · 라우트 · 클러스터 · 끝점 3개를 보내고, SDS 로
spiffe:인증서(24시간)를 보낸다 — 사이드카는 받은 판을/ / cluster. local/ ns/ shop/ sa/ checkout version_info로 ACK 한다(xDS 프로토콜 문서). - checkout 앱이
POST http:를 평문으로 보내면 파드의 망 규칙이 이 연결을 같은 파드의 사이드카로 돌린다 — 앱과 사이드카 사이는 loopback 이다(SM-DR6)./ / payment: 8080/ charge - 사이드카가 가중치 90 : 10 에 따라 v1 을 고르고 부하 분산으로
10.244.2.21을 골라 mTLS 를 연다 — 상대 인증서의 URI SAN 이…/ns/shop/sa/payment인지 대조한다. 10.244.2.21의 앱이 0.12초 만에 503 을 돌려준다 — 재시도 조건 5xx 에 걸려 사이드카가 다른 끝점10.244.1.15로 다시 보낸다(재시도 1회째).10.244.1.15의 사이드카가 mTLS 를 끝내고 권한 정책(주체sa/checkout·POST /charge허용)을 확인한 뒤 앱에 넘기고, 첫 요청부터 0.31초 만에 200 이 checkout 앱에 돌아온다 — 앱이 본 응답은 200 한 번뿐이다.- 두 사이드카가 요청 수 · 실패 코드별 수 · 지연 분포를 기록하고(SM-DR23), 추적은 checkout 앱이 받은 요청의 추적 헤더를 다음 호출에 그대로 넘겨야 이어진다(SM-DR24).
10.244.2.21이 그 뒤 503 을 다섯 번 연달아 내자 10초 주기 검사에서 30초 동안 부하 분산 대상에서 빠지고, 돌아온 뒤 다시 퇴출되면 30초 × 2 = 60초가 된다(Envoy Outlier 문서).- 인증서 만료 전에 SDS 가 새 인증서를 보내면 사이드카는 기존 연결을 정리하고 새 연결부터 새 인증서를 쓴다(SM-DR13 · SM-DR14).
그림 4 · 앱은 요청 한 번 · 응답 한 번만 보고, mTLS · 실패 · 재시도 · 기록은 사이드카 사이에서 끝난다.
그림 5 · 퇴출 시간은 연속 퇴출 횟수에 비례해 30초 → 60초로 늘고, 그동안 그 끝점의 몫은 다른 끝점이 받는다.
🔑 재시도는 실패를 앱에게서 숨기고 이상 끝점 퇴출은 실패한 끝점을 드러내 뺀다 — 퇴출 없이 재시도만 두면 고장 난 끝점에 요청이 계속 실린다.
6비교 — 사이드카 · 노드 프록시 · 라이브러리 배치
NIST 의 네 배치(SP 800-204A 1.1절) 가운데 코드에 박아 넣는 SM-AR1 을 뺀 셋을 견준다.
| 기준 | 사이드카 프록시(SM-AR3) | 노드 프록시 · 사이드카 없는 방식(SM-AR4) | 라이브러리(SM-AR2) |
|---|---|---|---|
| 프록시 위치 | 인스턴스(파드)마다 1개 | 노드마다 계층 4 프록시 1개 + 필요하면 네임스페이스별 계층 7 프록시 | 없음 — 앱 프로세스 안 |
| 앱 변경 | 없음(추적 헤더 전달만) | 없음 | 언어마다 라이브러리 판 관리 |
| 자원(초당 1,000건 · 1KB · mTLS) | 프록시당 약 0.20 vCPU · 60MB | 노드 프록시 약 0.06 vCPU · 12MB · 계층 7 프록시 약 0.25 vCPU · 60MB | 별도 프로세스 없음 |
| 요청 하나가 지나는 프록시 | 2개(보내는 쪽 · 받는 쪽) | 노드 프록시 2개(+ 계층 7 프록시 1개) | 0개 |
| 격리 위험 | 플랫폼 격리에 기댐 | 한 프록시가 여러 서비스 트래픽을 다뤄 권한 상승 · 시끄러운 이웃 위험(NIST 1.2절) | 앱과 같은 프로세스 · 언어 조합만큼 판이 늘어남 |
| 프록시 교체 | 파드를 다시 띄워야 함 | 노드 프록시만 교체 | 앱 재빌드 · 재배포 |
분석대부분의 서비스에 재시도 · 트래픽 분할 같은 계층 7 정책이 필요하면 사이드카, mTLS 와 계층 4 정책이 주이고 파드 수가 많아 자원이 빠듯하면 노드 프록시 방식, 언어가 하나이고 프록시 지연까지 줄여야 하면 라이브러리를 고른다. 근거는 표의 「자원」 · 「요청 하나가 지나는 프록시」 행과 SP 800-204A 1.2절의 배치별 위험 비교다.
7실무 진단 — 메시 구간 오류 가르기
분석먼저 보내는 쪽 프록시의 접근 로그에서 응답 코드와 응답 플래그를 함께 본다. 플래그가 있으면 프록시가 스스로 만든 응답이므로 메시 설정(한도 · 퇴출 · 타임아웃)을, 플래그가 없으면 받는 앱의 응답이므로 앱 로그를 본다(Envoy 형식 문서 RESPONSE_FLAGS).
| # | 증상 | 의심 원인 | 구분 | 확인 자료 | 판정 기준(근거) |
|---|---|---|---|---|---|
| 1 | 503 · 플래그 UO | 서킷 브레이커 한도(연결 · 대기 · 요청) 초과 | 데이터 평면 · 보내는 쪽 | 접근 로그 %RESPONSE_FLAGS% · /stats 의 upstream_rq_pending_overflow | UO = 회로 차단으로 거부(형식 문서) |
| 2 | 503 · 플래그 UH | 끝점 전부 퇴출 · 끝점 0개 | 데이터 평면 · 끝점 목록 | /clusters 의 끝점별 건강 표시 | UH = 건강한 끝점 없음(형식 문서) · 퇴출된 끝점은 건강 표시에 퇴출로 나옴 |
| 3 | 504 · 플래그 UT | 시도당 · 전체 타임아웃이 응답 시간보다 짧음 | 라우트 설정 | /config_dump 의 라우트 timeout · per_try_timeout | UT = 업스트림 요청 타임아웃(형식 문서) |
| 4 | 연결 직후 끊김 · 403 | 인증서 만료 · 신원이 정책 주체와 다름 | 신원 · 정책 | /certs 의 만료 시각 · URI SAN | SPIFFE ID 가 정책의 주체와 같아야 허용(SPIFFE-ID 2절 · SM-DR19) |
| 5 | 설정을 바꿨는데 그대로 | 프록시가 새 판을 거부(NACK) | 제어 평면 ↔ 프록시 | 제어 평면 로그 · /config_dump 의 판 | NACK = error_detail 이 채워진 응답(xDS 프로토콜 문서) |
관리 API 경로와 응답 플래그는 Envoy 기반 데이터 평면 기준이며, 다른 데이터 평면은 프록시 지표 끝점의 같은 뜻 지표로 본다. UH 를 UO 보다 먼저 본다 — 끝점이 0개면 한도를 올려도 소용없다.
8시험 대비
www.q-net.or.kr시험에서는 데이터 평면 · 제어 평면과 기능을 묻는 정의 · 특징형과, 사이드카에서 사이드카 없는 방식으로 옮겨 가는 흐름을 묻는 동향 · 발전형이 나올 수 있다. 정의형은 그림 3 의 두 평면과 기능 다섯 가지를, 동향형은 배치 세 방식의 자원 수치와 격리 위험을 중심으로 쓴다. 바깥 요청을 받는 경계는 API 게이트웨이가 맡는다.
- 개요 — 정의(NIST SP 800-204A) · 언어별 라이브러리의 한계 · 동서 트래픽
- 구조 — 그림 3 제어 평면 · 데이터 평면 + 요소 표(xDS · SDS · SPIFFE ID · 인그레스 · 이그레스)
- 주요 기능 — mTLS · 타임아웃 · 재시도 · 서킷 브레이커 · 퇴출 · 트래픽 분할 · 관측 표(NIST 다섯 가지)
- 동작 — 그림 4 호출 순서도(503 → 재시도 → 200) + 그림 5 퇴출 시간 30초 → 60초
- 배치 방식 비교 · 동향 — 사이드카 · 노드 프록시 · 라이브러리 표 · 사이드카 없는 방식 정식 출시(2024)
- 도입 고려 — 프록시 자원 수치 · 공격 표면 증가 · 재시도 증폭 · 서비스 수백 개 이상에서 경제적
꼭 쓸 키워드
데이터 평면제어 평면사이드카 프록시mTLSSPIFFE IDxDS서킷 브레이커이상 끝점 퇴출트래픽 분할분산 추적
차이를 내는 한 가지는 그림 5 의 퇴출 규칙(30초 × 횟수)으로 재시도와 퇴출이 짝이어야 하는 까닭을 수치로 보이는 것이다.
9오해와 사실
- 오해서비스 메시를 쓰면 애플리케이션 코드는 하나도 고치지 않아도 된다.사실분산 추적은 앱이 받은 요청의 추적 헤더를 다음 호출에 넘겨야 이어지므로 최소한의 계측이 필요하다(SP 800-204A SM-DR24).
- 오해메시의 mTLS 가 있으면 서비스 안의 권한 검사는 없어도 된다.사실mTLS 는 «어느 서비스가 불렀는가»만 증명하고, 업무 내용을 아는 세밀한 권한 판단은 여전히 서비스가 해야 할 수 있다(SP 800-204A 3절).
- 오해재시도 횟수를 늘릴수록 가용성이 오른다.사실세 단계로 이어진 호출이 단계마다 재시도 2회를 쓰면 맨 끝 서비스는 최대 3 × 3 × 3 = 27배 요청을 받으므로, 재시도 한도와 서킷 브레이커로 묶어야 한다(Envoy 회로 차단 문서 max_retries).
10핵심 정리
| 구분 | 맡는 일 | 실행 위치 | 설정 · 식별 | 대표 값 · 근거 |
|---|---|---|---|---|
| 제어 평면 | 설정 · 인증서 · 정책 배포 | 클러스터의 별도 구성 요소 | xDS · SDS | 판마다 ACK · NACK |
| 사이드카 프록시 | 요청 가로채기 · 규칙 집행 | 인스턴스마다 | 앱과 loopback | 약 0.20 vCPU · 60MB(초당 1,000건) |
| mTLS · SPIFFE ID | 서비스 신원 증명 · 암호화 | 프록시 사이 | URI SAN spiffe://… | 인증서 수명 시간 단위(SM-DR13) |
| 타임아웃 · 재시도 | 늦거나 실패한 요청 처리 | 보내는 쪽 프록시 | 시도당 · 전체 시간 · 횟수 | 단계 3 × 재시도 2 = 최대 27배 |
| 서킷 브레이커 · 퇴출 | 한도 초과 거부 · 나쁜 끝점 제외 | 보내는 쪽 프록시 | 연결 1,024 · 연속 5xx 5회 | 퇴출 30초 × 횟수 · 최대 10% |
| 트래픽 분할 | 버전별 비율 나누기(카나리) | 보내는 쪽 프록시 | 라우트 가중치 | 사례 v1 90 · v2 10 |
| 관측 | 지표 · 로그 · 추적 | 양쪽 프록시 | 응답 플래그 UO · UH · UT | 최소 지표 셋(SM-DR23) |
| 노드 프록시 방식 | 사이드카 없이 계층 4 집행 | 노드마다 + 선택 계층 7 | 노드 프록시 · 계층 7 프록시 | 약 0.06 vCPU · 12MB · 정식 2024-11 |
11참고 문헌
- 먼저 볼 문헌
- ★ NIST SP 800-204A Building Secure Microservices-based Applications Using Service-Mesh Architecture — 데이터 평면 · 제어 평면 정의와 배치 권고 SM-DR1 ~ SM-DR28 을 원문으로 볼 때
- ★ What's a service mesh? And why do I need one? — 서비스 메시라는 이름과 첫 정의가 나온 배경을 볼 때
- ★ Envoy Outlier detection (architecture overview) — 이상 끝점 퇴출과 퇴출 시간이 늘어나는 규칙을 볼 때
- ★ Istio Performance and Scalability — 사이드카 · 노드 프록시가 쓰는 CPU · 메모리 측정 값을 볼 때
- ★ SPIFFE ID (SPIFFE-ID.md) — 워크로드 신원 URI 의 형식과 길이 규정을 볼 때
- 본문 근거
- Envoy OutlierDetection (config.cluster.v3) API reference — Envoy Project · 2026-11 ·
www.envoyproxy.io/docs/envoy/latest/api-v3/config/cluster/v3/outlier_detection.proto· 확인 2026-11-04 - Envoy Circuit breaking (architecture overview) — Envoy Project · 2026-11 ·
www.envoyproxy.io/docs/envoy/latest/intro/arch_overview/upstream/circuit_breaking· 확인 2026-11-04 - Envoy xDS REST and gRPC protocol — Envoy Project · 2026-11 ·
www.envoyproxy.io/docs/envoy/latest/api-docs/xds_protocol· 확인 2026-11-04 - Envoy Access logging — substitution formatter (RESPONSE_FLAGS) — Envoy Project · 2026-11 ·
www.envoyproxy.io/docs/envoy/latest/configuration/advanced/substitution_formatter· 확인 2026-11-04 - Istio ambient mode overview — Istio Project · 2026-11 ·
istio.io/latest/docs/ambient/overview/· 확인 2026-11-04 - Istio's ambient mode reaches General Availability — Istio Blog · 2024-11 ·
istio.io/latest/blog/2024/ambient-reaches-ga/· 확인 2026-11-04