시스템 성능 · 용량 관리System Performance and Capacity Management
필요한 자원량을 미리 셈하고(용량 산정) 후보 구성을 실측하며(BMT) 운영 중 응답을 감시하고(APM) 병목을 고치는(성능 튜닝) 주기를 하나로 보는 분류다. 응답 시간 · 처리량 · 자원 사용률 세 지표로 각 단계를 잇는다.
1요약
- 시스템 성능 · 용량 관리는 시스템 아키텍처 가운데 용량 산정 → BMT → APM → 성능 튜닝으로 이어지는 주기를 묶은 분류로, ISO/IEC 25010:2023 성능 효율성의 세 부특성(시간 반응성 · 자원 활용성 · 용량)을 응답 시간 · 처리량 · 자원 사용률로 재며 돌린다.
- 주기가 끊기면 몰린 요청이 대기 행렬에 쌓인다 — 단일 서버 모델에서 사용률 60% 의 응답 시간은 처리 시간의 2.5배지만 90% 에서는 10배다(R = S ÷ (1 − U) · Lazowska 1984).
- 「느려졌다」는 사용률이 높은가, 대기만 긴가로 가른다 — 사용률이 상한을 넘었으면 용량 문제라 재산정 · 증설로, 사용률은 낮은데 응답만 길면 한 구간의 병목이라 APM 트레이스와 튜닝으로 간다.
2등장 배경
1970년대 메인프레임 시대에는 CPU 시간이 비싸 작업마다 쓴 시간을 재고 다음 해 기종을 정하는 용량 계획이 운영 업무였다. 1984년 Lazowska 등은 사용률 법칙(U = X × S)과 병목 한계를 담은 대기 행렬 네트워크 모델을 교과서로 정리해, 측정 값으로 필요한 자원을 셈하는 방법을 굳혔다(Lazowska 1984 3장).
그 뒤 공개 BMT 단체(TPC · SPEC)가 같은 부하 정의를 내놓아 후보 구성을 같은 조건으로 견주게 됐다. SPEC 은 2026년 5월 CPU 2026(벤치마크 52개)을 내고 CPU 2017 을 2026년 11월 은퇴시켰으며(SPEC CPU 2026 · SPEC CPU 2017), 국내 공공 사업은 TTA 「정보시스템 하드웨어 규모산정 지침」(2008 제정 · 2023 R3)을 산정 기준으로 쓴다.
분산 · 클라우드 구성에서 요청 하나가 여러 서비스를 지나자 서버별 사용률만으로는 느린 구간을 찾지 못했다. 2012년 Gregg 의 USE 방법(사용률 · 포화 · 오류), 2016년 Google 의 네 골든 시그널(지연 · 트래픽 · 오류 · 포화), 요청 경로를 span 으로 잇는 OpenTelemetry 트레이스가 감시 단계를 채웠다(USE Method · Google SRE Book 6장).
3쉽게 이해하기 — 놀이공원 롤러코스터 운영
여름 성수기를 앞둔 놀이공원. 운영 팀장은 지난해 방문객 기록으로 만든 예측표로 롤러코스터 차량 수를 정하고, 개장 전에는 모래주머니를 실은 시운전으로 한 시간에 몇 명을 태우는지 잰다. 개장 뒤에는 줄 입구 안내판이 대기 시간을 띄우고, 대기가 40분을 넘으면 정비원이 안전바 점검 순서를 손봐 한 번 태우는 시간을 줄인다. 다음 성수기 예측표는 올해 안내판 기록으로 다시 쓴다.
그림 1 · 예측표로 차량 수를 정하고, 시운전으로 확인하고, 안내판으로 대기를 보고, 정비원이 절차를 손본 기록이 다시 예측표로 돌아가는 것이 성능 · 용량 관리의 주기다.
그림 2 · 시운전과 안내판은 둘 다 «잰다»지만, 하나는 개장 전 정해진 모래주머니를, 하나는 개장 뒤 진짜 손님을 잰다 — BMT 와 APM 의 경계도 같다.
| 비유 속 역할 | 실제 이름 | 실제로 하는 일 |
|---|---|---|
| 방문객 예측표 | 시스템 용량 산정 | 피크 부하와 요청당 자원 사용량으로 필요한 코어 · 메모리 · 대수를 셈한다 |
| 모래주머니 시운전 | BMT(벤치마크 테스트) | 정해진 시나리오의 합성 부하로 후보 구성의 처리량 · 응답 시간을 실측한다 |
| 줄 선 손님 | 사용자 요청(부하) | 초당 요청 수 · 동시 사용자 수로 수요를 나타낸다 |
| 탑승장 | 시스템 자원 | CPU · 디스크 · 네트워크 · 연결 풀이 요청을 처리한다 |
| 대기 시간 안내판 | APM(애플리케이션 성능 관리) | 운영 중 실제 요청의 구간별 응답 시간을 재고 경보를 낸다 |
| 정비원의 절차 손보기 | 성능 튜닝 | 병목 구간의 설정 · 코드 · 쿼리를 고쳐 요청당 처리 시간을 줄인다 |
| 새 예측표 | 재산정 | 운영 측정 값으로 다음 주기의 용량을 다시 셈한다 |
⚠ 비유가 맞지 않는 곳: 롤러코스터 손님은 끝까지 줄을 서지만, 시스템 요청은 시간 초과로 실패한 뒤 다시 들어오므로(재시도) 대기가 길어지면 부하 자체가 늘어난다. 또 차량은 정해진 인원만 한 번에 태우지만, CPU 코어는 여러 요청을 시분할로 나눠 처리한다.
4구조 — 네 토픽이 이루는 성능 관리 주기
네 토픽은 시점과 측정 대상이 달라 한 주기로 이어진다. 운영 전의 두 토픽은 «얼마나 필요한가 · 정말 되는가»를, 운영 중의 두 토픽은 «어디가 느린가 · 어떻게 줄이나»를 맡는다.
그림 3 · 용량 산정이 후보 구성을 정하고, BMT 가 실측하고, APM 이 운영 중 병목을 찾고, 튜닝이 줄인 값이 다음 산정의 입력이 된다 — 네 토픽은 세 지표로 이어진 한 주기다.
| 토픽 | 시점 | 입력 | 산출 | 주로 보는 지표 |
|---|---|---|---|---|
| 시스템 용량 산정 | 도입 · 증설 전 | 피크 부하 · 요청당 자원 사용량 · 여유율 | 코어 · 메모리 · 디스크 · 대수 | 처리량 · 사용률 상한 |
| BMT(벤치마크 테스트) | 도입 전 · 구성 변경 뒤 | 업무 시나리오 · 합성 부하 | 후보별 실측 처리량 · 응답 시간 | 처리량 · p99 응답 시간 |
| APM(애플리케이션 성능 관리) | 운영 중 상시 | 실제 요청 · 트레이스 · 지표 | 구간별 시간 · 경보 | 응답 시간 · 오류율 |
| 성능 튜닝 | 병목을 찾은 뒤 | 병목 구간 · 프로파일 | 설정 · 코드 · 쿼리 변경 | 요청당 서비스 시간 |
처리량 X · 요청당 서비스 시간 S · 사용률 U 는 U = X × S 로 묶이고(Lazowska 1984 3장), 응답 시간은 U 가 커질수록 대기 시간이 붙어 늘어난다. 그래서 용량 산정은 U 의 상한을, 튜닝은 S 를, APM 은 응답 시간 R 을 다룬다.
🔑 용량 산정은 사용률 U 의 상한을 정하고 튜닝은 요청당 서비스 시간 S 를 줄인다 — 같은 처리량에서 S 를 20% 줄이면 증설 없이 U 도 20% 내려간다.
5동작 — 주문 서비스의 한 주기
연말 행사를 앞둔 주문 API 한 건으로 주기 하나를 처음부터 끝까지 따라간다. 값은 모두 설명용 가정 값이다.
- 목표 정하기 — 행사 피크 400 req/s(초당 요청), p99 응답 300 ms, CPU 사용률 상한 60% 로 적는다.
- 용량 산정 — 요청당 CPU 시간을 10 ms 로 잡으면 바쁜 코어는 400 × 0.010 = 4 코어다(U = X × S). 상한 60% 로 나누면 6.7 코어라 4 코어 서버 2대(8 코어)로 정한다.
- BMT — 8 코어 구성에 400 req/s 시나리오를 걸어 CPU 52% · p99 180 ms 를 얻는다. 실측 요청당 CPU 시간은 0.52 × 8 ÷ 400 = 10.4 ms 로 산정 값과 맞는다.
- APM 감시 — 행사 첫날 p99 가 650 ms 로 올랐는데 CPU 는 45% 다. 트레이스를 보니 요청 하나의 span 가운데 재고 조회 쿼리가 420 ms 를 차지한다.
- 성능 튜닝 — 재고 테이블에 복합 인덱스를 더하고 상품 정보를 캐시에 두자 쿼리는 15 ms, p99 는 220 ms, 요청당 CPU 시간은 8 ms 가 된다.
- 재산정 — 다음 행사 예측 550 req/s 에 8 ms 를 곱하면 4.4 코어, 상한 60% 로 나누면 7.3 코어라 8 코어 구성 그대로 받는다.
그림 4 · 산정(8 코어) → BMT(10.4 ms 확인) → APM(재고 조회 420 ms) → 튜닝(8 ms) → 재산정(550 req/s 도 8 코어)으로, 튜닝 결과가 다음 주기의 산정 입력이 된다.
🔑 사용률이 낮은데 응답이 길면 증설보다 구간 찾기가 먼저다 — 4단계의 CPU 45% 에서 서버를 늘렸다면 재고 조회 420 ms 는 그대로 남는다.
사용률 상한을 두는 까닭은 응답 시간이 사용률에 비례하지 않고 1 − U 에 반비례해 늘기 때문이다. 처리 시간 10 ms 인 단일 서버는 U 60% 에서 25 ms, 90% 에서 100 ms 가 된다.
그림 5 · 응답 시간은 사용률 60% 까지 완만하다가 80% 를 넘으면 가파르게 늘어, 산정은 100% 가 아니라 상한(60 ~ 70%)을 둔 자원량으로 셈한다.
⚠ R = S ÷ (1 − U) 는 도착 간격과 처리 시간이 무작위인 단일 서버 모델의 값이다. 코어가 여럿이면 같은 사용률에서 대기가 짧아 상한을 더 높게 잡기도 하므로, 실제 상한은 BMT 실측으로 정한다.
6비교 — 관련 기술과의 경계
| 기술 | 맡는 일 | 경계 | 넘기는 곳 |
|---|---|---|---|
| 시스템 성능 · 용량 관리 | 자원량 · 대수와 응답 시간 목표 | 피크 부하를 정상 상태에서 견디는가 | 고장 뒤 남는 대수 → RAS |
| 시스템 구성 모델 | 서버 · 클라이언트-서버 · P2P 구성 형태 | 어떤 모양으로 둘 것인가 | 형태별 필요 대수 → 성능 · 용량 관리 |
| 시스템 신뢰성 · 가용성(RAS) | 이중화 · 장애 관리 · 관찰성 | 고장이 나도 서비스가 이어지는가 · 장애 원인 추적 | 응답 시간 목표 감시 → APM |
| 분산 시스템 | CAP · 합의 · 분산 트랜잭션 | 노드가 나뉘어도 데이터가 맞는가 | 노드 사이 호출 지연 측정 → 성능 · 용량 관리 |
| 미들웨어 · 플랫폼 | MOM · RPC · 런타임 · 데이터 접근 표준 | 계층 사이를 어떻게 잇는가 | 연결 풀 · 스레드 수 튜닝 → 성능 · 용량 관리 |
| 클라우드 운영 | SLO · 오류 예산 · 자동 확장 운영 | 클라우드 자원을 어떻게 운영하나 | 확장 기준이 되는 사용률 상한 → 성능 · 용량 관리 |
분석질문이 «얼마나 많이 · 얼마나 빨리»이면 성능 · 용량 관리, «고장 나도»이면 RAS, «나뉘어도 맞는가»이면 분산 시스템으로 간다. 근거는 표의 「경계」 열 — 같은 N+1 구성도 N 은 용량 산정이, +1 은 RAS 의 이중화가 정한다.
7실무 진단 — 느림을 주기의 단계로 가르기
분석사용률부터 보고 구간 시간을 나중에 본다. 사용률이 상한을 넘으면 산정 · 증설로, 낮은데 느리면 APM 트레이스의 구간으로 가므로 아래 1 · 2행이 먼저 가르고 3 ~ 5행은 그 뒤에 본다(USE Method).
| # | 증상 | 의심 원인 | 단계 | 확인 명령 · 자료 | 판정 기준(근거) |
|---|---|---|---|---|---|
| 1 | 응답이 느리고 CPU 사용률이 상한 위 | 용량 부족 · 요청당 CPU 증가 | 용량 산정 | sar -u 1 5 의 %idle · sar -q 1 5 의 runq-sz | %idle 이 상한 밖(사례 40% 미만)이고 runq-sz 가 코어 수보다 계속 크면 재산정(sar(1) · USE Method 포화) |
| 2 | CPU 는 낮은데 p99 가 김 | 한 구간 대기(쿼리 · 외부 호출) | APM → 튜닝 | 트레이스의 span 별 시작 · 끝 시각 | 한 span 이 전체 응답의 절반 넘게 차지하면 그 구간부터 튜닝(OpenTelemetry Traces) |
| 3 | 평균은 정상인데 p99 만 나쁨 | 짧은 폭주 · 꼬리 지연 | APM | 1분 창 p99 · 실패한 요청의 지연 | 평균 대신 짧은 창의 p99 를 보고 실패 요청의 지연도 따로 센다(Google SRE Book 6장) |
| 4 | BMT 값과 운영 값이 크게 다름 | 시나리오가 실제 부하와 다름 | BMT | BMT 시나리오의 요청 종류 비율 ↔ APM 의 실제 비율 | 비율이 다르면 운영 기록으로 시나리오를 다시 짜 재측정 |
| 5 | 디스크 대기가 길다 | 저장 장치 포화 | 튜닝 · 산정 | sar -d 1 5 의 await · %util | %util 이 100% 가까이 붙고 await 이 늘면 디스크 포화(sar(1)) |
8시험 대비
www.q-net.or.kr시험에서는 성능 관리 체계 · 절차를 묻는 구조 · 구성형, 부하와 목표를 주고 필요한 자원과 개선 순서를 정하게 하는 구현 · 설계형이 나올 수 있다. 구조 · 구성형이면 그림 3 의 주기와 네 토픽의 시점 · 산출 표로 쓰고, 구현 · 설계형이면 그림 4 처럼 U = X × S 로 코어 수를 셈한 뒤 BMT · APM 값으로 검증 · 재산정까지 이어 쓴다.
- 개요 — 정의 · ISO/IEC 25010:2023 성능 효율성 세 부특성 · 세 지표(응답 시간 · 처리량 · 사용률)
- 관리 주기 — 그림 3 용량 산정 → BMT → APM → 튜닝 → 재산정 + 토픽별 시점 · 입력 · 산출 표
- 산정 원리 — 사용률 법칙 U = X × S · 사용률 상한 · 그림 5 응답 시간 곡선(60% 2.5배 · 90% 10배)
- 적용 사례 — 그림 4 400 req/s · 10 ms → 8 코어 · APM 구간 420 ms → 튜닝 → 550 req/s 재산정
- 감시 · 진단 — USE 방법 · 네 골든 시그널 · p99 · 진단 표(사용률 높음 / 낮은데 느림)
- 발전 방향 — 공개 BMT 세대 교체(SPEC CPU 2026) · 트레이스 표준(OpenTelemetry) · 자동 확장의 사용률 기준
꼭 쓸 키워드
용량 산정BMTAPM성능 튜닝사용률 법칙응답 시간처리량p99USE 방법골든 시그널
다른 답안과 차이를 내는 한 가지는 「사용률 상한 60 ~ 70%」를 관례로 적지 않고 R = S ÷ (1 − U) 곡선(그림 5)으로 근거를 보인 뒤, 튜닝이 줄인 S 가 다음 주기의 산정 값을 바꾸는 고리(그림 4 6단계)까지 셈하는 것이다.
9오해와 사실
- 오해사용률 100% 까지 쓰는 산정이 자원을 가장 아낀다.사실대기 행렬에서 응답 시간은 1 − U 에 반비례해 사용률 90% 면 처리 시간의 10배, 95% 면 20배가 되므로 상한을 두고 산정한다(그림 5).
- 오해평균 응답 시간이 목표 안이면 성능은 괜찮다.사실짧은 폭주와 꼬리 지연은 평균에 묻히므로 짧은 창의 p99 를 보고, 실패한 요청의 지연도 따로 센다(Google SRE Book 6장).
- 오해BMT 를 통과한 구성은 운영에서도 같은 성능을 낸다.사실BMT 는 정해진 시나리오의 합성 부하라 실제 요청 비율 · 데이터 양이 다르면 그림 4 의 4단계처럼 운영에서 새 병목이 나오며, 그래서 APM 이 주기에 들어 있다.
10핵심 정리
| 구분 | 단계 | 묻는 질문 | 주요 식 · 지표 | 도구 · 자료 |
|---|---|---|---|---|
| 용량 산정 | 계획 | 몇 코어 · 몇 대가 필요한가 | U = X × S · 사용률 상한 | 규모산정 지침 · 부하 예측 |
| BMT | 검증 | 후보 구성이 목표를 내는가 | 처리량 · p99 | 공개 BMT(SPEC · TPC) · 부하 도구 |
| APM | 감시 | 운영 중 어디가 느린가 | 구간별 시간 · 오류율 | 트레이스 · span |
| 성능 튜닝 | 개선 | 병목을 어떻게 줄이나 | 요청당 서비스 시간 S | 프로파일 · 실행 계획 |
| 재산정 | 다음 주기 | 늘어난 부하를 받는가 | 새 X × 줄어든 S | 운영 측정 기록 |
| 포화 | 경보 | 대기 행렬이 쌓이는가 | runq-sz · await · 1 − U | sar · USE 방법 |
11참고 문헌
- 먼저 볼 문헌
- ★ ISO/IEC 25010:2023 Systems and software engineering - SQuaRE - Product quality model — 성능 효율성의 세 부특성(시간 반응성 · 자원 활용성 · 용량)을 볼 때
- ★ Lazowska, Zahorjan, Graham, Sevcik. Quantitative System Performance - Computer System Analysis Using Queueing Network Models — 사용률 법칙 U = X × S 와 병목 한계로 용량을 셈하는 원리를 볼 때
- ★ Site Reliability Engineering - Chapter 6 Monitoring Distributed Systems — 네 골든 시그널과 p99 · 실패 요청 지연을 따로 보는 까닭을 볼 때
- ★ The USE Method (Brendan Gregg) — 자원마다 사용률 · 포화 · 오류를 차례로 보는 진단 순서를 볼 때
- ★ OpenTelemetry Concepts - Traces — APM 이 요청 경로를 span 으로 나눠 구간 시간을 재는 구조를 볼 때
- 본문 근거
- SPEC CPU 2026 — Standard Performance Evaluation Corporation · 2026-05 ·
www.spec.org/cpu2026/· 확인 2026-11-14 - SPEC CPU 2017 (retirement schedule) — Standard Performance Evaluation Corporation · 2026-11 ·
www.spec.org/cpu2017/· 확인 2026-11-14 - TTAK.KO-10.0292/R3 정보시스템 하드웨어 규모산정 지침 — 한국정보통신기술협회(TTA) · 2023-12 ·
www.tta.or.kr/· 확인 2026-11-14 - sar(1) Linux manual page — sysstat · man7.org · 2026-05 ·
man7.org/linux/man-pages/man1/sar.1.html· 확인 2026-11-14