캐시 일관성Cache Coherence
여러 코어가 같은 메모리 주소의 사본을 각자의 캐시에 둘 때, 어느 코어가 읽든 가장 최근에 쓴 값을 보도록 캐시 줄마다 상태를 두고 맞추는 하드웨어 규약이다. 대표 규약은 줄마다 M · E · S · I 네 상태를 두는 MESI 다.
1요약
- 캐시 일관성은 메모리 계층에서 코어마다 따로 둔 캐시 사이의 하드웨어 규약으로, 주소를 캐시 줄(흔히 64바이트) 단위로 묶어 상태를 두며 그 위에서 락 · 원자 연산 · 공유 메모리 스레드가 돈다(Papamarcos · Patel 1984).
- 규약이 없으면 한 코어가 쓴 값을 다른 코어가 자기 사본의 옛 값으로 읽어 상호 배제가 깨지고(Lamport 1979), 규약이 있으면 대가로 쓰기마다 다른 사본의 무효화가 따른다 — 두 코어가 한 줄을 번갈아 쓰면 100만 바퀴에 일관성 처리 400만 회가 생긴다(설명용 가정 값 · 동작 6단계).
- 「스레드를 늘렸더니 느려졌다」는 같은 바이트를 함께 쓰는가로 가른다 — 같은 변수를 쓰면 진짜 공유라 알고리즘을, 다른 변수가 한 줄에 놓였을 뿐이면 거짓 공유라 데이터 배치를 고친다.
2등장 배경
1970년대 대형 컴퓨터가 프로세서마다 캐시를 달자 한 메모리 블록의 사본이 여러 캐시에 흩어져 값이 갈렸다. Censier · Feautrier(1978)는 메모리 블록마다 사본을 가진 캐시를 존재 비트로 적고 그 캐시에만 알리는 디렉터리 방식을 냈다.
공유 버스에 마이크로프로세서를 여럿 붙인 시스템에서는 모든 캐시가 버스의 요청을 엿보는 스누핑이 퍼졌다. Goodman(1983)의 write-once 규약 뒤 Papamarcos · Patel(1984)이 «혼자 가진 깨끗한 줄» 상태를 더해 쓰기 때 버스 요청을 아끼는 네 상태 규약을 냈고, 이것이 MESI 로 불린다. Sweazey · Smith(1986)는 O(소유) 상태를 더한 MOESI 틀로 여러 규약을 한 분류에 묶었다.
지금은 한 칩 안 코어 수십 개와 소켓 사이를 이 규약이 맡고, 코어가 많아 방송이 부담인 칩은 공유 캐시 옆에 디렉터리를 둔다. 가속기 · 메모리 장치까지 일관성을 넓히는 링크는 CXL 이 맡는다.
3쉽게 이해하기 — 기획팀의 복사본과 딱지
기획팀 세 사람이 서고에 있는 보고서 원본을 각자 책상에 복사해 두고 일한다. 3쪽을 고치려는 직원 A 는 먼저 사내 방송으로 「3쪽을 고친다」고 알리고, B 와 C 는 자기 3쪽 복사본에 폐기 도장을 찍는다. A 는 혼자 고친 뒤 딱지를 「고침」으로 바꾸고, 나중에 B 가 3쪽을 달라고 하면 서고까지 가지 않고 A 가 바로 넘겨준다. 고친 쪽은 나중에 서고 원본에 옮겨 적는다.
그림 1 · 고치려는 사람이 먼저 방송하고 나머지 복사본을 폐기하므로, 최신 3쪽은 언제나 한 책상에만 있다.
그림 2 · 복사본의 딱지 넷이 MESI 네 상태다 — 원본과 같은가, 나 말고 가진 사람이 있는가 두 물음으로 갈린다.
| 비유 속 역할 | 일관성 요소 | 실제로 하는 일 |
|---|---|---|
| 직원 A · B · C | 코어 · 개인 캐시 | 각자 사본을 두고 읽고 쓴다 |
| 3쪽 복사본 | 캐시 줄 | 메모리의 줄 하나를 사본으로 담는다 |
| 딱지 | 줄 상태(MESI) | 사본이 최신인가 · 혼자인가를 적는다 |
| 사내 방송 | 스누핑 요청 | 모든 캐시가 상호 연결의 요청을 엿본다 |
| 폐기 도장 | 무효화 | 쓰기 전에 다른 사본을 I 로 만든다 |
| 바로 넘겨주기 | 캐시 간 전송 | M 사본을 가진 캐시가 값을 직접 보낸다 |
| 서고 원본 | 주 메모리 · 되쓰기 | 고친 줄을 나중에 메모리에 쓴다 |
⚠ 비유가 맞지 않는 곳: 실제 단위는 쪽이 아니라 64바이트 안팎의 줄이라 같은 줄에 놓인 다른 변수도 함께 폐기되고(거짓 공유), 코어가 많은 칩은 방송 대신 디렉터리가 사본을 가진 캐시에만 알린다.
4구조 — 캐시 줄 상태와 일관성 요청
그림 3 · 사본은 개인 캐시마다 상태를 달고, 상호 연결의 요청과 디렉터리의 존재 비트가 누구에게 무효화를 보낼지 정한다.
| 요소 | 크기 · 값 | 역할 | 근거 |
|---|---|---|---|
| 캐시 줄 | 32 · 64 · 128바이트(구현마다) | 일관성을 맞추는 최소 단위 | P0154R1 부록 · sysfs coherency_ |
| 줄 상태 | M · E · S · I(2비트) | 사본이 최신인가 · 혼자인가 표시 | Papamarcos · Patel 1984 |
| 읽기 요청 | 줄 하나 | 사본을 받아 E 또는 S 가 됨 | 같은 원문 |
| 소유 요청 · 무효화 | 줄 하나 | 다른 사본을 I 로 만들고 M 이 됨 | 같은 원문 |
| 되쓰기 · 캐시 간 전송 | 줄 하나 | M 사본을 메모리 또는 요청한 캐시로 | Sweazey · Smith 1986 |
| 스누핑 | 상태 비트만 | 모든 캐시가 요청을 엿봄 | Goodman 1983 |
| 디렉터리 | 줄마다 코어 수만큼 존재 비트 | 사본을 가진 캐시에만 알림 | Censier · Feautrier 1978 |
🔑 일관성은 «한 주소»의 사본만 맞춘다. 서로 다른 주소에 쓴 순서가 다른 코어에 어떻게 보이는지는 메모리 일관성 모델과 펜스가 정한다(Lamport 1979).
5동작 — 두 코어가 플래그 한 줄을 주고받는 사례
코어 0 이 값을 만들고 flag 를 1 로, 코어 1 이 그것을 보고 0 으로 되돌리는 주고받기를 디렉터리 기반 MESI 로 따라간다. flag 주소 0x7000_1040 과 바퀴 수는 설명용 가정 값이다.
- 코어 1 읽기 — flag 를 읽다 미스가 나고, 디렉터리에 사본이 없어 메모리 값 0 을 받아 E 가 된다(존재 비트 0100).
- 코어 0 읽기 — 디렉터리가 단독 사본을 가진 코어 1 에 알려 E 를 S 로 낮추고, 코어 0 도 S 로 받는다(존재 비트 1100).
- 코어 0 쓰기 — S 줄이라 바로 쓰지 못하고 소유 요청을 보낸다. 코어 1 사본이 I 가 되고 코어 0 은 M 에서 flag=1 을 쓴다.
- 코어 1 다시 읽기 — I 라 미스다. 디렉터리가 M 을 가진 코어 0 에 전달을 요청하고, 코어 0 이 값 1 을 코어 1 로 직접 넘기며 메모리에 되써 둘 다 S 가 된다.
- 코어 1 쓰기 — flag=0 을 쓰려고 소유 요청을 보내 코어 0 사본이 I, 코어 1 이 M 이 된다.
- 세기 — 쓰기 → 읽기 → 쓰기 → 읽기 한 바퀴에 무효화 2회 · 캐시 간 전송 2회가 생겨, 100만 바퀴면 일관성 처리 400만 회다(직접 계산).
MOESI 라면 4단계에서 코어 0 이 O 상태로 남아 메모리 되쓰기를 미룬다(Sweazey · Smith 1986).
그림 4 · flag 줄은 쓰는 쪽으로 옮겨 다니고, 쓸 때마다 상대 사본이 I 가 되어 다음 읽기가 미스로 시작한다.
그림 5 · 내 읽기 · 쓰기는 줄을 위로 올리고(I → E · S → M), 남의 읽기는 S 로, 남의 쓰기는 어느 상태든 I 로 끌어내린다.
🔑 쓰기의 비용은 쓴 횟수가 아니라 다른 사본의 수가 정한다. E 줄은 요청 없이 M 이 되지만 S 줄은 쓸 때마다 무효화를 보내야 한다.
6비교 — 스누핑과 디렉터리
| 기준 | 스누핑 | 디렉터리 |
|---|---|---|
| 요청이 가는 곳 | 모든 캐시에 방송 | 존재 비트가 1 인 캐시에만 |
| 추가 저장 | 줄 상태 비트뿐 | 줄마다 코어 수만큼 존재 비트 |
| 미스 한 번의 경로 | 방송 한 번에 답 | 디렉터리를 거쳐 2 ~ 3단계 |
| 코어가 늘 때 | 방송량이 코어 수에 따라 늘어남 | 실제 사본 수만큼만 메시지 |
| 잘 맞는 곳 | 코어가 적은 버스 · 링 | 코어가 많은 칩 · 여러 소켓 |
| 처음 낸 원문 | Goodman 1983 | Censier · Feautrier 1978 |
분석코어가 적고 공유 매체가 하나면 스누핑이, 코어 · 소켓이 늘어 방송이 대역폭을 먹으면 디렉터리가 맞다. 근거는 표의 「코어가 늘 때」 행으로, 방송량은 코어 수를 따르고 디렉터리 메시지는 실제 사본 수를 따른다.
7실무 진단 — 공유 메모리 프로그램이 느릴 때
분석먼저 perf c2c 로 경합이 큰 줄을 찾고, 그 줄 안에서 코어들이 같은 오프셋을 쓰는지 다른 오프셋을 쓰는지로 진짜 공유와 거짓 공유를 가른다. 거짓 공유는 배치만 바꾸면 사라지지만 진짜 공유는 알고리즘을 바꿔야 하므로(표 1 · 2행) 이 구분이 고칠 곳을 정한다.
| # | 증상 | 의심 원인 | 구분 | 확인 명령 | 판정 기준(근거) |
|---|---|---|---|---|---|
| 1 | 스레드별 카운터인데 스레드를 늘리면 느려짐 | 거짓 공유 | 데이터 배치 | perf c2c record → perf c2c report | 한 Cacheline 안에서 코어마다 다른 Offset 이 HITM 상위(perf-c2c(1)) |
| 2 | 락 하나에 모든 스레드가 몰려 처리량이 그대로 | 진짜 공유(락 줄 주고받기) | 알고리즘 | perf c2c report | HITM 이 한 Offset 에 몰림 → 락 나누기 · 스레드별 누적 뒤 합치기 |
| 3 | 소켓이 다른 코어끼리만 느림 | 소켓 사이 캐시 간 전송 | 스레드 배치 | perf c2c report | Rmt Hitm 몫이 Lcl Hitm 보다 큼(perf-c2c(1)) |
| 4 | 간격을 넣었는데도 경합이 남음 | 간격이 줄 크기보다 작음 | 데이터 배치 | cat / | 객체 간격 ≥ 이 값 또는 hardware_ |
HITM 은 다른 캐시의 수정된 줄을 맞힌 접근으로, 동작 4단계 같은 캐시 간 전송이 곧 이 수다. 표본을 뽑는 방식은 프로세서마다 달라 일부 프로세서는 이 명령을 지원하지 않는다(perf-c2c(1)).
8시험 대비
www.q-net.or.kr시험에서는 MESI 상태와 전이를 묻는 동작 · 절차 설명형, 스누핑과 디렉터리를 견주는 비교형, 거짓 공유 같은 성능 저하를 묻는 장애 대응형으로 나올 수 있다. 메모리 순서 · 펜스는 메모리 일관성 모델이 다루므로 경계 한 줄만 둔다.
- 개요 — 정의 · 공유 메모리 멀티코어의 사본 문제 · 일관성 단위 = 캐시 줄(흔히 64바이트)
- 구조 — 그림 3 개인 캐시 · 상호 연결 · 디렉터리(존재 비트) + 요소 표
- MESI 상태 전이 — 그림 5 상태 전이도(내 읽기 · 쓰기 / 남의 읽기 · 쓰기) + 네 상태 표
- 동작 사례 — 그림 4 플래그 주고받기 순서도(E → S → M · I → 캐시 간 전송) + 바퀴당 4회
- 스누핑 · 디렉터리 비교 — 비교표 6행 · MOESI 의 O 상태(되쓰기 미룸)
- 성능 문제와 대응 — 거짓 공유 ↔ 진짜 공유 · perf c2c · 줄 크기 간격(P0154R1)
꼭 쓸 키워드
캐시 줄MESIMOESI무효화스누핑디렉터리존재 비트캐시 간 전송거짓 공유순차 일관성
9오해와 사실
- 오해거짓 공유는 여러 스레드가 같은 변수를 쓸 때 생긴다.사실서로 다른 변수가 같은 캐시 줄에 놓여 생기며, 두 변수를 hardware_destructive_interference_size 이상 떨어뜨리면 사라진다(P0154R1).
- 오해캐시 일관성은 운영체제가 맞춘다.사실줄 상태는 캐시 제어기가 요청마다 하드웨어로 바꾸며, 소프트웨어는 줄 크기에 맞춘 배치로 그 비용만 줄인다(Papamarcos · Patel 1984).
10핵심 정리
| 상태 · 항목 | 뜻 | 메모리 값과 | 다른 사본 | 내가 쓸 때 | 남이 읽을 때 |
|---|---|---|---|---|---|
| M 수정 | 이 캐시만 최신 | 다름 | 없음 | 요청 없이 씀 | 값 넘김 · 되쓰기 → S |
| E 배타 | 혼자 가진 깨끗한 줄 | 같음 | 없음 | 요청 없이 M | S 로 낮춤 |
| S 공유 | 여럿이 읽는 줄 | 같음 | 있을 수 있음 | 무효화 보내고 M | 그대로 S |
| I 무효 | 쓸 수 없는 줄 | — | — | 소유 요청 → M | 해당 없음 |
| O 소유(MOESI) | 고친 줄을 남과 나눔 | 다름 | 있음(S) | 무효화 보내고 M | 값 넘기고 O 유지 |
| 디렉터리 항목 | 줄마다 사본 목록 | 상태로 적음 | 존재 비트로 셈 | 표시된 캐시에만 무효화 | 소유 캐시에 전달 요청 |
11참고 문헌
- 먼저 볼 문헌
- ★ A Low-Overhead Coherence Solution for Multiprocessors with Private Cache Memories (M. S. Papamarcos · J. H. Patel) ISCA 1984 pp.348-354 — MESI 로 불리는 네 상태 규약의 원문을 볼 때
- ★ A New Solution to Coherence Problems in Multicache Systems (L. M. Censier · P. Feautrier) IEEE Transactions on Computers C-27(12) pp.1112-1118 — 존재 비트로 사본을 적는 디렉터리 방식의 출발점을 볼 때
- ★ A Class of Compatible Cache Consistency Protocols and their Support by the IEEE Futurebus (P. Sweazey · A. J. Smith) ISCA 1986 pp.414-423 — MOESI 다섯 상태로 여러 규약을 한 분류에 묶는 틀을 볼 때
- ★ P0154R1 constexpr std::hardware_{constructive,destructive}_interference_size (JF Bastien · O. Giroux) — 거짓 공유를 피하는 객체 간격과 구현별 줄 크기를 볼 때
- ★ perf-c2c(1) Linux manual page — 경합이 큰 캐시 줄과 Lcl · Rmt HITM 을 읽을 때
- 본문 근거
- Using Cache Memory to Reduce Processor-Memory Traffic (J. R. Goodman) ISCA 1983 pp.124-131 — ACM · 1983-06 ·
doi.org/10.1145/800046.801647· 확인 2026-11-14 - How to Make a Multiprocessor Computer That Correctly Executes Multiprocess Programs (L. Lamport) IEEE Transactions on Computers C-28(9) pp.690-691 — IEEE · 1979-09 ·
lamport.azurewebsites.net/pubs/pubs.html· 확인 2026-11-14 - ABI testing files - sysfs-devices-system-cpu (cpu*/cache/index*/coherency_line_size) — The Linux Kernel documentation · 2026-11 ·
docs.kernel.org/admin-guide/abi-testing-files.html· 확인 2026-11-14