IT › 컴퓨터 시스템 › 컴퓨터 구조 › 메모리 계층

캐시 일관성Cache Coherence

여러 코어가 같은 메모리 주소의 사본을 각자의 캐시에 둘 때, 어느 코어가 읽든 가장 최근에 쓴 값을 보도록 캐시 줄마다 상태를 두고 맞추는 하드웨어 규약이다. 대표 규약은 줄마다 M · E · S · I 네 상태를 두는 MESI 다.

1요약

  1. 캐시 일관성은 메모리 계층에서 코어마다 따로 둔 캐시 사이의 하드웨어 규약으로, 주소를 캐시 줄(흔히 64바이트) 단위로 묶어 상태를 두며 그 위에서 락 · 원자 연산 · 공유 메모리 스레드가 돈다(Papamarcos · Patel 1984).
  2. 규약이 없으면 한 코어가 쓴 값을 다른 코어가 자기 사본의 옛 값으로 읽어 상호 배제가 깨지고(Lamport 1979), 규약이 있으면 대가로 쓰기마다 다른 사본의 무효화가 따른다 — 두 코어가 한 줄을 번갈아 쓰면 100만 바퀴에 일관성 처리 400만 회가 생긴다(설명용 가정 값 · 동작 6단계).
  3. 「스레드를 늘렸더니 느려졌다」는 같은 바이트를 함께 쓰는가로 가른다 — 같은 변수를 쓰면 진짜 공유라 알고리즘을, 다른 변수가 한 줄에 놓였을 뿐이면 거짓 공유라 데이터 배치를 고친다.

2등장 배경

1970년대 대형 컴퓨터가 프로세서마다 캐시를 달자 한 메모리 블록의 사본이 여러 캐시에 흩어져 값이 갈렸다. Censier · Feautrier(1978)는 메모리 블록마다 사본을 가진 캐시를 존재 비트로 적고 그 캐시에만 알리는 디렉터리 방식을 냈다.

공유 버스에 마이크로프로세서를 여럿 붙인 시스템에서는 모든 캐시가 버스의 요청을 엿보는 스누핑이 퍼졌다. Goodman(1983)의 write-once 규약 뒤 Papamarcos · Patel(1984)이 «혼자 가진 깨끗한 줄» 상태를 더해 쓰기 때 버스 요청을 아끼는 네 상태 규약을 냈고, 이것이 MESI 로 불린다. Sweazey · Smith(1986)는 O(소유) 상태를 더한 MOESI 틀로 여러 규약을 한 분류에 묶었다.

지금은 한 칩 안 코어 수십 개와 소켓 사이를 이 규약이 맡고, 코어가 많아 방송이 부담인 칩은 공유 캐시 옆에 디렉터리를 둔다. 가속기 · 메모리 장치까지 일관성을 넓히는 링크는 CXL 이 맡는다.

3쉽게 이해하기 — 기획팀의 복사본과 딱지

기획팀 세 사람이 서고에 있는 보고서 원본을 각자 책상에 복사해 두고 일한다. 3쪽을 고치려는 직원 A 는 먼저 사내 방송으로 「3쪽을 고친다」고 알리고, B 와 C 는 자기 3쪽 복사본에 폐기 도장을 찍는다. A 는 혼자 고친 뒤 딱지를 「고침」으로 바꾸고, 나중에 B 가 3쪽을 달라고 하면 서고까지 가지 않고 A 가 바로 넘겨준다. 고친 쪽은 나중에 서고 원본에 옮겨 적는다.

최신 3쪽은 한 책상에만 — 고치기 전에 방송하고 나머지 복사본을 폐기한다 직원 A 3쪽 사본 고침 코어 0 · L1 캐시 직원 B 3쪽 사본 폐기 코어 1 · L1 캐시 직원 C 3쪽 사본 폐기 코어 2 · L1 캐시 3 4 사내 방송 상호 연결 · 스누핑 1 2 2 서고 원본 주 메모리(DRAM) 5 1 A 가 고친다고 방송 · 2 B · C 복사본 폐기 · 3 A 혼자 고침(딱지 고침) 4 B 가 달라면 A 가 바로 넘김 · 5 나중에 서고 원본에 옮겨 적음(회색 선)

그림 1 · 고치려는 사람이 먼저 방송하고 나머지 복사본을 폐기하므로, 최신 3쪽은 언제나 한 책상에만 있다.

복사해 두기원본을 책상마다
고친다 방송고치기 전에 먼저
폐기 도장다른 복사본에
혼자 고치기딱지는 고침
바로 넘기기달라는 사람에게
원본에 옮기기나중에 서고로
비유 — 복사본의 딱지 실제 — 캐시 줄 상태(MESI) 고침 내가 고쳤고 원본과 다르다 M 수정(Modified) 이 캐시만 최신 값 · 메모리는 옛 값 나만 나만 복사했고 원본과 같다 E 배타(Exclusive) 사본 하나 · 메모리와 같음 · 바로 쓰기 같이 여럿이 복사했고 원본과 같다 S 공유(Shared) 사본 여럿 · 쓰려면 먼저 무효화 폐기 도장이 찍혀 다시 받아야 한다 I 무효(Invalid) 쓸 수 없음 · 읽으면 미스 왼쪽 = 비유 · 오른쪽 = 실제 · 근거 = Papamarcos · Patel 1984(네 상태 규약)

그림 2 · 복사본의 딱지 넷이 MESI 네 상태다 — 원본과 같은가, 나 말고 가진 사람이 있는가 두 물음으로 갈린다.

비유 속 역할일관성 요소실제로 하는 일
직원 A · B · C코어 · 개인 캐시각자 사본을 두고 읽고 쓴다
3쪽 복사본캐시 줄메모리의 줄 하나를 사본으로 담는다
딱지줄 상태(MESI)사본이 최신인가 · 혼자인가를 적는다
사내 방송스누핑 요청모든 캐시가 상호 연결의 요청을 엿본다
폐기 도장무효화쓰기 전에 다른 사본을 I 로 만든다
바로 넘겨주기캐시 간 전송M 사본을 가진 캐시가 값을 직접 보낸다
서고 원본주 메모리 · 되쓰기고친 줄을 나중에 메모리에 쓴다

⚠ 비유가 맞지 않는 곳: 실제 단위는 쪽이 아니라 64바이트 안팎의 줄이라 같은 줄에 놓인 다른 변수도 함께 폐기되고(거짓 공유), 코어가 많은 칩은 방송 대신 디렉터리가 사본을 가진 캐시에만 알린다.

4구조 — 캐시 줄 상태와 일관성 요청

코어 0 줄 X · S 개인 캐시 L1 · L2 코어 1 줄 X · S 개인 캐시 L1 · L2 코어 2 줄 X · I(무효) 개인 캐시 L1 · L2 코어 3 줄 X 없음 개인 캐시 L1 · L2 상호 연결 — 일관성 요청: 읽기 · 소유 · 무효화 · 되쓰기 공유 L3 · 디렉터리 줄 X 1 1 0 0 S 존재 비트(코어 0 · 1 · 2 · 3) 상태 쓰기 요청이 오면 존재 비트가 1 인 코어에만 무효화를 보낸다 주 메모리(DRAM) 줄 X 원본 = 64바이트 S 상태라 값이 사본과 같다 사본(S) 무효(I) 표 · 제어(디렉터리) 위치(주 메모리) 스누핑 방식은 디렉터리 없이 모든 캐시가 상호 연결의 요청을 엿본다 · 점선 = 사본 없음

그림 3 · 사본은 개인 캐시마다 상태를 달고, 상호 연결의 요청과 디렉터리의 존재 비트가 누구에게 무효화를 보낼지 정한다.

요소크기 · 값역할근거
캐시 줄32 · 64 · 128바이트(구현마다)일관성을 맞추는 최소 단위P0154R1 부록 · sysfs coherency_line_size
줄 상태M · E · S · I(2비트)사본이 최신인가 · 혼자인가 표시Papamarcos · Patel 1984
읽기 요청줄 하나사본을 받아 E 또는 S 가 됨같은 원문
소유 요청 · 무효화줄 하나다른 사본을 I 로 만들고 M 이 됨같은 원문
되쓰기 · 캐시 간 전송줄 하나M 사본을 메모리 또는 요청한 캐시로Sweazey · Smith 1986
스누핑상태 비트만모든 캐시가 요청을 엿봄Goodman 1983
디렉터리줄마다 코어 수만큼 존재 비트사본을 가진 캐시에만 알림Censier · Feautrier 1978

🔑 일관성은 «한 주소»의 사본만 맞춘다. 서로 다른 주소에 쓴 순서가 다른 코어에 어떻게 보이는지는 메모리 일관성 모델과 펜스가 정한다(Lamport 1979).

5동작 — 두 코어가 플래그 한 줄을 주고받는 사례

코어 0 이 값을 만들고 flag 를 1 로, 코어 1 이 그것을 보고 0 으로 되돌리는 주고받기를 디렉터리 기반 MESI 로 따라간다. flag 주소 0x7000_1040 과 바퀴 수는 설명용 가정 값이다.

  1. 코어 1 읽기 — flag 를 읽다 미스가 나고, 디렉터리에 사본이 없어 메모리 값 0 을 받아 E 가 된다(존재 비트 0100).
  2. 코어 0 읽기 — 디렉터리가 단독 사본을 가진 코어 1 에 알려 E 를 S 로 낮추고, 코어 0 도 S 로 받는다(존재 비트 1100).
  3. 코어 0 쓰기 — S 줄이라 바로 쓰지 못하고 소유 요청을 보낸다. 코어 1 사본이 I 가 되고 코어 0 은 M 에서 flag=1 을 쓴다.
  4. 코어 1 다시 읽기 — I 라 미스다. 디렉터리가 M 을 가진 코어 0 에 전달을 요청하고, 코어 0 이 값 1 을 코어 1 로 직접 넘기며 메모리에 되써 둘 다 S 가 된다.
  5. 코어 1 쓰기 — flag=0 을 쓰려고 소유 요청을 보내 코어 0 사본이 I, 코어 1 이 M 이 된다.
  6. 세기 — 쓰기 → 읽기 → 쓰기 → 읽기 한 바퀴에 무효화 2회 · 캐시 간 전송 2회가 생겨, 100만 바퀴면 일관성 처리 400만 회다(직접 계산).

MOESI 라면 4단계에서 코어 0 이 O 상태로 남아 메모리 되쓰기를 미룬다(Sweazey · Smith 1986).

코어 0 디렉터리 · 상호 연결 코어 1 1 읽기(미스) 값 0 · 사본 없음 E 2 읽기(미스) 강등 알림 E → S 값 0 · 사본 있음 S S 3 소유 요청(쓰기) 무효화 M I 4 읽기(미스) 전달 요청 값 1 직접 전달 · 메모리 되쓰기 S S 5 소유 요청(쓰기) 무효화 I M M 수정 E 배타 S 공유 I 무효 굵은 선 = 요청 · 데이터 · 회색 선 = 응답 · 통지 줄 = flag 가 든 0x7000_1040 부터 64바이트(설명용 가정 값) · 시간은 아래로

그림 4 · flag 줄은 쓰는 쪽으로 옮겨 다니고, 쓸 때마다 상대 사본이 I 가 되어 다음 읽기가 미스로 시작한다.

E · 배타 사본 하나 · 메모리와 같음 I · 무효 쓸 수 없음 · 읽으면 미스 M · 수정 이 캐시만 최신 값 S · 공유 사본 여럿 · 메모리와 같음 내 읽기(사본 없음) 남 쓰기 내 읽기(사본 있음) 남 쓰기 내 쓰기(소유 요청) 남 쓰기 남 읽기 내 쓰기(요청 없음) 내 쓰기(무효화 보냄) 남 읽기(값 넘김 · 되쓰기) 굵은 선 = 내 코어의 읽기 · 쓰기 회색 선 = 다른 코어의 요청(엿보기 · 디렉터리 알림) 근거 = Papamarcos · Patel 1984 · 남 쓰기를 받으면 어느 상태든 I 가 된다

그림 5 · 내 읽기 · 쓰기는 줄을 위로 올리고(I → E · S → M), 남의 읽기는 S 로, 남의 쓰기는 어느 상태든 I 로 끌어내린다.

🔑 쓰기의 비용은 쓴 횟수가 아니라 다른 사본의 수가 정한다. E 줄은 요청 없이 M 이 되지만 S 줄은 쓸 때마다 무효화를 보내야 한다.

6비교 — 스누핑과 디렉터리

기준스누핑디렉터리
요청이 가는 곳모든 캐시에 방송존재 비트가 1 인 캐시에만
추가 저장줄 상태 비트뿐줄마다 코어 수만큼 존재 비트
미스 한 번의 경로방송 한 번에 답디렉터리를 거쳐 2 ~ 3단계
코어가 늘 때방송량이 코어 수에 따라 늘어남실제 사본 수만큼만 메시지
잘 맞는 곳코어가 적은 버스 · 링코어가 많은 칩 · 여러 소켓
처음 낸 원문Goodman 1983Censier · Feautrier 1978

분석코어가 적고 공유 매체가 하나면 스누핑이, 코어 · 소켓이 늘어 방송이 대역폭을 먹으면 디렉터리가 맞다. 근거는 표의 「코어가 늘 때」 행으로, 방송량은 코어 수를 따르고 디렉터리 메시지는 실제 사본 수를 따른다.

7실무 진단 — 공유 메모리 프로그램이 느릴 때

분석먼저 perf c2c 로 경합이 큰 줄을 찾고, 그 줄 안에서 코어들이 같은 오프셋을 쓰는지 다른 오프셋을 쓰는지로 진짜 공유와 거짓 공유를 가른다. 거짓 공유는 배치만 바꾸면 사라지지만 진짜 공유는 알고리즘을 바꿔야 하므로(표 1 · 2행) 이 구분이 고칠 곳을 정한다.

#증상의심 원인구분확인 명령판정 기준(근거)
1스레드별 카운터인데 스레드를 늘리면 느려짐거짓 공유데이터 배치perf c2c record → perf c2c report한 Cacheline 안에서 코어마다 다른 Offset 이 HITM 상위(perf-c2c(1))
2락 하나에 모든 스레드가 몰려 처리량이 그대로진짜 공유(락 줄 주고받기)알고리즘perf c2c reportHITM 이 한 Offset 에 몰림 → 락 나누기 · 스레드별 누적 뒤 합치기
3소켓이 다른 코어끼리만 느림소켓 사이 캐시 간 전송스레드 배치perf c2c reportRmt Hitm 몫이 Lcl Hitm 보다 큼(perf-c2c(1))
4간격을 넣었는데도 경합이 남음간격이 줄 크기보다 작음데이터 배치cat /sys/devices/system/cpu/cpu0/cache/index0/coherency_line_size객체 간격 ≥ 이 값 또는 hardware_destructive_interference_size(P0154R1)

HITM 은 다른 캐시의 수정된 줄을 맞힌 접근으로, 동작 4단계 같은 캐시 간 전송이 곧 이 수다. 표본을 뽑는 방식은 프로세서마다 달라 일부 프로세서는 이 명령을 지원하지 않는다(perf-c2c(1)).

8시험 대비

출제 정보 정보관리(137회) · 컴퓨터시스템응용(140회, 132회, 123회, 71회)문제 원문 — 큐넷 자료실 「기출문제(기술사)」 www.q-net.or.kr

시험에서는 MESI 상태와 전이를 묻는 동작 · 절차 설명형, 스누핑과 디렉터리를 견주는 비교형, 거짓 공유 같은 성능 저하를 묻는 장애 대응형으로 나올 수 있다. 메모리 순서 · 펜스는 메모리 일관성 모델이 다루므로 경계 한 줄만 둔다.

답안 목차
  1. 개요 — 정의 · 공유 메모리 멀티코어의 사본 문제 · 일관성 단위 = 캐시 줄(흔히 64바이트)
  2. 구조 — 그림 3 개인 캐시 · 상호 연결 · 디렉터리(존재 비트) + 요소 표
  3. MESI 상태 전이 — 그림 5 상태 전이도(내 읽기 · 쓰기 / 남의 읽기 · 쓰기) + 네 상태 표
  4. 동작 사례 — 그림 4 플래그 주고받기 순서도(E → S → M · I → 캐시 간 전송) + 바퀴당 4회
  5. 스누핑 · 디렉터리 비교 — 비교표 6행 · MOESI 의 O 상태(되쓰기 미룸)
  6. 성능 문제와 대응 — 거짓 공유 ↔ 진짜 공유 · perf c2c · 줄 크기 간격(P0154R1)

꼭 쓸 키워드
캐시 줄MESIMOESI무효화스누핑디렉터리존재 비트캐시 간 전송거짓 공유순차 일관성

9오해와 사실

  • 오해거짓 공유는 여러 스레드가 같은 변수를 쓸 때 생긴다.
    사실서로 다른 변수가 같은 캐시 줄에 놓여 생기며, 두 변수를 hardware_destructive_interference_size 이상 떨어뜨리면 사라진다(P0154R1).
  • 오해캐시 일관성은 운영체제가 맞춘다.
    사실줄 상태는 캐시 제어기가 요청마다 하드웨어로 바꾸며, 소프트웨어는 줄 크기에 맞춘 배치로 그 비용만 줄인다(Papamarcos · Patel 1984).

10핵심 정리

상태 · 항목뜻메모리 값과다른 사본내가 쓸 때남이 읽을 때
M 수정이 캐시만 최신다름없음요청 없이 씀값 넘김 · 되쓰기 → S
E 배타혼자 가진 깨끗한 줄같음없음요청 없이 MS 로 낮춤
S 공유여럿이 읽는 줄같음있을 수 있음무효화 보내고 M그대로 S
I 무효쓸 수 없는 줄——소유 요청 → M해당 없음
O 소유(MOESI)고친 줄을 남과 나눔다름있음(S)무효화 보내고 M값 넘기고 O 유지
디렉터리 항목줄마다 사본 목록상태로 적음존재 비트로 셈표시된 캐시에만 무효화소유 캐시에 전달 요청

11참고 문헌

  1. 먼저 볼 문헌
  2. ★ A Low-Overhead Coherence Solution for Multiprocessors with Private Cache Memories (M. S. Papamarcos · J. H. Patel) ISCA 1984 pp.348-354 — MESI 로 불리는 네 상태 규약의 원문을 볼 때
    ACM · IEEE · 1984-06 · doi.org/10.1145/800015.808204 · 확인 2026-11-14
  3. ★ A New Solution to Coherence Problems in Multicache Systems (L. M. Censier · P. Feautrier) IEEE Transactions on Computers C-27(12) pp.1112-1118 — 존재 비트로 사본을 적는 디렉터리 방식의 출발점을 볼 때
    IEEE · 1978-12 · doi.org/10.1109/TC.1978.1675013 · 확인 2026-11-14
  4. ★ A Class of Compatible Cache Consistency Protocols and their Support by the IEEE Futurebus (P. Sweazey · A. J. Smith) ISCA 1986 pp.414-423 — MOESI 다섯 상태로 여러 규약을 한 분류에 묶는 틀을 볼 때
    ACM · 1986-06 · doi.org/10.1145/17356.17404 · 확인 2026-11-14
  5. ★ P0154R1 constexpr std::hardware_{constructive,destructive}_interference_size (JF Bastien · O. Giroux) — 거짓 공유를 피하는 객체 간격과 구현별 줄 크기를 볼 때
    ISO/IEC JTC1/SC22/WG21 · 2016-03 · www.open-std.org/jtc1/sc22/wg21/docs/papers/2016/p0154r1.html · 확인 2026-11-14
  6. ★ perf-c2c(1) Linux manual page — 경합이 큰 캐시 줄과 Lcl · Rmt HITM 을 읽을 때
    man7.org · 2026-11 · man7.org/linux/man-pages/man1/perf-c2c.1.html · 확인 2026-11-14
  7. 본문 근거
  8. Using Cache Memory to Reduce Processor-Memory Traffic (J. R. Goodman) ISCA 1983 pp.124-131 — ACM · 1983-06 · doi.org/10.1145/800046.801647 · 확인 2026-11-14
  9. How to Make a Multiprocessor Computer That Correctly Executes Multiprocess Programs (L. Lamport) IEEE Transactions on Computers C-28(9) pp.690-691 — IEEE · 1979-09 · lamport.azurewebsites.net/pubs/pubs.html · 확인 2026-11-14
  10. ABI testing files - sysfs-devices-system-cpu (cpu*/cache/index*/coherency_line_size) — The Linux Kernel documentation · 2026-11 · docs.kernel.org/admin-guide/abi-testing-files.html · 확인 2026-11-14