DNS도메인 네임 시스템 · Domain Name System
도메인 이름을 계층 트리로 나누어 여러 권한 서버가 영역별로 맡고, 리졸버가 루트부터 위임을 따라 물어 얻은 IP 주소 등 자원 레코드를 TTL 동안 캐시하는 분산 이름 체계이다.
1요약
- DNS 는 RFC 1034 · 1035(1987 · STD 13)가 정한 응용 계층의 분산 데이터베이스로, UDP · TCP 53번 포트 위에서 이름을 A · AAAA · MX 같은 자원 레코드로 바꿔 주며, 웹 · 메일 · 인증서 발급은 모두 이 답을 받은 뒤에야 연결을 시작한다.
- 답이 위조되면 그 리졸버를 쓰는 사용자 전부가 엉뚱한 서버로 가는데, 16비트 ID 만으로는 위조 응답이 평균 32,768번 추측이면 맞아(RFC 5452 4.3절) 2008년 캐시 포이즈닝 공개(CERT VU#800113) 뒤 출발 포트 무작위화와 DNSSEC 서명이 퍼졌다.
- 「이름이 안 풀린다」는 응답 코드와 누가 답했는가로 가른다 — 응답이 아예 없으면 리졸버까지의 전송, SERVFAIL 이면 리졸버의 재귀 · 검증, AA 가 켜진 NXDOMAIN 이면 영역 자료 자체가 원인이다.
2등장 배경
1970년대 ARPANET 은 모든 호스트 이름과 주소를 NIC(네트워크 정보 센터)가 관리하는 파일 하나 HOSTS.TXT 에 적어 호스트마다 내려받게 했다. 호스트가 빠르게 늘자 파일 갱신이 따라가지 못했고, 기관마다 자기 이름을 직접 관리하고 싶어 했다(RFC 1034 2.1절).
1983년 11월 Paul Mockapetris 가 RFC 882 · 883 으로 이름을 트리로 나누어 맡기는 구조를 제안했고, 1987년 11월 RFC 1034 · 1035 가 이를 대체해 지금 규격이 되었다. 2008년 7월 캐시 포이즈닝 취약점 공개로 리졸버들이 출발 포트 무작위화를 넣었고(RFC 5452), 2010년 7월 15일 루트 영역이 DNSSEC 으로 서명되었다(IANA 2010).
지금도 RFC 1035 는 폐지되지 않고 29개 RFC 가 갱신하는 형태로 남아 있다. 루트는 13개 이름(a ~ m) · 운영 기관 12곳 · 2,049개 인스턴스로 운영되고(root-servers.org · 2026-11 확인), 2016년 DoT(RFC 7858) · 2018년 DoH(RFC 8484) · 2022년 DoQ(RFC 9250)가 리졸버까지 가는 질의를 암호화하기 시작했다.
3쉽게 이해하기 — 회사 안내 데스크의 내선 번호 찾기
신입 직원이 「docs 부서」 내선 번호를 알고 싶어 안내 데스크에 묻는다. 안내원은 수첩에 적어 둔 답이 없으면 본사 총무실에 묻고, 총무실은 번호 대신 「org 지사에 물어보세요」라고만 알려 준다. 지사는 다시 「example 건물 관리실로 가세요」라고 하고, 관리실이 「내선 80」이라고 답하면 안내원은 직원에게 전하면서 수첩에 「1시간 동안 유효」라고 적어 둔다.
그림 1 · 안내원이 본사 · 지사 · 관리실을 차례로 물어 답을 얻고 수첩에 1시간 적어 둔다 — 실제로는 재귀 리졸버가 루트 · TLD · 권한 서버를 물어 TTL 동안 캐시한다.
그림 2 · 이름은 오른쪽 끝부터 읽고, 앞의 레이블은 다음 담당자만 알려 주며 답은 마지막 담당자 한 곳에만 있다.
| 비유 속 역할 | 실제 이름 | 실제로 하는 일 |
|---|---|---|
| 신입 직원 | 스텁 리졸버 | 응용 대신 RD 1 질의를 리졸버 하나에 보내고 답만 받는다 |
| 안내원 | 재귀 리졸버 | 루트부터 차례로 물어 최종 답을 찾아 준다 |
| 수첩 | 캐시 | 받은 레코드와 위임 정보를 보관해 같은 질문에 바로 답한다 |
| 본사 총무실 | 루트 서버 | 루트 영역을 맡아 TLD 의 NS 레코드만 알려 준다 |
| org 지사 | TLD 서버 | org 영역을 맡아 그 아래 영역의 NS 와 접착 레코드를 알려 준다 |
| 건물 관리실 | 권한 서버 | 자기 영역 자료로 AA 1 답을 준다 |
| 「1시간 유효」 메모 | TTL | 캐시가 이 레코드를 쓸 수 있는 초 수 — 0이 되면 다시 묻는다 |
| 「그런 부서 없음」 | NXDOMAIN · 부정 캐시 | 없는 이름도 SOA 의 값만큼 캐시해 같은 질문을 줄인다 |
⚠ 비유가 맞지 않는 곳: 실제 리졸버는 본사부터 매번 묻지 않고, 캐시에 남은 가장 가까운 위임(예: org NS)부터 묻는다. 또 권한 서버는 한 대가 아니라 같은 영역 자료를 가진 여러 대(NS 레코드 둘 이상)가 같은 답을 준다.
4구조 — 메시지 형식과 세 구성 요소
DNS 는 이름 공간(트리와 자원 레코드) · 권한 서버 · 리졸버 세 요소로 이루어진다(RFC 1034 2.4절). 이름의 레이블 하나는 63바이트 이하, 전체 이름은 255바이트 이하이며(RFC 1035 2.3.4절), 트리의 한 부분을 맡는 단위가 영역(zone) 이고 부모 영역은 NS 레코드로 자식 영역을 다른 서버에 위임한다.
질의와 응답은 같은 메시지 형식을 쓴다 — 헤더 12바이트 뒤에 질문 · 답 · 권한 · 추가 네 영역이 붙는다(RFC 1035 4.1절). 아래 그림은 5절 사례에서 리졸버가 스텁에 돌려준 50바이트 응답이다.
그림 3 · 응답 50바이트는 헤더 12바이트와 질문 · 답 영역으로 이루어지고, 플래그 16비트가 「누가 · 어떻게 답했는가」를 알린다.
| 요소 | 크기 | 역할 | 값 · 근거 |
|---|---|---|---|
| ID | 16비트 | 질의와 응답을 짝지음 | 0 ~ 65,535 · 리졸버는 전 범위에서 예측 못하게 고름(RFC 5452 9.2절) |
| QR · OPCODE | 1 + 4비트 | 질의 · 응답 구분 · 질의 종류 | QR 1 = 응답 · OPCODE 0 = 표준 질의(RFC 1035 4.1.1절) |
| AA · TC | 1 + 1비트 | 권한 답 여부 · 잘림 여부 | TC 1 = 512바이트 초과로 잘림 → TCP 로 다시(RFC 1035 4.2.1절) |
| RD · RA | 1 + 1비트 | 재귀 요청 · 재귀 가능 | 스텁 질의 RD 1 · 리졸버 응답 RA 1(4.1.1절) |
| RCODE | 4비트 | 처리 결과 | 0 오류 없음 · 2 서버 실패(SERVFAIL) · 3 이름 없음(NXDOMAIN · RFC 2308 1절) |
| 개수 필드 넷 | 16비트 × 4 | 네 영역의 레코드 수 | 이번 응답 1 · 1 · 0 · 0 |
| 질문 영역 | 가변 | 묻는 이름 · 유형 · 클래스 | QNAME 18 + QTYPE 2 + QCLASS 2 = 22바이트(4.1.2절) |
| 답 · 권한 · 추가 영역 | 가변 | 자원 레코드(NAME · TYPE · CLASS · TTL · RDLENGTH · RDATA) | 이름 압축 포인터 2바이트로 반복 이름을 줄임(4.1.3 · 4.1.4절) |
🔑 AA 비트가 답의 출처를 가른다 — AA 1 은 그 영역을 맡은 권한 서버가 자기 자료로 준 답이고, AA 0 은 리졸버가 캐시나 재귀로 옮겨 준 답이다(RFC 1035 4.1.1절).
5동작 — 빈 캐시에서 시작하는 이름 해석
스텁 192.0.2.44 가 사내 재귀 리졸버 198.51.100.9 에 docs.example.org 의 A 레코드를 묻고, 리졸버 캐시가 비어 있는 사례다. IP 주소는 문서용 대역(RFC 5737), 이름은 예시용 예약 이름(RFC 2606)이며, 출발 포트 51544 · ID 0x5c3e · TTL 3600 은 설명용 가정 값이다.
- 스텁이 UDP 51544 → 198.51.100.9:53 으로 34바이트 질의(헤더 12 + 질문 22 · ID 0x5c3e · RD 1)를 보낸다(RFC 1035 4.1 · 4.2.1절).
- 리졸버 캐시에 이 이름도 org 위임도 없어 루트 서버에 같은 질문을 RD 0 으로 보내고, 루트는 답 대신 org 의 NS 레코드를 권한 영역에 담은 위임 응답을 준다(RFC 1034 4.3.1절).
- org TLD 서버는 example.org 의 NS ns1.example.org 를 알려 주며, 그 이름이 위임받는 영역 안에 있어 따로 찾을 수 없으므로 주소 203.0.113.53 을 추가 영역의 접착(glue) 레코드로 함께 준다(RFC 1034 4.2.1절).
- 리졸버가 203.0.113.53 에 묻자 권한 서버가 AA 1 로 A 203.0.113.80 · TTL 3600 을 답한다.
- 리졸버는 이 답과 중간에 받은 org · example.org 의 NS 를 각 TTL 동안 캐시에 넣는다(RFC 1034 3.6절).
- 리졸버가 스텁에 50바이트 응답(QR 1 · AA 0 · RA 1 · 답 1개)을 돌려주고, 스텁은 ID 와 포트로 짝을 확인해 응용에 203.0.113.80 을 넘긴다.
- 10분 뒤 다른 스텁 192.0.2.45 가 같은 이름을 묻자 리졸버는 밖에 묻지 않고 캐시에서 남은 TTL 3000 으로 답하며, 60분이 지나 항목이 지워진 뒤의 질의는 남아 있는 example.org 위임부터 다시 묻는다.
그림 4 · 빈 캐시의 리졸버는 루트와 TLD 에서 위임 두 번을 받고 권한 서버에서 AA 1 답 하나를 얻어, 스텁에는 왕복 한 번으로 돌려준다.
그림 5 · 캐시 항목의 TTL 은 3600초에서 줄어들 뿐이라, 권한 서버 값을 20분에 바꿔도 리졸버는 60분까지 옛 값을 내준다.
🔑 레코드를 바꾼 순간이 아니라 캐시에 남은 TTL 이 끝나는 순간에 새 값이 퍼진다 — 주소를 옮길 때는 TTL 을 먼저 낮추고 옛 TTL 만큼 기다린 뒤 바꾼다(RFC 1034 3.6절).
⚠ 없는 이름의 답(NXDOMAIN · NODATA)도 캐시된다. 기간은 응답에 실린 SOA 레코드의 TTL 과 MINIMUM 필드 중 작은 값이므로(RFC 2308 5절), 새 레코드를 막 만든 직후에도 그 전에 「없음」을 받은 리졸버는 그 시간 동안 계속 없다고 답한다.
6비교 — 네 가지 전송 방식
◆ 관련 토픽 UDP 는 DNS 의 대안이 아니라 기본 전송이므로, DNS 메시지를 실어 나르는 방식끼리 비교한다.
| 기준 | UDP 53 | TCP 53 | DoT 853 | DoH 443 |
|---|---|---|---|---|
| 표준 | RFC 1035 4.2.1절 | RFC 7766 | RFC 7858 | RFC 8484 |
| 연결 수립 | 없음 — 질의 하나 = 데이터그램 하나 | TCP 연결 · 메시지 앞 2바이트 길이(RFC 1035 4.2.2절) | TCP + TLS 핸드셰이크 뒤 같은 2바이트 길이(RFC 7858 3.3절) | HTTP/2 이상 권장(RFC 8484 5.2절) |
| 메시지 크기 | 512바이트 · EDNS(0) 로 더 크게 알림(RFC 6891 6.2.5절) | 65,535바이트(길이 필드 16비트) | 같음 | HTTP 본문 · 미디어 유형 application/dns-message |
| 엿보기 · 위조 | 평문 · 위조는 ID · 포트 추측으로 | 평문 · 위조하려면 TCP 순서 번호까지 맞춰야 함 | 암호화 · 서버 인증 | 암호화 · 서버 인증 |
| 망에서 구별 | 포트 53 | 포트 53 | 853 전용이라 막기 쉬움 | 443 이라 웹 통신과 섞임 |
| 주 구간 | 스텁 ↔ 리졸버 · 리졸버 ↔ 권한 서버 | 잘린 응답 다시 받기 · 영역 전송 | 스텁 ↔ 리졸버 | 브라우저 · 앱 ↔ 리졸버 |
분석일반 질의는 UDP 53, TC 1 이 오면 TCP 53 이 기본이고, 스텁 ↔ 리졸버 구간을 엿보지 못하게 하려면 DoT, 망이 853 을 막거나 앱이 리졸버를 직접 고르려면 DoH 를 쓴다. 근거는 표의 「망에서 구별」 행 — DoT 는 전용 포트라 망 관리자가 알아보고 정책을 걸 수 있고, DoH 는 443 의 웹 통신과 구별되지 않는다(RFC 8484 · RFC 7858 3.1절).
7실무 진단 — 이름 해석 실패의 위치 가르기
분석같은 이름을 리졸버 · 권한 서버에 따로 dig 로 물어 「응답이 있는가 → RCODE → AA」 순으로 보면 스텁 · 리졸버 · 영역 자료 중 어디서 막혔는지 갈린다. 리졸버는 재귀와 검증을 하고 권한 서버는 자기 자료만 답하므로(RFC 1034 4.3.1절), 둘의 답이 다르면 리졸버 쪽, 같으면 영역 쪽이다.
| # | 증상 | 의심 원인 | 구간 | 확인 명령 | 판정 기준(근거) |
|---|---|---|---|---|---|
| 1 | IP 로는 접속되는데 이름만 안 풀림 | 리졸버까지 UDP 53 차단 · 리졸버 정지 | 스텁 ↔ 리졸버 | dig @198. | 응답 없이 시간 초과 = 전송 · 리졸버 문제(dig 문서) |
| 2 | 「없는 이름」이라고 나옴 | 오타 · 레코드 미등록 · 위임 끊김 | 영역 자료 | dig +trace docs. | 권한 서버가 AA 1 · RCODE 3 이면 영역에 정말 없음(RFC 1035 4.1.1절 · RFC 2308 1절) |
| 3 | 한 리졸버만 SERVFAIL · +cd 를 붙이면 풀림 | DNSSEC 서명 만료 · DS 불일치 | 리졸버 검증 | dig +dnssec docs. · dig +cd docs. | 검증 실패 시 RCODE 2 · CD 1 이면 검증 없이 답(RFC 4035 5.5 · 3.2.2절) |
| 4 | 레코드를 바꿨는데 일부 사용자만 옛 주소 | 캐시 TTL 남음 | 리졸버 캐시 | dig @198. · dig @203. | 리졸버 답 TTL 이 줄고 있고 권한 서버 값과 다르면 캐시 만료 대기(RFC 1034 3.6절) |
| 5 | 큰 응답(DNSSEC · 긴 TXT)만 실패 | UDP 단편 손실 · TCP 53 차단 | 전송 | dig +tcp docs. · dig +bufsize= | UDP 답에 TC 1 인데 TCP 가 안 되면 TCP 53 차단 — 모든 구현은 TCP 를 지원해야 함(RFC 7766 5절) |
응답 유무를 먼저 보는 까닭은 응답이 없으면 RCODE · AA 를 볼 자료 자체가 없어 전송 구간만 남기 때문이다. 응답이 오면 RCODE 로 리졸버 실패(2)와 이름 없음(3)을 나누고, 마지막으로 리졸버 답과 +norecurse 로 받은 권한 서버 답을 대조해 캐시 문제인지 가른다.
8시험 대비
www.q-net.or.kr시험에서는 재귀 질의와 반복 질의 · 위임 · 캐시를 순서대로 그리는 동작 · 절차 설명형, 캐시 포이즈닝과 DNSSEC · DoH 같은 대응을 묻는 장애 · 보안 대응형이 나올 수 있다. DNSSEC 의 키 관리 · 서명 절차 자체를 깊게 물으면 DNSSEC 하위 토픽의 내용으로 답한다.
- 개요 — 정의 · RFC 1034 · 1035(STD 13) · 이름 공간 · 권한 서버 · 리졸버 세 요소 · UDP · TCP 53
- 메시지 구조 — 그림 3 메시지 배치(헤더 12바이트 · QR · AA · TC · RD · RA · RCODE · 네 영역) + 요소 표
- 이름 해석 절차 — 그림 4 순서도(스텁 재귀 질의 ↔ 리졸버 반복 질의 · 위임 응답 · 접착 레코드 · AA 1 답)
- 캐시와 TTL — 그림 5 TTL 그래프(3600 → 3000 · 바꾼 값이 퍼지는 시점) + 부정 캐시 = min(SOA TTL, MINIMUM)
- 전송 방식 비교 — 비교표(UDP 53 · TCP 53 · DoT 853 · DoH 443 · 크기 512 · TC 비트)
- 보안 위협과 대응 — 캐시 포이즈닝(ID 16비트 · 평균 32,768번) → 출발 포트 무작위화(RFC 5452) · DNSSEC 신뢰 사슬 DNSKEY → DS → DNSKEY · DoT · DoH 의 몫 구분
꼭 쓸 키워드
자원 레코드영역위임권한 서버재귀 리졸버반복 질의TTL부정 캐시캐시 포이즈닝접착 레코드
차이를 내는 한 가지는 6번에서 DNSSEC 은 위조를 막고 DoT · DoH 는 엿보기를 막는다는 경계를 표로 가르는 것이다 — DNSSEC 은 기밀성을 주지 않는다(RFC 4033 4절).
9오해와 사실
- 오해DNS 는 UDP 만 쓴다.사실일반 용도의 모든 DNS 구현은 UDP 와 TCP 를 둘 다 지원해야 하고(RFC 7766 5절), 잘린 응답(TC 1)과 영역 전송은 TCP 로 오간다.
- 오해DNSSEC 을 켜면 질의 내용이 암호화된다.사실DNSSEC 은 RRSIG 서명으로 출처와 무결성만 확인하며 기밀성은 설계 목표가 아니다(RFC 4033 4절) — 엿보기를 막는 것은 DoT · DoH 다.
- 오해루트 서버는 13대뿐이라 몇 대만 멈춰도 인터넷 이름 해석이 멈춘다.사실13은 이름(a ~ m)의 수이고, 같은 주소를 여러 곳에서 알리는 방식으로 2,049개 인스턴스가 운영된다(root-servers.org · 2026-11 확인) — 게다가 리졸버는 TLD 위임을 캐시해 루트에 자주 묻지 않는다.
10핵심 정리
| 구성 요소 | 맡는 일 | 주로 다루는 값 | AA · 플래그 | 확인 명령 |
|---|---|---|---|---|
| 스텁 리졸버 | 응용 대신 질의 하나를 리졸버에 보냄 | 질문 영역 · ID | RD 1 | dig docs.example.org |
| 재귀 리졸버 | 반복 질의 · 캐시 · DNSSEC 검증 | 모든 레코드 · 남은 TTL | RA 1 · AA 0 | dig @198.51.100.9 |
| 루트 서버 | TLD 위임 | 루트 영역 NS · DS | AA 0 위임 | dig +trace |
| TLD 서버 | 2단계 이름 위임 | NS · DS · 접착 A | AA 0 위임 | dig +trace |
| 권한 서버 | 자기 영역 자료로 답 | A · AAAA · MX · CNAME · TXT · SOA | AA 1 | dig @203. |
| 부정 응답 | 없는 이름 · 없는 유형 알림 | RCODE 3 · SOA MINIMUM | AA 1 · RCODE 3 | dig 의 status |
| DNSSEC | 위조 탐지 · 신뢰 사슬 | RRSIG · DNSKEY · DS | AD · CD | dig +dnssec 의 ad |
11참고 문헌
- 먼저 볼 문헌
- ★ RFC 1034 Domain Names - Concepts and Facilities — 이름 공간 · 영역 · 위임 · 재귀 질의와 위임 응답 · 캐시의 개념을 볼 때
- ★ RFC 1035 Domain Names - Implementation and Specification — 메시지 헤더 플래그 · 자원 레코드 형식 · 이름 압축 · 512바이트 한도를 볼 때
- ★ RFC 4033 DNS Security Introduction and Requirements — DNSSEC 이 지키는 것과 지키지 않는 것을 가를 때
- ★ RFC 8484 DNS Queries over HTTPS (DoH) — DNS 메시지를 HTTPS 로 실어 보내는 방식을 볼 때
- ★ BIND 9 Manual Pages - dig — +trace · +norecurse · +dnssec · +tcp · +cd 옵션 뜻을 확인할 때
- 본문 근거
- RFC 2308 Negative Caching of DNS Queries (DNS NCACHE) — IETF · 1998-03 ·
www.rfc-editor.org/rfc/rfc2308· 확인 2026-11-03 - RFC 4035 Protocol Modifications for the DNS Security Extensions — IETF · 2005-03 ·
www.rfc-editor.org/rfc/rfc4035· 확인 2026-11-03 - RFC 9364 DNS Security Extensions (DNSSEC) — IETF · 2023-02 ·
www.rfc-editor.org/rfc/rfc9364· 확인 2026-11-03 - RFC 5452 Measures for Making DNS More Resilient against Forged Answers — IETF · 2009-01 ·
www.rfc-editor.org/rfc/rfc5452· 확인 2026-11-03 - RFC 6891 Extension Mechanisms for DNS (EDNS(0)) — IETF · 2013-04 ·
www.rfc-editor.org/rfc/rfc6891· 확인 2026-11-03 - RFC 7766 DNS Transport over TCP - Implementation Requirements — IETF · 2016-03 ·
www.rfc-editor.org/rfc/rfc7766· 확인 2026-11-03 - RFC 7858 Specification for DNS over Transport Layer Security (TLS) — IETF · 2016-05 ·
www.rfc-editor.org/rfc/rfc7858· 확인 2026-11-03 - RFC 9250 DNS over Dedicated QUIC Connections — IETF · 2022-05 ·
www.rfc-editor.org/rfc/rfc9250· 확인 2026-11-03 - RFC 882 Domain Names - Concepts and Facilities (RFC 1034 · 1035 로 대체) — IETF · 1983-11 ·
www.rfc-editor.org/rfc/rfc882· 확인 2026-11-03 - VU#800113 Multiple DNS implementations vulnerable to cache poisoning — CERT Coordination Center · 2008-07 ·
www.kb.cert.org/vuls/id/800113· 확인 2026-11-03 - Root DNSSEC Launch Status Updates — IANA · 2010-07 ·
www.iana.org/archive/root-dnssec-launch/launch-status-updates/index.html· 확인 2026-11-03 - Root Server Technical Operations — Root Server Operators · 2026-11 ·
root-servers.org/· 확인 2026-11-03 - RFC 2606 Reserved Top Level DNS Names — IETF · 1999-06 ·
www.rfc-editor.org/rfc/rfc2606· 확인 2026-11-03 - RFC 5737 IPv4 Address Blocks Reserved for Documentation — IETF · 2010-01 ·
www.rfc-editor.org/rfc/rfc5737· 확인 2026-11-03