OTP일회용 비밀번호 · One-Time Password
사용자와 서버가 나눠 가진 비밀 키에 계수기 값이나 현재 시각을 넣어 계산한 짧은 숫자를 한 번만 쓰는 인증 값으로 받아, 같은 값을 두 번 쓰지 못하게 하는 인증 방식이다.
1요약
- OTP 는 비밀 키와 움직이는 값(계수기 · 시각)을 HMAC 에 넣어 6자리로 줄인 값으로, 계수기 방식은 RFC 4226(2005), 시간 방식은 RFC 6238(2011)이 정하며, 그 위에서 은행 · 업무 시스템의 2단계 로그인과 인증 앱이 돈다.
- 비밀번호만으로는 한 번 새면 끝까지 쓰이지만, OTP 도 전달 경로가 약하면 뚫린다 — 2018년 Reddit 은 직원 계정에 SMS 2단계 인증을 켜 두고도 문자 가로채기로 침입을 당했다고 밝혔다(Reddit 2018).
- 「코드가 안 맞는다」는 어긋난 값이 무엇인가로 가른다 — 한 사람만 거부되면 그 기기의 시계 · 계수기, 모든 사람이 한꺼번에 거부되면 서버 시계, 등록 직후부터 거부되면 키 인코딩 · 자릿수 · 해시 지정이다.
2등장 배경
고정 비밀번호는 망에서 한 번 엿들으면 몇 달이고 다시 쓸 수 있다. 1981년 Lamport 는 해시를 n번 거듭한 값을 거꾸로 하나씩 내놓는 일회용 비밀번호를 제안했고(Lamport 1981), 이것이 1995년 S/KEY(RFC 1760)로 표준 문서가 되었다.
S/KEY 의 해시 사슬은 n번을 다 쓰면 다시 등록해야 했고, 회사마다 다른 토큰 방식은 서로 섞어 쓸 수 없었다. 업계 연합 OATH 가 공개 알고리즘을 내 2005년 HOTP(RFC 4226), 2011년 TOTP(RFC 6238)가 나왔고, 이 둘이 지금 하드웨어 토큰과 인증 앱의 공통 계산식이다.
지금은 OTP 의 한계가 표준에 적혀 있다. NIST SP 800-63B-4(2025)는 전화망(PSTN) · SMS 로 보내는 인증 값을 «제한된 인증 수단»으로 두고(3.1.3.3), 손으로 옮겨 적는 OTP 는 피싱 저항이 아니라고 정한다(3.2.5).
3쉽게 이해하기 — 경비실과 30초 숫자 카드
직원 민지는 입사 날 경비실과 똑같은 「숫자 카드」와 똑같이 맞춘 시계를 받는다. 카드에는 숫자가 적혀 있지 않고, 지금 몇 번째 30초인지를 넣으면 6자리 숫자가 나오는 공식만 있다. 민지가 문 앞에서 숫자를 말하면 경비실도 같은 공식으로 계산해 맞춰 보고, 시계가 조금 어긋났을 수 있어 바로 앞 30초 숫자까지 받아 준다. 들여보낸 숫자는 장부에 적어 두어 같은 숫자로는 다시 들어오지 못한다.
그림 1 · 같은 카드와 같은 시계를 가진 두 쪽이 따로 계산해 같은 숫자가 나오면 문이 열리고, 쓴 숫자는 장부에 남아 다시 쓰지 못한다.
그림 2 · 숫자에는 «누구에게 말했는가»가 들어 있지 않아, 가짜 경비실이 30초 안에 진짜 문으로 옮기면 그대로 열린다.
| 비유 속 역할 | 실제 이름 | 실제로 하는 일 |
|---|---|---|
| 민지 | 사용자(청구자) | OTP 를 만들어 입력하는 사람 |
| 숫자 카드 | 공유 비밀 키 K | 등록 때 한 번 나눠 갖는 128비트 이상 값(RFC 4226 R6) · 숫자 목록이 아니라 계산의 재료 |
| 맞춘 시계 | 움직이는 값 T(또는 계수기 C) | 30초마다 1씩 오르는 시간 단계 · HOTP 는 버튼을 누를 때마다 오르는 계수기 |
| 6자리 숫자 | OTP 값 | HMAC 결과를 6자리 이상으로 줄인 값(RFC 4226 5.3) |
| 경비실 | 검증 서버 | 같은 키 · 같은 시각으로 직접 계산해 비교한다 |
| 앞 30초까지 받아 줌 | 받는 창 · 재동기화 | 시계 어긋남과 입력 시간을 감안해 앞 단계 값도 받는다(RFC 6238 5.2) |
| 장부 | 재사용 거부 · 실패 계수 | 한 번 받은 값은 다시 받지 않고 실패 횟수를 센다 |
| 가짜 경비실 | 피싱 중계 | 사용자가 넣은 값을 시간 창 안에 진짜 서버로 옮긴다 |
⚠ 비유가 맞지 않는 곳: 경비원은 민지 얼굴도 알아보지만 서버는 숫자 말고는 아무것도 보지 않는다. 또 카드를 잃어버리면 새 카드만 받으면 되는 것처럼 보이지만, 실제로는 키를 서버에도 그대로 두어야 계산할 수 있어 서버의 키 저장소가 털리면 모든 사용자의 숫자를 남이 만들 수 있다.
4구조 — 공통 계산과 서버 검증
그림 3 · 토큰과 서버는 같은 HMAC · 동적 절단 · 나머지 연산으로 6자리를 만들고, 서버만 받는 창 · 재사용 · 실패 횟수로 받아들일지 정한다.
| 요소 | 역할 | 대표 값 | 근거 |
|---|---|---|---|
| 비밀 키 K | 토큰과 서버가 같은 값을 보관 | 128비트 이상 · 160비트 권장 · NIST 는 112비트 이상 | RFC 4226 R6 · SP 800-63B-4 3.1.4.1 |
| 계수기 C | HOTP 의 움직이는 값 · 버튼마다 1 증가 | 8바이트 | RFC 4226 5.1 |
| 시간 단계 T | TOTP 의 움직이는 값 · ⌊(Unix 시각 − T0) / X⌋ | X = 30초 · T0 = 0 | RFC 6238 4.2 |
| HMAC | 키와 움직이는 값을 섞음 | SHA-1 기본 · SHA-256 · SHA-512 허용 | RFC 6238 1.2 |
| 동적 절단 | 20바이트에서 4바이트를 골라 31비트 정수로 | 오프셋 = 마지막 바이트 아래 4비트 | RFC 4226 5.3 |
| OTP 값 | 10^Digit 나머지 | 6자리 이상 · 필요하면 7 ~ 8자리 | RFC 4226 5.3 |
| 실패 제한 | 맞힐 때까지 넣어 보기를 막음 | 연속 실패 100회 이하에서 잠금 | SP 800-63B-4 3.2.2 |
토큰은 두 가지다. 하드웨어 토큰은 키를 기기 밖으로 꺼낼 수 없지만 전지 · 수정 발진기 때문에 시계가 조금씩 밀리고, 인증 앱(소프트웨어 토큰)은 휴대폰 시계를 망에 맞춰 어긋남이 작은 대신 키가 백업 · 기기 이전으로 복사될 수 있다. SP 800-63B-4 는 OTP 장치를 단일 요소(3.1.4)와 PIN · 생체로 여는 다중 요소(3.1.5)로 나눈다.
그림 4 · HMAC 20바이트의 마지막 바이트가 어느 4바이트를 꺼낼지 정하고, 꺼낸 값의 최상위 비트를 지운 뒤 10⁶ 나머지가 6자리가 된다.
🔑 HOTP 는 «몇 번 눌렀나», TOTP 는 «지금 몇 번째 30초인가»를 같은 HMAC 에 넣는다 — 두 방식에서 다른 것은 움직이는 값 하나뿐이고, 그래서 어긋나는 것도 HOTP 는 계수기, TOTP 는 시계다.
5동작 — 인증 앱 TOTP 로그인 한 번
사례 키는 RFC 6238 부록 B 의 시험 키(ASCII 12345678901234567890 · 20바이트)이고, 값은 이 키로 직접 계산해 부록 B 의 8자리 값 끝 6자리와 맞춰 보았다.
- 등록 — 서버가 키 K 를 만들어 Base32
GEZDGNBVGY3TQOJQGEZDGNBVGY3TQOJQ로 앱에 넘기고, 자기 저장소에도 같은 키를 둔다. - 2005-03-18 01:58:29 UTC(Unix 1111111109) — 앱이 T = ⌊1111111109 / 30⌋ = 37037036(0x23523EC)을 넣어 HMAC-SHA-1 을 계산하고, 동적 절단으로
081804를 보인다(그림 4). - 사용자가 2초 뒤 01:58:31 에
081804를 입력한다. 이 시각은 이미 다음 단계 T = 37037037 이다(30초 경계 1111111110 을 넘음). - 서버는 현재 T 값
050471과 다르므로 한 단계 앞 T − 1 값을 계산해081804와 일치를 확인하고 로그인을 허용한다 — 받는 창은 한 단계 앞까지다(RFC 6238 5.2). - 서버가 마지막으로 받은 T = 37037036 과 어긋남 «−1 단계»를 기록한다. 다음 검증부터 이 어긋남을 반영한다(RFC 6238 6절).
- 공격자가 엿본
081804를 01:58:40 에 다시 넣으면 값은 창 안에 있지만 이미 받은 T 이하라 거부되고 실패가 1 오른다(RFC 6238 5.2 · SP 800-63B-4 3.1.4.2).
그림 5 · 앱은 키로 값을 만들기만 하고, 서버가 창 안의 값을 직접 계산해 맞춰 본 뒤 받은 T 를 남겨 같은 값을 다시 받지 않는다.
그림 6 · 서버는 지금 단계와 바로 앞 단계 값만 받고, 이미 받은 단계 이하의 값은 창 안이라도 거부한다 — 창을 넓히면 엿본 값이 쓰일 수 있는 시간도 같이 늘어난다.
🔑 OTP 는 비밀 키를 보내지 않고 키에서 나온 6자리만 보낸다 — 그래서 엿본 숫자는 한 번 · 한 창 안에서만 쓰이지만, 그 창 안에서 가짜 사이트가 중계하는 것은 막지 못한다.
6비교 — HOTP · TOTP · SMS 인증 번호
| 기준 | HOTP | TOTP | SMS 인증 번호 |
|---|---|---|---|
| 움직이는 값 | 계수기 C(버튼마다 +1) | 시간 단계 T(30초) | 서버가 만든 난수 |
| 값을 만드는 곳 | 토큰 | 토큰 · 앱 | 서버 → 전화망으로 전달 |
| 유효 시간 | 쓸 때까지(시간 제한 없음) | 창 안(한 단계 앞까지 권고) | 10분 안(SP 800-63B-4 3.1.3.2) |
| 어긋나는 것 | 계수기 앞서감 → 앞보기 창 s(RFC 4226 7.4) | 시계 → 어긋남 기록(RFC 6238 6절) | 문자 지연 · 번호 이전 |
| SP 800-63B-4 분류 | OTP 장치(3.1.4 · 3.1.5) | OTP 장치(3.1.4 · 3.1.5) | 제한된 인증 수단(3.1.3.3 · 3.2.9) |
| 피싱 저항 | 아님 | 아님 | 아님 · SIM 교체 위험 추가 |
분석새로 고른다면 TOTP 인증 앱이 기본이고, HOTP 는 시계가 없는 토큰 · 오프라인 기기에서, SMS 는 다른 수단을 못 쓰는 사용자의 대체 경로로만 쓴다. 근거는 표의 「유효 시간」 · 「분류」 행이며, 피싱까지 막아야 하면 OTP 대신 사이트 주소를 서명에 묶는 FIDO 를 둔다(SP 800-63B-4 2.2.2 = AAL2 에서도 피싱 저항 수단 하나 이상 제공).
7실무 진단 — 「코드가 안 맞는다」 가르기
분석거부 기록을 «한 사람만 · 모두 · 등록 직후» 셋으로 먼저 나눈다. 한 사람만이면 그 토큰의 움직이는 값, 모두면 서버 시계, 등록 직후면 키 · 파라미터 불일치라서(RFC 6238 6절 · 부록 B), 순서를 바꾸면 멀쩡한 키를 재발급하게 된다.
| # | 증상 | 의심 원인 | 단계 | 확인 명령 | 판정 기준(근거) |
|---|---|---|---|---|---|
| 1 | 한 사용자 TOTP 만 계속 거부 | 휴대폰 · 토큰 시계 어긋남 | 시간 단계 | oathtool --totp -b --now "<입력 시각>" <키> 를 30초씩 옮겨 계산 | 일치 단계가 창 밖이면 추가 인증 뒤 재동기화(RFC 6238 6절) |
| 2 | 모든 사용자가 한꺼번에 거부 | 서버 시계 | 검증 서버 | chronyc tracking 의 System time · Leap status | Not synchronised 이거나 오프셋이 수 초 이상이면 시계부터 맞춤(RFC 6238 5.2) |
| 3 | HOTP 토큰이 어느 날부터 거부 | 로그인 없이 버튼을 눌러 계수기 앞서감 | 계수기 | oathtool -w 10 <hex 키> <OTP> 가 내는 계수기 ↔ 서버 계수기 | 차이가 앞보기 창 s 안이면 자동 · 밖이면 재동기화(RFC 4226 7.4) |
| 4 | 새로 등록한 앱 값이 처음부터 다름 | Base32 ↔ hex · 자릿수 · SHA-256 지정 차이 | 등록 | oathtool --totp= | 부록 B 값(SHA-256 · 91819424)이 나와야 구현이 맞음(RFC 6238 부록 B) |
| 5 | OTP 를 켰는데 계정 탈취 | 피싱 중계 · SIM 교체 | 전달 경로 | 로그인 기록의 접속 출처 · 번호 변경 이력 | OTP 는 피싱 저항 아님(SP 800-63B-4 3.2.5) · 번호 변경 = 새 인증 수단 등록(4.1.2) |
서버 시계를 가장 먼저 보는 까닭은 하나가 틀리면 모든 사용자가 동시에 거부되고, 사용자 쪽을 고쳐도 해결되지 않기 때문이다. 그다음 거부된 사용자의 입력 값이 몇 단계 앞뒤 값과 맞는지 계산해 어긋남인지 키 문제인지 가른다.
8시험 대비
www.q-net.or.kr시험에서는 OTP 의 원리와 HOTP · TOTP 차이를 묻는 정의 · 특징형, SMS 인증의 한계와 피싱 저항 인증으로 옮겨 가는 흐름을 묻는 동향 · 발전형이 나올 수 있다. 동적 절단을 실제 바이트로 보이고 RFC 부록 값으로 손계산한 6자리를 적으면 다른 답안과 차이가 난다.
- 개요 — 정의 · 가진 것 요소 · 비밀번호 재사용 문제 · Lamport 1981 → RFC 4226 · 6238
- 원리 — 그림 3 공통 계산(HMAC · 동적 절단 · mod 10⁶) + 그림 4 바이트 예
- 방식 비교 — HOTP · TOTP · SMS 표(움직이는 값 · 유효 시간 · 어긋남 · 분류)
- 검증 — 그림 6 받는 창 · 재사용 거부 · 재동기화 · 실패 100회 상한 · 0.02% 계산
- 한계 — 피싱 중계 · SIM 교체 · 서버 키 저장소 · SP 800-63B-4 제한 · 피싱 저항 아님
- 발전 — 다중 인증 안의 위치(AAL2) · FIDO · 패스키 병행 · 대체 경로로서의 SMS
꼭 쓸 키워드
HOTPTOTPHMAC-SHA-1동적 절단시간 단계받는 창재동기화재사용 거부피싱 저항제한된 인증 수단
9오해와 사실
- 오해6자리 OTP 는 경우의 수가 백만이라 맞히기 쉽다.사실실패를 연속 100회 이하로 막으면 창 값 둘 기준 맞힐 확률은 0.02% 이고(RFC 4226 6절 식 · SP 800-63B-4 3.2.2), 필요하면 7 ~ 8자리로 늘린다(RFC 4226 5.3).
- 오해OTP 를 쓰면 피싱을 막는다.사실사용자가 손으로 옮겨 적는 값은 받는 사이트와 묶이지 않아 가짜 사이트가 그대로 중계할 수 있고, 표준도 피싱 저항으로 치지 않는다(SP 800-63B-4 3.2.5).
- 오해서버는 OTP 값 목록을 미리 만들어 두고 대조한다.사실서버는 같은 키와 현재 T 로 받는 창의 값만 그때 계산하므로, 지켜야 할 것은 값 목록이 아니라 키 저장소다(RFC 4226 7.5).
10핵심 정리
| 구분 | 움직이는 값 | 유효 범위 | 어긋남 처리 | 근거 |
|---|---|---|---|---|
| HOTP | 계수기 C | 쓸 때까지 | 앞보기 창 s | RFC 4226 |
| TOTP | T = ⌊시각 / 30⌋ | 지금 · 앞 한 단계 | 어긋남 기록 | RFC 6238 |
| 동적 절단 | 마지막 바이트 아래 4비트 | 4바이트 → 31비트 | — | RFC 4226 5.3 |
| 비밀 키 | 등록 때 한 번 | 160비트 권장 | 유출 시 재등록 | RFC 4226 R6 |
| 실패 제한 | 연속 실패 수 | 100회 이하 | 잠금 · 지연 | SP 800-63B-4 3.2.2 |
| SMS 인증 번호 | 서버 난수 | 10분 | 대체 수단 제공 | SP 800-63B-4 3.1.3 |
| 다중 인증 안 위치 | 가진 것 | AAL2 의 한 요소 | 피싱 저항 수단 병행 | SP 800-63B-4 2.2.2 |
11참고 문헌
- 먼저 볼 문헌
- ★ RFC 4226 HOTP: An HMAC-Based One-Time Password Algorithm — 계수기 방식 계산식 · 동적 절단 · 재동기화 · 시험 벡터(부록 D)를 볼 때
- ★ RFC 6238 TOTP: Time-Based One-Time Password Algorithm — 시간 단계 계산 · 받는 창 · 재사용 거부 · 시험 벡터(부록 B)를 볼 때
- ★ NIST SP 800-63B-4 Digital Identity Guidelines: Authentication and Authenticator Management — OTP 장치 요건 · SMS 제한 · 피싱 저항 · 실패 횟수 상한을 볼 때
- ★ oathtool(1) - OATH one-time password tool — HOTP · TOTP 값을 직접 계산 · 검증해 볼 때
- 본문 근거
- chronyc(1) - command-line interface for chrony daemon — chrony project · 2026-11 ·
chrony-project.org/doc/4.6/chronyc.html· 확인 2026-11-04 - Password Authentication with Insecure Communication (Communications of the ACM 24(11)) — ACM · 1981-11 ·
doi.org/10.1145/358790.358797· 확인 2026-11-04 - RFC 1760 The S/KEY One-Time Password System — IETF · 1995-02 ·
www.rfc-editor.org/rfc/rfc1760· 확인 2026-11-04 - We had a security incident. Here's what you need to know. (r/announcements) — Reddit · 2018-08 ·
www.reddit.com/r/announcements/comments/93qnm5/we_had_a_security_incident_heres_what_you_need_to/· 확인 2026-11-04