IT › 보안 › 암호 · 인증 › 인증

OTP일회용 비밀번호 · One-Time Password

사용자와 서버가 나눠 가진 비밀 키에 계수기 값이나 현재 시각을 넣어 계산한 짧은 숫자를 한 번만 쓰는 인증 값으로 받아, 같은 값을 두 번 쓰지 못하게 하는 인증 방식이다.

1요약

  1. OTP 는 비밀 키와 움직이는 값(계수기 · 시각)을 HMAC 에 넣어 6자리로 줄인 값으로, 계수기 방식은 RFC 4226(2005), 시간 방식은 RFC 6238(2011)이 정하며, 그 위에서 은행 · 업무 시스템의 2단계 로그인과 인증 앱이 돈다.
  2. 비밀번호만으로는 한 번 새면 끝까지 쓰이지만, OTP 도 전달 경로가 약하면 뚫린다 — 2018년 Reddit 은 직원 계정에 SMS 2단계 인증을 켜 두고도 문자 가로채기로 침입을 당했다고 밝혔다(Reddit 2018).
  3. 「코드가 안 맞는다」는 어긋난 값이 무엇인가로 가른다 — 한 사람만 거부되면 그 기기의 시계 · 계수기, 모든 사람이 한꺼번에 거부되면 서버 시계, 등록 직후부터 거부되면 키 인코딩 · 자릿수 · 해시 지정이다.

2등장 배경

고정 비밀번호는 망에서 한 번 엿들으면 몇 달이고 다시 쓸 수 있다. 1981년 Lamport 는 해시를 n번 거듭한 값을 거꾸로 하나씩 내놓는 일회용 비밀번호를 제안했고(Lamport 1981), 이것이 1995년 S/KEY(RFC 1760)로 표준 문서가 되었다.

S/KEY 의 해시 사슬은 n번을 다 쓰면 다시 등록해야 했고, 회사마다 다른 토큰 방식은 서로 섞어 쓸 수 없었다. 업계 연합 OATH 가 공개 알고리즘을 내 2005년 HOTP(RFC 4226), 2011년 TOTP(RFC 6238)가 나왔고, 이 둘이 지금 하드웨어 토큰과 인증 앱의 공통 계산식이다.

지금은 OTP 의 한계가 표준에 적혀 있다. NIST SP 800-63B-4(2025)는 전화망(PSTN) · SMS 로 보내는 인증 값을 «제한된 인증 수단»으로 두고(3.1.3.3), 손으로 옮겨 적는 OTP 는 피싱 저항이 아니라고 정한다(3.2.5).

3쉽게 이해하기 — 경비실과 30초 숫자 카드

직원 민지는 입사 날 경비실과 똑같은 「숫자 카드」와 똑같이 맞춘 시계를 받는다. 카드에는 숫자가 적혀 있지 않고, 지금 몇 번째 30초인지를 넣으면 6자리 숫자가 나오는 공식만 있다. 민지가 문 앞에서 숫자를 말하면 경비실도 같은 공식으로 계산해 맞춰 보고, 시계가 조금 어긋났을 수 있어 바로 앞 30초 숫자까지 받아 준다. 들여보낸 숫자는 장부에 적어 두어 같은 숫자로는 다시 들어오지 못한다.

직원 민지 경비실 민지 사용자 숫자 카드 공유 비밀 키 K 맞춘 시계 시간 단계 T 6자리 숫자 OTP 2 30초마다 카드로 새로 계산 경비실 검증 서버 같은 카드 공유 비밀 키 K 같은 시계 시간 단계 T 맞춰 보기 비교 · 시간 창 장부 재사용 거부 4 1 입사 날 같은 카드 두 장 3 숫자 081804 를 말함 5 문 열림 · 쓴 숫자는 장부에 1 같은 카드 · 시계 나눠 받기 · 2 30초마다 계산 · 3 숫자를 말함 · 4 경비실도 계산해 맞춰 봄 · 5 문 열림 · 숫자는 장부에

그림 1 · 같은 카드와 같은 시계를 가진 두 쪽이 따로 계산해 같은 숫자가 나오면 문이 열리고, 쓴 숫자는 장부에 남아 다시 쓰지 못한다.

카드 받기입사 날 같은 카드 두 장
시계 보기지금 몇 번째 30초인가
숫자 만들기카드 공식으로 6자리
맞춰 보기경비실도 같은 계산
장부 적기쓴 숫자는 다시 못 씀
비유 — 가짜 경비실 실제 — 피싱 중계 민지 사용자 1 숫자를 말함 경비 옷 입은 사람 가짜 경비실 2 30초 안에 진짜 문으로 옮김 진짜 문 열림 사용자 · 브라우저 피싱 사이트 shop-login.example 진짜 서버 shop.example 아이디 · 비밀번호 · 081804 같은 값을 바로 넣음 → 로그인 성공 숫자 081804 에는 받는 쪽 이름이 없다 — 누가 넣어도 같은 시간 창 안이면 맞는 값이다. 비교: FIDO 는 응답 서명에 사이트 주소가 들어가, 가짜 사이트에서 만든 응답을 진짜 서버가 받지 않는다.

그림 2 · 숫자에는 «누구에게 말했는가»가 들어 있지 않아, 가짜 경비실이 30초 안에 진짜 문으로 옮기면 그대로 열린다.

비유 속 역할실제 이름실제로 하는 일
민지사용자(청구자)OTP 를 만들어 입력하는 사람
숫자 카드공유 비밀 키 K등록 때 한 번 나눠 갖는 128비트 이상 값(RFC 4226 R6) · 숫자 목록이 아니라 계산의 재료
맞춘 시계움직이는 값 T(또는 계수기 C)30초마다 1씩 오르는 시간 단계 · HOTP 는 버튼을 누를 때마다 오르는 계수기
6자리 숫자OTP 값HMAC 결과를 6자리 이상으로 줄인 값(RFC 4226 5.3)
경비실검증 서버같은 키 · 같은 시각으로 직접 계산해 비교한다
앞 30초까지 받아 줌받는 창 · 재동기화시계 어긋남과 입력 시간을 감안해 앞 단계 값도 받는다(RFC 6238 5.2)
장부재사용 거부 · 실패 계수한 번 받은 값은 다시 받지 않고 실패 횟수를 센다
가짜 경비실피싱 중계사용자가 넣은 값을 시간 창 안에 진짜 서버로 옮긴다

⚠ 비유가 맞지 않는 곳: 경비원은 민지 얼굴도 알아보지만 서버는 숫자 말고는 아무것도 보지 않는다. 또 카드를 잃어버리면 새 카드만 받으면 되는 것처럼 보이지만, 실제로는 키를 서버에도 그대로 두어야 계산할 수 있어 서버의 키 저장소가 털리면 모든 사용자의 숫자를 남이 만들 수 있다.

4구조 — 공통 계산과 서버 검증

토큰 · 앱과 서버가 똑같이 하는 계산(RFC 4226 5.3) 비밀 키 K 160비트 권장 움직이는 값 C 또는 T · 8바이트 HMAC-SHA-1 20바이트 동적 절단 4바이트 → 31비트 mod 10⁶ 6자리 OTP 081804 사용자가 입력한 값 서버만 하는 검증 받는 창 T−1 · T 값을 직접 계산 비교 같은 값이 있는가 재사용 확인 마지막으로 받은 T 허용 받은 T · 어긋남 기록 거부 · 실패 +1 연속 100회 이하에서 잠금 처음 불일치 이미 받은 값 비밀 키 움직이는 값(HOTP = C · TOTP = T) 해시 · 비교 규칙 · 정책 허용 거부 값 081804 = 동작 절 사례(키 = RFC 6238 부록 B · T = 37037036) · 실패 상한 = SP 800-63B-4 3.2.2

그림 3 · 토큰과 서버는 같은 HMAC · 동적 절단 · 나머지 연산으로 6자리를 만들고, 서버만 받는 창 · 재사용 · 실패 횟수로 받아들일지 정한다.

요소역할대표 값근거
비밀 키 K토큰과 서버가 같은 값을 보관128비트 이상 · 160비트 권장 · NIST 는 112비트 이상RFC 4226 R6 · SP 800-63B-4 3.1.4.1
계수기 CHOTP 의 움직이는 값 · 버튼마다 1 증가8바이트RFC 4226 5.1
시간 단계 TTOTP 의 움직이는 값 · ⌊(Unix 시각 − T0) / X⌋X = 30초 · T0 = 0RFC 6238 4.2
HMAC키와 움직이는 값을 섞음SHA-1 기본 · SHA-256 · SHA-512 허용RFC 6238 1.2
동적 절단20바이트에서 4바이트를 골라 31비트 정수로오프셋 = 마지막 바이트 아래 4비트RFC 4226 5.3
OTP 값10^Digit 나머지6자리 이상 · 필요하면 7 ~ 8자리RFC 4226 5.3
실패 제한맞힐 때까지 넣어 보기를 막음연속 실패 100회 이하에서 잠금SP 800-63B-4 3.2.2

토큰은 두 가지다. 하드웨어 토큰은 키를 기기 밖으로 꺼낼 수 없지만 전지 · 수정 발진기 때문에 시계가 조금씩 밀리고, 인증 앱(소프트웨어 토큰)은 휴대폰 시계를 망에 맞춰 어긋남이 작은 대신 키가 백업 · 기기 이전으로 복사될 수 있다. SP 800-63B-4 는 OTP 장치를 단일 요소(3.1.4)와 PIN · 생체로 여는 다중 요소(3.1.5)로 나눈다.

마지막 바이트 0x14 의 아래 4비트 = 4 → 바이트 4 부터 꺼냄 27 8c 02 e5 36 10 f8 4c 40 bd 91 35 ac d4 10 10 12 41 0a 14 0 4 7 19 바이트 번호 4바이트 0x3610f84c 큰 자리부터 읽음 최상위 비트 지움 907081804 mod 10⁶ 081804 오프셋을 정하는 마지막 바이트 · 절단 규칙 꺼낸 4바이트 · 결과 값 HMAC-SHA-1(K = RFC 6238 부록 B 키, T = 37037036) 20바이트 · 16진수 두 자리 = 1바이트

그림 4 · HMAC 20바이트의 마지막 바이트가 어느 4바이트를 꺼낼지 정하고, 꺼낸 값의 최상위 비트를 지운 뒤 10⁶ 나머지가 6자리가 된다.

🔑 HOTP 는 «몇 번 눌렀나», TOTP 는 «지금 몇 번째 30초인가»를 같은 HMAC 에 넣는다 — 두 방식에서 다른 것은 움직이는 값 하나뿐이고, 그래서 어긋나는 것도 HOTP 는 계수기, TOTP 는 시계다.

5동작 — 인증 앱 TOTP 로그인 한 번

사례 키는 RFC 6238 부록 B 의 시험 키(ASCII 12345678901234567890 · 20바이트)이고, 값은 이 키로 직접 계산해 부록 B 의 8자리 값 끝 6자리와 맞춰 보았다.

  1. 등록 — 서버가 키 K 를 만들어 Base32 GEZDGNBVGY3TQOJQGEZDGNBVGY3TQOJQ 로 앱에 넘기고, 자기 저장소에도 같은 키를 둔다.
  2. 2005-03-18 01:58:29 UTC(Unix 1111111109) — 앱이 T = ⌊1111111109 / 30⌋ = 37037036(0x23523EC)을 넣어 HMAC-SHA-1 을 계산하고, 동적 절단으로 081804 를 보인다(그림 4).
  3. 사용자가 2초 뒤 01:58:31 에 081804 를 입력한다. 이 시각은 이미 다음 단계 T = 37037037 이다(30초 경계 1111111110 을 넘음).
  4. 서버는 현재 T 값 050471 과 다르므로 한 단계 앞 T − 1 값을 계산해 081804 와 일치를 확인하고 로그인을 허용한다 — 받는 창은 한 단계 앞까지다(RFC 6238 5.2).
  5. 서버가 마지막으로 받은 T = 37037036 과 어긋남 «−1 단계»를 기록한다. 다음 검증부터 이 어긋남을 반영한다(RFC 6238 6절).
  6. 공격자가 엿본 081804 를 01:58:40 에 다시 넣으면 값은 창 안에 있지만 이미 받은 T 이하라 거부되고 실패가 1 오른다(RFC 6238 5.2 · SP 800-63B-4 3.1.4.2).
사용자 인증 앱(키 K) 서버(키 K) 1 키 K · Base32 GEZD…QOJQ 2 01:58:29 T = 37037036 → 081804 화면에 081804 3 01:58:31 에 081804 입력 4 T 37037037 = 050471 불일치 T−1 37037036 = 081804 허용 5 받은 T · 어긋남 −1 단계 기록 6 01:58:40 같은 값 다시 거부 · 실패 +1 시각 = 2005-03-18 UTC · 실선 = 정상 흐름 · 점선 = 재사용 시도(거부) · 회색 = 화면 표시

그림 5 · 앱은 키로 값을 만들기만 하고, 서버가 창 안의 값을 직접 계산해 맞춰 본 뒤 받은 T 를 남겨 같은 값을 다시 받지 않는다.

T 37037034 150727 T 37037035 731029 T−1 37037036 081804 T 37037037 050471 T+1 37037038 266759 받는 창 = T−1 · T(RFC 6238 5.2) 01:57:00 01:57:30 01:58:00 01:59:00 01:59:30 생성 01:58:29 도착 01:58:31 창 밖 — 거부 처음이면 허용 · 받은 T 이하는 거부 창 밖 — 거부 맞힐 확률 ≈ 창 값 수 × 시도 수 / 10⁶ = 2 × 100 / 1,000,000 = 0.02%(RFC 4226 6절) 받는 창 · 허용 거부 생성 시각 도착 시각 굵은 테두리 = 받는 창 · T 아래 숫자 = 그 단계의 6자리 값 · 시각 = 2005-03-18 UTC

그림 6 · 서버는 지금 단계와 바로 앞 단계 값만 받고, 이미 받은 단계 이하의 값은 창 안이라도 거부한다 — 창을 넓히면 엿본 값이 쓰일 수 있는 시간도 같이 늘어난다.

🔑 OTP 는 비밀 키를 보내지 않고 키에서 나온 6자리만 보낸다 — 그래서 엿본 숫자는 한 번 · 한 창 안에서만 쓰이지만, 그 창 안에서 가짜 사이트가 중계하는 것은 막지 못한다.

6비교 — HOTP · TOTP · SMS 인증 번호

기준HOTPTOTPSMS 인증 번호
움직이는 값계수기 C(버튼마다 +1)시간 단계 T(30초)서버가 만든 난수
값을 만드는 곳토큰토큰 · 앱서버 → 전화망으로 전달
유효 시간쓸 때까지(시간 제한 없음)창 안(한 단계 앞까지 권고)10분 안(SP 800-63B-4 3.1.3.2)
어긋나는 것계수기 앞서감 → 앞보기 창 s(RFC 4226 7.4)시계 → 어긋남 기록(RFC 6238 6절)문자 지연 · 번호 이전
SP 800-63B-4 분류OTP 장치(3.1.4 · 3.1.5)OTP 장치(3.1.4 · 3.1.5)제한된 인증 수단(3.1.3.3 · 3.2.9)
피싱 저항아님아님아님 · SIM 교체 위험 추가

분석새로 고른다면 TOTP 인증 앱이 기본이고, HOTP 는 시계가 없는 토큰 · 오프라인 기기에서, SMS 는 다른 수단을 못 쓰는 사용자의 대체 경로로만 쓴다. 근거는 표의 「유효 시간」 · 「분류」 행이며, 피싱까지 막아야 하면 OTP 대신 사이트 주소를 서명에 묶는 FIDO 를 둔다(SP 800-63B-4 2.2.2 = AAL2 에서도 피싱 저항 수단 하나 이상 제공).

7실무 진단 — 「코드가 안 맞는다」 가르기

분석거부 기록을 «한 사람만 · 모두 · 등록 직후» 셋으로 먼저 나눈다. 한 사람만이면 그 토큰의 움직이는 값, 모두면 서버 시계, 등록 직후면 키 · 파라미터 불일치라서(RFC 6238 6절 · 부록 B), 순서를 바꾸면 멀쩡한 키를 재발급하게 된다.

#증상의심 원인단계확인 명령판정 기준(근거)
1한 사용자 TOTP 만 계속 거부휴대폰 · 토큰 시계 어긋남시간 단계oathtool --totp -b --now "<입력 시각>" <키> 를 30초씩 옮겨 계산일치 단계가 창 밖이면 추가 인증 뒤 재동기화(RFC 6238 6절)
2모든 사용자가 한꺼번에 거부서버 시계검증 서버chronyc tracking 의 System time · Leap statusNot synchronised 이거나 오프셋이 수 초 이상이면 시계부터 맞춤(RFC 6238 5.2)
3HOTP 토큰이 어느 날부터 거부로그인 없이 버튼을 눌러 계수기 앞서감계수기oathtool -w 10 <hex 키> <OTP> 가 내는 계수기 ↔ 서버 계수기차이가 앞보기 창 s 안이면 자동 · 밖이면 재동기화(RFC 4226 7.4)
4새로 등록한 앱 값이 처음부터 다름Base32 ↔ hex · 자릿수 · SHA-256 지정 차이등록oathtool --totp=SHA256 --digits=8 --now "2009-02-13 23:31:30 UTC" <키>부록 B 값(SHA-256 · 91819424)이 나와야 구현이 맞음(RFC 6238 부록 B)
5OTP 를 켰는데 계정 탈취피싱 중계 · SIM 교체전달 경로로그인 기록의 접속 출처 · 번호 변경 이력OTP 는 피싱 저항 아님(SP 800-63B-4 3.2.5) · 번호 변경 = 새 인증 수단 등록(4.1.2)

서버 시계를 가장 먼저 보는 까닭은 하나가 틀리면 모든 사용자가 동시에 거부되고, 사용자 쪽을 고쳐도 해결되지 않기 때문이다. 그다음 거부된 사용자의 입력 값이 몇 단계 앞뒤 값과 맞는지 계산해 어긋남인지 키 문제인지 가른다.

8시험 대비

출제 정보 컴퓨터시스템응용(107회)문제 원문 — 큐넷 자료실 「기출문제(기술사)」 www.q-net.or.kr

시험에서는 OTP 의 원리와 HOTP · TOTP 차이를 묻는 정의 · 특징형, SMS 인증의 한계와 피싱 저항 인증으로 옮겨 가는 흐름을 묻는 동향 · 발전형이 나올 수 있다. 동적 절단을 실제 바이트로 보이고 RFC 부록 값으로 손계산한 6자리를 적으면 다른 답안과 차이가 난다.

답안 목차
  1. 개요 — 정의 · 가진 것 요소 · 비밀번호 재사용 문제 · Lamport 1981 → RFC 4226 · 6238
  2. 원리 — 그림 3 공통 계산(HMAC · 동적 절단 · mod 10⁶) + 그림 4 바이트 예
  3. 방식 비교 — HOTP · TOTP · SMS 표(움직이는 값 · 유효 시간 · 어긋남 · 분류)
  4. 검증 — 그림 6 받는 창 · 재사용 거부 · 재동기화 · 실패 100회 상한 · 0.02% 계산
  5. 한계 — 피싱 중계 · SIM 교체 · 서버 키 저장소 · SP 800-63B-4 제한 · 피싱 저항 아님
  6. 발전 — 다중 인증 안의 위치(AAL2) · FIDO · 패스키 병행 · 대체 경로로서의 SMS

꼭 쓸 키워드
HOTPTOTPHMAC-SHA-1동적 절단시간 단계받는 창재동기화재사용 거부피싱 저항제한된 인증 수단

9오해와 사실

  • 오해6자리 OTP 는 경우의 수가 백만이라 맞히기 쉽다.
    사실실패를 연속 100회 이하로 막으면 창 값 둘 기준 맞힐 확률은 0.02% 이고(RFC 4226 6절 식 · SP 800-63B-4 3.2.2), 필요하면 7 ~ 8자리로 늘린다(RFC 4226 5.3).
  • 오해OTP 를 쓰면 피싱을 막는다.
    사실사용자가 손으로 옮겨 적는 값은 받는 사이트와 묶이지 않아 가짜 사이트가 그대로 중계할 수 있고, 표준도 피싱 저항으로 치지 않는다(SP 800-63B-4 3.2.5).
  • 오해서버는 OTP 값 목록을 미리 만들어 두고 대조한다.
    사실서버는 같은 키와 현재 T 로 받는 창의 값만 그때 계산하므로, 지켜야 할 것은 값 목록이 아니라 키 저장소다(RFC 4226 7.5).

10핵심 정리

구분움직이는 값유효 범위어긋남 처리근거
HOTP계수기 C쓸 때까지앞보기 창 sRFC 4226
TOTPT = ⌊시각 / 30⌋지금 · 앞 한 단계어긋남 기록RFC 6238
동적 절단마지막 바이트 아래 4비트4바이트 → 31비트—RFC 4226 5.3
비밀 키등록 때 한 번160비트 권장유출 시 재등록RFC 4226 R6
실패 제한연속 실패 수100회 이하잠금 · 지연SP 800-63B-4 3.2.2
SMS 인증 번호서버 난수10분대체 수단 제공SP 800-63B-4 3.1.3
다중 인증 안 위치가진 것AAL2 의 한 요소피싱 저항 수단 병행SP 800-63B-4 2.2.2

11참고 문헌

  1. 먼저 볼 문헌
  2. ★ RFC 4226 HOTP: An HMAC-Based One-Time Password Algorithm — 계수기 방식 계산식 · 동적 절단 · 재동기화 · 시험 벡터(부록 D)를 볼 때
    IETF · 2005-12 · www.rfc-editor.org/rfc/rfc4226 · 확인 2026-11-04
  3. ★ RFC 6238 TOTP: Time-Based One-Time Password Algorithm — 시간 단계 계산 · 받는 창 · 재사용 거부 · 시험 벡터(부록 B)를 볼 때
    IETF · 2011-05 · www.rfc-editor.org/rfc/rfc6238 · 확인 2026-11-04
  4. ★ NIST SP 800-63B-4 Digital Identity Guidelines: Authentication and Authenticator Management — OTP 장치 요건 · SMS 제한 · 피싱 저항 · 실패 횟수 상한을 볼 때
    NIST · 2025-08 · pages.nist.gov/800-63-4/sp800-63b.html · 확인 2026-11-04
  5. ★ oathtool(1) - OATH one-time password tool — HOTP · TOTP 값을 직접 계산 · 검증해 볼 때
    OATH Toolkit · 2026-11 · www.nongnu.org/oath-toolkit/oathtool.1.html · 확인 2026-11-04
  6. 본문 근거
  7. chronyc(1) - command-line interface for chrony daemon — chrony project · 2026-11 · chrony-project.org/doc/4.6/chronyc.html · 확인 2026-11-04
  8. Password Authentication with Insecure Communication (Communications of the ACM 24(11)) — ACM · 1981-11 · doi.org/10.1145/358790.358797 · 확인 2026-11-04
  9. RFC 1760 The S/KEY One-Time Password System — IETF · 1995-02 · www.rfc-editor.org/rfc/rfc1760 · 확인 2026-11-04
  10. We had a security incident. Here's what you need to know. (r/announcements) — Reddit · 2018-08 · www.reddit.com/r/announcements/comments/93qnm5/we_had_a_security_incident_heres_what_you_need_to/ · 확인 2026-11-04