AI › 생성형 AI › LLM › 학습

미세 조정Fine-tuning

사전 학습을 마친 모델의 가중치를 과제 데이터로 더 학습시켜 그 과제의 답 형식 · 말투 · 용어에 맞추는 적응 단계다. 모든 가중치를 학습하는 전체 미세 조정과 덧붙인 작은 매개변수만 학습하는 파라미터 효율 방식이 있다.

1요약

  1. 미세 조정은 웹 말뭉치로 사전 학습을 마친 모델의 가중치를 과제 데이터로 몇 epoch 더 학습시키는 적응 단계로, 2018년 ULMFiT 이 언어 모델에 정착시켰고 지시를 따르는 대화 모델 · 사내 상담 답 형식 · 도메인 용어 모델이 이 위에서 돈다.
  2. 모든 가중치를 학습하면 혼합 정밀도 Adam 기준 매개변수당 16바이트가 들어 6.7B 모델의 모델 상태만 107.2 GB 가 되고, LoRA 는 얼린 가중치 옆 저순위 행렬만 학습해 GPT-3 175B 의 학습 메모리를 1.2TB 에서 350GB 로 줄였다(Hu 2021 4.2절).
  3. 「미세 조정했는데 안 된다」는 틀린 것이 형식인가 사실인가로 가른다 — 답 형식 · 말투가 틀리면 데이터 품질과 epoch 를, 학습 뒤 생긴 사실이 틀리면 RAG 쪽을, 원래 맞히던 일반 질문이 틀리면 잊어버림을 본다.

2등장 배경

2018년 전 자연어 처리는 과제마다 모델을 처음부터 학습해 레이블 데이터가 수만 건씩 필요했다. 모델이 커진 뒤에는 반대 문제가 생겼다 — 175B 모델을 과제 100개에 따로 미세 조정해 두면 체크포인트만 약 35TB 다(Hu 2021 4.2절 각주).

2018년 Howard · Ruder 의 ULMFiT 은 사전 학습 언어 모델을 과제에 맞춰 미세 조정해 분류 오류를 18 ~ 24% 줄였고, 레이블 100개로 100배 데이터의 처음부터 학습과 같은 성능을 냈다(Howard 2018 초록). 2019년 Houlsby 등의 어댑터는 과제마다 매개변수 3.6%만 더해 GLUE 에서 전체 미세 조정과 0.4% 이내 차이를 보였고(Houlsby 2019 초록), 2021년 Lester 등의 프롬프트 튜닝은 입력 앞 가상 토큰만 학습했다. 같은 해 Hu 등의 LoRA 가 가중치 갱신을 저순위 행렬 곱으로 바꿨고, 2023년 Dettmers 등의 QLoRA 는 4비트로 얼린 65B 모델을 48GB GPU 한 장에서 학습했다(Dettmers 2023 초록).

지시 따르기 학습(SFT)도 미세 조정이다 — 2021년 FLAN 은 137B 모델을 60개 넘는 데이터셋의 지시문으로 학습했고(Wei 2021 초록), 2022년 InstructGPT 는 약 13k 건의 시연 데이터로 SFT 를 한 뒤 RLHF 로 넘어갔다(Ouyang 2022 3.2절). 지금도 남는 문제는 1989년 McCloskey · Cohen 이 이름 붙인 잊어버림(catastrophic forgetting)이다 — 새 과제를 학습하면 옛 과제 성능이 무너진다(Kirkpatrick 2017 1절).

3쉽게 이해하기 — 새 식당에 온 숙련 요리사

다른 식당에서 오래 일한 요리사가 새 식당에 왔다. 주방장은 요리사를 처음부터 가르치지 않고, 이 식당 손님이 기대하는 접시 모양과 담는 순서를 예시 접시 2,000개로 연습시킨다. 요리사는 원래 솜씨 노트를 잠가 두고, 노트 위에 얇은 투명 덧장을 대고 고칠 점만 적는다. 오늘 새로 들어온 재료 목록은 연습시키지 않고 냉장고 문에 쪽지로 붙인다.

주방장 가르치는 쪽 연습 감독 학습 절차 예시 접시 지시서 지시 · 답 데이터 요리사 배우는 쪽 숙련 요리사 사전 학습 모델 잠근 솜씨 노트 얼린 가중치 W0 투명 덧장 LoRA 행렬 B · A 손님 먹는 쪽 주문하는 사람 사용자 이 식당 모양 접시 형식 맞춘 답 연습 1 2 주문 3 접시 4 따로 두는 것 5 오늘 들어온 재료 쪽지 RAG 문맥 노트를 고쳐 쓰면 옛 요리를 잊음 잊어버림 덧장 = 노트 위에 대는 얇은 수정 메모 · 노트는 잠가 두고 덧장만 고친다 · 쪽지 = 연습 없이 그날 보는 정보

그림 1 · 요리사는 잠근 솜씨 노트 위 덧장에만 고칠 점을 적어 이 식당의 접시 모양을 익히고, 그날 바뀌는 재료는 연습 대신 쪽지로 본다.

숙련 요리사다른 식당에서 익힌 솜씨
예시 접시이 식당 모양 2,000개
노트 잠금원래 솜씨는 그대로
덧장 메모고칠 점만 얇게
접시 내기이 식당 모양대로
재료 쪽지바뀐 재료는 연습 없이
비유 — 노트 한 쪽과 덧장 두 띠 실제 — 행렬 하나의 학습 매개변수 수 W0 잠근 노트 + × 덧장 두 띠 W0 4096 × 4096 B A 16 × 4096 4096 × 16 B · A = 4096 × 4096 크기의 수정 ΔW 순위 r = 16 · 띠 폭이 곧 r W0 를 직접 고침 4096 × 4096 = 16,777,216개 덧장 B · A 만 고침 131,072개 — 128분의 1 16 × (4096 + 4096) 모델 전체 — 블록 32개 × 행렬 4개 131,072 × 128 = 16,777,216개 = W0 한 장 크기 · 모델의 0.25% 채운 상자 = 얼린 가중치 · 굵은 테두리 = 학습하는 행렬 · 막대 길이 = 매개변수 수(덧장 막대는 보이도록 굵힘)

그림 2 · 노트 한 쪽 전체를 고치면 값 1,677만 개를 써야 하지만, 덧장 두 띠는 그 128분의 1인 13만 개로 같은 크기의 수정을 만든다.

비유 속 역할실제 이름실제로 하는 일
숙련 요리사사전 학습 모델웹 말뭉치에서 다음 토큰 예측으로 익힌 가중치를 가진 출발점
예시 접시 지시서지시 · 답 데이터(SFT)과제 입력과 원하는 답을 짝으로 묶은 학습 데이터
주방장의 연습 감독학습 절차답 토큰의 손실을 줄이는 방향으로 학습 매개변수를 갱신한다
잠근 솜씨 노트얼린 가중치 W0기울기를 계산하지 않아 옵티마이저 상태도 두지 않는다
투명 덧장LoRA 행렬 B · AW0 옆에 더해지는 저순위 갱신 ΔW = BA 만 학습한다
이 식당 모양 접시미세 조정된 출력과제의 답 형식 · 말투 · 용어를 따른 생성 결과
옛 요리를 잊음잊어버림새 과제 학습이 옛 과제 성능을 떨어뜨린다
재료 쪽지RAG 문맥학습 없이 질문 때마다 넣는 최신 사실

⚠ 비유가 맞지 않는 곳: 실제 덧장(B · A)은 메모 글이 아니라 숫자 행렬이고, 곱한 결과가 노트의 모든 값에 조금씩 더해진다. 전체 미세 조정은 덧장 없이 노트 자체를 고쳐 쓰는 경우이며, 덧장을 써도 잊어버림이 0이 되지는 않는다.

4구조 — 방식별 학습 위치

미세 조정 방식은 «어느 매개변수를 학습하는가»로 나뉜다. 전체 미세 조정은 블록의 모든 가중치를, 파라미터 효율 방식(PEFT)은 덧붙인 작은 부분만 학습하고 사전 학습 가중치는 얼린다.

트랜스포머 블록 하나 — 방식마다 학습하는 부분 다음 블록으로(32번 반복) 어댑터 피드포워드(FFN) 어댑터 셀프 어텐션 Wq Wk Wv Wo LoRA B · A r = 16 행렬 옆에 더함 가상 토큰 5개 입력 토큰 방식별 학습 부분 전체 — 채운 상자 전부 사례 모델 6.7B 모두 어댑터 — 블록당 2개 GLUE 과제당 3.6% LoRA — 행렬 옆 B · A 사례 16,777,216개 · 0.25% 프롬프트 튜닝 — 가상 토큰 5토큰 × 4096 = 20,480개 채운 상자 = 사전 학습 가중치 굵은 테두리 = 효율 방식이 학습

그림 3 · 전체 미세 조정은 채운 상자 전부를 학습하고, 어댑터 · LoRA · 프롬프트 튜닝은 굵은 테두리 부분만 학습한다 — 위치가 다를 뿐 사전 학습 가중치는 셋 다 얼린다.

요소크기역할값 · 근거
W0 사전 학습 가중치d × k얼려 두고 기울기를 계산하지 않음4096 × 4096 = 16,777,216(Hu 2021 4.1절)
Ar × k입력을 r 차원으로 줄임가우스 분포로 초기화(Hu 2021 4.1절)
Bd × rr 차원을 다시 d 차원으로0으로 초기화 → 학습 시작 때 ΔW = 0(Hu 2021 4.1절)
순위 r정수학습 매개변수 수를 정함r ≪ min(d, k) · GPT-3 실험 r 1 ~ 64(Hu 2021 4.1절 · 표 15)
α상수ΔWx 를 α / r 배로 키움처음 고른 r 값으로 두고 조정하지 않음(Hu 2021 4.1절)
대상 행렬블록당 최대 4개어텐션 Wq · Wk · Wv · Wo원 논문은 MLP 를 얼림(Hu 2021 4.2절)
옵티마이저 상태학습 매개변수 × 12바이트Adam 의 fp32 사본 · 모멘텀 · 분산얼린 가중치는 0(Rajbhandari 2019 3.1절)

LoRA 의 순전파는 h = W0x + BAx 다(Hu 2021 식 3). 학습 매개변수 수는 행렬 하나당 r × (d + k) 이고, 대상 행렬 수와 블록 수를 곱하면 모델 전체가 된다.

🔑 LoRA 가 메모리를 줄이는 이유는 학습 매개변수가 적어서라기보다, 얼린 가중치에 기울기와 Adam 상태 14바이트를 두지 않기 때문이다 — 매개변수당 16바이트가 2바이트로 내려간다.

5동작 — 6.7B 모델의 상담 답 형식 맞추기

사례 모델은 차원 4096 · 블록 32개 · 6.7B 매개변수 설정이다(Touvron 2023 표 2). 데이터 수 · 점검 문항 · 정답률 · α · epoch 는 설명용 가정 값이고, 매개변수 수와 메모리는 원문 식으로 직접 계산한 값이다.

  1. 데이터 준비 — 상담 질문과 「요약 · 조치 · 다음 단계」 세 단락 답을 짝지은 지시 · 답 2,000쌍(가정 값)을 모으고, 검증 100쌍과 일반 능력 점검 200문항을 따로 둔다. 7B 모델은 2,000개 이상일 때 학습이 안정적이었다(Zhou 2023 5절 각주).
  2. 매개변수 계산 — r = 16 을 Wq · Wk · Wv · Wo 에 붙인다. 16 × (4096 + 4096) = 131,072개 × 행렬 4개 × 블록 32개 = 16,777,216개이고, 6.7B 의 0.25%다.
  3. 초기화 — A 는 가우스, B 는 0으로 둔다. ΔW = BA = 0 이라 첫 단계의 출력은 기반 모델과 같고, α = 32(가정 값)이면 갱신은 α / r = 2배로 더해진다(Hu 2021 4.1절).
  4. 메모리 확인 — 모델 상태는 얼린 fp16 가중치 2 × 6.7B = 13.4 GB 에 LoRA 행렬 16 × 16,777,216 = 0.27 GB 를 더한 13.7 GB 다. 전체 미세 조정이면 16 × 6.7B = 107.2 GB 이고, 활성값은 두 경우 모두 따로 든다(Rajbhandari 2019 3.1 · 3.2절).
  5. 학습 — 질문 토큰은 손실에서 빼고 답 토큰에만 손실을 걸어 3 epoch(가정 값) 학습하고, 검증 손실이 가장 낮은 epoch 의 체크포인트를 고른다.
  6. 잊어버림 점검 — 같은 점검 200문항을 학습 전후에 다시 푼다. 정답률 71% → 69%(가정 값)로 2%p 떨어져, 미리 정한 허용 폭 3%p(가정 값) 안이다.
  7. 저장 · 병합 — 어댑터만 16,777,216 × 2바이트 = 33.6 MB 로 저장한다(전체 가중치 13.4 GB 의 400분의 1). 배포 때 W = W0 + (α / r)BA 로 합치면 추론 연산은 기반 모델과 같다(Hu 2021 4.1절).
1 데이터 준비 지시 · 답 2,000쌍 검증 100 · 점검 200 2 매개변수 계산 r 16 · 4행렬 × 32 16,777,216개 3 초기화 A 가우스 · B = 0 첫 출력 = 기반 모델 4 메모리 확인 모델 상태 13.7 GB 전체 조정 107.2 GB 5 학습 답 토큰만 손실 3 epoch · 최저 검증 6 잊음 점검 점검 200문항 정답률 71% → 69% 7 저장 · 병합 어댑터 33.6 MB W0 + (α/r)BA 배포 기반 13.4 GB 한 벌 + 과제별 어댑터 교체 데이터 학습 설정 · 학습 평가 · 출력 데이터 수 · 정답률 = 설명용 가정 값 · 매개변수 수 · 크기 = 원문 식 계산

그림 4 · 2,000쌍의 데이터가 매개변수 1,677만 개 학습과 2%p 잊음 점검을 거쳐 33.6 MB 어댑터가 되고, 병합하면 기반 모델과 같은 속도로 돈다.

24 GB 80 GB 전체 미세 조정 80 GB 넘음 가중치 기울기 Adam 상태 80.4 GB 107.2 GB LoRA 24 GB 안 얼림 13.4 + 0.27 = 13.7 GB QLoRA(4비트) 24 GB 안 3.35 + 0.27 = 3.6 GB 0 40 80 120 GB 채운 상자 = 가중치 · 기울기 · 굵은 테두리 = 학습 대상(가중치 + 기울기 + Adam) · 점선 = 설명용 GPU 메모리 · 활성값 제외

그림 5 · 모델 상태 메모리의 대부분은 학습 매개변수의 Adam 상태다 — 얼리기만 해도 107.2 GB 가 13.7 GB 로, 4비트로 얼리면 3.6 GB 로 내려가 GPU 한 장에 들어간다.

🔑 전체 미세 조정의 메모리는 가중치가 아니라 학습하는 매개변수 수에 비례한다 — 같은 6.7B 모델도 무엇을 얼리는가에 따라 107.2 GB 와 13.7 GB 로 갈린다.

6비교 — 전체 미세 조정 · 어댑터 · LoRA · 프롬프트 튜닝

기준전체 미세 조정어댑터LoRA프롬프트 튜닝
학습하는 것모든 가중치블록마다 끼운 병목 층행렬 옆 B · A입력 앞 가상 토큰 임베딩
학습 매개변수GPT-3 175,255.8MGPT-3 7.1M ~ 40.1MGPT-3 4.7M ~ 37.7MT5-XXL 5토큰 20,480개
GPT-3 WikiSQL 정확도73.8%71.9 ~ 73.2%73.4 ~ 74.0%모델이 수십억 규모를 넘으면 전체 조정과 차이가 사라짐(Lester 2021 초록)
추론 지연기반 모델과 같음추가 층만큼 늘어남(GPT-2 medium +2.2 ~ +30.3%)병합하면 기반 모델과 같음입력이 가상 토큰만큼 길어짐
과제 바꾸기모델 한 벌을 통째로 바꿈어댑터 교체BA 를 빼고 B′A′ 를 더함프롬프트만 교체 · 과제를 섞은 배치 가능

GPT-3 값은 Hu 2021 표 4, 지연은 같은 논문 표 1(배치 1 · 짧은 입력)이다.

분석형식 · 말투를 맞추는 일은 LoRA 부터 시작하고, 데이터가 많고 기반 모델과 분야 차이가 커서 LoRA 정확도가 모자랄 때 전체 미세 조정으로 옮긴다. 근거는 표의 정확도 행 — GPT-3 에서 LoRA 37.7M 이 전체 조정(73.8%)보다 높은 74.0%를 냈다(Hu 2021 표 4).

미세 조정과 RAG 중 하나를 고를 때는 바꾸려는 것이 «말하는 방식»인지 «아는 사실»인지를 먼저 본다. 비지도 미세 조정으로 사실을 넣은 실험에서 RAG 가 학습 때 본 지식과 새 지식 모두에서 앞섰고, 미세 조정은 같은 사실을 여러 표현으로 되풀이해 보여 줄 때만 나아졌다(Ovadia 2023 초록).

7실무 진단 — 미세 조정 결과가 기대와 다를 때

분석데이터 → 학습 설정 → 평가 순으로 좁힌다. 데이터 품질은 같은 개수에서도 점수를 바꾸므로(Zhou 2023 5절), 학습 설정을 바꿔 보기 전에 표본을 먼저 읽는다.

#증상의심 원인단계확인 자료판정 기준(근거)
1답 형식이 예시마다 다르게 섞여 나옴데이터 품질 · 형식 불일치데이터학습 데이터 표본 100쌍 검수필터한 데이터가 같은 2,000개의 필터 없는 데이터보다 0.5점 높음(Zhou 2023 5절)
2새 제품 사양을 물으면 그럴듯한 틀린 값사실 주입을 미세 조정에 맡김데이터그 사실이 학습 데이터에 나온 횟수 · 표현 수한두 번뿐이면 RAG 로 옮김(Ovadia 2023 초록)
3학습 손실은 내려가는데 검증 손실이 오름epoch 과다 · 과적합학습 설정epoch 별 학습 · 검증 손실 곡선검증 손실 최저점을 지난 체크포인트는 버림
4학습 시작 직후 GPU 메모리 부족학습 매개변수의 Adam 상태학습 설정학습 매개변수 수 × 16바이트 + 얼린 가중치 × 2바이트모델 상태가 GPU 메모리를 넘음(Rajbhandari 2019 3.1절)
5학습 뒤 출력이 기반 모델과 똑같음어댑터 미적재 · 병합 누락평가적재 로그 · 어댑터 B 행렬의 노름B 노름 0 = 갱신 없음(Hu 2021 4.1절 B = 0 초기화)
6원래 맞히던 일반 질문을 틀림잊어버림평가학습 전후 같은 점검 문항 정답률미리 정한 허용 폭을 넘는 하락(Kirkpatrick 2017 1절)

잊어버림이 허용 폭을 넘으면 학습률 · epoch 를 줄이거나, 점검 분야의 데이터를 학습 데이터에 섞거나, 중요한 가중치의 변화를 늦추는 EWC 같은 방법을 쓴다(Kirkpatrick 2017 2절).

8시험 대비

출제 정보 정보관리(139회) · 컴퓨터시스템응용(137회, 132회)문제 원문 — 큐넷 자료실 「기출문제(기술사)」 www.q-net.or.kr

시험에서는 사전 학습 뒤 적응 단계의 개념과 파라미터 효율 방식을 묻는 정의 · 특징형, 전체 미세 조정 · LoRA 또는 미세 조정 · RAG 의 차이와 선택 기준을 묻는 비교형이 나올 수 있다. 정의형은 h = W0x + BAx 와 매개변수 수 계산을 한 줄로 적어 «왜 효율적인가»를 숫자로 보이고, 비교형은 «무엇을 바꾸는가(형식 ↔ 사실)» 한 축으로 표를 세운다.

답안 목차
  1. 개요 — 정의 · 사전 학습 → 미세 조정 두 단계 · 필요성(형식 · 말투 · 도메인 용어) · ULMFiT 2018
  2. 방식 구조 — 그림 3 학습 위치(전체 · 어댑터 · LoRA · 프롬프트 튜닝) + h = W0x + BAx · B = 0 초기화
  3. 매개변수 수와 메모리 — r(d + k) × 4 × 32 = 16,777,216(0.25%) · 그림 5 매개변수당 16바이트 ↔ 2바이트 ↔ 4비트
  4. 절차 — 그림 4 데이터 → 매개변수 계산 → 초기화 → 학습 → 잊음 점검 → 병합 · 어댑터 33.6 MB
  5. 비교 — 비교표(GPT-3 전체 73.8% ↔ LoRA 74.0% · 4.7M ~ 37.7M) + RAG 와의 선택 기준(형식 ↔ 사실)
  6. 한계와 대응 — 잊어버림(점검 문항 · EWC) · 데이터 품질(LIMA 1,000쌍) · QLoRA 65B 48GB

꼭 쓸 키워드
사전 학습전체 미세 조정PEFTLoRA순위 r어댑터프롬프트 튜닝SFTQLoRA잊어버림

다른 답안과 차이를 내는 한 가지 — LoRA 매개변수 수를 r(d + k) 식으로 직접 계산하고 혼합 정밀도 Adam 16바이트 식으로 메모리를 이어서 셈해, 「효율」을 107.2 GB → 13.7 GB 라는 숫자로 보인다.

9오해와 사실

  • 오해문서를 넣어 미세 조정하면 모델이 그 사실을 확실히 외운다.
    사실비지도 미세 조정은 새 사실 학습에 약했고 RAG 가 기존 · 새 지식 모두에서 앞섰다 — 같은 사실을 여러 표현으로 보여 줄 때만 나아졌다(Ovadia 2023 초록).
  • 오해지시 미세 조정 데이터는 많을수록 좋다.
    사실65B 모델은 엄선한 1,000쌍만으로 형식을 익혔고, 7B 실험에서는 양만 늘리면 나아지지 않을 수 있고 다양성 · 품질이 점수를 바꿨다(Zhou 2023 3 · 5절).
  • 오해LoRA 는 행렬이 덧붙어 추론이 느려진다.
    사실학습 뒤 W = W0 + BA 로 합쳐 두면 추론 연산은 기반 모델과 같고, 과제를 바꿀 때는 BA 를 빼고 다른 B′A′ 를 더한다(Hu 2021 4.1절).

10핵심 정리

방식학습하는 것학습 매개변수(6.7B 사례)모델 상태 메모리과제별 저장맞는 쓰임
전체 미세 조정모든 가중치6.7B 전부16Ψ = 107.2 GB13.4 GB데이터가 많고 분야 차이가 클 때
LoRA행렬 옆 B · A16,777,216(0.25%)13.7 GB33.6 MB형식 · 말투 · 과제 여럿
QLoRA4비트로 얼린 W0 위 B · A16,777,2163.6 GB33.6 MBGPU 한 장(65B = 48GB 이하)
어댑터블록마다 병목 층GLUE 과제당 3.6%얼린 가중치 2Ψ + 어댑터어댑터만추론 지연을 감수할 때
프롬프트 튜닝입력 앞 가상 토큰5 × 4096 = 20,480얼린 가중치 2Ψ + 프롬프트프롬프트만수십억 규모 · 과제 수가 많을 때
SFT지시 · 답 쌍으로 위 방식 중 하나방식에 따름방식에 따름방식에 따름지시 따르기(LIMA 1,000 · InstructGPT 약 13k)

11참고 문헌

  1. 먼저 볼 문헌
  2. ★ LoRA: Low-Rank Adaptation of Large Language Models (Hu et al. · ICLR 2022) — 저순위 행렬 B · A 의 식과 GPT-3 학습 메모리 · 체크포인트 절감을 볼 때
    arXiv · 2021-06 · arxiv.org/abs/2106.09685 · 확인 2026-11-04
  3. ★ ZeRO: Memory Optimizations Toward Training Trillion Parameter Models (Rajbhandari et al. · SC20) — 혼합 정밀도 Adam 의 매개변수당 16바이트 식을 볼 때
    arXiv · 2019-10 · arxiv.org/abs/1910.02054 · 확인 2026-11-04
  4. ★ QLoRA: Efficient Finetuning of Quantized LLMs (Dettmers et al. · NeurIPS 2023) — 4비트로 얼린 모델 위에서 LoRA 를 학습하는 메모리 절감을 볼 때
    arXiv · 2023-05 · arxiv.org/abs/2305.14314 · 확인 2026-11-04
  5. ★ LIMA: Less Is More for Alignment (Zhou et al. · NeurIPS 2023) — 지시 미세 조정 데이터의 양 · 품질 · 다양성 실험을 볼 때
    arXiv · 2023-05 · arxiv.org/abs/2305.11206 · 확인 2026-11-04
  6. ★ Fine-Tuning or Retrieval? Comparing Knowledge Injection in LLMs (Ovadia et al. · EMNLP 2024) — 새 사실을 넣을 때 미세 조정과 RAG 를 견준 실험을 볼 때
    arXiv · 2023-12 · arxiv.org/abs/2312.05934 · 확인 2026-11-04
  7. 본문 근거
  8. Parameter-Efficient Transfer Learning for NLP (Houlsby et al. · ICML 2019) — arXiv · 2019-02 · arxiv.org/abs/1902.00751 · 확인 2026-11-04
  9. The Power of Scale for Parameter-Efficient Prompt Tuning (Lester et al. · EMNLP 2021) — arXiv · 2021-04 · arxiv.org/abs/2104.08691 · 확인 2026-11-04
  10. Universal Language Model Fine-tuning for Text Classification (Howard · Ruder · ACL 2018) — arXiv · 2018-01 · arxiv.org/abs/1801.06146 · 확인 2026-11-04
  11. Finetuned Language Models Are Zero-Shot Learners (Wei et al. · ICLR 2022) — arXiv · 2021-09 · arxiv.org/abs/2109.01652 · 확인 2026-11-04
  12. Training language models to follow instructions with human feedback (Ouyang et al. · NeurIPS 2022) — arXiv · 2022-03 · arxiv.org/abs/2203.02155 · 확인 2026-11-04
  13. Overcoming catastrophic forgetting in neural networks (Kirkpatrick et al. · PNAS 114(13)) — arXiv · 2016-12 · arxiv.org/abs/1612.00796 · 확인 2026-11-04
  14. Catastrophic Interference in Connectionist Networks: The Sequential Learning Problem (McCloskey · Cohen · Psychology of Learning and Motivation 24) — Academic Press · 1989-01 · doi.org/10.1016/S0079-7421(08)60536-8 · 확인 2026-11-04
  15. LLaMA: Open and Efficient Foundation Language Models (Touvron et al.) — arXiv · 2023-02 · arxiv.org/abs/2302.13971 · 확인 2026-11-04