도구 호출Tool Calling (Function Calling)
LLM 이 직접 하지 못하는 계산 · 조회 · 시스템 조작을, 미리 받은 도구 정의(JSON 스키마)에 맞춘 호출 형식으로 출력하면 애플리케이션이 그 함수를 실행해 결과를 다시 모델에 넣는 방식이다. 모델은 호출을 쓰기만 하고 검증 · 실행 · 권한은 애플리케이션이 맡는다.
1요약
- 도구 호출은 애플리케이션이 함수의 이름 · 설명 · 인자 형식을 JSON 스키마(2020-12)로 모델에 건네고, 모델이 답 글 대신
id · name · arguments를 출력하면 그 함수를 실행해 결과를 돌려주는 주고받기다 — AI 에이전트의 행동 한 회차와 표준 연결 규약 MCP 의 도구가 이 형식 위에서 돈다. - 외부 계산기가 없는 언어 모델은 4자리 덧셈 정확도가 25.5%, 5자리가 9.3% 였지만, 같은 계산을 계산 모듈로 넘긴 MRKL 은 1 ~ 9자리 모두 100% 였다 — 정확한 값은 함수가 낸다(Karpas 외 2022 표 1).
- 「도구 호출이 틀렸다」는 어느 단계에서 어긋났는가로 가른다 — 없는 이름이면 고르기, JSON 이 안 풀리면 형식, 허용 밖 값이면 인자, 결과가 다른 호출에 붙었으면 id 짝, 승인 없이 썼으면 권한 단계다.
2등장 배경
LLM 은 학습 때 본 글로 다음 토큰을 고를 뿐이라 큰 수 계산 · 회사 데이터베이스 조회 · 주문 생성처럼 정확한 값이나 외부 상태가 필요한 일을 스스로 하지 못한다(Karpas 외 2022 1절). 2022년 5월 MRKL 은 입력을 계산기 · 데이터베이스 같은 전문 모듈로 보내는 라우터와 «모듈에 넘길 인자를 뽑는 일»을 한 구조로 제안했고, 한 자리 수로만 학습한 인자 추출이 9자리 수까지 맞았다(3.2절).
2023년 5월 Gorilla(Patil 외)는 API 호출 1,645개로 APIBench 를 만들고, 목록에 없는 API 를 지어 부르는 것을 환각, 있는 API 를 잘못 부르는 것을 오류로 갈랐다(3.3절). 문서 없이 부르게 한 범용 모델은 TorchHub 에서 환각이 36.55% 였지만 맞는 API 문서를 붙이자 0.53% 로 줄었고(표 1), 7월 ToolLLM(Qin 외)은 49개 분야의 REST API 16,464개로 학습 데이터를 만들었다.
지금은 상용 · 공개 모델 대부분이 전용 함수 호출 모드를 두고, BFCL(Patil 외 2025)은 이를 단일 · 다중 · 병렬 · 병렬 다중 · 무관 다섯 범주로 나눠 잰다(3.1절). 도구를 어디서 가져오는지는 표준 연결 규약 MCP(현행 명세 2026-07-28)가 정하고, 도구 결과에 섞인 지시문이 모델을 움직이는 간접 프롬프트 주입은 OWASP LLM01:2025 의 첫 항목이다.
3쉽게 이해하기 — 검사 의뢰서를 쓰는 의사
환자가 진료실에서 「어지럽다」고 말한다. 의사는 직접 피를 뽑지 않고, 병원이 정해 둔 검사 의뢰서 양식에 검사 이름과 채혈 부위를 적어 번호표를 붙인다. 접수 창구는 양식 칸이 맞는지 보고 혈액 검사실과 영상 검사실에 의뢰서를 동시에 보내며, 돌아온 결과지를 번호표대로 의사에게 건넨다. 위험한 검사는 환자 서명을 먼저 받고, 결과지 귀퉁이에 누가 써 둔 「이 환자 퇴원」 낙서는 처방으로 따르지 않는다.
그림 1 · 의사는 양식에 맞춰 의뢰서를 쓰기만 하고, 확인 · 전달 · 번호 맞추기는 접수 창구가, 검사는 검사실이 맡는다.
그림 2 · 칸이 정해진 의뢰서는 틀린 값을 검사 전에 돌려보내고, 번호표가 결과지와 의뢰서를 짝짓는다 — 실제 호출의 enum 검사와 id 가 같은 일을 한다.
| 비유 속 역할 | 실제 이름 | 실제로 하는 일 |
|---|---|---|
| 환자의 증상 | 사용자 요청 | 첫 메시지로 모델에 들어간다 |
| 의사 | LLM | 도구가 필요한지 고르고 호출 형식을 출력한다 |
| 의뢰서 양식 | 도구 정의(JSON 스키마) | 이름 · 설명 · 인자 형식을 요청마다 함께 보낸다 |
| 번호표 | 호출 id | 결과 메시지의 tool_call_id 로 호출과 짝짓는다 |
| 접수 창구 | 애플리케이션 | 인자를 스키마로 검사한 뒤 함수를 실행한다 |
| 두 검사실 | 도구 함수 · 병렬 호출 | 서로 독립인 호출 여러 건을 한 출력에 담아 함께 실행한다 |
| 결과지 | 도구 결과 | 다음 모델 호출의 문맥에 붙는다 |
| 동의서 | 실행 전 확인 | 쓰기 · 되돌릴 수 없는 호출은 사용자 승인 뒤에만 실행한다 |
⚠ 비유가 맞지 않는 곳: 의사는 양식에 없는 검사도 말로 부탁할 수 있지만, 모델이 정의에 없는 이름을 내면 그것은 환각이고 애플리케이션이 실행하지 않아야 한다. 또 접수 창구는 의사를 믿고 넘기지만, 실제 애플리케이션은 모델 출력을 믿지 않고 매번 스키마로 검사한다.
4구조 — 정의 · 출력 · 검증 · 실행 · 결과
도구 호출 한 번에는 다섯 조각이 오간다. 모델이 만드는 것은 호출 출력 하나뿐이고, 정의 · 검증 · 실행 · 결과 반영은 애플리케이션 코드가 쥔다.
그림 3 · 모델은 호출 출력만 만들고, 그 출력은 애플리케이션 안에서 검증 → 확인 → 실행 → 기록 순서를 거쳐야 도구 함수에 닿는다.
| 요소 | 맡는 일 | 값 · 근거 |
|---|---|---|
| 도구 정의 | 부를 수 있는 함수를 모델에 알림 | name · description · 인자 스키마 · 실제 질의 평균 함수 3개 · 인자 4개(Patil 외 2025 5.2절) |
| 호출 출력 | 모델이 고른 함수와 인자 | id · name · arguments(JSON 문자열) · 한 출력에 여러 건 가능 |
| 인자 검증 | 실행 전 형식 검사 | type · enum · pattern · required(JSON Schema Validation 2020-12 6.1.1 · 6.1.2 · 6.3.3 · 6.5.3) |
| 확인 규칙 | 쓰기 · 고위험 호출 승인 | 고위험 동작은 사람 승인(OWASP LLM01:2025 대응 5) |
| 실행기 | 이름으로 함수를 찾아 실행 | 목록 밖 이름 = 환각 · 실행하지 않음(Patil 외 2023 3.3절) |
| 도구 결과 | 결과를 호출과 짝지어 문맥에 | tool_call_id = 호출 id · 병렬 호출은 순서가 없음(Patil 외 2025 부록 H) |
| 도구 공급원 | 정의를 어디서 받나 | 애플리케이션 코드 또는 MCP 서버(JSON-RPC 2.0 · MCP 2026-07-28) |
🔑 스키마는 모델에게는 «쓰는 법»이고 애플리케이션에게는 «받는 조건»이다 — 같은 JSON 스키마를 요청에 넣고 실행 전 검증기에도 걸어야 형식이 틀린 호출이 함수까지 가지 않는다.
5동작 — 창고 재고 조회와 발주 한 건
Python 3.14.0 · jsonschema 4.26.0 으로 직접 실행했다 — 모델 자리는 회차마다 정해 둔 출력을 내는 모의 LLM 이고, 품번 · 창고 수량은 설명용 가정 값이다. 메시지 모양(tool_calls · tool_call_id)은 여러 공급자 API 에 공통인 형태로 줄였다.
- 애플리케이션이 요청 「A-100 재고가 수원 · 평택 합쳐 몇 개고, 주문 1,250개에 몇 개 모자라? 모자라면 발주해 줘」와 도구 정의 3개(
get_stock·calc·create_purchase_order· 직렬화 1,042바이트)를 모델에 보낸다. - 모델 1회차 출력은 병렬 호출 2건이다 —
call_1=get_stock(sku=,"A-100", warehouse= "suwon") call_2=get_stock(... . , warehouse= "Pyeongtaek") - 애플리케이션이
arguments를 JSON 으로 풀고 스키마로 검사한다 —call_1은 통과해qty 420을 받고,call_2는 「'Pyeongtaek' is not one of ['suwon', 'pyeongtaek', 'cheonan']」(오류 경로warehouse)로 실행 없이 오류 결과가 된다. - 두 결과를 각
tool_call_id로 붙여 다시 보내자, 모델이call_3=get_stock(warehouse=으로 고쳐 불러"pyeongtaek") qty 515를 받는다. - 모델이
call_4=calc(op=를 내고 결과"sub", operands= [1250, 420, 515] ) 315를 받는다. - 모델이
call_5=create_purchase_order(sku=를 내면, 쓰기 도구라 애플리케이션이 사용자 확인을 먼저 받고 승인 뒤 실행해"A-100", qty= 315) PO-0001을 받는다. - 5회차에 모델이 글로 답한다 — 「315개 부족 · 발주 PO-0001」 · 합계 = 모델 호출 5회 · 도구 호출 5건 · 실행 4건 · 스키마 거부 1건 · 메시지 11개.
그림 4 · 메시지 11개 가운데 스키마 거부 한 건은 함수를 거치지 않고 같은 id 의 오류 결과로 돌아가, 모델이 다음 회차에 인자를 고친다.
사례 ② 처럼 서로 기다릴 필요가 없는 호출은 한 출력에 묶는다. 병렬 호출은 정의상 순서가 없어서, 앞 결과가 다음 인자가 되면 하나씩 내고 결과를 기다려야 한다(Patil 외 2025 부록 H) — 서로 독립인 조회 k 건의 모델 호출 수는 하나씩이면 k + 1, 묶으면 2 다.
그림 5 · 서로 독립인 조회 k 건을 하나씩 부르면 모델 호출이 k + 1 회, 한 출력에 묶으면 k 와 관계없이 2 회다 — 20건이면 21 회 대 2 회.
🔑 병렬로 묶을지는 속도가 아니라 «의존»이 정한다 — 앞 결과가 다음 인자에 들어가면(사례 ④ → ⑤) 묶을 수 없고, 서로 모르는 조회끼리만(사례 ②) 한 출력에 낸다.
6비교 — 프롬프트 방식 · 함수 호출 모드
| 기준 | 프롬프트 방식 | 함수 호출 모드(FC) |
|---|---|---|
| 도구 정의를 넣는 곳 | 시스템 프롬프트 글 | API 의 도구 매개변수(JSON 스키마) |
| 호출이 나오는 곳 | 답 글 속 형식 문자열 → 애플리케이션이 잘라 냄 | 답 글과 따로 구조화된 호출 필드 |
| 해석 실패(4,251 항목 평균) | 412.93 | 182.5 |
| 다중 범주 호출 개수 오류(해석 성공분) | 21 | 77.5 |
| 병렬 호출 · 다른 언어 함수 | 형식만 따르면 됨 · Java · JavaScript 에서 더 나음 | 모드가 병렬을 막는 모델이 있음 |
분석기본은 함수 호출 모드로 짜고, 병렬 호출이 필요하거나 호출 개수가 자주 틀리는 모델이면 같은 평가 세트로 프롬프트 방식을 함께 잰다. 근거는 BFCL 5.1절 — FC 모드의 해석 실패는 프롬프트 방식의 절반 아래지만, 해석된 응답의 호출 개수 오류는 3.7배였다.
7실무 진단 — 어긋난 단계 가르기
분석실행 뒤에는 되돌릴 수 없는 권한 · 주입부터 보고, 응답 필드 하나로 판정되는 이름 · 형식 · 인자 · id 를 다음에, 도구 설명을 고쳐 다시 재야 하는 고르기를 마지막에 본다. 근거는 OWASP LLM01:2025 가 권한을 모델이 아닌 코드에서 집행하라고 한 대응 4 와, 표 3 ~ 6행이 검증기 · 파서 출력 하나로 갈린다는 점이다.
| # | 증상 | 의심 원인 | 단계 | 확인 자료 | 판정 기준(근거) |
|---|---|---|---|---|---|
| 1 | 쓰기 도구가 승인 없이 실행됨 | 확인 규칙 누락 | 권한 | 쓰기 도구 목록 · 승인 기록 | 고위험 동작은 사람 승인 · 권한은 코드에서(OWASP LLM01:2025 대응 4 · 5) |
| 2 | 도구 결과 직후 요청에 없던 호출 | 결과 속 지시문(간접 주입) | 권한 | 그 호출 직전 결과 원문 | 외부 내용은 표시해 지시와 가름(OWASP LLM01:2025 대응 6) |
| 3 | 목록에 없는 이름을 부름 | 도구 환각 | 고르기 | 출력 name ↔ 등록 목록 | 목록 밖 이름 = 환각 · 실행 전 거절(Patil 외 2023 3.3절) |
| 4 | arguments 가 JSON 으로 풀리지 않음 | 형식 깨짐 | 형식 | 인자 원문 · 파서 오류 위치 | 프롬프트 방식이 FC 모드의 약 2.3배(Patil 외 2025 5.1절) |
| 5 | 값이 허용 범위 밖 | 스키마 위반 | 인자 | 검증기 오류 경로(사례 warehouse) | enum · pattern 불일치(JSON Schema Validation 6.1.2 · 6.3.3) |
| 6 | 결과가 다른 호출의 값으로 쓰임 | 순서로 짝지음 | 결과 반영 | tool_call_id ↔ 호출 id | 병렬 호출은 순서가 없음 · id 로만 짝(Patil 외 2025 부록 H) |
| 7 | 필요 없는데 부름 · 필요한데 글로 답함 | 도구 설명 모호 | 고르기 | 요청의 도구 정의 · 출력의 호출 유무 | 무관 범주의 정답은 호출 0건(Patil 외 2025 부록 C) |
1 · 2행은 실행이 끝나면 되돌릴 수 없어 먼저 막고, 고칠 곳은 프롬프트 문장이 아니라 확인 규칙과 도구 계정 권한이다. 3 ~ 6행은 검증기 · 파서 로그로 끝나며, 7행은 도구 description 에 «언제 쓰고 언제 쓰지 않는가»를 적고 무관 질의를 섞은 평가 세트로 다시 잰다.
8시험 대비
시험에서는 도구 호출의 정의와 LLM 단독 생성과의 차이를 쓰는 정의 · 특징형, 정의 → 호출 출력 → 검증 · 실행 → 결과 반영 순서를 그리는 동작 · 절차 설명형이 나올 수 있다. 정의형이면 «모델은 쓰고 애플리케이션이 실행한다»는 경계를 첫 문장에 두고, 절차형이면 그림 4 처럼 메시지 순서와 id 짝을 실제 값으로 보인다.
- 개요 — 정의 · 모델이 못 하는 일(외부 계산기 없는 4자리 덧셈 25.5% ↔ 계산 모듈 100% · Karpas 2022)
- 구성 — 그림 3 도구 정의 · 호출 출력 · 인자 검증 · 확인 규칙 · 실행기 · 결과 + 요소 표(JSON Schema 2020-12 키워드)
- 동작 절차 — 그림 4 메시지 11개(병렬 2건 → 스키마 거부 → 인자 수정 → 계산 → 승인 뒤 발주 → 답)
- 병렬과 순차 — 그림 5 모델 호출 수 k + 1 ↔ 2 · 의존이 있으면 하나씩
- 오류 유형 — 고르기(환각 · 무관) · 형식 · 인자 · id 짝 · BFCL 다섯 범주
- 안전 — 실행 전 확인 · 최소 권한 · 외부 내용 구분(OWASP LLM01:2025) · 표준 연결 규약 MCP
꼭 쓸 키워드
함수 호출JSON 스키마호출 id병렬 호출인자 검증도구 환각무관 감지실행 전 확인간접 프롬프트 주입MCP
다른 답안과 차이를 내는 한 가지는 그림 4 다 — 스키마 거부 한 건이 함수를 거치지 않고 같은 id 의 오류 결과로 돌아가 모델이 인자를 고치는 장면을 보이면, «검증은 애플리케이션 몫»이 한 장으로 증명된다.
9오해와 사실
- 오해함수 호출 기능이 있으면 모델이 함수를 실행한다.사실모델의 출력은 이름과 인자를 담은 JSON 문자열이고 실행은 애플리케이션이 하며, 사례의
call_2처럼 애플리케이션이 실행 전에 거절할 수 있다. - 오해도구 문서를 많이 붙일수록 모델이 잘 고른다.사실맞는 문서를 붙이면 환각이 36.55% 에서 0.53% 로 줄었지만, 미세 조정한 모델에 BM25 검색기가 고른 문서를 붙이자 TorchHub 정확도가 21.50% 떨어졌다(Patil 외 2023 표 1 · 4.1절).
- 오해스키마 검증을 통과한 호출은 안전하다.사실검증은 형식만 보므로 허용 값 안의 잘못된 창고 · 결과 속 지시문은 통과하며, OWASP 는 확실한 예방법이 없다고 보고 최소 권한과 사람 승인을 함께 두라고 한다(LLM01:2025).
10핵심 정리
| 구분 | 만드는 쪽 | 담는 값 | 사례 값 | 대표 오류 | 막는 장치 |
|---|---|---|---|---|---|
| 도구 정의 | 개발자 · MCP 서버 | name · description · 인자 스키마 | 3개 · 1,042바이트 | 설명 모호 → 고르기 실패 | 쓰는 때 · 안 쓰는 때 적기 |
| 호출 출력 | LLM | id · name · arguments | call_1 ~ call_5 | 환각 이름 · JSON 깨짐 | 목록 대조 · 파서 |
| 병렬 호출 | LLM | 한 출력에 여러 호출 | call_1 · call_2 | 의존 호출을 묶음 | 앞 결과가 필요하면 하나씩 |
| 인자 검증 | 애플리케이션 | 오류 경로 · 메시지 | warehouse enum 위반 | 허용 밖 값 | 실행 전 거절 · 오류를 결과로 |
| 도구 결과 | 애플리케이션 → 모델 | tool_call_id · 내용 | 420 · 515 · 315 | 다른 호출과 섞임 | id 로 짝 |
| 실행 전 확인 | 사용자 | 승인 · 거부 | call_5 승인 | 무단 쓰기 | 쓰기 도구 목록 · 최소 권한 |
| 결과 속 주입 | 외부 데이터 | 결과에 섞인 지시문 | — | 지시로 따름 | 외부 내용 표시 · 사람 승인 |
11참고 문헌
- 먼저 볼 문헌
- ★ The Berkeley Function Calling Leaderboard (BFCL): From Tool Use to Agentic Evaluation of Large Language Models (Patil et al. · ICML 2025 · PMLR 267) — 단일 · 다중 · 병렬 · 무관 범주와 함수 호출 모드 ↔ 프롬프트 방식의 차이를 볼 때
- ★ Gorilla: Large Language Model Connected with Massive APIs (Patil et al.) — 목록에 없는 API 를 부르는 환각과 문서를 붙였을 때의 차이를 볼 때
- ★ JSON Schema: A Vocabulary for Structural Validation of JSON (draft-bhutton-json-schema-validation-01 · 2020-12) — type · enum · pattern · required 같은 인자 검사 키워드를 볼 때
- ★ OWASP Top 10 for LLM Applications 2025 - LLM01:2025 Prompt Injection — 간접 주입과 최소 권한 · 사람 승인 · 외부 내용 구분 대응을 볼 때
- 본문 근거
- MRKL Systems: A modular, neuro-symbolic architecture that combines large language models, external knowledge sources and discrete reasoning (Karpas et al.) — arXiv · 2022-05 ·
arxiv.org/abs/2205.00445· 확인 2026-11-04 - ToolLLM: Facilitating Large Language Models to Master 16000+ Real-world APIs (Qin et al.) — arXiv · 2023-07 ·
arxiv.org/abs/2307.16789· 확인 2026-11-04 - JSON Schema: A Media Type for Describing JSON Documents (draft-bhutton-json-schema-01 · 2020-12) — JSON Schema · 2022-06 ·
json-schema.org/draft/2020-12/json-schema-core· 확인 2026-11-04 - Model Context Protocol Specification 2026-07-28 - Overview — Model Context Protocol · 2026-07 ·
modelcontextprotocol.io/specification/2026-07-28· 확인 2026-11-04 - jsonschema 4.26.0 documentation (Python) — python-jsonschema · 2026-11 ·
python-jsonschema.readthedocs.io/en/stable/· 확인 2026-11-04