AI › 생성형 AI › AI 에이전트 › 에이전트 구성

도구 호출Tool Calling (Function Calling)

LLM 이 직접 하지 못하는 계산 · 조회 · 시스템 조작을, 미리 받은 도구 정의(JSON 스키마)에 맞춘 호출 형식으로 출력하면 애플리케이션이 그 함수를 실행해 결과를 다시 모델에 넣는 방식이다. 모델은 호출을 쓰기만 하고 검증 · 실행 · 권한은 애플리케이션이 맡는다.

1요약

  1. 도구 호출은 애플리케이션이 함수의 이름 · 설명 · 인자 형식을 JSON 스키마(2020-12)로 모델에 건네고, 모델이 답 글 대신 id · name · arguments 를 출력하면 그 함수를 실행해 결과를 돌려주는 주고받기다 — AI 에이전트의 행동 한 회차와 표준 연결 규약 MCP 의 도구가 이 형식 위에서 돈다.
  2. 외부 계산기가 없는 언어 모델은 4자리 덧셈 정확도가 25.5%, 5자리가 9.3% 였지만, 같은 계산을 계산 모듈로 넘긴 MRKL 은 1 ~ 9자리 모두 100% 였다 — 정확한 값은 함수가 낸다(Karpas 외 2022 표 1).
  3. 「도구 호출이 틀렸다」는 어느 단계에서 어긋났는가로 가른다 — 없는 이름이면 고르기, JSON 이 안 풀리면 형식, 허용 밖 값이면 인자, 결과가 다른 호출에 붙었으면 id 짝, 승인 없이 썼으면 권한 단계다.

2등장 배경

LLM 은 학습 때 본 글로 다음 토큰을 고를 뿐이라 큰 수 계산 · 회사 데이터베이스 조회 · 주문 생성처럼 정확한 값이나 외부 상태가 필요한 일을 스스로 하지 못한다(Karpas 외 2022 1절). 2022년 5월 MRKL 은 입력을 계산기 · 데이터베이스 같은 전문 모듈로 보내는 라우터와 «모듈에 넘길 인자를 뽑는 일»을 한 구조로 제안했고, 한 자리 수로만 학습한 인자 추출이 9자리 수까지 맞았다(3.2절).

2023년 5월 Gorilla(Patil 외)는 API 호출 1,645개로 APIBench 를 만들고, 목록에 없는 API 를 지어 부르는 것을 환각, 있는 API 를 잘못 부르는 것을 오류로 갈랐다(3.3절). 문서 없이 부르게 한 범용 모델은 TorchHub 에서 환각이 36.55% 였지만 맞는 API 문서를 붙이자 0.53% 로 줄었고(표 1), 7월 ToolLLM(Qin 외)은 49개 분야의 REST API 16,464개로 학습 데이터를 만들었다.

지금은 상용 · 공개 모델 대부분이 전용 함수 호출 모드를 두고, BFCL(Patil 외 2025)은 이를 단일 · 다중 · 병렬 · 병렬 다중 · 무관 다섯 범주로 나눠 잰다(3.1절). 도구를 어디서 가져오는지는 표준 연결 규약 MCP(현행 명세 2026-07-28)가 정하고, 도구 결과에 섞인 지시문이 모델을 움직이는 간접 프롬프트 주입은 OWASP LLM01:2025 의 첫 항목이다.

3쉽게 이해하기 — 검사 의뢰서를 쓰는 의사

환자가 진료실에서 「어지럽다」고 말한다. 의사는 직접 피를 뽑지 않고, 병원이 정해 둔 검사 의뢰서 양식에 검사 이름과 채혈 부위를 적어 번호표를 붙인다. 접수 창구는 양식 칸이 맞는지 보고 혈액 검사실과 영상 검사실에 의뢰서를 동시에 보내며, 돌아온 결과지를 번호표대로 의사에게 건넨다. 위험한 검사는 환자 서명을 먼저 받고, 결과지 귀퉁이에 누가 써 둔 「이 환자 퇴원」 낙서는 처방으로 따르지 않는다.

환자 증상을 말함 어지러워요 사용자 요청 의사 직접 검사 안 함 필요한 검사 고르기 LLM 의뢰서 양식 칸이 정해짐 검사 이름 · 부위 도구 정의 · 스키마 동의서 위험한 검사만 환자 서명 실행 전 확인 접수 창구 칸 확인 번호표대로 전달 애플리케이션 · 검증 검사실 둘 동시에 검사 혈액 · 영상 도구 함수 · 병렬 결과지의 낙서 결과 속 주입 번호표 결과지 1 2 3 4 5 6 ① 증상을 말함 · ② 양식대로 쓰고 번호표를 붙임 ③ 두 검사실에 동시에 · ④ 결과지가 돌아옴 ⑤ 번호표대로 의사에게 · ⑥ 결과로 설명 점선 = 양식을 보고 씀 · 위험 검사만 서명 · 결과지에 섞인 낙서

그림 1 · 의사는 양식에 맞춰 의뢰서를 쓰기만 하고, 확인 · 전달 · 번호 맞추기는 접수 창구가, 검사는 검사실이 맡는다.

증상 듣기환자가 어지럽다고 말함
의뢰서 쓰기양식 칸에 맞춰 적음
창구 확인칸이 틀리면 돌려보냄
검사두 검사실이 동시에
결과지번호표대로 돌아옴
설명의사가 결과로 답함
비유 — 의뢰서 한 장 실제 — 호출 한 건 번호표 17 결과지에도 같은 번호 검사 이름 — 혈액 검사 양식 목록에 있음 채혈 부위 — 「발목」 고를 수 있는 칸은 팔 · 손가락 창구가 검사 전에 돌려보냄 검사실에는 가지 않음 id — call_2 결과의 tool_call_id 와 짝 name — get_stock 도구 목록에 있음 warehouse — "Pyeongtaek" enum = suwon · pyeongtaek · cheonan 검증 실패 — 실행 없이 오류 결과 오류 경로 = warehouse 형식이 정해져 있어 틀린 값은 실행 전에 잡히고, 번호가 있어 결과가 섞이지 않는다 식별 · 정의 허용 밖 값 검증 점선 = 비유와 실제의 짝

그림 2 · 칸이 정해진 의뢰서는 틀린 값을 검사 전에 돌려보내고, 번호표가 결과지와 의뢰서를 짝짓는다 — 실제 호출의 enum 검사와 id 가 같은 일을 한다.

비유 속 역할실제 이름실제로 하는 일
환자의 증상사용자 요청첫 메시지로 모델에 들어간다
의사LLM도구가 필요한지 고르고 호출 형식을 출력한다
의뢰서 양식도구 정의(JSON 스키마)이름 · 설명 · 인자 형식을 요청마다 함께 보낸다
번호표호출 id결과 메시지의 tool_call_id 로 호출과 짝짓는다
접수 창구애플리케이션인자를 스키마로 검사한 뒤 함수를 실행한다
두 검사실도구 함수 · 병렬 호출서로 독립인 호출 여러 건을 한 출력에 담아 함께 실행한다
결과지도구 결과다음 모델 호출의 문맥에 붙는다
동의서실행 전 확인쓰기 · 되돌릴 수 없는 호출은 사용자 승인 뒤에만 실행한다

⚠ 비유가 맞지 않는 곳: 의사는 양식에 없는 검사도 말로 부탁할 수 있지만, 모델이 정의에 없는 이름을 내면 그것은 환각이고 애플리케이션이 실행하지 않아야 한다. 또 접수 창구는 의사를 믿고 넘기지만, 실제 애플리케이션은 모델 출력을 믿지 않고 매번 스키마로 검사한다.

4구조 — 정의 · 출력 · 검증 · 실행 · 결과

도구 호출 한 번에는 다섯 조각이 오간다. 모델이 만드는 것은 호출 출력 하나뿐이고, 정의 · 검증 · 실행 · 결과 반영은 애플리케이션 코드가 쥔다.

사용자 요청 · 승인 애플리케이션 검증 → 확인 → 실행 → 기록 도구 정의 — name · parameters 인자 검증 — JSON 스키마 확인 규칙 — 쓰기 도구는 승인 실행기 — 이름으로 함수 찾기 메시지 기록 — 결과를 id 로 짝 LLM 답 글 또는 호출 출력 id · name · arguments 도구 함수 get_stock · calc — 읽기 create_purchase_order — 쓰기 애플리케이션 코드 또는 MCP 서버 굵은 화살 = 요청 · 정의 · 실행 · 회색 = 돌아오는 호출 출력 · 결과 · 승인 요청 사람 · 확인 모델 정의 · 식별 검증 문맥 · 결과

그림 3 · 모델은 호출 출력만 만들고, 그 출력은 애플리케이션 안에서 검증 → 확인 → 실행 → 기록 순서를 거쳐야 도구 함수에 닿는다.

요소맡는 일값 · 근거
도구 정의부를 수 있는 함수를 모델에 알림name · description · 인자 스키마 · 실제 질의 평균 함수 3개 · 인자 4개(Patil 외 2025 5.2절)
호출 출력모델이 고른 함수와 인자id · name · arguments(JSON 문자열) · 한 출력에 여러 건 가능
인자 검증실행 전 형식 검사type · enum · pattern · required(JSON Schema Validation 2020-12 6.1.1 · 6.1.2 · 6.3.3 · 6.5.3)
확인 규칙쓰기 · 고위험 호출 승인고위험 동작은 사람 승인(OWASP LLM01:2025 대응 5)
실행기이름으로 함수를 찾아 실행목록 밖 이름 = 환각 · 실행하지 않음(Patil 외 2023 3.3절)
도구 결과결과를 호출과 짝지어 문맥에tool_call_id = 호출 id · 병렬 호출은 순서가 없음(Patil 외 2025 부록 H)
도구 공급원정의를 어디서 받나애플리케이션 코드 또는 MCP 서버(JSON-RPC 2.0 · MCP 2026-07-28)

🔑 스키마는 모델에게는 «쓰는 법»이고 애플리케이션에게는 «받는 조건»이다 — 같은 JSON 스키마를 요청에 넣고 실행 전 검증기에도 걸어야 형식이 틀린 호출이 함수까지 가지 않는다.

5동작 — 창고 재고 조회와 발주 한 건

Python 3.14.0 · jsonschema 4.26.0 으로 직접 실행했다 — 모델 자리는 회차마다 정해 둔 출력을 내는 모의 LLM 이고, 품번 · 창고 수량은 설명용 가정 값이다. 메시지 모양(tool_calls · tool_call_id)은 여러 공급자 API 에 공통인 형태로 줄였다.

  1. 애플리케이션이 요청 「A-100 재고가 수원 · 평택 합쳐 몇 개고, 주문 1,250개에 몇 개 모자라? 모자라면 발주해 줘」와 도구 정의 3개(get_stock · calc · create_purchase_order · 직렬화 1,042바이트)를 모델에 보낸다.
  2. 모델 1회차 출력은 병렬 호출 2건이다 — call_1 = get_stock(sku="A-100", warehouse="suwon"), call_2 = get_stock(..., warehouse="Pyeongtaek").
  3. 애플리케이션이 arguments 를 JSON 으로 풀고 스키마로 검사한다 — call_1 은 통과해 qty 420 을 받고, call_2 는 「'Pyeongtaek' is not one of ['suwon', 'pyeongtaek', 'cheonan']」(오류 경로 warehouse)로 실행 없이 오류 결과가 된다.
  4. 두 결과를 각 tool_call_id 로 붙여 다시 보내자, 모델이 call_3 = get_stock(warehouse="pyeongtaek") 으로 고쳐 불러 qty 515 를 받는다.
  5. 모델이 call_4 = calc(op="sub", operands=[1250, 420, 515]) 를 내고 결과 315 를 받는다.
  6. 모델이 call_5 = create_purchase_order(sku="A-100", qty=315) 를 내면, 쓰기 도구라 애플리케이션이 사용자 확인을 먼저 받고 승인 뒤 실행해 PO-0001 을 받는다.
  7. 5회차에 모델이 글로 답한다 — 「315개 부족 · 발주 PO-0001」 · 합계 = 모델 호출 5회 · 도구 호출 5건 · 실행 4건 · 스키마 거부 1건 · 메시지 11개.
# 역할 내용(직접 실행 값) id 1 1 사용자 재고 합계 · 1,250개 부족분 · 발주 요청 + 도구 정의 3개 2 2 모델 get_stock(suwon) · get_stock("Pyeongtaek") 병렬 2건 call_1 · 2 3 3 도구 결과 qty 420 call_1 4 도구 결과 schema 오류 · warehouse 가 enum 밖 · 실행 안 함 call_2 4 5 모델 get_stock(warehouse="pyeongtaek") — 인자를 고침 call_3 6 도구 결과 qty 515 call_3 5 7 모델 calc(op="sub", operands=[1250, 420, 515]) call_4 8 도구 결과 result 315 call_4 6 9 모델 create_purchase_order(A-100, 315) 사용자 확인 → 승인 call_5 10 도구 결과 po_id PO-0001 · qty 315 call_5 7 11 모델 최종 답 — 315개 부족 · 발주 PO-0001 — 모델 호출 5회 · 도구 호출 5건 · 실행 4건 · 스키마 거부 1건 · 원 = 사례 단계 · 굵은 테두리 = 거부와 고친 인자 사용자 · 확인 모델 출력 도구 결과 거부된 호출의 결과

그림 4 · 메시지 11개 가운데 스키마 거부 한 건은 함수를 거치지 않고 같은 id 의 오류 결과로 돌아가, 모델이 다음 회차에 인자를 고친다.

사례 ② 처럼 서로 기다릴 필요가 없는 호출은 한 출력에 묶는다. 병렬 호출은 정의상 순서가 없어서, 앞 결과가 다음 인자가 되면 하나씩 내고 결과를 기다려야 한다(Patil 외 2025 부록 H) — 서로 독립인 조회 k 건의 모델 호출 수는 하나씩이면 k + 1, 묶으면 2 다.

모델 호출 수(최종 답 포함) 0 5 10 15 20 1 5 10 15 20 서로 독립인 조회 수 k 사례 k = 2 3 2 21 2 하나씩 = k + 1 한 출력에 묶음 = 2 하나씩 부름 병렬로 묶음 k + 1 · 2 = 원문 식 직접 계산 · 점선 가로줄 = 10 회

그림 5 · 서로 독립인 조회 k 건을 하나씩 부르면 모델 호출이 k + 1 회, 한 출력에 묶으면 k 와 관계없이 2 회다 — 20건이면 21 회 대 2 회.

🔑 병렬로 묶을지는 속도가 아니라 «의존»이 정한다 — 앞 결과가 다음 인자에 들어가면(사례 ④ → ⑤) 묶을 수 없고, 서로 모르는 조회끼리만(사례 ②) 한 출력에 낸다.

6비교 — 프롬프트 방식 · 함수 호출 모드

기준프롬프트 방식함수 호출 모드(FC)
도구 정의를 넣는 곳시스템 프롬프트 글API 의 도구 매개변수(JSON 스키마)
호출이 나오는 곳답 글 속 형식 문자열 → 애플리케이션이 잘라 냄답 글과 따로 구조화된 호출 필드
해석 실패(4,251 항목 평균)412.93182.5
다중 범주 호출 개수 오류(해석 성공분)2177.5
병렬 호출 · 다른 언어 함수형식만 따르면 됨 · Java · JavaScript 에서 더 나음모드가 병렬을 막는 모델이 있음

분석기본은 함수 호출 모드로 짜고, 병렬 호출이 필요하거나 호출 개수가 자주 틀리는 모델이면 같은 평가 세트로 프롬프트 방식을 함께 잰다. 근거는 BFCL 5.1절 — FC 모드의 해석 실패는 프롬프트 방식의 절반 아래지만, 해석된 응답의 호출 개수 오류는 3.7배였다.

7실무 진단 — 어긋난 단계 가르기

분석실행 뒤에는 되돌릴 수 없는 권한 · 주입부터 보고, 응답 필드 하나로 판정되는 이름 · 형식 · 인자 · id 를 다음에, 도구 설명을 고쳐 다시 재야 하는 고르기를 마지막에 본다. 근거는 OWASP LLM01:2025 가 권한을 모델이 아닌 코드에서 집행하라고 한 대응 4 와, 표 3 ~ 6행이 검증기 · 파서 출력 하나로 갈린다는 점이다.

#증상의심 원인단계확인 자료판정 기준(근거)
1쓰기 도구가 승인 없이 실행됨확인 규칙 누락권한쓰기 도구 목록 · 승인 기록고위험 동작은 사람 승인 · 권한은 코드에서(OWASP LLM01:2025 대응 4 · 5)
2도구 결과 직후 요청에 없던 호출결과 속 지시문(간접 주입)권한그 호출 직전 결과 원문외부 내용은 표시해 지시와 가름(OWASP LLM01:2025 대응 6)
3목록에 없는 이름을 부름도구 환각고르기출력 name ↔ 등록 목록목록 밖 이름 = 환각 · 실행 전 거절(Patil 외 2023 3.3절)
4arguments 가 JSON 으로 풀리지 않음형식 깨짐형식인자 원문 · 파서 오류 위치프롬프트 방식이 FC 모드의 약 2.3배(Patil 외 2025 5.1절)
5값이 허용 범위 밖스키마 위반인자검증기 오류 경로(사례 warehouse)enum · pattern 불일치(JSON Schema Validation 6.1.2 · 6.3.3)
6결과가 다른 호출의 값으로 쓰임순서로 짝지음결과 반영tool_call_id ↔ 호출 id병렬 호출은 순서가 없음 · id 로만 짝(Patil 외 2025 부록 H)
7필요 없는데 부름 · 필요한데 글로 답함도구 설명 모호고르기요청의 도구 정의 · 출력의 호출 유무무관 범주의 정답은 호출 0건(Patil 외 2025 부록 C)

1 · 2행은 실행이 끝나면 되돌릴 수 없어 먼저 막고, 고칠 곳은 프롬프트 문장이 아니라 확인 규칙과 도구 계정 권한이다. 3 ~ 6행은 검증기 · 파서 로그로 끝나며, 7행은 도구 description 에 «언제 쓰고 언제 쓰지 않는가»를 적고 무관 질의를 섞은 평가 세트로 다시 잰다.

8시험 대비

시험에서는 도구 호출의 정의와 LLM 단독 생성과의 차이를 쓰는 정의 · 특징형, 정의 → 호출 출력 → 검증 · 실행 → 결과 반영 순서를 그리는 동작 · 절차 설명형이 나올 수 있다. 정의형이면 «모델은 쓰고 애플리케이션이 실행한다»는 경계를 첫 문장에 두고, 절차형이면 그림 4 처럼 메시지 순서와 id 짝을 실제 값으로 보인다.

답안 목차
  1. 개요 — 정의 · 모델이 못 하는 일(외부 계산기 없는 4자리 덧셈 25.5% ↔ 계산 모듈 100% · Karpas 2022)
  2. 구성 — 그림 3 도구 정의 · 호출 출력 · 인자 검증 · 확인 규칙 · 실행기 · 결과 + 요소 표(JSON Schema 2020-12 키워드)
  3. 동작 절차 — 그림 4 메시지 11개(병렬 2건 → 스키마 거부 → 인자 수정 → 계산 → 승인 뒤 발주 → 답)
  4. 병렬과 순차 — 그림 5 모델 호출 수 k + 1 ↔ 2 · 의존이 있으면 하나씩
  5. 오류 유형 — 고르기(환각 · 무관) · 형식 · 인자 · id 짝 · BFCL 다섯 범주
  6. 안전 — 실행 전 확인 · 최소 권한 · 외부 내용 구분(OWASP LLM01:2025) · 표준 연결 규약 MCP

꼭 쓸 키워드
함수 호출JSON 스키마호출 id병렬 호출인자 검증도구 환각무관 감지실행 전 확인간접 프롬프트 주입MCP

다른 답안과 차이를 내는 한 가지는 그림 4 다 — 스키마 거부 한 건이 함수를 거치지 않고 같은 id 의 오류 결과로 돌아가 모델이 인자를 고치는 장면을 보이면, «검증은 애플리케이션 몫»이 한 장으로 증명된다.

9오해와 사실

  • 오해함수 호출 기능이 있으면 모델이 함수를 실행한다.
    사실모델의 출력은 이름과 인자를 담은 JSON 문자열이고 실행은 애플리케이션이 하며, 사례의 call_2 처럼 애플리케이션이 실행 전에 거절할 수 있다.
  • 오해도구 문서를 많이 붙일수록 모델이 잘 고른다.
    사실맞는 문서를 붙이면 환각이 36.55% 에서 0.53% 로 줄었지만, 미세 조정한 모델에 BM25 검색기가 고른 문서를 붙이자 TorchHub 정확도가 21.50% 떨어졌다(Patil 외 2023 표 1 · 4.1절).
  • 오해스키마 검증을 통과한 호출은 안전하다.
    사실검증은 형식만 보므로 허용 값 안의 잘못된 창고 · 결과 속 지시문은 통과하며, OWASP 는 확실한 예방법이 없다고 보고 최소 권한과 사람 승인을 함께 두라고 한다(LLM01:2025).

10핵심 정리

구분만드는 쪽담는 값사례 값대표 오류막는 장치
도구 정의개발자 · MCP 서버name · description · 인자 스키마3개 · 1,042바이트설명 모호 → 고르기 실패쓰는 때 · 안 쓰는 때 적기
호출 출력LLMid · name · argumentscall_1 ~ call_5환각 이름 · JSON 깨짐목록 대조 · 파서
병렬 호출LLM한 출력에 여러 호출call_1 · call_2의존 호출을 묶음앞 결과가 필요하면 하나씩
인자 검증애플리케이션오류 경로 · 메시지warehouse enum 위반허용 밖 값실행 전 거절 · 오류를 결과로
도구 결과애플리케이션 → 모델tool_call_id · 내용420 · 515 · 315다른 호출과 섞임id 로 짝
실행 전 확인사용자승인 · 거부call_5 승인무단 쓰기쓰기 도구 목록 · 최소 권한
결과 속 주입외부 데이터결과에 섞인 지시문—지시로 따름외부 내용 표시 · 사람 승인

11참고 문헌

  1. 먼저 볼 문헌
  2. ★ The Berkeley Function Calling Leaderboard (BFCL): From Tool Use to Agentic Evaluation of Large Language Models (Patil et al. · ICML 2025 · PMLR 267) — 단일 · 다중 · 병렬 · 무관 범주와 함수 호출 모드 ↔ 프롬프트 방식의 차이를 볼 때
    PMLR · 2025-07 · proceedings.mlr.press/v267/patil25a.html · 확인 2026-11-04
  3. ★ Gorilla: Large Language Model Connected with Massive APIs (Patil et al.) — 목록에 없는 API 를 부르는 환각과 문서를 붙였을 때의 차이를 볼 때
    arXiv · 2023-05 · arxiv.org/abs/2305.15334 · 확인 2026-11-04
  4. ★ JSON Schema: A Vocabulary for Structural Validation of JSON (draft-bhutton-json-schema-validation-01 · 2020-12) — type · enum · pattern · required 같은 인자 검사 키워드를 볼 때
    JSON Schema · 2022-06 · json-schema.org/draft/2020-12/json-schema-validation · 확인 2026-11-04
  5. ★ OWASP Top 10 for LLM Applications 2025 - LLM01:2025 Prompt Injection — 간접 주입과 최소 권한 · 사람 승인 · 외부 내용 구분 대응을 볼 때
    OWASP Foundation · 2024-11 · genai.owasp.org/llmrisk/llm01-prompt-injection/ · 확인 2026-11-04
  6. 본문 근거
  7. MRKL Systems: A modular, neuro-symbolic architecture that combines large language models, external knowledge sources and discrete reasoning (Karpas et al.) — arXiv · 2022-05 · arxiv.org/abs/2205.00445 · 확인 2026-11-04
  8. ToolLLM: Facilitating Large Language Models to Master 16000+ Real-world APIs (Qin et al.) — arXiv · 2023-07 · arxiv.org/abs/2307.16789 · 확인 2026-11-04
  9. JSON Schema: A Media Type for Describing JSON Documents (draft-bhutton-json-schema-01 · 2020-12) — JSON Schema · 2022-06 · json-schema.org/draft/2020-12/json-schema-core · 확인 2026-11-04
  10. Model Context Protocol Specification 2026-07-28 - Overview — Model Context Protocol · 2026-07 · modelcontextprotocol.io/specification/2026-07-28 · 확인 2026-11-04
  11. jsonschema 4.26.0 documentation (Python) — python-jsonschema · 2026-11 · python-jsonschema.readthedocs.io/en/stable/ · 확인 2026-11-04