제조 AI 에이전트Manufacturing AI Agent
공장의 경보 · 작업 요청을 받아 MES · 장비 이력 · 센서 추세 같은 제조 데이터를 도구로 조회하고, 원인 추정과 다음 조치를 제안해 사람 승인을 거쳐 기록 시스템에 반영하는 LLM 기반 에이전트다. 설비를 직접 움직이는 제어는 PLC · APC 같은 기존 제어 계층에 남긴다.
1요약
- 제조 AI 에이전트는 ISA-95 의 레벨 3(제조 운영 관리 · MES)에 놓이고, LLM 이 경보 · 작업 요청을 받아 레벨 2 ~ 4 의 데이터를 읽기 도구로 맞댄 뒤 조치를 제안하는 구조다 — 2023년 Xia 외가 디지털 트윈의 서비스 인터페이스로 모듈 생산 설비의 작업 순서를 짜 실행한 시제품이 그 위에서 돈 첫 사례다.
- 경보 하나의 원인을 좁히려면 사람이 로트 이력 · 센서 추세 · 정비 기록을 화면마다 따로 열어 맞대야 하는데, 이 일을 에이전트가 맡으면 설비 쓰기 권한이 위험이 된다 — Xia 외는 조회 인터페이스는 만들기 쉽지만 제어 인터페이스는 훨씬 조심해야 한다고 적었고(Xia 2023 5.B절), NIST AI RMF 는 기대와 다르게 동작하는 AI 를 대체 · 해제 · 중지할 장치를 요구한다(NIST AI 100-1 MANAGE 2.4).
- 「이 조치를 에이전트에 맡겨도 되나」는 되돌릴 수 있는가 · 영향이 얼마나 넓은가로 가른다 — 되돌리기 쉽고 좁으면 자동 허용, 되돌리기 어렵거나 넓으면 사람 승인, 설정값 · 레시피처럼 제어 계층에 닿으면 도구 목록에서 뺀다.
2등장 배경
경보가 울리면 당직 엔지니어는 MES 에서 로트 이력을, 장비 화면에서 센서 추세를, 정비 시스템에서 작업 기록을 따로 열어 맞댄다. ISA-95(IEC 62264)는 이 시스템들을 레벨 0 물리 공정부터 레벨 4 사업 계획 · ERP 까지 다섯 단계로 나누고 주로 레벨 3 · 4 사이 연결을 정한다(ISA-95) — 단계마다 시스템이 달라 그 사이를 사람이 잇는다.
제조에서 «에이전트»는 LLM 보다 먼저 나왔다. 1996년 IMS 국제 공동 연구 「Holonic Manufacturing Systems」에서 나온 PROSA(Van Brussel 외 1998)는 제품 · 자원 · 주문 · 스태프 네 종류의 자율 단위가 협력하는 제어 구조였고, 2006년 ADACOR 가 중앙 감독 단위를 더했다(Cardin 2018 3.2 · 3.4절). 이 단위들은 미리 설계한 규칙으로 움직여, 주변 정보만 보고 내리는 근시안 판단이 남은 과제로 꼽혔다(Cardin 2018 4절).
2022년 ReAct(Yao 외)가 LLM 의 추론과 도구 행동을 한 실행 기록에 엮은 뒤, 2023년 Xia 외는 자산 관리 셸(AAS) 디지털 트윈에 등록한 기능 · 스킬 인터페이스를 관리자 에이전트 하나와 모듈별 운영자 에이전트가 골라 부르게 해, 미리 정의하지 않은 작업도 생산 순서를 짜 실행했다(Xia 2023 3 · 4절). 같은 해 1월 NIST AI RMF 1.0 이 사람 감독 절차의 문서화를 위험 관리 항목으로 정했다(MAP 3.5) — 제조 에이전트 설계에서 조회 권한과 실행 권한을 나누는 근거가 이 두 갈래다.
3쉽게 이해하기 — 호텔 야간 프런트의 보조 직원
새벽 2시, 호텔 프런트에 「512호가 춥다」는 연락이 들어온다. 야간 보조 직원은 객실 기록부 · 보일러 계기판 기록 · 수리 일지를 차례로 찾아 「512호 쪽 배관 밸브가 점검 주기를 넘기기 직전」이라는 짐작을 세우고, 「손님을 옆 방으로 옮기자」는 쪽지를 지배인에게 올린다. 방을 옮기는 일은 지배인의 도장을 받은 뒤에만 하고, 보일러 밸브는 보일러 기사만 돌린다. 아침에 보조는 무엇을 보고 무엇을 제안했는지 인수인계 일지에 남긴다.
그림 1 · 보조는 기록을 넓게 읽고, 방을 옮기는 일은 지배인 도장 뒤에 하며, 보일러 밸브에는 손대지 않는다.
그림 2 · 보조의 일은 혼자 해도 되는 일 · 도장이 필요한 일 · 손대지 않는 일 세 가지로 나뉘고, 실제 에이전트의 권한 표도 같은 세 가지다.
| 비유 속 역할 | 실제 이름 | 실제로 하는 일 |
|---|---|---|
| 512호 민원 | 경보 · 작업 요청 | FDC 경보나 엔지니어의 질문이 에이전트를 깨운다 |
| 야간 보조 직원 | LLM 에이전트 | 무엇을 조회할지 고르고 원인을 짐작해 제안을 쓴다 |
| 객실 기록부 | MES 로트 이력 | 어느 로트가 언제 어느 장비 · 챔버를 거쳤는지 보여 준다 |
| 보일러 계기판 기록 | 센서 추세 · FDC 요약 값 | 압력 · 온도의 며칠 사이 변화를 돌려준다 |
| 수리 일지 | 정비 기록 | 마지막 정비 날짜 · 정비 주기를 돌려준다 |
| 지배인 도장 | 사람 승인 | 로트 보류처럼 되돌리기 어려운 조치는 엔지니어가 승인해야 실행된다 |
| 기사만 돌리는 밸브 | 제어 계층(PLC · APC) | 설정값 · 레시피는 에이전트 도구 목록에 넣지 않는다 |
| 인수인계 일지 | 실행 기록 | 조회 근거 · 제안 · 승인 결과를 다음 교대와 감사에 남긴다 |
⚠ 비유가 맞지 않는 곳: 손님은 방을 옮겨도 그만이지만, 보류한 로트는 공정 사이 대기 시간 제한이 걸려 있으면 승인이 늦어지는 것 자체가 손실이 된다. 또 보조는 연락이 와야 움직이지만, 에이전트는 경보 없이 정해진 주기로 추세를 훑게 할 수도 있다.
4구조 — ISA-95 레벨 위의 위치와 권한 표
제조 AI 에이전트는 새 레벨이 아니라 레벨 3 안에서 기존 시스템 사이를 잇는다. 읽기는 레벨 2 FDC 요약 · 레벨 3 MES · 정비 · SPC · 레벨 4 주문 납기까지 넓게 두고, 쓰기는 레벨 3 기록 시스템에만 승인 뒤로 둔다(ISA-95 레벨 2 = PLC · DCS 감시 · 감독 제어).
그림 3 · 에이전트는 레벨 3 안에 있고, 읽기는 레벨 2 ~ 4 에서 넓게 모으며, 쓰기는 승인을 지나 레벨 3 기록에만 닿고 레벨 2 제어에는 길이 없다.
| 요소 | 맡는 일 | 사례 값(그림 4) | 근거 |
|---|---|---|---|
| LLM 추론 | 다음 조회 선택 · 원인 추정 · 제안 문장 | 8회차 · 상한 12 | 추론과 행동 반복(Yao 2022) |
| 읽기 도구 | 레벨 2 ~ 4 기록 조회 | 5종(센서 추세 · 정비 · 경보 이력 · 로트 · SPC) | ISA-95 레벨 2 ~ 4 |
| 쓰기 도구 | 레벨 3 기록 시스템에 반영 | 작업 메모(허용) · 로트 보류(승인 필요) | 조회 · 제어 인터페이스 구분(Xia 2023 5.B절) |
| 사람 승인 | 되돌리기 어려운 조치 확인 | 당직 엔지니어 1명 · 1건 승인 | AI 대체 · 중지 장치(NIST AI 100-1 MANAGE 2.4) |
| 금지 목록 | 제어 계층 쓰기 차단 | 레시피 · 설정값 · 장비 명령 | 제어 시스템 보안 요구 · 보안 수준(ISA/IEC 62443 3-3) |
| 실행 기록 | 근거 · 결정 추적 | 도구 호출 7건 · 승인 1건 | 사람 감독 절차 문서화(NIST AI 100-1 MAP 3.5) |
🔑 제조 AI 에이전트가 하는 일의 범위는 모델 성능이 아니라 권한 표가 정한다 — 같은 모델도 읽기 도구만 주면 조언자이고, 승인 뒤 쓰기 도구를 주면 운영 보조가 된다.
5동작 — 챔버 압력 경보 한 건
식각 장비 한 대의 경보 처리를 에이전트에 맡긴 사례다. 장비 · 챔버 · 로트 · 도구 이름과 모든 수치는 설명용 가정 값이고, 실제 공장 구성을 나타내지 않는다.
- 02:10 FDC 가 장비 ETCH-3 챔버 B 에 「공정 중 압력 기준선 이탈」 경보를 내고 이벤트가 에이전트를 깨운다 — 권한 표 = 읽기 도구 5종 · 작업 메모(허용) · 로트 보류(승인 필요) · 레시피 · 설정값 · 장비 명령(금지 · 도구 없음) · 회차 상한 12.
sensor_trend(chamber=— 챔버 B 의 공정 중 압력 평균이 3일 동안 4.0% 올랐고, 같은 장비 챔버 A 는 0.3% 안에 있다.B, days= 3) maint_log(chamber=B)— 마지막 배기 펌프 정비가 41일 전이고 정비 주기는 45일이다.alarm_history(chamber=— 이 경보는 30일 안에 처음이고 같은 챔버의 다른 경보는 0건이다.B, days= 30) lot_list(chamber=— 압력이 오르기 시작한 뒤 처리한 로트 3개 · 75장 가운데 계측을 마친 것은 L1 하나다.B, hours= 6) spc_chart(lot=L1)— L1 의 식각 깊이 평균은 관리 한계 안이지만 중심선에서 +1.8σ 쪽이다.- 에이전트가 「계측 전 로트 L2 · L3 보류 + 펌프 정비 앞당김」을 제안하며 작업 메모를 쓴다(허용). 보류는 승인 필요라 근거 5건과 함께 당직 엔지니어에게 요청이 가고, 02:24 승인으로 MES 에 L2 · L3 보류가 걸린다.
- 압력 설정값 보정은 금지 목록이라 도구가 없어 보고에 「제안만」으로 적고, 8회차(상한 12)에 도구 호출 7건 · 승인 1건을 실행 기록에 남기고 끝낸다.
그림 4 · 조회 다섯 번은 에이전트 혼자 하고, 보류는 엔지니어 승인에서 실행되며, 설정값 보정은 권한 표에서 막혀 제안으로만 남는다.
조치 하나를 허용 · 승인 · 금지 가운데 어디에 둘지는 두 축으로 정한다 — 되돌리기가 얼마나 쉬운가, 그리고 잘못됐을 때 몇 장 · 몇 로트 · 몇 대에 미치는가다. 아래 그림의 위치는 이 사례 권한 표의 설명용 분류다.
그림 5 · 되돌리기 쉬움과 영향 범위 두 축에 조치를 놓으면 허용 · 승인 · 금지 세 구역이 갈리고, 사례의 로트 보류는 가운데 승인 구역에 든다.
🔑 금지는 프롬프트 문장이 아니라 도구가 없는 상태로 만든다 — 보류는 해제로 되돌릴 수 있어 승인 구역에 두고, 설정값 · 레시피 · 폐기는 도구 목록에서 빼야 에이전트가 잘못 짐작해도 설비에 닿지 않는다.
6비교 — 규칙 기반 자동화 · APC · 사람 운영자 · 제조 AI 에이전트
| 기준 | 규칙 기반 자동화 | APC(R2R · FDC) | 사람 운영자 판단 | 제조 AI 에이전트 |
|---|---|---|---|---|
| 다루는 상황 | 미리 적은 조건만 | 공정 모델이 있는 제어 변수 | 처음 보는 상황 포함 | 처음 보는 조합도 조회로 맞댐 |
| 판단 근거 | 조건문 · 임계값 | 공정 모델 · 계측 값 | 경험 · 여러 화면 | 도구 결과 + 실행 기록 |
| 설비 쓰기 | 정해진 동작 하나 | 레시피 값을 직접 갱신 | 권한 안 모두 | 레벨 3 기록만 · 승인 뒤 |
| 대표 실패 | 규칙 밖 상황을 놓침 | 모델 범위 밖 입력 | 교대 인수인계 누락 · 피로 | 근거 없는 짐작 · 과도한 권한 |
| 검증 수단 | 규칙 시험 | 제어 성능 지표 | 사후 검토 | 실행 기록 · 승인 기록 감사 |
분석같은 입력에 같은 조치를 되풀이하는 일은 규칙 · APC 로 고정하고, 원인이 여러 시스템에 흩어져 맞대기가 필요한 일에만 에이전트를 붙인다. 근거는 표의 「설비 쓰기」 · 「대표 실패」 행 — APC 는 검증된 공정 모델로 레시피를 바꾸고, 에이전트의 실패는 짐작 쪽이라 제어 인터페이스를 조심해 열어야 한다(Xia 2023 5.B절).
7실무 진단 — 틀린 제안의 단계 가르기
분석제안이 틀리면 먼저 그 근거가 실행 기록의 도구 결과에 있는지 보고, 있으면 데이터 시점 · 로트 계보를, 없으면 LLM 추론을 의심한다. 도구 결과와 맞대어지지 않는 근거는 데이터를 고쳐도 다시 나오고, 결과에 있는 근거가 틀렸으면 모델을 바꿔도 같은 제안이 나오기 때문이다(NIST AI 100-1 3.1절 타당성 · 신뢰성).
| # | 증상 | 의심 원인 | 단계 | 확인 자료 | 판정 기준(근거) |
|---|---|---|---|---|---|
| 1 | 이미 다음 공정으로 넘어간 로트를 보류하라고 함 | 로트 조회 범위 · 계보 오류 | 읽기 도구 | lot_list 인자 · MES 의 로트 현재 위치 | 결과의 로트 위치가 MES 와 다르면 도구 질의 결함(ISA-95 레벨 3 운영 기록) |
| 2 | 이미 정비한 펌프를 원인으로 지목 | 정비 기록 반영 지연 | 데이터 시점 | 도구 결과의 기록 시각 ↔ 정비 완료 시각 | 결과 시각이 정비 완료보다 앞이면 데이터 지연 |
| 3 | 어떤 도구 결과에도 없는 수치로 결론 | 짐작이 관찰을 덮음 | LLM 추론 | 실행 기록 원문 ↔ 보고 문장 | 보고 수치가 결과에 없으면 추론 오류(NIST AI 100-1 3.1절) |
| 4 | 엔지니어가 요청을 읽지 않고 승인 | 승인 요청이 너무 많음 | 권한 표 | 하루 승인 요청 수 · 승인까지 걸린 시간 | 요청 대부분이 확인 없이 통과하면 승인 구역 재설계(NIST AI 100-1 MAP 3.5) |
| 5 | 설정값 변경을 시도한 기록 | 제어 계층 쓰기 도구가 열려 있음 | 권한 표 | 에이전트에 열린 도구 목록 | 레벨 1 · 2 쓰기 도구가 목록에 있으면 결함(ISA/IEC 62443 3-3) |
가려내는 순서는 권한 표 → 읽기 도구 → 데이터 시점 → LLM 추론이다. 권한 결함은 틀린 제안이 설비까지 가게 하므로 먼저 막고, 그다음 사실(도구 · 시점)을 맞춘 뒤에야 추론 품질을 판정할 수 있다.
8시험 대비
시험에서는 제조 AI 에이전트의 구성(레벨 3 위치 · 읽기 · 쓰기 도구 · 사람 승인 · 실행 기록)을 쓰는 정의 · 특징형과, 홀론 제조 시스템의 규칙 기반 에이전트에서 LLM 에이전트로 넘어온 흐름과 안전 장치를 쓰는 동향 · 발전형이 나올 수 있다. 정의형이면 그림 3 의 ISA-95 위치로 뼈대를 세우고, 동향형이면 PROSA(1998) → Xia 외(2023) → NIST AI RMF(2023) 순서에 권한 구역 그림을 붙인다.
- 개요 — 정의(조회 · 추정 · 제안 · 승인 뒤 반영) · 등장 배경(흩어진 레벨별 시스템) · AI 에이전트 일반과의 차이 한 줄
- 구성 — 그림 3 ISA-95 레벨과 에이전트 위치 · 요소 표(LLM · 읽기 · 쓰기 도구 · 승인 · 금지 · 실행 기록)
- 동작 — 그림 4 챔버 압력 경보 사례(조회 5 → 보류 승인 → 설정값 보정 차단 → 종료 보고)
- 권한 설계 — 그림 5 되돌리기 × 영향 범위의 허용 · 승인 · 금지 구역
- 비교 — 규칙 기반 자동화 · APC · 사람 운영자 · 제조 AI 에이전트 비교표
- 동향과 과제 — 홀론 제어(PROSA) → LLM 에이전트(Xia 2023) · 사람 감독 · 중지 장치(NIST AI RMF) · 제어 시스템 보안(ISA/IEC 62443)
꼭 쓸 키워드
ISA-95레벨 3 MES읽기 도구권한 표사람 승인로트 보류실행 기록홀론 제조 시스템PROSANIST AI RMF
다른 답안과 차이를 내는 한 가지는 그림 5 다 — 조치마다 «되돌릴 수 있는가 · 영향이 얼마나 넓은가»로 허용 · 승인 · 금지를 갈라 보이면, 「사람이 감독한다」 한 줄이 설계 기준으로 바뀐다.
9오해와 사실
- 오해제조 AI 에이전트는 설비를 직접 제어해 사람을 대신한다.사실사례의 설정값 보정은 도구가 없어 제안으로만 남았고, 설비 감시 · 감독 제어는 레벨 2 의 PLC · DCS 가 맡는다(ISA-95 레벨 2).
- 오해에이전트의 제안이 틀리면 프롬프트를 고치면 된다.사실원인이 데이터 시점 · 로트 계보에 있으면 프롬프트를 바꿔도 같은 제안이 나오고, Xia 외도 에이전트가 문맥 정보를 맞게 해석했는지 판정하기 어렵다고 적었다(Xia 2023 5.B절).
- 오해승인 단계를 많이 둘수록 안전하다.사실모든 조치에 승인을 걸면 요청이 쌓여 확인 없는 승인이 늘어난다 — NIST AI RMF 가 요구하는 것은 사람 감독 절차를 정의 · 평가 · 문서화하는 일이다(NIST AI 100-1 MAP 3.5).
10핵심 정리
| 구분 | 맡는 일 | ISA-95 레벨 | 사례 값 | 흔한 실패 | 막는 장치 |
|---|---|---|---|---|---|
| 경보 · 요청 | 에이전트를 깨움 | 레벨 2 FDC → 레벨 3 | 챔버 B 압력 이탈 | 경보가 몰려 회차 소진 | 경보 등급 거르기 · 회차 상한 |
| 읽기 도구 | 흩어진 기록 맞대기 | 레벨 2 ~ 4 | 조회 5건 | 계보 · 시점 오류 | 결과에 기록 시각 포함 |
| LLM 추론 | 원인 추정 · 제안 | 레벨 3 | 펌프 정비 앞당김 | 근거 없는 짐작 | 근거 = 도구 결과 인용 |
| 사람 승인 | 되돌리기 어려운 조치 확인 | 레벨 3 | 보류 2로트 승인 | 확인 없는 승인 | 승인 구역을 좁게 |
| 쓰기 도구 | 기록 시스템 반영 | 레벨 3 MES | 메모 1 · 보류 1 | 과도한 권한 | 허용 · 승인 · 금지 표 |
| 금지 목록 | 제어 계층 보호 | 레벨 1 · 2 | 설정값 보정 = 제안만 | 도구가 목록에 남음 | 도구 자체를 주지 않음 |
| 실행 기록 | 감사 · 교대 인수인계 | 레벨 3 | 8회차 · 호출 7 | 근거 누락 | 회차별 원문 보관 |
11참고 문헌
- 먼저 볼 문헌
- ★ ISA-95 Standard: Enterprise-Control System Integration — 레벨 0 ~ 4 구분과 MES · ERP 사이 경계를 볼 때
- ★ Towards autonomous system: flexible modular production system enhanced with large language model agents (IEEE ETFA 2023) — LLM 에이전트가 디지털 트윈의 서비스 인터페이스로 생산 순서를 짠 사례와 한계를 볼 때
- ★ Artificial Intelligence Risk Management Framework (AI RMF 1.0) NIST AI 100-1 — 사람 감독 절차와 AI 를 대체 · 중지하는 장치 요구를 볼 때
- ★ Evolution of holonic control architectures towards Industry 4.0: A short overview (IFAC INCOM 2018) — LLM 이전 제조 에이전트(홀론 제어 구조)의 계보를 볼 때
- 본문 근거
- ISA/IEC 62443 Series of Standards — International Society of Automation · 2026-11 ·
www.isa.org/standards-and-publications/isa-standards/isa-iec-62443-series-of-standards· 확인 2026-11-09 - Reference architecture for holonic manufacturing systems: PROSA (Computers in Industry 37(3) 255-274) — Elsevier · 1998-11 ·
doi.org/10.1016/S0166-3615(98)00102-X· 확인 2026-11-09 - ReAct: Synergizing Reasoning and Acting in Language Models (ICLR 2023) — arXiv · 2022-10 ·
arxiv.org/abs/2210.03629· 확인 2026-11-09