TECH CONTRIBUTION SERIES ⑤ — SMART FACTORY → DARK FACTORY
AI Guidance 의 공정 예측과 LLM 의 지식 이해를 결합해 계획·승인·실행·검증을 연결한다
3초 요약
- AI Agent 는 제조 챗봇이 아니다 / 공정 상태와 문서를 이해하고 필요한 도구를 호출해 행동을 계획하는 운영 시스템이다.
- RAG 는 답변의 근거를 현장 지식에 연결한다 / 매뉴얼·작업표준·이력·알람을 검색해 최신 근거와 출처를 함께 제공한다.
- 설비 제어는 권한과 안전이 먼저다 / AI 명령은 정책 엔진·인터록·승인·감사 로그를 통과한 뒤 제한된 범위에서 실행돼야 한다.
예측 결과를 사람이 매번 옮기면 자율화는 완성되지 않는다
AI Guidance 가 미래 품질과 최적 조건을 계산하더라도 작업자가 화면을 확인하고 PLC 값을 직접 입력해야 한다면 판단과 실행 사이에 사람이 계속 존재한다. 이 구조는 초기 검증에는 적합하지만 공정 수와 변수, 알람이 늘어날수록 작업자의 처리량과 숙련도 차이가 새로운 병목이 된다.
AI Agent 는 이 마지막 구간을 연결한다. 공정 데이터와 AI 예측 결과를 읽고, 매뉴얼과 작업표준에서 필요한 근거를 찾으며, 상황에 맞는 조치 순서를 계획하고, 허용된 도구를 호출해 알람·리포트·승인 요청·설비 명령을 실행한다. 중요한 차이는 자연어 답변이 아니라 행동 가능한 계획과 시스템 연계다.
그림 1. 제조 AI Agent 의 RAG·판단·도구 실행 구조 출처: 아이티브 AI 재구성
RAG 는 왜 제조 현장에 필요한가
대규모 언어모델은 일반 지식을 학습하지만 회사별 설비 명칭, 공정 기준, 최신 작업표준, 고객 품질 규격과 실시간 생산상태를 자동으로 알지 못한다. RAG(Retrieval-Augmented Generation)는 질문과 관련된 문서를 먼저 검색하고, 검색된 근거를 LLM 입력에 포함해 답변을 생성하는 방식이다.
RAG 의 원 논문은 파라미터에 저장된 지식만 사용하는 모델과 달리 외부의 명시적 비파라미터 메모리를 검색해 지식 집약적 과제를 수행하는 구조를 제안했다.1 제조 현장에서는 매뉴얼·SOP·점검표·고장 이력·품질 규격·공정 데이터가 이 외부 지식에 해당한다. 문서가 개정되면 전체 모델을 다시 학습하지 않고 검색 대상 문서를 갱신할 수 있으며, 답변과 함께 근거 문서를 제시해 작업자가 확인할 수 있다.
| 지식 원천 | 예시 데이터 | AI Agent 활용 |
|---|---|---|
| 작업표준·매뉴얼 | 운전 절차, 점검 순서, 안전 규칙 | 상황별 조치 절차와 근거 제시 |
| 공정·설비 데이터 | 온도, 압력, 전류, 알람, 품질 예측값 | 현재 상태와 이상 원인 후보 판단 |
| 운영 이력 | 과거 고장, 작업자 조치, 결과, 교대 기록 | 유사 사례 검색과 조치 우선순위 결정 |
| 품질 규격 | 제품별 기준, 고객 요구, 허용 오차 | 권고값과 검사 결과의 적합성 확인 |
| 시스템 권한 | 사용자, 설비, 명령, 승인 범위 | 실행 가능 도구와 명령 범위 제한 |
AI Agent 는 생각과 행동을 번갈아 수행한다
ReAct 연구는 언어모델의 추론과 외부 환경에 대한 행동을 번갈아 수행하는 방식을 제안했다. 추론은 계획과 예외를 추적하고, 행동은 지식베이스나 환경에서 추가 정보를 얻어 다음 판단을 개선한다.2 제조 AI Agent 도 한 번의 답변으로 끝나지 않고 상태 조회, 근거 검색, 계획 수립, 도구 호출, 결과 확인을 반복해야 한다.
그림 2. 제조 AI Agent 의 반복 실행 사이클 출처: ReAct 개념을 제조 운영에 맞게 아이티브 AI 가 재구성
예를 들어 품질 예측값이 상한에 접근하면 Agent 는 먼저 센서와 모델 상태를 확인하고, 해당 제품의 작업표준과 과거 유사 사례를 검색한다. 이후 AI Guidance 가 제시한 조정값이 설비 허용 범위와 안전 정책을 만족하는지 검사하고, 작업자 승인 요청 또는 제한된 자동 변경을 실행한다. 변경 후에는 품질 예측값과 실제 결과를 다시 확인해 성공 여부를 기록한다.
제조 AI 는 분석 모델에서 Agent 와 생성형 AI 로 확장되고 있다
World Economic Forum 은 2025 년 Lighthouse 솔루션 분류에서 분석 AI 와 머신러닝이 약 62%, 생성형 AI 가 23%를 차지했다고 밝혔다. 생성형 AI 활용사례가 빠르게 늘고 있지만, 여전히 공정 예측·품질·최적화와 같은 분석 AI 가 가장 큰 기반을 형성한다.3
그림 3. Global Lighthouse Network 주요 솔루션의 AI 구성 출처: World Economic Forum, 2026
이 수치는 AI Agent 가 기존 예측 모델을 대체한다는 의미가 아니다. 제조 Agent 는 LLM 의 문서 이해와 계획 능력 위에 품질 예측, 이상 감지, 최적화, 비전검사와 같은 검증된 분석 모델을 도구로 연결하는 구조가 적합하다. AI Guidance 가 계산한 수치와 LLM 이 이해한 작업 지식이 결합될 때 자연어 설명과 공정 실행을 동시에 지원할 수 있다.
LLM·AI·자기최적화가 연결된 배터리 생산 사례
World Economic Forum 의 EVE Energy Jingmen 사례는 AIoT, 시뮬레이션, LLM 과 AI 를 포함한 40 개 이상의 디지털 솔루션을 적용해 실시간 품질 진단, 공정 자기최적화, 예지보전을 구현했다. 그 결과 불량률은 52%, 단위 전환비용은 41% 감소했고 평균 OEE 는 88%까지 향상됐다.4
그림 4. LLM·AI·품질 진단·공정 자기최적화를 결합한 배터리 생산시설 성과 출처: World Economic Forum, 2026
이 사례 역시 LLM 하나의 독립 성과로 해석해서는 안 된다. 센서·AIoT, 시뮬레이션, 품질 모델, 설비 운영과 조직 역량을 함께 구축한 결과다. 제조 Agent 의 가치는 이미 존재하는 분석 모델과 운영 시스템을 자연어와 계획 기반으로 연결하고, 현장 대응을 빠르고 일관되게 만드는 데 있다.
설비 제어 전에는 정책 엔진과 인터록이 있어야 한다
| 제어 계층 | 역할 | AI 가 할 수 있는 일 | 차단 조건 |
|---|---|---|---|
| 정보 계층 | 현장 데이터 조회·설명 | 상태 요약, 원인 후보, 문서 근거 제공 | 데이터 결측·모델 오류 |
| 권고 계층 | 조정값과 절차 제안 | 감량·유지·증량, 점검 순서 제안 | 신뢰도 부족·규격 불확실 |
| 정책 계층 | 명령과 권한 검증 | 설비·사용자·제품별 허용 범위 확인 | 권한 없음·범위 초과·금지 조건 |
| 안전 계층 | 인터록·비상정지·독립 보호 | AI 와 무관하게 위험 명령 차단 | 안전센서·보호 로직 작동 |
| 실행 계층 | PLC·로봇·MES 명령 수행 | 검증된 명령 실행 및 결과 수집 | 응답 실패·상태 불일치 |
| 감사 계층 | 전체 의사결정과 실행 기록 | 근거·승인·명령·결과·모델 버전 저장 | 로그 누락·추적성 미확보 |
NIST SP 800-82 Rev. 3 은 OT 시스템이 물리적 환경에 직접 변화를 일으키기 때문에 성능·신뢰성·안전 요구사항을 고려한 보안이 필요하다고 설명한다.5 AI Agent 가 PLC 나 로봇을 호출할 때도 일반 IT 자동화보다 엄격한 권한, 네트워크 분리, 명령 검증, 복구 절차와 감사 로그가 필요하다.
AI 명령은 독립된 안전 PLC 나 기존 인터록을 우회해서는 안 된다. LLM 이 생성한 자연어 또는 코드를 그대로 설비에 전달하지 않고, 사전에 정의된 함수와 파라미터 범위만 호출하도록 도구 인터페이스를 제한해야 한다. 고위험 명령은 2 인 승인, 시간 제한, 작업허가와 연동할 수 있다.
자율 제어 권한은 단계적으로 확대한다
- 1 단계 설명 / Agent 가 상태·원인·근거 문서를 정리하고 작업자가 판단한다.
- 2 단계 권고 / AI Guidance 의 조정값과 예상 효과를 제시하고 작업자가 승인한다.
- 3 단계 승인 실행 / 승인된 명령을 Agent 가 PLC·MES 에 전달하고 결과를 자동 기록한다.
- 4 단계 제한 자율 / 정상 조건과 좁은 허용 범위 안에서 자동 조정하고 예외만 호출한다.
- 5 단계 다공정 자율 / 복수 공정의 품질·생산·에너지 목표를 연계해 최적화한다.
각 단계의 승격 조건은 대화 품질이 아니라 운영 증거로 판단해야 한다. 추천값의 승인율, 실행 성공률, 규격 이탈 감소, 안전 차단 횟수, 모델 Drift, 수동 복귀 시간과 같은 KPI 를 일정 기간 검증하고 권한을 확대해야 한다.
제조 AI Agent PoC 에서 반드시 확인할 항목
| 영역 | 확인 항목 | 검증 질문 |
|---|---|---|
| 지식 | 문서 최신성·버전·권한·출처 | 답변 근거와 적용 문서 버전을 추적할 수 있는가? |
| 데이터 | 실시간성·결측·ID 매핑 | 질문 대상 제품과 설비의 상태를 정확히 조회하는가? |
| 도구 | 허용 함수·파라미터·오류 처리 | Agent 가 정의된 도구만 호출하고 실패를 감지하는가? |
| 안전 | 정책·인터록·승인·수동 전환 | 잘못된 권고나 통신 장애가 안전한 상태로 종료되는가? |
| 평가 | 정답률·근거성·실행 성공률·운영 KPI | 좋은 답변이 실제 대응시간과 편차 감소로 이어지는가? |
| 감사 | 로그·모델·문서·사용자·명령 이력 | 누가 왜 무엇을 실행했는지 재현할 수 있는가? |
핵심 결론
제조 AI Agent 는 문서에 답하는 챗봇이 아니라, 공정 데이터를 읽고 근거를 검색하며 행동을 계획해 제한된 도구를 안전하게 실행하는 운영 시스템이다. 자율 제어의 속도보다 권한·인터록·감사 가능성이 먼저다.
글을 마치며
참고자료 및 출처
※ 본문의 외부 수치와 사례는 기관·기업의 공식 공개자료 및 제공된 제품 브로셔를 기준으로 정리했습니다. 직접 제작한 그래프와 도식은 원문의 수치 또는 기술 구조를 아이티브 AI 가 시각적으로 재구성한 것입니다.
참고문헌
- NIST, “AI Risk Management Framework: Generative AI Profile”. 참고 내용: 생성형 AI 의 신뢰성·위험 관리와 평가·검증 필요성. 링크
- 아이티브 AI, 「AI 솔루션 소개」. 참고 내용: AI Guidance 와 LLM 기술을 결합한 AI Agent 및 제조 시스템 연계 방향. 링크
※ 제어 권한 단계와 정책 계층은 기술 설계를 설명하기 위한 아이티브 AI 관점의 예시이며, 실제 현장에서는 설비 위험도와 고객 안전 규정에 따라 별도 검증이 필요합니다.
Footnotes
-
Lewis et al., “Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks”. 참고 내용: 외부 비파라미터 지식을 검색해 생성에 결합하는 RAG 구조. 링크 ↩
-
Yao et al., “ReAct: Synergizing Reasoning and Acting in Language Models”. 참고 내용: 추론과 외부 행동을 번갈아 수행하는 Agent 구조. 링크 ↩
-
World Economic Forum, “Global Lighthouse Network: Transforming advanced manufacturing”. 참고 내용: 2025 년 Lighthouse 솔루션 중 분석 AI·ML 약 62%, 생성형 AI 23%. 링크 ↩
-
World Economic Forum, “EVE Energy - Jingmen”. 참고 내용: AIoT·시뮬레이션·LLM·AI 기반 실시간 품질 진단, 자기최적화, 예지보전 성과. 링크 ↩
-
NIST, “SP 800-82 Rev. 3: Guide to Operational Technology Security”. 참고 내용: PLC·SCADA 등 OT 의 성능·신뢰성·안전 요구를 고려한 보안 및 제어 원칙. 링크 ↩