사무실에서 공장까지 자동화, NC AI가 여는 에이전틱 시대
NC AI에서 에이전틱 AI 랩을 맡고 있는 남상하님은 스스로 판단하고 직접 일까지 하는 AI, ‘에이전틱 AI(Agentic AI)’를 만드는 일을 하고 있습니다.
대화 기술부터 페르소나, RAG, 감정 결정 기술까지 사람과 자연스럽게 상호작용하는 AI를 연구해왔으며, 현재는 NC AI 자체 언어모델인 VAETKI LLM 라인업과 Agentic AI 원천기술을 연구하고 이를 실제 문제에 적용하는 다양한 국책과제를 수행하고 있습니다.
에이전틱 AI는 기존 대화형 AI와 무엇이 다를까요? AI가 실제 업무를 스스로 수행하려면 어떤 기술이 필요하고, 이러한 변화는 사무실과 제조 현장의 일하는 방식을 어떻게 바꾸게 될까요?
남상하님에게 직접 들어봤습니다.
답하는 AI에서, 스스로 일하는 AI로
기존 대화형 AI는 사람의 질문에 ‘답을 잘 해주는’ 모델이었습니다.
에이전틱 AI는 여기서 한 단계 더 나아갑니다.
남상하님은 가장 큰 차이를 AI가 실제로 일을 ‘수행하고 완결하는가’에 있다고 설명합니다.
“에이전틱 AI는 답을 하기 전에 먼저 사고하고, 상황을 판단하고, 어떤 행동을 할지 계획을 스스로 세운 다음에 실제로 그 일을 수행합니다.”
말로 알려주는 데서 그치지 않고, 디지털 세상에서 자신이 할 수 있는 일을 직접 수행해 업무를 완결한다는 것입니다.
‘스스로 일하는 AI’라는 개념 자체는 오래된 연구 주제입니다. 하지만 최근 고성능 초거대 모델이 등장하면서 뛰어난 추론 능력을 갖추게 됐고, 맥락에 맞춰 외부 도구를 호출하며 한 번에 끝나지 않는 여러 작업을 다단계로 수행할 수 있게 됐습니다.
이처럼 AI가 실제로 ‘실행’할 수 있게 되면서 기업과 산업 현장에서도 에이전틱 AI를 업무에 적용하려는 시도가 빠르게 늘어나고 있습니다.
AI는 왜 맥락을 잊고 엉뚱한 답을 내놓을까?
AI가 처리해야 하는 내용이 길어지면 중요한 정보를 놓치거나 흐리게 처리할 수 있습니다.
남상하님은 이를 사람이 300페이지짜리 보고서를 한자리에서 읽는 상황에 비유합니다.
많은 내용을 한 번에 입력할 수 있다는 것과, 그 내용을 끝까지 제대로 읽는 것은 다른 문제라는 것입니다.
여러 맥락이 하나의 대화 안에서 뒤섞이는 것도 문제입니다.
주제 전환이 많아질수록 이전 맥락과 현재 맥락이 서로 간섭하면서 사람이 자연스럽게 구분할 수 있는 내용도 AI는 혼동할 수 있습니다.
이 문제를 해결하려면 세 가지가 함께 필요하다고 남상하님은 말합니다.
첫 번째는 모델 자체의 멀티턴 대화와 롱 컨텍스트 처리 능력, 즉 장기 맥락 추론 능력을 높이는 것입니다.
두 번째는 모델이 지금의 맥락에서 꼭 봐야 하는 정보를 골라 제공하는 컨텍스트 엔지니어링(Context Engineering)입니다.
세 번째는 AI만 똑똑해지는 것이 아니라 AI와 함께 일하는 사람과 조직의 방식도 함께 변화하는 것입니다. NC AI는 이를 ‘디지털 업무 동료 시스템’이자 ‘공진화 구조’라고 부릅니다.
NC AI 역시 실제 서비스에 대화형 AI 에이전트를 적용하며 대화가 길어질수록 맥락이 끊기는 문제를 경험했고, RAG로 근거를 찾게 했을 때 의도와 다른 정보를 가져오는 경우도 겪었습니다.
자체 언어모델을 B2B·B2G AX에 적용하는 과정에서는 기술이 좋아도 조직의 규정과 데이터에 맞물리지 않으면 결국 사용되기 어렵다는 점을 배웠습니다.
AI를 ‘도구’가 아닌 ‘동료’로
NC AI는 현재 과학기술정보통신부가 주관하는 ‘실세계 능동행동형 에이전틱 AI 기술개발 사업’을 수행하고 있습니다.
남상하님은 이 과제의 목표를 AI를 ‘도구’가 아닌 ‘동료’로 만드는 것이라고 설명합니다.
NC AI가 주관을 맡고 고려대학교와 연세대학교의 5개 연구실의 연구진과 그룹웨어 ‘하이웍스’를 운영하는 가비아가 함께 참여합니다.
연구와 현장이 처음부터 함께하는 구조로, 실제 기업이 사용하는 업무 환경에서 기술을 검증합니다.
최종 목표는 2028년까지 두 가지 수치로 증명하는 것입니다.
하나는 실제 기업 시스템에서 여러 단계를 거쳐야 하는 업무를 사람의 추가 개입 없이 AI가 처음부터 끝까지 수행하는 ‘자율실행 완결률’ 75%입니다.
또 하나는 사람이 시키기 전에 AI가 먼저 필요한 일을 제안하고, 그 제안을 사람이 실제로 채택하는 ‘선제제안 적중률’ 85%입니다.
상당수의 업무는 AI가 사람의 손을 거치지 않고 끝내고, 나아가 사람이 시키기 전에 먼저 움직이는 수준까지 가는 것이 목표입니다.
사무실을 넘어 공장으로
에이전틱 AI는 디지털 환경에만 머무르지 않습니다.
남상하님은 에이전틱 AI와 피지컬 AI의 관계를 이렇게 설명합니다.
“지금까지 말씀드린 에이전틱 AI가 디지털 세상에서 손발을 얻은 AI였다면, 피지컬 AI는 그 손발이 로봇으로 만들어져서 물리 세상으로 나온 것입니다.”
인지하고, 판단하고, 계획하고, 행동한다는 기본 원리는 같지만 동작하는 환경이 다릅니다.
그리고 물리 환경으로 넘어가면 난이도는 크게 높아집니다.
사무실에서는 문서를 잘못 만들면 지우고 다시 작성할 수 있지만, 공장에서 로봇이 한 번 잘못 움직이면 이를 되돌리기 어렵고 사람의 안전과도 연결됩니다. 설비와 로봇, 물류와 작업자가 실시간으로 맞물려 움직이기 때문에 하나의 판단이 공장 전체에 연쇄적으로 영향을 줄 수도 있습니다.
이 때문에 물리 현장의 에이전틱 AI에는 더 정확한 상황 인식과 더 엄격한 안전장치가 필요합니다.
NC AI는 실제 제조 현장에서 이를 검증하는 프로젝트에도 참여하고 있습니다.
전북대학교가 주관하고 NC AI가 파운데이션 모델 기업으로 참여하며, 산업 AI 전문기업과 여러 대학·연구기관이 함께합니다.
전북은 국내 중대형 상용차의 94%가 생산되는 지역으로, 해당 클러스터의 대표 부품 공장 전체를 실증존으로 삼아 프레스부터 조립, 물류까지 공장 전역에서 기술을 검증할 계획입니다.
남상하님은 앞선 과제가 ‘사무실의 디지털 동료’를 만드는 일이라면, 이 과제는 ‘공장의 디지털 동료’를 만드는 일이라고 설명합니다.
NC AI는 이 과정에서 AMCore라는 파운데이션 모델을 독자 모델 기반으로 제조 분야에 특화·고도화하는 역할을 맡고 있습니다.
스스로 행동하는 AI, 어떻게 안전하게 만들까?
그렇다면 AI의 판단과 행동을 어떻게 안전하게 통제할 수 있을까요?
남상하님은 AI가 스스로 판단해 행동하더라도 그 행동이 안전하도록 세 가지 장치를 시스템에 내장하려고 한다고 설명합니다.
첫 번째는 AI의 모든 판단에 근거를 남기는 것입니다. AI가 무엇을, 왜 그렇게 판단했는지를 자연어와 구조화된 형태로 기록해 어떤 결정이든 이후에 추적하고 설명할 수 있도록 합니다.
두 번째는 규정과 권한을 시스템에 내장해 AI가 자신의 판단 경계를 알도록 하는 것입니다. 조직의 규정과 접근 권한을 반드시 지키도록 하고, 규정이 비어 있거나 서로 충돌하는 영역에서는 AI가 함부로 판단하지 않도록 합니다.
“신뢰할 수 있는 AI의 조건은 ‘다 잘 할 수 있다’가 아니라 ‘자기가 확신할 수 있는 지점, 그 경계를 정확하게 알게 하는 것’입니다.”
세 번째는 문제가 생기면 안전하게 멈추고 되돌아가게 하는 것입니다. 실행 도중 위험을 감지하면 작업을 안전하게 중단하고, 이미 수행한 일을 보정하거나 이전 상태로 자동 복구할 수 있도록 합니다.
남상하님은 이를 ‘근거를 남기고, 자기 판단의 경계를 알고, 안전하게 멈춘다’는 원칙으로 정리합니다.
물리 세계에서는 행동을 되돌리기 어려운 만큼 가상에서 충분히 검증한 뒤, 신뢰가 쌓이는 만큼 권한을 넓혀가는 방식으로 같은 장치를 더 엄격하게 적용해야 한다고 강조합니다.
AI가 스스로 일하는 시대, 사람은 어떤 동료가 되어야 할까?
남상하님은 에이전틱 AI가 자리 잡은 미래의 모습을 월요일 아침의 한 장면으로 설명합니다.
디지털 동료가 주말 동안 밀려 있던 결재의 병목을 정리하고, 근태 이상이 감지되면 규정에 맞춰 분류해둡니다. 사람이 출근하면 AI가 아침 브리핑을 합니다.
“이건 제가 처리했고, 이 세 건은 실장님 판단이 필요합니다.”
같은 시각 공장에서도 AI가 밤사이 설비의 이상 징후를 감지해 원인을 분석하고, 생산 계획을 조정할 조치안까지 준비해둘 수 있습니다.
사무실이든 공장이든 마지막 장면은 같습니다.
밤사이 일은 AI가 해두지만, 아침의 첫 번째 결정은 사람이 내립니다.
그렇다면 AI와 함께 일하는 사람에게는 어떤 역량이 필요할까요?
남상하님은 AI가 내놓는 결과를 정확하게 해석하고, 무엇이 잘못됐는지와 어떤 위험이 있는지를 짚어낼 수 있어야 한다고 말합니다.
직접 모든 업무를 수행하지 않더라도 AI가 가져온 결과가 맞는지 판단하고 최종 의사결정을 내리려면 자신의 분야를 더 깊게 이해해야 합니다.
“AI를 잘 쓴다는 것은 곧 AI를 잘 검증할 줄 안다는 뜻이라고 생각합니다.”
마인드 측면에서도 AI를 경쟁 상대가 아니라 함께 일할 동료로 받아들이되, 그 결과를 맹신하지 않고 끝까지 확인하고 의심하는 태도가 필요합니다.
그리고 그 결과에 대한 책임은 자신이 진다는 오너십, 실패를 두려워하지 않고 계속 배우며 시도하는 자세까지 더해진다면 앞으로 이 길을 함께 만들어갈 수 있는 좋은 동료가 될 수 있습니다.
