AI는 클수록 좋다? 로봇이 온디바이스 AI에 주목하는 이유
AI 기술이 빠르게 발전하면서 복잡한 질문에 답하고, 이미지를 이해하며, 스스로 문제 해결 방법을 찾아내는 AI 모델이 등장하고 있습니다. AI 모델의 규모와 성능이 고도화되면서 이러한 기술을 로봇에 적용하려는 시도도 활발해지고 있습니다.
하지만 로봇에 AI를 적용하기 위해서는 모델의 성능 외에도 고려해야 할 조건이 있습니다. 로봇은 주변 환경의 변화에 빠르게 대응해야 하며, 제한된 전력과 연산 자원으로 작동해야 합니다. 통신이 불안정한 환경에서도 필요한 기능을 유지할 수 있어야 합니다.
이에 따라 최근 글로벌 로보틱스 산업에서는 AI 모델의 성능뿐 아니라 크기와 연산 효율, 실제 구동 환경에 대한 적합성이 중요한 기술 경쟁력으로 떠오르고 있습니다. 로봇 내부에서 직접 AI 연산을 수행하는 '온디바이스 AI(On-Device AI)' 역시 이러한 흐름 속에서 주목받는 기술입니다.
클라우드 기반 AI와 온디바이스 AI, 무엇이 다를까?
우리가 일상에서 사용하는 많은 AI 서비스는 클라우드 기반으로 작동합니다. 사용자가 질문이나 이미지를 입력하면 데이터가 외부 서버로 전송되고, AI 모델이 이를 분석해 결과를 제공하는 방식입니다.

클라우드 기반 AI는 데이터센터의 강력한 연산 자원을 활용할 수 있어 대규모 AI 모델을 실행하거나 복잡한 추론 및 데이터 분석을 수행하는 데 유리합니다. 여러 기기에 동일한 서비스를 제공하고, AI 모델을 중앙에서 관리하고 업데이트하기에도 효율적입니다.
반면 온디바이스 AI는 스마트폰이나 로봇 등 기기에 탑재된 프로세서에서 AI 연산을 직접 수행합니다. 외부 서버를 거치지 않고 데이터를 처리하기 때문에 통신에 따른 지연을 줄이고, 네트워크 연결이 불안정한 환경에서도 필요한 AI 기능을 실행할 수 있습니다. 또한 민감한 데이터를 기기 내부에서 처리해 외부 전송을 최소화할 수 있어 데이터 보안 측면에서도 이점이 있습니다.
제조와 물류 현장은 두 방식의 특징을 잘 보여주는 사례입니다.
생산라인의 산업용 로봇은 부품의 위치와 상태를 인식하고, 물류센터의 자율이동로봇은 사람과 장애물의 움직임 등 실시간으로 변화하는 주변 환경에 대응해야 합니다. 작은 응답 지연도 작업 효율에 영향을 미칠 수 있는 만큼, 기기 내부에서 정보를 직접 처리하는 온디바이스 AI가 유리합니다.
반면 공장 전체의 생산 공정을 최적화하거나 수많은 물류 로봇의 작업을 효율적으로 배분하기 위해서는 개별 장비에서 수집한 데이터를 종합적으로 분석해야 합니다. 광범위한 데이터 처리와 복잡한 연산이 필요한 작업에는 클라우드 기반 AI의 풍부한 컴퓨팅 자원을 활용할 수 있습니다.
이처럼 클라우드 기반 AI와 온디바이스 AI는 각기 다른 강점을 지니고 있으며, 작업의 특성과 운영 환경에 따라 개별적으로 적용하거나 상호 보완적으로 활용할 수 있습니다.
로봇에게 온디바이스 AI가 필요한 이유
로봇의 활용 범위가 다양한 산업 현장으로 확대되면서 온디바이스 AI의 중요성도 커지고 있습니다. 특히 외부 서버에 의존하지 않고 로봇 자체적으로 정보를 처리하는 능력이 필수적인 분야에서 온디바이스 AI의 활용 가치가 더욱 두드러집니다.

대표적인 분야가 국방입니다. 군용 무인지상차량이나 정찰 로봇은 통신이 불안정하고 전파 방해가 발생할 수 있는 환경에서 임무를 수행합니다. 주변 지형과 장애물을 인식하는 기능이 외부 서버에만 의존한다면 통신이 끊겼을 때 임무 수행에 어려움을 겪을 수 있습니다.
재난 대응 현장도 마찬가지입니다. 건물이 붕괴된 지역이나 지하 시설에서는 안정적인 네트워크 연결을 확보하기 어려운 경우가 많습니다. 구조 로봇이 현장에서 수집한 데이터를 외부 서버로 전송해 처리하는 방식에 의존할 경우 통신 상태에 따라 주변 환경을 파악하고 대응하는 데 어려움을 겪을 수 있습니다.
이러한 환경에서 온디바이스 AI는 로봇이 카메라와 센서 정보를 자체적으로 처리하고, 외부 서버와의 연결이 제한된 상황에서도 필요한 AI 기능을 유지할 수 있도록 지원합니다.
데이터 보안 측면에서도 온디바이스 AI의 활용 가치가 높습니다. 국방 시설의 영상 정보부터 제조 현장의 핵심 생산 공정 데이터, 의료·돌봄 로봇이 수집하는 개인정보까지 로봇이 다루는 데이터에는 민감한 정보가 포함될 수 있습니다. 온디바이스 AI는 이러한 정보를 기기 내부에서 처리해 외부 전송에 따른 보안 위험을 줄일 수 있습니다.
이처럼 온디바이스 AI는 통신과 데이터 보안에 대한 제약을 줄여 로봇의 활용 범위를 다양한 산업 현장으로 확대하는 데 활용될 수 있습니다.
글로벌 기업들도 주목하는 작고 효율적인 로봇 AI
온디바이스 AI를 구현하기 위한 핵심 기술 중 하나는 AI 모델의 경량화입니다. 데이터센터와 달리 로봇은 탑재할 수 있는 연산 장치와 메모리, 사용 가능한 전력 등에 제약이 있기 때문입니다.
AI 모델의 경량화는 필요한 성능을 유지하면서 모델의 크기와 연산 부담을 줄이는 기술입니다. 모델 구조를 효율적으로 설계하거나 연산에 사용하는 수치의 정밀도를 낮추는 ‘양자화(Quantization)’ 등의 방법이 활용됩니다.
글로벌 기업들도 이러한 기술적 요구에 대응해 로봇에 적합한 AI 모델과 컴퓨팅 플랫폼을 개발하고 있습니다.
구글 딥마인드는 2025년 6월 로봇 내부에서 실행하도록 설계한 ‘Gemini Robotics On-Device’를 발표했습니다. 로봇이 주변 환경을 인식하고 언어 명령을 이해해 동작을 생성하는 시각·언어·행동(VLA) 모델을 로컬 환경에 최적화한 기술입니다.

이어 2026년 공개된 후속 모델 'Gemini Robotics On-Device 2' 역시 네트워크 연결과 지연에 제약이 있는 환경에서이 구동 효율성을 끌어올렸습니다. 특히, 방대한 학습 데이터 없이도 적은 수의 예시와 짧은 훈련 시간만으로 새로운 형태의 로봇에 빠르게 적응할 수 있는 범용성을 갖춘 것이 특징입니다.
오픈소스 AI 생태계에서도 비슷한 흐름이 나타나고 있습니다. 허깅페이스는 2025년 6월 약 4억 5천만 개의 파라미터를 가진 경량 VLA 모델 'SmolVLA'를 공개했습니다. 일반 소비자용 하드웨어에서도 실행할 수 있도록 설계한 모델로 자체 평가에서 일부 대규모 VLA 모델보다 높은 작업 성능을 기록했습니다.
이러한 사례들은 로봇 AI의 성능을 높이는 동시에 모델의 실행 효율과 개발 접근성을 개선하려는 기술적 흐름을 보여줍니다.
AI 모델의 경량화와 함께 로봇 내부에서 AI를 효율적으로 실행하기 위한 하드웨어 기술도 발전하고 있습니다.
엔비디아는 로봇과 피지컬 AI에 특화된 컴퓨팅 플랫폼 ‘Jetson AGX Thor’를 출시하고, 자사의 로봇 AI 모델 ‘Isaac GR00T N1.7’에 양자화 기술을 적용해 로봇 내부에서의 추론 효율을 높이고 있습니다. 퀄컴 역시 휴머노이드와 자율이동로봇의 AI 연산 및 전력 효율을 고려한 로봇용 컴퓨팅 플랫폼 ‘Dragonwing IQ10’을 공개했습니다.
이처럼 글로벌 로보틱스 산업에서는 AI 모델의 성능을 높이는 동시에, 제한된 연산 자원과 전력으로도 이를 효과적으로 실행할 수 있도록 소프트웨어와 하드웨어 기술을 함께 발전시키고 있습니다.
피지컬 AI 시대, 작지만 강력한 AI의 중요성
이러한 글로벌 흐름 속에서 NC AI도 산업 현장에 최적화된 경량 AI 기술을 개발하고 있습니다.
NC AI가 2026년 11월 공개한 ‘VAETKI Vision 3B(배키 비전 3B)’는 로봇과 산업용 엣지 디바이스 등 연산 자원이 제한된 환경에 직접 탑재할 수 있도록 설계된 경량 시각언어모델(VLM)입니다.

작은 모델 규모에도 불구하고 로봇이 주변 환경과 사물 간의 공간적 관계를 이해하는 데 필요한 시각 인식 및 추론 능력을 갖췄습니다. 로봇·공간 이해 능력을 평가하는 3대 글로벌 벤치마크에서는 모델 규모가 더 큰 주요 글로벌 공개 모델들을 앞서며 동급 최고 수준(SOTA)의 성능을 입증했습니다.
이와함께 NC AI는 배키 비전 3B를 기반으로 용접 도메인에 특화된 경량 AI 모델 ‘VAETKI-Vision-3B-Weld’ 개발에도 성공했습니다. 기존 모델의 범용 시각 인식 능력을 유지하면서 소규모 산업 특화 데이터만으로 용접 공정에 대한 이해도를 크게 높였습니다.
NC AI는 향후 배키 비전 3B를 고도화해 다양한 피지컬 AI 프로젝트의 로봇과 엣지 디바이스에 핵심 시각 엔진이자 시각·언어·행동(VLA) 모델의 기반으로 활용할 계획입니다.
AI가 물리적 세계에서 활동하기 위해서는 높은 수준의 인식과 판단 능력은 물론, 실제 구동 환경에서 이를 효율적으로 구현할 수 있는 기술이 필요합니다. 글로벌 기업들이 AI 모델의 경량화와 로봇 전용 반도체, 분산 연산 기술을 함께 발전시키는 이유도 여기에 있습니다.
앞으로 피지컬 AI의 경쟁력은 뛰어난 지능을 구현하는 것과 더불어, 그 지능을 실제 산업 현장에서 얼마나 효율적이고 안정적으로 활용할 수 있는가에 달려 있을 것입니다.
[참고자료]
Google DeepMind, 「Gemini Robotics On-Device Brings AI to Local Robotic Devices」 (2025.06)
Google DeepMind, 「Gemini Robotics 2 Brings Whole Body Intelligence to Robots」 (2026.07)
Hugging Face, 「SmolVLA: Efficient Vision-Language-Action Model Trained on LeRobot Community Data」 (2025.06)
NVIDIA, 「Isaac GR00T — Humanoid Robot Development Platform」
Qualcomm, 「Qualcomm Introduces a Full Suite of Robotics Technologies」 (2026.01)
NC AI, 「NC AI, ‘배키 비전 3B’ 개발… 글로벌 동급 SOTA 달성」 (2026.11)