Embodied.cpp: 다양한 로봇에서 임베디드 AI 모델을 실행하는 휴대용 추론 런타임

핵심 요약

• 무엇을 · 이 연구는 'Embodied.cpp'라는 새로운 C++ 기반 추론 런타임을 제안합니다. 이는 시각-언어-행동(VLA) 모델이나 세계-행동 모델(WAM)과 같은 임베디드 AI 모델을 다양한 로봇 하드웨어에서 효율적으로 실행하기 위한 것입니다.
• 어떻게 · Embodied.cpp는 대표적인 VLA 및 WAM 모델의 아키텍처를 분석하여 공통 실행 경로를 파악하고, 이를 입력 어댑터, 시퀀스 빌더, 백본 실행, 헤드 플러그인, 배포 어댑터의 다섯 계층으로 구성합니다. 이를 통해 모듈형 다중 속도 실행, 지연 시간 우선의 통합 추론, 확장 가능한 연산자 및 입출력 지원을 제공하여 다양한 장치와 로봇에 배포할 수 있습니다.
• 결과 · 두 가지 VLA 모델(HY-VLA, pi0.5)에 Embodied.cpp를 적용한 결과, 각각 100.0%와 91.0%의 높은 작업 성공률로 성공적인 폐쇄 루프 실행을 달성했습니다. WAM 벤치마크에서는 블록 메모리 사용량을 312.2 MiB에서 88.1 MiB로 크게 줄였습니다. 이는 Embodied.cpp가 다양한 임베디드 모델 아키텍처에서 높은 정확도를 유지하면서 배포 효율성을 향상시킴을 보여줍니다.

왜 중요한가

기존 임베디드 AI 모델 배포는 모델별 파이썬 스택, 백엔드 가정, 로봇별 코드로 인해 복잡하고 파편화되어 있었습니다. 특히 다양한 종류의 엣지 장치에서는 더욱 어려웠습니다. Embodied.cpp는 이러한 문제를 해결하여 임베디드 AI 모델을 실제 로봇에 더 쉽고 효율적으로 적용할 수 있게 합니다.

실생활·산업 영향

이 기술은 로봇이 주변 환경을 이해하고 복잡한 작업을 수행하는 데 필요한 AI 모델을 더 빠르고 안정적으로 실행할 수 있도록 돕습니다. 예를 들어, 자율주행 로봇, 서비스 로봇, 제조 로봇 등이 더 정교하고 효율적으로 작동하여 다양한 산업 분야에서 로봇의 활용도를 높일 수 있습니다.

한계·주의

초록에 명시된 한계점은 없지만, '예비 WAM 벤치마크'라는 표현에서 WAM 모델에 대한 평가는 아직 초기 단계일 수 있음을 암시합니다.