Decisions — 교차 의사결정 트리¶
최종 갱신: 2026-07 · owner: Youngjin · volatility: 중간 ← index로
L0 TL;DR: 고객이 자주 부딪히는 4개 갈림길을 산문 대신 결정 표/트리로. 각 결정은 필러를 가로지른다. 급하면 해당 표만 보고 방향을 잡으라.
목차: 1) Cloud vs Edge · 2) NVIDIA vs 오픈소스 · 3) GPU 확보 전략 · 4) Build vs Buy
1) Cloud training vs Edge inference 경계¶
핵심 질문: "이 추론을 클라우드에 둘 수 있나, 엣지에 둬야 하나?"
가장 중요한 판별자는 제어 주파수1다.
graph TD
Q{추론 주파수 요구는?}
Q -- "30~100Hz+ 반응형 제어<br>(균형·힘·파지·보행·회피)" --> EDGE["🔴 반드시 엣지 온보드 (Jetson Thor/Orin)<br>클라우드 왕복 불가<br>System 1 (경량 diffusion/flow-matching 정책, sub-20ms)"]
Q -- "few-Hz ~ sub-1Hz<br>고수준 계획·재계획·툴 선택·씬 이해" --> CLOUD["🟢 클라우드/비동기 가능 (Bedrock AgentCore, 큰 VLM)<br>System 2 (무거운 VLM 플래너, 5~10Hz 또는 그 이하)"]
Q -- "둘 다 필요 (거의 모든 실로봇)" --> SPLIT["🟡 분리 배포: System 2=클라우드, System 1=엣지<br>action chunking 으로 두 rate 연결 ← 표준 아키텍처"]
| 구분 | System 22 (계획) | System 1 (제어) |
|---|---|---|
| 주파수 | 5~10Hz 이하 | 50~200Hz |
| 지연 허용 | 있음(비동기) | 없음(sub-20ms) |
| 위치 | 클라우드 (AgentCore) 또는 온보드 | 엣지 온보드 (Jetson) |
| 모델 | 큰 VLM/LLM | 경량 diffusion/flow-matching3 |
| AWS | Bedrock AgentCore, EC2 | IoT Greengrass V2, SageMaker Neo, ONNX/TensorRT |
판정 원칙: "실시간 안전·반응이 걸린 루프면 엣지, 생각할 시간이 있으면 클라우드." action chunking4이 다리. 근거: pillar-4 엣지, pillar-2 System1/System2, pillar-5.
2) NVIDIA 풀스택 vs 오픈소스¶
핵심 질문: "Isaac에 다 걸까, 오픈소스로 갈까?"
graph TD
Q{워크로드 성격은?}
Q -- "포토리얼 렌더 + 합성 데이터 생성(SDG) + 풀스택 통합" --> ISAAC["Isaac Sim/Lab (🟢 GA 5.1)<br>GPU는 RTX 필수 (G6e/G7e)"]
Q -- "빠른 RL 반복 · 미분가능 물리 · 크로스벤더 GPU · 경량" --> MUJOCO["MuJoCo/MJX (🟢)<br>컴퓨트 GPU(P5 A100/H100)도 활용 → 비용 이점<br>Unitree 실사용 [1] (프로덕션 검증 → pillar-3)"]
Q -- "ROS 2 네이티브 통합 · CPU · 전통 로보틱스" --> GAZEBO["Gazebo (🟢 Jetty/Harmonic)<br>⚠️ Classic 11은 EOL · GPU 병렬 RL엔 부적합"]
Q -- "'화제성' Genesis?" --> GENESIS["⚪ PoC/실험만<br>'430,000배' 반박됨 [1] (→ pillar-3) · 프로덕션 의존 금지"]
| 기준 | Isaac Sim/Lab | MuJoCo/MJX | Gazebo |
|---|---|---|---|
| 성숙도 | 🟢 GA 5.1 | 🟢 GA (Warp는 Alpha) | 🟢 GA (Classic EOL) |
| GPU | RTX 필수(A100/H100 ✗) | 컴퓨트 GPU 가능(P5 ✓) | CPU 중심 |
| 렌더/SDG5 | 최상 | 제한적 | 제한적 |
| 미분가능6 | △ | ✓ (JAX) | ✗ |
| ROS 통합 | 가능 | 보조 | 네이티브 |
| 라이선스 | Apache(소스)+AI Enterprise(재배포/SaaS) | Apache | Apache |
| AWS | G6e/G7e + AMI + Batch | EC2(P5 포함) + Batch | EC2 + Batch |
판정 원칙: 워크로드로 고르면 된다. "AWS는 셋 다 잘 돌린다" — NVIDIA 종속 우려 고객에게 중립 포지션. MuJoCo면 컴퓨트 GPU 재활용 비용 이점. 근거: pillar-3.
3) GPU 확보 전략¶
핵심 질문: "GPU를 어떻게 확보하나? On-Demand가 안 잡힌다."
graph TD
Q{학습 규모·기간은?}
Q -- "소수 GPU · 단발 · LoRA 파인튜닝 (대부분의 시작점)" --> OD["On-Demand G7e/G6e<br>즉시, 유연 · 충분"]
Q -- "대규모 · 미래 시점 확정 · 초대형 클러스터(P6e-GB200 등)" --> CB["Capacity Blocks for ML<br>미리 예약, UltraServer 확보"]
Q -- "유연한 일정 · 비용 최적 · 며칠~주 단위 학습 창" --> FTP["Flexible Training Plans (SageMaker HyperPod)"]
Q -- "RTX 렌더 필요 (Isaac Sim) vs 컴퓨트만 (MuJoCo/VLA 학습)" --> RC["렌더=G6e/G7e (RTX)<br>컴퓨트=P5/P6 (A100/H100/B200) 또는 MuJoCo면 P5 재활용"]
| 전략 | 언제 | AWS |
|---|---|---|
| On-Demand | 소수·단발·탐색 | EC2 G7e/G6e/P6 |
| Capacity Blocks for ML | 대규모·시점 확정·UltraServer | P6e-GB200, 예약 |
| Flexible Training Plans | 유연 일정·비용 최적 | SageMaker HyperPod |
| Trainium | LLM 학습 비용 절감 | Trn2/Trn3 ⚠️ VLA7는 공개 사례 없음 [4] (→ pillar-2) |
판정 원칙: 시작은 On-Demand G7e. 못 잡히거나 대규모면 Capacity Blocks/Flexible Training Plans. Trainium은 LLM엔 안전하나 VLA/로보틱스는 검증 사례 없음 — 제안 시 리스크 명시. 근거: pillar-2 학습 스택, pillar-3.
4) Build vs Buy (파운데이션 모델)¶
핵심 질문: "파운데이션 모델을 파인튜닝8할까, 자체 학습할까?"
graph TD
Q{데이터·목표·자원은?}
Q -- "실데모 100~수천 개 · 특정 태스크 · 빠른 결과" --> LORA["오픈 VLA 파인튜닝 (LoRA)<br>단일 G7e, 1일 PoC ← 99%의 현실<br>상용이면 라이선스 확인: π=Apache-2.0 ✅, OpenVLA=MIT ✅, GR00T=확인필요 ⚠️"]
Q -- "다중 embodiment · 대규모 실데이터 · 백본까지 조정" --> FULL["풀 파인튜닝 (P6/HyperPod)<br>70~100GB+ GPU"]
Q -- "밑바닥 사전학습 (프런티어 VLA 자체 개발)" --> PRE["🔴 극소수만 · 멀티노드 Blackwell 클러스터·대규모 실데이터<br>대부분 고객에게 비권장 — 파인튜닝으로 충분"]
Q -- "추론·계획 레이어만 필요 (저수준 제어 불필요)" --> INFER["Gemini Robotics-ER(API) 또는 AgentCore로 오케스트레이션"]
| 옵션 | 데이터 | GPU | 언제 |
|---|---|---|---|
| LoRA9 파인튜닝 | 100~수천 데모 | 단일 24~40GB | 기본 시작점 |
| 풀 파인튜닝 | 대규모 실데이터 | 70~100GB+ / 멀티노드 | 다중 embodiment10 |
| 사전학습(Build)11 | 초대규모 | Blackwell 클러스터 | 극소수 프런티어 |
| 추론 레이어 Buy | — | — | 제어는 오픈모델, 계획은 API |
판정 원칙: 거의 항상 파인튜닝(Buy+adapt)이 답. 밑바닥 사전학습은 극소수. 상용은 라이선스가 첫 게이트(GR00T 비상업 주의). "시뮬레이션만으로 조작 정책"은 함정 — 실데이터 필수(pillar-4). 근거: pillar-2, pillar-1 데이터·라이선스, pillar-4.
부록 — 리전/데이터 레지던시 빠른 판정¶
(아래 표는 휘발성 — 2026-07, AWS 공식 리전 표 [1] 직접 확인 기준. 인용 전 최신 리전 표 재확인)
| 서비스 | 서울(ap-northeast-2) | 비고 |
|---|---|---|
| Bedrock AgentCore (코어+Policy+Evaluations) | ✅ | Agent Registry·Payments는 ✗ (도쿄는 Registry ✅) — 2026-07 리전 표 기준 |
| EC2 G7e / G6e / P6 | ✅(리전별 확인) | Capacity Blocks 활용 |
| SageMaker HyperPod | ✅ | Flexible Training Plans 리전 확장 중 |
| IoT Greengrass V2 | ✅ | V1은 2026-06 EOL |
데이터 레지던시 우려 고객: AgentCore 서울 GA 를 먼저 확인시켜 안심(오래된 "서울 미지원" 정보 정정). → pillar-5.
owner: Youngjin · updated: 2026-07 · volatility: 중간 (트리 원리는 낮음, 인스턴스/리전 세부는 높음)
-
제어 주파수(control frequency) — 로봇이 초당 몇 번 제어 명령을 갱신하는지(Hz). 균형·파지 같은 반응 루프는 30~100Hz 이상이 필요해, 왕복 지연이 있는 클라우드로는 물리적으로 불가능하다 — 추론 배포 위치를 가르는 첫 판별자. ↩
-
System 2 / System 1 — 인지과학의 "느린 사고 / 빠른 반응" 구분을 로봇 아키텍처에 적용한 구조. System 2는 느린 대형 모델이 계획을(5~10Hz), System 1은 작은 정책이 실시간 제어를(50~200Hz) 맡는다. 추론을 클라우드에 둘지 엣지에 둘지를 가르는 기준이 된다. ↩
-
flow-matching / diffusion action head — 로봇의 연속 동작을 노이즈에서 점진적으로 다듬어 생성하는 확산(diffusion)·플로우 계열의 출력 모듈. 부드럽고 여러 가지 가능한(multi-modal) 동작 분포를 표현할 수 있어 최신 VLA의 표준 액션 헤드다. ↩
-
action chunking — 매 스텝 동작 1개가 아니라 앞으로의 동작 여러 스텝(청크)을 한 번에 예측하는 기법. 추론 횟수를 줄여 실시간 제어 주파수를 맞추기 쉽게 한다. ↩
-
합성 데이터 생성(SDG, Synthetic Data Generation) — 시뮬레이터로 학습용 이미지와 주석(라벨)을 자동 생성하는 기법. 라벨링 비용이 0에 수렴하는 것이 최대 장점. 🎥 Isaac Sim Replicator SDG 튜토리얼 ↩
-
미분가능 물리(differentiable physics) — 시뮬레이션 계산 전체가 미분 가능해 결과에서 입력으로 그래디언트를 역전파할 수 있는 물리 엔진. 정책·파라미터를 경사하강법으로 직접 최적화할 수 있다(MJX가 대표). ↩
-
VLA (Vision-Language-Action) — 카메라 영상(Vision)과 자연어 지시(Language)를 입력받아 로봇의 동작(Action)을 직접 출력하는 파운데이션 모델. "컵을 집어"라고 말하면 관절 움직임을 생성하는 식. 🎥 NVIDIA Isaac GR00T N1 소개 ↩
-
파인튜닝(fine-tuning) — 대규모 데이터로 사전학습된 모델을 자기 태스크·로봇의 소량 데이터로 추가 학습시키는 것. 밑바닥부터 학습하는 것보다 데이터·GPU가 수십~수백 배 절약된다. ↩
-
LoRA (Low-Rank Adaptation) — 원본 가중치는 얼려두고 작은 저랭크(low-rank) 행렬만 추가로 학습하는 경량 파인튜닝 기법. GPU 메모리 요구가 풀 파인튜닝의 수분의 1이라 24GB급 GPU 한 장으로도 가능하다. ↩
-
embodiment(임바디먼트) — 로봇의 물리적 형태·자유도·센서 구성. 같은 모델이라도 로봇 팔과 휴머노이드는 embodiment가 달라 데이터·정책을 그대로 이식할 수 없다. ↩
-
사전학습(pre-training) — 대규모 범용 데이터로 모델을 밑바닥부터 학습시켜 기초 능력을 만드는 단계. 이후 소량 데이터 파인튜닝으로 특정 태스크에 맞춘다. 프런티어 VLA 사전학습은 극소수 조직의 영역이다. ↩