웨이모 돌고프: 데모는 전체 작업의 1%일 뿐

작동하는 데모는 전체 작업의 잘해야 1%다. 진짜 일은 그 뒤에 붙는 수많은 나인, 즉 신뢰성과 성능의 자릿수를 채우는 데서 시작된다.

물리적 AI는 디지털 AI와 네 가지 간극에서 갈린다 — 실수의 비용이 토큰이 아니라 사람 목숨으로 측정되고, 밀리초가 중요하며, 물리 세계용 인터넷이 없고, 첫날부터 높은 안전이 요구된다.

신뢰성은 나인의 사다리 위에 있어서 다음 한 자리를 올릴 때마다 약 10배의 노력이 든다. 같은 방식을 더 오래 하는 게 아니라 근본적으로 다른 접근이 필요하다.

규모에서는 롱테일이 곧 전체 문제다. 백만 마일에 한 번 일어날 희귀 사건이 매주 수백만 마일을 달리면 매일의 현실이 된다.

필요한 나인의 수가 아키텍처를 규정한다. 초반의 가파른 곡선에 속아 성능이 평평해지기 전에 자신이 데모·학습·제품 중 무엇을 만드는지 정직해야 한다.

리처드 서튼의 쓴 교훈처럼 규모를 거스르는 구조는 지고 규모를 밀어주는 구조는 이긴다. 웨이모의 구조 증강 엔드투엔드는 학습된 표현에 검증 가능한 구조를 더한 절충안이다.

닫힌 루프 시뮬레이터는 에이전트만큼 만들기 어려운 또 하나의 큰 AI 모델이며, 겪어보지 못한 희귀 상황까지 합성해 학습·평가하게 해준다.

모델은 기본 조건일 뿐이고 평가와 지표가 진짜 해자다. 유출될 수 있는 알고리즘과 달리, 수억 마일의 실증과 공개 감사된 증거는 복제하기 어렵다.