🔢 Tokenização de Ações: Discreto vs Contínuo vs FAST

A representação mais natural: a cabeça emite floats diretamente para cada dimensão de ação (Δx, Δy, Δz, rotação, gripper). É simples, preserva resolução total e não desperdiça nada com discretização. O problema, visto no Módulo 1.4, é que treinada com MSE/L1 ela é unimodal — colapsa modos. Por isso a regressão contínua só brilha quando combinada com uma cabeça expressiva (difusão/flow), e não como simples MLP+MSE.

RT-1, RT-2 e OpenVLA discretizam cada dimensão em bins uniformes (RT-1 usa 256) e tratam a predição como classificação via cross-entropy. A vantagem: vira um problema de tokens, integrando-se perfeitamente ao vocabulário do LLM e capturando multimodalidade (distribuição categórica). As desvantagens: perda de resolução (quantização) e perda de correlação entre dimensões, já que cada uma é tokenizada independentemente.

Aqui mora a dor que motivou o FAST. A 50Hz, ações em timesteps consecutivos são quase idênticas — o braço move pouco em 20ms. Tokenizar cada timestep gera tokens redundantes e sequências enormes: um chunk de 1 segundo a 50Hz com 7 dimensões são 350 tokens, a maioria repetida. Sequências longas explodem o custo de treino autoregressivo e degradam o aprendizado. Binning ingênuo simplesmente não escala para controle dinâmico de alta frequência.

# Custo de binning por timestep a 50Hz
chunk = 1s · 50Hz = 50 timesteps
dims  = 7 (xyz + rot + gripper)
tokens = 50 × 7 = 350  ← maioria redundante
# treino autoregressivo nessa sequência: lento e instável

FAST (Frequency-space Action Sequence Tokenization, Physical Intelligence, 2025) inverte a lógica: em vez de tokenizar no tempo, transforma a trajetória para o domínio da frequência via DCT (a mesma transformada do JPEG), quantiza os coeficientes e os comprime com BPE. Como sinais suaves concentram energia em poucas frequências baixas, o resultado são poucos tokens de alta fidelidade. FAST torna VLAs autoregressivos competitivos com difusão em controle de alta frequência — RT-2/OpenVLA-style, mas dexterosos.

Toda tokenização vive numa fronteira de Pareto: menos tokens treinam mais rápido mas podem perder fidelidade; mais tokens preservam detalhe mas custam treino e latência. Binning ingênuo fica num ponto ruim (muitos tokens, fidelidade média). FAST desloca a fronteira — poucos tokens E alta fidelidade — ao explorar a estrutura de frequência do sinal. A escolha certa depende de quanto seu sinal é comprimível.

Esquema     Tokens/chunk   Fidelidade   Treino
contínuo    1 (vetor)      total        rápido*  (*precisa head expressiva)
binning     muitos         média        lento
FAST        poucos         alta         rápido

Não existe tokenização universal — a escolha molda toda a cabeça de ação. Tarefa lenta e quasi-estática (pick-and-place pausado)? Binning serve. Manipulação dexterosa e dinâmica (dobrar roupa, inserções)? FAST (autoregressivo) ou difusão/flow. A decisão de representação determina se a cabeça é um detokenizer, um action expert generativo ou um regressor — fechando o ciclo conceitual que começou no Módulo 1.2.