🔢 Tokenización de acciones: discreta vs continua vs FAST

La representación más natural: la cabeza emite floats directamente para cada dimensión de acción (Δx, Δy, Δz, rotación, gripper). Es simple, conserva la resolución total y no desperdicia nada en discretización. El problema, visto en el Módulo 1.4, es que entrenada con MSE/L1 es unimodal — colapsa los modos. Por eso la regresión continua solo destaca cuando se combina con una cabeza expresiva (difusión/flow), y no como un simple MLP+MSE.

RT-1, RT-2 y OpenVLA discretizan cada dimensión en bins uniformes (RT-1 usa 256) y tratan la predicción como clasificación mediante cross-entropy. La ventaja: se convierte en un problema de tokens, se integra perfectamente al vocabulario del LLM y captura la multimodalidad (distribución categórica). Las desventajas: pérdida de resolución (cuantización) y pérdida de correlación entre dimensiones, ya que cada una se tokeniza de forma independiente.

Aquí está el problema que motivó FAST. A 50Hz, las acciones en timesteps consecutivos son casi idénticas — el brazo se mueve poco en 20ms. Tokenizar cada timestep genera tokens redundantes y secuencias enormes: un chunk de 1 segundo a 50Hz con 7 dimensiones son 350 tokens, la mayoría repetidos. Las secuencias largas disparan el costo del entrenamiento autoregresivo y degradan el aprendizaje. El binning ingenuo simplemente no escala para el control dinámico de alta frecuencia.

# Custo de binning por timestep a 50Hz
chunk = 1s · 50Hz = 50 timesteps
dims  = 7 (xyz + rot + gripper)
tokens = 50 × 7 = 350  ← maioria redundante
# treino autoregressivo nessa sequência: lento e instável

FAST (Frequency-space Action Sequence Tokenization, Physical Intelligence, 2025) invierte la lógica: en vez de tokenizar en el tiempo, transforma la trayectoria al dominio de la frecuencia mediante DCT (la misma transformada del JPEG), cuantiza los coeficientes y comprímelos con BPE. Como las señales suaves concentran energía en unas pocas frecuencias bajas, el resultado son pocos tokens de alta fidelidad. FAST hace que los VLA autorregresivos sean competitivos con la difusión en el control de alta frecuencia: al estilo de RT-2/OpenVLA, pero diestros.

Toda tokenización vive en una frontera de Pareto: menos tokens permiten entrenar más rápido, pero pueden perder fidelidad; más tokens conservan los detalles, pero cuestan tiempo de entrenamiento y latencia. El binning ingenuo queda en un punto desfavorable (muchos tokens, fidelidad media). FAST desplaza la frontera — pocos tokens Y alta fidelidad — al aprovechar la estructura de frecuencia de la señal. La opción adecuada depende de cuánto se pueda comprimir tu señal.

Esquema     Tokens/chunk   Fidelidade   Treino
contínuo    1 (vetor)      total        rápido*  (*precisa head expressiva)
binning     muitos         média        lento
FAST        poucos         alta         rápido

No existe una tokenización universal: la elección moldea toda la cabeza de acción. Tarea lenta y cuasiestática (¿pick-and-place con pausas)? Binning sirve. Manipulación diestra y dinámica (¿doblar ropa, inserciones)? FAST (autoregresivo) o difusión/flow. La decisión de representación determina si la cabeza es un detokenizer, un action expert generativo o un regresor, cerrando el ciclo conceptual que comenzó en el Módulo 1.2.