🌐 Simuladores: MuJoCo, Isaac Sim, Habitat

Cada demo real exige um humano, um robô e tempo de relógio. Em simulação, um cluster gera milhões de trajetórias de madrugada, sem desgaste mecânico nem colisões caras. Crucial para RL, que precisa de ordens de magnitude mais interações do que imitação.

MuJoCo (Multi-Joint dynamics with Contact, hoje open-source pela DeepMind) é referência em física de contato e atrito para manipulação. MJX reimplementa o solver em JAX, rodando milhares de simulações em GPU/TPU com vmap e gradientes via grad — abrindo otimização diferenciável de trajetória.

pip install mujoco mujoco-mjx jax[cuda12]

import mujoco, mujoco.mjx as mjx, jax
model = mujoco.MjModel.from_xml_path("scene.xml")   # MJCF
mx = mjx.put_model(model)

@jax.vmap                       # 4096 mundos em paralelo
def step(state, ctrl):
    data = mjx.step(mx, state.replace(ctrl=ctrl))
    return data
# jax.grad(step) -> física diferenciável

Isaac Sim (sobre Omniverse/PhysX 5) entrega física e renderização RTX na GPU; Isaac Lab é o framework de RL/aprendizado em cima dele, rodando milhares de ambientes paralelos sem sair da GPU — observações, física e política convivem na mesma VRAM, eliminando o gargalo CPU↔GPU.

Habitat (Meta) foca em ambientes 3D fotorrealistas para navegação e embodied question answering — o agente se move por cenas escaneadas (HM3D, Matterport) respondendo "onde está a chave?". É outro ponto do espectro: menos manipulação de contato, mais percepção espacial e exploração.

import habitat_sim
cfg = habitat_sim.SimulatorConfiguration()
cfg.scene_id = "data/scene_datasets/hm3d/00800-TEEsavR23oF.glb"
sim = habitat_sim.Simulator(habitat_sim.Configuration(cfg, [agent_cfg]))
obs = sim.step("move_forward")   # navegação em cena escaneada real
obs["rgb"], obs["depth"]         # sensores sintéticos

Nenhum simulador é o mundo. O reality gap aparece em atrito mal modelado, objetos deformáveis e líquidos, ruído e latência de sensores, e domínio visual (iluminação, texturas). Uma policy que acerta 95% em sim pode despencar no real — tema central da Trilha 3.

Benchmarks padronizam a comparação. LIBERO mede aprendizado contínuo e transferência de conhecimento em manipulação (LIBERO-Spatial, Object, Goal, Long); Meta-World oferece 50 tarefas para meta/multi-task RL; RoboSuite (MuJoCo) é uma suíte modular de manipulação muito usada em papers VLA.

# avaliar OpenVLA fine-tunado em LIBERO (suites padrão)
python run_libero_eval.py \
  --model_path outputs/openvla-libero \
  --task_suite_name libero_spatial \
  --num_trials_per_task 50
# reporta success rate médio por suite -> número comparável entre papers