Consola web para la API gratuita de NVIDIA (build.nvidia.com). Chat, arena para comparar modelos, streaming y embeddings. Sin tarjeta de crédito, sin fila ni trucos.
# Cambiar de OpenAI a NVIDIA = 2 líneas from openai import OpenAI client = OpenAI( base_url="https://integrate.api.nvidia.com/v1", api_key="nvapi-XXXXX" # gratis en build.nvidia.com ) r = client.chat.completions.create( model="meta/llama-3.1-70b-instruct", messages=[{"role": "user", "content": "Ola!"}] ) print(r.choices[0].message.content)
NVIDIA ofrece más de 100 modelos de IA mediante una API gratuita en build.nvidia.com. Este proyecto es una consola web completa para usar esos modelos sin complicaciones.
Usa la biblioteca openai predeterminado (Python/JS). Cambia base_url e api_key y ya está. Sin cambios en el código.
Compara hasta 8 modelos lado a lado con el mismo prompt. Mira el TTFT, el tiempo total y la calidad de cada respuesta en tiempo real.
Crea una cuenta en NVIDIA Developer y genera la clave nvapi-... y empieza a usarlo. 40 solicitudes por minuto por modelo, sin costo.
La consola incluye 8 modelos listos para usar. La API de NVIDIA tiene más de 100 en total y puedes agregar cualquiera al registry.
| Modelo | Proveedor | Tipo | Destacado |
|---|---|---|---|
| Llama 3.1 70B | Meta | LLM | Versátil, contexto de 128k |
| Llama 3.1 405B | Meta | LLM | El Llama más grande, calidad de primer nivel |
| DeepSeek R1 | DeepSeek | LLM | Razonamiento, 671B MoE |
| Qwen 3.5 397B | Qwen | LLM | MoE 17B activo, políglota |
| GLM-5.2 | Z.ai | LLM | 128k, respuesta larga |
| Nemotron 120B | NVIDIA | LLM | 1M context, tool use |
| Mixtral 8x22B | Mistral | LLM | MoE europeo, rápido |
| Llama 3.2 90B Vision | Meta | Vision | Analiza imágenes + texto |
Embeddings también disponibles mediante endpoint /api/embeddings (modelo nvidia/nv-embedqa-e5-v5).
La API es 100% compatible con OpenAI. La consola es una interfaz web completa que se conecta a ella mediante FastAPI (local) o Vercel (producción).
Conversación continua con un modelo seleccionado. El streaming SSE muestra tokens en tiempo real. El historial de mensajes se mantiene en el frontend.
Selecciona de 2 a 8 modelos, envía el mismo prompt y compara las respuestas lado a lado. TTFT y tiempo total por modelo. Perfecto para decidir qué modelo usar.
Pocas dependencias. Todo gratis.
Crea una cuenta gratuita y genera la clave API.
# Accede a: https://build.nvidia.com/settings/api-keys # Haz clic en "Generate API Key" # Guarda la clave nvapi-...
Con pip para instalar dependencias.
python3 --version pip install openai fastapi uvicorn python-dotenv
Para clonar el proyecto y hacer deploy.
git clone https://github.com/inematds/nvidiaapifree cd nvidiaapifree
Sigue los pasos a continuación. Al final tendrás la consola funcionando localmente con 8 modelos de IA gratuitos.
Accede a build.nvidia.com, crea una cuenta (sin tarjeta) y genera la API key.
# 1. Ábrelo en el navegador: https://build.nvidia.com/settings/api-keys # 2. Haz clic en "Generate API Key" # 3. Copia la clave (formato: nvapi-XXXX...) # La clave aparece UNA sola vez. Guárdala de inmediato.
Clona el repo y crea el archivo .env con tu clave.
git clone https://github.com/inematds/nvidiaapifree cd nvidiaapifree cp .env.example .env # Edita el .env y pega tu clave: echo "NVIDIA_API_KEY=nvapi-SUA_CHAVE_AQUI" > .env
El proyecto usa FastAPI + OpenAI SDK. Se resuelve con una línea.
pip install openai fastapi uvicorn python-dotenv
Ejecuta el script de prueba para confirmar que la clave funciona.
python3 test_api.py # Salida esperada: "ok, funcionando"
Inicia el servidor FastAPI y abre la consola en el navegador.
python3 server.py # Servidor en ejecución en http://localhost:8812 # Ábrelo en el navegador: http://localhost:8812
En la consola, elige un modelo y conversa. O cambia a Arena y compara modelos.
# Chat: selecciona un modelo en el menú desplegable, escribe y envía # Arena: haz clic en la pestaña "arena", selecciona 2+ modelos y envía el mismo prompt # Los modelos responden en paralelo con streaming en tiempo real
La API también funciona directamente en tu código Python/JS.
# Python from openai import OpenAI client = OpenAI( base_url="https://integrate.api.nvidia.com/v1", api_key="nvapi-SUA_CHAVE" ) # Chat r = client.chat.completions.create( model="meta/llama-3.1-70b-instruct", messages=[{"role": "user", "content": "Explique IA em 2 frases"}], temperature=0.7, max_tokens=512 ) print(r.choices[0].message.content) # Embeddings emb = client.embeddings.create( model="nvidia/nv-embedqa-e5-v5", input=["texto para vetorizar"], extra_body={"input_type": "query"} ) print(f"Dimensao: {len(emb.data[0].embedding)}")
El proyecto está listo para deploy en Vercel. Funciona con el plan gratuito.
Conecta tu repo de GitHub a Vercel e impórtalo.
# En Vercel: # 1. New Project > Import Git Repository # 2. Selecciona inematds/nvidiaapifree # 3. Framework: Other
Agrega NVIDIA_API_KEY en las Environment Variables del proyecto en Vercel.
# En Project Settings > Environment Variables: NVIDIA_API_KEY=nvapi-SUA_CHAVE_AQUI # Opcional: claves separadas por modelo NVIDIA_API_KEY_LLAMA=nvapi-... NVIDIA_API_KEY_DEEPSEEK=nvapi-...
Todo lo que necesitas saber sobre la API NVIDIA NIM en una tabla.
# Base URL https://integrate.api.nvidia.com/v1 # Chat Completions POST /v1/chat/completions # Embeddings POST /v1/embeddings # Listar modelos GET /v1/models
# Límite de solicitudes 40 RPM por modelo # ampliable a 200 # Costo $0 # sin créditos ni cargos # Tarjeta de crédito Nao requerido # Vencimiento de la clave Nao expira
Qué se ha hecho y qué viene después.