GPU para IA local: cuánta VRAM necesitas de verdad
Guía para elegir GPU para IA local: 8, 12, 16 o 24 GB de VRAM, compatibilidad con Ollama y cuándo pagar NVIDIA merece la pena.
La GPU para IA local se compra por una razón: VRAM. No por RGB, no por FPS en juegos, no por el nombre comercial. La VRAM es la memoria de la tarjeta gráfica, y ahí tiene que caber el modelo si quieres que responda rápido.
Si el modelo no cabe, el sistema empieza a repartir trabajo entre GPU y RAM del sistema. Funciona, pero se vuelve lento. Por eso una GPU barata con poca VRAM puede ser peor compra para IA que una tarjeta menos famosa con más memoria.
Regla rápida por VRAM
8 GB: entrada mínima. Sirve para modelos de 7B en cuantización Q4, pruebas con Ollama y asistentes sencillos. Es usable, pero no deja mucho margen.
12 GB: punto dulce económico. Puedes correr modelos de 7B/8B con más comodidad y jugar con contexto más largo. Aquí entran tarjetas como la Intel Arc B580.
16 GB: zona cómoda. Si vas a usar IA local a diario, 16 GB evitan muchos compromisos. También dan margen para modelos multimodales pequeños o varios servicios.
24 GB: nivel serio. Permite modelos más grandes, más contexto y menos frustración, pero el precio sube mucho. No lo compraría para “probar”.
NVIDIA, AMD o Intel
NVIDIA sigue siendo la compra menos arriesgada porque CUDA está muy soportado. Si vas a seguir tutoriales, usar contenedores o probar herramientas nuevas, NVIDIA suele ser el camino con menos fricción.
AMD puede tener mucho sentido en Linux si tu tarjeta está bien soportada por ROCm. En Windows, el soporte existe para algunas familias, pero no asumiría que cualquier Radeon barata será plug and play.
Intel Arc es la opción interesante para presupuestos ajustados: buena VRAM por euro y soporte que ha mejorado. La contrapartida es que a veces dependerás de Vulkan, OpenVINO o instrucciones específicas. No es mala compra, pero no es la ruta más tranquila.
Qué mirar antes de comprar
Mira primero la compatibilidad con la herramienta que vas a usar. Ollama documenta soporte para NVIDIA, AMD ROCm, Apple Metal y Vulkan experimental. Frigate, si vas por visión, soporta detectores distintos: OpenVINO en Intel, NVIDIA, ROCm, Hailo y otros aceleradores.
Después mira el consumo. Una GPU potente encendida todo el día puede comerse el ahorro de haber comprado barato. Si solo la usas cuando trabajas, perfecto. Si será servidor 24/7, quizá un mini PC eficiente tenga más sentido.
Por último, mira el espacio físico y la fuente. Parece obvio, pero muchas compras fallan porque la caja no tiene sitio o la fuente no aguanta.
Cuándo no comprar GPU
No compres GPU si tu caso principal es Home Assistant con automatizaciones sencillas. Para decidir si una ventana está abierta, resumir estados o clasificar comandos simples, un mini PC con CPU decente puede bastar.
No compres GPU si solo quieres Whisper ocasional. Whisper puede ir bien en CPU moderna o Apple Silicon. Compra micrófono antes que GPU si el problema es que la transcripción falla.
No compres GPU si necesitas silencio absoluto y 24/7. En ese caso, mira mini PCs o hardware con NPU.
Compra sensata por presupuesto
Presupuesto mínimo: GPU usada o tarjeta nueva de 8 GB solo si está muy barata. Es una entrada, no una estación definitiva.
Presupuesto razonable: 12 GB de VRAM. Aquí está la mejor relación aprendizaje/precio.
Presupuesto cómodo: 16 GB. Si vas a usarlo cada semana, se agradece.
Presupuesto serio: 24 GB. Solo si ya sabes qué modelo quieres correr y por qué.
Veredicto
Para IA local, la pregunta correcta no es “qué GPU es más rápida”, sino “cuánta VRAM compro sin meterme en drivers imposibles”. Si quieres tranquilidad, NVIDIA. Si quieres rascar precio por GB, Intel Arc o AMD, aceptando más configuración.