Qué es una GPU
Una CPU tiene pocos núcleos muy potentes; una GPU, miles de núcleos más sencillos trabajando a la vez. Las redes neuronales necesitan justo eso: multiplicar enormes tablas de números en paralelo. Por eso la demanda de GPU se ha disparado y Nvidia se ha convertido en una de las empresas más valiosas del mundo.
Por qué importa en IA
- Entrenamiento: los grandes modelos se entrenan con miles de GPU durante semanas.
- Inferencia: cada respuesta de un asistente de IA se calcula en GPU (o en chips similares).
- Memoria: la memoria de la GPU (VRAM) limita el tamaño del modelo que puedes ejecutar.
- Coste: el precio y la disponibilidad de GPU influyen en lo que pagas por usar IA.
Ejemplo real
Un estudio de diseño quiere ejecutar Stable Diffusion y un LLM en local. Con una GPU de consumo con suficiente memoria puede generar imágenes y usar modelos medianos sin pagar por uso a ningún proveedor.
Para qué te sirve en tu negocio
Solo necesitas preocuparte por las GPU si vas a ejecutar modelos en local o en tu propia nube. Si usas IA vía API o aplicaciones, el proveedor se encarga.
Errores comunes
- Comprar una GPU sin mirar la memoria (VRAM), que es lo que más limita.
- Invertir en hardware cuando la API sale más barata para tu volumen.
- Confundir una GPU de videojuegos con una de centro de datos.
Preguntas frecuentes
¿Por qué Nvidia domina?
Por sus chips y, sobre todo, por su ecosistema de software (CUDA), muy extendido en IA.
¿Qué diferencia hay entre GPU y TPU?
La GPU es más versátil; la TPU de Google está especializada en IA.
¿Un Mac sirve para IA local?
Los Mac con chip Apple Silicon comparten memoria entre CPU y GPU y funcionan bien con modelos medianos.