Qué son los parámetros
Cuando un modelo aprende, lo que cambia son sus parámetros. Un modelo de «7B» tiene unos 7.000 millones de parámetros; los más grandes superan con mucho esa cifra. En general, más parámetros significa más capacidad de aprender patrones complejos, pero también más memoria y coste.
Qué implican
- Capacidad: los modelos grandes suelen rendir mejor en tareas complejas.
- Coste: más parámetros, más cálculo y más memoria para ejecutarlos.
- Hardware: determinan si un modelo cabe en tu ordenador.
- No lo es todo: la calidad de los datos y el entrenamiento importan tanto como el tamaño.
Ejemplo real
Un modelo abierto de 8.000 millones de parámetros funciona bien en un portátil para resumir y clasificar textos. Uno de 70.000 millones da mejores resultados en análisis complejos, pero necesita un servidor con GPU potentes.
Para qué te sirve en tu negocio
Te ayuda a interpretar las fichas de los modelos, a entender por qué uno es más caro que otro y a elegir el tamaño adecuado para cada tarea.
Errores comunes
- Pensar que más parámetros siempre es mejor.
- Confundir parámetros (del modelo) con parámetros de configuración como la temperatura.
- Comparar modelos solo por tamaño.
Preguntas frecuentes
¿Qué significa "7B" o "70B"?
7.000 o 70.000 millones de parámetros.
¿Qué son los pesos?
El tipo principal de parámetro: la intensidad de las conexiones entre neuronas.
¿Cuántos parámetros tienen los grandes modelos?
Muchos laboratorios no lo publican; se estiman en cientos de miles de millones o más.