Qué es un SLM
No hay un tamaño oficial, pero se habla de SLM para modelos de hasta unos pocos miles de millones de parámetros, frente a los cientos de miles de millones de los modelos más grandes. Ejemplos: las versiones pequeñas de Llama, Gemma, Phi o Mistral.
Cuándo tiene sentido
- Tareas concretas y repetitivas: clasificar emails, extraer datos de facturas, resumir textos cortos.
- Privacidad: los datos no salen de tu infraestructura.
- Coste: sin pagar por cada token a un proveedor.
- Velocidad y funcionamiento sin conexión: en dispositivos o en entornos sin internet.
Ejemplo real
Una gestoría procesa cientos de facturas al día. En lugar de enviarlas a un modelo grande en la nube, usa un SLM en su propio servidor, ajustado para extraer proveedor, importe, fecha e IVA. Es rápido, barato y los datos de sus clientes nunca salen de la oficina.
Para qué te sirve en tu negocio
Para tareas acotadas y de mucho volumen, un SLM puede ser la opción más rentable. Para razonamientos complejos, redacción de calidad o análisis abiertos, un LLM grande sigue siendo mejor. Muchas empresas combinan ambos.
Errores comunes
- Esperar que un SLM rinda como un modelo grande en tareas complejas.
- No ajustarlo (fine-tuning) a la tarea: bien afinado, rinde mucho más.
- Subestimar el trabajo técnico de desplegarlo en local.
Preguntas frecuentes
¿Qué diferencia hay entre SLM y LLM?
Tamaño y capacidad. El SLM es más pequeño, rápido y barato; el LLM, más capaz.
¿Puedo usar un SLM en mi ordenador?
Sí, con herramientas como Ollama o LM Studio.
¿Los SLM funcionan en español?
Los más recientes sí, aunque con menos soltura que los grandes.