Inferencia
La inferencia es el uso de un modelo ya entrenado para generar una salida (texto, clase, predicción) a partir de una entrada nueva.
Actualizado: 17/11/2026
Definición
La inferencia es el uso de un modelo ya entrenado para generar una salida (texto, clase, predicción) a partir de una entrada nueva.
Explicación
Entrenar es costoso y puntual; inferir es el día a día. Importan latencia (chat en tiempo real vs lote nocturno), coste por token o por llamada, GPUs y límites del proveedor. Cachear embeddings o respuestas repetidas reduce factura.
Arquitectura: ¿inferencia en API cloud, VPC o local? La decisión mezcla privacidad, SLA y presupuesto. Los agentes encadenan varias inferencias (planificar, llamar herramienta, responder): hay que acotar pasos.
Monitoriza errores, timeouts y deriva de calidad; la inferencia «en silencio» también se degrada.
Ejemplo en empresa
Un clasificador de tickets hace inferencia en milisegundos por mensaje; un informe largo se procesa por lotes por la noche para no saturar la cuota diurna.
Términos relacionados
Cómo lo trabajamos en Ship Shift
No publicamos definiciones aisladas: cada término del glosario encaja con un servicio o una solución que ya desplegamos. Si tu equipo está evaluando Inferencia, partimos del proceso real (datos, canales, ERP) y solo después elegimos el modelo o la herramienta. Puedes seguir en Agentes de IA o contarnos el caso en contacto.