Inferència
L'inferència és l'ús d'un model ja entrenat per generar una sortida (text, classe, predicció) a partir d'una entrada nova.
Actualitzat: 17/11/2026
Definició
L'inferència és l'ús d'un model ja entrenat per generar una sortida (text, classe, predicció) a partir d'una entrada nova.
Explicació
Entrenar és costós i puntual; inferir és el dia a dia. Importen latència (xat en temps real vs lot nocturn), cost per token o per trucada, GPU i límits del proveïdor. Cachear embeddings o respostes repetides redueix factura.
Arquitectura: ¿inferència en API cloud, VPC o local? La decisió barreja privacitat, SLA i pressupost. Els agents encadenen diverses inferències (planificar, cridar eina, respondre): cal acotar passos.
Monitoritza errors, timeouts i deriva de qualitat; la inferència «en silenci» també es degrada.
Exemple en empresa
Un classificador de tickets fa inferència en mil·lisegons per missatge; un informe llarg es processa per lots a la nit per no saturar la quota diürna.
Termes relacionats
Com ho treballem a Ship Shift
No publiquem definicions aïllades: cada terme del glossari encaixa amb un servei o una solució que ja despleguem. Si el teu equip està avaluant Inferència, partim del procés real (dades, canals, ERP) i només després triem el model o l'eina. Pots continuar a Agents d'IA o explicar-nos el cas a contacte.