Glosario · Modelo de lenguaje (LLM)
¿Qué es un modelo de lenguaje o LLM?
Definición: Un modelo de lenguaje de gran tamaño (LLM) es un sistema de IA entrenado con enormes volúmenes de texto para comprender instrucciones y redactar texto.
Un LLM, del inglés large language model, aprende durante su entrenamiento a predecir la siguiente palabra, o fragmento de palabra, de un texto. A gran escala, esa capacidad le permite resumir, traducir, clasificar, responder preguntas o redactar documentos. Trabaja dentro de una ventana de contexto: la cantidad de texto que puede tener en cuenta a la vez, incluidas las instrucciones y los documentos que se le entregan.
En la empresa, el modelo casi nunca se usa solo. Es el componente que interpreta el lenguaje dentro de un sistema más amplio: un agente que trabaja con herramientas, un asistente que responde con la documentación interna o un flujo que extrae datos de facturas y contratos. La elección del modelo depende de la tarea, del volumen, de la calidad exigida y de dónde deben procesarse los datos.
Un LLM no busca la respuesta en una base de datos: genera la más probable a partir de lo aprendido. Por eso puede equivocarse con seguridad aparente, y no conoce hechos posteriores a su entrenamiento ni la información interna de la empresa. Técnicas como RAG le aportan esa información en el momento de responder. Conviene, además, revisar qué uso hace el proveedor de los datos que recibe.
Ejemplo: un LLM lee cada correo que llega al buzón de atención al cliente, identifica si es una reclamación, un pedido o una duda, y extrae el número de cliente para registrarlo en el CRM.