Descubre qué es un LLM, cómo se entrena y por qué parece saberlo todo.
Abrir esta lección en KodokonProbablemente ya hayas oído hablar de ChatGPT, Claude o Gemini. Son IA generativas: programas informáticos capaces de producir texto totalmente nuevo (una explicación, un resumen, un poema, código) a partir de una petición escrita. El motor que se esconde detrás de ellas se llama LLM, abreviatura de *Large Language Model* (gran modelo de lenguaje). En informática, un "modelo" es un programa que ha aprendido patrones a partir de ejemplos, en lugar de aplicar reglas escritas una por una por un humano.
El principio básico es sorprendentemente simple: un LLM es una máquina que predice cómo continúa un texto. Cuando lees "El gato está durmiendo en el…", tu cerebro completa espontáneamente "sofá" o "sillón". Un LLM hace exactamente eso, pero a una escala enorme: en cada paso, calcula qué palabra (o fragmento de palabra) es más probable que venga a continuación, la añade y vuelve a empezar. Por tanto, una respuesta completa no es más que una larga serie de predicciones, palabra tras palabra. Es el mismo mecanismo que las sugerencias de palabras del teclado de tu teléfono, solo que incomparablemente más potente.
Eres un profesor paciente que explica informática a un principiante absoluto.
Explícame qué es un gran modelo de lenguaje (LLM) como si yo tuviera 12 años, sin ningún término técnico sin definir.
Restricciones:
- Usa una analogía de la vida cotidiana.
- Máximo 10 frases.
- Termina con una pregunta para comprobar que lo he entendido.¿Cómo aprende esta máquina a predecir tan bien? Mediante el entrenamiento: una fase (antes de tu primera conversación) durante la cual el modelo "lee" cantidades enormes de texto: libros, artículos, sitios web, código informático. Para cada frase, se oculta la continuación y se le pide al modelo que la adivine. Cuando se equivoca, sus parámetros se ajustan ligeramente, es decir, sus miles de millones de diminutos ajustes internos. Repite esto miles de millones de veces y el modelo acaba capturando la gramática, el estilo y una enorme cantidad del conocimiento que hay en sus textos de entrenamiento.
Por eso una IA generativa parece saberlo todo: ha "leído" una biblioteca más grande de lo que un humano podría recorrer en mil vidas. Pero cuidado con esa palabra: *parece*. El modelo no consulta una enciclopedia cuando responde, y no "comprende" de la manera en que tú lo haces. Calcula la secuencia de palabras más plausible basándose en su entrenamiento. La mayoría de las veces, plausible = verdadero. Pero no siempre, y ese es precisamente el tema de la próxima lección.
Acabo de aprender que los LLM funcionan prediciendo texto, que se entrenan con corpus enormes y que solo producen la continuación más plausible.
Hazme 3 preguntas, de una en una, para comprobar que he entendido de verdad estas tres ideas.
Espera mi respuesta después de cada pregunta y luego corrígeme con amabilidad antes de pasar a la siguiente.
Nunca me des la respuesta antes de que lo haya intentado.