Cómo funciona ChatGPT por dentro (sin fórmulas ni tecnicismos)

Le escribes algo a ChatGPT y te responde en segundos con un texto coherente, bien construido y casi siempre útil. Parece que “piensa” la respuesta. En realidad está haciendo algo mucho más mecánico —y mucho más interesante de entender— que eso: adivinar la palabra más probable, una detrás de otra, cientos de veces por respuesta. Saber esto no le quita mérito a lo que hace, pero explica de un plumazo por qué acierta tanto y por qué falla justo donde falla.

La idea central: un autocompletado extremadamente potente

Cuando escribes un mensaje, el modelo no “piensa una respuesta” y luego la escribe. Hace algo más parecido al autocompletado del móvil, pero muchísimo más sofisticado: mira todo el texto que hay hasta ese punto (tu pregunta, lo anterior de la conversación) y calcula qué palabra —técnicamente, qué “token”, un trozo de palabra— es más probable que venga a continuación. La escribe. Vuelve a mirar todo el texto, ahora con esa palabra nueva incluida, y calcula la siguiente. Y así, una por una, hasta acabar la respuesta.

Esto se entrena leyendo cantidades enormes de texto (páginas web, libros, código, conversaciones) y ajustando el modelo millones de veces hasta que se le da muy bien predecir qué palabra suele seguir a otra en ese tipo de contexto. No hay una base de datos de “hechos” que consulta: hay un patrón estadístico del lenguaje, aprendido de ejemplos, que resulta ser sorprendentemente bueno prediciendo texto útil.

Por qué esto explica que sea tan bueno con el lenguaje

Puede sonar a poco para lo bien que funciona, pero predecir la siguiente palabra con precisión obliga al modelo a captar muchísimo más que gramática. Para predecir bien qué sigue a “el resultado de la reunión fue…”, ayuda haber visto patrones de cómo se estructuran resúmenes, qué palabras acompañan a “resultado”, qué tono usa la gente en contextos formales frente a informales, cómo se cuenta una decisión frente a un fracaso. Cuantas más veces ha visto el modelo ese tipo de patrón durante el entrenamiento, mejor lo reproduce.

Es la misma razón por la que estos modelos son mucho mejores redactando, resumiendo, traduciendo o programando (tareas donde “el siguiente trozo de texto plausible” coincide casi siempre con “la respuesta correcta”) que haciendo cálculos exactos o citando datos muy concretos, donde “sonar plausible” y “ser exacto” son dos cosas distintas. Ya lo vimos con detalle en por qué la IA falla en matemáticas simples: el modelo no calcula, predice cómo suena un cálculo correcto, que no es lo mismo.

No hay una “memoria” en el sentido humano

Esto sorprende a mucha gente: el modelo con el que hablas hoy no cambia por hablar contigo. No se queda con nada de tu conversación para la próxima vez, ni con nadie más. Lo que sí ocurre dentro de una misma conversación es que todo lo que has escrito —tu pregunta inicial, sus respuestas, tus aclaraciones— se vuelve a pasar como “texto anterior” cada vez que genera la siguiente palabra. Eso es lo que se llama ventana de contexto: una especie de folio que se relee entero en cada paso, y que tiene un límite de tamaño. Por eso, si una conversación se alarga muchísimo, es posible que el modelo empiece a “olvidar” cosas del principio: literalmente ya no caben en ese folio.

El “conocimiento” que sí conserva entre conversaciones —capitales, fechas históricas, cómo se estructura un contrato— no está guardado como una ficha que consulta. Está incorporado en los patrones que aprendió durante el entrenamiento, de la misma forma en que tú no recuerdas cada frase de cada libro que leíste, pero el estilo y los datos que más se repitieron se te quedaron. Eso explica también por qué, como contamos en por qué la IA se inventa cosas, un dato que apareció una sola vez en su entrenamiento tiene mucho más riesgo de salir mal que uno que apareció miles de veces.

Por qué a veces suena distinto a la misma pregunta

Si le haces la misma pregunta dos veces, es fácil que la respuesta no sea palabra por palabra idéntica. Esto no es un fallo: es a propósito. En cada paso, el modelo no coge siempre la opción más probable a rajatabla (eso daría respuestas repetitivas y a veces raras); coge una opción entre las más probables, con un punto de aleatoriedad controlada. A ese ajuste se le llama temperatura: cuanto más alta, más variedad y “creatividad” en el texto; cuanto más baja, más previsible y literal. Es también la razón por la que pedirle “dame 5 títulos distintos para esto” funciona: cada generación explora un camino ligeramente distinto entre las opciones plausibles.

Lo que esto cambia en cómo lo usas

Entender este mecanismo tiene consecuencias prácticas, no es solo curiosidad:

• Cuanto más contexto le des, mejor predice. Si le pegas el documento entero en vez de resumírselo tú, tiene más texto real sobre el que calcular la respuesta, en vez de tener que “adivinar a ciegas” el contexto que le falta.
• Los datos muy específicos y poco repetidos son el punto débil. Cifras exactas, citas textuales, nombres propios poco conocidos: ahí el patrón aprendido es más débil, y conviene verificarlo tú.
• No hay “razonamiento” garantizado, hay patrones de razonamiento. Cuando resuelve bien un problema lógico, es porque ha visto patrones muy parecidos muchas veces, no porque esté aplicando lógica formal como lo haría un programa de cálculo.
• Que suene seguro no significa que sea correcto. El modelo genera el tono más probable del texto, y un texto seguro es más probable estilísticamente que uno lleno de dudas, tenga razón o no.

La idea que lo explica casi todo

ChatGPT no “piensa” una respuesta de golpe: la construye palabra a palabra, prediciendo en cada paso qué es lo más probable que venga a continuación, según patrones aprendidos de cantidades enormes de texto. Ese mecanismo, tan simple sobre el papel, es lo que explica casi todo lo que sorprende de estos modelos: por qué escriben tan bien, por qué no “recuerdan” nada de una conversación a otra salvo lo que cabe en el texto que se relee cada vez, y por qué fallan justo en lo que menos se parece a “predecir texto plausible”: los datos exactos y los cálculos precisos.