Cómo funcionan ChatGPT, Claude y Gemini: tokens, contexto y alucinaciones

No necesitas saber matemáticas para usar ChatGPT, Claude o Gemini, pero entender cómo funcionan por dentro (en versión simple) cambia la forma en que los usas. Explica por qué a veces inventan datos, por qué la misma pregunta da respuestas distintas, por qué "olvidan" lo que dijiste al principio de una conversación larga y cómo sacarles más provecho.

La idea central: predecir la siguiente palabra

Un modelo de lenguaje (LLM) es, en esencia, un sistema entrenado para predecir qué texto viene a continuación. Si lee "La capital de Francia es…", ha visto tantas veces esa frase completada con "París" que esa es la continuación más probable.

Lo sorprendente es que, para predecir bien el texto de millones de libros, artículos, conversaciones y programas, el modelo tiene que aprender muchísimo sobre gramática, hechos del mundo, razonamiento, estilos de escritura y lógica de programación. De esa capacidad de predicción, a gran escala, surgen habilidades que parecen comprensión.

Cómo se entrena (en tres etapas)

1. Preentrenamiento: el modelo lee una cantidad enorme de texto público y licenciado, y ajusta miles de millones de parámetros internos para predecir mejor la siguiente palabra. Es la etapa más costosa.
2. Ajuste con instrucciones: se entrena con ejemplos de preguntas y buenas respuestas para que se comporte como un asistente útil y no solo complete textos.
3. Ajuste con retroalimentación: personas (y otros sistemas) evalúan respuestas y el modelo aprende a preferir las más útiles, honestas y seguras.

Tokens: la unidad con la que "piensa"

Los modelos no leen palabras completas, sino tokens: fragmentos de texto. Una palabra común puede ser un token; una palabra larga o poco frecuente se divide en varios. En español, como referencia aproximada, 100 tokens equivalen a unas 60–75 palabras.

Los tokens importan por dos motivos prácticos:

• Los límites de longitud (de lo que puedes enviar y de lo que te responde) se miden en tokens.
• Si usas la IA mediante una API (desde un programa), pagas por tokens.

La ventana de contexto: su memoria de trabajo

La ventana de contexto es la cantidad máxima de texto que el modelo puede tener en cuenta a la vez: tus instrucciones, los documentos que adjuntas, la conversación previa y su propia respuesta. Los modelos actuales tienen ventanas muy grandes (equivalentes a cientos de páginas), pero no infinitas.

Consecuencias prácticas:

• En conversaciones muy largas, la información del principio puede perder peso o quedar fuera. Si cambias de tema, abre un chat nuevo.
• Si algo es importante, repítelo o resúmelo en el mensaje actual.
• El modelo no "recuerda" tus otros chats, salvo que la aplicación tenga una función de memoria activada.

Por qué la IA "alucina"

Se llama alucinación a cuando el modelo genera información falsa con total seguridad: una cita que nadie dijo, un artículo de ley que no existe, una estadística inventada, una referencia bibliográfica falsa. Pasa porque el modelo genera el texto más plausible, y un dato inventado puede sonar muy plausible.

Es más probable que alucine cuando:

• Le pides datos muy específicos (cifras, fechas, nombres, citas textuales, URLs).
• El tema es poco conocido o muy reciente.
• Le presionas a responder algo que no sabe ("dame 10 estudios que demuestren…").

Por qué la misma pregunta da respuestas distintas

Al generar cada palabra, el modelo no siempre elige la más probable: introduce algo de variación (un parámetro llamado temperatura). Eso hace las respuestas más naturales y creativas, pero significa que si repites la pregunta obtendrás versiones distintas. Es útil: si una respuesta no te convence, pide que la regenere o pide "tres versiones diferentes".

Modelos con razonamiento y herramientas

Los asistentes actuales ya no son solo "predictores de texto". Muchos combinan el modelo con:

• Razonamiento extendido: el modelo "piensa" paso a paso antes de responder, lo que mejora mucho en matemáticas, lógica y problemas complejos (a cambio de tardar más).
• Búsqueda web: consulta páginas actuales y cita las fuentes.
• Ejecución de código: escribe y ejecuta programas para hacer cálculos exactos o analizar archivos (lección 7).
• Lectura de archivos e imágenes: PDF, hojas de cálculo, fotos, capturas de pantalla.
• Acciones en otras aplicaciones: correo, calendario, documentos (lección 9).

Cuando la herramienta adecuada está activa, muchas de las limitaciones clásicas (datos desactualizados, cálculos erróneos) se reducen mucho. Por eso conviene conocer qué funciones tiene el asistente que usas.

Privacidad: qué pasa con lo que escribes

Lo que escribes en un asistente se procesa en los servidores de la empresa que lo ofrece. Según el producto y el plan, las conversaciones pueden conservarse un tiempo y, en algunos casos, usarse para mejorar los modelos (normalmente hay una opción para desactivarlo). En las versiones empresariales suele haber más garantías. Revisa la configuración de privacidad de tu herramienta y la política de tu empresa, y lee la lección 12 antes de pegar datos sensibles.

Resumen

• Un LLM genera texto prediciendo el siguiente token; de eso surgen sus capacidades.
• La ventana de contexto es su memoria de trabajo: abre chats nuevos para temas nuevos.
• Las alucinaciones son datos falsos plausibles: dale fuentes y verifica.
• Razonamiento, búsqueda web y ejecución de código amplían mucho lo que puede hacer bien.

En la próxima lección: Cómo escribir prompts que funcionan: fórmula, técnicas y plantillas. Verás la fórmula de 6 elementos, técnicas avanzadas y plantillas listas para usar.