Qué hace un modelo por dentro (y por qué eso no caduca)

Vas a aprender un oficio que cambia de interfaz cada seis meses. Los botones se mueven, los nombres cambian, los precios suben y bajan, y la herramienta que hoy es imprescindible mañana la ha comprado alguien y la ha cerrado. Si aprendes botones, tu conocimiento caduca con ellos.

Lo único que no caduca es entender qué está pasando por debajo. Por eso este módulo empieza aquí y no en una herramienta.

Un modelo de lenguaje predice la siguiente palabra

Esa es la idea entera. Un modelo de lenguaje ha visto una cantidad enorme de texto y ha aprendido, para cualquier fragmento, qué es probable que venga después. Cuando le escribes algo, no consulta una base de datos ni «busca la respuesta»: genera palabra a palabra lo que resulta probable a continuación de lo que le has dado.

De ahí salen, directamente, casi todas sus virtudes y todos sus defectos.

Por qué escribe bien. Porque la escritura correcta es estadísticamente predecible. Un texto bien construido es, casi por definición, uno donde cada palabra sigue razonablemente a la anterior.

Por qué se inventa cosas. Porque una respuesta falsa puede ser tan probable como una verdadera. El modelo no tiene un mecanismo separado que compruebe hechos. Si le preguntas por una sentencia judicial que no existe, te la escribe: es lo que vendría después de tu pregunta si existiera. A eso se le llama alucinación, y no es un fallo que vayan a arreglar del todo — es una consecuencia de cómo funciona.

Por qué el contexto lo cambia todo. El modelo solo predice a partir de lo que tiene delante. Lo que le pongas antes de la pregunta no es decoración: es literalmente la base del cálculo.

Tokens, contexto y por qué te cobran

El modelo no ve palabras, ve tokens: trozos de palabra. «Automatización» pueden ser tres o cuatro tokens. Como regla de andar por casa, en español un token viene a ser tres cuartos de palabra.

Esto importa por dos motivos prácticos:

Te cobran por token, de entrada y de salida, y normalmente a precios distintos. Cuando montes algo que procese mil documentos, la diferencia entre mandar el documento entero o solo el fragmento relevante es la diferencia entre un servicio rentable y uno que pierde dinero.

La ventana de contexto es finita. Es todo lo que el modelo puede tener delante a la vez: tu instrucción, los documentos que le pases y la conversación previa. Cuando se llena, algo se cae. Los modelos han ido ampliándola mucho, pero «cabe» no es lo mismo que «lo usa bien»: la atención se degrada en textos muy largos, y lo que está en medio se pierde antes que lo que está al principio o al final.

De ahí una regla que te va a servir siempre: no le des todo, dale lo que hace falta. Es más barato, más rápido y sale mejor.

Temperatura y determinismo

Casi todas las herramientas te dejan tocar la temperatura: cuánta aleatoriedad hay al elegir la siguiente palabra. Baja, el modelo elige siempre lo más probable y se vuelve repetitivo pero predecible. Alta, se arriesga más y resulta más creativo — y más propenso a irse por donde no toca.

Para lo que vas a construir, la regla es simple: temperatura baja para cualquier cosa que forme parte de un sistema. Si estás extrayendo datos de una factura, no quieres creatividad, quieres el mismo resultado hoy y mañana. La creatividad la reservas para cuando estás escribiendo tú, no cuando está trabajando el sistema.

Aun así, ni con temperatura cero tienes garantía de repetición exacta. Si tu automatización necesita un resultado idéntico y verificable, no dependas del modelo para esa parte: haz que devuelva datos estructurados y valida tú.

Lo que un modelo no es

Tres confusiones que cuestan dinero:

No es una base de datos. No «sabe» lo que pasó ayer ni conoce los datos de tu cliente. Lo que parece memoria es o bien lo que le has metido en el contexto, o bien una búsqueda que alguien ha conectado por detrás. Cuando quieras que trabaje con información concreta, tendrás que metérsela tú — de eso va todo un capítulo de este módulo.

No es un motor de cálculo. Predice texto, y el resultado correcto de una multiplicación es solo una de las continuaciones posibles. Para cuentas, usa una calculadora de verdad y deja que el modelo la llame.

No es determinista ni auditable por dentro. No puedes abrirlo y ver por qué dijo lo que dijo. Si construyes un sistema donde eso importa —dinero, salud, obligaciones legales—, la responsabilidad de comprobar es tuya, y tiene que estar diseñada desde el principio, no añadida después de un susto.

Por qué esto te ahorra tiempo después

Cuando entiendes que todo se reduce a predecir texto a partir de un contexto, dejas de hacer preguntas mágicas y empiezas a hacer preguntas de ingeniería: qué información necesita tener delante, en qué formato, y cómo compruebo que lo que ha salido sirve.

Esa es la diferencia entre alguien que usa la IA y alguien que construye con ella. La primera es una habilidad que tiene ya medio mundo. La segunda es un oficio.