Ricardo SandoyaCHK Group PMthropic Módulo 01 · Volver a la lección
Laboratorio interactivo 01

Simulador de tokens, atención, contexto y generación

Cinco estaciones para observar cómo un modelo de lenguaje procesa un texto y elige su respuesta. Termine en la estación 5 con su matriz comparativa de modelos, el entregable del módulo.

NOTASimulación educativa: reproduce la lógica de un modelo de lenguaje con valores ilustrativos. No ejecuta un modelo real; la comparación con modelos reales se registra en la estación 5.
Estación 1 · Tokens

El modelo no lee palabras: lee fragmentos

Antes de procesar un texto, el modelo lo divide en tokens: palabras cortas completas, partes de palabras largas, números en grupos y signos de puntuación. Cada token se convierte en un número.

Qué observar Las palabras largas o técnicas consumen más tokens. El costo y el límite de contexto se miden en tokens, no en palabras. En español suele haber más tokens por palabra que en inglés.
{{ tk.t }}{{ tk.id }}
{{ nTokens }}tokens
{{ nWords }}palabras
{{ nChars }}caracteres
{{ ratio }}tokens por palabra
Segmentación aproximada. Cada proveedor usa su propio tokenizador y los números de identificador son simulados.
Estación 2 · Atención

Cada palabra decide a cuáles prestar atención

El mecanismo de atención del Transformer calcula, para cada token, cuánto peso dar a los demás. Así el modelo resuelve referencias y ambigüedades. Haga clic en una palabra para ver su distribución de atención.

Qué observar «tenía» atiende sobre todo a «banco»: así sabe quién tenía liquidez. Con atención causal, una palabra solo mira hacia atrás, como en los modelos que generan texto.
{{ aw.pct }}
Matriz completa · fila = palabra que mira
{{ row.w }}
Pesos ilustrativos generados con reglas simples. En un modelo real hay decenas de capas y cabezas de atención en paralelo.
Estación 3 · Generación

La respuesta se elige token a token, por probabilidad

El modelo asigna una probabilidad a cada posible siguiente token. La temperatura aplana o concentra esa distribución; top-p descarta las opciones menos probables.

Qué observar Con temperatura 0 la respuesta es siempre la misma. Con temperatura alta aparecen opciones improbables: útil para ideas, riesgoso para datos. Muestree 50 veces y compare la variedad de resultados.
{{ prompt }} {{ output }}
{{ pr.tok }}
{{ pr.pct }}{{ pr.count }}
{{ genNote }}
Estación 4 · Contexto y costo

Todo lo que el modelo lee cabe en una ventana finita

Instrucciones, documentos adjuntos, historial de conversación y respuesta comparten la misma ventana de contexto. Cada token de entrada y de salida tiene un precio.

Qué observar Los documentos suelen dominar el consumo de tokens. Los tokens de salida suelen costar varias veces más que los de entrada. Un costo pequeño por consulta puede ser grande a escala mensual.
Ventana de contexto
{{ fillLabel }}{{ totalLabel }}
Instrucciones {{ instrTok }} Documentos {{ docsTok }} Historial {{ histTok }} Respuesta {{ outTokLabel }}
Excede la ventana: el modelo no podrá leer todo. Recorte, resuma o recupere solo los fragmentos relevantes (RAG, Módulo 4).
{{ costReq }}por consulta
{{ costMonth }}al mes (22 días hábiles)
{{ latency }}tiempo estimado de respuesta
Precios de ejemplo: ajústelos a la tarifa vigente del proveedor. Las instrucciones toman los tokens del texto de la estación 1. Latencia estimada a 60 tokens por segundo.
Estación 5 · Entregable

Matriz comparativa de modelos

Ejecute la misma tarea en tres modelos reales. Registre la precisión según la rúbrica, el tiempo de respuesta y el costo por tarea. Ajuste los pesos según la prioridad del caso y justifique su selección.

Modelo Precisión (%) Tiempo (s) Costo (USD) Puntaje {{ r.score }}{{ r.badge }}
{{ copyNote }}
Puntaje = suma ponderada de precisión, rapidez relativa y economía relativa (el mejor de cada criterio obtiene el máximo). Los valores iniciales son de ejemplo; se guardan automáticamente en este navegador.