El perro está jugando en el parque.
Idea A¿Cómo puede una computadora descubrir que dos frases distintas expresan casi lo mismo? La respuesta comienza convirtiendo el lenguaje en matemáticas.
Comenzar ↓01La gran pregunta
El perro está jugando en el parque.
Idea AUn cachorro corre al aire libre.
Idea BLa bolsa de valores cerró a la baja.
Idea CLas dos primeras frases están cerca por su significado, aunque no comparten palabras.
02Tokens
Un token es una unidad mínima del texto. Puede ser una palabra, una parte de una palabra, un número o un signo.
Ingresa al tokenizador de OpenAI, copia la frase de ejemplo y observa dónde cambian los colores.
La electroencefalografía estudia la actividad cerebral.
Dirección: https://platform.openai.com/tokenizer
03Contexto y costo
Cada vez que el usuario escribe, el modelo recibe también los mensajes anteriores para comprender la conversación.
04Función matemática
Una función recibe una entrada, realiza una transformación y produce una salida. Un modelo de IA también puede entenderse como una función matemática.
05Modelo de embeddings
Un modelo de embeddings transforma una secuencia de identificadores numéricos en una representación matemática del significado. Como ejemplo usaremos el modelo público de OpenAI text-embedding-3-small.
06Vector
Cada número ocupa una posición concreta y representa una dimensión. El orden importa: cambiarlo produce un vector diferente.
v = (3, 4)3 corresponde a Xv = (3, 4, 7)3 corresponde a X[0.12, −0.04, 0.31, …]Modelo de Hugging Face:[0.021, −0.008, 0.034, …]Modelo de OpenAI:[ 0.062469 -0.018567 -0.080135 -0.031816 0.022504 0.035171 0.026358 -0.015643 0.016780 -0.033293 -0.024082 0.042164 0.014270 -0.068307 -0.052660 0.027309 0.008348 0.015911 0.003726 -0.026547 0.076993 0.035003 -0.023331 0.016098 -0.148922 -0.044837 -0.026542 0.064138 -0.030154 0.020896 0.065230 0.004893 -0.066914 -0.054656 -0.008073 0.040817 0.042562 -0.084334 -0.012531 0.000042 -0.053754 0.041861 0.018725 -0.045135 -0.075811 0.063121 -0.062346 -0.055894 -0.066369 -0.047940 0.052464 0.054406 -0.014934 -0.033048 0.060911 0.059820 0.105594 0.098871 -0.030920 0.097469 -0.028695 -0.038177 -0.019858 -0.028635 0.046764 -0.001069 -0.053050 -0.023015 -0.043777 0.001020 -0.011432 0.018661 -0.042002 -0.038831 0.073289 0.079585 -0.095924 0.030172 0.064278 -0.025850 0.026755 0.048924 0.066402 0.007034 0.076411 0.021374 0.006125 -0.001188 -0.054944 0.005833 0.028866 -0.033616 -0.017295 -0.026272 -0.049843 0.103451 -0.039850 -0.002588 -0.023033 -0.055924 -0.046341 0.011103 -0.023882 -0.041684 0.002875 0.025734 -0.048342 -0.008250 0.043085 0.070190 -0.022203 0.070246 0.075097 0.049497 -0.049287 -0.024247 -0.047504 -0.044087 0.057597 -0.009225 0.030181 -0.005596 -0.050429 0.050104 -0.033713 0.103944 -0.011579 0.082226 0.007965 -0.074565 -0.012404 -0.139120 -0.062548 -0.122456 0.044148 0.039474 0.019690 0.056336 0.045113 -0.040490 0.010996 -0.022866 0.009963 -0.029938 -0.050319 -0.040800 0.028579 0.028983 -0.019647 0.016498 0.006493 -0.060518 -0.010920 0.083115 -0.054019 0.039148 -0.020648 0.009444 0.104783 -0.005915 -0.101750 0.009645 0.071194 0.030912 -0.019008 0.089246 0.006118 -0.023144 0.078542 -0.091233 -0.053744 0.026574 0.047810 -0.031886 -0.007153 -0.124264 -0.100627 0.034107 0.006735 0.037171 0.061374 0.071680 0.068119 -0.029635 -0.031740 0.007919 -0.023385 -0.002612 0.037814 0.015169 -0.051751 0.054901 0.092449 -0.011198 -0.020548 0.047377 -0.078131 -0.001920 0.085123 0.031359 0.087020 -0.037831 0.017255 -0.016910 0.018823 -0.042452 0.015048 -0.043297 0.014992 0.001333 0.009395 -0.061029 -0.081206 0.014977 0.009964 0.076304 -0.059395 -0.035512 -0.019670 -0.006175 -0.069948 0.073759 -0.010660 0.073220 -0.001594 0.019969 -0.037265 0.012714 -0.047134 0.110472 -0.123366 -0.063499 -0.081098 0.029452 -0.010011 -0.043290 0.097999 0.056911 0.066698 0.008699 -0.087456 0.021814 -0.033172 0.106506 -0.084225 0.068539 0.030511 0.046394 -0.066938 -0.036523 0.069003 0.038587 0.000098 0.050982 0.012043 -0.062365 -0.021312 0.011917 -0.062560 0.010329 0.038331 -0.112832 -0.020355 -0.020837 0.072909 0.003597 0.051411 0.012695 0.072947 0.049179 -0.083355 0.037167 -0.025592 -0.010113 0.005242 -0.060388 -0.014141 -0.051287 0.057990 -0.010950 -0.059262 0.007862 0.022133 0.117579 -0.037067 0.033558 -0.059104 0.041840 0.000010 -0.046772 -0.064741 0.087336 0.074646 0.078148 -0.052604 0.092644 -0.044362 0.014113 -0.042729 -0.023147 0.103237 -0.013381 0.014545 0.026060 -0.032369 0.026705 0.022226 -0.099857 0.001235 -0.053803 -0.062812 0.022223 -0.087875 0.014373 -0.004999 -0.001857 -0.045071 -0.018339 0.000347 0.081107 0.078427 0.039959 -0.017073 -0.033672 0.035741 -0.011620 0.010257 -0.024545 -0.058980 0.041308 -0.020779 0.028076 -0.030173 0.011388 -0.036773 -0.026144 -0.002476 0.035445 -0.008652 0.027513 0.014466 0.020172 0.027968 -0.135627 -0.090185 -0.010664 -0.007193 -0.025541 -0.037090 -0.034355 0.031491 0.063735 -0.025845 0.033379 -0.056246 0.024972 -0.009259 -0.062824 -0.094236 0.034169 0.058688 0.024176 -0.043968 -0.057359 -0.009626 0.078642 0.061558 -0.033219 0.017134 0.067694 -0.085633 -0.036113 0.008435 0.000804 0.008815 0.104989 0.004682 -0.047206 -0.001371 0.074482 -0.052468 -0.003465 0.009907 0.076290 ]
Cada posición es una dimensión del vector. La magnitud 1 indica que el embedding está normalizado.
07Magnitud
La magnitud es un número que representa el tamaño del vector. Se calcula con el teorema de Pitágoras usando todas sus coordenadas.
EJEMPLO EN 2 DIMENSIONES · v = (3, 4)
EJEMPLO EN 3 DIMENSIONES · v = (1, 2, 2)
08Normalización
Dividimos cada componente por la magnitud. El vector (3,4), cuya longitud es 5, se convierte en (0.6,0.8).
Dirección: igual
Magnitud anterior: 5
Magnitud nueva: 1
09Similitud coseno
La similitud coseno mide cuánto apuntan dos vectores hacia el mismo lugar. Mueve el ángulo para observar el valor.
10Espacio semántico
Explora vectores en un espacio tridimensional. Selecciona dos de ellos para observar el ángulo que forman y medir qué tan similares son sus direcciones.
EXPERIENCIA INTERACTIVA
Abre el visualizador, gira el espacio y selecciona dos vectores para compararlos.
Iniciar →11Embedding
Embedding proviene de to embed: insertar, incrustar o embeber. Es una representación vectorial del significado.
En modelos reales, un embedding puede tener cientos o miles de dimensiones.
12Significado matemático
Las frases sobre perros se ubican en una región cercana. La frase sobre la bolsa de valores aparece en otra zona del espacio matemático.
13Demostración con embeddings
Un modelo real genera los vectores. Aquí mostramos una versión didáctica de los resultados esperados.
Perro en el parque ↔ cachorro al aire libre
0.88Perro en el parque ↔ bolsa de valores
0.09Cachorro al aire libre ↔ bolsa de valores
0.0614Búsqueda semántica
La búsqueda tradicional encuentra coincidencias literales. La búsqueda semántica convierte productos y consultas en embeddings, los compara y devuelve ideas cercanas.
Consulta: “Algo para iluminar cuando se va la luz”
15Demostración en vivo
Veremos una búsqueda sobre una base de datos real de productos. El sistema comprende la intención de la consulta y encuentra artículos relacionados, aunque no utilicen exactamente las mismas palabras.
DEMOSTRACIÓN DESDE EL COMPUTADOR DEL INSTRUCTOR
La aplicación se ejecutará en Python y consultará productos mediante sus embeddings.
16Las cinco ideas más importantes
17No es Terminator
Las películas presentan máquinas autónomas. Aquí vimos una secuencia de transformaciones matemáticas.
“Cuando entendemos cómo funciona una tecnología, deja de parecer magia.”
Como cualquier herramienta poderosa, debemos aprender a utilizarla.
18Preguntas y respuestas
Abre cada pregunta y responde antes de leer la explicación.
Una unidad mínima en la que el modelo divide un texto.
Una colección ordenada de números con dirección y magnitud.
Una representación vectorial del significado.
Que los vectores apuntan en la misma dirección y las ideas son muy parecidas.
Que el significado puede representarse matemáticamente.
PANTALLA FINAL
Y esa idea está cambiando el mundo.
Volver al inicio ↑