Inferencia en una red neuronal profunda.

¿Qué significa hacer inferencia?

El aprendizaje automático o machine learning consiste en ajustar un modelo a partir de ejemplos. En este caso, los ejemplos son imágenes de números escritos a mano junto con la respuesta correcta: esto es un 3, esto es un 8. El modelo aprende una relación entre los valores de la imagen y esas diez categorías.

La inferencia es lo que ocurre después: usar lo aprendido para calcular una respuesta ante una entrada nueva. Cuando dibujas aquí, la red recibe tu trazo y asigna una puntuación a cada dígito del 0 al 9. La categoría con mayor probabilidad es la predicción que aparece en el panel de salida.

La escena representa una red neuronal profunda: una secuencia de capas que transforman números en otros números. Profunda indica que hay varias capas intermedias. Cada punto representa una neurona matemática; cada conexión, un peso que participa en el cálculo.

De un trazo a un vector de números.

Una red no recibe el concepto número tres: recibe valores. Primero se recorta el área dibujada, se ajusta su tamaño conservando las proporciones y se centra en una cuadrícula de 28 × 28 píxeles. En cada píxel, un valor próximo a 0 indica ausencia de trazo; un valor próximo a 1 indica trazo intenso. Los bordes suavizados pueden tener valores intermedios.

La cuadrícula contiene 784 valores. Al leer sus filas en un orden fijo, se convierte en un vector: una lista ordenada de números. Por ejemplo, x = [0, 0, 0.2, 0.9, …]. Su dimensión es 784 porque tiene 784 componentes. Cambiar el orden cambiaría la información que recibe cada conexión.

La misma imagen puede describirse como una matriz de 28 filas y 28 columnas o como un vector de 784 componentes. La operación de pasar de la cuadrícula a la lista se llama aplanado. En ambos casos son los mismos datos, organizados de otra manera.

Las capas siguientes también trabajan con vectores: cada capa oculta produce uno de 64 activaciones y la salida produce uno de 10 probabilidades. Aquí vector significa esa representación numérica; la posición de los puntos en el espacio 3D solo facilita verla.

Pesos y sesgos: cuánto cuenta cada entrada.

Una neurona combina los valores que recibe. Multiplica cada entrada por un peso y suma los resultados. El peso determina cuánto influye esa conexión. Con las entradas no negativas de esta red, un peso positivo añade a la suma y uno negativo resta. Su magnitud determina la intensidad de esa contribución.

Después se añade un sesgo, también llamado bias: un valor propio de la neurona que desplaza el resultado, independientemente de las entradas. Tanto los pesos como los sesgos son parámetros: números que el entrenamiento ajusta y que permanecen fijos mientras utilizas el reconocedor.

En la escena, las líneas cian corresponden a pesos positivos y las coral a negativos. Negativo no significa incorrecto: restar puede ser tan útil como sumar para distinguir patrones. Un peso tampoco es un porcentaje ni la probabilidad de que una conexión sea correcta.

Una matriz reúne todos los pesos.

Un vector es una lista; una matriz es una tabla de números organizada en filas y columnas. Para calcular una capa completa, se agrupan los pesos de sus neuronas en una matriz W. Si cada fila contiene los pesos de una neurona, la multiplicación W x obtiene todas las sumas ponderadas a la vez.

La primera capa oculta de este modelo tiene 64 neuronas y recibe 784 entradas. Por eso su matriz de pesos tiene 64 filas y 784 columnas. Cada fila combina la misma imagen de una forma distinta. Al añadir un vector de 64 sesgos, obtenemos 64 valores: uno por neurona.

Las capas ocultas posteriores reciben 64 activaciones y producen otras 64: sus matrices son de 64 × 64. La última capa transforma 64 activaciones en 10 puntuaciones. La salida de una capa se convierte en la entrada de la siguiente; esa sucesión es la propagación hacia delante o forward pass.

Las capas intermedias se llaman ocultas porque sus resultados no son la entrada original ni la respuesta final. Son representaciones internas que el entrenamiento hace útiles para la tarea. No debemos interpretar cada punto como un detector conocido de curvas o esquinas sin analizarlo: la visualización muestra sus valores, no una etiqueta semántica de lo que ha aprendido.

La activación es el resultado que pasa a la siguiente capa.

Piensa en cada capa como una calculadora que recibe una lista de números y devuelve otra. La activación de una neurona es su valor de salida para la entrada que estamos procesando. Al reunir los valores de todas las neuronas, tenemos el vector de activaciones de esa capa. Ese vector completo será la entrada de la siguiente.

Activación nombra un resultado numérico; función de activación nombra una regla para calcularlo. En esta red, esa regla es ReLU y después se aplica una normalización. Para seguir la cuenta sin mezclar pasos, llamaremos z a la suma ponderada, h al resultado de ReLU y a al valor que se transmite tras normalizar.

Qué ocurre al calcular una capa.

1. Multiplicar y sumar. Cada neurona recibe todas las activaciones anteriores, multiplica cada una por su peso y añade su sesgo: z = W a_anterior + b. Cada neurona tiene sus propios pesos y sesgo, así que obtiene un resultado distinto.
2. Aplicar ReLU. Se conserva cada resultado positivo y se sustituye cada negativo por cero: h = max(0, z). Por ejemplo, el vector [0.38, −0.10] pasa a ser [0.38, 0]. Esto permite que, para entradas distintas, participen combinaciones distintas de neuronas. La operación es no lineal: no se puede resumir toda la red en una sola multiplicación por una matriz más un sesgo.
3. Normalizar el vector. En este modelo se calcula un único divisor compartido: r = √(media(h²) + 0.00001). Cada componente se divide por ese mismo número: a = h / r. Así se controla la escala. La proporción entre los valores positivos y los ceros se conserva. Una activación oculta puede superar 1; las probabilidades aparecen en la salida final.
4. Repetir con otros pesos. La siguiente capa recibe ese nuevo vector a, lo combina con su propia matriz y vuelve a aplicar estos pasos. En el modelo entrenado se recorre esta secuencia en las doce capas ocultas.

Y entonces, ¿qué me dice el brillo?

En la escena 3D, la activación calculada aumenta el brillo y el tamaño del punto, con una escala visual ajustada a cada capa. La escena mantiene un brillo de base para localizar todas las neuronas, y el pulso añade un resaltado temporal para seguir el recorrido. Por eso conviene pasar el cursor sobre una neurona para leer su activación numérica.

Una neurona oculta brillante está transmitiendo un valor relativamente alto dentro de su capa. Su efecto sobre una salida dependerá de los pesos de las conexiones siguientes: ese mismo valor puede sumar en una cuenta y restar en otra. La predicción se obtiene de las puntuaciones finales, después de combinar todos esos valores.

La elección se hace al comparar las puntuaciones finales.

Las capas ocultas van transformando el dibujo en una representación útil para clasificarlo. Al llegar a la última capa, cada dígito tiene una neurona de salida con sus propios pesos y sesgo. Esa neurona combina el vector de la última capa oculta y produce una puntuación: cuanto mayor sea esa puntuación respecto a las demás, más favorecido queda ese dígito.

Vuelve al ejemplo interactivo y pulsa Entrada que favorece al 3. Después de ReLU y la normalización, se entrega aproximadamente a = [1.414, 0]. La salida 3 multiplica el primer valor por 1.5 y obtiene un logit de 2.221. Las salidas 8 y 0 lo multiplican por pesos negativos y obtienen aproximadamente −0.324 y −0.707. Al comparar las tres cuentas, gana 3.

Ahora pulsa Entrada que favorece al 8. El vector cambia aproximadamente a a = [0.489, 1.327]. La segunda activación es ahora mayor. La salida 8 la multiplica por un peso positivo de 1.4, mientras que la salida 3 la multiplica por −0.5. Los logits pasan a ser aproximadamente [0.170, 1.811, 0.021]: esta vez gana 8. Los pesos son los mismos; el nuevo vector de activaciones ha cambiado el resultado de sus combinaciones.

Qué añade softmax.

Los logits pueden ser negativos y no tienen que sumar uno. Softmax convierte esas puntuaciones en valores entre 0 y 1 cuya suma es 1. Para cada salida, calcula una exponencial y la divide entre la suma de todas las exponenciales:

Con la primera entrada del ejemplo, los porcentajes son aproximadamente 88,3 % para 3, 6,9 % para 8 y 4,7 % para 0. Con la segunda, 8 recibe aproximadamente un 73,5 %. Los porcentajes mostrados pueden no sumar exactamente el 100 % por el redondeo. Softmax facilita interpretar y comparar la distribución; la separación entre clases procede de las puntuaciones calculadas con los pesos.

Una probabilidad alta no garantiza una respuesta correcta. Si dibujas una letra, el modelo sigue teniendo diez dígitos entre los que elegir y podría dar mucha confianza a una respuesta inadecuada. Los porcentajes también se redondean al mostrarlos: un 100,0 % visible no equivale a una garantía.

¿Cómo ha aprendido esos pesos?

Durante el entrenamiento supervisado, la red recibe imágenes junto con sus etiquetas correctas. Calcula una predicción y una función de pérdida mide su desacuerdo con la respuesta esperada. Aquí se utiliza entropía cruzada: penaliza que el modelo asigne poca probabilidad a la clase correcta.

La retropropagación o backpropagation calcula cómo cambia la pérdida al modificar cada parámetro. Esas derivadas forman los gradientes. Un optimizador utiliza esa información para actualizar pesos y sesgos; en este modelo se usó Adam. La tasa de aprendizaje controla el tamaño de las actualizaciones. Repetir el proceso con muchos ejemplos permite mejorar la clasificación.

Para esta demo se entrenó con 55.000 imágenes de MNIST durante 25 épocas. Una época es un recorrido por el conjunto de entrenamiento. Se añadieron variaciones de giro, escala y posición para ampliar los tipos de trazo que veía la red. Otras 5.000 imágenes sirvieron para validar el progreso y seleccionar una versión del modelo.

Finalmente se evaluó esa versión en 10.000 imágenes de prueba que no se habían usado para ajustar ni seleccionar sus pesos: acertó el 98,51 %. Esa cifra describe esa prueba concreta. Tu forma de dibujar puede ser distinta; lo que buscamos es generalización, es decir, responder bien ante entradas nuevas, no solo ante los ejemplos de entrenamiento.

Cuando usas esta página, los pesos ya están aprendidos y no se actualizan. Cambian la entrada y las activaciones, pero la red no aprende de tus dibujos.

Una leyenda para leer la red.

En Reconocer dígitos ves el cálculo de la red entrenada. Su arquitectura permanece fija porque los pesos corresponden a unas dimensiones concretas. En Explorar arquitectura puedes cambiar la profundidad y el número de neuronas con pesos sintéticos; ese modo sirve para experimentar con la estructura, pero su salida no es un reconocimiento aprendido.

El control de conexiones visibles reduce las líneas dibujadas para facilitar la lectura; el cálculo sigue usando todos los pesos. Orbitar y acercar la cámara tampoco modifica la predicción. La línea de tiempo y el avance por capas permiten inspeccionar las activaciones de una misma inferencia. El contador de FPS mide la fluidez gráfica, no la capacidad del modelo para reconocer.