Cómo Claude Shannon ayudó a iniciar el aprendizaje automático

Entre los grandes ingenieros del siglo XX, ¿quién contribuyó más a nuestras tecnologías del siglo XXI?Yo digo: Claude Shannon.

Shannon es mejor conocido por establecer el campo de la teoría de la información.En un artículo de 1948, uno de los mejores en la historia de la ingeniería, se le ocurrió una forma de medir el contenido de información de una señal y calcular la velocidad máxima a la que la información podría transmitirse de manera confiable a través de cualquier tipo de canal de comunicación.El artículo, titulado "Una teoría matemática de la comunicación", describe la base de todas las comunicaciones modernas, incluida la Internet inalámbrico en su teléfono inteligente e incluso una señal de voz analógica en un teléfono teléfono de par de par..En 1966, el IEEE le otorgó su premio más alto, la Medalla de Honor, por ese trabajo.

Si la teoría de la información hubiera sido el único logro de Shannon, habría sido suficiente para asegurar su lugar en el panteón.Pero hizo mucho más.

Una década antes, mientras trabajaba en la tesis de su maestría en el MIT, inventó la Puerta Lógica.En ese momento, los relés electromagnéticos (dispositivos pequeños que usan el magnetismo para abrir y cerrar interruptores eléctricos) se usaban para construir circuitos que enrutaron llamadas telefónicas o máquinas complejas controladas.Sin embargo, no había una teoría consistente sobre cómo diseñar o analizar tales circuitos.La forma en que la gente pensaba sobre ellos era en términos de que las bobinas de retransmisión estuvieran energizadas o no.Shannon demostró que el álgebra booleana podría usarse para alejarse de los relés mismos, en una comprensión más abstracta de la función de un circuito.Utilizó este álgebra de lógica para analizar, y luego sintetizar, cambiar circuitos y demostrar que el circuito general funcionó según lo deseado.En su tesis inventó la y, y no las puertas lógicas.Las puertas lógicas son los bloques de construcción de todos los circuitos digitales, sobre los cuales se basa todo el edificio de la informática..

En 1950, Shannon publicó un artículo en Scientific American y también un artículo de investigación que describe cómo programar una computadora para jugar al ajedrez.Entró en detalles sobre cómo diseñar un programa para una computadora real..Discutió cómo las estructuras de datos se representarían en la memoria, estimaron cuántos bits de memoria se necesitarían para el programa y dividió el programa en cosas que llamó subprogramas.Hoy llamaríamos a estas funciones o procedimientos.Algunos de sus subprogramas debían generar posibles movimientos;Algunos debían dar evaluaciones heurísticas de lo buena que era una posición.

Mientras trabajaba en la tesis de su maestro en el MIT, Shannon inventó la Puerta Lógica.

Shannon hizo todo esto en un momento en que había menos de 10 computadoras en el mundo.Y todos estaban siendo utilizados para cálculos numéricos.Comenzó su trabajo de investigación especulando sobre todo tipo de cosas que las computadoras podrían estar programadas para hacer más allá de los cálculos numéricos, incluido el diseño de circuitos de retransmisión y conmutación, diseñando filtros electrónicos para comunicaciones, traducir entre idiomas humanos y hacer deducciones lógicas.Las computadoras hacen todas estas cosas hoy.Dio cuatro razones por las que había elegido trabajar primero en el ajedrez, y una importante era que la gente creía que jugar al ajedrez requería "pensar."Por lo tanto, razonó, sería un gran caso de prueba para si las computadoras podrían pensar en pensar.

Shannon sugirió que podría ser posible mejorar su programa analizando los juegos que ya había jugado y ajustando los términos y coeficientes en sus evaluaciones heurísticas de las fortalezas de las posiciones de la mesa que había encontrado.No había computadoras disponibles para Shannon en ese momento, por lo que no podía probar su idea..Pero solo cinco años después, en 1955, Arthur Samuel, un ingeniero de IBM que tenía acceso a las computadoras a medida que se probaban antes de ser entregados a los clientes, estaba ejecutando un programa de jugadores que usaba el método exacto de Shannon para mejorar su juego.Y en 1959 Samuel publicó un artículo al respecto con "aprendizaje automático" en el título, la primera vez que apareció esa frase impresa.

Entonces, recapitulemos: teoría de la información, puertas lógicas, programación de computadoras no numéricas, estructuras de datos y, posiblemente, aprendizaje automático.Claude Shannon no se molestó en predecir el futuro: simplemente siguió adelante y lo inventó, e incluso vivió lo suficiente como para ver la adopción de sus ideas.Desde su fallecimiento hace 20 años, no hemos visto a nadie como él.Probablemente nunca lo volveremos a ser.

Este artículo aparece en el número de impresión de febrero de 2022 como "los mejores éxitos de Claude Shannon."