Problema profundo de AI

Modelado en el cerebro humano, el aprendizaje profundo es opaco

Fuente: Archivo de Dominio Público

La inteligencia artificial se modela en cierta medida en el cerebro humano; y hay un problema profundo con este enfoque. El aprendizaje automático es un subconjunto de la inteligencia artificial (IA) donde los programas de computadora aprenden automáticamente de los datos sin programación explícita. Inspirado en parte por la biología humana, el aprendizaje profundo es un método de aprendizaje automático que despliega capas de neuronas artificiales, llamadas nodos, en un cerebro artificial llamado red neuronal. Los neurocientíficos y los psicólogos todavía tienen que entender completamente cómo funciona el cerebro humano. Del mismo modo, hay un gran problema con el aprendizaje profundo; los científicos no saben exactamente cómo el aprendizaje profundo llega a sus decisiones. En ambos casos, la complejidad está en la raíz de la falta de transparencia.

El cerebro humano es complejo; los investigadores estiman que un cerebro humano masculino adulto tiene 86 mil millones de neuronas en promedio [1]. Los libros de texto de neuroanatomía humana comúnmente miden el número para estar más cerca de 100 mil millones de neuronas. De forma similar al cerebro humano, el aprendizaje profundo consiste en neuronas de procesamiento densamente interconectadas, o nodos, dispuestos en múltiples capas. El aprendizaje profundo no requiere programación explícita porque está diseñado para aprender de grandes cantidades de datos de entrada. Por ejemplo, el programa de aprendizaje profundo de Google aprendió a reconocer imágenes de gatos después de haber sido alimentado con 10 millones de miniaturas de videos de YouTube sin codificación ni etiquetado de las imágenes [2].

• Hacer dormir
• Curación Cognitiva del Abuso Infantil
• Expansión de la cintura, encogiendo el cerebro?
• ¿Te sientes solo? Tu cerebro puede estar en riesgo
• Mindfulness Hacks para padres ocupados

Para comprender por qué el aprendizaje profundo es extraordinariamente complejo, se requiere una comprensión del proceso funcional en sí mismo. Las redes neuronales encuentran patrones en los conjuntos de datos grandes, y luego desarrollan la capacidad de conceptualizar y generalizar. Grandes cantidades de datos se introducen en las redes neuronales artificiales. La primera capa de nodos procesa los datos y luego se mueve a las capas subsiguientes de nodos hasta que se alcanza la última capa, y se toma una única decisión. En el procesamiento, los pesos se calculan matemáticamente para los nodos, y para la fuerza de la conexión entre los nodos, como las sinapsis del cerebro. La red neuronal crea un modelo con más de mil millones, si no billones, de parámetros basados ​​en conexiones intrincadas entre los nodos. Es esta complejidad inherente en el modelo lo que hace imposible determinar exactamente cómo el aprendizaje profundo produce su producción.

La opacidad del aprendizaje profundo se vuelve problemática en varias áreas de ética, legal y control de calidad. Por ejemplo, la industria automotriz se está moviendo rápidamente hacia vehículos autónomos que usan la tecnología de aprendizaje profundo. En caso de accidente, no hay una forma definitiva de entender el razonamiento detrás de las decisiones tomadas por las redes neuronales en un vehículo autónomo. ¿Quién tiene la culpa en tales casos? La pregunta plantea un dilema ético y legal para todas las partes interesadas, incluidos los lesionados, los pasajeros, las compañías de seguros y los fabricantes de automóviles. ¿Cómo evalúa un consumidor la calidad de un vehículo autónomo sin comprender el proceso de toma de decisiones del conductor?

Otro ejemplo es el despliegue de aprendizaje profundo para el análisis de imágenes en el cuidado de la salud para ciertos tipos de cáncer y retinopatía diabética [6]. ¿Confiarías en el diagnóstico de la enfermedad de un modelo de aprendizaje profundo sin saber por qué se hizo? Un médico humano puede explicar su razonamiento y lógica cuando es interrogado por el paciente. Este no es el caso con el aprendizaje profundo.

• Sexo y el cerebro
• La ciencia canina no es una ciencia suave: los datos del perro duro son abundantes
• La investigación muestra promesa para el envejecimiento de los cerebros
• Naturaleza vs. Nurture vs. Gut Bacteria?
• La psicología del genocidio: cuidado con los principios

El alcance del problema de la transparencia de AI está creciendo, y solo se convertirá en un problema más en el futuro a medida que aumente la automatización. El reciente aumento en los avances comerciales y de investigación en IA se debe principalmente al aumento de la potencia de procesamiento a través de aceleradores de unidad de procesamiento gráfico (GPU) para lograr un procesamiento paralelo masivo, frente a una unidad de procesamiento central (CPU) que procesa información en serie y secuencialmente [5]. También contribuyen al aumento de la IA la computación descentralizada basada en la nube y la disponibilidad de grandes conjuntos de datos. El aprendizaje automático se utiliza para reconocimiento de voz, vehículos autónomos, procesamiento de imágenes, reconocimiento de escritura y más. El nivel de potencia y sofisticación de la inteligencia artificial se demostró cuando el programa AlphaGo de Google DeepMind, un modelo de aprendizaje profundo, derrotó a los mejores jugadores humanos del mundo [3]. Los algoritmos de aprendizaje profundo son parte de la tecnología de reconocimiento de voz de Apple, Microsoft, Amazon y Google [4]. AI se está desplegando a través de múltiples industrias en todo el mundo, lo que subraya la importancia de abordar su opacidad.

Los científicos e investigadores están trabajando actualmente en la desmitificación de lo que a menudo se conoce como la caja negra de AI; nadie sabe exactamente cómo el aprendizaje profundo llega a sus decisiones. La ironía es que la inteligencia artificial se basa en el cerebro y, al hacerlo, hereda la complejidad incognoscible de la cognición humana.

Referencias

1. Frederico Azevedo et al., “Iguales números de células neuronales y no neuronales hacen que el cerebro humano sea un cerebro de primate de escala isométrica”. Journal of Comparative Neurology . 2009 10 de abril.

2. Clark, Liat. “El cerebro artificial de Google aprende a buscar videos de gatos”. Wired UK . 06.26.12.

3. Gibney, Elizabeth. “Lo que el algoritmo ganador Go de Google hará después”. Naturaleza . 15 de marzo de 2016.

4. Parloff, Roger. “¿Por qué Deep Learning está cambiando repentinamente tu vida?” Fortune . 28 de septiembre de 2016.

5. NVIDIA. “¿Qué es la computación acelerada por GPU?” Obtenido el 20 de febrero de 2018 en http://www.nvidia.com/object/what-is-gpu-computing.html

6. Weidman Metis, Seth. “4 avances profundos de aprendizaje profundo que los líderes empresariales deben entender”. VentureBeat . 23 de enero de 2018.