El sesgo humano en la máquina de IA

Cómo la inteligencia artificial está sujeta a un sesgo cognitivo.

Fuente: Pixabay

La inteligencia artificial (AI) puede resultar en avances positivos y consecuencias negativas involuntarias. Un área clave que merece mayor investigación es el impacto del sesgo cognitivo humano sobre la IA. Harvard y MIT Profesor George Church, Singularity University Neil Jacobstein, MIT Físico Max Tegmark, Behavioral Economics y Data Scientist Colin WP Lewis, Ph.D., Oxford Profesor de filosofía Nick Bostrom, SpaceX y Tesla Motors Fundador Elon Musk, cofundador de Apple Steve Wozniak y el físico de Cambridge Stephen Hawking se encuentran entre las más de 8,000 personas que han firmado una carta abierta sobre inteligencia artificial que busca investigar cómo cosechar los beneficios de la IA y evitar las trampas [1].

“El éxito en la creación de una IA efectiva podría ser el evento más grande en la historia de nuestra civilización. O lo peor. “Stephen Hawking, físico

• Neuroimagen, cannabis y rendimiento y función cerebral
• Los 6 desencadenantes del anhelo
• ¿Tiene un toque, o más que un toque, de dislexia?
• ¡6 maneras fáciles de cultivar el pensamiento positivo hoy!
• El mecanismo de defensa más tóxico para tu relación

Al igual que el cerebro humano, la inteligencia artificial está sujeta a un sesgo cognitivo. Los sesgos cognitivos humanos son heurísticos, atajos mentales que sesgan la toma de decisiones y el razonamiento, lo que resulta en errores de razonamiento. Los ejemplos de sesgos cognitivos incluyen los estereotipos, el efecto del tren de vaivén, el sesgo de confirmación, el cebado, la percepción selectiva, la falacia del jugador y el sesgo de selección observacional. El número total de sesgos cognitivos está en constante evolución, debido a la identificación continua de nuevos sesgos.

El sesgo cognitivo humano influye en la IA a través de datos, algoritmos e interacción. El aprendizaje automático, un subconjunto de AI, es la capacidad de las computadoras para aprender sin programación explícita. El aprendizaje de IA está conformado por datos, algoritmos y experiencia a través de interacciones e iteraciones. El tamaño, la estructura, la metodología de recopilación y las fuentes de datos afectan el aprendizaje automático. El aprendizaje automático depende de la calidad de los conjuntos de datos de aprendizaje. Al igual que en los humanos, en la IA, cuanto más objetiva es la información y cuanto mayor es el conjunto de datos, menor es la posibilidad de distorsión [2].

El factor subyacente común en los sesgos cognitivos es la inclinación. La propensión a la IA se ve influida por la asignación de peso a los parámetros y nodos de una red neuronal, un sistema informático modelado en el cerebro humano. El peso puede sesgar inadvertidamente el algoritmo de aprendizaje automático desde el inicio a través de la entrada de datos, a través de la capacitación supervisada y mediante la intervención a través de ajustes manuales. La ausencia o inclusión de indicadores y los sesgos cognitivos inherentes del programador de computadora humana pueden causar un sesgo de aprendizaje automático [3].

• Lo que está tan mal sobre el tweet de Roseanne Barr
• Un ciclo vicioso: abuso doméstico, falta de vivienda, tráfico
• La fuerza de tu ira está ligada a la fuente de tu ira
• Locos ricos asiáticos y la psique asiáticoamericana, parte I
• Obama, Romney, debería apretar las manos izquierda esta noche

La revolución de la inteligencia artificial (AIR) está en marcha [4]. La inteligencia artificial es actualmente una herramienta utilizada para ayudar a humanos y se está implementando como soluciones puntuales en una amplia variedad de funciones como asistentes digitales personales, filtrado de correos electrónicos, búsqueda, prevención de fraude, ingeniería, modelos de marketing, distribución digital, reconocimiento de voz, reconocimiento facial , clasificación de contenido, lenguaje natural, producción de videos, generación de noticias, análisis de juego y juego, servicio al cliente, informes financieros, optimización de marketing, administración de costos de energía, precios, inventario, aplicaciones empresariales y más funciones [5]. Algunos de los más grandes pensadores del siglo XXI han advertido sobre los peligros de la IA sin control. La creciente penetración de AI requiere la minimización del sesgo cognitivo humano en la máquina. El futuro de la humanidad puede muy bien depender de ello.

Referencias

1. “Prioridades de investigación para la inteligencia artificial robusta y beneficiosa: una carta abierta”. Future of Life Institute. Recuperado el 2 de febrero de 2018.

2. Rosso, Cami. “El enigma del aprendizaje automático y sesgos cognitivos”. Medio . 14 de julio de 2015.

3. Ibid.

4. Rosso, Cami. “¿Por qué la Inteligencia Artificial es la Próxima Revolución? AI cambiará casi todos los aspectos de nuestras vidas diarias”. Medio . 16 de marzo de 2016.

5. Rosso, Cami. “Por qué AI está ahora en tendencia”. Medio . 21 de febrero de 2017.