Tres mitos sobre los niños y los algoritmos

¿Qué tienen en común YouTube Kids y ClassDojo?

A medida que más y más desarrolladores están perfeccionando sus análisis de aprendizaje, sistemas de gestión de aula y recomendaciones de lectura personalizadas, pensemos críticamente sobre las suposiciones más amplias que subyacen en el diseño actual de algoritmos.

No hay duda de que los algoritmos son vitales para la funcionalidad de Internet. A través del aprendizaje automático, los algoritmos pueden automatizar las búsquedas y aprovechar grandes volúmenes de datos para brindar recomendaciones personalizadas que podrían hacer que el aprendizaje de los niños sea más efectivo. Pero la frase “BIBO Algorithms” (Bias In y Bias Out) explica adecuadamente que incluso los algoritmos más poderosos desarrollados por el grupo FANG (Facebook, Amazon, Netflix y Google) no están libres de sesgos y errores.

El deseo de la industria de educar a los niños y eliminar los prejuicios está ahí, pero el problema es demasiado grande para solucionarlo de la noche a la mañana. La evidencia de sesgo inconsciente e incluso intencional propagado por la IA en los sistemas para adultos debería ser una advertencia suficiente antes de apresurarnos a la educación algorítmica. Aquí hay algunas preguntas que los adultos podrían plantear, y algunos conceptos erróneos, para ayudarnos a evaluar la importancia de los algoritmos en el aprendizaje de los niños:

1. La introducción de algoritmos a nuestra clase / familia mejorará el aprendizaje de los niños.

• Mejor ajedrez
• ¿Qué está sucediendo realmente cuando nos sentimos auténticos?
• ¿Las mujeres envejecen más lentamente que los hombres?
• ¿Cuánto dolor sientes?
• ¿Qué habilidades suaves necesitamos para trabajar con robots?

El problema de las recomendaciones personalizadas se expuso completamente en relación con las burbujas de filtro en línea. Debido a que los algoritmos están diseñados para agregar contenido similar, crean cámaras de eco en las redes sociales y en las fuentes de noticias. Adoptar el mismo diseño para el aprendizaje significa que los niños están menos expuestos a los desafíos cognitivos y las cosas que no les gustan. Esto podría ser beneficioso para su motivación y compromiso, pero para aprender a mantenerse, los niños deben recibir conceptos que extiendan sus mentes y no siempre coincidan con sus preferencias.

Algunos proveedores reconocen estas limitaciones y, en lugar de personalizar el contenido, sus algoritmos recomiendan los mismos temas a un ritmo diferente o en una secuencia diferente. Los algoritmos más avanzados comienzan a expandir los horizontes de los niños, ya que recomiendan el contenido de dificultad cada vez mayor. Sin embargo, esto solo podría funcionar en un entorno de aprendizaje adecuado, donde existe una base de datos sólida para dar cabida a los alumnos más altos y más bajos. Sería demasiado ambicioso, en esta etapa, esperar un algoritmo tan sofisticado para todo el sistema educativo sin encontrarse con el problema de las noticias falsas.

2. Las recomendaciones personalizadas democratizan el aprendizaje infantil.

• Cómo Cambridge Analytica utilizó los datos para influir en los votantes
• ¿No estás seguro de qué hacer con tu grado de psicólogo? Pruebe consultar
• ¿Pueden los Wearables rastrear ataques epilépticos? MIT dice sí
• Datos pequeños

Cuando accedemos a Internet, todos estamos usando algoritmos, y nuestro uso sostenido de ellos los hace más inteligentes. En particular, la base de usuarios actual es desproporcionadamente más grande que la base de algoritmos para desarrolladores. Una gran cantidad de decisiones que afectan a miles de millones de personas en todo el mundo están a cargo de unos pocos miles de personas. Como resultado, los gigantes de la tecnología están muy por delante de la comprensión del público en general de cómo funcionan los algoritmos. Incluso algunos senadores estadounidenses no parecen saber cómo funciona la economía algorítmica, como se demostró durante la audiencia del comité del Senado de Mark Zuckerberg.

DigiLitEY: Niños y algoritmos.

Fuente: Natalia Kucirkova, DigiLitEY

En pocas palabras, el diseño actual de los algoritmos es meritocrático, no democrático. Aplicado a la educación, significa que aquellos con una ventaja inicial, es decir, aquellos que tienen algún conocimiento previo, se beneficiarán y pueden desarrollar ese conocimiento aún más. Esto se debe a que los algoritmos se adaptan al niño, no instruyen al niño. Si los algoritmos hubieran sido diseñados con principios democráticos en primer lugar, serían transparentes por su diseño y más orientados a la comunidad. Cualquiera podría ver qué se recomienda y por qué. Cualquiera podría alterar los mecanismos y su poder se distribuiría de manera justa y equitativa.

3. Los algoritmos garantizan la seguridad de los niños en línea.

Para evitar la proliferación de videos perturbadores dirigidos a niños pequeños, tanto Google como Facebook invirtieron en grandes cantidades de moderadores y verificadores de contenido humano. Sin embargo, incluso los administradores de YouTube para niños admiten correctamente que “ningún filtro es 100% preciso”. Por lo tanto, confiar plenamente en el “modo restringido” de YouTube no garantizará que su hijo no vea videos molestos de Peppa Pig. Es simplemente un hecho de la vida que hay más creadores de contenido potenciales y, lamentablemente, muchos de ellos con malas intenciones, que aquellos que denuncian el abuso de videos. La prohibición y la censura de los organismos reguladores nacionales e internacionales tampoco es una solución completa. Sería un paso atrás para fomentar un modelo que garantice la seguridad de los niños a costa de la libertad de explorar. Será necesario desarrollar un nuevo conjunto de algoritmos, controles de calidad y regulaciones comunitarias para garantizar un equilibrio entre las contribuciones creativas y la protección de los usuarios vulnerables.

A menudo se nos dice que “la inteligencia artificial es el futuro”, pero también que “un puñado de empresas de tecnología controlan millones de mentes”. Si queremos que los algoritmos de inteligencia artificial mejoren el futuro de todos los niños, debemos presionar el botón de pausa en la infancia algorítmica y pensar críticamente en qué capta la atención de los niños. Necesitamos algoritmos transparentes que combinen el contenido cuidadosamente seleccionado para las preferencias y necesidades de los niños con los de la comunidad en general. Esta no es una visión tecnófila idealizada de algunos académicos. Es una condición esencial para garantizar que la educación personalizada no se convierta en educación comercializada.

Referencias

La Oficina del Comisionado de la Infancia (2018). ¿Quién sabe qué de mí? Un informe del Comisionado para niños sobre la recopilación y el intercambio de datos de niños, https://www.childrenscommissioner.gov.uk/wp-content/uploads/2018/11/who-knows-what-about-me.pdf

Kucirkova, N., Fails, J., Pera, S. Huibers, T. (2018) Algoritmos para niños: lo que los padres y educadores deben saber, DigiLitEY, Reino Unido: http://digilitey.eu/publications/digilitey-publications

Manolev, J., Sullivan, A. & Slee, R. (2018) La datafication de la disciplina: ClassDojo, vigilancia y una cultura de aula performativa, Aprendizaje, Medios y Tecnología, DOI: 10.1080 / 17439884.2018.1558237