Lo que no deberíamos aprender de la película HER

Si has visto la película HER , sigue leyendo. Si no, alerta de alerón.

La gente se enamora Es uno de los centros de la vida. Es el material de las películas. Es esta película con un giro. Él (Theodore) y Ella (Samantha) se enamoran. Theodore es una persona. Samantha es un sistema operativo. Ella tiene una voz terrorífica: cálida, atractiva, reflexiva y seductora.

¿Es posible ahora, o en el futuro cercano, que las personas tengan relaciones amorosas con los sistemas computacionales digitales?

Parte de la respuesta depende de qué son realmente estos sistemas. ¿Pueden los sistemas computacionales digitales de IA (Inteligencia Artificial) conocer a otra persona? ¿Pueden saber algo? Por supuesto, en cierto sentido, estos sistemas ya "saben" mucho. Saben lo que compramos, a quién enviamos mensajes de texto, lo que enviamos por mensaje de texto, lo que buscamos en línea, dónde y cuándo manejamos, a quién llamamos, nuestro historial de empleo, nuestros registros médicos … la lista sigue y sigue. Pero, ¿pueden conocernos en un sentido más profundo? Y con eso quiero decir, ¿pueden saberlo como una entidad consciente?

• Autoconciencia e idioma: decir "Sí" a "No"
• Life on Furlough: ¿Puede continuar tu vida si no apareces?
• ¿China está creando líderes futuros brillantes pero dañados?
• Las leyes de apego
• El BA Engine Fire da miedo, pero los pilotos siguen el procedimiento

Sobre esta cuestión, sigo en gran parte la posición de John Searle. A saber, aunque en principio no hay razón para creer que la conciencia no pueda surgir en otros medios además de un cerebro biológico, no hay evidencia o razón para creer que la conciencia pueda o pueda surgir en la computación digital. Para defender esta posición, Searle (1990) establece lo que él llama el experimento de pensamiento de la habitación china:

"Considera un idioma que no entiendas. En mi caso, no entiendo chino. Para mí, la escritura china parece un sinfín de garabatos sin sentido. Ahora supongamos que me colocan en una habitación que contiene cestas llenas de símbolos chinos. Supongamos también que me dan un libro de reglas en inglés para unir símbolos chinos con otros símbolos chinos. Las reglas identifican los símbolos completamente por sus formas y no requieren que entienda ninguno de ellos. Imagina que las personas fuera de la habitación que entienden la mano china en pequeños grupos de símbolos y que en respuesta manipulo los símbolos de acuerdo con el libro de reglas y devuelvan más pequeños racimos de símbolos. Ahora, el libro de reglas es el 'programa de computadora'. Las personas que lo escribieron son 'programadores', y yo soy la 'computadora'. Las cestas llenas de símbolos son la 'base de datos' … Supongamos ahora que el libro de reglas está escrito de tal manera que mis 'respuestas' a las 'preguntas son indistinguibles de las de un hablante nativo de chino …. De todos modos, yo Soy totalmente ignorante de los chinos. Y no hay forma de que yo llegue a entender chino en el sistema como se describe, ya que no hay forma de que pueda aprender el significado de ninguno de los símbolos. Como una computadora, manipulo los símbolos, pero no atribuyo ningún significado a los símbolos ". (P.26)

En otras palabras, debido a que los sistemas computacionales como Samantha tienen sintaxis pero no semántica (significado), nunca pueden "saber" nada. El comportamiento está ahí, pero no el conocimiento. Entonces desde esta posición, Samantha es falsa.

• La libertad de disfrutar de un funcionamiento seguro
• Por qué hay tan pocas mujeres en la ciencia, continuación
• Una moratoria electrónica: ¿buena o mala idea para su adolescente?
• Morir para dormir
• Accediendo a su inteligencia creativa

Pero entonces la pregunta es si podemos obtener efectos psicológicos similares al interactuar con sistemas de personas falsas. Creo que la respuesta es que podemos obtener algunos de los efectos psicológicos (y beneficios). Es parte de mi gran cuerpo de investigación sobre la naturaleza tecnológica. Pero no podemos obtener todos los efectos psicológicos. Y no podemos obtener los realmente profundos, los más hermosos. Por supuesto, esa es una pregunta empírica. Podría estar equivocado. Así que parte de lo que he estado tratando de presentar en algunos de mis escritos e investigaciones académicas es que nos enfrentamos al tecnólogo -y a la sociedad en general- lo que llamo los "puntos de referencia" psicológicos correctos. Los puntos de referencia de, digamos, la reciprocidad , autenticidad, o decir la relación Yo / Tú de Buber. Saber y ser conocido. ¡Qué hermoso es eso! Es una base para el amor. Es una de las partes más profundas de la vida humana. Si Samantha realmente no tiene conciencia, no hay manera de que ella pueda conocer a Theodore. Creo que HER ilustra en un nivel profundo que incluso cuando Theodore muestra tantos de los comportamientos que parecen indicar un verdadero amor profundo y recíproco, en realidad no lo tiene.

¿Qué no deberíamos aprender de la película, HER ? Esa interacción con personas computacionales falsas nos satisfará y nutrirá profundamente.

Si estoy en lo cierto al decir que muchos de nosotros sentimos la relación entre Theodore y Samantha como algo vacío y un poco espeluznante, entonces no estoy seguro de reconocer cuánto de nuestro mundo se ha estado moviendo de esa manera. Twitter Facebook Nación. Nación del jugador. Estamos creando un mundo donde las personas son cada vez más socialmente autistas, si puedo usar esa frase. Y apenas sabemos que estamos haciendo eso.

En el último capítulo de mi libro de 2011 Naturaleza tecnológica: adaptación y el futuro de la vida humana , miro cómo hemos evolucionado en los últimos 50,000 años, y luego especulo sobre lo que es posible en términos de adaptación a una tecnología y computación cada vez más mundo. Somos seres biológicos encarnados, y si bien podemos adaptarnos a un mundo cada vez más tecnológico, no todas nuestras adaptaciones son buenas para nosotros. Los elefantes se adaptan a las condiciones en un zoológico. Pero no prosperan como elefantes. Ellos sellan sus pies durante horas y horas con un comportamiento neurótico. Y luego se embotan y se convierten en gran parte en caparazones vacíos de sus antiguos yoes. Creo que debemos prestar mucha atención a lo que necesitamos como humanos para prosperar como especie.

Necesitamos interacciones reales, auténticas y recíprocas con otros humanos. La película HER termina con una muestra de eso en la azotea. ¡Qué alivio! Allí somos testigos de la tenue intimidad de un hombre biológico y una mujer biológica que respiran juntos por un minuto, conectando de verdad. Conocer y ser conocido. De verdad. Lo que sea que signifique eso, lo sabemos.

Referencias

Kahn, PH, Jr. (2011). Naturaleza tecnológica: adaptación y futuro de la vida humana. Cambridge, MA: MIT Press.

Kahn, PH, Jr., Ishiguro, H., Friedman, B., Kanda, T., Freier, NG, Severson, RL, y Miller, J. (2007). ¿Qué es un ser humano? – Hacia puntos de referencia psicológicos en el campo de la interacción humano-robot. Estudios de Interacción: Comportamiento Social y Comunicación en Sistemas Biológicos y Artificiales, 8, 363-390.

Searle, JR (1990). ¿Es la mente del cerebro un programa de computadora? Scientific American, 262 (1), 26-31.