El surgimiento de la máquina sensible es un viejo tropo en ciencia ficción. Y nunca resulta bueno para la humanidad. Terminator , The Matrix y I, Robot son ejemplos de películas que muestran máquinas inteligentes que ganan conciencia y luego destruyen o subyugan a sus creadores humanos.
Los éxitos de taquilla de Hollywood rara vez son retratos precisos de la realidad. Entonces, ¿realmente tenemos algo que temer de nuestras máquinas inteligentes? Algunos científicos piensan que es bastante razonable tener miedo de la IA.
Cuando el fracaso de la taquilla trascendental se estrenó en 2014, el destacado físico Steven Hawking y sus colegas escribieron un comentario para The Independent , un importante periódico británico. Observando la forma en que la inteligencia artificial amplifica enormemente la inteligencia humana, señalan: "El éxito en la creación de AI sería el evento más grande en la historia humana". Pero luego viene la advertencia: "Desafortunadamente, también podría ser la última, a menos que aprendamos cómo evita los riesgos ".
Al igual que con cualquier tecnología nueva, debemos sopesar cuidadosamente los beneficios potenciales contra los peligros y encontrar formas de mitigarlos. Hawking y sus colegas señalan formas en que la IA podría extraviarse y tener consecuencias no deseadas. También podría ser establecido a fines nefastos por humanos malintencionados. Pero los autores parecen menos preocupados por las máquinas sensibles que destruyen deliberadamente a la humanidad.
En su nuevo libro, The Evolution of Consciousness , el biólogo noruego Bjørn Grinde señala que la inteligencia no implica consciencia. "La naturaleza está llena de soluciones inteligentes sin ningún rastro de conciencia", escribe (p. 61). Lo mismo puede decirse de nuestras máquinas.
No existe una única definición de inteligencia con la que todos estén de acuerdo, pero existe un consenso general de que incluye la capacidad de aprender de la experiencia, adaptarse a un entorno cambiante, tomar decisiones y actuar en beneficio propio.
La vida ha existido en el planeta por más de tres mil millones de años, principalmente en forma de organismos unicelulares. No fue hasta la evolución de las neuronas y el sistema nervioso hace 600 millones de años que nació la inteligencia.
Se podría argumentar que la capacidad de los microbios para moverse hacia los nutrientes y lejos de las toxinas es evidencia de inteligencia sin un sistema nervioso. Pero Grinde sostiene que estos movimientos se pueden explicar en términos de procesos químicos.
No tenemos ninguna razón para asumir inteligencia por parte de las plantas, tampoco. Su crecimiento está guiado por la física de la gravedad y la luz, y si florecen o perecen es una cuestión de suerte. Las semillas que brotan en el suelo rico y la luz del sol prosperan, mientras que las que caen en un suelo pobre y la sombra se marchitan. Y si las condiciones cambian, una planta no puede moverse a una mejor ubicación.
Solo los animales pueden acercarse a las oportunidades y evitar las amenazas, y eso es porque tienen sistemas nerviosos. El objetivo de un sistema nervioso es permitir que un organismo interactúe con su entorno con el objetivo final de llevar sus genes a la próxima generación.
Si no te mueves, no necesitas un cerebro. Solo pregúntale a un chorro de mar. En su juventud, nada como un renacuajo, pero en la edad adulta se adhiere a una roca donde pasa el resto de su vida. Su primer acto después de establecerse es devorar su propio cerebro.
Los animales muestran un comportamiento inteligente porque tienen sistemas nerviosos. Incluso el nematodo humilde, con solo 302 neuronas, puede aprender a distinguir entre las bacterias que son buenas para comer y las que la han enfermado. Las abejas tienen cerebros diminutos de alrededor de un millón de células, y no solo aprenden de los malos, sino que también pueden comunicar la ubicación de las fuentes de alimentos a sus colmenas. ¡Bastante sorprendente para un cerebro de abeja!
Un pulpo tiene un cerebro cien veces más grande que una abeja, lo que lo convierte en un verdadero genio del mundo submarino. Estos cefalópodos pueden aprender a navegar en laberintos complejos, usar herramientas e incluso aprender al observar lo que otros están haciendo. Entonces, un pulpo es claramente inteligente, pero ¿tiene conciencia? Algunos neurobiólogos dicen: "Quizás". Pero Grinde está más inclinado a decir: "Quizás no".
Grinde no es solo una especie chovinista. Por el contrario, su instinto le dice que las abejas y los pulpos no son conscientes. Probablemente no te des cuenta de esto, pero en realidad tienes un segundo "cerebro" en tu estómago. Estrictamente hablando, es una red de neuronas que van de la boca al ano que controlan la actividad del tracto gastrointestinal. Aunque pequeño en comparación con esa gigantesca masa neural dentro de tu cráneo, en 500 millones de neuronas es cinco veces el tamaño de un cerebro de pulpo.
El cerebro "intestino" lleva a cabo su trabajo con muy poca aportación del gran cerebro en el piso de arriba. De hecho, el intestino solo se comunica con el cerebro según la necesidad de saber, principalmente cuando algo ha ido terriblemente mal. Actualmente no estás al tanto de las bacterias tóxicas que se multiplican rápidamente y se comen el revestimiento del estómago. Pero momentáneamente su cerebro "intestino" emitirá una alarma, y solo cuando el mensaje llegue a su cerebro principal se dará cuenta de que está a punto de enfermarse. (También es tu cerebro principal el que te lleva al baño más cercano).
Si el número de neuronas es una medida aproximada de la inteligencia, entonces su intestino es cinco veces más inteligente que un pulpo. Y si tu intestino no tiene conciencia, ¿por qué deberíamos asumirlo por parte de un cefalópodo humilde? En otras palabras, la inteligencia por sí sola no es suficiente para producir consciencia.
En cambio, Grinde argumenta que la conciencia surge de las emociones básicas del dolor y el placer, que proporcionan motivación para el comportamiento y conducen a un aprendizaje rápido. Los estados emocionales son generados por ciertas estructuras del cerebro anterior, como la corteza cerebral y el sistema límbico. Estas estructuras están bien desarrolladas en los mamíferos, y también existen en formas más primitivas en aves y reptiles, pero no en otros animales. En otras palabras, la conciencia se basa en la emoción, no en la inteligencia.
En el tropo de ciencia ficción, las máquinas se vuelven más y más inteligentes hasta que superan cierto umbral, momento en el que la conciencia emerge de repente. Pero, ¿dónde exactamente está ese umbral? Tal vez sea en la llamada singularidad, cuando las máquinas se vuelven más inteligentes que los humanos, lo que sea que eso signifique.
En la película Trascendencia , los guionistas se burlan del problema del umbral de la conciencia. Específicamente, hacen que el inventor del sistema inteligente de alguna manera cargue su propia conciencia en la computadora. En lugar de que la máquina se parezca al hombre, el hombre se pone dentro de la máquina.
Pero entonces la historia ya no se trata de que AI destruya deliberadamente a la humanidad. En cambio, se trata de una persona que usa la IA contra sus compañeros humanos. Y ese es el peligro de la IA de la que Steven Hawking nos advierte.
