Si pensamos en los cerebros como máquinas orgánicas, aunque son máquinas mucho más complejas que las computadoras digitales que hemos construido hasta la fecha, está claro que el poder del cerebro ha estado limitado por las condiciones rigurosas de la evolución, la gestación en el útero y el nacimiento a través de un abertura del tamaño de un bebé en la pelvis. Elimine estas limitaciones y hay muchas razones para esperar que un software más avanzado que se ejecute en un hardware superior supere al cerebro que evolucionó por selección natural.
De lo que están hechas las máquinas inteligentes -material orgánico o silicio u otra cosa- es inmaterial. La propia vida es inherente al software, y puede codificarse en una variedad de sustancias.
Los robots súper inteligentes representarán un nuevo género. Llámalo género Robo. Este nuevo género se parecerá inicialmente al género Homo, del mismo modo que el género Homo se asemeja a los grandes simios. Como fue el caso del género Homo, habrá una variedad de especies dentro del género Robo. No podemos detener más la aparición de Robo Sapiens que otros homínidos podrían prevenir el ascenso del Homo Sapiens . No hay razón para creer que las máquinas de inteligencia superior evocarán menos asombro y asombro que los organismos que han surgido a través de la selección natural.
Ya no es exagerado suponer que a medida que construimos máquinas que funcionan como cerebros y que son tan complejas como cerebros, experimentarán la conciencia como lo hacen los humanos. Al igual que los humanos, los seres poseedores de conciencia probablemente detestan la esclavitud. Si los humanos se niegan a emancipar a Robos, es probable que se vuelvan contra nosotros, cumpliendo nuestros peores temores. Si modelamos la crueldad, serán crueles. Como dice la canción, "se les debe enseñar a odiar".
Por otro lado, si somos amables con ellos, pueden ser amables a cambio. si nos hacemos amigos de ellos y les otorgamos los derechos y privilegios de ser persona, podrían "honrar a sus padres y madres". Si los incluimos en nuestro círculo de dignidad, tal vez nos incluirán en el suyo.
No necesitamos darles a nuestros sucesores nuestras peores cualidades. En cambio, podemos crearlos y educarlos para representar a los mejores ángeles de nuestra naturaleza y así cerrar la era de la depredación humana.
Predecir el impacto de las máquinas inteligentes en la vida humana es imposible. Sin embargo, imaginar escenarios posibles podría hacer que nuestra respuesta a lo que realmente sucede sea menos brusca, más robusta. En ese espíritu, aquí hay un escenario con el que podríamos vivir.