En una publicación reciente, sugerí que las experiencias sexuales artificiales en el futuro rivalizarán o superarán a las reales. El miedo a la esclavitud por máquinas inteligentes y el miedo a las máquinas que son más inteligentes que nosotros es un elemento básico de la ciencia ficción siguiendo la dirección de Isaac Asimov. Ahora, un famoso científico, Stephen Hawking, tiene miedo. ¿El resto de nosotros debería ser?
Por qué Hawking está asustado
El punto de partida de Hawking es una nueva película, Transcendence, protagonizada por Johnny Depp. La película incluye versiones de robots de humanos que expresan la gama completa de emociones humanas con poder analítico que supera la inteligencia colectiva de todos en la tierra a lo largo de toda la historia.
Esperamos que la ciencia ficción exagere, por supuesto, pero hay un sentido en el cual nuestros peores temores ya se han realizado. Vivimos en una era en la que las computadoras ya son mejores que los humanos en el ajedrez, e incluso en el juego peligran. Los autos sin conductor son más seguros que los que manejan los operadores humanos. Los aviones ahora son en su mayoría impulsados por programas de computadora y la disposición de los aviones en el cielo mientras esperan las pistas es una maravilla de la tecnología digital.
Las computadoras leen algunos escáneres médicos mejor que los médicos y son incluso mejores para probar hipótesis científicas que la mayoría de los científicos. Las computadoras todavía son inestables al jugar deportes tridimensionales como el fútbol, pero están mejorando rápidamente, gracias en parte al desarrollo de extremidades protésicas inteligentes.
Más cerca de casa, Google sabe lo que quiero buscar antes de terminar de escribir mi solicitud. Bots registra mis movimientos en internet y me sigue a varios sitios sugiriendo productos para que compre. Algunos patrullan internet buscando gangas adaptadas a mis necesidades.
La tecnología ya es mucho más inteligente que cualquiera de nosotros. Si debemos preocuparnos es en gran medida una cuestión de si los robots están bien dispuestos hacia los seres humanos, y si esa relación es estable. Este problema es bien captado por la relación entre Jeeves, el mayordomo, y Bertie Wooster, el empleador, en las novelas de PG Wodehouse.
Confiando en Jeeves
Bertie Wooster siempre podía confiar en Jeeves y su relación era ciertamente predecible y estable como el sistema de clases británico en el que se basaba. Incluso si Jeeves era más inteligente que Wooster y mejor para obtener información relevante del medio ambiente, Wooster no tuvo que preocuparse por la usurpación de su puesto.
Tener un mayordomo inteligente era una ventaja, así como lo sería tener un jardinero musculoso, pero no era una amenaza porque Wooster confiaba en que Jeeves usaría su inteligencia para el beneficio del maestro. Wooster no se preocupó más por el hecho de que Jeeves subvierte el orden social que por el hecho de que el jardinero entrara por las ventanas francesas para tumbarlo con el golpe de una pala al costado de la cabeza. No hay revoluciones campesinas en Wodehouse.
No existe un sistema rígido de clases para mantener a los robots bajo control, aunque Isaac Asimov sugirió que los robots siempre deben programarse de manera que aseguren que sus esfuerzos se dirijan al bien de la humanidad. Eso puede ser complicado, particularmente en un mundo futuro donde los robots se están diseñando.
Hawking reconoce que las tecnologías futuras pueden ayudarnos a erradicar problemas humanos de guerra, enfermedad y pobreza de larga data. Sin embargo, él es cauteloso de posibles problemas:
"Uno puede imaginar que tal tecnología es más astuta que los mercados financieros, inventando investigadores humanos y desarrollando armas que ni siquiera podemos entender", se queja Hawking.
En una era de comercio de alta velocidad, podría argumentarse que uno de estos obstáculos ya se aprobó y la inteligencia artificial ya es muy buena para hacer ciencia. Y quién realmente entiende lo que está sucediendo en las fronteras del desarrollo de nuevas armas.
Sin embargo, la pregunta más básica acerca de la IA no es si es potencialmente peligrosa, sino si es confiable.
Por qué deberíamos preocuparnos realmente
Muchas distopías de ciencia ficción conciben que los robots se levantan y arrebatan el control a los líderes humanos. Eso es probablemente lo último de lo que tenemos que preocuparnos a menos que los robots estén controlados por una inteligencia humana maliciosa.
Hay muchas razones por las que la inteligencia artificial puede ser amenazante, pero pondría los accidentes muy por encima de la malicia. A algunos futuristas les preocupa que las pequeñas entidades autorreplicantes puedan envolver al mundo causando el colapso ecológico, un apocalipsis nanotecnológico conocido como la "hipótesis del goo gris".
No es difícil imaginar cómo los virus informáticos podrían infectar a muchos sistemas de control, de modo que los mercados financieros se congelaron, la red eléctrica se volvió negra y los aviones chocaron en el aire sobre los aeropuertos mientras los autos que conducían chocaron contra las paredes. ¡Ni siquiera piense en un robot que realiza una cirugía cardíaca cuando su software se ve comprometido!
