Por el Instituto de Investigación en Neurociencia del Wexner Medical Center de la Universidad Estatal de Ohio y el Centro Stanley D. and Joan H. Ross para la salud y el rendimiento del cerebro
Una nueva investigación en el cerebro está impulsando avances en campos tan diversos como el cuidado de la salud y la informática. Al mismo tiempo, estos avances pueden conducir a dilemas éticos en las próximas décadas o, en algunos casos, mucho antes. Neuroethics fue el tema de una mesa redonda en la reciente Cumbre de Salud y Rendimiento Cerebral, presentada por el Instituto de Investigación de Neurociencia del Centro Médico Wexner de la Universidad Estatal de Ohio y el Centro Stanley D. y Joan H. Ross para la Salud y el Desempeño Cerebral.
John Banja, Ph.D., profesor en el Departamento de Medicina de Rehabilitación y especialista en ética médica en el Centro de Ética de la Universidad de Emory, explicó cómo los conocimientos de la neurociencia podrían hacer posible el desarrollo de programas informáticos hiperinteligentes. Simultáneamente, nuestra comprensión más profunda del cerebro expone las deficiencias inherentes incluso de la inteligencia artificial (IA) más avanzada.
“¿Cómo programaremos una computadora para tener el tipo de experiencias de aprendizaje y conocimiento de navegación que la gente tiene en la vida, en sí misma?”, Preguntó Banja. Él cuestionó si alguna vez sería posible crear (AI) que sea capaz de la imaginación a nivel humano o el razonamiento moral. De hecho, ¿alguna vez sería posible para un programa de computadora reproducir los procesos que el cerebro humano aplica a situaciones complejas ?, preguntó Banja. A modo de ejemplo, planteó un dilema ético a la audiencia: ¿un hospital debería respetar el deseo de una esposa de preservar el esperma de su marido fallecido, incluso si el marido nunca consentía tal procedimiento? Alzando la mano, la pregunta dividió a la audiencia llena de científicos y personal médico. Banja dudaba si se podía confiar en una computadora para resolver problemas que dividen incluso a los seres humanos más calificados. “¿Cómo vamos a programar una computadora para que piense así?”, Dijo Banja, refiriéndose al proceso de analizar su hipotético. “Son buenos para el reconocimiento de imágenes, pero no son muy buenos para atar un cordón”.
Las deficiencias morales de AI plantean una serie de posibilidades preocupantes, especialmente dado que la tecnología necesaria para crear computadoras de alto rendimiento pronto será una realidad. “La súper inteligencia artificial podría ser el último invento que los humanos hagan”, advirtió Banja. Las computadoras hiperinteligentes podrían comenzar a ver la vida humana como una amenaza y luego adquirir los medios para exterminarla, sin que los sentimientos humanos de duda o remordimiento los controlen.
Según Eran Klein, MD, Ph.D., neurólogo y especialista en ética de la Universidad de Salud y Ciencia de Oregón y del Centro de Ingeniería Neuromotora Sensorimotriz de la Universidad de Washington, hay cuestiones mucho menos abstractas que ahora enfrentan los neurocientíficos y otros profesionales de la salud cerebral. Él cree que el apocalipsis de la IA sigue siendo un escenario lejano, el peor de los casos. Pero los pacientes ya están recibiendo terapias no farmacéuticas que pueden alterar su estado de ánimo y su visión, como los implantes cerebrales destinados a combatir la depresión. Los tratamientos potencialmente podrían cambiar la vida, así como ser más seguros y más efectivos que los medicamentos tradicionales. Sin embargo, también podrían sesgar el sentido de identidad de un paciente. “Los pacientes sentían que estos dispositivos les permitían ser más auténticos”, explicó Klein. “Les permitió ser la persona que siempre quisieron ser o no se dieron cuenta de que podrían ser”.
Aún así, los tratamientos habían distorsionado la concepción de algunos de los pacientes sobre su propio yo, haciéndolos inseguros de los límites entre los implantes cerebrales y su propia voluntad. “Hubo preocupaciones sobre la agencia”, dijo Klein. “Los pacientes no están seguros de si lo que sienten es por sí mismos o por el dispositivo”. Por ejemplo, Klein describió a un paciente que asistía a un funeral y no podía llorar. “No sabía si era porque el dispositivo estaba funcionando o porque no amaba a esta persona tanto como creía”, explicó Klein. A medida que la tecnología mejora, Klein anticipa que los pacientes y los médicos deberán equilibrar los beneficios de ciertas técnicas con su posible efecto en el sentido de sí mismos.
No es ahí donde terminarán las grandes preguntas. Para James Giordano, Ph.D., Jefe del Programa de Estudios de Neuroética del Centro Pellegrino de Bioética Clínica en el Centro Médico de la Universidad de Georgetown, la neurociencia podría cambiar la forma en que la sociedad aborda cuestiones cruciales de la naturaleza humana, algo que podría tener implicaciones importantes para la ley. privacidad y otras áreas que no parecen tener una conexión directa con la salud del cerebro. Giordano predijo que podría surgir un nuevo campo de “neuro-ley”, con científicos y académicos legales ayudando a determinar el estado apropiado de la neurociencia en el sistema legal.
¿Cuándo, por ejemplo, debe la comprensión neurológica del comportamiento humano ser un argumento admisible para la inocencia de un acusado? La neurociencia permite una comprensión detallada de cómo funcionan los cerebros individuales, lo que crea una gran cantidad de información que el campo médico podría abusar. “¿Están las ciencias del cerebro preparadas para protegernos o de alguna manera se está impugnando nuestra privacidad?”, Preguntó Giordano. Haciéndose eco de Klein, Giordano se preguntó si la ciencia del cerebro podría hacer peligrosamente fácil dar forma a la personalidad y el sentido de sí mismo de una persona, potencialmente en contra de la voluntad de un paciente o de una comprensión de las implicaciones de una terapia dada. “¿Podemos ‘abolir’ el dolor, la tristeza, el sufrimiento y expandir la capacidad cognitiva emocional o moral?”, Preguntó Giordano. La neurociencia podría crear nuevas líneas de base de la normalidad médica o conductual, cambiando así nuestra idea de lo que es y lo que no es aceptable. “¿Qué será la nueva cultura cuando usemos la neurociencia para definir qué es normal y anormal, quién es funcional y disfuncional?”
Giordano advirtió que con la tecnología mejorando rápidamente, la necesidad de respuestas será cada vez más urgente. “Verificación de la realidad”, dijo Giordano, “esto está por venir”.
