Ben Shneiderman escribió el ensayo que publico a continuación; Yo soy el segundo autor. Este ensayo refleja una serie de conversaciones que Ben y yo hemos estado disfrutando durante el año pasado.
Ben es Profesor Distinguido de la Universidad de Maryland en Ciencias de la Computación y miembro de la Academia Nacional de Ingeniería de los Estados Unidos. Su libro más reciente es The New ABCs of Research: Achieving Breakthrough Collaborations. Póngase en contacto con él en [email protected].
Gary Klein
_______________________
El capitán Sullenberger (Sully) es justamente célebre por su increíble habilidad como piloto experto. Cuando un pájaro apaga ambos motores, logró aterrizar su avión de manera segura en el río Hudson. La notable actuación de Sullenberger se debió a su larga experiencia como piloto, evaluación rápida de las posibilidades y manejo hábil de los controles.
Todos los días, enfermeras expertas, bomberos y padres también resuelven problemas reales que salvan vidas y brindan consuelo a aquellos a quienes sirven. De manera similar, los doctores, maestros y plomeros usan su experiencia para ayudar a otros de manera significativa. Estos expertos actúan en situaciones difíciles, en las cuales la información puede ser incorrecta e incompleta, y en la que la orientación existente puede ser inadecuada. Aún así, continúan combinando su experiencia en una gran cantidad de situaciones con lo que saben sobre el problema actual, reconociendo patrones familiares e identificando anomalías con la suficiente rapidez para tomar decisiones y tomar medidas. Los expertos también cometen errores, a veces graves, pero el estudio cuidadoso de estos errores puede refinar las prácticas existentes, mejorar la capacitación o las listas de verificación, y conducir a mejores herramientas.
Los expertos son expertos en el uso de herramientas sofisticadas, como sonogramas fetales 3D o sistemas de control de tráfico aéreo, que aumentan su comprensión de lo que está sucediendo y preservan su control. Estas herramientas pueden tener altos niveles de automatización, siempre y cuando los usuarios expertos puedan comprender, predecir y controlar las acciones de las herramientas. Y para que eso suceda, los diseñadores deben tener en cuenta que sus tecnologías y prácticas están destinadas a apoyar y fortalecer a usuarios expertos y expertos; de lo contrario, la automatización que introducen corre el riesgo de interferir con la experiencia y, de hecho, degradar el rendimiento, como ha sucedido en algunos diseños de aviones y dispositivos médicos.
Desafortunadamente, muchos diseñadores parecen ajenos a las habilidades y necesidades de los expertos que utilizarán sus creaciones. Nuestro propósito en este ensayo es ofrecer algunas pautas para construir herramientas y ayudas automáticas que mejoren la toma de decisiones de expertos en lugar de degradarlas.
Los programadores expertos que crearon y luego mejoraron la función Traducir de Google merecen reconocimiento por sus contribuciones. Ellos entendieron claramente que:
"La inteligencia artificial no se trata de construir una mente; se trata de la mejora de las herramientas para resolver problemas ".
Aunque tenían claro que estaban construyendo herramientas, muchos periodistas etiquetaron erróneamente su trabajo como otra demostración de que los humanos podrían ser reemplazados. A partir de las historias de "gigantes cerebros electrónicos" de 1947, estos informes engañosos sobre el papel de la tecnología han socavado la confianza en los expertos humanos. Incluso el informe reciente de Inteligencia Artificial-100 de Stanford afirmó que:
"La diferencia entre una calculadora aritmética y un cerebro humano no es de tipo, sino de escala, velocidad, grado de autonomía y generalidad".
No estamos de acuerdo con esta declaración central. El pensamiento humano no es cálculo o cálculo de cuentas. La creatividad humana es diferente de lo que producen las redes neuronales y los algoritmos genéticos. Incluso los expertos en inteligencia artificial rechazan la idea de que los documentos de sus conferencias sean revisados por programas de aprendizaje automático. Irónicamente, estos expertos humanos que se dedican a crear máquinas "inteligentes" e "inteligentes" saben que los expertos humanos aprecian mejor los descubrimientos y las innovaciones.
Creemos que los expertos destacan al menos tres rasgos humanos admirables:
1) Pensamiento de frontera: los humanos son capaces de lidiar con las fronteras del conocimiento, donde la información incompleta e incorrecta causa confusión y donde el establecimiento de metas es una habilidad clave. Incluso en estos entornos desafiantes, los expertos pueden formular y resolver problemas para crear algo nuevo. Los expertos humanos a menudo hacen avances asombrosos, abriendo nuevos caminos hacia destinos de investigación sorprendentes. Hacen más que optimizar el rendimiento o reconocer patrones estadísticos: crean productos y servicios totalmente nuevos, distinguen categorías distintivas y ven nuevos tipos de relaciones. La habilidad en las fronteras del conocimiento y la capacidad para superar la frontera es lo que los humanos siempre han demostrado. Producen inventos patentables inesperados, participan en debates para promover causas convincentes y forman empresas para ofrecer productos y servicios revolucionarios.
2) Compromiso social: los seres humanos son inherentemente sociales, una habilidad que utilizan para aprender, construir confianza, ayudar a los demás y pedir favores. El discurso humano es diferente de preguntarle a Siri o Google o Alexa por información. Los intercambios humanos informan a cada participante, aclaran los problemas y crean acuerdos. La colaboración humana ha sido clave para sus asombrosos éxitos a lo largo de la existencia de nuestra especie, desde las complejas colaboraciones en torno a la caza, la búsqueda de alimento y la construcción de comunidades hasta los equipos modernos que dirigen empresas y desarrollan Wikipedia. El liderazgo humano para inspirar la participación requiere una combinación de habilidades que manejan grandes compañías, transforman ciudades y dan forma a los gobiernos nacionales. Este liderazgo también puede ser malicioso, corrupto y guerrero, pero ese es el lado oscuro de ser humano. El lado positivo de la experiencia humana muestra respeto significativo, busca un compromiso genuino y fomenta la confianza. Los humanos son muy hábiles para construir y usar puntos en común para permitir una comunicación eficiente, y luego darse cuenta de cuándo un terreno común se ha erosionado y necesita ser reparado.
3) Responsabilidad por sus acciones: los seres humanos son partes responsables que merecen honores cuando traen beneficios y que deben rendir cuentas cuando sus decisiones causan daños. Los informes honestos y la investigación confiable de los errores promueven mejoras que brindan mayores protecciones. Actuaciones excepcionales, como las de Sullenberger, avanzan en la comprensión, mejoran el entrenamiento y empujan a los expertos para que se desempeñen a niveles de logros cada vez más altos. La responsabilidad aclara el diseño del producto, ya que alienta a los diseñadores a darles a los usuarios el control y a proporcionar a los investigadores datos suficientes para comprender lo que sucedió. Aceptamos la responsabilidad, lo que permite que otros confíen en nosotros. También participamos en otras actividades de construcción de confianza: tratamos de ser predecibles; advertimos a los demás cuando nuestro comportamiento puede sorprenderlos, tomamos medidas innecesarias para ayudar a otros, y así sucesivamente.
A medida que los diseñadores reconozcan estos rasgos humanos, sus diseños mejorarán, lo que les permitirá tener tecnologías más seguras, efectivas y exitosas. Cuanto antes los periodistas comprendan que la excelencia en el diseño de la tecnología emerge cuando estos rasgos humanos son respaldados en lugar de suplantados, antes sus obras celebrarán la forma en que los sistemas avanzados pueden mejorar las notables habilidades humanas.
Vemos un futuro en el que la apreciación de los expertos humanos crece, incluso cuando los diseñadores crean herramientas más poderosas. Lo mejor de estas herramientas aumentará el rendimiento de los expertos humanos utilizando más de sus capacidades creativas. Y para que eso suceda, los diseñadores deberán encontrar formas de permitirnos a todos nosotros, no solo a los expertos, comprender, predecir y controlar las acciones de nuestras herramientas.
