A diferencia de un ser humano, una tecnología no tiene la capacidad de tomar decisiones por sí sola. Por mucho que parezca funcionar solo, el equipo autónomo necesita ser previamente programado para actuar y, para eso, todavía se deben tomar una serie de decisiones al desarrollar productos.
Esta elección de cómo reaccionará una máquina frente a los desafíos es uno de los principales temas de debate de la IA (inteligencia artificial). Y los expertos sostienen que cuando las cosas se ponen feas, es mejor que le devuelvas el control a un humano.
"Un riesgo obvio [de IA] es el exceso de confianza en estos sistemas", dice Konstantinos Karachalios, director general de IEEE-SA (organización para criación de normas técnicas de Instituto de Ingenieros Eléctricos y Electrónicos). "Siempre debemos mantener el ojo crítico y poder eliminar los mecanismos de IA de control cuando sea necesario".
Karachalios cita un ejemplo de la Guerra Fría (1947-1991) para mostrar lo importante que puede ser para un humano tomar las riendas y no dejar todo en "manos" de las máquinas.
En 1983, el oficial soviético Stanislav Petrov (1939-2017) decidió ignorar las alarmas de un sistema que identificaba, vía satélite, misiles nucleares disparados por los estadounidenses. La detección era errónea. La actitud de Petrov impidió que sus superiores iniciaran ataques de represalia y, con ello, una posible guerra nuclear.
Hoy en día, uno de los principales dilemas sobre los sistemas que funcionan de forma autónoma está en los coches sin conductor, que ya circulan, en periodo de prueba, en algunas ciudades.
"Estás viajando en una pista de sentido único por una montaña, en un vehículo autónomo que se acerca rápidamente a un túnel estrecho. Justo antes de entrar en el túnel, un niño intenta cruzar la calle, pero tropieza en medio del camino, bloqueando la entrada. El automóvil tiene dos opciones: atropellar y matar al niño, o girar hacia un lado del túnel, matándote. ¿Cómo debe reaccionar el coche?
El ejemplo fue creado por Jason Millar, investigador de la Universidad de Ottawa, Canadá, y publicado en el sitio web de Robohub.
En este caso, las dos soluciones necesariamente resultan en un mal. Moralmente, no hay una opción correcta.
En cualquier caso, los vehículos autónomos deben programarse para actuar en estas situaciones. ¿Quién debe tomar las decisiones: ?el diseñador de automóviles, el usuario, los legisladores?
Para Millar, el campo médico, que se ocupa de la toma de decisiones de vida o muerte todo el tiempo, puede ayudar a obtener la respuesta. "Por lo general, se deja decidir a la persona que sufrirá las implicaciones morales directas qué opción es la mejor [por ejemplo, hacer un tratamiento agresivo o no]". En este caso, es el conductor.
"Un conductor mayor puede preferir sacrificarse. Incluso puede ser que un defensor de animales prefiera chocar con el muro si en lugar de un ser humano fuese un ciervo lo que se cruzase en el camino. O puede ser que la mayoría de nosotros elija no estrellar el auto", escribe. "En esta elección reside nuestra autonomía personal".
Incluso en casos menos extremos, las máquinas pueden ser un problema. ¿Qué pasa si las cosas se salen de control? Para permanecer en el ejemplo del vehículo autónomo: en un accidente de tráfico, ¿es culpa del fabricante o del conductor?
Según el filósofo Luciano Floridi, de Oxford, en estas situaciones, es necesario repartir la responsabilidad entre todos los agentes, a menos que demuestren que no tienen la culpa del accidente.
Si la persona está en un coche autónomo que no permite conducir, es como ser el pasajero de un tren, compara. En caso de accidente, no hay forma de responsabilizarlo. Si existe la posibilidad de tomar el control, se puede compartir la responsabilidad.
Traducido por AZAHARA MARTÍN ORTEGA