El reconocimiento facial es uno de los temas más debatidos cuando se habla de límites éticos para la IA (inteligencia artificial). La tecnología permite identificar personas mediante imágenes electrónicas (fotos y videos).
¿Sabes cuándo Facebook sugiere etiquetar a un amigo en una foto? Sería eso a gran escala y con la posibilidad de aplicación para vigilancia.
Con solo una foto de la cara, puede identificar un objetivo específico usando cámaras. La funcionalidad comienza a aparecer en diferentes productos: teléfonos celulares, automóviles, puertas de casa y neveras, entre otros.
"¿Realmente necesitamos reconocimiento facial en tiendas, bancos, en todas partes? No, probablemente no. Quizás lo necesitemos en lugares más sensibles, como en el aeropuerto o cerca de una instalación nuclear ", dice el italiano Luciano Floridi, profesor de la Universidad de Oxford.
El problema plantea problemas de privacidad. Es posible identificar individuos en una multitud utilizando imágenes de cámaras de seguridad. Por lo tanto, es factible, por ejemplo, enumerar quiénes fueron las personas que participaron en una manifestación.
Para ensamblar los sistemas de reconocimiento, se necesitan millones de fotos para enseñar a la computadora qué es una cara. Hay quienes eliminan contenido de las redes sociales sin el consentimiento de las personas.
Clearview, la compañía estadounidense que proporciona esta tecnología a la policía está siendo demandada por extraer miles de millones de imágenes de Internet sin permiso.
Esta aplicación, por otro lado, se puede combinar con la seguridad pública. Por ejemplo, puede encontrar fugitivos y luchar contra el tráfico sexual de niños.
La herramienta Spotlight, según la ONG estadounidense Thorn, la creadora de la tecnología, ayuda a identificar un promedio de ocho niños desaparecidos al día en anuncios de prostitución en Internet.
Aunque ha evolucionado lo suficiente como para ser más preciso de media que los seres humanos, un estudio realizado por el gobierno estadounidense señala que el reconocimiento facial tiene dificultades para identificar a negros y asiáticos.
Se consideraron 189 algoritmos de 99 desarrolladores en dos procesos de reconocimiento facial diferentes.
En el primero, el foco estaba en si una persona de una foto era igual en otra imagen. Los errores fueron de 10 a 100 veces superiores (dependiendo del algoritmo) entre asiáticos y negros en comparación con los blancos.
En el segundo, a partir de una foto, el objetivo era identificar quién era el individuo. En este caso, los errores (pretendiendo ser una persona, pero siendo otra) fueron más frecuentes entre las mujeres negras. Cuando se utiliza esta tecnología para identificar delincuentes, por ejemplo, puede resultar que una persona inocente acabe siendo acusada.
La inconsistencia ocurre porque los grupos de fotos utilizados por los investigadores para entrenar a los algoritmos, un proceso en el que el sistema se alimenta con millones de imágenes, están formados principalmente por personas blancas.
Traducido por AZAHARA MARTÍN ORTEGA