/ viernes 19 de agosto de 2022

El reconocimiento facial también discrimina

Con frecuencia los dispositivos de reconocimiento facial se utilizan para vigilar a las personas de color, más que a las blancas. Irónicamente, esta tecnología es más precisa con los tonos de piel claros que con los oscuros

Una tarde en nuestro laboratorio, mi colega y yo estábamos probando nuestro nuevo prototipo de software de reconocimiento facial en una computadora portátil. El software usó una cámara de video para escanear nuestros rostros y adivinar nuestra edad y sexo.

El dispositivo adivinó correctamente mi edad, pero cuando mi colega, que es de África, lo probó, la cámara no detectó ningún rostro. Intentamos encender las luces de la habitación, ajustamos los asientos y el fondo, pero el sistema aún tenía problemas para detectar su rostro.

Te puede interesar: San Francisco, primera ciudad en prohibir el reconocimiento facial

Después de varios intentos fallidos el software finalmente detectó su rostro, pero se equivocó de edad y proporcionó el género incorrecto.

Nuestro software era sólo un prototipo, pero la dificultad para trabajar con tonos de piel más oscuros refleja las experiencias de las personas de color que intentan usar la tecnología de reconocimiento facial.

En los últimos años, los investigadores han demostrado la injusticia de los sistemas de reconocimiento facial y descubierto que el software y los algoritmos desarrollados por las grandes empresas tecnológicas son más precisos para reconocer los tonos de piel más claros que los más oscuros.

Sin embargo, The Guardian informó recientemente que el Ministerio del Interior del Reino Unido planea hacer que los inmigrantes condenados por delitos penales escaneen sus rostros cinco veces al día utilizando un reloj inteligente equipado con tecnología de reconocimiento facial.

Un portavoz del Ministerio del Interior dijo que la tecnología de reconocimiento facial no se usaría con los solicitantes de asilo que llegan ilegalmente al Reino Unido, y que el informe sobre su uso en delincuentes inmigrantes era “puramente especulativo”.

La Inteligencia Artificial carece de sentido común / Cortesía | EFE

Hay muchos matices en este tema, aunque debemos preguntarnos: ¿Qué derechos se ven frenados por una violación de la privacidad, en qué medida, y quién juzga si una violación de la privacidad está en equilibrio con la gravedad de un delito penal?

En el caso de los delincuentes a los que les toman fotografías de sus rostros varias veces al día, podríamos argumentar que la violación de la privacidad es de interés para la seguridad nacional de la mayoría de las personas, si el delito es grave. El gobierno tiene derecho a tomar tal decisión ya que es responsable de la seguridad de sus ciudadanos. Sin embargo, para delitos menores, el reconocimiento facial puede ser una medida demasiado fuerte.

En su plan, el Ministerio del Interior no ha diferenciado entre infractores leves y graves; ni ha proporcionado evidencia convincente de que el reconocimiento facial mejore el cumplimiento de las leyes de inmigración por parte de las personas.

En todo el mundo es más probable que el reconocimiento facial se utilice para vigilar a las personas de color al monitorear sus movimientos con más frecuencia que los de las personas blancas. y esto sucede a pesar del hecho de que los sistemas de reconocimiento facial son más precisos con los tonos de piel más claros que con los más oscuros.

Las fallas en el reconocimiento facial también podrían crear problemas de seguridad nacional para el gobierno. Por ejemplo, podría identificar erróneamente la cara de una persona como otra. La tecnología de reconocimiento facial no está lista para algo tan importante como la seguridad nacional.

➡️ Suscríbete a nuestro Newsletter y recibe las notas más relevantes en tu correo

Como sociedad, debemos esforzarnos por mantener la dignidad y la privacidad de las personas, excepto en los casos más graves. Más importante aún, debemos asegurarnos de que la tecnología no tenga el potencial de discriminar a un grupo de personas en función de su origen étnico. La ley y el reglamento deben aplicarse por igual a todas las personas.

El portavoz del Ministerio del Interior agregó: “El público espera que controlemos a los delincuentes extranjeros condenados... Los delincuentes extranjeros no deben tener ninguna duda de nuestra determinación de deportarlos, y el gobierno está haciendo todo lo posible para aumentar la cantidad de delincuentes extranjeros que están siendo deportados”.

* Investigadora Doctoral, Universidad de Northumbria, Newcastle.

Lee también otros contenidos de Normal ⬇️

Una tarde en nuestro laboratorio, mi colega y yo estábamos probando nuestro nuevo prototipo de software de reconocimiento facial en una computadora portátil. El software usó una cámara de video para escanear nuestros rostros y adivinar nuestra edad y sexo.

El dispositivo adivinó correctamente mi edad, pero cuando mi colega, que es de África, lo probó, la cámara no detectó ningún rostro. Intentamos encender las luces de la habitación, ajustamos los asientos y el fondo, pero el sistema aún tenía problemas para detectar su rostro.

Te puede interesar: San Francisco, primera ciudad en prohibir el reconocimiento facial

Después de varios intentos fallidos el software finalmente detectó su rostro, pero se equivocó de edad y proporcionó el género incorrecto.

Nuestro software era sólo un prototipo, pero la dificultad para trabajar con tonos de piel más oscuros refleja las experiencias de las personas de color que intentan usar la tecnología de reconocimiento facial.

En los últimos años, los investigadores han demostrado la injusticia de los sistemas de reconocimiento facial y descubierto que el software y los algoritmos desarrollados por las grandes empresas tecnológicas son más precisos para reconocer los tonos de piel más claros que los más oscuros.

Sin embargo, The Guardian informó recientemente que el Ministerio del Interior del Reino Unido planea hacer que los inmigrantes condenados por delitos penales escaneen sus rostros cinco veces al día utilizando un reloj inteligente equipado con tecnología de reconocimiento facial.

Un portavoz del Ministerio del Interior dijo que la tecnología de reconocimiento facial no se usaría con los solicitantes de asilo que llegan ilegalmente al Reino Unido, y que el informe sobre su uso en delincuentes inmigrantes era “puramente especulativo”.

La Inteligencia Artificial carece de sentido común / Cortesía | EFE

Hay muchos matices en este tema, aunque debemos preguntarnos: ¿Qué derechos se ven frenados por una violación de la privacidad, en qué medida, y quién juzga si una violación de la privacidad está en equilibrio con la gravedad de un delito penal?

En el caso de los delincuentes a los que les toman fotografías de sus rostros varias veces al día, podríamos argumentar que la violación de la privacidad es de interés para la seguridad nacional de la mayoría de las personas, si el delito es grave. El gobierno tiene derecho a tomar tal decisión ya que es responsable de la seguridad de sus ciudadanos. Sin embargo, para delitos menores, el reconocimiento facial puede ser una medida demasiado fuerte.

En su plan, el Ministerio del Interior no ha diferenciado entre infractores leves y graves; ni ha proporcionado evidencia convincente de que el reconocimiento facial mejore el cumplimiento de las leyes de inmigración por parte de las personas.

En todo el mundo es más probable que el reconocimiento facial se utilice para vigilar a las personas de color al monitorear sus movimientos con más frecuencia que los de las personas blancas. y esto sucede a pesar del hecho de que los sistemas de reconocimiento facial son más precisos con los tonos de piel más claros que con los más oscuros.

Las fallas en el reconocimiento facial también podrían crear problemas de seguridad nacional para el gobierno. Por ejemplo, podría identificar erróneamente la cara de una persona como otra. La tecnología de reconocimiento facial no está lista para algo tan importante como la seguridad nacional.

➡️ Suscríbete a nuestro Newsletter y recibe las notas más relevantes en tu correo

Como sociedad, debemos esforzarnos por mantener la dignidad y la privacidad de las personas, excepto en los casos más graves. Más importante aún, debemos asegurarnos de que la tecnología no tenga el potencial de discriminar a un grupo de personas en función de su origen étnico. La ley y el reglamento deben aplicarse por igual a todas las personas.

El portavoz del Ministerio del Interior agregó: “El público espera que controlemos a los delincuentes extranjeros condenados... Los delincuentes extranjeros no deben tener ninguna duda de nuestra determinación de deportarlos, y el gobierno está haciendo todo lo posible para aumentar la cantidad de delincuentes extranjeros que están siendo deportados”.

* Investigadora Doctoral, Universidad de Northumbria, Newcastle.

Lee también otros contenidos de Normal ⬇️

Sociedad

Tercera onda de calor provoca en 19 de 32 estados temperaturas superiores a 45 grados

Este domingo se prevén temperaturas máximas superiores a 45 grados Celsius en Campeche, Chiapas, Chihuahua, Coahuila, Guerrero, Hidalgo, Jalisco, entre otros

CDMX

Mantienen contingencia ambiental el domingo 26 de mayo

El Valle de México está otra vez bajo contingencia ambiental, la número 11 en lo que va el año, con lo que supera el récord que se tenía con 10 desde 2016

Elecciones 2024

Episcopado Mexicano llama al voto "consciente y razonado" y revisar promesas falsas y reales

La Conferencia del Episcopado Mexicano (CEM) invitó a los ciudadanos a no tener miedo de salir a votar y no dejarse coaccionar por nadie

Mundo

Netanyahu niega la posibilidad de detener la guerra contra Gaza en las negociaciones

Netanyahu se opuso a la petición del líder de Hamas, Yahya Sinwar, que exige el fin de la guerra y la retirada de las Fuerzas de Defensa de Israel (IDF) de la Franja de Gaza

Elecciones 2024

Escala violencia política a una semana de los comicios

Asesinan a dos en Chiapas y Guerrero, otros son agredidos en Oaxaca, Edomex y Guanajuato

Sociedad

Dejan restos humanos frente al Mercado Central de Acapulco

Los restos humanos fueron trasladados a las instalaciones del Servicio Médico Forense (Semefo) de Acapulco