/ martes 12 de mayo de 2020

Facebook entrena inteligencia artificial para detectar "memes de odio"

La red social líder explicó que ya creó una base de datos de 10 mil memes como parte de la intensificación de sus acciones contra los discursos de odio

Facebook dio a conocer una iniciativa el martes para hacer frente a los "memes de odio" usando inteligencia artificial respaldada por la colaboración externa (crowdsourcing) para identificar ese tipo de publicaciones.

La red social líder explicó que ya creó una base de datos de 10 mil memes (imágenes a veces con texto para transmitir un mensaje específico que se presume humorístico) como parte de la intensificación de sus acciones contra los discursos de odio.

Facebook dijo que está dando acceso a investigadores a esa base de datos como parte de un "desafío de memes de odio" para desarrollar algoritmos mejorados que permitan detectar mensajes visuales con contenido odioso, con un premio de 100 mil dólares.

"Estos esfuerzos estimularán a la comunidad de investigadores de IA [inteligencia artificial] en general a probar nuevos métodos, comparar su trabajo y cotejar sus resultados para acelerar el trabajo en la detección del discurso de odio multimodal", dijo Facebook en una publicación de blog.

La red se está apoyando fuertemente en la inteligencia artificial para filtrar contenido cuestionable durante la pandemia de coronavirus, que ha reducido su capacidad de moderación humana como resultado de los confinamientos.

El informe de transparencia trimestral de la compañía detalla que Facebook eliminó unos 9.6 millones de publicaciones por violar las políticas de "discurso de odio" en los primeros tres meses de este año, incluyendo 4.7 millones de contenidos "vinculados al odio organizado".

Guy Rosen, vicepresidente de integridad de Facebook, dijo que con inteligencia artificial "podemos encontrar más contenido y ahora podemos detectar casi el 90% del contenido que eliminamos antes de que alguien nos lo informe".

Facebook se comprometió hace un año a "interrumpir" la conducta de odio organizada tras los letales ataques en una mezquita de Nueva Zelanda, que provocaron un "llamado a la acción" por parte de los gobiernos para frenar la propagación del extremismo en línea.

Los sistemas automatizados y la inteligencia artificial pueden ser útiles, dijo Facebook, para detectar contenido extremista en varios idiomas y analizar texto incrustado en imágenes y videos para comprender su contexto completo.

Mike Schroepfer, director de tecnología de Facebook, dijo a los periodistas en una conferencia telefónica que una de las técnicas que ayudaron a este esfuerzo fue un sistema para identificar imágenes "casi idénticas", con el que es posible vigilar la publicación de imágenes y videos maliciosos con pequeños cambios para evadir la detección.

"Esta tecnología puede detectar coincidencias casi perfectas", dijo Schroepfer.

Heather Woods, profesora de la Universidad del Estado de Kansas que estudia memes y contenido extremista, elogió la iniciativa de Facebook y la inclusión de investigadores externos.

"Los memes son claramente complejos, no solo porque son multimodales, al incorporar imágenes y texto, como señala Facebook, sino porque son contextuales", dijo Woods.

"Me imagino que los matices y la especificidad contextual de los memes seguirán siendo un desafío para Facebook y otras plataformas que buscan eliminar el discurso de odio", añadió.

Facebook dio a conocer una iniciativa el martes para hacer frente a los "memes de odio" usando inteligencia artificial respaldada por la colaboración externa (crowdsourcing) para identificar ese tipo de publicaciones.

La red social líder explicó que ya creó una base de datos de 10 mil memes (imágenes a veces con texto para transmitir un mensaje específico que se presume humorístico) como parte de la intensificación de sus acciones contra los discursos de odio.

Facebook dijo que está dando acceso a investigadores a esa base de datos como parte de un "desafío de memes de odio" para desarrollar algoritmos mejorados que permitan detectar mensajes visuales con contenido odioso, con un premio de 100 mil dólares.

"Estos esfuerzos estimularán a la comunidad de investigadores de IA [inteligencia artificial] en general a probar nuevos métodos, comparar su trabajo y cotejar sus resultados para acelerar el trabajo en la detección del discurso de odio multimodal", dijo Facebook en una publicación de blog.

La red se está apoyando fuertemente en la inteligencia artificial para filtrar contenido cuestionable durante la pandemia de coronavirus, que ha reducido su capacidad de moderación humana como resultado de los confinamientos.

El informe de transparencia trimestral de la compañía detalla que Facebook eliminó unos 9.6 millones de publicaciones por violar las políticas de "discurso de odio" en los primeros tres meses de este año, incluyendo 4.7 millones de contenidos "vinculados al odio organizado".

Guy Rosen, vicepresidente de integridad de Facebook, dijo que con inteligencia artificial "podemos encontrar más contenido y ahora podemos detectar casi el 90% del contenido que eliminamos antes de que alguien nos lo informe".

Facebook se comprometió hace un año a "interrumpir" la conducta de odio organizada tras los letales ataques en una mezquita de Nueva Zelanda, que provocaron un "llamado a la acción" por parte de los gobiernos para frenar la propagación del extremismo en línea.

Los sistemas automatizados y la inteligencia artificial pueden ser útiles, dijo Facebook, para detectar contenido extremista en varios idiomas y analizar texto incrustado en imágenes y videos para comprender su contexto completo.

Mike Schroepfer, director de tecnología de Facebook, dijo a los periodistas en una conferencia telefónica que una de las técnicas que ayudaron a este esfuerzo fue un sistema para identificar imágenes "casi idénticas", con el que es posible vigilar la publicación de imágenes y videos maliciosos con pequeños cambios para evadir la detección.

"Esta tecnología puede detectar coincidencias casi perfectas", dijo Schroepfer.

Heather Woods, profesora de la Universidad del Estado de Kansas que estudia memes y contenido extremista, elogió la iniciativa de Facebook y la inclusión de investigadores externos.

"Los memes son claramente complejos, no solo porque son multimodales, al incorporar imágenes y texto, como señala Facebook, sino porque son contextuales", dijo Woods.

"Me imagino que los matices y la especificidad contextual de los memes seguirán siendo un desafío para Facebook y otras plataformas que buscan eliminar el discurso de odio", añadió.

Mundo

"Asumo la responsabilidad", Johnson lamenta 100 mil muertes por Covid en Reino Unido

Cabizbajo y descompuesto, el primer ministro dijo que se ha hecho todo lo posible por frenar los contagios

Justicia

Termina audiencia del exgobernador de Chihuahua sin fallo sobre extradición

La juez en Miami dará a conocer el fallo en cuestión de dos a tres días

Política

Aeroméxico cumple protocolo de cuarentena con tripulación que voló con AMLO

La tarde del domingo, el jefe del Ejecutivo Federal dio a conocer en su cuenta de Twitter que había contraído la enfermedad y que presentaba síntomas leves

Política

"Iniciamos trabajos para implementar la mejor relación": Ebrard conversa con Antony Blinken

A través de su cuenta de Twitter, el responsable de guiar la política exterior calificó la conversación como productiva y cordial

Deportes

Vanessa Bryant dedica emotivo mensaje a Kobe y Gigi a un año de su muerte

Vanessa también compartió con sus seguidores una carta que le fue enviada por una de las mejores amigas de su hija

Sociedad

Cofepris advierte sobre equipos "patito" de oxígeno para atender Covid-19

La comisión consideró es importante tomar medidas que garanticen el uso eficiente de dispositivos y no poner en riesgo la salud de pacientes

Mundo

"Asumo la responsabilidad", Boris Johnson lamenta las 100 mil muertes por Covid en Reino Unido

Cabizbajo y descompuesto, el primer ministro dijo que se ha hecho todo lo posible por frenar los contagios

Sociedad

Concentradores de oxígeno: ¿Cuál ayuda a tratar a pacientes Covid?

Yuliana Miranda, terapeuta cardiopulmonar, despeja para los lectores de El Sol de México las dudas más comunes sobre los concentradores

Turismo

Cinco motivos para practicar snorkel

Aprovecha que México tiene el segundo arrecife de coral más grande del mundo