Saltar al contenido
Blog Tecnología

Facebook prueba nuevas herramientas para bloquear contenido que muestre abuso sexual infantil

febrero 28, 2021

Facebook sigue preocupando a las organizaciones de bienestar infantil por el contenido dañino que se propaga en su plataforma. Y esta preocupación está realmente bien fundada, según la información que nos ha informado recientemente. Correo en línea.

Solo en 2019, el Centro Nacional para Niños Desaparecidos y Explotados (NCMEC), una organización privada sin fines de lucro que se ocupa de niños desaparecidos y explotados, informó que Facebook ha difundido más contenido que muestra abuso sexual infantil. Todas las demás plataformas digitales y el 99% de informes de contenido abusivo originados en la plataforma.

Créditos de Pixabay

Una situación que estuvo lejos de mejorar durante el fatídico año 2020, según las propias cifras de la compañía.

13 millones de imágenes de abuso sexual infantil difundidas en Facebook en dos meses

Quizás en aras de la transparencia, o como mea culpa, Facebook dijo que está trabajando con NCMEC para comprender cómo y por qué el contenido de abuso sexual infantil se está extendiendo ampliamente en su plataforma principal y en Instagram. Para ello, el propio gigante de las redes sociales ha realizado un análisis de contenidos relacionados con la explotación ilegal de menores en 2020 y las cifras son impactantes por decir lo mínimo.

De hecho, Facebook dijo que detectó al menos 13 millones de imágenes correspondientes a esta búsqueda solo durante el período de julio a septiembre de 2020. Eso es un salto gigantesco del 31%, comenta el NCMEC.

La mayoría de los autores de estas acciones no son maliciosos, según Facebook.

La directora global de seguridad de Facebook, Antigone Davis, dijo en un comunicado el martes 23 de febrero que “ más del 90% de este contenido era idéntico o visualmente similar al contenido informado anteriormente. Y las copias de solo seis videos fueron responsables de más de la mitad del contenido de explotación infantil que informamos durante ese período de tiempo. ».

Al parecer 150 cuentas se encargaron de compartir este tipo de contenido, pero Facebook afirma que el 75% de los autores de estas acciones lo hicieron por indignación o mal humor y, por tanto, no tenían pensamientos maliciosos. Pero una vez hecha esta observación, Facebook propone remediarla configurando tres herramientas.

Facebook está probando tres herramientas para luchar contra la difusión de este contenido abusivo

Estas herramientas aún se encuentran en la fase experimental, pero su objetivo sería reducir la búsqueda y el intercambio de contenido relacionado con la explotación de niños en la plataforma digital, pero también en Instagram. Concretamente, la primera herramienta abriría una ventana emergente tan pronto como haya una investigación sobre la explotación de niños en Facebook e Instagram.

Como explica Davis, la ventana emergente ofrecerá ayuda al investigador que se pondrá en contacto con organizaciones de desvío de delincuentes y compartirá información sobre las consecuencias de ver contenido ilegal.

La segunda herramienta informará a los usuarios de los efectos nocivos de compartir contenido sobre la explotación de menores y les advertirá que esto viola las políticas de Facebook y que se arriesgan a emprender acciones legales en caso de compartir estos contenidos. La tercera herramienta es indicar al usuario que elimine el contenido o lo clasifique y lo informe al NCMEC.

Lea también: En Facebook, un chatbot para lidiar con el porno vengativo

Facebook se volverá intratable con los usuarios que promueven este tipo de contenido

Además, Facebook también ha actualizado sus políticas de seguridad infantil y ahora se compromete a eliminar todos los perfiles, páginas, grupos de Facebook y cuentas de Instagram que promuevan y compartan ese contenido abusivo “. imágenes de niños inocentes con leyendas, hashtags o comentarios que contengan muestras de afecto inapropiadas en las imágenes de los niños representados ».

El gerente de seguridad de Facebook subraya así que “ usar nuestras aplicaciones para dañar a los niños es atroz e inaceptable. Nuestros esfuerzos de vanguardia para combatir la explotación infantil se enfocan en prevenir el abuso, detectar y reportar contenido que viola nuestras políticas y trabajar con expertos y autoridades para mantener a los niños seguros. ».

Espero que funcione.