Cuando un fabricante de joyas para niños comenzó a anunciarse en Instagram, promocionó fotos de una niña de 5 años con un amuleto brillante entre los usuarios interesados en la paternidad, los niños, el ballet y otros temas identificados por Meta como atractivos principalmente para las mujeres.
Pero cuando el comerciante obtuvo los resultados automatizados de su campaña publicitaria de Instagram, sucedió lo contrario: los anuncios se dirigieron casi en su totalidad a hombres adultos.
Perplejo y preocupado, el comerciante se puso en contacto con The New York Occasions, que en los últimos años ha publicado múltiples artículos sobre el abuso infantil en las plataformas de redes sociales. En febrero, The Occasions investigó las cuentas de Instagram administradas por padres para sus hijas pequeñas y el oscuro inframundo de los hombres que tienen interacciones sexualizadas con esas cuentas.
Con las fotografías de los anuncios de joyería en la mano, The Occasions se propuso comprender por qué atraían a una audiencia no deseada. Los anuncios de prueba publicados por The Occasions usando las mismas fotos sin texto no sólo replicaron la experiencia del comerciante: llamaron la atención de delincuentes sexuales convictos y otros hombres cuyas cuentas indicaban un interés sexual en niños o que escribían mensajes sexuales.
El Occasions abrió dos cuentas de Instagram y promocionó publicaciones que mostraban a la niña de 5 años, con el rostro alejado de la cámara, vistiendo una camiseta sin mangas y el amuleto. Publicaciones separadas mostraban la ropa y las joyas sin la modelo infantil o con una caja negra ocultándola. Todos los anuncios pagos fueron promocionados entre personas interesadas en temas como la infancia, el baile y las porristas, que las herramientas de audiencia de Meta estimaron que eran predominantemente mujeres.
Además de llegar a una proporción sorprendentemente grande de hombres, los anuncios obtuvieron respuestas directas de docenas de usuarios de Instagram, incluidas llamadas telefónicas de dos delincuentes sexuales acusados, ofertas de pagar al niño por actos sexuales y profesiones amorosas.
Los resultados sugieren que los algoritmos de la plataforma desempeñan un papel importante a la hora de dirigir a los hombres a fotografías de niños. Y se hacen eco de las preocupaciones sobre la prevalencia de hombres que usan Instagram para seguir y contactar a menores, incluidos aquellos que han sido arrestados por usar las redes sociales para solicitar sexo con niños.
El miércoles, el fiscal normal de Nuevo México, Raúl Torrez, anunció el arresto de tres hombres que fueron atrapados en una operación encubierta tratando de concertar relaciones sexuales con niñas menores de edad en Fb. Llamándola “Operación MetaPhile”, el Sr. Torrez dijo que los algoritmos de Meta habían desempeñado un papel clave al dirigir a estos hombres a los perfiles “señuelo” creados por las fuerzas del orden.
“Podríamos crear una nueva cuenta encubierta, presentada como un niño menor de edad en esa plataforma, y probablemente en cuestión de minutos, si no días, ese niño sería inundado con materials sexualmente explícito”, dijo, enfatizando la verdadera -Daño mundial que pueden causar las plataformas en línea.
La investigación realizada por The Occasions en febrero encontró que miles de cuentas de Instagram administradas por padres atraían comentarios y mensajes sexualizados de hombres adultos. Mientras que algunos padres describieron la atención como una forma de aumentar los seguidores de sus hijas, otros se quejaron de pasar horas bloqueando a los usuarios y dijeron que no entendían cómo los hombres habían encontrado las cuentas.
Un análisis de los usuarios que interactuaron con los anuncios publicados por The Occasions encontró una superposición entre esos dos mundos. Alrededor de tres docenas de hombres siguieron cuentas de niños influyentes dirigidas por padres y previamente estudiadas por The Occasions; uno siguió a 140. Además, casi 100 de los hombres seguían cuentas que presentaban o anunciaban pornografía para adultos, lo cual está prohibido según las reglas de Instagram.
Dani Lever, portavoz de Meta, descartó las pruebas de anuncios del Occasions como una “experiencia fabricada” que no tuvo en cuenta “los muchos factores que contribuyen a determinar quién ve un anuncio en última instancia”, y sugirió que dibujar period “defectuoso y poco sólido”. conclusiones a partir de datos limitados.
Cuando se le preguntó sobre los arrestos en Nuevo México, Meta dijo en un comunicado que “la explotación infantil es un crimen horrible y hemos pasado años desarrollando tecnología para combatirlo”. La empresa describió sus esfuerzos como “una lucha continua” contra “delincuentes decididos”.
‘Los hombres se involucran’
Los investigadores y ex empleados que trabajaron con algoritmos en Meta, propietaria de Instagram y Fb, dijeron que las herramientas de clasificación de imágenes probablemente merecían alguna culpa.
Las herramientas comparan imágenes nuevas con las existentes en la plataforma e identifican a los usuarios que previamente mostraron interés en ellas, dijo Dean Eckles, ex científico de datos de Fb que estudió sus algoritmos y ahora es profesor en el Instituto de Tecnología de Massachusetts.
Las cuentas de prueba creadas el año pasado por The Wall Avenue Journal descubrieron que el algoritmo de recomendación de Instagram ofrecía fotos sexualizadas de niños y adultos a cuentas que seguían sólo a jóvenes gimnastas, porristas y otros niños.
Aunque el sistema de publicidad de Meta no es exactamente el mismo que el sistema de recomendación, existen “enormes similitudes entre los modelos”, dijo el Dr. Eckles.
Ex empleados de Meta familiarizados con sus sistemas de recomendación y distribución de anuncios dijeron que los equipos de seguridad intentaron detectar anuncios dañinos, como los que promocionan estafas o drogas ilegales, pero fue más difícil identificar anuncios benignos que se entregaban a audiencias inapropiadas (y potencialmente dañinas).
Meta permite a los anunciantes dirigirse a ciertas audiencias por tema, y aunque The Occasions eligió temas que la compañía estimó estaban dominados por mujeres, los anuncios se mostraron, en promedio, a hombres alrededor del 80 por ciento del tiempo, según un análisis del Occasions de la audiencia de Instagram. datos. En un grupo de pruebas, las fotografías que mostraban al niño fueron tomadas por hombres el 95 por ciento de las veces, en promedio, mientras que las fotos de los artículos solos fueron tomadas por hombres el 64 por ciento de las veces.
Piotr Sapiezynski, científico investigador de la Universidad Northeastern que se especializa en probar algoritmos en línea, dijo que los anunciantes competían entre sí para llegar a las mujeres porque dominan el gasto de los consumidores estadounidenses. Como resultado, dijo el Dr. Sapiezynski, el algoritmo probablemente se centró en hombres muy interesados y más fáciles de alcanzar que habían interactuado con contenido related.
“Los hombres participan”, dijo. “La máquina hace exactamente lo que usted quiere que haga”.
Meta, en un comunicado, reconoció el entorno publicitario competitivo para las espectadoras y dijo que la “baja calidad” de los anuncios del Occasions (de cuentas nuevas, con imágenes pero sin texto ni explicación) contribuyó a que se entregaran a más hombres. Además, dijo Meta, sus datos de Viewers Insights sólo “muestran una estimación de quién es potencialmente elegible para ver un anuncio”, no una audiencia garantizada.
El Dr. Sapiezynski dijo que incluso si el sistema designó los anuncios de prueba como de “baja calidad”, eso no explicaba por qué los que presentaban niños iban dirigidos a más hombres que los que no tenían hijos.
‘Hola bebé’
Unas horas después de que se publicara el primer anuncio, una de las cuentas de prueba del Occasions recibió un mensaje y una llamada telefónica de un hombre arrestado en 2015 en Oklahoma después de supuestamente usar Fb para intentar concertar sexo grupal con niñas de 12 y 14 años.
“Hola nena”, escribió otro hombre. Había sido arrestado en 2020 después de contactar a una niña de 14 años en el norte del estado de Nueva York a través de Snapchat y ofrecerle ligar para tener sexo. Los cargos contra él fueron desestimados después de que un tribunal lo declarara mentalmente incompetente.
Un tercer hombre, en Tennessee, al que le dio “me gusta” en una de las fotos tenía cuatro condenas por delitos sexuales contra niños, incluido “sexo con un niño” en 1999, y compartió una foto en Fb en 2018 de un niño de 3 a 5 años. “ser penetrada anal o vaginalmente” y usar Instagram en 2020 para solicitar fotos desnuda de una niña de 12 años a la que llamó su “esclava sexual”. (Las reglas de Instagram prohíben a los niños de 12 años).
Un cuarto hombre, a quien The Occasions no pudo identificar, se ofreció a pagar por actos sexuales con la niña de la fotografía.
El Occasions se acercó a través del chat de Instagram a cualquiera que hubiera interactuado con los anuncios y les explicó que eran pruebas del algoritmo de la plataforma realizadas por periodistas. El hombre en Nueva York continuó enviando mensajes preguntando por la niña, preguntándole si estaba en su habitación y si quería tener relaciones sexuales. También intentó llamarla varias veces a través de la aplicación.
En whole, The Occasions identificó a cuatro delincuentes sexuales condenados que habían enviado mensajes a las cuentas, les habían dado me gusta a las fotos o habían dejado comentarios sobre ellas. Sus cuentas de Instagram usaban nombres e imágenes reales, o estaban vinculadas a cuentas de Fb que lo hacían. Las condenas se encontraron comparando esa información con bases de datos de delincuentes sexuales y otros registros públicos.
Otros cinco hombres, incluido uno que publicó un vídeo en Instagram de una niña que se sabe que es víctima de abuso sexual infantil, según el Centro Canadiense para la Protección Infantil, tienen antecedentes de arresto relacionados con delitos contra niños. Aquellos hombres cuyos expedientes judiciales The Occasions pudo revisar se declararon culpables de un cargo menor o fueron considerados mentalmente no aptos para ser juzgados.
Las reglas de Instagram prohíben que los delincuentes sexuales condenados tengan cuentas, y The Occasions utilizó la herramienta de Meta para denunciar a los hombres. Las cuentas permanecieron en línea durante aproximadamente una semana hasta que The Occasions se las comunicó a un portavoz de la empresa.
Cuando se le preguntó sobre las cuentas, la Sra. Lever dijo: “Prohibimos a los delincuentes sexuales condenados tener presencia en nuestras plataformas y hemos eliminado las cuentas que se nos informan”.
Uno de los hombres, que fue condenado en Nueva York por agredir sexualmente a una niña de 4 años, está sujeto a una ley estatal, conocida como E-Cease, que exige que los delincuentes sexuales registren su dirección de correo electrónico. Cada semana, el estado comparte las direcciones con empresas de tecnología, incluida Meta.
La Sra. Lever no habló de cómo la empresa utiliza esta información ni de cómo el hombre pudo crear una cuenta de Instagram.
Algunos de los hombres dijeron que respondieron al anuncio preocupados.
Un hombre, que está en libertad condicional después de pasar 46 años en prisión en California por asesinar a su esposa, dijo que le sorprendió encontrarse con una niña de cinco años en su feed, que muestra predominantemente fotos de adultos desnudos o con poca ropa.
“No tengo ningún problema en mirar mujeres desnudas, especialmente después de 46 años en prisión”, escribió. Pero, continuó, “mi actitud hacia las personas que practican pornografía infantil o tocan a un niño es bastante easy: no lo hagan”.
El compromiso de los hombres con los anuncios no sorprendió a algunos propietarios de pequeñas empresas entrevistados por The Occasions. Morgan Koontz, fundador de Bella & Omi, una empresa de ropa infantil en Virginia Occidental que se promociona en las redes sociales, dijo que la compañía recibió “comentarios pervertidos inapropiados, casi de tipo pedófilo” de hombres cuando comenzaron a anunciarse en Fb en 2021.
“Hizo que nuestros modelos se sintieran incómodos y nos hizo sentir incómodos a nosotros”, dijo.
Cuando la empresa se expandió a Instagram, ella y su compañera propietaria, Erica Barrios, decidieron evitar el problema dirigiéndose únicamente a las mujeres, a pesar de que padres y abuelos se encuentran entre sus clientes habituales.
Lindsey Rowse, propietaria del Tightspot Dancewear Heart en Pensilvania, también restringe sus anuncios a mujeres. Cuando no excluyó a los hombres, dijo, ellos constituían hasta el 75 por ciento de su audiencia y pocos compraban sus productos. Por otra parte, limita la frecuencia con la que comparte fotos de modelos infantiles en sus publicaciones no publicitarias porque suelen atraer a los hombres, dijo.
“No sé cómo la gente lo encuentra”, dijo. “Me encantaría bloquear a todos los chicos”.
Otros propietarios de empresas expresaron una confusión related sobre cómo se distribuían sus anuncios. Desde enero, la empresa de ropa infantil Younger Days, con sede en Utah, ha visto más que duplicarse la proporción de hombres a los que llegan sus anuncios sin cambios importantes en sus criterios de orientación, según Brian Bergman, quien supervisa el comercio electrónico. El cambio hacia los hombres ha perjudicado las ventas, dijo, y desde entonces la empresa se ha centrado en llegar a las mujeres.
“No es un negocio lucrativo para nosotros, pero el algoritmo sigue empujándonos hacia los hombres”, afirmó.
Carson Kessler contribuyó con informes, y julia tate contribuyó con la investigación.
