Meta está demandando a un fabricante de aplicaciones chino que utiliza inteligencia fabricado para tomar imágenes de personas vestidas y convertirlas en desnudos.
“Crushai”, la compañía detrás de la aplicación solía hacer los desnudos de Deepfake, es operada por Joy Timeline HK Limited. Meta presentó una demanda contra la compañía en Hong Kong para prohibirlo anunciar sus servicios en las plataformas Meta, informa CBS News.
“Esta energía permitido subraya tanto la seriedad con la que tomamos este exceso y nuestro compromiso de hacer todo lo posible para proteger a nuestra comunidad de ella”, dijo Meta en un comunicado. “Continuaremos tomando las medidas necesarias, que podrían incluir acciones legales, contra aquellos que abusan de nuestras plataformas como esta”.
Según la demanda, Joy Timeline hizo “múltiples intentos” para tratar de sortear el proceso de revisión de anuncios de Meta.
La aplicación de Joy Timeline no es la primera aplicación de su tipo y las aplicaciones anteriores que prometen hacer fotos vestidas en desnudos han conseguido evitar los filtros de anuncios en las principales plataformas de redes sociales, incluido Meta, para traicionar su software.
Esta ilustración fotográfica creada el 18 de julio de 2023, en Washington, DC, muestra un anuncio para crear chicas de IA reflejada en un anuncio de servicio divulgado emitido por el FBI con respecto a la manipulación maliciosa de imágenes y videos (AFP a través de Getty Images)
La compañía dijo que las aplicaciones de “Nudify” han ideado varias formas de esquivar más allá del filtro de anuncios, incluso mediante el uso de imágenes inofensivas para tratar de fugarse bajo el radar.
“Hemos trabajado con expertos externos y nuestros propios equipos especializados para expandir la relación de términos, frases y emojis relacionados con la seguridad que nuestros sistemas están capacitados para detectar con estos anuncios”, dijo Meta en un comunicado.
Alexios Mantzarlis, autor del blog Faked Up, dijo a la BBC que había habido “al menos 10,000 anuncios” que promocionan aplicaciones Nudify en las plataformas de Facebook e Instagram de Meta.
“Como raso [Meta] Estaba haciendo este anuncio, pude encontrar una docena de anuncios de Crushai Live en la plataforma y cien más de otros ‘nudificadores’ “, dijo a la emisora.” Este vector de exceso requiere un monitoreo continuo de los investigadores y los medios de comunicación para surtir las plataformas responsables y aminorar el difusión de estas herramientas nocivas “.
La amenaza del software es que cualquiera podría tomar una foto y, sin el consentimiento del sujeto fotográfico, convertirlo en un desnudo desleal.
Meta dijo que prohíbe las “imágenes íntimas no consensuadas” en sus plataformas, y anteriormente le dijo a CBS News que elimina cualquier anuncio en sus plataformas para aplicaciones “Nudify”.
El jueves, Meta dijo que funcionaría con el software Lantern de la Coalición Tecnológica, destinada a rastrear sitios que rompen las reglas de seguridad de niño, para compartir información con otras compañías tecnológicas sobre aplicaciones, sitios o compañías que violan sus políticas.