Meta toma acción legal contra una empresa que publicita en sus plataformas aplicaciones conocidas como «nudify», que utilizan inteligencia artificial (IA) para generar imágenes falsas desnudas de personas sin su consentimiento. La compañía demandó a la firma responsable de las apps CrushAI para impedir que continúe publicando estos anuncios, después de varios meses intentando eliminarlos mediante otras vías.
La gravedad del problema y el compromiso de Meta
Meta ha declarado: «Esta acción legal subraya la gravedad con la que tomamos este abuso y nuestro compromiso para proteger a nuestra comunidad». Según Alexios Mantzarlis, autor del blog Faked Up, se han detectado al menos 10,000 anuncios promocionando apps de nudificación en Facebook e Instagram, plataformas pertenecientes a Meta.
A pesar de la demanda, Mantzarlis advirtió que la lucha continúa. «Mientras Meta hacía el anuncio, pude encontrar una docena de anuncios de CrushAI activos y más de cien de otras aplicaciones ‘nudificadoras'». Este vector de abuso requiere una vigilancia constante tanto de investigadores como de los medios para mantener a las plataformas responsables y limitar el alcance de estas herramientas nocivas.
El impacto emocional y la necesidad de regulación
El auge de la inteligencia artificial generativa ha impulsado la proliferación de las apps «nudify». En abril, la Comisión de Niños de Inglaterra instó al gobierno a legislar para prohibirlas por completo. La creación o posesión de contenido sexual generado por IA que involucre a menores es ilegal.
Matthew Sowemimo, responsable de política para la seguridad infantil en línea en NSPCC, destacó que los depredadores están utilizando estas apps para crear imágenes ilegales de niños. «El impacto emocional puede ser devastador, dejando a muchos niños sintiéndose impotentes y vulnerados en su identidad».
Medidas para proteger a los usuarios
Meta también ha intensificado la colaboración con otras empresas tecnológicas, compartiendo más de 3,800 URL únicas relacionadas con estas apps desde finales de marzo. La empresa reconoce que algunas compañías evaden sus normas creando nuevos dominios para reemplazar los bloqueados.
Para combatir esto, Meta ha desarrollado tecnologías capaces de identificar anuncios problemáticos incluso cuando no contienen desnudos explícitos. Los «nudify» apps ejemplifican el uso problemático de la IA para crear contenido dañino en redes sociales, junto con otros riesgos como los deepfakes, que pueden suplantar la identidad de celebridades para engañar al público.
En junio, el Consejo de Supervisión de Meta criticó la decisión de mantener un video manipulado con IA que mostraba al futbolista Ronaldo Nazário. Además, Meta requiere que los anunciantes políticos declaren el uso de IA, dada la preocupación sobre la influencia de los deepfakes en procesos electorales.
Te puede interesar:
Generación eléctrica será reforzada con planta Gasvesubio pese a limitaciones
Fuente:
https://www.bbc.com/
