En respuesta a crecientes preocupaciones sobre el impacto de la pornografía deepfake en línea, la junta de supervisión de Meta ha anunciado una evaluación exhaustiva del manejo de este tipo de contenido por parte de la compañía.
La junta de supervisión reveló este martes que examinará cómo Meta ha abordado dos casos específicos de imágenes generadas por inteligencia artificial que han sido utilizadas de manera inapropiada en la plataforma. Estos casos involucran representaciones gráficas de figuras públicas femeninas, una de Estados Unidos y otra de la India, con el propósito de determinar si las políticas y prácticas de la empresa son adecuadas para abordar esta problemática.
La copresidenta de la junta de supervisión de Meta, Helle Thorning-Schmidt, destacó la creciente amenaza que representa la pornografía deepfake, describiéndola como una causa creciente de acoso en línea hacia las mujeres. Thorning-Schmidt subrayó la importancia de asegurar que Meta aplique consistentemente sus políticas de moderación de contenido en todo el mundo.
La junta de supervisión, conocida como «una especie de Corte Suprema de Meta», se compone de expertos en libertad de expresión y derechos humanos, quienes tienen la responsabilidad de revisar y hacer recomendaciones sobre las decisiones de contenido en las plataformas de la empresa.
En uno de los casos bajo revisión, se identificó una imagen generada por IA que fue compartida en Instagram, mientras que en el otro caso, se trata de una imagen publicada en un grupo de Facebook de creaciones de IA. Ambas imágenes violaron las reglas de intimidación y acoso de Meta.
Como parte de este proceso de revisión, la junta de supervisión está buscando comentarios públicos sobre la pornografía deepfake y cómo Meta ha respondido a este tipo de contenido. El periodo para enviar comentarios finaliza el 30 de abril.