A medida que las plataformas de Meta se llenan de más contenido generado por inteligencia artificial, la compañía aún tiene mucho trabajo por hacer en lo que respecta a hacer cumplir sus políticas sobre medios manipulados. La Junta de Supervisión está criticando una vez más a la compañía de redes sociales por su manejo de dichas publicaciones, escribiendo en su última decisión que su incapacidad para hacer cumplir sus reglas de manera consistente es «incoherente e injustificable».
Si esto suena familiar, es porque desde el año pasado la Junta de Supervisión ha utilizado la palabra «incoherente» para describir el enfoque de Meta hacia los medios manipulados. La junta había instado previamente a Meta a actualizar sus reglas después de que un video editado de manera engañosa de Joe Biden se volviera viral en Facebook. En respuesta, Meta dijo que su uso de etiquetas para identificar contenido generado por IA y que aplicaría etiquetas más prominentes en situaciones de «alto riesgo». Estas etiquetas, como la que se muestra a continuación, indican cuándo una publicación fue creada o editada usando IA.
Este enfoque todavía no está a la altura, según dijo la junta. «La Junta está preocupada de que, a pesar de la creciente prevalencia de contenido manipulado en diferentes formatos, la aplicación por parte de Meta de su política de medios manipulados sea inconsistente», dijo en su última decisión. «La incapacidad de Meta para aplicar automáticamente una etiqueta a todas las instancias de los mismos medios manipulados es incoherente e injustificable».
La declaración se produjo en una decisión relacionada con una publicación que presentaba audio de dos políticos en Kurdistán iraquí. La supuesta «conversación grabada» incluía una discusión sobre el amañamiento de una próxima elección y otros «planes siniestros» para la región. La publicación fue reportada a Meta por desinformación, pero la compañía cerró el caso «sin revisión humana», dijo la junta. Meta luego etiquetó algunas instancias del clip de audio pero no la originalmente reportada.
Según la junta, este caso no es un caso aislado. Aparentemente, Meta le dijo a la junta que no puede identificar y aplicar etiquetas automáticamente a publicaciones de audio y video, solo a «imágenes estáticas». Esto significa que múltiples instancias del mismo clip de audio o video pueden no recibir el mismo tratamiento, lo que la junta señala podría causar más confusión. La Junta de Supervisión también criticó a Meta por confiar con frecuencia en terceros para identificar videos y audios manipulados por IA, como hizo en este caso.
«Dado que Meta es una de las principales compañías de tecnología e IA en el mundo, con sus recursos y el amplio uso de las plataformas de Meta, la Junta reitera que Meta debería priorizar la inversión en tecnología para identificar y etiquetar videos y audios manipulados a escala», escribió la junta. «No está claro para la Junta por qué una empresa con esta experiencia técnica y recursos externaliza la identificación de medios probablemente manipulados en situaciones de alto riesgo a medios de comunicación o Socios de Confianza».
En sus recomendaciones a Meta, la junta dijo que la compañía debería adoptar un «proceso claro» para etiquetar de manera consistente «contenido idéntico o similar» en situaciones en las que agrega una etiqueta de «alto riesgo» a una publicación. La junta también recomendó que estas etiquetas deberían aparecer en un idioma que coincida con el resto de su configuración en Facebook, Instagram y Threads.
Meta no respondió a una solicitud de comentario. La compañía tiene 60 días para responder a las recomendaciones de la junta.
FUENTE
