Según un informe de , Meta planea transferir la tarea de evaluar los posibles daños de sus productos lejos de los revisores humanos, confiando más en la inteligencia artificial para acelerar el proceso. Documentos internos vistos por la publicación señalan que Meta tiene como objetivo que hasta el 90 por ciento de las evaluaciones de riesgos recaigan en la inteligencia artificial, informa NPR, y está considerando utilizar revisiones de IA incluso en áreas como el riesgo juvenil e «integridad», que abarca contenido violento, desinformación y más. Empleados actuales y anteriores de Meta que hablaron con NPR advirtieron que la IA podría pasar por alto riesgos graves que un equipo humano habría podido identificar.
Las actualizaciones y nuevas características de las plataformas de Meta, incluyendo Instagram y WhatsApp, han sido sometidas durante mucho tiempo a revisiones humanas antes de ser lanzadas al público, pero Meta ha intensificado el uso de la IA en los últimos dos meses. Ahora, según NPR, los equipos de producto tienen que completar un cuestionario sobre su producto y enviarlo para su revisión por el sistema de IA, que generalmente proporciona una «decisión instantánea» que incluye las áreas de riesgo identificadas. Luego tendrán que abordar los requisitos que haya establecido para resolver los problemas antes de que el producto pueda ser lanzado.
Un ex ejecutivo de Meta le dijo a NPR que reducir el escrutinio «significa que estás creando riesgos más altos. Es menos probable que las externalidades negativas de los cambios en el producto se prevengan antes de que comiencen a causar problemas en el mundo.» En un comunicado a NPR, Meta dijo que todavía recurrirá a la «experiencia humana» para evaluar «cuestiones novedosas y complejas», y dejará las «decisiones de bajo riesgo» a la IA. Lee el informe completo en .
Esto ocurre unos días después de que Meta publicara su — la primera desde y a principios de este año. La cantidad de contenido eliminado ha disminuido de manera predecible a raíz de los cambios, según el informe. Pero hubo un pequeño aumento en el acoso y la intimidación, así como en contenido violento y gráfico.