Facebook prohíbe los "deepfakes" que puedan engañar a los usuarios

Tras tener un papel destacado en la victoria de Donald Trump en las elecciones estadounidenses de 2016, Facebook ha anunciado un movimiento con el que espera salvaguardar, al menos, en parte, la integridad de los comicios de este año: prohibirá los vídeos manipulados que puedan engañar a los usuarios.

Monika Bickert, vicepresidenta de gestión de política global de la compañía, explicó la medida en un comunicado en el que asegura que se eliminarán todos los vídeos que hayan sido editados "de formas que no sean evidentes para la persona media" y que "probablemente vayan a confundir a alguien para hacerle pensar que el protagonista de un vídeo dijo palabras que en realidad no pronunció".

Serán borrados los vídeos que sean "producto de la inteligencia artificial o machine learning que fusione, reemplace o superponga contenido en un vídeo para hacer que parezca auténtico". En ambos casos, la política excluirá el contenido que sea considerado parodia o sátira, así como los vídeos que hayan sido editados para omitir o cambiar el orden de las palabras.

En cualquier caso, los vídeos que no sean eliminados podrán ser revisados por los verificadores de contenido de la red social. Cuando uno de ellos -o una foto- sea considerado falso o parcialmente falso, se reducirá el alcance de su distribución en los tablones de los usuarios y aparecerán alertas que informará de su falsedad a quienes lo vean, lo compartan o ya lo hayan compartido.

"Esta aproximación es crítica para nuestra estrategia", aseguró Bickert. Además, explicó que tras consultar con expertos decidieron que es mejor una aproximación pedagógica en la que se informa y se enseña a los usuarios en lugar de simplemente eliminar el contenido que no cumple con su normativa. "Al mantener [el contenido] y marcarlo como falso proporcionamos a la gente información y contexto importantes".

En el caso de que se trate de un anuncio, será rechazado. Esto supone un pequeño cambio respecto a la política de la compañía, que anteriormente se negó a verificar los anuncios electorales, lo que causó una pequeña guerra interna dentro de Facebook.