Deepfake es un término que, tal vez, no te sea muy familiar. Es un termino nuevo relacionado con las nuevas tecnologías y la inteligencia artificial.
Los videos adulterados mediante inteligencia artificial para cambiar las cualidades físicas de sus protagonistas por otras personas, se conocen como deepfakes, y actualmente son una de las amenazas digitales que van consiguiendo más fuerza con el tiempo, siendo Facebook una de las redes sociales más afectadas. Por ello, la empresa ha informado que ha intensificado sus políticas con la finalidad de hacerle frente al contenido manipulado, decidiendo eliminarlo. La medida se implementará no solo en la red social sino también en Instagram y Messenger.
Videos famosos que Facebook no considera deepfakes
En 2019 Facebook obtuvo muchas críticas por su negativa de quitar un video adulterado de Nancy Pelosi, Presidenta de la Cámara de Representantes de Estados Unidos, donde tuvo más de 3.000.000 de visualizaciones.
Los especialistas en el tema determinaron que, a pesar que el video fue editado de manera tosca, no cumplía con los requisitos para ser considerado deepfake, incluso en ese entonces cuando se le preguntó a la empresa sobre el video, confirmó que no infringía ninguna de sus políticas.
Además de Facebook, Twitter fue otra red social en el que el video de Pelosi fue un boom, y resultó siendo afectada por el problema generado por dicho material. De hecho, en noviembre de 2019 Twitter empezó a crear su propia política para combatir el deepfake, y le pidió a los usuarios opiniones acerca de las futuras normas para la empresa. Sin embargo, esta red social aún no ha establecido ninguna medida en concreto sobre el contenido alterado.
Otro video falso que dio mucho de qué hablar el año pasado fue uno donde aparecía Mark Zuckerberg alardeando haber dominado el mundo. Este video tampoco fue desechado por Facebook, e igualmente la empresa indicó que no incumplía sus políticas.
¿Qué implica esta medida de Facebook contra las deepfake?
Monika Bickert, vicepresidenta de gestión de políticas globales de Facebook, anunció que la empresa será más rigurosa en cuanto al contenido adulterado en los medios de ahora en adelante, advirtiendo que el contenido será eliminado siempre que sea “producto de inteligencia artificial o de aprendizaje automático que superpone o reemplaza contenido en un vídeo, haciéndolo parecer auténtico”.
El comunicado básicamente consiste en que a través del refuerzo de las políticas de Facebook se podrá identificar y eliminar los videos que hayan sido alterados o editados con inteligencia artificial para cambiar el contenido del mismo y así engañar a los usuarios.
Cabe destacar que la medida no solo abarca los videos sino que también comprende cualquier tipo de contenido adulterado que permita creer que el mismo es verídico. Por lo tanto, además de los videos manipulados, se eliminarán las fotos adulteradas. Esta prohibición se logrará mediante la investigación de cualquier contenido creado con herramientas de Inteligencia Artificial y cuentas falsas. Aunado a esto, la empresa tendrá como colaboradores a diferentes instituciones, gobiernos y empresas para así poder dar con los autores del contenido alterado.
¿Qué contenido no entra en la medida?
Bickert confirmó que la medida no afectará a las ediciones de calidad o cortes y empalmes en videos que den como resultado la disminución o el cambio de orden de las palabras. La medida de prohibición tampoco afectará el contenido satírico y de comedia.
No obstante, la empresa también anunció que aunque los videos que no cumpliesen con las condiciones establecidas para ser borrado, cabría la posibilidad de que fuesen examinados por verificadores externos. Y si fuesen catalogados como falsos, se identificarán como tal para los usuarios que pretendan verlos o difundirlos. Sobre esto, Bickert reseñó:
“Si simplemente eliminamos como falsos todos los videos manipulados identificados por los verificadores, los videos seguirían estando disponibles en internet o en el ecosistema de medios sociales”.
A su vez, agregó que “al mantenerlos y etiquetarlos como falsos, proporcionamos a la gente información y contexto importantes”.
Con este anuncio, Facebook ha demostrado su gran interés por identificar los deepfakes, puesto que, desde septiembre de 2019, ha estado trabajando en esta problemática mediante su programa Deep Fake Detection Challenge, el cual ha resultado bastante positivo tras lograr unir a personas de diferentes países que tienen el mismo fin: buscar contenidos adulterados. Asimismo, su enlace con la gencia de noticias Reuters, en el que ha invertido más de un millón de dólares para la creación de un curso gratuito de entrenamiento dirigido a periodistas para que puedan detectar noticias falsas.
