La proliferación de deepfakes se ha convertido en una preocupación compartida a nivel mundial. Estos videos e imágenes falsificadas son cada vez más comunes y realistas gracias a las herramientas de inteligencia artificial generativa, lo que permite crear contenido fraudulento que suplanta a personas reales de manera rápida, económica y sencilla. Aunque algunos se comparten como bromas, los deepfakes también son utilizados por estafadores en fraudes y extorsiones para acosar, humillar y maltratar a sus víctimas.
Varios países han implementado legislaciones para combatir este problema. En Estados Unidos, la ley TAKE IT DOWN Act penaliza la distribución de imágenes íntimas no consensuadas y obliga a las plataformas en línea a proporcionar mecanismos de denuncia claros, eliminando las imágenes reportadas en un plazo de 48 horas. En el Reino Unido, la Data Act y la Online Safety Act tipifican como delito la creación de este tipo de contenido, con el mismo plazo de 48 horas para su eliminación. La Ley de IA de la Unión Europea próximamente prohibirá los sistemas diseñados específicamente para crear imágenes íntimas no consensuadas.
La legalidad de los deepfakes depende de cada jurisdicción. Si la imagen corresponde a un menor de edad, es ilegal en la mayoría de territorios. En otros casos, la ilegalidad dependerá del propósito: si se distribuyó sin consentimiento para fines de fraude, chantaje, difamación, acoso o suplantación de identidad, podría constituir un delito.
Si alguien creó un deepfake tuyo que no es una imagen íntima no consensuada, ESET recomienda conservar las pruebas: hacer capturas de pantalla, guardar la URL, anotar la cuenta o usuario, fecha y hora del hallazgo, así como cualquier texto acompañante. Es importante no interactuar con quien publicó el contenido, ya que podría difundirlo aún más.
La mayoría de plataformas en línea cuentan con mecanismos para denunciar deepfakes, aunque rara vez existe un botón específico. Generalmente se debe identificar la infracción que facilita el deepfake, como acoso o fraude, y explicarla.
Opciones por plataforma:
Google: Utilizar la herramienta «eliminar información personal» y el formulario de solicitud legal de eliminación para retirar contenido de los resultados de búsqueda, lo que dificultará que otros encuentren el deepfake, aunque no eliminará el contenido original.
Facebook: Abrir la publicación o video, seleccionar ⋯, reportar la publicación o video, elegir la categoría correspondiente como suplantación de identidad o acoso, y explicar que el contenido fue generado con IA.
Instagram: Hacer clic en las dos líneas de la esquina superior derecha, seleccionar Reportar y elegir el motivo más adecuado.
TikTok: En el video, seleccionar Compartir, Reportar, Información falsa, Deepfakes, medios sintéticos y medios manipulados, y Enviar.
YouTube: Solicitar la eliminación del contenido alterado o sintético que parece o suena como tú mediante el Proceso de reclamación de privacidad para contenido alterado o sintético.
X: Denunciar la publicación específica tocando los tres puntos horizontales, seleccionar Reportar publicación y seguir el proceso de denuncia, explicando que fue generado con IA.
Para imágenes íntimas no consensuadas, StopNCII.org es una excelente opción. Este recurso administrado por la Revenge Porn Helpline, parte de la organización benéfica SWGfL, permite seleccionar la imagen o video ofensivo. StopNCII.org creará una huella digital del contenido en el dispositivo. Si el reporte es exitoso, se recibirá un número de caso, y plataformas participantes como Meta, TikTok, Reddit y X buscarán la misma huella digital y eliminarán cualquier imagen coincidente que infrinja sus políticas. También se recomienda eliminar el deepfake de los resultados de Google. Para imágenes o videos de menores de 18 años, TakeItDown.NCMEC.org ofrece un sistema similar.
Si el contenido permanece en un sitio web específico después de ser eliminado del índice de Google, el primer paso es contactar al editor o responsable del sitio para solicitar su eliminación. Si se niega, se debe: conservar todas las pruebas incluyendo capturas de pantalla, URL, fecha y hora, la respuesta del sitio y la cuenta que lo subió; buscar el contacto legal, de privacidad o derechos de autor del sitio web y enviar una comunicación indicando que la imagen o video te representa y está siendo publicado sin consentimiento, solicitando su eliminación; en el Reino Unido o la UE, se puede citar el derecho de supresión del Artículo 17 del RGPD, y si se niegan, se puede escalar el caso ante la autoridad local de protección de datos.
Según Mario Micucci, Investigador de Seguridad Informática de ESET Latinoamérica, «la clave al interactuar con sitios web, plataformas sociales, motores de búsqueda o reguladores no es simplemente afirmar que el contenido fue generado con IA, sino especificar exactamente por qué es problemático, como fraude, acoso, suplantación de identidad, entre otros. Se recomienda ser persistente y considerar contactar simultáneamente al motor de búsqueda, la red social o sitio web y al regulador para ahorrar tiempo».
Con Información de revistaseguridad.cl
