Comprender el problema

Una voz conocida solicita una transferencia urgente, un reclutador ofrece un trabajo atractivo y pide documentos de identidad, un banco recibe una solicitud acompañada de fotografías convincentes. En cada caso, la pregunta clave es simple: ¿quién está realmente detrás de la interacción?

Las identidades sintéticas y los deepfakes complican esta cuestión. Una identidad sintética combina información de identificación para crear una persona ficticia, a veces mezclando detalles robados con otros inventados. Un deepfake es un audio, una imagen o un vídeo realista generado o manipulado mediante inteligencia artificial. El primero se refiere a una identidad declarada; el segundo, a los medios que pueden respaldar una afirmación engañosa.

Estos conceptos se superponen, pero son diferentes: quien suplanta la identidad de un director real se apropia de una identidad existente, mientras que quien inventa un candidato crea una persona que no existe. Ambos tipos de engaño pueden utilizar deepfakes, pero ninguno los requiere. Asimismo, los perfiles ficticios y los medios sintéticos pueden tener usos legítimos. La preocupación criminal surge de cómo se utilizan para engañar, explotar o perjudicar a las personas.

Riesgos actuales: dinero, información personal y confianza

El fraude existía mucho antes de la IA generativa; lo que estas herramientas pueden cambiar es el esfuerzo necesario para que el engaño resulte convincente. En diciembre de 2024, el FBI advirtió que los delincuentes estaban utilizando la IA para crear perfiles ficticios, documentos fraudulentos y voces clonadas. Ahora, un mensaje persuasivo puede llegar acompañado de una fotografía, documentación de respaldo y un audio aparentemente tranquilizador.

Imaginemos a un reclutador ficticio que ofrece trabajo remoto. El solicitante ve un perfil profesional, recibe documentos convincentes y participa en una videollamada. Estas señales parecen confirmarse entre sí, aunque podrían provenir del mismo delincuente. El solicitante podría entonces revelar información personal o aceptar recibir y transferir dinero, involucrándose así en el blanqueo de capitales.

Las instituciones financieras se enfrentan a riesgos relacionados. En noviembre de 2024, FinCEN informó de un aumento en la notificación de actividades sospechosas durante 2023 y 2024, relacionadas con el presunto uso de deepfakes. Su alerta describió material de identidad fraudulento utilizado para evadir la verificación. Esto pone de manifiesto una preocupación reconocida, pero no demuestra que todas las sospechas notificadas se hayan confirmado ni que los deepfakes dominen el fraude a nivel mundial.

Las consecuencias van más allá del dinero robado; las personas cuyos datos se incorporan a identidades falsas pueden tener que impugnar registros inexactos. Otras pueden sufrir daños a su reputación, angustia emocional o presión para realizar pagos adicionales; la creación de una identidad falsa no significa que el delito no tenga víctimas.

Existe también un problema más amplio de confianza: si se pueden fabricar contenidos que parezcan realistas, las grabaciones auténticas pueden descartarse como falsas. Chesney y Citron lo denominan el «dividendo del mentiroso»; la posibilidad de manipulación ofrece a las personas deshonestas una excusa para negar la autenticidad de las pruebas. Por lo tanto, la sociedad se enfrenta a dos riesgos: creer en material fabricado y rechazar material auténtico sin examinarlo.

La posibilidad de que se produzcan daños también depende de las medidas de seguridad. Una solicitud de pago urgente se vuelve peligrosa cuando una organización acepta la aparente familiaridad como autoridad suficiente. La confirmación independiente puede interrumpir esa secuencia, lo que desvía la atención de si una falsificación parece perfecta a por qué una persona o institución actúa en consecuencia.

Lo que las personas y las instituciones deben hacer

Es fundamental que la gente comprenda que un rostro convincente, una voz familiar o un perfil detallado no bastan para establecer la identidad o la autoridad por sí solos. Antes de transferir dinero o compartir documentos, deben verificar las solicitudes inesperadas a través de un canal independiente y de confianza. La sospecha debe dar lugar a la verificación, en lugar de la creencia automática o el rechazo inmediato.

Sin embargo, la responsabilidad no puede recaer únicamente en las posibles víctimas; los bancos, las plataformas y los empleadores deben reforzar la verificación, conservar los registros pertinentes y proporcionar procedimientos accesibles para denunciar y corregir errores. La protección también debe respetar la privacidad, ya que exigir que todos revelen su identidad legal en línea generaría riesgos adicionales y no evitaría automáticamente el engaño.

La investigación y las sanciones deben desarrollarse paralelamente a la prevención. Los investigadores necesitan capacitación y recursos para autenticar los medios de comunicación, rastrear los pagos y vincular las cuentas con quienes las controlan. La cooperación transfronteriza es fundamental cuando las pruebas, los delincuentes y las víctimas se encuentran en distintos países. La preservación de mensajes, archivos originales y registros de transacciones puede respaldar esta labor.

Las respuestas legales deben identificar la conducta perjudicial, establecer responsabilidades y establecer sanciones proporcionales, protegiendo al mismo tiempo el debido proceso y la libertad de expresión legítima. La mera creación de un nuevo delito no garantiza una aplicación efectiva; las autoridades deben poder investigar las denuncias y obtener pruebas fiables. Esto requiere procedimientos claros para denunciar incidentes e instituciones capaces de responder antes de que las pruebas desaparezcan o se produzcan daños adicionales en los servicios conectados y los sistemas financieros. El objetivo fundamental es la rendición de cuentas práctica: ayudar a las personas a denunciar el engaño, obtener apoyo y buscar reparación cuando se abusa de la confianza digital.