Cómo un deepfake de Marco Rubio expuso la alarmante facilidad de las estafas de voz con IA

¡Bienvenido a Eye on AI! En esta edición... xAI lanza Grok 4 en medio de críticas por publicaciones antisemitas… Perplexity lanza un navegador de IA para competir con Google, comenzando con sus usuarios más activos… Se informa que OpenAI se está preparando para lanzar su propio navegador web.

Un deepfake de audio que suplantaba al Secretario de Estado Marco Rubio contactó a ministros de Asuntos Exteriores, un gobernador estadounidense y un miembro del Congreso con mensajes de voz generados por IA que imitaban su voz, según un alto funcionario estadounidense y un cable del Departamento de Estado con fecha del 3 de julio. 

No hay evidencia pública de que ninguno de los destinatarios de los mensajes, supuestamente diseñados para extraer información confidencial o acceder a cuentas, haya sido engañado por la estafa. Pero el incidente es el ejemplo más reciente y de alto perfil de lo fáciles —y alarmantemente convincentes— que se han vuelto las estafas de voz con IA.

Con tan solo 15 a 30 segundos del habla de alguien subidos a servicios como Eleven Labs, Speechify y Respeecher, ahora es posible escribir cualquier mensaje y que sea leído en voz alta con su voz. Hay que tener en cuenta que estas son herramientas utilizadas de manera completamente legítima para una gran variedad de cosas, desde la accesibilidad hasta la creación de contenido, pero como muchas tecnologías de IA, pueden ser utilizadas de forma indebida por actores maliciosos.

La amenaza de los deepfakes se ha intensificado

Los deepfakes generados por IA no son nuevos, especialmente los de altos directivos y funcionarios públicos, pero se están convirtiendo en un problema cada vez mayor. Hace ocho meses, informé que más de la mitad de los directores de seguridad de la información (CISO) encuestados clasificaron los deepfakes de vídeo y audio como una preocupación creciente. Esa amenaza solo se ha intensificado. Un nuevo estudio de Surfshark encontró que solo en el primer semestre de 2025, los incidentes relacionados con deepfakes se dispararon a 580, casi cuatro veces más que en todo 2024 (150 incidentes), y significativamente más que los 64 incidentes reportados entre 2017 y 2023. Las pérdidas por fraude con deepfakes también se han disparado, alcanzando los 897 millones de dólares de forma acumulada, con 410 millones de dólares solo en el primer semestre de 2025. El esquema más común: suplantar a figuras públicas para promover inversiones fraudulentas, lo que ya ha resultado en pérdidas de 401 millones de dólares.

"Los deepfakes han evolucionado hasta convertirse en amenazas de ciberseguridad reales y activas", me dijo por correo electrónico Aviad Mizrachi, Director de Tecnología (CTO) y cofundador de la empresa de seguridad de software Frontegg. "Ya estamos viendo cómo las videollamadas generadas por IA engañan con éxito a empleados para que autoricen pagos de varios millones de dólares. Estos ataques están ocurriendo ahora, y es una estafa que se está volviendo alarmantemente fácil de implementar para un hacker."

Parte del problema, añadió Mizrachi, es que los métodos de autenticación tradicionales —nombres de usuario, contraseñas, códigos de un solo uso y apps de autenticación— no fueron diseñados para un mundo donde un estafador puede clonar tu voz o rostro en segundos. Esto se debe a que estas estafas no implican necesariamente entrar en una cuenta, sino que se basan en engañar a una persona real para que entregue sus credenciales o autorice acciones por sí misma.

"Esas medidas de seguridad tradicionales para verificar la identidad de un individuo obviamente ya no funcionan", dijo, añadiendo que la mayoría de los equipos de ciberseguridad todavía pasan por alto los deepfakes, y esa es la vulnerabilidad que los atacantes explotan. Una voz falsa convincente en un mensaje de voz o una videollamada puede persuadir a alguien para que omita los procedimientos normales o apruebe una transferencia bancaria, incluso si todas las herramientas de autenticación están técnicamente en funcionamiento.

Para protegerse contra ese tipo de engaño, dijo Mizrachi, las organizaciones necesitan implementar herramientas de seguridad más sólidas que dependan de dispositivos físicos —como un teléfono inteligente o una llave de seguridad de hardware— para verificar la identidad de alguien. Estas herramientas, conocidas como Claves de Acceso FIDO2 o WebAuthn, son mucho más difíciles de falsificar o suplantar para los hackers. Y más allá de las verificaciones de dispositivos, los sistemas de verificación inteligentes también pueden monitorear señales de comportamiento —como la velocidad de escritura, la ubicación o los hábitos de inicio de sesión— para detectar anomalías que una voz clonada no puede imitar. Esas capas adicionales hacen que sea mucho más difícil que un ataque de deepfake tenga éxito.

Margaret Cunningham, directora de estrategia de seguridad e IA en la empresa de seguridad Darktrace, dijo que el intento de suplantación de Rubio demuestra con qué facilidad se puede utilizar la IA generativa para lanzar ataques de ingeniería social convincentes y dirigidos.

"Esta amenaza no fracasó porque estuviera mal elaborada, sino porque no encontró el momento adecuado de vulnerabilidad humana", dijo. "Las personas a menudo no toman decisiones en condiciones de calma y concentración. Responden mientras realizan múltiples tareas, bajo presión y guiadas por lo que les resulta familiar. En esos momentos, una voz de confianza o un mensaje de apariencia oficial puede eludir fácilmente la precaución."

Los deepfakes han impactado a las democracias de todo el mundo

La IA generativa también ha reducido drásticamente la barrera de entrada en lo que respecta a la manipulación mediática, haciéndola más rápida, más barata y más escalable que nunca. Y está impactando a las democracias de todo el mundo: un reciente informe del New York Times encontró que los deepfakes impulsados por IA han transformado las elecciones en al menos 50 países del mundo, utilizándolos para denigrar o difamar a los oponentes. 

"Esta es la nueva frontera para las operaciones de influencia", me dijo Leah Siskind, investigadora de IA en la Fundación para la Defensa de las Democracias. "Hemos visto otros casos de deepfakes de altos funcionarios gubernamentales utilizados para acceder a cuentas personales, pero aprovechar la IA para influir en las relaciones diplomáticas y la toma de decisiones es una escalada peligrosa. Este es un problema urgente de seguridad nacional con graves ramificaciones diplomáticas."

Por ahora, Siskind recomienda que los funcionarios gubernamentales eviten las plataformas cifradas populares como Signal, que si bien son seguras en términos de contenido, carecen de mecanismos de verificación de identidad. "Dada la facilidad de crear audio deepfake y construir cuentas de apariencia realista en cualquier aplicación de mensajería de consumo, los altos funcionarios gubernamentales deben ceñirse a canales de comunicación seguros", dijo.

Nota: Echa un vistazo a este nuevo vídeo de Fortune sobre mi visita al laboratorio de pruebas de computación cuántica de IBM. Pasé un tiempo fabuloso en el campus de IBM en Yorktown Heights (una maravilla del modernismo de mediados de siglo diseñada por Eero Saarinen, el mismo arquitecto del Arco de San Luis y el clásico TWA Flight Center en el aeropuerto JFK) en Nueva York. El vídeo fue parte de mi cobertura para el número Fortune 500 de este año, que incluyó un artículo que profundizó en el reciente rebote de IBM.

Como dije en mi artículo, "caminar por el centro de investigación de IBM es como adentrarse en dos mundos a la vez. Están las curvas de acero y vidrio del diseño de Saarinen, puntuadas por enormes paredes de piedras recogidas de los campos circundantes, con sillas Eames originales distribuidas en rincones de debate. Pero este modernismo del siglo XX contrasta marcadamente con el elegante y masivo ordenador cuántico —similar a un refrigerador y entre los más avanzados del mundo— que ancla el área de colaboración y el laboratorio de trabajo, donde zumba con el constante murmullo de su sistema de refrigeración."

Con eso, aquí está el resto de las noticias de IA.

Sharon Goldman
sharon.goldman@fortune.com
@sharongoldman

Esta historia fue publicada originalmente en Fortune.com