Jak deepfake Marco Rubio ujawnił alarmującą łatwość oszustw głosowych AI

Witamy w Eye on AI! W tym wydaniu… xAI wydaje Grok 4 wśród krytyki za antysemickie posty… Perplexity uruchamia przeglądarkę AI, by zmierzyć się z Google – zaczynając od zaawansowanych użytkowników… OpenAI podobno szykuje się do uruchomienia własnej przeglądarki internetowej.

Według wysokiego rangą urzędnika USA oraz depeszy Departamentu Stanu z 3 lipca, audio deepfake podszywający się pod Sekretarza Stanu Marco Rubio skontaktował się z ministrami spraw zagranicznych, gubernatorem stanu USA oraz członkiem Kongresu, pozostawiając wygenerowane przez AI wiadomości głosowe imitujące jego głos.

Nie ma publicznych dowodów na to, że którykolwiek z odbiorców wiadomości – podobno zaprojektowanych w celu wyłudzenia poufnych informacji lub uzyskania dostępu do kont – dał się nabrać na oszustwo. Jednak incydent ten jest najnowszym głośnym przykładem tego, jak łatwe – i niepokojąco przekonujące – stały się oszustwa głosowe z wykorzystaniem AI.

Wystarczy zaledwie 15–30 sekund czyjejś mowy przesłanej do serwisów takich jak Eleven Labs, Speechify czy Respeecher, by móc wpisać dowolną wiadomość i odsłuchać ją w głosie tej osoby. Warto pamiętać, że narzędzia te są w pełni legalnie wykorzystywane do wielu celów – od ułatwień dostępu po tworzenie treści – jednak jak wiele technologii AI, mogą być nadużywane przez złośliwych aktorów.

Zagrożenie deepfake'ami eskaluje

Deepfake'i generowane przez AI nie są nowością, szczególnie te dotyczące kadry kierowniczej najwyższego szczebla i urzędników publicznych, ale stają się coraz poważniejszym problemem. Osiem miesięcy temu informowałam, że ponad połowa ankietowanych dyrektorów ds. bezpieczeństwa informacji (CISO) uznała wideo i audio deepfake'i za rosnące zagrożenie. To zagrożenie tylko się nasiliło. Nowe badanie firmy Surfshark wykazało, że tylko w pierwszej połowie 2025 roku liczba incydentów związanych z deepfake'ami wzrosła do 580 – prawie czterokrotnie więcej niż przez cały 2024 rok (150 incydentów) i dramatycznie więcej niż 64 incydenty odnotowane w latach 2017–2023. Straty wynikające z oszustw deepfake również gwałtownie wzrosły, osiągając łącznie 897 milionów dolarów, z czego 410 milionów tylko w pierwszej połowie 2025 roku. Najpopularniejszy schemat: podszywanie się pod osoby publiczne w celu promowania fałszywych inwestycji, co już spowodowało straty w wysokości 401 milionów dolarów.

„Deepfake'i ewoluowały w realne, aktywne zagrożenia dla cyberbezpieczeństwa" – powiedział mi e-mailem Aviad Mizrachi, dyrektor ds. technicznych i współzałożyciel firmy zajmującej się bezpieczeństwem oprogramowania Frontegg. „Widzimy już, jak generowane przez AI połączenia wideo skutecznie nakłaniają pracowników do autoryzowania płatności opiewających na miliony dolarów. Te ataki dzieją się teraz i jest to oszustwo, które staje się niepokojąco łatwe do przeprowadzenia przez hakera."

Część problemu, dodał Mizrachi, polega na tym, że tradycyjne metody uwierzytelniania – nazwy użytkownika, hasła, jednorazowe kody i aplikacje uwierzytelniające – nie były projektowane z myślą o świecie, w którym oszust może sklonować czyjś głos lub twarz w ciągu kilku sekund. Dzieje się tak dlatego, że te oszustwa niekoniecznie polegają na włamaniu się na konto – opierają się na nakłonieniu prawdziwej osoby do przekazania danych uwierzytelniających lub samodzielnego autoryzowania działań.

„Te tradycyjne środki bezpieczeństwa służące do weryfikacji tożsamości osoby oczywiście już nie działają" – powiedział, dodając, że większość zespołów ds. cyberbezpieczeństwa nadal bagatelizuje deepfake'i – i właśnie tę lukę wykorzystują atakujący. Przekonujący fałszywy głos w wiadomości głosowej lub podczas połączenia wideo może skłonić kogoś do ominięcia normalnych procedur lub zatwierdzenia przelewu bankowego, nawet jeśli wszystkie narzędzia uwierzytelniające są technicznie na miejscu.

Aby chronić się przed tego rodzaju oszustwem, Mizrachi powiedział, że organizacje muszą wdrożyć silniejsze narzędzia bezpieczeństwa opierające się na urządzeniach fizycznych – takich jak smartfon lub sprzętowy klucz bezpieczeństwa – w celu potwierdzenia tożsamości danej osoby. Narzędzia te, znane jako klucze dostępu FIDO2 lub WebAuthn, są znacznie trudniejsze do sfałszowania lub wyłudzenia przez hakerów. Poza weryfikacją urządzeń, inteligentne systemy weryfikacji mogą również monitorować sygnały behawioralne – takie jak szybkość pisania, lokalizacja czy nawyki logowania – aby wykrywać anomalie, których sklonowany głos nie jest w stanie naśladować. Te dodatkowe warstwy znacznie utrudniają powodzenie ataku deepfake.

Margaret Cunningham, dyrektor ds. strategii bezpieczeństwa i AI w firmie ochroniarskiej Darktrace, stwierdziła, że próba podszywania się pod Rubio pokazuje, jak łatwo generatywna AI może być wykorzystana do przeprowadzania przekonujących, ukierunkowanych ataków socjotechnicznych.

„To zagrożenie nie zawiodło dlatego, że było źle skonstruowane – zawiodło, bo nie trafiło na właściwy moment ludzkiej podatności" – powiedziała. „Ludzie często nie podejmują decyzji w spokojnych, skupionych warunkach. Reagują podczas wielozadaniowości, pod presją i kierując się tym, co wydaje się znajome. W takich momentach zaufany głos lub wiadomość wyglądająca oficjalnie może łatwo ominąć ostrożność."

Deepfake'i wpłynęły na demokracje na całym świecie

Generatywna AI dramatycznie obniżyła również próg wejścia w zakresie manipulacji mediami – czyniąc ją szybszą, tańszą i bardziej skalowalną niż kiedykolwiek wcześniej. I wpływa na demokracje na całym świecie: niedawny raport New York Timesa wykazał, że deepfake'i zasilane przez AI przekształciły wybory w co najmniej 50 krajach na świecie, wykorzystując je do poniżania lub zniesławiania przeciwników.

„To nowa granica dla operacji wpływu" – powiedziała mi Leah Siskind, badaczka AI w Foundation for Defense of Democracies. „Widzieliśmy inne przypadki deepfake'ów wysokich rangą urzędników rządowych wykorzystywanych do uzyskania dostępu do prywatnych kont, ale wykorzystywanie AI do wpływania na relacje dyplomatyczne i podejmowanie decyzji to niebezpieczna eskalacja. To pilna kwestia bezpieczeństwa narodowego z poważnymi konsekwencjami dyplomatycznymi."

Na razie Siskind zaleca, aby urzędnicy rządowi unikali popularnych szyfrowanych platform, takich jak Signal, które choć bezpieczne pod względem treści, nie posiadają mechanizmów weryfikacji tożsamości. „Biorąc pod uwagę łatwość tworzenia audio deepfake'ów i budowania realistycznie wyglądających kont w dowolnej konsumenckiej aplikacji do przesyłania wiadomości, wysocy rangą urzędnicy rządowi powinni trzymać się bezpiecznych kanałów komunikacji" – powiedziała.

Uwaga: Obejrzyj ten nowy film Fortune o mojej wycieczce po laboratorium testowym komputerów kwantowych IBM. Świetnie spędziłam czas na kampusie IBM w Yorktown Heights (modernistyczna perła z połowy XX wieku zaprojektowana przez Eero Saarinena, tego samego, który zaprojektował Łuk w St. Louis i klasyczne TWA Flight Center na lotnisku JFK) w Nowym Jorku. Film był częścią mojego materiału do tegorocznego wydania Fortune 500, które zawierało artykuł dogłębnie analizujący niedawne odrodzenie IBM.

Jak napisałam w swoim tekście: „spacer przez centrum badawcze IBM to jak wkroczenie jednocześnie w dwa światy. Są tu stalowo-szklane krzywe projektu Saarinena, przerywane masywnym murami z kamieni zebranych z okolicznych pól, z oryginalnymi krzesłami Eamesa zdobiącymi kąciki do dyskusji. Ale ten modernizm XX wieku kontrastuje ostro ze smukłym, masywnym, przypominającym lodówkę komputerem kwantowym – jednym z najbardziej zaawansowanych na świecie – który stanowi centrum obszaru współpracy i pracowni, gdzie szumi ze stałym brzękiem swojego systemu chłodzenia."

A teraz reszta wiadomości ze świata AI.

Sharon Goldman
sharon.goldman@fortune.com
@sharongoldman

Ten artykuł został pierwotnie opublikowany na Fortune.com