Trzy razy, kiedy rząd USA już poniósł porażkę w technologii

Nowe śledztwo opublikowane twierdzi, że rząd federalny spieszy się ze sztuczną inteligencją w taki sam sposób, w jaki spieszył się z przetwarzaniem w chmurze dekadę temu, i z tymi samymi strukturalnymi słabościami nadal na miejscu.

Renee Dudley z ProPublica opublikowała śledztwo 6 kwietnia, argumentując, że gdy administracja Trumpa zachęca agencje federalne do szybkiego przyjmowania AI od dużych firm technologicznych, powtarza wzorce, które nękały przejście Waszyngtonu na przetwarzanie w chmurze, gdzie szybkość przeważyła nad bezpieczeństwem, nadzór został pozbawiony finansowania, a rząd ostatecznie stał się głęboko zależny od wykonawców, nad którymi miał niewielką dźwignię.

Biały Dom pozycjonował AI jako imperatyw konkurencyjności narodowej. Agencje mogą teraz uzyskać dostęp do ChatGPT OpenAI za 1 dolara, Gemini Google za 47 centów na użytkownika i Grok xAI za 42 centy. Ujęcie, pisze Dudley, ściśle odzwierciedla język używany, gdy administracja Obamy ogłosiła przetwarzanie w chmurze priorytetem transformacyjnym na początku lat 2010.

Lekcja pierwsza: Nie ma czegoś takiego jak darmowy lunch. Śledztwo ProPublica wykazało, że zobowiązanie Microsoftu z 2021 roku do przekazania rządowi federalnemu 150 milionów dolarów w usługach bezpieczeństwa było w praktyce mechanizmem blokującym. Po tym, jak agencje przyjęły darmowe aktualizacje, przejście na konkurenta byłoby kosztowne i destrukcyjne. „To był sukces wykraczający poza to, co ktokolwiek z nas mógł sobie wyobrazić" – powiedział ProPublica były sprzedawca Microsoftu. Jak informował crypto.news, Microsoft i OpenAI od tego czasu ścierali się w kwestii warunków własnego partnerstwa AI, co jest sygnałem, jak napięte mogą być kontrakty AI z wielkimi firmami technologicznymi nawet między zaangażowanymi stronami.

Lekcja druga: Programy nadzoru wymagają rzeczywistych zasobów. Federalny Program Zarządzania Ryzykiem i Autoryzacją, znany jako FedRAMP, został utworzony w 2011 roku w celu weryfikacji usług przetwarzania w chmurze, zanim agencje federalne mogły z nich korzystać. ProPublica odkryła, że agencja osłabiała FedRAMP przez pięć lat, aby uzyskać zgodę na główny produkt chmurowy pomimo poważnych zastrzeżeń dotyczących cyberbezpieczeństwa. To było przed DOGE. FedRAMP teraz twierdzi, że działa „z absolutnym minimum personelu wsparcia" i „ograniczoną obsługą klienta". Rzecznik GSA bronił programu, mówiąc, że „działa ze wzmocnionymi mechanizmami nadzoru i odpowiedzialności", ale byli pracownicy powiedzieli ProPublica, że funkcjonuje jako pieczątka.

Lekcja trzecia: Niezależne recenzje są tylko tak niezależne. Gdy wewnętrzna zdolność FedRAMP zmniejszyła się, firmy audytorskie stron trzecich przejęły więcej funkcji weryfikacyjnych. Te firmy są opłacane przez te same firmy chmurowe, które oceniają. Agencje, często niedofinansowane, nie mają zdolności do przeprowadzania własnych dokładnych przeglądów i w dużej mierze polegają na tych ocenach. Jak zauważył crypto.news, szerszym problemem wśród obserwatorów jest to, że rządy są konsekwentnie wolniejsze w zarządzaniu technologią transformacyjną niż firmy ją wdrażające.

Wzorzec, którego Biały Dom nie rozwiązał

GSA przyznała, że „koszty użytkowania AI mogą szybko rosnąć bez odpowiedniego monitorowania i kontroli zarządzania" i zaleciła agencjom ustalenie limitów użytkowania i przeglądanie raportów o zużyciu. Ale podstawowe kwestie strukturalne pozostają: niedofinansowane organy nadzoru, recenzje zależne od dostawców i agencje z niewielką dźwignią, gdy przyjęcie stanie się ugruntowane.

Wniosek Dudley jest wyraźny: „Implikacje tego zmniejszenia dla federalnego cyberbezpieczeństwa są dalekosiężne", gdy agencje przyjmują narzędzia AI, które przetwarzają wrażliwe dane rządowe w ramach tej samej osłabionej struktury nadzoru, która miała trudności z zarządzaniem chmurą.