CEO Palantira Alex Karp myli się co do zagrożenia, jakie Anthropic i OpenAI stanowią dla większości przedsiębiorstw. Nie oznacza to jednak, że nie ma nic do stracenia.

Witamy w Eye on AI. W tym wydaniu:

• Dlaczego CEO Palantira, Alex Karp, myli się co do czołowych laboratoriów AI.
• Firma cyberbezpieczeństwa twierdzi, że autonomiczne oprogramowanie szantażujące już istnieje.
• Chiny rozważają ograniczenie dostępu zagranicznych podmiotów do wiodących modeli AI.
• Anthropic odkrywa, że część funkcji dużych modeli językowych działa jak aspekt ludzkiej świadomości.
• Raport wskazuje na osłabianie standardów bezpieczeństwa AI.

W tym tygodniu mamy ekscytujące wieści prosto z redakcji Fortune. Uruchamiamy zupełnie nowy vodcast o nazwie Fortune AI Weekly, który współprowadzę z Bea Nolan. Można go traktować jako rozszerzenie tego, co robimy w Eye on AI – dzielimy się naszymi przemyśleniami na temat najważniejszych newsów ze świata AI w danym tygodniu, wyróżniamy świetne raporty AI publikowane przez Fortune, a czasem prezentujemy ekskluzywne wywiady z kluczowymi twórcami, myślicielami, założycielami, inwestorami i liderami branży AI. Vodcast można obejrzeć na naszym kanale YouTube tutaj.
***
Jednym z tematów AI, które trafiły na pierwsze strony gazet w ubiegłym tygodniu, była krytyka firm zajmujących się modelami fundamentalnymi przez Alexa Karpa. CEO Palantira pojawił się w środę w CNBC, rzekomo po to, by omówić nowe partnerstwo między Palantirem a Nvidią, mające na celu dostarczenie „suwerennej infrastruktury AI” rządowi USA i kluczowym branżom. Współpraca obejmuje wykorzystanie open-source’owych modeli Nemotron firmy Nvidia wraz z Platformą Sztucznej Inteligencji (AIP) Palantira, która stanowi warstwę aplikacyjną łączącą te modele z danymi, oferując jednocześnie bezpieczeństwo danych i zarządzanie nimi. Jednak to nie to stało się głównym tematem mediów. Zamiast tego, po wstępie, w którym stwierdził, że „nie rzuca cienia” na OpenAI i Anthropic, Karp zaczął rzucać mroczne oskarżenia w stronę czołowych laboratoriów AI.
„Coś poszło całkowicie nie tak” – powiedział. „Podstawowe podejście przedsiębiorstw w tym kraju brzmi: ‘Będę sobie odpoczywał i marnował czas na tokeny, nie uzyskam żadnej wartości, a oni zabiorą moją własność intelektualną’”. Następnie zaznaczył, że nie są to oskarżenia, lecz „raportowanie”. Wielokrotnie podkreślał te punkty, twierdząc, że firmy nie uzyskują żadnej wartości z tokenów kupowanych od czołowych laboratoriów i ryzykują przekazanie im swojej kluczowej własności intelektualnej.
Czy Karp ma więc rację? Cóż, częściowo. Ale tylko jeśli przymkniemy oko. Większość tego, co powiedział Karp, było albo interesowne, albo niedokładne, albo sprzeczne – albo wszystkie trzy na raz.

Zwrot z inwestycji jest opóźniony, ale nikt nie „odpoczywa” w tej sprawie

Prawda jest taka, że wiele dużych firm obawia się, że nie widzą jeszcze wystarczającego zwrotu z inwestycji we wdrażanie AI i martwi się kosztami tokenów, szczególnie przy korzystaniu z najbardziej zaawansowanych modeli AI w przypadkach użycia agentowego. (Fakt, że wiele dużych firm się tym martwi, zaprzecza twierdzeniu Karpa, że po prostu „odpoczywają”.) Jednak niektóre firmy zgłaszają wartość – szczególnie w rozwoju oprogramowania i obsłudze klienta. A dla tych, które tego nie robią, często wynika to z faktu, że nie priorytetyzowały najbardziej strategicznie istotnych przypadków użycia lub nie wymyśliły, jak zrekonfigurować swoje procesy w całej firmie, aby jak najlepiej wykorzystać technologię.
W pewnym momencie wywiadu w CNBC Karp zapytał: „dlaczego pobierają opłaty za tokeny, skoro są one tak cenne?”. Zasugerował, że gdyby modele fundamentalne działały tak dobrze, jak twierdzą dostawcy modeli AI, lepiej byłoby zaoferować wykonanie całego zadania dla klienta i pobierać procent od uzyskanej wartości. Tak właśnie Palantir wycenia swoje oferty (czyli mamy tu element interesowności). Robi tak również wiele firm konsultingowych sprzedających usługi AI. Ale z pewnością nie tak tradycyjnie wyceniano oprogramowanie. Nie ma też większego sensu, aby technologia ogólnego przeznaczenia stosowała model biznesowy oparty na wartości. W końcu firma energetyczna pobiera opłatę za każdą jednostkę zużytej energii elektrycznej, a nie za wartość tego, co robisz z tymi elektronami. Microsoft z kolei pobiera stałą opłatę za korzystanie z Microsoft Word i Excel – nie próbuje pobierać procentu od wygranej umowy, ponieważ Twoja prezentacja w PowerPoint zrobiła wrażenie podczas spotkania sprzedażowego.
Ponadto, jeśli Karp mówi, że jedną z głównych skarg przedsiębiorstw na czołowe laboratoria AI jest „kradzież alfy” (czyli kradzież know-how, które daje firmie przewagę konkurencyjną), to byłoby to jeszcze bardziej niepokojące w modelu biznesowym, w którym firmy AI wykonują zadania dla klientów, zamiast sprzedawać im tokeny. (To kolejna sprzeczność w jego wypowiedziach.) Niektóre firmy konsultingowe i dostawcy chmury oferują usługi zarządzane dla klientów – ale klienci zwykle chcą outsourcować tylko te zadania, które uważają za niezwiązane z rdzeniem ich biznesu.

Niewiele dowodów na „kradzież alfy” przez laboratoria AI

Jeśli chodzi o argument Karpa, że czołowe laboratoria kradną własność intelektualną od klientów, nie ma dowodów, że jest to dosłownie prawdą, przynajmniej nie w sposób, w jaki sugerował Karp. Wiodący dostawcy AI mają polityki, które mówią, że nie mają bezpośredniego dostępu do promptów, wyników ani danych klientów korporacyjnych i nie wykorzystują tych interakcji do trenowania przyszłych modeli, chyba że ci klienci wyraźnie zgodzą się na takie działania dostawcy. (Więcej o tym szczególnym przypadku za chwilę.)

Zarówno OpenAI, jak i Anthropic mówią o wykorzystywaniu zanonimizowanych i zdeidentyfikowanych danych klientów do prowadzenia badań ekonomicznych nad tym, jak używane są ich modele, ale nawet to dotyczy tylko ruchu wiadomościowego wpływającego do ich usług skierowanych do konsumentów lub ich bezpośrednich API, a nie klientów accessing modele poprzez bezpieczne usługi chmurowe, takie jak Microsoft Azure, Amazon Bedrock czy Google Vertex – co jest sposobem, w jaki większość dużych przedsiębiorstw korzysta z tych modeli.
Zatem dla większości dużych firm, zwłaszcza tych, które same nie działają w sektorze technologicznym, twierdzenia Karpa to bzdury. Jeśli jesteś Archer-Daniels-Midland lub Boeingiem, jest bardzo mało prawdopodobne, że Anthropic ukradnie Twoją własność intelektualną i zacznie produkować kukurydzę lub wytwarzać jumbo jety.

Mimo to kilka firm ma powody do obaw – Palantir jest jedną z nich

Istnieje jednak kategoria firm, w przypadku których Karp może mieć rację. Anthropic, OpenAI i Google DeepMind mają „partnerów projektowych” w różnych branżach, a partnerzy ci często otrzymują wczesny dostęp, aby pomóc w testowaniu najnowszych modeli, nad którymi pracują te laboratoria AI. W ramach tych partnerstw laboratoria często mają znacznie większy dostęp do informacji o tym, jak te przedsiębiorstwa wykorzystują modele.
Istnieje co najmniej jeden przypadek, w którym ten dostęp mógł zostać wykorzystany przez jedno z laboratoriów AI do zbudowania konkurencyjnego produktu. Sprawa ta dotyczy Anthropic i Figmy. Jak po raz pierwszy doniósł The Information w ubiegłym miesiącu, Anthropic współpracowało zarówno z Figmą, jak i Canvą nad rozwojem narzędzia Claude for Design. Mike Kreiger, dyrektor ds. produktów w Anthropic, miał nawet miejsce w radzie nadzorczej Figmy. Ale potem Figma wycofała się z premiery, a Kreiger nagle ustąpił z rady, gdy Figma odkryła, że produkt budowany przez Anthropic konkurował znacznie bardziej bezpośrednio z jej własnymi funkcjami produktu, niż Anthropic, przynajmniej zdaniem Figmy, przyznawało. Według raportu The Information, CEO Figmy Dylan Field powiedział uczestnikom prywatnego wydarzenia organizowanego przez Sequoia Capital, że Anthropic „nie było konsekwentnie szczere w komunikacji” z Figmą co do zakresu narzędzia projektowego Claude.

Inne rzekome przypadki wykorzystywania przez dostawców AI dostępu do danych klientów, a następnie konkurowania z tymi klientami, pochodzą ze źródeł mających własne porachunki – wielu z nich to inwestorzy Palantira. Inwestor venture capital Jason Calacanis, wczesny wspieracz Palantira, zarzucił, że Anthropic wykorzystało dane z Cursora, asystenta kodowania AI, który był intensywnym użytkownikiem modeli Claude Anthropic, aby pomóc w rozwinięciu Claude Code, wiralowego produktu Anthropic, który następnie largely eclipsed Cursor under względem popularności. Inwestor venture capital Chamath Palihapitiya wskazał, że Anthropic współpracowało z Eli Lilly i innymi firmami farmaceutycznymi, zanim ostatnio oświadczyło, że zamierza uruchomić własny program rozwoju leków. (Anthropic określiło to jako sposób na dopracowanie własnych narzędzi Claude of Science i nie jest jasne, czy Anthropic próbowałoby samodzielnie komercjalizować jakieś kandydaty na leki, czy też partnered with a pharma company for that part of the process.) Oprócz bycia wczesnym inwestorem Palantira, Palihapitiya jest współgospodarzem podcastu „All In” z Davidem Sacksem, który również nie pała sympatią do Anthropic.
Mimo to oskarżenie, że Anthropic zamierza faktycznie wejść bezpośrednio do wszystkich tych sektorów, zamiast po prostu budować narzędzia, które ułatwią wdrażanie ich modeli w tych sektorach – co nie jest tym samym – wydaje się naciągane. Ponownie, jeśli jesteś większością firm z listy Fortune 500, Anthropic ani OpenAI nie zaczną konkurować z Tobą head-to-head.
W rzeczywistości najlepszym przykładem kradzieży danych przez czołowe laboratoria AI w celu zbudowania konkurencyjnego produktu pochodzi z mojej własnej branży, czyli mediów. Tutaj czołowe laboratoria AI zdecydowanie zgromadziły ogromne ilości materiałów chronionych prawem autorskim, aby trenować modele AI, które często konkurują bezpośrednio z publikacjami jako źródłami faktograficznych informacji. (To samo można powiedzieć o wydawnictwach, muzyce i sztuce pięknej.) Ale somehow I don’t think that’s what Karp had in mind.
Przyjaciel z finansów zasugerował, że tym, co naprawdę drażni Karpa – a także niektórych zazwyczaj bardziej zrównoważonych kierowników, takich jak Satya Nadella z Microsoftu, który ostatnio interesująco wysuwał podobne twierdzenia na temat drapieżnej natury czołowych laboratoriów AI – nie są modele biznesowe Anthropic i OpenAI, ale ich prawdopodobne IPO. Te IPO będą bez wątpienia bardzo pożądane. A aby pozyskać płynność niezbędną do zakupu akcji OpenAI lub Anthropic, inwestorzy instytucjonalni mogą szukać sprzedaży innych spółek technologicznych – takich jak, cóż, Palantir. Pamiętaj, że paranoja nie oznacza, że nikt nie czyha na Ciebie.
Na tym kończę, oto więcej newsów ze świata AI.
Jeremy Kahn
jeremy.kahn@fortune.com
@jeremyakahn

Ten artykuł pierwotnie ukazał się na Fortune.com