El CEO de Palantir, Alex Karp, se equivoca respecto a la amenaza que Anthropic y OpenAI representan para la mayoría de las empresas. Eso no significa que no tenga algo que perder.

Hola y bienvenidos a Eye on AI. En esta edición:

• Por qué el CEO de Palantir, Alex Karp, se equivoca respecto a los laboratorios de IA de vanguardia.
• El ransomware autónomo ya está aquí, afirma una empresa de ciberseguridad.
• China considera restringir el acceso extranjero a los principales modelos de IA.
• Anthropic descubre que parte del funcionamiento de los LLM se asemeja a un aspecto de la conciencia humana.
• Las normas de seguridad de la IA se están relajando, según un informe.

Esta semana, tenemos noticias emocionantes aquí mismo en Fortune. Estamos lanzando un nuevo vodcast llamado Fortune AI Weekly, que copresento junto con Bea Nolan. Pueden considerarlo como una extensión de lo que hacemos en Eye on AI: ofrecerles nuestras reflexiones sobre las noticias más importantes de la IA de la semana, destacar algunos de los excelentes reportajes de IA de Fortune y, en ocasiones, traerles entrevistas exclusivas con destacados creadores, pensadores, fundadores, inversores y líderes de IA. Pueden ver el vodcast en nuestro canal de YouTube aquí.
***
Entre las noticias de IA que acapararon los titulares la semana pasada estuvo la diatriba de Alex Karp contra las empresas de modelos fundamentales. El CEO de Palantir apareció en CNBC el miércoles aparentemente para discutir una nueva asociación entre Palantir y Nvidia para proporcionar una “infraestructura de IA soberana” al gobierno de EE. UU. y a industrias críticas. La colaboración implica el uso de los modelos de código abierto Nemotron de Nvidia junto con la Plataforma de Inteligencia Artificial (AIP) de Palantir, que es una capa de aplicación que conecta esos modelos con los datos, además de ofrecer seguridad y gobernanza de datos. Pero eso no es lo que terminó siendo noticia. Más bien, después de comenzar sus comentarios diciendo que “no estaba criticando” a OpenAI y Anthropic, Karp procedió a arrojar sombras nivel Mordor sobre los laboratorios de IA de vanguardia.
“Algo ha salido completamente mal”, dijo. “La visión básica entre las empresas de este país es ‘Voy a relajarme y perder mi tiempo con tokens, no voy a obtener ningún valor y ellos van a quedarse con mi propiedad intelectual’”. Luego dijo que esto no era una crítica, sino “información”. Insistió en estos puntos varias veces, afirmando que las empresas no obtenían ningún valor de los tokens que compraban a los laboratorios de vanguardia y que corrían el riesgo de transferir su crucial propiedad intelectual empresarial a estos proveedores de IA.
¿Tiene razón Karp? Bueno, más o menos. Pero solo si se esfuerza la vista. Y gran parte de lo que dijo Karp era ya sea interesada, inexacta o contradictoria, o las tres cosas a la vez.

El ROI se está quedando atrás, pero nadie se está ‘relajando’ al respecto

Es cierto que muchas grandes empresas están preocupadas porque aún no están viendo suficiente retorno de la inversión (ROI) por desplegar IA y están angustiadas por el costo de los tokens, particularmente cuando utilizan los modelos de IA más avanzados en casos de uso agentivos. (El hecho de que muchas grandes empresas estén preocupadas por esto contradice la afirmación de Karp de que simplemente se están “relajando”). Pero ciertamente algunas empresas están reportando valor, particularmente en desarrollo de software y servicio al cliente. Y, para aquellas que no lo están, a menudo se debe a que no han priorizado los casos de uso estratégicamente más esenciales o no han descubierto cómo reingenierizar sus flujos de trabajo en toda la empresa para aprovechar al máximo la tecnología.
En un momento de la entrevista en CNBC, Karp dijo: “¿por qué cobran por tokens, si son tan valiosos?”. Sugirió que si los modelos fundamentales funcionaran tan bien como afirman los proveedores de modelos de IA, sería mejor ofrecer completar una tarea entera para el cliente y cobrar un porcentaje del valor derivado. Esto, de hecho, es cómo Palantir fija los precios de sus ofertas (ahí está la parte interesada). Y es lo que muchas consultoras que venden servicios de IA están empezando a hacer. Pero ciertamente no es así como tradicionalmente se ha fijado el precio del software. Tampoco tiene mucho sentido que una tecnología de propósito general utilice un modelo de negocio basado en el valor. Después de todo, la compañía eléctrica le cobra por cada unidad de electricidad que usa, no por el valor de lo que hace con esos electrones. Microsoft, por cierto, le cobra una cantidad fija por usar Microsoft Word y Excel; no intenta cobrarle un porcentaje del acuerdo que ganó porque su presentación de PowerPoint impresionó en la reunión de pitch.
Además, si Karp dice que una de las principales quejas de las empresas sobre los laboratorios de IA de vanguardia es que están “robando alpha” (es decir, robando el know-how que da a una empresa su ventaja competitiva), eso sería aún más preocupante con un modelo de negocio en el que las empresas de IA realizaran tareas para los clientes en lugar de venderles tokens. (Esta es otra de las cosas contradictorias que dijo). Algunas firmas de consultoría y algunos proveedores de nube ofrecen servicios gestionados para los clientes, pero los clientes suelen estar dispuestos a externalizar solo las tareas que consideran no centrales para su negocio.

Pocas pruebas de que los laboratorios de IA estén ‘robando alpha’

En cuanto al argumento de Karp de que los laboratorios de vanguardia están robando propiedad intelectual (IP) a los clientes, no hay pruebas de que esto sea literalmente cierto, al menos no de la manera que Karp parecía sugerir. Los principales proveedores de IA tienen políticas que indican que no tienen acceso directo a los prompts, resultados o datos de los clientes empresariales y que no utilizan estas interacciones para entrenar modelos futuros, a menos que esos clientes acepten específicamente permitir que el proveedor lo haga. (Más sobre ese caso especial en un segundo.)

Tanto OpenAI como Anthropic hablan de utilizar datos de clientes anonimizados y desidentificados para realizar investigaciones económicas sobre cómo se utilizan sus modelos, pero incluso esto solo se hace para el tráfico de mensajes que llega a sus servicios orientados al consumidor o a sus APIs directas, y no para los clientes que acceden a los modelos a través de servicios de nube seguros, como Microsoft Azure, Amazon Bedrock o Google Vertex, que es la forma en que la mayoría de las grandes empresas acceden a estos modelos.
Por lo tanto, para la mayoría de las grandes empresas, especialmente la mayoría de las grandes empresas que no pertenecen al sector tecnológico, lo que Karp afirma es absurdo. Si usted es Archer-Daniels-Midland o Boeing, hay pocas posibilidades de que Anthropic robe su propiedad intelectual y comience a producir maíz o a fabricar aviones jumbo.

Aun así, algunas empresas tienen motivos para preocuparse; Palantir es una de ellas

Pero hay una categoría de empresas para las cuales Karp podría tener razón. Anthropic, OpenAI y Google DeepMind tienen todos “socios de diseño” en diversas industrias, y estos socios a menudo obtienen acceso anticipado para ayudar a probar los últimos modelos en los que están trabajando estos laboratorios de IA. Y como parte de esas asociaciones, los laboratorios a menudo tienen mucho más acceso a información sobre cómo esas empresas están utilizando los modelos.
Ha habido al menos un caso en el que ese acceso pudo haber sido utilizado por uno de los laboratorios de IA para construir un producto competidor. Ese caso involucra a Anthropic y Figma. Como informó The Information el mes pasado, Anthropic había estado colaborando tanto con Figma como con Canva en el desarrollo de una herramienta Claude for Design. Mike Kreiger, director de producto de Anthropic, incluso tenía un asiento en la junta directiva de Figma. Pero luego Figma se retiró del lanzamiento y Kreiger dimitió repentinamente de la junta después de que Figma descubriera que el producto que Anthropic estaba construyendo competía mucho más directamente con sus propias características de producto de lo que Anthropic había dejado entrever, al menos desde la perspectiva de Figma. Según el informe de The Information, el CEO de Figma, Dylan Field, dijo a los asistentes a un evento privado organizado por Sequoia Capital que Anthropic no había sido “consistentemente sincera en sus comunicaciones” con Figma sobre el alcance de la herramienta de diseño Claude.

Otros supuestos casos de proveedores de IA que utilizan el acceso a los datos de los clientes para luego competir con esos clientes provienen de fuentes con cuentas pendientes; muchos de ellos son inversores en Palantir. El capitalista de riesgo Jason Calacanis, un antiguo respaldo de Palantir, ha alegado que Anthropic utilizó datos de Cursor, un asistente de codificación de IA que era un gran usuario de los modelos Claude de Anthropic, para ayudar a desarrollar Claude Code, el producto viral de Anthropic que luego eclipsó en gran medida a Cursor en popularidad. El capitalista de riesgo Chamath Palihapitiya ha señalado que Anthropic se asoció con Eli Lilly y otras compañías farmacéuticas, antes de decir recientemente que pretendía iniciar su propio programa de desarrollo de fármacos. (Anthropic ha caracterizado esto como una forma de perfeccionar sus propias herramientas Claude of Science y no está claro si Anthropic intentaría comercializar por sí misma algún candidato a fármaco o se asociaría con una compañía farmacéutica para esa parte del proceso). Además de ser un inversor temprano en Palantir, Palihapitiya es copresentador del podcast “All In” con David Sacks, quien tampoco siente aprecio por Anthropic.
Aun así, la acusación de que Anthropic pretende entrar realmente en todos estos verticales directamente, en lugar de simplemente construir herramientas que faciliten el despliegue de sus modelos en estos verticales, lo cual no es lo mismo, parece poco creíble. De nuevo, si usted es la mayoría de las empresas del Fortune 500, Anthropic u OpenAI no van a empezar a competir cara a cara con usted.
De hecho, el mejor ejemplo de laboratorios de IA de vanguardia que roban datos para construir un producto competidor proviene de mi propia industria, el negocio de los medios. Aquí, los laboratorios de IA de vanguardia han absorbido definitivamente vastas cantidades de material protegido por derechos de autor para entrenar modelos de IA que a menudo compiten directamente con las publicaciones como fuentes de información factual. (Lo mismo podría decirse de la editorial, la música y las bellas artes). Pero de alguna manera no creo que eso sea lo que Karp tenía en mente.
Un amigo del sector financiero sugirió que lo que realmente ha molestado a Karp, así como a algunos ejecutivos normalmente más sobrios, como Satya Nadella de Microsoft, quien curiosamente ha estado haciendo afirmaciones similares últimamente sobre la naturaleza rapaz de los laboratorios de IA de vanguardia, no son los modelos de negocio de Anthropic y OpenAI, sino sus probables OPVs (Ofertas Públicas de Venta). Esas OPVs sin duda tendrán alta demanda. Y para reunir la liquidez necesaria para comprar acciones de OpenAI o Anthropic, los inversores institucionales pueden buscar vender otros valores tecnológicos, valores tecnológicos como, bueno, Palantir. Recuerde: solo porque sea paranoico, no significa que no estén tras usted.
Dicho esto, aquí hay más noticias de IA.
Jeremy Kahn
jeremy.kahn@fortune.com
@jeremyakahn

Esta historia fue originalmente publicada en Fortune.com