[Перевод] Эссе об экономике будущего. AGI и ВВП без спроса: опасная иллюзия роста

Команда AI for Devs подготовила перевод большого эссе об ИИ и экономике будущего. Автор разбирает, почему рост возможностей моделей сам по себе не гарантирует процветание, как замещение труда может подорвать спрос и почему без циркуляции ценности экономика ИИ рискует зайти в тупик.

Нарративы из AI-лабораторий ослепляют: построить AGI, открыть путь к поразительному росту производительности — и наблюдать, как взлетает ВВП. История убедительная, особенно если именно вы создаёте эти новые «мыслящие машины» или инвестируете в них. Но в ней пропущена ключевая часть, без которой экономика перестаёт быть экономикой, — оборот.

Экономика — это не просто производство. Это производство, соразмерное спросу, а спрос требует широко распределённой покупательной способности. Когда мы об этом забываем, нам приходится на собственном опыте заново усваивать старую истину: невозможно построить процветающее общество, оставив большинство людей за бортом.

В книге «Бракосочетание Рая и Ада» поэт и художник-визионер Уильям Блейк (писавший во времена первой промышленной революции) предельно точно сформулировал логику оборота: «Производящий перестал бы быть производящим, если бы Пожиратель, как море, не принимал излишки его наслаждений». Иными словами, результат должен быть потреблён. Система должна находиться в движении.

Сегодня многие нарративы об AGI исходят из того, что «производящие» смогут продолжать производить, а широкая масса покупателей («пожиратель») — каким-то образом продолжит покупать, даже по мере того как всё больше человеческого труда вытесняется, а трудовые доходы и переговорная сила стремительно сокращаются. Это не будущее изобилия. Это рецепт своеобразной застойной сердечной недостаточности экономики: прибыли и возможности накапливаются там, где должен находиться циркуляционный насос, тогда как остальная часть организма голодает.

Если мы хотим экономику ИИ, которая действительно делает общество богаче, нам нужно задаваться не только вопросами «Насколько умными станут модели?» и «Насколько богатыми станут разработчики ИИ, их инвесторы и ближайшие клиенты?», но и вопросом «Как будет циркулировать создаваемая ценность в реальной экономике товаров и услуг?». Не «Что мы можем автоматизировать?», а «Какая новая инфраструктура и какие институты нужны, чтобы превратить возможности в широко разделяемое процветание?».

Две версии будущего часто обсуждаются так, будто они существуют по отдельности. Это не так.

Экономика открытий: возможности — это ещё не ВВП

Меня вдохновляет потенциал ИИ как инструмента для открытий. Он может помочь нам решить задачи, которые не поддавались десятилетиями: обеспечить изобилие энергии, создать новые материалы, найти лекарства от болезней. Как точно сформулировали Ник Ханауэр и Эрик Байнхокер, «процветание — это накопление решений человеческих проблем». То, что ИИ способен пополнять запас таких решений, — прекрасная мечта, и мы должны стремиться воплотить её в реальность.

Но одни лишь открытия — это не то же самое, что экономическая ценность, и уж точно не то же самое, что широко распределённое процветание. Между открытием и экономической ценностью лежит длинный и подверженный сбоям конвейер: превращение в продукт, проверка, регулирование, производство, дистрибуция, обучение и сопровождение. «Долина смерти» — это не метафора; это бюрократический, технический и финансовый ландшафт, где умирают многие многообещающие прорывы. А из этой долины путь ведёт либо к подъёму на обширные плато общего процветания, либо по короткой тропе — к тупиковой вершине концентрации богатства.

Если ИИ ускоряет открытия, но не ускоряет их распространение, мы получаем громкие заголовки и бумажное богатство, тогда как массовый рост приходит значительно позже. Пик становится выше, но плато — не шире.

Вопрос распределения начинается с узких мест. Кто владеет машинами для открытий? Кто контролирует доступ к вычислениям, данным и самим моделям? Кто присваивает интеллектуальную собственность? У кого есть каналы, чтобы выводить новые возможности на рынок? В какой мере действующие игроки и выстроенные ими защитные рвы сдерживают инновации? Ускоряются ли государственные регуляторные процессы или они по-прежнему удерживают внедрение ИИ на ледниковой скорости? И используют ли те, кто контролирует узкие места, свою способность формировать рынки разумно? Если эти узкие места слишком «пережаты», экономика открытий превращается в своего рода феодализм открытий: прорывы происходят, но побочные эффекты ограничены, внедрение идёт медленно, а отдача концентрируется.

Если же инструменты и стандарты распространения доступны широко, если совместимость реальна, если лицензирование устроено так, что допускает множество путей на рынок, если регуляторные процессы тоже можно ускорить с помощью ИИ, тогда экономика открытий может стать именно тем, чем мы хотим её видеть: универсальным двигателем прогресса. Здесь предстоит колоссальный объём работы.

Многие из этих вопросов — экономические. Если открытия становятся дешёвыми, становится ли дешевле остальная часть конвейера или, наоборот, дорожает, компенсируя потерю других источников дохода? Радужная мечта — вакцина от рака, доступная по предельной стоимости производства. Мрачная реальность может выглядеть иначе: производители лекарств решат, что «нам нужно назначить высокую цену, чтобы компенсировать потери от существующих препаратов, которые людям больше не нужно покупать». Даже в эпоху дешёвых открытий возможно, что некоторые вакцины по-прежнему будут стоить миллионы долларов за дозу и будут доступны только тем, кто может себе это позволить.

Экономика замещения труда: спрос — главное ограничение

Другая версия будущего — это замещение труда. Нам говорят, что ИИ возьмёт на себя значительную часть интеллектуальной работы, так же как машины когда-то заменили тягловых животных и большую часть ручного человеческого труда. Бизнес становится эффективнее. Маржа растёт. Выпуск увеличивается. Цены падают, а покупательная способность тех, кто остаётся занятым, повышается.

Но кто будет покупателями, если внезапно огромное число людей перестаёт иметь оплачиваемую работу?

Это не риторический вопрос. Это центральное макроэкономическое ограничение, которое значительная часть Кремниевой долины предпочитает не моделировать. Нельзя заменить зарплаты дешёвым инференсом и ожидать, что потребительская экономика будет работать как прежде. Если доля заработной платы падает достаточно быстро, экономика становится менее устойчивой. Растёт социальная напряжённость. Политика приобретает карательный характер. Инвестиции в долгосрочные комплементарные направления схлопываются. И вся система начинает вести себя скорее как хрупкая машина по извлечению ренты, чем как надёжный двигатель процветания.

В статье 2012 года в Harvard Business Review Майкл Шрейдж задал мощный стратегический вопрос: «Кем вы хотите, чтобы стали ваши клиенты?» Как он отмечал, ответ на этот вопрос и есть подлинный фундамент великих компаний. «У успешных компаний есть “видение будущего клиента”, которое не менее важно, чем их видение собственных продуктов».

В ранние годы массового производства Генри Форд, как принято считать, понял простую вещь: если вы хотите массовые рынки, вам нужна массовая покупательная способность. Он платил более высокие зарплаты и сокращал рабочее время, фактически помогая изобрести то, что мы сегодня называем уикендом, а вместе с ним — экономику досуга. Дивиденд от роста производительности распределялся так, что создавал новых покупателей.

Инновация Форда имела последствия далеко за пределами заводских ворот. Массовое распространение автомобилей потребовало гигантского расширения инфраструктуры: дорог, правил дорожного движения, гостиниц, парковок, заправок, ремонтных мастерских — и полной социальной перестройки представлений о расстоянии. Технология была важна, но именно комплементы сделали из неё экономику.

Стивен Джонсон рассказывает родственную историю в своей книге Wonderland. Доиндустриальная европейская тяга к индийскому ситцу и набивным тканям помогла запустить современные форматы шопинга и глобальные торговые сети. Но на этом история не заканчивается. Когда производство ткани подешевело, мода, вкус и демократизация демонстрации статуса стали куда более значимой частью экономики. Суть не в том, что «потребительство — это хорошо». Суть в том, что экономики растут, потому что желания и возможности меняются в результате инноваций, инфраструктуры и институтов, которые позволяют выгодам распространяться. Новые формы производства требуют новых систем распределения, опыта и обмена.

Сегодня ИИ находится именно в такой точке перегиба. Возможно, мы создаём двигатели невероятной производительности, но пока не создаём социальные механизмы, которые сделают эту производительность широко применимой и широко полезной. Мы просто надеемся, что они как-то появятся сами.

Этот провал в понимании и воображении — ахиллесова пята современных AI-гигантов. Они представляют себя участниками гонки за статус следующей доминирующей платформы, где основная часть выгод достанется тому, у кого самая умная модель, больше всего пользователей и больше всего разработчиков. Это очень похоже на видение Netscape времён раннего веба, связанное с Марком Андриссеном. Netscape стремилась заменить Microsoft Windows как платформу для пользователей и разработчиков, используя момент интернета, чтобы стать следующим монопольным «привратником». Но победа досталась тем, кто принял архитектуру участия, лежащую в основе веба.

Да, справедливо, что тридцать лет спустя мы живём в мире, где такие компании, как Google, Apple, Amazon и Meta, действительно стали «привратниками», извлекая огромную экономическую ренту за счёт контроля над человеческим вниманием. Но так было не с самого начала. Amazon и Google, в особенности, выросли потому, что решили проблему оборота. Маховик Amazon, в котором больше пользователей привлекают больше поставщиков с более широким и дешёвым ассортиментом, что, в свою очередь, приводит ещё больше пользователей, — классический пример стратегии экономической циркуляции. Amazon не только создал колоссальную ценность для потребителей, но и сформировал целый новый класс поставщиков.

То же самое можно сказать и о первоначальной стратегии поисковой системы Google, которая также была глубоко укоренена в логике оборота ценности. Как говорил Ларри Пейдж в 2004 году: «Портальная стратегия пытается владеть всей информацией… Мы же хотим как можно быстрее увести вас из Google туда, куда вам действительно нужно». Алгоритмы компании — как для поиска, так и для релевантной рекламы — стали реальным прорывом в координации рынков и совместном создании ценности. Экономистов вроде Хэла Вариана привлекали для разработки рекламных моделей, которые были лучше не только для Google, но и для его клиентов. Google рос вместе с веб-экономикой, которую сам же помог создать, а не за её счёт. Да, со временем это изменилось, но не стоит забывать, насколько важной была поддержка циркуляционной экономики для раннего успеха Google.

Google также даёт отличный пример продуманного дизайна механизмов для решения проблем с правообладателями — пример с важными экономическими уроками и для сегодняшнего дня. Когда музыкальные компании начали отправлять YouTube требования об удалении пользовательского контента с несанкционированным использованием их интеллектуальной собственности, YouTube вместо этого предложил: «А что если мы поможем вам это монетизировать?» В результате был создан новый рынок.

То, что Amazon и Google, судя по всему, забыли эти уроки, — признак их упадка, а не образец для подражания. Это создаёт возможность для тех (включая самих Google и Amazon, если они вновь обратятся к своим истокам), кто строит следующее поколение технологических платформ. Создавайте маховик, запускайте циркуляционную экономику. ИИ не должен с самого начала превращаться в деградированный продукт, где приоритет отдаётся извлечению ценности, а не её широкому созданию.

Децентрализованные архитектуры создают ценность; централизация её присваивает

Один из ключевых уроков технологической революции интернета 1990-х и начала 2000-х годов заключается в том, что децентрализованные архитектуры более инновационны и конкурентоспособны, чем централизованные. Децентрализация создаёт ценность, централизация — присваивает её. Персональный компьютер децентрализовал компьютерную индустрию, положив конец удушающему контролю IBM над конкуренцией в эпоху мейнфреймов. Возникла и стремительно выросла новая индустрия программного обеспечения. В следующие десятилетия, по мере укрепления своих позиций, Microsoft заново централизовала отрасль, монополизировав операционные системы и офисные приложения — так же, как IBM раньше монополизировала компьютерное железо. Индустрия ПО для персональных компьютеров начала стагнировать, пока open source-софт и открытые протоколы интернета не подорвали централизованный контроль Microsoft и не открыли новую эру инноваций.

Затем трагедия повторилась. Те, кто когда-то процветал как интернет-инноваторы, со временем сами начали отдавать приоритет контролю: возводить защитные рвы и извлекать ренту вместо того, чтобы продолжать инновации. Это и привело к сегодняшней интернет-олигополии. Именно это, разумеется, и позволило текущей AI-революции пойти по тому пути, по которому она пошла. Google изобрёл архитектуру трансформеров и опубликовал её в открытом доступе, но сам не стал в полной мере исследовать её возможности, защищая существующую бизнес-модель. В итоге изобретение будущего досталось OpenAI.

Однако у AI-революции есть важное отличие от раннего интернета. Современная конфигурация в США — крупные закрытые модели, гигантские дата-центры для обучения и сильно концентрированный облачный рынок — имеет черты централизованного планирования, при котором узкий круг инвесторов с глубокими карманами выбирает победителей заранее, вместо того чтобы выявлять их в ходе жёсткой рыночной конкуренции и поиска product–market fit (то есть продуктов и сервисов, которые пользователи не только хотят, но и готовы покупать по цене ниже себестоимости!).

Рыночная конкуренция важна для того, чтобы экономика не зависела от горстки компаний, реинвестирующих свои прибыли в производство. Когда возникает такая зависимость, оборот может прерываться. Прибыль перестаёт возвращаться в экономику и начинает накапливаться, застревая в сфере финансового обращения — от дивидендов к байбэкам акций, затем снова к дивидендам, и всё меньшая её часть идёт в инвестиции в физический или человеческий капитал.

Если мы хотим реализовать полный потенциал ИИ для обновления и переизобретения экономики, нам необходимо принять децентрализованные архитектуры. Это может означать победу более дешёвых моделей с открытыми весами, которые коммодитизируют и децентрализуют инференс. И, безусловно, это подразумевает протоколы и техническую инфраструктуру, способные ослабить врождённую склонность к концентрации, порождённую эффектом масштаба и другими технологическими «рвами», делающими концентрацию более эффективным способом производства.

Централизация — преимущество в зрелой экономике; она становится недостатком, когда вы пытаетесь изобрести будущее. Преждевременная централизация — ошибка.

Манифест циркуляционной экономики ИИ

Если AI-лаборатории хотят стать архитекторами процветающего будущего, им придётся столь же усердно изобретать циркуляционную систему новой экономики, как и улучшать возможности моделей. Успех нужно измерять распространением, а не только уровнем возможностей. Переход на новые формы труда следует рассматривать как ключевую задачу, которую нужно решать, а не просто изучать. Побеждать необходимо на рынке, а не за счёт искусственных защитных рвов. Это означает приверженность открытым интерфейсам, переносимости и совместимости. Возможности общего назначения не должны превращаться в частную платную дорогу.

Компании, внедряющие ИИ, сталкиваются со своими собственными вызовами. Простое использование ИИ для сокращения издержек и разгона прибыли — это своего рода провал. Дивиденд от роста производительности должен проявляться для сотрудников не в виде уведомления об увольнении, а в виде сочетания более высокой оплаты, сокращённого рабочего времени, участия в прибыли и инвестиций в переобучение. Компании должны использовать этот момент, чтобы переизобрести себя, создавая новые виды ценности, за которые люди будут готовы платить, а не просто пытаясь сохранить статус-кво.

Государствам и обществу в целом необходимо инвестировать в комплементы, которые будут формировать новую экономику ИИ. Распространение будет ограничиваться хрупкостью нашей энергетической сети, узкими местами в поставках редкоземельных материалов, а также закостенелыми процедурами согласования нового строительства и одобрения инноваций.

Государствам также придётся прорабатывать сценарии будущего, в котором налоги на труд будут составлять значительно меньшую долю их доходов. Очевидных решений нет, и переход будет сложным, но если нас ждёт мир, где прирост капитала избыточен, а трудовые доходы редки, возможно, пришло время снижать налоги на труд и повышать налоги на прирост капитала.

Выбор

Мы можем построить экономику ИИ, которая концентрирует ценность, выхолащивает спрос и загоняет общество в реактивный цикл откатов и латания последствий. А можем построить циркуляционную экономику ИИ — такую, где открытия распространяются, где дивиденды от роста производительности превращаются в покупательную способность и время, и где комплементы создаются достаточно быстро, чтобы общество в целом становилось более способным.

AI-лаборатории любят говорить, что они создают интеллект. И в этом они действительно продвигаются. Но если они хотят создать процветание, им нужно также открыть маховик экономики ИИ.

Производящему нужен пожиратель. Не как злодей и не как помеха, а как море, которое принимает избыток и возвращает его, преобразованным, в виде следующей волны спроса, инноваций и общего процветания.

Русскоязычное сообщество про AI в разработке

Друзья! Эту статью подготовила команда ТГК «AI for Devs» — канала, где мы рассказываем про AI-ассистентов, плагины для IDE, делимся практическими кейсами и свежими новостями из мира ИИ. Подписывайтесь, чтобы быть в курсе и ничего не упустить!