Проклятие интеллекта

автор: Luke Drago и Rudolf Laine
АвтоматизацияРиск ИИТрансформативный искусственный интеллектЭкономика искусственного интеллекта
 

В данной статье воспроизведены разделы 3 и 4 эссе «Проклятие интеллекта» Люка Драго и Рудольфа Лайне.

3. Капитал, СИИ и человеческие амбиции

Кратко: ИИ сделает нечеловеческие факторы производства важнее человеческих. Результатом может стать будущее, где сегодняшние структуры власти остаются неизменными и застывшими, безо всяких путей для социальной мобильности или прогресса.

Многие считают, что после создания СИИ деньги не будут иметь значения или, по крайней мере, меньше значения. По умолчанию всё обстоит ровно наоборот.

Сперва определим термины: труд — это умственные и физические усилия человека, создающие нечто ценное. Средства производства — это вещи вроде заводов, датацентров и программного обеспечения, то есть то, что создано людьми и применяется для производства товаров и услуг. Мы будем использовать слово «капитал» для обозначения как запаса средств производства, так и денег, которыми их можно оплатить. Когда мы хотим исключить средства производства из этого понятия, мы говорим «деньги».

Ключевой экономический эффект ИИ — он делает капитал всё более универсальной заменой труда. Снижается необходимость платить людям за время работы, поскольку это можно заменить капиталом: датацентры с работающим на них программным обеспечением заменяют человека, выполняющего умственный труд.

Мы пройдёмся по последствиям этого. Наши выводы, о том, что означает заменяющий труд ИИ:

  1. Способность покупать результаты в реальном мире резко возрастет.
  2. Способность людей обладать властью в реальном мире резко снизится, поскольку:
    1. Ценность человеческого труда падает, а для большинства людей это главный рычаг власти.
    2. Людям станет сложнее добиваться исключительных относительно своих стартовых ресурсов.
  3. Радикальные уравнивающие меры маловероятны.

В целом это указывает на пренебрегаемый минус трансформативного ИИ: общество может прийти в перманентно статичное состояние, а уже присутствующий дисбаланс власти может усилиться и закрепиться. Статичное общество с укоренившейся правящей кастой не кажется динамичным или живым. Мы не должны убивать человеческие амбиции, если можем этого избежать.

Решение по умолчанию

Предположим, что умственный и физический труд человека при выполнении подавляющего большинства задач, за которые людям сейчас платят, перестал иметь сколько-нибудь значимую рыночную стоимость, потому что ИИ может выполнять эти задачи лучше, быстрее и дешевле. Назовем это заменяющим труд ИИ.

Есть два уровня стандартного решения возникшей проблемы безработицы:

  1. Правительства введут нечто вроде безусловного базового дохода (UBI).
  2. Мы быстро достигнем суперинтеллекта, и, при условии, что он будет согласован с человеческими ценностями, заживём в постдефицитной технологической стране чудес, где всё возможно.

Во-первых, обратите внимание, что деньги никуда не денутся, по крайней мере до появления у нас единой ИИ-системы, осуществляющей всё экономическое планирование. Цены в основном служат для передачи информации. Когда есть много торгующих между собой участников, следует ожидать, что цены сохранятся (даже если люди не будут их видеть и с ними взаимодействовать). Ещё помните, что какой бы радикальной ни была сингулярность, изобилие всё равно будет конечным, а значит, его придётся распределять.

Сейчас за деньги трудно купить талант

За деньги можно купить многое: скажем, средства производства обычно приобретаются напрямую, и без больших денег⁠⁠1 их не получить. Но на удивление сложно конвертировать деньги в труд так, чтобы он мог на равных состязаться с трудом высочайшего класса.

Возьмем стереотипное взаимодействие венчурного инвестора с основателем или покупателя со стартапом. В обоих случаях обладатели большого капитала готовы много платить за возможность сделать ставку на то, что труд нескольких человек в стартапе превзойдет огромные объёмы капитала.

Если вы хотите конвертировать деньги в результаты, вероятно, самой серьезной вашей проблемой будет наём нужных специалистов. Это сопряжено с рядом трудностей:

  1. Часто трудно оценить талант в области, в которой у вас самих его особо нет. Поэтому в поисках таланта вы часто будете его упускать.
  2. Талант, особенно с подтверждённой квалификацией, редок. Из-за пункта 1 многие участники рынка не могут позволить себе рисковать с непроверенными кадрами, поэтому квалифицированных специалистов на всех просто не хватает.
  3. Даже если вам удастся найти лучших специалистов, их как правило, сложнее переманить деньгами, чем остальных.

С появлением заменяющего человеческий труд ИИ эти проблемы исчезают:

Во-первых, ИИ можно копировать. Сейчас огромные капиталы охотятся за единственным звёздным исследователем, который совершил прорыв, и так сделал свой талант очевидным для тех, кто контролирует деньги — для людей, способных оценить масштаб общественного резонанса от статьи, но обычно неспособных оценить сам талант напрямую. Но если звёздный исследователь — это ИИ, его можно просто скопировать. Кто угодно, или, по крайней мере, каждый, у кого достаточно денег, чтобы сжигать их на GPU, получает своего звёздного ИИ-исследователя. Больше нет нужды перебирать толпы уникальных людей с их непроверенными талантами.

Во-вторых, цена таланта резко снизится, ведь ИИ будет дешевле эквивалентного человеческого труда, а конкуренция станет жёстче из-за возможности ИИ копировать.

В-третьих, у многих выдающихся талантов есть сложные человеческие предпочтения, из-за которых их трудно перекупить. Выдающийся художник искренне привязан к своему творческому видению. Выдающийся математик глубоко ценит элегантность и красоту. Выдающийся предприниматель глубоко верит в то, что делает, да и в любом случае, наверное, не смог бы нормально работать по найму. Человеческий талант и результативность на удивление тесно переплетены с сакральной связью с дисциплиной или миссией. ИИ, напротив, созданы именно так, чтобы их было элементарно купить (по крайней мере, в рамках того, на что они обучены). Гениальный ИИ-математик, в отличие от человека, с радостью потратит своё ограниченное время на Земле на доказательство правильности банальнейшего кода.

Наконец, в итоге ИИ станут справляться со своими задачами гораздо лучше любых сотрудников-людей.

Получается, способность покупать результаты в реальном мире за деньги резко возрастёт, как только у нас появится заменяющий труд ИИ.

Больше никаких исключительных результатов?

Мы уже обсуждали, как ИИ и робототехника сделают большую часть труда ненужной. Но в итоге даже самые талантливые люди начнут уступать ИИ. Что произойдёт тогда?

Многие изменения в мире происходят благодаря людям, которые изначально не обладают властью, но обретают её, достигнув исключительного успеха. Вполне логично: у тех, кто уже у власти, редко есть энтузиазм для продвижения масштабных перемен, ведь именно им больше всех выгоден статус-кво.

Каковы бы ни были ваши взгляды на неравенство доходов или на какую-либо конкретную группу людей, добившихся исключительного успеха, возможность, что кто-то его достигнет и изменит мир, важна для предотвращения застоя и хода социального прогресса.

Рассмотрим влияние заменяющего труд ИИ на разные пути достижения исключительного успеха трудом:

Предпринимательство всё чаще становится для амбициозных молодых людей, по выражению Мэтта Клиффорда, предпочтительной «технологией амбиций». Сейчас оно упростилось. ИИ-инструменты уже сегодня позволяют небольшим командам работать гораздо эффективнее без нужды нанимать новых сотрудников. Ещё они снижают барьер входа для освоения новых навыков и сфер деятельности. Но заменяющий труд ИИ ставит под сомнение саму жизнеспособность предпринимательства. Возможно будущее, в котором ИИ останутся преимущественно инструментами, и предприниматели смогут добиваться успеха ещё долго после автоматизации большей части человеческого труда, потому что именно они будут обеспечивать инициативу и задавать направление. Но всё же весьма вероятно, что достаточно сильный ИИ в итоге сделает человеческое предпринимательство ненужным. Например, венчурные фонды смогут просто конвертировать деньги в сотни попыток запуска управляемых ИИ стартапов без промежуточного этапа поиска предпринимателей-людей, которые бы этими ИИ для них управляли.

Точные науки. Эпоха человеческих достижений в точных науках может завершиться в течение нескольких лет из-за темпов прогресса ИИ во всём, где есть чёткие сигналы вознаграждения.

Интеллектуалы. Кейнс, Фридман и Хайек — все они занимались технической работой в области экономики, но их огромное влияние было связано с тем, что они продвигали выработанные ими мировоззрения. Это делало их влиятельнее таких людей, как Пол Самуэльсон, доминировавший в математической экономике. Джон Стюарт Милль, Джон Ролз и Генри Джордж тоже были влиятельны благодаря своим подходам, мировоззрениям и философиям. Ключевое отличие таких людей от представителей точных наук в том, что выводы их работы оцениваются через не только техническую корректность, но и моральное суждение. Важная причина, позволяющая идеологиям интеллектуалов набирать столько силы, в том, что они — плоды гениальности в мире, где она встречается редко. Поток идеологий, созданных ИИ, может означать, что никакая отдельная идеология, и уж точно человеческая, больше не сможет сиять так ярко. Интеллектуалы мирового масштаба могут исчезнуть.

Политика, возможно, будет одной из наименее затронутых сфер, потому что, нам кажется, большинство людей хотят, чтобы эту работу выполнял человек. А ещё потому, что политики сами устанавливают правила того, что разрешено. Но харизма сгенерированных ИИ аватаров и общая неприязнь к политикам могут и здесь преподнести сюрприз. Тут ещё и трудно сказать, больше ли это всё на руку действующим политикам. ИИ может снизить затраты на многие аспекты политических кампаний, что уменьшит ресурсный барьер для входа. Но слишком дорогой для мелких игроков ИИ будет значительно лучше более дешёвого, это сыграет на руку тем, у кого больше ресурсов. Мы ожидаем, что эти прямые последствия будут меньше косвенных последствий изменений, которые ИИ внесет в меметический ландшафт, какими бы они ни были.

Военный успех как прямой путь к огромной власти и радикальным переменам, к счастью, практически не встречался со времён Наполеона. Развитие технологий повышает минимальный уровень промышленной базы для создания современной армии, что играет на руку тем, у кого она уже есть. ИИ, по всей видимости, будет под контролем самых могущественных стран. Исключением может быть случай, если ИИ упростит государственные перевороты в крупных странах. Контроль над будущими ИИ-армиями, вероятно, будет как (а) более централизованным, чем раньше, ведь для военной операции больше не потребуется участие стольких людей, так и (б) более крепким, потому что разрешения могут быть заложены в код, а не в человеческие социальные нормы. Эти два фактора указывают в разных направлениях, так что неясно, каким будет суммарный эффект на лёгкость осуществления переворотов. Ещё одно возможное исключение — если сочетание революционных тактик с дешёвыми дронами позволит «Наполеону дронов» одержать победу над существующими армиями. Важно, однако, что ни один из этих сценариев, как думается, скорее всего не поспособствует позитивным радикальным изменениям статус-кво.

Всё это означает, что как только у нас появится заменяющий труд ИИ, возможность получить и использовать власть в реальном мире без имеющегося капитала резко снизится.

Обеспечение уравнивания маловероятно

The Great Leveler — хорошая книга по истории неравенства. Она (по крайней мере, по мнению автора) довольно хорошо выдержала критику. Её вывод — что все крупные сокращения неравенства в прошлом были вызваны одним из «Четырёх всадников уравнивания»: тотальной войной, насильственной революцией, крахом государства и пандемиями. Исторически выравнивание разницы доходов было настолько сложной задачей, что почти никогда не происходило в результате сознательного политического выбора.

Представьте, что заменяющий труд ИИ уже здесь. Между странами и компаниями развернулась массовая грызня за максимально эффективное использование ИИ. У всего этого высокая капиталоёмкость, так что всем приходится добиваться расположения владельцев капитала. Ведущие ИИ-компании обладают властью, сопоставимой с государствами. Вряд ли главным приоритетом политической повестки дня окажется перераспределение благ.⁠⁠2

Так что, даже если мы окажемся в очень богатом обществе, маловероятно, что люди будущего начнут свою жизнь в нём на равных условиях. Маловероятно и что позже они смогут существенно изменить своё относительное положение.

Рассмотрим ещё вопрос равенства государств. Некоторые страны, вероятно, получат от ИИ гораздо больше выгод, чем другие. В рамках любой политической системы, похожей на нынешнюю, государствам будет сложно распространить на неграждан многие уравнивающие меры, вроде безусловного базового дохода (UBI). Это относится даже к США — самой либеральной и гуманистической великой державы в истории. Так что по умолчанию мировой порядок может даже в большей степени, чем сегодня, оказаться похожим на глобальную кастовую систему, основанную на стране рождения.⁠⁠3

Результат по умолчанию

По умолчанию в мире, где ИИ заменил труд:

  • За деньги можно будет эффективнее, чем когда-либо, покупать результаты в реальном мире
  • Труд людей даёт им меньше рычагов воздействия, чем когда-либо прежде
  • В большинстве или во всех сферах теперь невозможно достичь выдающегося успеха благодаря своему труду
  • Не произойдёт трансформационного уравнивания капитала ни внутри стран, ни между ними

Получается, те, у кого к моменту появления заменяющего труд ИИ был значительный капитал, получают постоянное преимущество. Они будут обладать большей властью, чем сегодняшние богачи. Новые игроки не смогут их победить, потому что в любой сфере капитал будет элементарно конвертироваться в сверхчеловеческий труд.

В лучшем случае этот мир будет похож на более расслоённую, беспрецедентно статичную и гораздо более богатую Норвегию: огромный запас не требующих человеческого труда ресурсов (в случае Норвегии — нефть), приносит блага каждому; и да, кто-то богаче остальных, но высокий уровень жизни обеспечен всем. Единственные реалистичные формы человеческих амбиций — это участие в локальных социальных и политических играх внутри своего сообщества и класса. Без крупного капитала у вас нет шансов хоть как-то влиять на большой мир. Помните: ИИ — лучшие поэты, лучшие художники, лучшие философы — лучшие буквально во всём; кому будет дело до того, что делает какой-то человек, если только вы его не знаете лично? В феодальных обществах ответ на вопрос «почему этот человек влиятелен?» обычно включал длинную родословную, возможно, восходящую к далекому предку, сражавшемуся в важной битве: «мой прапрадед бился при Босворте!». В будущем же ответ будет ссылаться на то, что сам человек или кто-то из его близких успел сделать в эпоху до СИИ: «а, мой дядя был техническим специалистом в OpenAI». Дети будущего проживут жизнь в тени своих родителей, а социальная мобильность исчезнет. Это далеко не худшее будущее, какое можно вообразить, но что-то важное уйдёт навсегда.

В менее удачном случае ИИ-триллионеры обладают практически неограниченной и несдерживаемой властью. Формируется несменяемая аристократия, их статус определён капиталом, которым они обладали в момент появления заменяющего труд ИИ. Разрыв во власти между классами заставил бы содрогнуться современного человека так же, как мы считаем гротескными феодальные сословные иерархии. Но не волнуйтесь: низшие слои при феодализме в большинстве своём принимали окружающее мироустройство благодаря своей культуре, даже без сверхчеловечески убедительных ИИ; будущие низы тоже смирятся.

В самом худшем случае человечество вымрет, возможно, из-за медленной оптимизации в пользу власти ИИ в ущерб процветанию людей на протяжении долгого времени. Ведь именно туда будут толкать стимулы власти и денег.

Дорога к «проклятию интеллекта»

Мы видели, как передовой ИИ угрожает как обычным карьерным путям, так и способности выдающихся талантов влиять на мир. Власть и рычаги воздействия на мир у большинства людей проистекают из их способности выполнять полезную работу — из экономической востребованности. Заменяющий труд ИИ может эту власть и рычаги уничтожить. Это по умолчанию повлечет далеко идущие последствия.

За последние несколько столетий произошел значительный сдвиг: государства стали больше заботиться о людях. Почему? Можно рассмотреть причины, чтобы понять, насколько они кажутся устойчивыми:

  1. Моральные и политические перемены вследствие эпохи Просвещения. В частности, всё большая роль либерализма и индивидуализма.
  2. Достаток и технологии. Доиндустриальные общества в большинстве своём были настолько бедны, что масштабная помощь неимущим их бы обанкротила. К тому же многие виды помощи (например, эффективная медицина) стали возможны только благодаря новым технологиям.
  3. Стимулы государств заботиться о свободе, процветании и образованности.

ИИ сильно поможет со вторым пунктом. Влияние на первый будет сложным. Но вот третий часто недооценивают. С появлением заменяющего труд ИИ стимулы государств — в смысле того, какие действия максимизируют их конкурентоспособность относительно других стран и/или собственную мощь — больше не будут так совпадать с интересами людей. Адам Смит писал, что его ужин не зависит от благожелательности мясника, пивовара или пекаря. Сегодня классический либерал может с полным основанием утверждать, что дуга истории действительно склоняется к свободе и изобилию для всех — из-за не благожелательности государства, а стимулов капитализма и геополитики. Но после появления заменяющего труд ИИ это перестанет быть так.

Мы называем это «проклятием интеллекта», и именно его рассмотрим дальше.

4. Определение «проклятия интеллекта»

Кратко: С появлением СИИ влиятельные игроки утратят стимул инвестировать в обычных людей — прямо как сегодня богатые ресурсами государства пренебрегают своими гражданами, потому что их богатство исходит от природных ресурсов, а не налогообложения человеческого труда. Это и есть «проклятие интеллекта».

Экономисты привыкли моделировать ИИ как инструмент, поэтому они не понимают, как он может сделать людей ненужными. Прошлые технологические революции расширяли человеческий потенциал. Аграрная революция породила цивилизацию; промышленная революция позволила отмасштабировать её.

Но СИИ гораздо больше похож на нефть или уголь, чем на плуг, паровой двигатель или компьютер. Как и эти ресурсы:

  • Для его открытия и освоения потребуется огромный капитал.
  • Контроль, скорее всего, будет сосредоточен в руках нескольких игроков: лабораторий, разрабатывающих ИИ; государств, где они находятся; и компаний, производящих сырьё, микросхемы, роботов и электроэнергию, в которой все они нуждаются.
  • Государства и компании, чья прибыль исходит преимущественно или полностью от ИИ, перестанут зависеть от людей в получении доходов.

Эта проблема очень напоминает недуг, поражающий государства-рантье, чьё богатство строится в основном на ренте от ресурсов, а не налогах с граждан. Эти государства страдают от «ресурсного проклятия»: несмотря на природный источник доходов, они хуже экономически диверсифицированных стран справляются с повышением уровня жизни обычных граждан.

Влиятельные игроки, получая заменяющие труд ИИ-системы, столкнутся с характерными для государств-рантье стимулами, но ставки будут гораздо выше. Их доходы начнут идти от легкодоступного интеллекта, а не от людей, они не будут получать отдачи от инвестиций в образование для подготовки людей к трудоустройству, в создание рабочих мест, в зарплаты или в социальную поддержку безработных. Потому они перестанут инвестировать, и люди не смогут сами себя обеспечивать. Людям просьба не обращаться, вот и платить им никто не будет.

Это и есть «проклятие интеллекта» — когда влиятельные игроки создадут и внедрят универсальный ИИ, они утратят стимулы инвестировать в людей.

Почему влиятельные игроки заботятся о вас

Под влиятельными игроками мы подразумеваем крупные организации, вроде государств, корпораций и бюрократий, контролирующих значительные объёмы ресурсов, что позволяет им формировать, в каком мире мы живём и как мы с ним взаимодействуем.

Влиятельные игроки не заботятся о вас по доброте душевной. У них есть две причины:

  1. Инвестиции в вас возвращаются, обычно за счет налогов или прибыли.
  2. Вы влияете на их способность удержать власть — либо демократическими механизмами, вроде голосования, либо убедительными угрозами режиму.

Экономика большинства современных государств диверсифицирована: блага создаются множеством разных отраслей и видов человеческой деятельности, а не обеспечиваются одним или горсткой источников. Странам нужны налоги с людей и корпораций, поэтому они увеличивают свои доходы, повышая производительность граждан.⁠⁠4 У государств есть стимул готовить инженеров, предпринимателей, инноваторов и других экономически продуктивных работников, и создавать среду, где они смогут обеспечить возврат инвестиций. Для этого оно, как правило, стремится:

  • Основывать качественные школы, научно-исследовательские институты и университеты
  • Создавать инфраструктуру, вроде дорог и общественного транспорта
  • Устанавливать надёжные системы управления и суды для защиты прав собственности
  • Защищать свободу слова и обмен информацией
  • Поддерживать создание малого бизнеса
  • Содействовать развитию конкурентных рынков.
  • Создавать системы социальной защиты, способствующие принятию рисков

Всё это повышает производительность граждан и увеличивает шансы на инновации. Не менее важно, что именно такие меры выводят людей из крайней нищеты, повышают уровень жизни и обеспечивают политические и экономические свободы. Хорошие школы, инфраструктура и конкурентные рынки дают людям получать образование и высокооплачиваемую работу, доход от которой превышает базовые потребности. А надёжные системы управления, справедливые суды и свобода слова дают требовать чего-то у государства без опасения стать политическим заключенным. Право голоса и экономический вклад дают гражданам переговорную силу, что позволяет им добиваться повышающих уровень их жизни изменений. В результате государства иногда уступают требованиям граждан, даже если это недёшево.

Аналогично происходит и в корпорациях. Возьмем, например, заоблачные зарплаты в Кремниевой долине. В сфере высоких технологий специалисты обладают навыками, которые совершенно необходимы компаниям, чтобы больше зарабатывать.⁠⁠5 Эти работники крайне востребованы, за них идёт ожесточённая конкуренция. Чтобы их переманить, компании платят огромные деньги, предлагают опционы на акции, закупают бильярдные столы, заводят круглосуточное бесплатное питание от мишленовских шеф-поваров и даже прачечную. Никто не говорит, что корпоративная прачечная увеличивает доход в 10 раз, но она может привлечь потенциального сотрудника или удержать кого-нибудь от ухода к конкуренту. У сотрудников есть переговорная сила, поэтому они могут требовать щедрых бонусов, улучшающих их качество жизни.

Получается петля обратной связи: обычные люди приносят влиятельным игрокам больше денег, поэтому те с большей вероятностью идут им навстречу. Образование поможет увеличить, сколько ваши граждане (а значит, и государство) могут заработать? Стройте школы. Оплачиваемые отпуска по семейным обстоятельствам привлекут в вашу компанию лучших сотрудников? Вот и предоставляйте их.

Ресурсное проклятие

Уже есть общества, где экономический выхлоп страны отделён от её человеческого капитала. Их называют государствами-рантье. Они, а в их числе Венесуэла, Саудовская Аравия, Норвегия и Оман, получают большую часть своих доходов от природных ресурсов (обычно нефти), а не продуктивной деятельности своих граждан.

В недрах Демократической Республики Конго сосредоточены неразработанные полезные ископаемые на сумму более 24 триллионов долларов. Как дела у её граждан? По данным Всемирного банка:

Большинство жителей ДРК не получает выгоды от этого богатства. Долгая история конфликтов, политических потрясений и нестабильности, а также авторитаризм, привели к тяжёлому и непрекращающемуся гуманитарному кризису. Кроме того, происходит насильное перемещение населения. Эта ситуация существенно не менялась с окончания конголезских войн в 2003 году.

ДРК входит в пятёрку беднейших стран мира. Оценивается, что в 2024 году 73,5 % конголезцев жили менее чем на 2 доллара 15 центов в день. Примерно каждый шестой человек за чертой крайней бедности в тропической Африке живёт в ДРК.

Как это творится? Как вышло, что доступные ресурсы стоимостью в триллионы обернулись жуткой нищетой?

Экономисты и политологи называют это «ресурсным проклятием». Страны с богатыми природными ресурсами, как правило, демонстрируют меньший экономический рост и больший уровень бедности, чем их диверсифицированные аналоги.⁠⁠6

К «ресурсному проклятию» приводит много факторов, но ключевой — ресурсы создают властям стимулы перестать заботиться об экономическом благополучии своего народа.

Поскольку государства-рантье зарабатывают на ресурсах, у них нет стимулов платить простым людям сегодня или инвестировать в их будущее. Строительство хороших школ не принесёт больше денег. Они вкладывают ровно столько, сколько надо, чтобы достать нефть из земли, залить в цистерны и отправить в порты.⁠⁠7 Граждане вполне способны на что-то, с чего можно было бы получать налоги, но причин превращать их в налогоплательщиков нет. Зачем просить денег у своего народа, если их можно достать из-под земли?⁠⁠8

Без денег простым людям трудно выдвигать свои требования. В автократиях нет стимулов заботиться о населении, если только оно не может убедительно угрожать власти. Те, кто контролирует ренту, могут извлекать богатство, не беспокоясь обо всех остальных.

Так как же выглядит жизнь их граждан? Д-р Фердинанд Эйбл и д-р Штеффен Хертог предлагают две противоположные точки зрения:

В сравнительной политологии на мало вопросов предлагаются столь же резко контрастирующие прогнозы, как на вопрос о связи ресурсной ренты с государственным социальным обеспечением. Некоторые авторы, особенно сторонники теории «государства-рантье», ожидают, что правители нефтедобывающих стран будут прибегать к массовой кооптации, политически умиротворяя население с помощью широких мер социального обеспечения (Beblawi and Luciani 1987; Karl 1997). Другие, особенно авторы формальных моделей политики в богатых нефтью странах, ожидают, что правители-рантье будут пренебрегать своим населением. Рента присваивается небольшой правящей элитой, которой не нужна внутренняя экономическая база для собственного обогащения, так что социальное обеспечение оказывается минимальным и распространяется нищета (Acemoglu, Robinson and Verdier 2004; Mesquita and Smith 2009).

Есть эмпирические примеры обеих траекторий. У Омана и Экваториальной Гвинеи в целом сопоставимые уровни ренты от природных ресурсов — чуть более 8 000 долларов США на душу населения в период с 1995 по 2014 год (Ross 2013). Обе страны с 1970-х годов, когда они были крайне бедны, находятся под властью несменяемых автократов. При султане Кабусе в Омане стремительно расширялась сфера общественных услуг, что привело к одному из самых быстрых в мире снижений детской смертности: со 159 на тысячу живорождённых в 1971 году до 9 к 2010 году — значительно ниже средних 32 по Ближнему Востоку. В Экваториальной Гвинее при Теодоро Обианге за пределами служб безопасности государство всё ещё в зачаточном состоянии, подавляющее большинство населения так и живёт в крайней нищете, а младенческая смертность снижается мучительно медленно: с 263 в 1971 году к 109 в 2010 году, что всё ещё выше (высокого) среднего показателя в 89 по странам тропической Африки. Доступ к прибыли от ресурсов монополизирован небольшим окружением президента (Wood 2004).

Иногда государства-рантье создают обширные системы социальной защиты. Но часто они приводят к тому, что почти все, кроме немногих контролирующих потоки ренты, оказываются в жуткой нищете.⁠⁠9 Почему? Эйбл и Хертог дают ответ:

Мы согласны с формальными моделями политики в богатых ресурсами странах, что правящие элиты стремятся обеспечить сохранение своей власти. Государственная политика подчинена этой главной цели и отражает оценку элитами угроз своему правлению. В рамках этих ограничений элиты будут стремиться максимизировать свою личную ренту за счет доходов от ресурсов.

Мы согласны и с существующей литературой, что относительная экономическая отдача от социального обеспечения в режимах, основанных на ресурсах, ниже, а потенциальные эффекты модернизации становятся политически нежелательными (Acemoglu and Robinson 2006; Mesquita and Smith 2009). Поэтому, при прочих равных условиях, мы ожидаем, что богатые нефтью режимы будут формировать узкие клептократические коалиции с ограниченным социальным обеспечением и разгулом самообогащения элиты.

Объяснение «проклятия интеллекта»

«Проклятие интеллекта» описывает экономические стимулы после появления СИИ, которые будут подталкивать влиятельных игроков вкладываться в искусственный интеллект, а не в людей. Если ИИ может выполнять вашу работу дешевле и быстрее, нанимать вас незачем. Но, что еще важнее, нет экономических причин инвестировать в вашу продуктивность на протяжении всей жизни, заботиться о вас и вообще вас зачем-то оставлять. Полностью автоматизированная экономика может создавать невиданные блага, но если они будут распределяться так же, как в худших государствах-рантье, к процветанию масс это не приведёт.

«Проклятие интеллекта», вероятно, окажется сильнее «проклятия ресурсов», потому что ИИ будет всё время совершенствоваться. ИИ и робототехника не просто дадут государству альтернативный поток доходов, для управления которым по-прежнему нужны люди, а целиком заменят потребность в людях во всех сферах экономики, вооруженных силах и государственной бюрократии. А ещё ИИ не может «иссякнуть», как нефть. У государств-рантье остаётся долгосрочный стимул диверсифицировать экономику, но у государств эпохи СИИ такого стимула не будет.

Распространённый контраргумент: некоторые виды работы никогда не будут автоматизированы, поскольку мы будем требовать, чтобы их выполняли люди.

Например, учителя. Большинство родителей, вероятно, очень хотели бы, чтобы за их детьми в течение дня присматривал настоящий живой учитель. Но этот аргумент совершенно упускает из виду общую картину: проблема в отсутствии не спроса на учителей, а стимула финансировать школы. Этот аргумент ad nauseam повторяется в отношении любых инвестиций в продуктивный потенциал обычных людей, предметов роскоши, на которые нужны свободные деньги, или благ, помогающих им держаться на плаву. По умолчанию влиятельные игроки не будут создавать то, что обеспечивает людей работой или предоставляет им ресурсы, ведь у них просто не будет в этом нужды.

Налоги останутся важным источником дохода государств, но только налоги с корпораций. А сами корпорации будут зарабатывать деньги на своих ИИ-системах, а не на результатах человеческого труда. Инвестиции, которые развитый мир ассоциирует с высоким качеством жизни — зарплаты, инфраструктура, образование, стабильное государственное управление и т. д., — больше не будут окупаться. Люди не принесут влиятельным игрокам никаких денег.

Откуда же они тогда будут получать деньги?

Государства будут получать доход от налогов с корпораций. У компаний, которые создают и используют передовые ИИ-системы, будет высокая выручка. По мере их роста государства будут облагать их всё бóльшими налогами. В 2022 году налоги с корпораций составляли 11,5 % доходов среднестатистического государства ОЭСР — выборки высокоэффективных и диверсифицированных экономик. Подобно Норвегии (около 30 % доходов государства от нефти), Саудовской Аравии (75 %) и Демократической Республике Конго (около трети государственных доходов от добычи полезных ископаемых), государства будут меньше полагаться на подоходные налоги и больше — на налоги с ИИ-компаний или других предприятий, позволяющих влиятельным игрокам достигать своих целей. Когда структура государственных доходов станет напоминать эти страны больше, чем средние показатели по ОЭСР, вы поймёте, что проклятие интеллекта вступило в силу.

ИИ-лаборатории будут зарабатывать деньги, став новыми рантье. Заявленные цели ИИ-лабораторий — создать СИИ. OpenAI уже меняет свою корпоративную структуру, чтобы снять ограничения на долю прибыли от СИИ, которую они могут оставлять себе. Этому не помешало то, что изначально их корпоративная структура была выстроена так, чтобы, если СИИ станет большей частью экономики, OpenAI распределяли прибыль сверх некоторого порога по всему миру. Как только у лабораторий появится способная на всё ИИ-система, они превратятся в горизонтальный слой экономики, извлекающий ренту из всей экономической деятельности, продавая свою систему компаниям и государствам, которые будут использовать её для замены работников. И они приложат все усилия, чтобы поглотить экономику и по вертикали. Если у них получится, они обретут экономическую власть, до этого доступную лишь государствам. Генеральный директор Anthropic Дарио Амодеи сравнил влияние ИИ со «страной гениев в дата-центре». Обратите внимание на формулировку — страна гениев. Если лаборатории воплотят такое в жизнь, это будет похоже не на очередную действующую в экономике компанию, а скорее на внезапное появление нового государства, превосходящего любую страну мира по населению, жители которого — гораздо более дешёвые, умные и быстрые работники, чем любой человек.⁠⁠10

Компании будут торговать между собой и с другими влиятельными игроками. Земля, энергия, производственные и вычислительные мощности, датацентры и роботы всё ещё будут ценны, потому что они позволяют влиятельным игрокам достигать своих целей. Сети кафе и маркетинговые фирмы утратят актуальность, а вот арендодатели и энергетические компании смогут зарабатывать больше, чем когда-либо. Подавляющая часть ценности для влиятельных игроков (вероятно, хоть какое-то время находящихся под управлением людей) будет браться из этих источников.

Так что произойдёт с большинством обычных людей, если предположить, что влиятельные игроки последуют траектории по умолчанию?

  • У компаний будет стимул увольнять их и никогда не нанимать новых. Люди не будут производить ничего ценного для компаний. Поначалу на людей, возможно, будут полагаться как на потребителей, но большинство ориентированных на людей компаний сойдут на нет, когда база их спроса утратит экономическую значимость.
  • Государствам будет выгодно радикально урезать социальные расходы. Помните, что основа их дохода сместится в сторону других влиятельных игроков. Они перестанут извлекать выгоду из труда людей, так что не будут заинтересованы создавать условия, превращающие их в продуктивных работников. Возврат инвестиций — капитал, власть и устойчивость — будет обеспечиваться тем, что ИИ-лаборатории могут создавать лучшие модели, а использующие их компании могут действовать в реальном мире. Кроме того, налоги на финансирование инвестиций в людей будут в значительной степени поступать от СИИ-лабораторий. Конкуренция между государствами означает, что если одно из них попытается ввести безусловный базовый доход за счет этих налогов, оно может отстать от других.
  • Обычные люди не смогут обеспечить себя. Подавляющее большинство людей не будет обладать экономической мощью для выдвижения каких-либо требований. Они не смогут стимулировать игроков, контролирующих ресурсы, вкладываться в них. Выходит, (в лучшем случае) они будут полагаться на благотворительность влиятельных игроков. В худшем случае они не смогут заработать даже на поддержание жизни, и никто не придет им на помощь.

Какое-то время они может и смогут создавать определённую ценность. Государствам-рантье нужно некоторое число людей для выполнения физических задач — кто-то же должен добывать нефть из-под земли. Возможно, пока агенты будут ограничены виртуальными формами, люди смогут зарабатывать физическим трудом. По мере прогресса робототехники⁠⁠11 потребность в них будет снижаться. Они не смогут участвовать в экономике, поскольку не будут уметь делать что-либо лучше, быстрее, дешевле или надёжнее, чем искусственные заменители.

Государства-рантье извлекают ценность в основном из сырья или физических товаров, которые затем продаются иностранным покупателям — обычно другим государствам или компаниям. Немного людей участвуют в добыче сырья или управлении этим процессом, но большинство не получает от него выгоды. Здесь следует ожидать аналогичного сценария. Это приводит к очевидному вопросу: для кого влиятельные игроки вообще всё производят?

Может ли экономика отодвинуть потребление людей на второй план?

У влиятельных игроков, а значит и у производства, есть цели. Государства стремятся к контролю над территориями, а компании — к обогащению своих владельцев. У накопивших значительный капитал частных лиц тоже будут свои цели. Возможно, они захотят использовать новообретённую власть для колонизации Марса или разработки океанских недр. Цели могут быть и менее эпичными — многим сверхбогатым людям вполне хватает максимизации их собственного удовольствия. Все они будут стремиться обеспечить безопасность своего нового положения, что может потребовать огромных объёмов власти и ресурсов.

Что ещё важнее, если обычные люди не включены в цикл производства ценности, нет никаких стимулов передавать им плоды этого производства. С потерей продуктивности люди теряют и экономическое влияние на экономику через свой потребительский выбор. Экономика будет всё сильнее оттеснять их на второй план. В пределе большая часть экономики может замкнуться в циклах, которые будут полностью обходиться без потребителей-людей.

Преодоление «ресурсного проклятия»

Есть два основных способа, как государства полностью преодолевают «ресурсное проклятие»: эффективное перераспределение ресурсов и диверсификация экономики⁠⁠12, создающая стимулы заботиться о своем народе.

Во-первых, государство может создать эффективные институты для управления прибыльным ресурсом. Маси и Риччути в 2019 году обнаружили, что после открытия месторождений нефти большинство государств становились менее демократичными. Но страны, в которых уже был относительно высокий уровень демократии, избегали негативных последствий.

Как пример возьмём Норвегию. Она, пожалуй, даже совершила «ресурсное чудо». Это одна из самых богатых стран мира, и её население получает прямую выгоду от природных богатств. Индекс человеческого развития Норвегии — второй в мире. Её суверенный фонд, инвестирующий колоссальные нефтяные доходы, оценивается более чем в 1,7 триллиона долларов, или свыше 300 тысяч долларов на душу населения. Норвегия ещё и неизменно входит в число самых счастливых стран.

Норвегия преодолела «ресурсное проклятие» исключительно благодаря превосходному управлению, но многие предостерегают от попыток просто скопировать её успех. Страна выстроила сильную демократию с высоким административным потенциалом ещё до обнаружения нефти. Доктор Стейнар Холден — норвежский экономист, работавший советником в министерстве финансов, — объяснил проблему с использованием их опыта как модели:

В какой степени опыт Норвегии может быть скопирован другими? Сложно это оценить, особенно если речь о странах на совсем ином этапе политического и экономического развития. Когда в Норвегии обнаружили нефть, страна уже была стабильной демократией, ещё со времён обретения независимости в 1905 году. У неё был исправно функционирующий государственный аппарат с минимальным уровнем коррупции. Правовая система работала хорошо, а СМИ активно оценивали и комментировали работу системы.

Немногие государства настолько же демократичны, эффективны и не коррумпированы, как Норвегия. Это узкий и постоянно сужающийся путь; 2024 год стал 19-м годом подряд глобального отката свободы. Достичь этого трудно, а быстро — ещё труднее. Мало стран становятся передовыми демократиями лишь потому, что в будущем у них могут найти нефть.

Во-вторых, государство может диверсифицировать экономику, поставив человеческий труд в центр, чтобы ни один ресурс не мог в ней доминировать. Это применимо к уже диверсифицированным экономикам, но и после обнаружения нефти остаётся эффективной стратегией. Например, видя, что приближается пик производства нефти, многие нефтедобывающие страны начали диверсификацию. Программа Саудовской Аравии «Видение 2030» ставит целью создание «благоприятной деловой среды для бизнеса любого размера». Неудивительно, что, двигаясь по пути диверсификации, Саудовская Аравия одновременно пытается пересмотреть своё отношение к женщинам. Но, как уже обсуждалось, СИИ — не ограниченный ресурс, как нефть. Так что когда появится ИИ, способный заменить человеческий труд, стимулы к диверсификации будут гораздо слабее.

Есть и третий путь, но он менее актуален. Эйбл и Хертог 2023 отмечают, что в авторитарных государствах убедительные угрозы восстания побуждают влиятельных игроков пойти на уступки массам и выстраивать социальные государства. Они показывают, что это применимо к большинству монархий Персидского залива, особенно к Оману.

У нас три возражения против этого подхода как модели для авторитарных государств в условиях «проклятия интеллекта». Для начала, мы не считаем, что это «преодолевает» ресурсное проклятие, ведь у государств остаются стимулы отодвигать интересы населения на второй план. Дальше, в связи с этим мы ожидаем, что такие уступки не будут стабильны. Режимы, успешно подкупившие свой народ после угроз восстания, всегда могут вернуться к репрессиям. В-третьих, мы считаем, что этот подход с гораздо меньшей вероятностью сработает для продвинутого ИИ, потому что ожидаем, что развитый ИИ даст государствам куда большую инфраструктурную власть⁠⁠13, что согласуется с концепцией Буллока, Хаммонда и Криера о «деспотичном Левиафане» на базе СИИ («СИИ, государства и свободные общества»). Так влиятельные игроки смогут выявлять почти все крупные угрозы своей власти. Более того, новые технологии, вроде дешёвых и высокоэффективных автономных дронов, могут изменить баланс сил так, что вооруженные восстания больше не будут представлять угрозу государству. По всем этим причинам мы ожидаем, что автократии с заменяющим человеческий труд ИИ падут жертвами «проклятия интеллекта». Демократия, вероятно, является необходимым условием для его преодоления.

Подводя итог: ресурсное проклятие лишает государства стимула инвестировать в свой народ, что часто приводит к ужасающим результатам. Есть два актуальных подхода для его преодоления:

  • Доверие к институтам, что они будут контролировать ресурс и оставаться ориентированными на общественное благо
  • Диверсификация экономики с постановкой людей в центр внимания

Мы подробнее разберем, как преодолеть «проклятие интеллекта», но сначала рассмотрим его влияние на общественный договор, то, насколько экономические стимулы в действительности формируют общество и может ли СИИ изменить эту ситуацию.


Оригинальная публикация: Luke Drago и Rudolf Laine (2025) The intelligence curse, The Intelligence Curse.

1 2 3 4 5 6 7 8 9 10 11 12 13