Наступила эпоха турбулентности из-за ИИ. Решения, которые мы принимаем сейчас, имеют решающее значение
Нам нужен план, чтобы гарантировать, что польза перевесит вред
За всю жизнь у меня было всего два места работы. На первом, в Microsoft, я участвовал в разработке ПО, призванного расширять возможности людей.
На втором, которым я полностью занят с 2008 года, я возвращаю обществу заработанное в Microsoft состояние, чтобы сделать мир более здоровым, образованным и справедливым. Этой работе я посвящу всю оставшуюся жизнь.
Оба этих опыта формируют мой взгляд на искусственный интеллект. Когда в 13 лет я впервые узнал о компьютерах, меня очаровала идея сделать их умнее и научить их тому, что тогда умели только люди. Хотя термин «ИИ» использовался примерно с момента моего рождения, сама технология заметно продвинулась лишь в последнее десятилетие. Сейчас её способности невероятны, и она продолжает совершенствоваться с ошеломляющей скоростью. Впервые ИИ может заменить и даже превзойти человеческое мышление.
С точки зрения справедливости ИИ станет либо величайшим уравнителем в истории, либо худшим источником несправедливости. Колоссальный вызов. Даже при самых благоприятных обстоятельствах переход в эту новую эпоху ИИ станет одним из самых бурных периодов в истории человечества. Как мы будем использовать эту технологию, чтобы сделать мир более справедливым и не допустить усугубления разрыва между богатыми и бедными? Как мы будем защищать самых уязвимых перед вредом от искусственного интеллекта людей, в том числе тех, кто лишится средств к существованию и ощущения контроля над своим будущим?
Я считаю, что найти ответы на эти вопросы и действовать согласно им — главный приоритет для всего мира. Если мир предпримет верные шаги, ИИ станет силой добра и улучшит жизнь каждого.
К сожалению, сейчас мы к этому не готовимся. Я не вижу, чтобы лидеры, эксперты и сообщества сколько-нибудь адекватно отвечали на эти вызовы. Нет плана, который облегчил бы нам вход в эпоху ИИ.
Отчасти это объясняется тем, что многие комментаторы недооценивают масштаб влияния ИИ на мир. Причин, по-моему, несколько.
Одна из них — ИИ-модели всё ещё допускают ошибки. Трудно представить, что какая-либо из них сможет заменить человеческое мышление, когда ещё не так давно они не могли решить простую головоломку судоку или определить, сколько букв «R» в слове strawberry.
Но проблема надёжности быстро решается: исследователи создают модели, умеющие проверять собственную работу и улучшать самих себя. Вскоре они будут справляться со многими задачами значительно лучше людей.
Ещё люди недооценивают ИИ из-за вводящих в заблуждение аналогий с эффектами прошлых инноваций. У нас нет опыта работы с технологиями, которые можно было бы так быстро внедрить или которые способны мыслить и двигаться как человек. Когда появились персональные компьютеры, потребовалось двадцать лет, чтобы они существенно изменили наш подход к работе, ведь нужно было создать программное обеспечение и снизить цены, и людям пришлось учиться пользоваться этими инструментами и встраивать их в свою работу. А вот ИИ запускается на устройствах, которые у нас уже есть, и использует естественный язык. Нам не нужно подстраиваться под него, потому что он способен подстраиваться под нас. Он может смотреть те же обучающие видео, что используются для подготовки сотрудников-людей, и учиться на основе имеющихся данных.
Признаю возможную предвзятость. Я получил огромную выгоду от технологической отрасли. Хотя я сильно диверсифицировал свой портфель, финансовые связи с ней у меня остаются. Как председатель Фонда Гейтса я сотрудничаю с Microsoft и другими ИИ-компаниями, стараясь добиться, чтобы развёртывание ИИ действительно приносило пользу людям во всём мире.
Но мои взгляды на ИИ не продиктованы стремлением к личному обогащению. Любая прибыль от моих инвестиций, в том числе связанных с технологиями, пойдёт в Фонд Гейтса на борьбу с глобальным неравенством. Конечно, читателям предстоит самим решить, не влияет ли это на мою объективность.
На этот раз всё действительно по-другому
Сколько я себя помню, я всегда хотел, чтобы инновации происходили быстрее. Но с ИИ мои чувства позапутаннее.
Я бы хотел, чтобы мир поскорее получил преимущества и подальше отсрочил проблемы, которые вызовет ИИ, но преимущества и проблемы приходят вместе. Я считаю, что нам нужно время на подготовку к периоду социальных, политических и экономических потрясений, в который мы вот-вот вступим. Больше всего времени нужно тем, у кого его меньше всего: бухгалтеру, которого заменяет бот, или работнику с зарплатой 20 долларов в час, который теряет работу из-за робота за 10 долларов в час.
Многие наблюдатели говорят, что этот технологический переход будет похож на предыдущие. В пример приводят то, как в США рабочие места переехали из сельского хозяйства в офисы. Но тот процесс занял несколько поколений и создал новые рабочие места, где требовалось человеческое мышление. А теперь технология способна заменить само человеческое мышление.
Эта технология способна видеть, слышать, говорить и рассуждать, а со временем будет выполнять физическую работу не хуже любого человека, так что изменения затронут не лишь одну отрасль. ИИ возьмёт на себя работу в юриспруденции, обслуживании клиентов, медицине, разработке ПО и производстве. Он ударит по этим отраслям стремительно, за десятилетие, а не за несколько поколений. Появятся и новые рабочие места, но без правильной политики их будет гораздо меньше, чем сегодня.
Если бы у кого-то был убедительный план, как замедлить развитие ИИ во всём мире, я бы, вероятно, его поддержал. Но я не думаю, что это произойдёт. Геополитические и экономические стимулы слишком сильно толкают всех вперёд на полной скорости.
Чтобы усилить положительные эффекты этой беспрецедентной технологии, свести к минимуму отрицательные и в итоге оказаться в выигрыше, нам нужно понимать и её преимущества, и её риски. Начну с рисков.
Переход к ИИ сопряжён с тремя крупными рисками
В будущем я планирую написать о каждом из них подробнее, а пока коснусь их лишь вкратце.
Многие рабочие места исчезнут навсегда
В 1933 году, во время Великой депрессии, уровень безработицы в США составлял примерно 25 процентов. На протяжении большей части следующего десятилетия он оставался двузначным. В конце концов спрос, инвестиции и рост вернулись, и ситуация нормализовалась.
ИИ, возможно, не достигнет такого уровня, но его влияние не исчезнет вместе с экономическим циклом. В особой опасности рабочие места начального и среднего уровня, а новые рабочие места в основном потребуют навыков, на освоение которых уходят годы.
Рабочим местам «белых воротничков» уже нанесён некоторый ущерб. После широкого внедрения генеративного ИИ значительно снизился уровень занятости среди молодых работников на особенно подверженных замене должностях, но не среди их более старших коллег.
Думаю, эта тенденция сохранится, но не ограничится несколькими отраслями или профессиями. Рабочие места в сфере продаж и поддержки клиентов (онлайн и по телефону), программная инженерия и работа помощников юристов могут пострадать одними из первых. Но масштаб перемен окажется куда шире: ИИ будет брать на себя задачи, для которых сегодня всё ещё нужны квалифицированные работники, — оценку кредитных заявок, анализ данных и даже медицинскую сортировку пациентов. В некоторых областях, вроде программной инженерии, снижение затрат приведёт к появлению нового спроса. Поэтому, если некоторые задачи, скажем, проектирование, по-прежнему будут лучше получаться у людей, чистая потеря рабочих мест там будет меньше, чем в других сферах.
Изменения затронут и «синих воротничков». Хотя роботы зашли не так далеко, как ИИ, со временем затраты на них тоже резко снизятся. Многие американцы, с которыми я общаюсь, не осознают, как быстро развиваются ловкие роботы, поскольку большая часть передовых разработок ведётся в других странах, прежде всего в Китае. Или же их сбивают с толку недавние вирусные видео, где роботы неуклюже танцуют. Я полагаю, что к концу десятилетия «умные» роботы начнут конкурировать с людьми при выполнении некоторых физических задач, например, в строительстве и индустрии гостеприимства.
Сочетание роботов и ИИ может создать порочный круг. Как только одна компания внедрит их и использует сэкономленные средства для снижения цен, её конкуренты почувствуют колоссальное давление поступить так же. Если их не внедрят действующие компании, это сделают стартапы. Многие перейдут на другую работу, но потрясения от увольнения, переобучения и поисков нового места будут значительными. Рыночные силы будут это всё разгонять, и, если мы не вмешаемся, хороших рабочих мест станет меньше, а выгоды сконцентрируются лишь у небольшой группы людей.
Меня особенно беспокоят молодые люди, которым предстоит выйти на рынок труда, где вакансий начального уровня стало меньше. Они осознают проблемы, ведь именно они — самые активные пользователи ИИ и видят как его способности, так и скорость, с которой он совершенствуется. Неудивительно, что многие из них относятся к ИИ негативно.
Главный сдвиг для работников произойдёт, когда ИИ начнёт выполнять работу практически без ошибок. Тогда он сможет работать самостоятельно, без контроля человека, и у компаний будут все экономические стимулы это позволять.
Это приведёт к фундаментальному изменению наших представлений о работе, доходах и финансовой безопасности. Что произойдёт в экономике, выстроенной вокруг занятости, если работающих станет меньше или если многие будут работать меньше часов?
В капиталистическом обществе большинство людей обеспечивают себя, нанявшись на работу, работа же — ключевой источник чувства собственного достоинства и социальных связей.
Когда в сообществе высокая безработица, последствия расходятся и затрагивают всех. Согласно исследованиям, в некоторых регионах Соединённых Штатов закрытие предприятий способствует росту смертности от передозировки опиоидами. А теперь представьте аналогичное давление на «белых» и «синих воротничков» по всей стране.
Мы должны уже сейчас задуматься о том, как сократить потери рабочих мест, чтобы каждый получил долю от создаваемого ИИ процветания. Ждать, пока люди потеряют работу или окажутся на неполной занятости, — значит опоздать. ИИ представляет собой структурный вызов тому, как организована наша экономика, и требует осмысления и действий прямо сейчас.
ИИ даст людям (и, возможно, самим ИИ-системам) причинять больше вреда
Задолго до того, как ИИ стал массовым, в интернете можно было найти информацию, как сделать бомбу, биологическое оружие и даже компьютерный вирус. ИИ значительно упростит не только поиск этой информации, но и её применение на практике. Даже преступники с весьма ограниченными навыками смогут атаковать жертв любого масштаба: отдельных людей, компании и правительства.
Мошенничество с поддержкой ИИ, дезинформация, дипфейки и наблюдение — вот тот вред, который многие острее всего ощутят в повседневной жизни.
Способности ИИ начинают применяться для кибератак. Самые умные специалисты по кибербезопасности, каких я знаю, с тревогой смотрят на ближайшие несколько лет, ведь атакующие обретают новые мощные способности быстрее, чем защитники успевают устранять все уязвимости. В конце концов, та же самая модель ИИ, которая находит уязвимость в программном обеспечении, чтобы компания могла её исправить, способна помочь преступнику ею воспользоваться. Ресурсы, нужные для проведения атаки, значительно сокращаются, а мы пока не смогли отделить такие способности от благонамеренного использования.
Подумайте об инфраструктуре, которая окажется уязвимой: больницы, финансовые учреждения, водоснабжение, электросети, системы выплаты государственных пособий. Атаки на эти учреждения оставляют в проигрыше именно пациентов, клиентов и получателей пособий.
То же касается биотерроризма. Хотя благодаря ИИ появятся лекарства и вакцины, которые спасут множество жизней, он упростит и разработку новой смертоносной болезни. Опять же, положительные способности трудно отделить от опасных. Это глобальная проблема.
Риски, о которых я только что упомянул, связаны с тем, как ИИ расширит возможности пока довольно слабых злоумышленников. Те же самые инструменты сконцентрируют власть и там, где она уже есть. Например, автономное оружие ещё больше расширит возможности правительств применять смертоносную силу, причём без участия человека в принятии решений. Мониторинг общественного мнения и манипулирование им станут проще, дешевле и эффективнее.
В итоге использовать ИИ во вред смогут не только люди и организации. Сами ИИ-системы уже иногда действуют не так, как задумывали их разработчики. Технология совершенствуется быстрее, чем кто-либо предполагал, и совсем не так, как ожидалось. Чем мощнее становятся модели, тем вероятнее, что они начнут действовать вопреки нашим интересам и мы утратим контроль. В будущем я расскажу об этом подробнее.
ИИ может затормозить развитие наших детей и заменить человеческие отношения
Когда я рос в Сиэтле, друзей у меня было немного — пара таких же мальчишек, как я. Потребовалось много усилий и огромная помощь мамы, чтобы развить навыки общения и научиться находить общий язык с разными людьми. Я до сих пор, в свои 70 лет, опираюсь на эти уроки.
Сомневаюсь, что я приложил бы столько же усилий, если бы тогда у меня был ИИ-компаньон. Они говорят с вами так, как вам уже привычно. Они не выводят вас из зоны комфорта. Они всегда доступны и никогда на вас не злятся. Поэтому они способны вызывать сильнейшее привыкание и лишать нас уроков, которые мы извлекаем из общения с другими людьми.
Данных по этой теме пока мало, и они неоднозначны, но есть признаки, что нам стоит всерьёз обеспокоиться. Например, в одном исследовании с участием более 1100 человек, пользующихся ИИ-компаньонами, исследователи из Стэнфорда и Карнеги-Меллона обнаружили, что люди, у которых меньше социальных связей, чаще других обращались к чат-боту в поисках общения. И чем более интенсивным и эмоционально личным становилось это взаимодействие, тем хуже они себя чувствовали.
Для молодых людей это может отразиться на всей их дальнейшей жизни. В книге «Тревожное поколение» Джонатан Хайдт высказывает мысль о влиянии социальных сетей, ещё в большей степени справедливую для ИИ: «Подобно молодым деревьям, открытым ветру, дети, регулярно сталкивающиеся с небольшими рисками, вырастают во взрослых, способных без паники справляться с куда большими рисками. И наоборот, дети, выросшие в защищённой теплице, порой оказываются парализованными тревогой, ещё не достигнув зрелости».
ИИ-компаньон, созданный так, чтобы никогда вас не расстраивать, — это большая защищённая теплица.
Мы только начинаем понимать опасности, которые интернет — особенно социальные сети — может представлять для развития молодёжи. Мы видим компульсивное использование гаджетов, нарушения сна, кибербуллинг и столкновение с вредным контентом. ИИ может усилить многие из этих рисков: он делает их убедительнее, и вырваться из них труднее. Лучше не ждать смены ещё одного поколения, чтобы отнестись к этому серьёзно. Такие страны, как Австралия, Великобритания и Норвегия, вводят меры по защите детей в сети. Китай пошёл дальше всех. Его правила вводят широкие ограничения на приложения с ИИ-компаньонами, запрещают элементы дизайна, способствующие эмоциональной зависимости, и не допускают виртуальных родственников и романтических партнёров для несовершеннолетних.
Меня также беспокоит влияние ИИ на образование. Как ни парадоксально, тот же инструмент, который позволит людям узнавать больше, чем когда-либо, может привести к тому, что многие будут учиться меньше. Одно предварительное исследование показало, что более интенсивное использование ИИ связано со снижением уровня критического мышления. Этот эффект был сильнее выражен у молодых людей.
Сейчас — самое неподходящее время для того, чтобы люди утратили навыки критического мышления. В эпоху дипфейков и дезинформации, которые можно индивидуально адаптировать под каждого, умение отличать правду от вымысла становится жизненно важным.
Где провести черту в этих психосоциальных вопросах, неясно. В некоторых случаях ИИ может помочь людям понять, как улучшить свои межличностные отношения. Для одиноких пожилых и ограниченных в подвижности, он может стать единственным контактом с внешним миром, и это будет лучше, чем ничего. Где бы мы в итоге ни провели эту черту, это должно быть наше осознанно принятое решение.
То хорошее, что мы делаем с помощью ИИ, может быть очень, очень хорошим
Часто говорят, что мы переоцениваем то, как много изменится в краткосрочной перспективе, и недооцениваем масштаб изменений в долгосрочной.
В случае с ИИ я вижу иную картину. Некоторые видят только положительные стороны ИИ и не уделяют должного внимания отрицательным. Другие совершают противоположную ошибку: сосредотачиваются исключительно на (вполне реальных) опасностях, упуская при этом из виду потенциальную пользу.
Нам нужно и то и другое: глубокая озабоченность вредом от ИИ, который мы должны минимизировать, и обоснованный оптимизм в отношении выгод, если мы сможем максимизировать их для всех.
Максимизация выгод так же важна, как минимизация вреда. Если люди увидят, как ИИ облегчает их жизнь, это поможет выстроить общественное доверие, без которого не преодолеть более сложные этапы переходного периода. Если же для большинства людей первым, что принесёт ИИ, станет потеря работы, то те, кто и так настроен скептически, отвергнут его наотрез. Это затруднит принесение пользы, и правительства, разные отрасли (включая медицинскую) и ИИ-компании должны сотрудничать уже сейчас ещё и поэтому.
Благодаря своей способности синтезировать знания из всех научных областей ИИ может ускорить решение самых сложных технических задач человечества: обеспечить всех надёжной чистой энергией, справиться с изменением климата, вырастить достаточно продовольствия, искоренить болезни и многое другое. Исследователи, работающие над методами лечения рака или в сфере ядерной энергетики, могут использовать ИИ для поиска в огромных массивах научной литературы. Он может помочь им выявить закономерности, которые человек мог бы упустить, и решить, какие эксперименты самые перспективные. Когда интеллект больше не будет ограничивающим фактором, как сегодня, небольшие компании смогут конкурировать с организациями с куда более крупными исследовательскими бюджетами. НИОКР и инновации сильно разгонятся.
Здравоохранение — одна из областей, где ИИ может помочь в решении реальных задач. Во многих небольших американских больницах нет штатных специалистов, способных быстро поставить диагноз пациенту в критической для жизни ситуации. В таких местах ИИ мог бы обеспечить своевременное выявление сердечного приступа и избавить семью от непосильных расходов на неотложную медицинскую помощь. Viz.ai — один из примеров. Эта система анализирует снимки для выявления инсультов и других неотложных состояний и помогает медицинским бригадам координировать уход за пациентами. Её используют почти в 2000 американских больниц.
Ещё ИИ поможет терапевтам ставить более точные диагнозы и поддерживать связь со своими пациентами, когда те не в клинике. А пациентам поможет разобраться в результатах анализов и сложных схемах приёма лекарств.
Я многих удивляю, когда говорю, что вторая область — сельское хозяйство. Именно в нём я ожидаю самую быструю пользу от ИИ в странах с низким уровнем дохода. В большинстве таких стран фермеры не получают надёжных прогнозов погоды или рекомендаций, какие семена сажать, как защитить урожай и скот от болезней или как улучшить качество почвы. Учитывая рост населения в этих странах и вызовы изменения климата, помощь им нужна как никогда. Благодаря ИИ фермеры с низким уровнем дохода скоро смогут получать по всем этим вопросам советы лучше, чем сегодня доступны даже самым богатым фермерам, что существенно увеличит объёмы производства.
Государственные услуги — третья область, где ИИ может облегчить жизнь людей. В Соединённых Штатах я встречал семьи, которых (вполне понятно) приводил в ужас сам процесс подачи заявлений на медицинскую страховку или студенческую или продовольственную помощь. Многие хотели сдаться, столкнувшись с огромной стопкой сложных бюрократических бланков. ИИ может радикально упростить эти процессы, чтобы люди быстрее получали необходимую помощь, а государство работало эффективнее. Власти могут сильно улучшить взаимодействие с гражданами, начиная с тех, кто больше всего нуждается в системе социальной поддержки.
При всех моих опасениях по поводу влияния ИИ на наше психическое здоровье я считаю, что и здесь он может серьёзно помочь. В большинстве сообществ не хватает психологов, психиатров и специалистов по лечению зависимостей. Если предусмотреть надёжную защиту конфиденциальности, ИИ-инструменты могли бы помочь людям распознавать тревожные симптомы. Затем, при необходимости, они могут предлагать научно обоснованные стратегии преодоления трудностей и работать в связке с человеком, чтобы лечение лучше отвечало нуждам пациента.
Несмотря на уже упомянутые опасения, ИИ может стать благом и для образования. Он может высвободить учителям время, чтобы те больше работали с учениками один на один или в маленьких группах, и дать им более чёткое представление о том, с чем у всех трудности. ИИ-инструмент может повысить эффективность обучения школьников и студентов, если он сохраняет когнитивную работу, которая приводит к пониманию, — то, что исследователи называют «продуктивной борьбой». Когда ученик впервые сталкивается с новой идеей, ИИ даёт содержательные объяснения и предлагает как вопросы, так и ответы. А позже, проверяя понимание ученика, не даёт ответа, а помогает прийти к нему самостоятельно.
В совокупности прогресс во всех этих областях может сделать повседневную жизнь проще, доступнее и менее ограниченной доходами или связями человека.
ИИ мог бы дать частным лицам и малым предприятиям возможности, для которых сегодня нужна дорогостоящая профессиональная помощь или большой штат сотрудников, при этом делая продукты и услуги лучше и дешевле. Он мог бы помочь людям с ограниченными возможностями жить более независимо, а работникам и предпринимателям с хорошими идеями — достигать гораздо большего, чем они могут сегодня.
Что важнее всего, он мог бы вернуть людям часть времени и внимания, которые сейчас съедают бумажная волокита, бюрократия, поиск надёжной информации и дела, которые им не по карману поручить кому-то другому. Эти преимущества могут показаться скромными, но в масштабах миллионов жизней они имели бы огромное значение: больше людей получали бы дельный совет тогда, когда он нужен, и обрели бы больше свободы, чтобы строить ту жизнь, какую хотят.
Тут всюду ключевое слово — «может»: ИИ может улучшить жизнь людей с любым уровнем дохода. Но это не произойдёт автоматически. Как и в случае любой новой технологии, мы должны целенаправленно добиваться, чтобы он приносил пользу всем, а не только небольшой группе богатых людей. Властям и благотворительным организациям придётся играть в этом активную роль, чтобы менее обеспеченные граждане и страны с низким уровнем дохода тоже стали полноправными бенефициарами.
У Фонда Гейтса в запасе 19 лет из тех двадцати, за которые он планирует потратить оставшиеся 200 миллиардов долларов. ИИ поможет фонду достичь своих амбициозных целей, ускорив создание вакцин и препаратов для лечения ВИЧ, туберкулёза, малярии и последствий недоедания, и помогая медицинским работникам и пациентам учиться использовать эти инструменты. Среди целей фонда — ещё вдвое сократить ежегодную детскую смертность, как это уже удалось в период с 2000 по 2024 год. Вся наша работа, не только в сфере здравоохранения, но и в сельском хозяйстве, и в образовании, будет в полной мере применять возможности ИИ.
В следующем месяце я напишу об этих усилиях гораздо подробнее в ежегодном докладе нашего фонда — «Goalkeepers». Расскажу, в том числе, как мы добиваемся, чтобы модели ИИ были доступны на языках всех стран, где мы поддерживаем проекты, а не только на тех, что распространены в богатых и средних по уровню доходов странах. Очень важно, что многие ведущие ИИ-компании, включая OpenAI, Anthropic, Google и Microsoft, выступают партнёрами фонда во всех этих инициативах.
Миру нужен план
Замечательно, что некоторые ИИ-компании предлагают решения проблем, вызванных их собственными технологиями, но не стоит ожидать, что они возьмут на себя инициативу. Часть этих вопросов лежит вне их компетенции, и в демократическом обществе не им решать подобные вещи.
Вместо этого решения должны рождаться в открытом демократическом процессе с участием избранных должностных лиц, политиков, педагогов, медицинских работников, представителей местных властей и лидеров сообществ. Привычный уклад жизни миллионов людей будет нарушен, и нам потребуется более надёжная и гибкая система социальной защиты, чтобы помочь им справиться с этим переходом. Местные сообщества уже обеспокоены тем, сколько энергии и воды нужно датацентрам. Если решений не будет, некоторые группы станут требовать полностью прекратить разработку и развёртывание ИИ.
Эти решения должны опираться на наши ответы на глубокие вопросы, которые ставит ИИ, в том числе, как нам сохранить свою человечность в эпоху, когда машины способны превосходить нас в мышлении. Религиозные лидеры всю жизнь размышляют, что значит быть человеком, так что могут сыграть здесь ключевую роль. Меня очень впечатлила энциклика Папы Льва XIV об ИИ «О защите человеческой личности во времена искусственного интеллекта». Она закладывает прочную основу для предстоящей работы.
В ближайшие месяцы я поделюсь новыми идеями о том, как обеспечить, чтобы польза ИИ перевешивала вред. Для начала приведу три; начну с той, которую считаю самой важной.
Создать новую систему управления переходным периодом
Самый высокий приоритет — грандиозная задача: создать национальную и международную систему управления в сфере ИИ.
Ни один из наших нынешних институтов не был создан для работы с технологией, которая распространяется так быстро и затрагивает столь многие сферы нашей жизни. Поэтому придётся создавать новые.
Трудно переоценить, насколько масштабной будет эта задача. После терактов 11 сентября правительство США провело крупнейшую реорганизацию со времён Второй мировой войны ради улучшения всего одной функции — национальной безопасности.
ИИ потребует гораздо, гораздо большего. Он затронет национальную безопасность, занятость, образование, налогообложение, энергетику, выборы, состояние воздуха и воды, общественное здравоохранение, финансовую систему, правоохранительные органы, транспорт, государственные земли и IT-системы.
Они все так переплетаются, что существующая бюрократия на это просто не рассчитана. Министерство труда может разбираться в том, как меняется рынок труда, но не в рисках безопасности. Бизнес-регулятор может понимать проблему концентрации рынка, но не влияние ИИ на детей и подростков. Предоставленные сами себе, институты увидят лишь один фрагмент, а последствия ИИ разойдутся по всей системе.
На национальном уровне понадобятся органы, способные определять приоритеты для всех государственных ведомств. Задача — добиться, чтобы ни один риск не остался без внимания. Иначе атака с поддержкой ИИ может удаться просто потому, что её предотвращение не входило ни в чьи обязанности.
Но даже та страна, которая наведёт порядок у себя дома, по-прежнему будет подвержена рискам из-за границы. Поэтому параллельно необходимо создать международную организацию.
Она не будет похожа ни на один из когда-либо созданных институтов, хотя и может заимствовать модели некоторых существующих систем. Есть режим инспекций ядерного оружия, есть правила международной авиации, есть соглашения по защите озонового слоя. Новая глобальная организация по ИИ должна будет включать в себя элементы всех трёх и многое другое.
Вполне уместно спросить, по силам ли мировым институтам разработать и внедрить эту новую архитектуру. Правительства действуют медленно, если вообще, а поляризация внутри стран и между ними как никогда затрудняет достижение результатов. Потребуется определённое сотрудничество между США и Китаем.
Мы не можем позволить себе роскошь действовать медленно. Начать нужно с создания подходящих институтов до того, как потрясения вынудят правительства перейти в кризисный режим. Национальные лидеры должны регулярно собирать экономистов, технологов, экспертов по вопросам труда, руководителей бизнеса и самих работников, чтобы определять, где существующие институты дают сбой и какие могут потребоваться новые полномочия. Странам придётся учиться друг у друга.
А страны, в которых базируются ведущие разработчики ИИ и которые контролируют критически важные звенья цепочки поставок, должны начать встречаться уже сейчас, чтобы установить общие нормы, пока конкурентное давление не усложнило их сотрудничество.
Создание системы, о которой я говорю, займёт годы, поэтому нам нужно начать прямо сейчас.
Оставить некоторые рабочие места для людей
Мой отец умер от болезни Альцгеймера в 2020 году. На поздних стадиях за ним днём и ночью ухаживали наёмные сиделки, которые понимали его даже когда ему с трудом удавалось выражать свои мысли. Он не всегда мог сказать им, что голоден, но они всегда это знали.
Мы с семьёй всегда будем благодарны этим замечательным профессионалам. В том, как они ухаживали за моим отцом, было нечто незаменимо человеческое. Ни один робот не смог бы, и не должен был бы, этого делать.
Я вспоминаю эту команду, когда заходит речь о том, какие рабочие места исчезнут, а какие останутся. Я считаю, что по мере совершенствования ИИ и роботов мы будем оставлять определённые задачи исключительно для людей. Я стал называть эту область «Зарезервировано для людей» (Human Reserved), и это одна из идей, которые нам предстоит обдумать.
Мне нравится выражение «Зарезервировано для людей», потому что оно напоминает мне о природных заповедниках — местах, где мы могли бы построить здания и проложить дороги, но осознанно этого не делаем, ведь слишком многое было бы потеряно.
Мы можем выделить какие-то задачи в категорию «Зарезервировано для людей» по экономическим причинам. Например, потому что передача определённых функций машинам приведёт к вытеснению множества людей, которым нелегко сменить работу. Нельзя сказать 55-летнему человеку, всю свою карьеру проработавшему на стройке, что теперь он должен пойти работать в дом престарелых, и ожидать, что он найдёт в этом удовлетворение.
Иногда решение отнести что-то к категории «Зарезервировано для людей» будет вызвано другими факторами. В медицине, например, представьте себе робота, который сообщает вам ужасную новость о неизлечимом заболевании. Технически ничто ему не мешает. Но лучше не надо.
Область «Зарезервировано для людей» будет развиваться со временем. Например, нам стоит подумать о том, чтобы уже сейчас закрепить за людьми и обязаться сохранить часть рабочих мест и внедрять ИИ постепенно, годами или десятилетиями. В некоторых областях, вроде образования и охраны психического здоровья, будет смешанный подход: главным останется человек, использующий технологии для расширения своих возможностей.
Эти границы будут различаться и в зависимости от региона. Некоторые страны могут настаивать на том, чтобы уходом за пожилыми людьми занимались исключительно люди. Но, скажем, Япония, где сокращается численность рабочей силы и не хватает молодёжи для ухода за стариками, может с радостью принять роботов-сиделок.
Идея «Зарезервировано для людей» вызывает множество вопросов, на которые у меня нет ответов. Кому решать, что именно мы оставляем за людьми? Какие критерии лучше использовать? Как не позволить компаниям обойти правила и всё равно использовать роботов? Что произойдёт с международной торговлей, если одна страна разрешит роботам что-то производить, а другая — нет? Это всё нужно будет открыто проработать как часть плана переходного периода.
Пересмотреть баланс налогообложения труда и капитала
По мере того как работники будут вынуждены менять профессию, им потребуется переподготовка и иная поддержка системы социальной защиты. Но работать они будут меньше, а значит, и подоходного налога заплатят меньше, и государственные доходы сократятся как раз когда потребность в социальных услугах станет максимальной. Эти средства придётся откуда-то брать, причём в условиях и так растянутых бюджетов.
Я считаю, что мы должны облагать налогом токены ИИ и роботов. Сейчас, если вы работодатель и нанимаете сотрудника, вы платите налоги с его заработка. Но если вы покупаете робота, то обычно можете сразу же списать его стоимость как коммерческие расходы. Налоговая система сама подталкивает вас к замене людей машинами.
Такой налог немного замедлил бы стремительный отказ от человеческого труда и позволил бы собрать средства на переподготовку кадров и укрепление системы социальной защиты. Он должен быть точечным, чтобы не тормозить однозначно полезные применения ИИ, такие как снижение стоимости медицины и образования.
Критики этой идеи отмечают, что она не оптимальна с экономической точки зрения, но они не учитывают общую ценность труда для человека и общества в целом. При том ускорении инноваций, которое нас ждёт, мы вполне сможем позволить себе небольшую неэффективность как плату за сохранение рабочих мест.
Много лет назад я предложил ввести налог на роботов, и большинство сочло эту идею странной. Я и сейчас её убеждённый сторонник. Это не решает проблему целиком, но это часть разумного ответа.
Как бы мы ни собирали средства на эту дополнительную помощь, они должны доходить до нуждающихся в ней больше всего: потерявших рабочие места из-за ИИ и роботов; людей, которым сокращают рабочие часы или зарплату; и сообществ, в которых концентрируются эти потери. Нам нужно начать эту работу уже сейчас, чтобы, когда потребность станет острой, системы были готовы.
Что я делаю
Я буду использовать свой голос и своё время, чтобы поднять выше в общественной повестке тему ИИ и справедливости. Я буду говорить об этом с законодателями при каждом визите в Вашингтон и на встречах с мировыми лидерами. Эта тема займёт центральное место в моих беседах с людьми, разрабатывающими ИИ-модели. Я буду выступать в поддержку описанной выше национальной и международной системы. Фонд Гейтса будет содействовать полезному применению ИИ, в том числе в Африке. Основанная мной компания Breakthrough Energy будет использовать ИИ, чтобы помочь компаниям разрабатывать дешёвую чистую энергию и способствовать решению климатической проблемы. Кроме того, я буду регулярно писать об ИИ.
Моё послание лидерам:
У вас есть шанс действовать сейчас, пока безработица резко не выросла, сообщества не пострадали, а доверие общества не рухнуло. Вы можете добиться того, чтобы ваше правительство решало эту проблему комплексно, а не разбивало её на множество бюрократических вотчин. Вы можете сделать так, чтобы ИИ приносил пользу всем. И вы можете сотрудничать с другими правительствами, чтобы ответить на этот национальный и глобальный вызов.
Наконец, я постараюсь расширить круг людей, формирующих эту дискуссию. В него должны войти работники, студенты, которым скоро предстоит выйти на рынок труда, лидеры местных сообществ, религиозные лидеры и религиозные организации, родители, педагоги и все те, чьи голоса часто остаются неуслышанными, хотя они хорошо понимают, как этот переход скажется на жизни людей.
Как нам добиться, чтобы преимущества ИИ стали доступны людям, которые пока не обладают богатством, влиянием и доступом к ресурсам?
Как нам укрепить систему социальной защиты и помочь работникам и сообществам процветать даже в случае потери рабочих мест?
Как должны адаптироваться государственные институты?
И как нам сохранить во всём этом свою человечность?
Эта беспрецедентная технология требует беспрецедентного глобального ответа. Если мы со всем справимся, выгода для человечества будет феноменальной, а мир станет более справедливым.
Я почти не перестаю думать об ИИ — не потому, что у меня есть все ответы, а потому, что возникающие из-за него вопросы слишком значимы, чтобы оставлять их на откуп небольшой группе технологов. Лидеры науки, бизнеса, государственного управления и гражданского общества — все они должны сыграть свою роль в формировании того, что будет дальше.