Революция ИИ: путь к суперинтеллекту
Примечание: На написание этого поста ушло аж три недели, потому что, углубляясь в изучение ИИ, я просто не мог поверить в прочитанное. Мне довольно быстро стало ясно, что происходящее в мире ИИ — не просто важная, а с большим отрывом ВАЖНЕЙШАЯ тема для нашего будущего. так что я захотел узнать об этом как можно больше, а узнав, решил написать пост, который полноценно объяснит всю ситуацию и её важность. Неудивительно, что он получился ужасно длинным, так что я разделил его на две части. Это первая, а вторая тут.
Мы стоим на пороге перемен, сопоставимых с появлением на Земле людей. — Вернор Виндж
Каково оно — на этом пороге?
Кажется, это должно быть весьма волнительно — но нужно вспомнить, что, стоя на графике от времени, вы не видите ничего правее вас. Вот, как это на самом деле ощущается:
Кажется вполне обычным делом…
Далёкое будущее — уже скоро
Представьте, что вы садитесь в машину времени и отправляетесь в 1750 год — эпоху, когда мир жил словно при постоянном отключении электричества, связь на большие расстояния означала либо громкие крики, либо стрельбу из пушки в воздух, а весь транспорт работал на сене. Оказавшись там, вы хватаете какого-то чувака, отправляете его в 2015 год, водите повсюду и наблюдаете за его реакцией. Нам не понять, каково ему было бы видеть мчащиеся по шоссе блестящие капсулы, разговаривать с людьми, которые ещё утром были на другом краю океана, смотреть спортивные соревнования за тысячу миль от него, слушать музыкальные выступления пятидесятилетней давности и играться с моим волшебным прямоугольником, с которым можно сделать изображение или запись любого момента, сгенерировать карту с сверхъестественной движущейся синей точкой, показывающей, где ты находишься, видеть и общаться с кем-то, кто на другом конце страны, и творить мириады прочих невообразимых чудес. И это мы ещё не показали ему Интернет и не объяснили, что такое Международная космическая станция, Большой адронный коллайдер, ядерное оружие или общая теория относительности.
Для него этот опыт не стал бы просто удивительным, шокирующим или даже ошеломляющим — этих слов недостаточно. От такого и помереть можно.
Но вот что интересно: если бы он потом вернулся в 1750 год, позавидовал нашему наслаждению его реакцией, и решил провернуть то же самое, он бы взял машину времени, отправился на такое же расстояние в прошлое, захватил кого-нибудь из 1500 года, привёз его в 1750 и всё ему показал. И парень из 1500 года был бы многим шокирован — но пережил бы. Для него этот опыт оказался бы совсем не таким безумным, потому что, да, 1500 и 1750-й годы очень различались, но гораздо меньше, чем 1750 и 2015. Человек из 1500 года узнал бы всякую умопомрачительную хрень о космосе и физике, поразился бы, такому серьёзному европейскому увлечению империализмом, и ему пришлось бы сильно скорректировать свои представления о карте мира. Но повседневная жизнь 1750 года — транспорт, связь и т. д. — уж точно не поразила бы его до смерти.
Нет, чтобы парень из 1750 года повеселился так же, как мы с ним, ему пришлось бы отправиться гораздо дальше в прошлое — возможно, аж примерно в 12 000 год до н. э., до Первой аграрной революции, появления городов и самой концепции цивилизации. Если бы кто-то из мира исключительно охотников-собирателей, в котором люди были, в общем-то, просто ещё одним видом животных, — узрел огромные человеческие империи 1750 года с возвышающимися церквями, кораблями, пересекающими океаны, концепцией «быть в помещении» и колоссальной горой коллективно накопленных человечеством знаний и открытий, вот это его поразило бы до смерти.
А что, если бы он, померев, позавидовал и захотел сделать то же самое? Вернись он на 12 000 лет назад, в 24 000 год до н. э., прихвати какого-нибудь парня и перенеси его в 12 000 год до н. э., он бы ему всё показал, а тот бы такой «И чо? Кому какое дело?» Парню из 12 000 года до н. э., чтобы так повеселиться, пришлось бы вернуться более чем на сотню тысяч лет назад и найти кому впервые показать огонь и язык.
Чтобы до смерти поразить перенесённого в будущее человека, он должен отправиться на достаточно лет вперёд, чтобы прогресс успел продвинуться на одну «смертельно поражающую единицу прогресса» (СПЕП). Итак, во времена охотников-собирателей на один СПЕП уходило больше 100 000 лет, но после аграрной революции — уже всего около 12 000. Мир после промышленной революции развивался так быстро, что для новой СПЕП человеку из 1750 года достаточно перенестись всего на пару веков.
Эту закономерность, ускорение прогресса человечества, футурист Рэй Курцвейл называет Законом ускоряющейся отдачи в истории человечества. Он вызван тем, что более развитые общества способны прогрессировать быстрее не таких развитых, — именно потому, что они более развиты. Человечество XIX века больше знало и обладало лучшими технологиями, чем человечество XV века, поэтому неудивительно, что в XIX веке оно и добилось гораздо большего, чем в XV. Человечество XV века ни в какое сравнение не шло с человечеством XIX века.
Это работает и на меньших масштабах. Фильм «Назад в будущее» вышел в 1985 году, а «прошлое» а нём было 1955 годом. Когда в фильме Майкл Дж. Фокс вернулся в 1955 год, его застали врасплох новизна телевизоров, цены на газировку, отсутствие любви к пронзительным звукам электрогитары и различия в сленге. Да, это был другой мир, но если бы фильм снимали сегодня, а действие в прошлом происходило в 1985 году, создатели могли бы гораздо больше повеселиться, обыгрывая гораздо более значительные различия. Герой оказался бы во времени до персональных компьютеров, интернета и мобильных телефонов: сегодняшний Марти Макфлай, подросток, родившийся в конце 90-х, оказался бы в 1985 году куда более не на своём месте, чем Марти Макфлай из фильма — в 1955-м.
Причина всё та же — Закон ускоряющейся отдачи. Средний темп развития в период с 1985 по 2015 год был выше, чем с 1955 по 1985. К 1985 году мир был уже более развитым, поэтому за последние 30 лет произошло гораздо больше изменений, чем за предыдущие 30.
Итак — достижения становятся всё масштабнее и масштабнее и происходят всё быстрее и быстрее. Это наводит на довольно серьёзные мысли о нашем будущем, не так ли?
Курцвейл оценивает, что при темпах развития 2000 года прогресс всего XX века был бы достигнут за каких-то 20 лет. Иными словами, что к 2000 году скорость прогресса была в пять раз выше средней за весь XX век. Он считает, что с 2000 по 2014 год был достигнут прогресс, сопоставимый со всем XX веком, и что ещё один шаг прогресса, масштабом с целый XX веку, произойдёт к 2021 году, то есть всего за семь лет. Он считает, что через пару десятилетий прогресс, эквивалентный всему XX веку, будет происходить по несколько раз за год, а ещё позже — меньше чем за месяц. В целом, Курцвейл полагает, что благодаря Закону ускоряющейся отдачи в XXI веке будет достигнут прогресс, в 1 000 раз больший, чем в XX веке.1
Если Курцвейл и согласные с ним правы, то к 2030 году мы, возможно, будем так же потрясены, как наш человек из 1750 года был потрясён 2015. То есть следующий СПЕП может занять всего пару десятилетий. А мир в 2050 году может настолько сильно отличаться от сегодняшнего, что мы едва ли его узнаем.
Это не научная фантастика. Это то, во что твёрдо верят многие учёные умнее и осведомлённее нас с вами. И, если взглянуть на историю, именно такой прогноз получается логичным.
Так почему же, слыша от меня что-то вроде «через 35 лет мир может стать совершенно неузнаваемым», вы думаете: «Круто… но нееееет»? Есть три причины нашего скептического отношения к невероятным прогнозам будущего:
1) Когда речь заходит об истории, мы мыслим прямыми линиями. Представляя себе прогресс следующих 30 лет, мы оглядываемся на предыдущие 30 как на ориентир, сколько, вероятно, произойдёт. Когда мы думаем, насколько изменится мир в XXI веке, мы берём прогресс XX века и прибавляем его к 2000 году. Эту же ошибку совершил наш парень из 1750 года, перенеся к себе кого-то из 1500 и ожидая поразить его воображение так же сильно, как его самого потрясло путешествие так же далеко в будущее. Мы интуитивно мыслим линейно, а надо экспоненциально. Подходя к этому поумнее можно прогнозировать достижения следующих 30 лет не оглядываясь на предыдущие 30, а исходя из текущих темпов. Такой прогноз был бы точнее, но и он далёк от истины. Чтобы правильно думать о будущем, нужно представлять, как всё будет развиваться гораздо быстрее, чем сейчас.
2) Траектория совсем недавней истории часто даёт искажённое представление. Во-первых, даже крутая экспонента кажется линейной, если рассматривать лишь крошечный её кусочек — так же, как небольшая дуга огромного круга вблизи выглядит почти прямой. Во-вторых, экспоненциальный рост не абсолютно плавный и равномерный. Курцвейл объясняет, что прогресс происходит по «S-образным кривым»:
S-образная волна прогресса образуется новой парадигмой, охватывающей мир. Кривая проходит через три фазы:
- Медленный рост (ранняя фаза экспоненциального роста)
- Быстрый рост (поздняя, взрывная фаза экспоненциального роста)
- Стабилизация по мере насыщения этой конкретной парадигмы2
Взгляд лишь на совсем недавнюю историю, на участок S-образной кривой, где вы сейчас, может исказить восприятие скорости развития. На период с 1995 по 2007 год пришлись взрывной рост интернета, появление в общественном сознании Microsoft, Google и Facebook, появление социальных сетей и сначала мобильников, а затем смартфонов. Это была Фаза 2: участок резкого роста на S-образной кривой. Но период с 2008 по 2015 год оказался не таким прорывным, по крайней мере в технологическом плане. Тот, кто сегодня размышляет о будущем, может оценить нынешние темпы прогресса, посмотрев на последние несколько лет, но так упустил бы общую картину. Прямо сейчас может назревать новый грандиозный скачок роста Фазы 2.
3) Когда речь заходит о будущем, наш собственный опыт делает нас упрямыми стариками. Мы основываем свои представления о мире на личном опыте, а он укоренил в наших головах темпы роста недавнего прошлого как «то, как всё происходит». Мы ограничены и своим воображением, которое строит прогнозы, опираясь на наш опыт, но часто известное нам попросту не даёт подходящих инструментов для верного осмысления будущего.3 Слыша прогноз о будущем, противоречащий нашему основанному на опыте представлению «как всё устроено», инстинкт подсказывает нам, что этот прогноз наивен. Если дальше в этой статье я скажу вам, что вы можете дожить до 150 или 250 лет, или вообще не умереть, вы инстинктивно подумаете: «Это глупо — если я что-то и знаю из истории, так это что все умирают». И да, в прошлом не было никого, кто бы не умер. Но и до изобретения самолётов на них никто не летал.
При чтении всего этого может возникнуть реакция «да ну-у-у», но на самом деле она, вероятно, ошибочна. Если действительно рассуждать строго логически и ожидать продолжения исторических закономерностей, получится вывод: в ближайшие десятилетия изменится гораздо, гораздо, гораздо больше, чем мы интуитивно ожидаем. Логика подсказывает и что если самый развитый вид на планете продолжает совершать всё более масштабные скачки вперёд со всё возрастающей скоростью, то в какой-то момент он сделает столь огромный рывок, что это полностью изменит привычную для него жизнь и само представление, что значит быть человеком — подобно тому, как эволюция всё совершала и совершала скачки в сторону интеллекта, пока в итоге не совершила столь гигантский — создание человека, что это полностью изменило жизнь всех живых существ на планете Земля. И если немного почитать, что сейчас происходит в науке и технологиях, вы начнёте замечать много признаков, тихонько намекающих, что жизнь, какой мы её знаем сейчас, не выдержит грядущего скачка.
Путь к суперинтеллекту
Что такое ИИ?
Если вы похожи на меня, то раньше вы считали искусственный интеллект нелепой научно-фантастической концепцией, но в последнее время слышите о нём от серьёзных людей и не совсем понимаете, о чём речь.
Есть три причины, почему многие путаются в термине «ИИ»:
1) Мы ассоциируем ИИ с фильмами. «Звёздные войны». «Терминатор». «2001 год: Космическая одиссея». Даже «Джетсоны». Но всё это вымысел, как и персонажи-роботы. Поэтому ИИ кажется слегка нереальным.
2) ИИ — широкое понятие. От калькулятора в вашем телефоне до беспилотных автомобилей и того, что в будущем может кардинально изменить мир. Все эти штуки называют «ИИ», что сбивает с толку.
3) Мы постоянно используем ИИ в повседневной жизни, часто не осознавая этого. Джон Маккарти, который в 1956 году ввёл термин «искусственный интеллект», сетовал: «как только это работает, никто больше не называет это ИИ».4 Из-за этого ИИ часто воспринимается скорее как мифическое предсказание будущего, а не как реальность. И одновременно как некая поп-концепция из прошлого, так и не воплотившаяся в жизнь. Рэй Курцвейл говорит, что слышит иногда заявления, будто ИИ загнулся в 1980-х. Он сравнивает это с утверждением, что «Интернет умер в крахе доткомов в начале 2000-х».5
Так что давайте разберёмся. Во-первых, забудьте о роботах. Робот — это оболочка для ИИ, иногда имитирующая человеческий облик, иногда нет. Но сам ИИ — это компьютер внутри робота. ИИ — это мозг, а робот — его тело, если оно вообще есть. Например, ПО и данные в основе Siri — это ИИ, женский голос, который мы слышим, — персонификация этого ИИ, а никакого робота тут вообще нет.
Во-вторых, вы, наверное, слышали термин «сингулярность» или «технологическая сингулярность». В математике термин «сингулярность» используется для описания асимптотической ситуации, когда обычные правила больше не действуют. В физике — для описания явлений вроде бесконечно малой и плотной чёрной дыры или точки, в которую мы все были сжаты прямо перед Большим взрывом. Снова ситуации, в которых привычные правила не работают. В 1993 году Вернор Виндж написал знаменитое эссе, где назвал этим термином момент в будущем, когда интеллект наших технологий превзойдёт наш собственный, и, по его мнению, жизнь в привычном нам понимании навсегда изменится, и обычные правила перестанут действовать. Затем Курцвейл немного всё запутал, определив сингулярность как момент, когда Закон ускоряющейся отдачи разгонится настолько, что технологический прогресс будет казаться бесконечно быстрым, после чего мы окажемся в совершенно новом мире. Я заметил, что сейчас многие думающие о ИИ перестали использовать этот и бещ того сбивающий с толку термин, так что я в основном буду его тут избегать (хотя на протяжении всей статьи мы будем сосредоточены именно на этой идее).
Наконец, хоть разных типов или форм ИИ много, это ведь широкое понятие, ключевые категории, о которых стоит думать, сводятся к уровню ИИ. Есть три основных уровня:
Уровень ИИ 1) Узкий искусственный интеллект (УИИ): Узкий искусственный интеллект (иногда «слабый ИИ») — это ИИ, специализирующийся на одной области. Существует ИИ, способный обыграть в шахматы чемпиона мира, но больше он ничего не умеет. Попросите его найти лучший способ хранения данных на жёстком диске, и он уставится на вас пустым взглядом.
Уровень ИИ 2) Обобщённый искусственный интеллект: Иногда называемый «сильным ИИ» («СИИ») или «ИИ человеческого уровня», обобщённый искусственный интеллект — это компьютер, который во всех отношениях так же умён, как человек. Это машина, способная выполнять любую подвластную человеку интеллектуальную задачу. Его создание — гораздо более сложная задача, чем создание УИИ, и нам это только предстоит. Профессор Линда Готтфредсон описывает интеллект как «очень общую ментальную способность, включающую, помимо прочего, способность к рассуждению, планированию, решению задач, абстрактному мышлению, пониманию сложных идей, быстрому обучению и извлечению уроков из опыта». СИИ смог бы делать всё это так же легко, как и вы.
Уровень ИИ 3) Искусственный суперинтеллект (ИСИ): Оксфордский философ и ведущий мыслитель в области ИИ Ник Бостром определяет суперинтеллект как «интеллект, который намного умнее лучших человеческих умов практически во всех областях, включая научную креативность, житейскую мудрость и социальные навыки». Искусственный суперинтеллект варьируется от компьютера, который лишь немного умнее человека, до того, что во всех отношениях умнее в триллионы раз. Именно ИСИ в ответе за то, что тема ИИ вызывает столько споров, и за такое частое появление в этих постах слов «бессмертие» и «вымирание».
Сейчас люди многократно дошли до ИИ низшего уровня — УИИ — он теперь повсюду. Революция ИИ — это путь от УИИ, через СИИ, к ИСИ. Путь, которой мы можем пережить или не пережить, но который в любом случае всё изменит.
Давайте внимательно рассмотрим, как видят этот путь ведущие мыслители области и почему эта революция может произойти куда раньше, чем вам может казаться:
Что у нас сейчас? Мир, работающий на УИИ.
Узкий искусственный интеллект (УИИ) — машинный интеллект, который не уступает или превосходит человеческий в какой-то конкретной задаче. Несколько примеров:
- Автомобили полны УИИ-систем: от компьютера, определяющего, когда должна сработать антиблокировочная система тормозов, до компьютера, настраивающего систему впрыска топлива. Проходящий сейчас испытания Автомобиль с автопилотом от Google будет оснащён надёжными УИИ-системами, позволяющими ему воспринимать окружающий мир и реагировать на него.
- Ваш телефон — это маленькая фабрика УИИ. Вы используете УИИ, прокладывая маршрут в картографическом приложении, получая персональные музыкальные рекомендации от Pandora, проверяя прогноз погоды на завтра, разговаривая с Siri или выполняя десятки других повседневных действий.
- Спам-фильтр вашей электронной почты — классический УИИ: в него изначально загружены знания, как определять спам, а потом, узнавая ваши конкретные предпочтения, он учится и адаптирует свой интеллект под вас. Термостат Nest делает то же самое: изучает ваш типичный распорядок дня, чтобы действовать соответственно.
- Вам знакома эта жутковатая ситуация, когда вы ищете товар на Amazon, а потом видите его в разделе «Рекомендуется для вас» на другом сайте? Или когда Facebook откуда-то знает, кого вам стоит добавить в друзья? Это сеть УИИ-систем, которые работают вместе, сообщают друг другу, кто вы и что вам нравится, а затем при помощи этой информации решают, что вам показать. Туда же функция Amazon «Те, кто купил это, также купили…» — это УИИ-система, собирающая и обобщающая информацию о поведении миллионов покупателей, чтобы ловко предложить вам дополнительные товары, и вы купили больше.
- Google Translate — ещё одна классическая УИИ-система, впечатляюще хорошо решающая одну узкую задачу. Ещё один пример — распознавание речи. И есть много приложений, использующих эти две УИИ-системы вместе, так что вы можете сказать что-то на одном языке, а телефон выдаст то же самое на другом.
- Не человек решает, к какому выходу направится ваш самолёт, когда он приземлился. И не человек определял цену вашего билета.
- Лучшие в мире игроки в шашки, шахматы, «Скраббл», нарды и «Отелло» — всё это уже УИИ-системы.
- Поиск Google — один огромный УИИ-«мозг» с невероятно сложными методами ранжирования страниц и определения, что показать именно вам. Лента нового в Facebook — туда же.
- И это только потребительские примеры. Сложные УИИ-системы широко используются в военном деле, производстве, финансах (на долю алгоритмических высокочастотных трейдеров с искусственным интеллектом приходится более половины акций, торгуемых на рынках США6) и экспертных системах, вроде тех, что помогают докторам ставить диагнозы, и, пожалуй, самой известной из них — IBM Watson, чьих знаний и понимания изощрённых формулировок ведущего хватило, чтобы уверенно обыграть чемпионов Jeopardy.
Современные УИИ-системы не особенно страшны. В худшем случае глючная или плохо запрограммированная УИИ-система может вызвать единичную катастрофу, например, вывести из строя энергосистему, привести к опасной неисправности атомной электростанции или спровоцировать крах рынка (как «флэш-крах» 2010 года, когда УИИ-программа неверно отреагировала на непредвиденную ситуацию и вызвала кратковременное обрушение фондового рынка, унеся 1 триллион долларов, лишь часть которого была восстановлена после исправления ошибки).
УИИ не несёт экзистенциальной угрозы, но эту всё более обширную и сложную экосистему относительно безобидных УИИ-систем следует рассматривать как предвестник грядущего урагана, способного изменить мир. Каждая очередная инновация в УИИ тихонько добавляет ещё один кирпичик мостовой на пути к СИИ и ASI. Или, как считает Аарон Саенц, наши УИИ-системы «похожи на аминокислоты в первичном бульоне ранней Земли» — неживую материю, которая однажды внезапно пробудилась.
Путь от УИИ к СИИ
Почему это так сложно
Ничто так не заставляет оценить человеческий интеллект, как осознание, насколько невероятно сложно создать компьютер, умный как мы. Строительство небоскрёбов, отправка людей в космос, выяснение подробностей Большого взрыва — всё это куда проще, чем понять наш собственный мозг или создать нечто столь же поразительное. Сегодня самый сложный объект в известной вселенной — человеческий мозг.
Интересно, что сложные аспекты создания СИИ (компьютера, умного как люди вообще, а не только в какой-то узкой специальности) — вовсе не те, что интуитивно кажется. Создать компьютер, способный перемножить два десятизначных числа за долю секунды — очень просто. А такой, который сможет ответить, собака на картинке или кошка — поразительно сложно. Создать ИИ, способный обыграть любого человека в шахматы? Сделано. Создать такой, который сможет прочитать абзац из книжки с картинками для шестилеток и не просто распознать слова, но и понять их смысл? Google сейчас тратит миллиарды долларов в попытках этого добиться. Сложные задачи, вроде математического анализа, финансовых стратегий и перевода между языками, для компьютера ошеломляюще просты, а вот простые вещи, вроде зрения, моторики, движения и восприятия — безумно сложны. Или, как выразился Дональд Кнут, «ИИ уже преуспел в практически всём, что требует „мышления“, но потерпел неудачу в большинстве того, что люди и животные делают „не задумываясь“».7
Задумавшись, быстро понимаешь: то, что кажется нам простым, на самом деле невероятно сложно, а кажется простым лишь потому, что эти навыки оптимизировались в нас (и в большинстве животных) сотнями миллионов лет эволюции. Вы протягиваете руку к предмету, и мышцы, сухожилия и кости плеча, локтя и запястья совместно с глазами мгновенно выполняют длинную серию физических операций, чтобы вы смогли переместить руку по прямой в трёхмерном пространстве. Вам это кажется пустяком, потому что эта функция программного обеспечения вашего мозга доведена до совершенства. Аналогично, вредоносное ПО не может распознать искажённый текст при регистрации нового аккаунта на сайте не потому, что оно глупое — наоборот, невероятно впечатляет способность вашего мозга с этим справиться.
А вот умножение больших чисел или игра в шахматы — новые для биологических существ виды деятельности. У нас не было времени эволюционно развить мастерство в них, вот компьютеру и не нужно сильно стараться, чтобы нас превзойти. Вот за что бы вы предпочли взяться: за создание программы, умеющей умножать большие числа, или такой, которая понимала бы суть буквы «B» настолько хорошо, что, покажи вы ей эту букву, написанную любым из тысяч непредсказуемых шрифтов или почерков, она мгновенно бы её узнала?
Один забавный пример: когда вы смотрите на это, и вы, и компьютер можете понять, что это прямоугольник с двумя разными чередующимися оттенками:
Пока что ничья. Но если поднять чёрную часть и открыть всё изображение…
…у вас не возникнет никаких проблем с полным описанием всех этих непрозрачных и полупрозрачных цилиндров, планок и трёхмерных углов, а вот компьютер потерпит полное фиаско. Он описал бы то, что видит: множество двумерных фигур нескольких разных оттенков. Что, собственно, и соответствует действительности. Ваш мозг проделывает кучу сложных манипуляций, чтобы интерпретировать подразумеваемую глубину, смешение оттенков и освещение, которые пытается передать это изображение.8 И, глядя на картинку ниже, компьютер видит двумерный бело-чёрно-серый коллаж, а вы без труда видите то, что там на самом деле — фотографию полностью чёрного трёхмерного камня:
И мы тут посмотрели только на восприятие и обработку статичной информации. Для человеческого уровня интеллекта компьютер должен был бы понимать вещи вроде разницы между едва уловимыми выражениями лица, между состояниями удовольствия, облегчения, умиротворения, удовлетворённости и радости, и почему «Храброе сердце» — отличный фильм, а «Патриот» — ужасный.
Грандиозная задача.
Так как же нам этого достичь?
Первый ключ к созданию СИИ: увеличение вычислительной мощности
Чтобы СИИ стал возможным, уж точно понадобится увеличение мощности компьютеров. Чтобы ИИ-система смогла стать такой же умной, как мозг, ей нужно будет сравняться с его чистой вычислительной мощности.
Эту мощность можно выразить, например, через общее количество вычислений в секунду (cps), на которое способен мозг. Это число можно получить, определив максимальное значение cps каждой структуры мозга, а затем все их сложив.
Рэй Курцвейл придумал упрощённый подход: он брал чью-нибудь профессиональную оценку cps для отдельной структуры и отношение её веса к весу всего мозга, а затем пропорционально получал оценку для всего мозга. Звучит немного сомнительно, но он многократно проделывал это с разными оценками специалистов для разных областей мозга, и итоговая цифра всегда оказывалась где-то в районе 1016, или 10 квадриллионов cps.
Сейчас самый быстрый в мире суперкомпьютер, китайский Tianhe-2, уже превзошёл этот показатель с производительностью около 34 квадриллионов cps. Но Tianhe-2 — та ещё сучара: занимает 720 квадратных метров площади, потребляет 24 мегаватта энергии (а мозг обходится всего 20 ваттами), и стоил 390 миллионов долларов. Не особо применимо для широкого использования, и даже для большинства коммерческих или промышленных задач.
Курцвейл предлагает оценивать уровень развития компьютеров по тому, сколько cps можно купить за 1 000 долларов. Когда это число достигнет человеческих 10 квадриллионов cps, это будет означать, что СИИ может стать вполне реальной частью жизни.
Закон Мура — исторически надёжное правило, что максимальная вычислительная мощность в мире удваивается примерно каждые два года. Значит, развитие компьютеров, как и общее развитие человечества на протяжении истории экспоненциально. Если совместить с «cps/$1 000» Курцвейла, то мы сейчас на уровне около 10 триллионов cps/$1 000, что полностью соответствует прогнозируемой траектории на этом графике:9
Итак, компьютеры за 1 000 долларов уже обошли мозг мыши и дошли примерно до одной тысячной от мозга человеческого. Звучит будто бы мало, пока не вспомнишь, что в 1985 году уровень был одной триллионной от человеческого, в 1995 году — одной миллиардной, а в 2005 году — одной миллионной. Одна тысячная в 2015 году ровно ложится на график, который к 2025 году даёт нам доступный компьютер, по мощности сопоставимый с человеческим мозгом.
Так что со стороны «железа», чистая мощность для СИИ технически уже сейчас доступна в Китае, а в течение 10 лет мы можем получить доступное и широко распространённое оборудование такого уровня. Но одна лишь чистая вычислительная мощность не делает компьютер универсально разумным — следующий вопрос в том, как наделить её интеллектом человеческого уровня?
Второй ключ к созданию СИИ: сделать его умным
Это самая заковыристая часть. Никто вообще-то не знает, как сделать его умным — мы всё ещё спорим, как наделить компьютер интеллектом человеческого уровня и научить его понимать, что такое собака, странно написанная буква «B» и посредственный фильм. Но стратегий куда-то в ту сторону масса, и в какой-то момент одна из них сработает. Вот три наиболее распространённые стратегии, что мне встречались:
1) Сплагиатить мозг
Это как если бы учёные ломали голову, почему парень, сидящий с ними за одной партой, такой умный и постоянно на отлично сдаёт тесты; и хотя они усердно учатся, их результаты и близко не дотягивают, поэтому в конце концов они решают: «А, к чёрту, я просто у него спишу». Весьма разумно — мы зашли в тупик, пытаясь создать сверхсложный компьютер, а ведь идеальный прототип такого устройства уже есть в голове каждого из нас.
Научное сообщество усердно работает над реверс-инжинирингом мозга, чтобы понять, как эволюция создала такую крутую штуку. Согласно оптимистичным оценкам, мы сможем сделать это к 2030 году. И тогда мы узнаем все секреты, как мозгу удаётся работать так мощно и эффективно, сможем им вдохновляться и заимствовать его инновации. Один из примеров компьютерной архитектуры, имитирующей мозг, — искусственная нейронная сеть. Изначально она представляет собой сеть транзисторных «нейронов», соединённых друг с другом входами и выходами, и ничего не знает — как мозг младенца. Она «учится» так: пытается выполнить задачу, например, распознавание рукописного текста, и поначалу её нейронные импульсы и попытки расшифровать каждую букву совершенно случайны. Но когда ей сообщают, что она ответила правильно, транзисторные связи в путях передачи импульсов, которые случайно привели к этому ответу, укрепляются; когда ей сообщают, что она ошиблась, связи в этих путях ослабляются. После кучи таких попыток и получения обратной связи сеть самостоятельно формирует умные нейронные пути, и машина оптимизируется для выполнения этой задачи. Мозг учится примерно так же, но гораздо более изощрённым образом, и по мере его изучения, мы открываем гениальные новые способы использования нейронных схем.
Более экстремальный плагиат — стратегия «полной эмуляции мозга» — разрезать реальный мозг на тонкие слои, отсканировать каждый из них, программно собрать точную реконструированную 3D-модель, а потом запустить её на мощном компьютере. Тогда у нас появится компьютер, официально способный на всё, на что и мозг, — ему просто нужно будет учиться и собирать информацию. Если инженеры станут действительно хороши, они смогут эмулировать настоящий мозг столь точно, что личность и память останутся полностью нетронутыми после загрузки архитектуры мозга в компьютер. Принадлежи этот мозг Джиму непосредственно перед его смертью, компьютер теперь и очнулся бы как Джим (?). Это точно был бы СИИ человеческого уровня, а потом мы могли бы работать над превращением Джима в невообразимо умный искусственный суперинтеллект, чему он, наверное, был бы очень рад.
Насколько мы далеки от полной эмуляции мозга? Ну, мы только недавно смогли эмулировать мозг плоского червя длиной 1 мм из всего 302 нейронов. А у человека их 100 миллиардов. Если так проект кажется безнадёжным, вспомните о силе экспоненциального прогресса: теперь, покорив крошечный мозг червя, мы можем скоро добраться до муравья, потом до мыши, и внезапно всё это покажется куда вероятнее.
2) Попытаться заставить эволюцию сделать то же, что раньше, но теперь для нас
Если же мы решим, что скопировать тест отличника слишком сложно, мы можем вместо этого попытаться скопировать его подготовку к тестам.
Что мы знаем: создать компьютер, такой же умный, как мозг, возможно — доказательством тому служит эволюция нашего собственного мозга. И если мозг слишком сложен, чтобы его эмулировать, мы могли бы вместо этого попытаться эмулировать эволюцию. Да и если эмулировать мозг получится, это может оказаться как попытка построить самолёт, копируя взмахи птичьих крыльев. Машинам часто лучше подойдёт свежий, машинно-ориентированный подход, а не точное копирование биологии.
Так как нам смоделировать эволюцию для создания СИИ? Метод, «генетические алгоритмы», работал бы примерно так: раз за разом повторяется процесс выполнения и оценки (подобно тому, как биологические существа «выполняют» свои функции, проживая жизнь, и «оцениваются» по тому, удаётся им оставить потомство или нет). Группа компьютеров будет пытаться выполнять задачи, и наиболее успешные будут скрещиваться, объединяя по половине своего кода в новый компьютер. Менее успешные будут отсеиваться. Множество итераций этот процесс естественного отбора будет порождать всё более совершенные компьютеры. Сложность тут в создании автоматизированного цикла оценки и скрещивания, чтобы этот эволюционный процесс мог протекать самостоятельно.
Недостаток копирования эволюции: она любит тратить на свои творения миллиард лет, а мы хотим управиться за несколько десятилетий.
Но у нас есть много преимуществ перед эволюцией. Во-первых, она не заглядывает наперёд и работает случайно — она порождает больше бесполезных мутаций, чем полезных, а мы контролировали бы этот процесс, чтобы он направлялся только полезными сбоями и целенаправленными коррекциями. Во-вторых, эволюция ни к чему не стремится, в том числе и к интеллекту. Иногда среда может даже производить отбор против более высокого интеллекта (ведь он потребляет много энергии). А вот мы могли бы специально направить эволюционный процесс на повышение интеллекта. В-третьих, для отбора в пользу интеллекта, эволюции приходится внедрять массу других инноваций для его поддержания, вроде переделки выработки клетками энергии, а вот мы можем избавиться от этого лишнего бремени и просто использовать электричество. Несомненно, мы действовали бы намного, намного быстрее эволюции. Но пока неясно, сможем ли мы превзойти её настолько, чтобы эта стратегия стала жизнеспособной.
3) Сделать всё это проблемой компьютера, а не нашей
Тут учёные отчаиваются и пытаются запрограммировать тест, чтобы он проходил себя сам. Но, возможно, это самый многообещающий из наших методов.
Идея в том, что мы создали бы компьютер, двумя основными навыками которого были бы проведение исследований в области ИИ и программирование изменений в самом себе. Это позволило бы ему не только учиться, но и совершенствовать свою собственную архитектуру. Мы бы сделали компьютеры специалистами по информатике, чтобы они могли самостоятельно обеспечивать собственное развитие. И их главной задачей стало бы выяснять, как сделать себя умнее. Подробнее об этом позже.
Всё это может произойти скоро
Одновременно происходят стремительное развитие «железа» и инновационные эксперименты с ПО. Есть две основные причины, почему СИИ может подкрасться к нам быстро:
1) Экспоненциальный рост очень стремителен, и то, что кажется черепашьим темпом, может быстро рвануть вверх. Эта гифка отлично иллюстрирует эту идею:
- Прогресс ПО может казаться медленным, но одно озарение способно мгновенно изменить темпы развития (примерно как наука, когда люди считали Вселенную геоцентрической, с трудом пыталась объяснить её устройство, а потом появление гелиоцентрической модели внезапно сделало всё гораздо проще). Или, если говорить о чём-то вроде самоулучшающегося компьютера, может казаться, что нам ещё далеко, хотя на деле одной небольшой настройки системы хватит, чтобы он стал в 1 000 раз эффективнее и стремительно достиг человеческого уровня интеллекта.
Путь от СИИ к ASI
В какой-то момент мы достигнем СИИ — компьютеров с обобщённым интеллектом человеческого уровня. И люди и компьютеры будут жить вместе на равных.
О, нет, совсем не так.
Вообще-то СИИ с равным человеку уровнем интеллекта и вычислительной мощности уже будет обладать значительными преимуществами перед людьми. Например:
Железо:
- Скорость. Максимальная частота работы нейронов мозга — около 200 Гц, а вот современные микропроцессоры (которые намного медленнее тех, что будут, когда мы достигнем СИИ) работают на частоте 2 ГГц, то есть в 10 миллионов раз быстрее. А внутренние связи мозга, способные передавать сигналы со скоростью около 120 м/с, безнадёжно уступают компьютерной оптической связи со скоростью света.
- Размер и объём памяти. Размер мозга ограничен формой нашего черепа. Да он и не смог бы стать намного больше, иначе внутренние сигналы на скорости 120 м/с слишком долго добирались бы от одной структуры мозга к другой. Размер компьютеров не ограничен, так что можно использовать куда больше оборудования, а значит — больше рабочей (RAM) и долговременной (на жёстком диске) памяти с гораздо большей ёмкостью и точностью, чем наша.
- Надёжность и долговечность. Более точной будет не только компьютерная память. Транзисторы в компьютерах точнее биологических нейронов и менее подвержены износу (а в случае поломки их можно отремонтировать или заменить). А ещё человеческий мозг легко утомляется, а вот компьютеры могут работать без остановок на пике производительности 24 на 7.
Программное обеспечение:
- Редактируемость, возможность обновления и более широкий спектр возможностей. В отличие от человеческого мозга, компьютерное ПО может получать обновления и патчи, и с ним легко экспериментировать. Обновления могут затрагивать области, в которых человеческий мозг слаб. Программное обеспечение человеческого зрения превосходно развито, а вот способности к сложной инженерии довольно низки. Компьютеры могли бы сравняться с человеком в зрении и одновременно так же соптимизироваться в инженерии и любой другой области.
- Коллективные способности. Люди наголову превосходят все остальные виды в создании колоссального коллективного интеллекта. Коллективный интеллект человечества, зародившийся с развитием языка и формированием крупных, плотных сообществ, прошедший через изобретение письменности и книгопечатания, а теперь многократно усиленный инструментами вроде интернета, — это одна из главных причин, почему мы так сильно опередили все остальные виды. И компьютеры будут справляться с этим куда лучше нас. Всемирная сеть ИИ реализующих общую программу, могла бы регулярно синхронизироваться, чтобы все полученные одним компьютером знания мгновенно загружались на остальные. Ещё эта группа могла бы совместно работать над общей целью, в ней ведь не будет неизбежных для человеческого общества разногласий, противоречивых мотивов и личных интересов.10
ИИ, который, вероятно, достигнет уровня СИИ благодаря тому, что запрограммирован на самоулучшение, не будет считать «человеческий уровень» каким-то важным рубежом — он значим лишь с нашей точки зрения. У него не будет никаких причин там «останавливаться». А учитывая те преимущества перед нами, которыми будет обладать даже СИИ, эквивалентный человеческому интеллекту, очевидно, что он задержится на этом уровне лишь на мгновение, и устремится дальше — в мир интеллекта, превосходящего человеческий.
Нас такое может напугать до усрачки. Ведь с нашей точки зрения: А) хотя одни животные умнее других, главная для нас характеристика интеллекта любого животного — он намного ниже нашего; и Б) мы считаем, что умнейшие люди НАМНОГО умнее глупейших. Как-то так:
Так что по мере стремительного приближения уровня интеллекта ИИ к нашему, нам будет казаться, что ИИ просто умнеет — как для животного. Потом, когда он достигнет нижней границы человеческих возможностей — Ник Бостром называет этот уровень «деревенским дурачком», — мы скажем: «Ого, прямо как тупой человек. Мило!» Но проблема в том, что в общей картине интеллекта все люди, от деревенского дурачка до Эйнштейна, находятся в очень узком диапазоне — поэтому сразу после достижения уровня деревенского дурачка и признания его СИИ он внезапно окажется умнее Эйнштейна, и мы даже не поймём, что на нас обрушилось:
А что произойдёт… после этого?
Интеллектуальный взрыв
Надеюсь, вы насладились «эпохой нормальности», потому что сейчас всё станет ненормальным и пугающим, и таким и останется. Хочу для начала напомнить: всё, что я сейчас скажу — это настоящая наука и реальные прогнозы будущего от кучи самых уважаемых мыслителей и учёных. Держите это в голове.
Итак, как я уже говорил, большинство нынешних моделей достижения СИИ предполагают, что ИИ дойдёт туда через самоулучшение. А как дойдёт, тогда даже системы, сформированные и выращенные методами, не включавшими самоулучшение, станут достаточно умны, чтобы при желании самоулучшение начать.11
И здесь мы подходим к поразительной концепции: рекурсивное самоулучшение. Оно работает так:
ИИ-система определённого уровня — скажем, уровня деревенского идиота — запрограммирована на улучшение своего собственного интеллекта. Добившись этого, она становится умнее, возможно уровня Эйнштейна. Теперь, когда она, умная как Эйнштейн, совершенствует свой интеллект, это даётся ей легче, и она способна на скачки побольше. Они делают её гораздо умнее любого человека, что позволяет совершать ещё бóльшие скачки. Всё большими и всё более частыми скачками СИИ стремительно взлетает ввысь и вскоре достигает суперинтеллектуального уровня ИСИ. Это называется интеллектуальным взрывом,12 и это величайший пример Закона ускоряющейся отдачи.
Ведутся споры, как скоро ИИ достигнет обобщённого интеллекта человеческого уровня. Медианным ответом в опросе сотен учёных о том, когда вероятность создания нами СИИ превысит 50%, был 2040 год13 — всего через 25 лет. Не кажется таким уж ошеломляющим, пока не учтёшь, что многие в области считают вероятным, что переход от СИИ к ИСИ произойдёт очень быстро. Например, как-то так:
Первая ИИ-система десятилетия достигает низкого уровня обобщённого интеллекта, но в конце концов это происходит. Компьютер способен понимать окружающий мир на уровне четырёхлетнего ребёнка. И вдруг, в течение часа после достижения этого рубежа, система выдаёт великую физическую теорию, объединяющую общую теорию относительности и квантовую механику, — то, чего ни один человек так и не смог убедительно сделать. Спустя ещё 90 минут ИИ превращается в ИСИ в 170 000 раз умнее человека.
Суперинтеллект такого масштаба мы не в силах даже отдалённо постичь, как шмель не способен осознать кейнсианскую экономику. В нашем мире «умный» означает IQ 130, а «глупый» — IQ 85; у нас нет слова для IQ 12952.
Но мы видим, что абсолютное господство людей на Земле намекает на чёткое правило: с интеллектом приходит власть. Так что ИСИ, когда мы его создадим, станет самым могущественным существом в истории жизни на Земле, и все живые существа, включая людей, будут полностью зависеть от его прихотей — и это может произойти в ближайшие несколько десятилетий.
Если наши скромные мозги изобрели Wi-Fi, то нечто в сто, тысячу или миллиард раз умнее сможет без труда расположить каждый атом в мире как угодно и когда угодно. То, что мы считаем магией, любая сила, которую мы приписываем верховному Богу, будет для ИСИ обыденным, как свет включить. Технологии для обращения вспять старения, победа над болезнями, голодом и даже самой смертностью, перепрограммирование погоды для защиты будущего жизни на Земле, — всё это внезапно станет возможным. Равно как и мгновенный конец всей жизни на Земле. Если ИСИ появится на свет, и на Земле возникнет всемогущий Бог, для нас важнейшим вопросом будет этот:
Будет ли это добрый Бог?
Это тема второй части этой статьи.
(Источники приведены в конце второй части.)
Связанные публикации Wait But Why
Парадокс Ферми – Почему мы не видим никаких признаков инопланетной жизни?
Как (и почему) SpaceX колонизирует Марс – Статья, над которой мне довелось работать вместе с Илоном Маском и которая изменила моё представление о будущем.
Или нечто совершенно иное, но всё равно как-то связанное: Почему прокрастинаторы прокрастинируют.
А вот первый год Wait But Why в формате электронной книги.