Эпоха интеллекта

автор: Sam Altman
Безопасность ИИИскусственный интеллектЛонгтермизмСогласование ИИТрансформативный искусственный интеллектЭкзистенциальный риск
 

В ближайшие несколько десятилетий мы сможем делать то, что показалось бы волшебством нашим бабушкам и дедушкам.

Так уже бывало, но теперь — куда быстрее. Возможности людей невероятно возросли; уже сейчас мы можем делать то, что наши предшественники сочли бы невозможным.

Мы способны на большее не благодаря генетическим изменениям, а потому, что пользуемся инфраструктурой общества, которая гораздо умнее и способнее любого из нас; в важном смысле оно само — развитая форма интеллекта. Наши бабушки и дедушки и поколения до них создавали и совершали великие вещи. Они внесли свой вклад в структуру прогресса человечества, благами которой все мы пользуемся. ИИ даст людям инструменты для решения сложных задач и поможет нам добавить к этой структуре новые детали, которые мы бы не смогли придумать самостоятельно. История прогресса продолжится, и наши дети получат возможности, которых нет у нас.

Это произойдёт не сразу, но вскоре мы сможем работать с ИИ, который поможет нам достичь гораздо большего, чем было бы возможно без него; в итоге каждый из нас может заиметь личную команду виртуальных экспертов по разным областям, вместе работающих над практически чем угодно, что только можно представить. У наших детей будут виртуальные наставники, индивидуально обучающие любому предмету, на любом языке и в нужном им темпе. Можно представить похожие идеи для лучшего здравоохранения, возможность создавать любые мыслимые программы, и многое другое.

Эти новые возможности дадут нам достичь невообразимой ныне степени всеобщего процветания; жизнь каждого человека в будущем может стать лучше, чем чья угодно жизнь сегодня. Процветание само по себе не обязательно приносит счастье — несчастных богатых людей немало, — но оно существенно улучшит жизни людей по всему миру.

Вот один узкий взгляд на историю человечества: после тысяч лет накопления научных открытий и технологического прогресса мы научились плавить песок, добавлять в него примеси, с поразительной точностью на невероятно малых масштабах превращать его в компьютерные чипы, пропускать через них энергию и в итоге получать системы, способные создавать всё более совершенный искусственный интеллект.

Это может оказаться самым значимым фактом за всю, пока что, историю человечества. Возможно, у нас будет суперинтеллект через несколько тысяч дней (!); а может, потребуется больше времени, но я уверен, что мы к этому придём.

Как мы оказались на пороге следующего скачка процветания?

В трёх словах: глубокое обучение сработало.

В 17 словах: глубокое обучение сработало, оно предсказуемо улучшается с ростом масштаба, и мы направляем на него всё больше ресурсов.

Вот и всё; человечество открыло алгоритм, действительно способный выучить любое распределение данных (или, на самом деле, лежащие в основе «правила», порождающие любое распределение данных). С поразительной точностью работает закономерность: чем больше есть данных и вычислительных мощностей, тем лучше этот алгоритм помогает людям решать сложные задачи. Я замечаю в себе, что сколько бы я ни размышлял, всю значимость этого мне так и не удаётся по-настоящему осознать.

Ещё предстоит прояснить множество деталей, но отвлекаться на отдельные трудности было бы ошибкой. Глубокое обучение работает, а оставшиеся проблемы мы решим. Можно много сказать о том, что будет дальше, но главное — совершенствование ИИ с ростом масштаба, и оно приведёт к значительному улучшению жизни людей по всему миру.

Модели ИИ скоро станут автономными личными помощниками, которые будут по нашим поручениям выполнять конкретные задачи — например, координировать наше медицинское обслуживание. В какой-то момент в будущем ИИ-системы станут настолько хороши, что помогут нам создавать более совершенные системы следующего поколения и продвигать все направления науки.

Технологии привели нас из каменного века в аграрную, а затем в индустриальную эпоху. Путь отсюда к Эпохе интеллекта вымощен вычислительными мощностями, энергией и человеческой волей.

Если мы хотим сделать ИИ доступным как можно большему числу людей, нужно снизить стоимость вычислений и обеспечить их изобилие (что требует кучи энергии и чипов). Если мы не построим достаточно инфраструктуры, ИИ станет крайне ограниченным ресурсом, из-за него будут вестись войны, и он станет в основном инструментом для богатых.

Нам нужно действовать мудро, но решительно. Наступление Эпохи интеллекта — важнейшее событие, сопряжённое с очень сложными вызовами и чрезвычайно высокими ставками. Эта история не будет исключительно позитивной, но потенциальная выгода столь колоссальна, что мы обязаны себе и будущему найти, как справиться со стоящими перед нами рисками.

Я верю, что будущее будет таким светлым, что никто, пытаясь описать его сейчас, не может воздать ему должное; всеобщее процветание станет определяющей чертой Эпохи интеллекта.

Хоть это и будет происходить постепенно, в конечном итоге поразительные достижения — исправление климата, колонизация космоса, открытие всех законов физики — станут обычным делом. Практически безграничный интеллект и изобилие энергии — способность генерировать великие идеи и способность воплощать их в жизнь — дадут нам очень многого достичь.

Как мы уже видели на примере других технологий, будут и свои минусы, поэтому уже сейчас нужно начать работать над тем, чтобы максимизировать пользу ИИ и свести к минимуму вред. Например, мы ожидаем, что в ближайшие годы эта технология вызовет сильные, как положительные, так и отрицательные, изменения рынка труда, но большинство профессий будет меняться медленнее, чем многие считают, и я не боюсь, что мы останемся без дела (пусть наши занятия и не будут похожи на «настоящую работу» в сегодняшнем понимании). У людей есть врождённая потребность творить и быть полезными друг другу, а ИИ позволит нам невиданно приумножить наши способности. Общество вновь окажется в расширяющемся мире и сможет сосредоточиться на играх с положительной суммой.

Многие виды работы, которой мы занимаемся сегодня, несколько веков назад показались бы людям пустой тратой времени, но никто не оглядывается в прошлое, жалея, что не стал фонарщиком. Увидь фонарщик сегодняшний мир, он счёл бы невообразимым наше процветание. А перенесись мы на век вперёд, нам бы показалось столь же невообразимым процветание там.


Оригинальная публикация: Sam Altman (2024) The Intelligence Age, Sam Altman’s Blog, 23 сентября.