Почему мнения о том, когда появится мощный ИИ, расходятся?
Мало кто станет отрицать стремительность прогресса ИИ в последние несколько лет.
Большие языковые модели (LLM) открыли неожиданный путь к всё более общим способностям. В 2019 году GPT-2 от OpenAI не всегда могла написать связный абзац. В 2025 году LLM легко пишут эссе, превосходят человеческих экспертов в решении научных задач уровня аспирантуры и демонстрируют выдающиеся результаты в олимпиадной математике и программировании. Самые передовые мультимодальные ИИ-модели теперь генерируют изображения и видео, которые трудно отличить от реальности.
Эти модели впечатляют (и полезны!), но они всё ещё далеки от заветной звезды, к которой стремятся передовые ИИ-компании. Сильный искусственный интеллект (СИИ), который OpenAI описывает как «высокоавтономную систему, превосходящую людей в большинстве экономически ценных видов работы», на протяжении многих десятилетий остаётся высшей целью исследователей ИИ.
Большинство экспертов согласны, что СИИ возможен. Они согласны и с тем, что он приведёт к масштабным последствиям. Гораздо меньше консенсуса относительно того, какими будут эти последствия. Некоторые полагают, что СИИ положит начало эпохе радикального изобилия. Другие считают, что он, скорее всего, приведёт к вымиранию человечества. В одном мы можем быть уверены: мир после появления СИИ будет сильно отличаться от сегодняшнего.
Итак, СИИ уже не за горами? Или, хоть недавний прогресс и был стремителен, впереди ещё остались сложные препятствия, на преодоление которых уйдут десятилетия? Это предмет оживлённых дискуссий. Спросите разные группы, когда, по их мнению, появится СИИ, и вы получите очень разные ответы — от всего пары лет до более чем двух десятилетий.
Почему так? Мы постарались выявить некоторые центральные разногласия.
Аргументы за короткие сроки
Многие из тех, кто ближе всего к передовому ИИ, ожидают СИИ до 2030 года.
Дарио Амодей, генеральный директор Anthropic, «уверен», что в течение 2-3 лет будут достигнуты очень мощные способности. Сэм Альтман, генеральный директор OpenAI, заявил, что его компания «знает, как создать СИИ», и считает, что мы сможем достичь ещё более грандиозной цели — «суперинтеллекта» — за «тысячи дней». А Демис Хассабис, генеральный директор Google DeepMind, прогнозирует несколько более консервативный (но всё же короткий) срок до СИИ — 3–5 лет.
Два широко обсуждаемых сценария, Situational Awareness и AI-2027, написанные прогнозистами и бывшими сотрудниками СИИ-компаний, дают схожие прогнозы.
Вот некоторые причины полагать, что до СИИ осталось всего несколько лет:
#1 Бенчмарки продолжают насыщаться
Самый простой аргумент за короткие сроки: совсем не похоже, что остался ещё долгий путь, по крайней мере, в тех способностях, которые мы умеем измерять.
Вот график роста способностей ИИ в разных бенчмарках всего за последние два года:
Источник: Международный отчёт по безопасности ИИ
В академических бенчмарках с закрытыми вопросами ИИ приближается к уровню людей-специалистов. Флагманские модели от OpenAI, DeepMind и Anthropic набирают более 82 % в MMLU, который содержит вопросы на выбор варианта по целому ряду дисциплин — от математики до международного права, — и более 75 % в GPQA с вопросами по науке и технике уровня магистратуры.
Бенчмарки достигают насыщения так быстро, что исследователи еле успевают создавать новые, всё ещё бросающие вызов передовым моделям. Например, Humanity’s Last Exam (HLE) содержит 2500 вопросов от более чем 1000 специалистов по разным областям. Эти вопросы призваны отражать передний край человеческих знаний в большинстве дисциплин. И большие языковые модели уже начинают с ними справляться. Модель o3 от OpenAI набрала 20 % в HLE по сравнению с 8 % у её предшественницы, модели o1, выпущенной всего несколькими месяцами раньше. Её создатели считают «правдоподобным», что к концу 2025 года ИИ наберёт в HLE больше 50 %.
Важно отметить, что ИИ-модели не «просто запоминают» ответы на вопросы из бенчмарков вроде GPQA и HLE: исследователи держат тестовые выборки в секрете для гарантии, что решения не попадут в обучающие данные.
Если прогресс продолжится теми же темпами, что в последние несколько лет, скоро нам будет сложно придумать закрытые вопросы, на которые ИИ-модели не смогут ответить. Тогда будет не хватать лишь свойств, нужных для применения всего этого «сырого» интеллекта на практике, вроде агентности и долгосрочного планирования. Как нельзя кстати для убеждённых в коротких сроках, у нас и тут есть свидетельства прогресса — что подводит нас к следующему пункту.
#2 ИИ способны выполнять всё более длительные задачи
Впечатляющие результаты бенчмарков не конвертируются напрямую в реальное воздействие на мир. Одна из причин — сейчас ИИ-модели не могут выполнять задачи с длинными временными горизонтами. Даже если они могут надёжнее большинства людей выполнить любой отдельный шаг, они не могут автономно решать задачи, на которые у человека ушли бы дни или недели.
Но это может измениться уже скоро. Недавнее исследование METR, организации, которая разрабатывает и проводит оценки передовых ИИ-моделей, показало, что продолжительность задач, которые они способны успешно выполнять, удваивается каждые семь месяцев:
Если так и продолжится, к концу десятилетия ИИ сможет выполнять проекты длиной в месяц. Процесс может даже ускориться. В частности, в 2024–2025 годах время удвоения составило 4 месяца, что экстраполируется до способности решать задачи месячной длительности уже к 2027 году.
#3 Возможно, исследования ИИ — единственное, что нужно автоматизировать для достижения СИИ
Цель передовых ИИ-компаний — разработать ИИ-системы, способные автоматизировать любую экономически ценную задачу. Одна из которых — сами исследования ИИ. Если мы сможем автоматизировать или значительно ускорить процесс создания более совершенных ИИ, любые оставшиеся препятствия на пути к СИИ могут быть преодолены довольно быстро.
Если ИИ-компания разработает собственную ИИ-систему, которая превзойдет её лучших инженеров в продвижении прогресса ИИ, у неё будет огромный стимул автоматизировать значительную часть собственных исследований. Автоматизированные ИИ-исследователи могли бы работать днем и ночью без перерывов и даже самовоспроизводиться, составляя то, что Джеффри Хинтон (один из пионеров парадигмы глубокого обучения, положившей начало сегодняшнему взлёту способностей ИИ) называет «цифровым коллективным разумом».
Для обучения новой ИИ-модели нужно гораздо больше вычислительных мощностей, чем для её работы. Один исследователь ИИ подсчитал, что к 2027 году мы сможем параллельно запускать миллионы автоматизированных исследователей, сжимая годы прогресса всего в несколько дней.
Это может спровоцировать то, что иногда называют интеллектуальным взрывом — рекурсивную петлю обратной связи, в которой всё более мощные ИИ создают своих собственных преемников. Интеллектуальный взрыв может быстро породить ИИ-системы со способностями, значительно превосходящими человеческие.
Уровень у ИИ навыков, необходимых для автоматизации исследований ИИ, уже растёт. В прошлом году организация METR протестировала передовые модели, включая Claude Sonnet 3.5 от Anthropic и o1-preview от OpenAI, и сравнила их с более чем 50 специалистами-людьми. Получилось, что модели уже превосходят людей в задачах из исследований и разработки ИИ с двухчасовыми временными горизонтами.
#4 К 2030 году мы сможем обучать гораздо более крупные модели
Сегодняшние мощнейшие ИИ-системы обучаются с использованием трёх ресурсов: данные (в основном тексты из интернета), алгоритмы (инструкции по обучению на этих данных) и вычислительные мощности (передовые чипы, обеспечивающие работу всего процесса).
За последние несколько лет мы заметили, что объем вычислительных мощностей, используемых для обучения моделей, в целом коррелирует с их способностями. Некоторые даже пришли к выводу, что вычислительные мощности — самый важный ингредиент разработки ИИ, что дело не столько в хитроумных алгоритмах или эффективных архитектурах, сколько во всё большем количестве «железа».
Epoch прогнозируют, что к 2030 году станет возможным обучать ИИ-модели с использованием в 10 000 раз больших вычислительных мощностей, чем использовались для обучения GPT-4 от OpenAI. Это примерно такой же скачок, как между GPT-2, которая едва могла составить связный абзац, не отклоняясь от темы, и GPT-4, способной выстраивать сложные рассуждения, генерировать код, сдавать стандартизированные экзамены и вести подробные беседы с учётом контекста.
Если (как мы уже обосновывали) до СИИ или автоматизации исследований ИИ осталось немного, трудно представить, что очередного масштабирования в 10 000 раз не хватит.
#5 Прогнозируемые сроки продолжают сокращаться
В дискуссиях о сроках до СИИ мнение экспертов — важный ориентир, но весьма размытый. Во-первых, спектр мнений чрезвычайно широк — в этом суть данной статьи! Во-вторых, неясно, что именно даёт кому-то компетенцию это прогнозировать. Тут могут быть ценными самые разные компетенции: от опыта создания передовых моделей до впечатляющих результатов в прогнозировании.
Если мы не можем выделить единственный авторитет, чтобы доверять его прогнозам, сложно понять, как именно наши собственные прогнозы должны зависеть от мнения экспертов. Но что можем сделать — это посмотреть, как прогнозы менялись со временем. Похоже ли, что они сходятся на каком-то периоде?
Ответ на этот вопрос несколько подталкивает нас в сторону коротких сроков. В проведённом AI Impacts в 2023 году опросе исследователей машинного обучения участники предположили, что СИИ появится к 2047 году. По сегодняшним меркам это считается «длинными сроками». Но в опросе 2022 года результатом был 2060-й. На платформе предсказаний Metaculus прогнозируемая дата создания СИИ более чем на два десятилетия приблизилась с 2022 года:
О сокращении сроков твердят просто хором. Возьмём, к примеру, Джеффри Хинтона и Йошуа Бенджио, двух лауреатов премии Тьюринга 2018 года за работы в области глубокого обучения, прозванных «крёстными отцами ИИ». После выхода ChatGPT (ставшего переломным моментом для многих наблюдателей за развитием ИИ) оба сократили свои прогнозируемые сроки с нескольких десятилетий аж до пяти лет. В недавнем посте на Substack бывший член совета директоров OpenAI Хелен Тонер размышляет об этой «эпидемии сокращения сроков» и как пример цитирует нескольких бывших скептиков, считающих теперь, что СИИ может появиться в течение 10 лет.
Хотя, конечно, есть предел тому, сколько информации можно извлечь из прогнозов (особенно учитывая беспрецедентный характер СИИ), стоит отметить, что найти примеры сокращения сроков гораздо легче, чем увеличения.
Аргументы за длительные сроки
Ажиотажа (и тревоги) по поводу скорого появления СИИ много, но убеждены в этом не все. Многие специалисты из отрасли уверены в коротких сроках, и, как мы описывали, они склонны сокращаться, но опросы более широкого круга экспертов по-прежнему показывают сроки подлиннее!
Скептики указывают, что большие языковые модели всё ещё допускают нелепые ошибки, подчеркивают препятствия к использованию ИИ для реальных задач и сомневаются в правдоподобности интеллектуального взрыва.
Вот несколько причин полагать, что до СИИ могут оставаться еще десятилетия:
#1 Бенчмарки показывают нам только те способности, которые легко измерить
Бенчмарки лучше всего подходят для чётко определённых задач, где легко проверить успех. ИИ-модели с ними справляются особенно хорошо. Это вдвойне верно для более новых рассуждающих моделей, вроде o1 от OpenAI, которые значительно полагаются на обучение с подкреплением (RL).
В процессе RL модель методом проб и ошибок учится максимизировать вознаграждение. Так были созданы ИИ-системы с сверхчеловеческими способностями в узких областях, вроде AlphaGo и AlphaFold от DeepMind. Исследователи недавно обнаружили, что и на универсальных LLM этот метод работает лучше, чем ожидалось. Гораздо легче обучать ИИ с помощью RL, когда разница между «хорошим» и «плохим» результатом неоспорима. Дайте ИИ конкретную скалу — и он на неё заберётся. Это одна из причин, почему у рассуждающих моделей особенно выросли способности в таких областях, как математика и программирование.
Но СИИ-скептики отмечают, что реальный мир не такой чистенький. Вспомните свой повседневный рабочий опыт. Вы можете получать разные (даже противоречивые) отзывы от разных людей. Вероятно, есть больше одного «правильного» способа выдать результат. Вы узнаёте, что работает, а что нет, наблюдая за реальными последствиями своего труда, и они могут быть неоднозначными.
На этой линии аргументации основана приличная часть критики в адрес упомянутого нами исследования METR. Оно использовалось для демонстрации, что ИИ способны действовать на всё более длительных временных горизонтах — но в нём оценивалась исключительно эффективность выполнения задач по программной инженерии. Это как раз тот вид задач, где, как мы ожидаем, что ИИ будет преуспевать! Неясно, насколько этот тренд обобщается на другие виды экономически ценного труда.
Реальную работу ещё и нелегко разделить на отдельные, самодостаточные задачи. Наоборот, задачи склонны пересекаться и зависеть от обширного контекста, который трудно передать ИИ. Поэтому не так-то просто делегировать ИИ-моделям даже небольшие поручения. Большие языковые модели мастерски пишут электронные письма, но довольно сложно попросить такую модель связаться с коллегой по следам предыдущего обсуждения, если ИИ не знает, о чём шла речь!
#2 Простые для людей задачи сложны для ИИ — и наоборот
Исторически люди ожидали, что ручной труд будет автоматизирован задолго до интеллектуального. Однако в 2025 году у нас есть языковые модели, способные решать научные вопросы уровня PhD, но нет роботов, способных надёжно собирать мебель.
Кое кто всё же предвидел это — специалист в области информатики Ханс Моравек. Еще в 1988 году он заметил, что гораздо проще заставить компьютер отлично играть в игры вроде шашек, чем наделить его базовыми навыками восприятия и передвижения годовалого ребенка. Этот принцип стал известен как парадокс Моравека: рассуждение требует гораздо меньших вычислительных мощностей, чем сенсомоторные навыки.
Моравек предположил, что навыки вроде хватания предметов или обхода препятствий сложнее воспроизвести, поскольку эволюция потратила на их формирование гораздо больше времени. А вот навыки абстрактного рассуждения люди наоборот приобрели относительно недавно. Чем древнее навык, тем больше вычислительных ресурсов нужно, чтобы его воспроизвести.
Возможно, это исказило наше восприятие реальных способностей современных ИИ-систем. Способность решать математические задачи уровня PhD очень впечатляет, потому что большинство людей так не умеет. Напротив, загрузка посудомоечной машины кажется тривиально простой задачей, ведь большинство из нас может с ней справиться. Но согласно аргументу Моравека это на самом деле мало что говорит об абсолютной сложности этих задач. Подразумевается, что мы уже раскрыли простые способности ИИ, а самое сложное может быть ещё впереди.
#3 Интеллектуальный взрыв может оказаться невозможным
Пока что мы обосновывали, что сроки до СИИ могут оказаться долгими из-за того, что остался куда больший путь, чем кажется по бенчмаркам.
Но это игнорирует приведённый выше аргумент об интеллектуальном взрыве. Даже если до создания подлинного СИИ надо преодолеть ещё много препятствий, автоматизация исследований ИИ может означать, что это всё равно займёт совсем немного времени. То, что ИИ-системы особенно хорошо справляются с легко измеримыми задачами вроде математики и программирования, тут только помогает — ведь именно эти навыки им нужны для ускорения прогресса ИИ.
Но вопрос, действительно ли интеллектуальный взрыв возможен, остаётся открытым. Как мы уже описывали, обучение ИИ использует три ресурса: данные, алгоритмы и вычислительные мощности. Второй компонент — алгоритмы — создаётся мыслительной работой. Сегодня её выполняют исследователи-люди, а в будущем он может быть автоматизирован.
Получается, вероятность интеллектуального взрыва зависит от ключевого фактора: какого алгоритмического прогресса сможет достичь команда автоматизированных исследователей при неизменных вычислительных мощностях и данных? Производство новых чипов и строительство дата-центров требуют времени, сбор данных (или генерация синтетических данных, которая может стать критически важной, если тексты, написанные людьми, полностью закончатся!) — тоже.
Одно исследование показало, что раньше крупнейшие алгоритмические прорывы зависели от вычислительных мощностей — для их разработки и проверки требовалось неслабое масштабирование аппаратного обеспечения. Если это так и останется, интеллектуальный взрыв выглядит менее вероятным.
Конечно, это большое «если». Трудно предсказать, на что были бы способны суперумные, многочисленные и работающие параллельно ИИ-исследователи. Может, они найдут немало хитрых способов проводить эксперименты и без роста вычислительных мощностей, например, используя обвязку для извлечения больших способностей из существующих моделей. Скептики признают возможность интеллектуального взрыва, но подчёркивают: это лишь предположение.
#4 Чистый интеллект может не быть главной движущей силой открытий
В сценарии коротких сроков создаётся, по формулировке Дарио Амодея, «страна гениев в датацентре», которая потом преобразует мир масштабными исследованиями и разработками. Этих ИИ-гениев можно было бы направить на, скажем, разработку новых лекарств, устойчивой энергетики или создание механизмов координации, чтобы избежать будущих конфликтов (а в плохом сценарии исследования, которые будут проводить ИИ, будут обращены против нас).
Пойдут ли события таким образом зависит от того, что на самом деле движет открытиями. Скептики указывают, что это нечто гораздо большее, чем просто очень умные и напряжённо думающие люди. Одно из свидетельств в пользу этого — явление одновременных открытий. Часто несколько человек независимо друг от друга примерно одновременно приходят к одной и той же идее. Например, Исаак Ньютон и Готфрид Лейбниц открыли дифференциальное и интегральное исчисление в 1660-х–1670-х годах, а Чарльз Дарвин и Альфред Рассел Уоллес описали естественный отбор в 1858 году.
Есть много теорий, почему происходят одновременные открытия. Одна из них — что культура развивается быстрее науки, и получается отставание, для которого люди ищут технические решения или объяснения. Это противоречит идее, что чистая интеллектуальная мощь «страны гениев в дата-центре» может сама по себе вызвать масштабное ускорение исследований и разработок.
Отмечали и что этот процесс требует куда более широкого набора навыков, чем лишь абстрактные рассуждения (конёк рассуждающих моделей). Исследователи-люди руководят научными группами, собирают свидетельства из экспериментов и так далее. Это может значить, что автоматизировать науку ничуть не проще чего-то другого. Тогда нам не стоит ожидать, что ИИ стремительно всё преобразует, пока не автоматизированы самые разные рутинные задачи по всей экономике.
Итак… кто же прав?
Многие умные и квалифицированные люди долго размышляли, когда же появится СИИ, и пришли к совершенно разным выводам. К сожалению, нет окончательно убедительных свидетельств ни за одну, ни за другую точку зрения!
Мы скоро выясним. Многие считают, что СИИ либо появится до 2030 года, либо уйдёт гораздо больше времени. Мы ведь, скорее всего, не сможем поддерживать нынешние темпы масштабирования дольше. Через пять лет мы можем построить вычислительные кластеры стоимостью в триллион долларов. Вероятно, это близко к пределу того, что выдержит экономика США. Значит, если СИИ так и не появится к 2030 году, годовая вероятность его создания начнёт снижаться.
Есть много причин полагать, что нынешние темпы прогресса могут затухнуть, но уверены мы быть не можем. Аргументов за скорое появление СИИ достаточно, чтобы крайне серьёзно отнестись к этой возможности — и мир совершенно не готов к этому сценарию. Мы не знаем, как гарантировать, что ИИ-системы будут надёжно следовать нашим инструкциям. Мы не понимаем, как они работают. Мы не знаем, как нам избежать худших последствий разработки СИИ, вплоть до вымирания человечества.
ИИ становится всё мощнее — и очень быстро. Мы до сих пор не знаем, как обеспечить безопасность очень продвинутых моделей.
Мы разработали бесплатный двухчасовой курс, который поможет вам понять, как ИИ может изменить мир всего за несколько лет. Начните обучение сегодня, чтобы присоединиться к дискуссии.