«Длинные» сроки до продвинутого ИИ теперь безумно коротки

Перспектива создания ИИ человеческого уровня в 2030-х годах должна шокировать

автор: Helen Toner
Безопасность ИИПрогнозирование развития ИИТрансформативный искусственный интеллект
 

Добро пожаловать в Rising Tide! На этой неделе я публикую 3 поста по случаю запуска этого Substack’а — это пост № 1. Со следующей недели новые посты будут выходить реже.

Скриншот твита Харлана Стюарта (@HumanHarlan), верифицированного пользователя с фотографией молодого человека в профиле. Текст: Harlan Stewart. @HumanHarlan. Помните времена, когда короткие сроки означали 20 лет? Pepperidge Farm помнит.
Источник⁠⁠1

Раньше утверждение, что в первой половине XXI века мы можем увидеть что-то вроде ИИ человеческого уровня, считалось смелым, требующим веских доказательств. Например, в этом посте 2016 года восемь с половиной тысяч слов посвящены обоснованию тезиса, что вероятность разработки продвинутого ИИ к 2036 году выше 10 %.

(В дискуссиях о сроках обычно говорят «до создания СИИ», но в этой статье я в основном буду использовать вместо «СИИ» термины «продвинутый ИИ» или «ИИ человеческого уровня». На мой взгляд, термин «СИИ» чаще вводит в заблуждение, чем что-то проясняет, ведь разные эксперты используют его совершенно по-разному.⁠⁠2 И то, что «ИИ человеческого уровня» звучит более расплывчато, чем «СИИ», — это не баг, а фича. Такая формулировка естественно вызывает вопросы вроде «человеческого уровня чего?», «как мы измеряем?», «осмысленный ли это вообще порог?» и так далее. Я считаю эти вопросы вполне уместными, пока ими не пытаются отрицать общего тренд создания всё более умных и способных систем.)

Ещё в древние времена до ChatGPT сторонники «коротких сроков» утверждали, что есть реальный шанс разработки очень продвинутых ИИ-систем ещё при нашей жизни — возможно, уже через 10 или 20 лет. Если это так, продолжали они, то, очевидно, надо начать готовиться: вкладываться в исследования безопасности ИИ, формировать международный консенсус о том, какие ИИ-системы слишком опасны для создания или развёртывания, усиливать безопасность компаний, разрабатывающих самые передовые системы, чтобы противники не могли их украсть, и так далее. На эти приготовления, как утверждалось, могут уйти годы или десятилетия, так что к работе следует приступить немедленно.

Сторонники «длинных сроков», напротив, возражали, что на самом деле нет никаких свидетельств, что ИИ в ближайшем будущем (скажем, в течение следующих 30 лет) станет очень продвинутым.⁠⁠3 И тогда лучше игнорировать любые связанные с продвинутым ИИ опасения, а вместо этого сосредоточиться на актуальных проблемах гораздо менее сложных систем, вроде предвзятости, слежки и плохих условий труда. В зависимости от взглядов говорящего, проблемы СИИ могли либо навсегда отвергаться как «научная фантастика», либо просто откладываться на потом.

Кто бы ни был, по вашему мнению, прав, тут я хочу отметить, что эти споры имели смысл. «Невероятно влиятельная технология может быть создана в течение пары десятилетий, нам лучше подготовиться» против «Нет, так не будет, и это было бы пустой тратой времени» — вполне разумная пара противоположных позиций.


Сегодня, в эпоху законов масштабирования, рассуждающих моделей и агентов, споры выглядят иначе.

«Короткими» сроками теперь считают просто-таки молниеносные — где-то от одного до пяти лет до появления систем человеческого уровня. У представителей лагеря «коротких сроков» тезис «СИИ в 2027 году» стал популярным ещё до одного прошлогоднего онлайн-манифеста, который таким прогнозом нашумел. Сейчас руководители трёх ведущих ИИ-компаний публично заявляют о схожих взглядах: что в 2026–2027 годах мы «скорее всего» создадим «ИИ, который будет почти во всём умнее почти всех людей» (генеральный директор Anthropic); что СИИ, вероятно, будет создан к январю 2029 года (генеральный директор OpenAI); и что до СИИ нам «вероятно, осталось от трёх до пяти лет» (генеральный директор Google DeepMind). Вайбы значительной части сообщества безопасности ИИ накалены соответственно, люди лихорадочно пытаются понять, какие технические или политические меры по снижению рисков вообще могли бы помочь на таком горизонте.

Очевидно, мы как общество не готовы так скоро управиться с ИИ человеческого уровня и всеми вытекающими последствиями. К счастью, большинство считает, что у нас больше времени.


Но… насколько больше?

Вот несколько недавних цитат специалистов по ИИ, известных своими более консервативными взглядами на темпы его развития:

Ян ЛеКун:

«На достижение ИИ человеческого уровня уйдёт несколько лет, если не десятилетие». (источник)
«ИИ-системы сравняются с человеком по интеллектуальным способностям и превзойдут его… вероятно, в течение следующего десятилетия или двух» (видео, стенограмма)

Гэри Маркус:

[СИИ появится] «наверное, через 10 или 20 лет» (источник)

Арвинд Нараянан:

Изначально у меня была такая цитата Арвинда:

«Я думаю, что до появления СИИ остаётся ещё много-много лет, возможно, десятилетия» (источник)

Я истолковал это будто по его мнению, 5 лет — это слишком мало, а 20 — уже многовато. Когда я поделился с Арвиндом этой интерпретацией, он добавил интересный контекст: в том интервью он выбрал формулировку, учитывая, что, на его взгляд, определение СИИ размывается, так что его реальный срок дольше. Но, проясняя, что это значит, он сказал:

«Я считаю, что до реальных трансформативных эффектов (например, когда большинство когнитивных задач будет выполнять ИИ) ещё десятилетия (с вероятностью 80 % это произойдёт позже чем через 20 лет)». (источник: частная переписка)

…иными словами, 20% вероятности, что к 2045 году ИИ будет выполнять большинство когнитивных задач.

Эти «длинные» сроки уж очень похожи на то, что раньше называли «короткими»!

Получается: да, одни эксперты в области ИИ всё ещё считают, что мы скоро создадим ИИ человеческого уровня, а другие полагают, что время ещё есть. Но недавние достижения в области ИИ сильно приблизили «скоро» и «ещё есть время» к сегодняшнему дню — настолько, что даже скептический взгляд предполагает, что нас ожидают одно-два безумных десятилетия.


Для ясности, это не означает:

  • Что через 20 лет точно будет ИИ человеческого уровня.

  • Что в ближайшие 5 лет точно не будет ИИ человеческого уровня.

  • Что ИИ человеческого уровня определённо будет создан с помощью популярных сейчас методов (генеративные предобученные трансформеры, рассуждающие модели, агентская обвязка и т. д.).

  • Что любой разговор об ИИ должен касаться проблем очень развитых ИИ-систем, не уделяя времени и внимания проблемам, которые уже создают используемые сегодня ИИ-системы.

Но это таки означает:

  • Что отмахивание от обсуждения СИИ, ИИ человеческого уровня, трансформативного ИИ, суперинтеллекта, и т.д. как «научной фантастики» стоит считать признаком полнейшей несерьёзности. Путешествия во времени — научная фантастика. Марсиане — научная фантастика. «Многие из даже скептически настроенных экспертов считают, что мы вполне можем это создать в ближайшие одно-два десятилетия» — не научная фантастика.

  • Что вы, конечно, вольны утверждать, что появление ИИ человеческого уровня в ближайшие 20 лет крайне маловероятно, но это мнение меньшинства, и бремя доказательства на вас.

  • Что нужно немедленно реализовывать многие из всё тех же мер, которые могут помочь, если окажется, что у нас всего несколько лет. Этим мерам и так, скорее всего, потребуются долгие годы, чтобы принести плоды, так что, если у нас десятилетие или два, надо как следует их использовать. Это, в частности:

    • Развитие науки оценки ИИ, чтобы вместо нынешнего кустарного подхода у нас были реально хорошие методы определения, на что (не) способна конкретная модель, как разные модели соотносятся друг с другом (и с людьми) и как быстро движется передний край прогресса.

    • Развитие науки интерпретируемости, чтобы мы поняли, как, чёрт возьми, работают ИИ-системы, когда они могут дать сбой и когда нам (не) стоит им доверять.

    • Развитие науки согласования, управления и контроля ИИ-систем, особенно достаточно продвинутых, чтобы осознавать, когда их тестируют.

    • Взращивание экосистемы сторонних организаций, способных проверять важные заявления разработчиков ИИ о своих системах, чтобы правительства и люди не зависели от доброй воли разработчиков быть честными и открытыми.

    • Работа над достижением того или иного международного консенсуса о том, создание каких ИИ-систем будет неприемлемо рискованным и какие свидетельства помогут определить, приближаемся ли мы к их созданию. (Может, кому-то стоит организовать серию международных саммитов по этой теме?..)

    • Наращивание способности правительства что-то здесь делать, чтобы Конгресс и исполнительная ветвь власти были достаточно компетентны в области ИИ для принятия связанных с ним решений.

Совершенно разумно скептически относиться к заявляющим «СИИ в 2027 году!». Но даже если вы на стороне тех специалистов, чьи сроки длиннее, получается вывод, что радикально трансформативная и потенциально очень опасная технология вполне может появиться ещё до того, как рождённые сегодня окончат школу. Это «ух!».


Оригинальная публикация: Helen Toner (2025) «Long» timelines to advanced AI have gotten crazy short, Rising Tide, 1 апреля.

1 2 3