Масштабирование: состояние дел в области ИИ
Краткая пауза между поколениями
Сейчас, кажется, самое время изложить, что происходит с ИИ, и что может произойти дальше. Я хочу полностью сосредоточиться на возможностях ИИ-моделей, даже конкретнее — на больших языковых моделях в основе чат-ботов вроде ChatGPT и Gemini. Со временем они становятся всё «умнее», и стоит разобраться, почему, — так мы лучше поймём, что нас ждёт. Для этого придётся разобраться, как обучаются модели. Я постараюсь рассказать об этом нетехническим языком, так что упущу много важных нюансов. Надеюсь, мои технически подкованные читатели меня за это простят.
Масштабирование размера модели: что значит «большие» в «большие языковые модели»
Чтобы понять, до чего дошли LLM, нужно разобраться в масштабе. Как я и сказал, излагать буду сильно упрощённо, но суть в том, что есть закон (на самом деле скорее наблюдение) масштабирования, что чем больше модель, тем выше её способности. То, что модель больше означает, что в ней больше параметров — настраиваемых значений, которые модель использует для прогнозирования, что надо написать дальше. Эти модели, как правило, обучаются на больших объёмах данных. Те измеряются в токенах, для LLM это обычно слова или части слов. Обучение таких крупных моделей требует всё большей вычислительной мощности; она обычно измеряется в FLOP (операциях с плавающей точкой). Эта мера количества выполняемых компьютером базовых математических операций (вроде сложения или умножения) позволяет нам количественно оценить вычислительную работу, проделанную при обучении ИИ. Более способными моделями называют те, что лучше справляются со сложными задачами, набирают больше баллов в бенчмарках и на экзаменах и в целом кажутся «умнее».
Масштаб действительно имеет значение. Компания Bloomberg создала BloombergGPT, чтобы использовать свои обширные ресурсы финансовых данных и потенциально получить козырь в финансовом анализе и прогнозировании. Это был специализированный ИИ, обученный на огромных объёмах высококачественных данных Bloomberg с использованием вычислительной мощности в 200 зетта-FLOP (это 2 × 10²³ FLOP). Он неплохо справлялся с задачами вроде определения тональности финансовых документов… но в целом уступал GPT-4, которая вообще не обучалась для сферы финансов. GPT-4 была просто больше (по оценкам, в 100 раз — 20 йотта-FLOP, около 2 × 10²⁵), так что в целом она во всех аспектах превосходит небольшие модели. Похоже, такая зависимость от масштаба справедлива для всех видов продуктивной работы: в одном эксперименте переводчики использовали модели разного размера, и выяснилось, что «при каждом десятикратном увеличении вычислительной мощности модели переводчики выполняли задачи на 12,3% быстрее, получали оценки на 0,18 стандартного отклонения выше и зарабатывали на 16,1% больше в минуту».
Обучение более крупных моделей требует и больших усилий. Не только потому, что нужно собрать больше данных, требуется ещё и больше времени вычислений, а значит — больше компьютерных чипов и больше энергии для их работы. Всё это растёт на порядки. Чтобы обучить гораздо более способную модель, объём данных и вычислительные мощности надо увеличить раз в десять. Это, как правило, на порядок увеличивает и денежные затраты.
Как видно, аспекты масштаба взаимосвязаны, но описываются мешаниной показателей и терминов. Получается путаница, а ИИ-компании, выпуская модели с непонятными названиями и скрывая информацию о них, так что сложно понять, насколько они мощны, дополнительно сбивают с толку. Но можно всё упростить: история развития способностей ИИ — это в основном про увеличение размера моделей каждое поколение. И каждый раз это требует значительного планирования и финансовых вложений, чтобы обеспечить в десять раз больше данных и вычислительной мощности для обучения более крупной и совершенной модели. Самые крупные в данный момент модели мы называем «передовыми».
Итак, для простоты давайте дадим передовым моделям такие очень приблизительные обозначения. Обратите внимание, что эти названия поколений — моя собственная упрощённая классификация для иллюстрации развития способностей ИИ, а не официальные термины:
-
Первое поколение (Gen1) (2022): это модели на уровне ChatGPT-3.5 — модели от OpenAI, которая вызвала бум генеративного ИИ. Они требуют менее 10²⁵ FLOP, а типичные затраты на их обучение — не больше 10 млн долларов. Моделей этого уровня много, в том числе и с открытым исходным кодом.
-
Gen2 (2023–2024): модели на уровне GPT-4, первой своего класса. Для обучения требуется примерно от 10²⁵ до 10²⁶ FLOP, а затраты могут составить 100 млн долларов или ещё больше. Сейчас существует несколько моделей Gen2.
-
Gen3 (2025?–2026?): сейчас таких моделей ещё нет в открытом доступе, но известно, что скоро планируется релиз нескольких таких, включая GPT-5 и Grok 3. Для обучения требуется от 10²⁶ до 10²⁷ FLOP вычислительной мощности, а затраты составляют от миллиарда долларов.
-
Gen4 и далее: скорее всего, через пару лет мы увидим модели четвёртого поколения, и затраты на их обучение могут превысить 10 млрд долларов. Большинство экспертов, с которыми я общался, ожидает, что к появлению моделей Gen4 преимущества масштабирования ещё не иссякнут. Возможно и что к концу десятилетия масштаб по сравнению с Gen3 вырастет в целую тысячу раз, но это пока не ясно. Потому и ведётся столько дискуссий, как получить энергию и данные для будущих моделей.
GPT-4 дала старт эре Gen2, но теперь до этого дошли и другие компании, а первые модели Gen3 не за горами. Я хочу сосредоточиться на сегодняшнем состоянии Gen2, и особенно на пяти лидирующих ИИ-системах.
Пять (или около того) передовых моделей Gen2
К поколению Gen2 можно отнести и другие модели, но в прямых сравнениях стабильно доминируют пять. Они во многом различаются, но все они в пределах одного порядка величины друг от друга, так что уровень их «интеллекта» примерно одинаков. Я пройдусь по ним и задам им одни и те же три вопроса, чтобы проиллюстрировать их возможности:
-
в трех абзацах или меньше разработай план, который стимулировал бы сотрудников организаций рассказывать руководству, как они используют генеративный ИИ для помощи в работе, с учётом причин, почему люди могут не хотеть это делать. думай шаг за шагом
-
объясни это изображение и почему оно важно [приведённый выше график затрат на обучение]
-
Проведи статистический анализ этих данных (используя сложные методы), чтобы понять, что они говорят о тенденциях объёма труда, необходимого для обучения новых передовых ИИ-моделей. Обобщи проделанную работу и важные выводы в одном абзаце и на наглядном графике. [огромный датасет с подробной информацией об обучении сотен моделей в формате CSV]
GPT-4o. На этой модели работают ChatGPT и Microsoft Copilot. У неё самый широкий набор дополнительных функций среди всех современных передовых моделей, и она лидирует в прямых сравнениях. Модель мультимодальна: она может работать с голосовыми данными, изображениями и файлами (включая PDF и таблицы), а также писать код. Ещё она способна генерировать голос, файлы и изображения (с помощью встроенного генератора DALL-E3). GPT-4o умеет искать информацию в интернете и выполнять код через Code Interpreter. Усовершенствованный голосовой режим GPT-4o гораздо мощнее, чем у других моделей, поддерживающих голосовое общение, поскольку она и слушает, и говорит сама. Другие же модели используют синтез и распознавание речи: она преобразуется в текст и передаётся модели, а ответы зачитывает отдельная программа. Если вы только начинаете знакомиться с ИИ, GPT-4o — отличный выбор. Вероятно, к ней будут хотя бы иногда большинство людей, всерьёз работающих с ИИ.
Claude 3.5 Sonnet. Sonnet — очень умная модель второго поколения. Она особенно хорошо справляется с большими объёмами текста. Она частично мультимодальна: может работать с изображениями и файлами (включая PDF) и выводить текст или небольшие программы, называемые «артефактами», которые можно запускать прямо из приложения. Она не умеет генерировать изображения или голос, не может легко запускать код для анализа данных и не подключена к интернету. У неё довольно хорошее мобильное приложение, и именно эту модель я сейчас чаще всего использую при работе с текстами. Обычно я прошу её дать отзыв о моих постах в блоге после того, как их заканчиваю (она помогла придумать хороший способ описать операции с плавающей точкой в этом посте).
Gemini 1.5 Pro. Это самая продвинутая модель от Google. Она частично мультимодальна: может работать с голосом, текстом, файлами или изображениями и способна генерировать голос и изображения (её голосовой режим пока что использует синтез речи, а не нативно мультимодален). У неё огромное контекстное окно, поэтому она может обрабатывать колоссальный объём данных, а также видео. Ещё она умеет выполнять поиск в интернете и запускать код (хотя не всегда ясно, когда она может запускать код, а когда — нет). Веб-интерфейс Gemini использует несколько разных моделей, что иногда сбивает с толку, но вы можете получить доступ к самой мощной версии — Gemini 1.5 Pro Experimental 0827 (я же говорил, что названия ужасные) — напрямую через Google AI Studio.
Две последние модели пока не мультимодальны. Они не могут работать с изображениями, файлами и голосом. Они не могут и запускать код или искать в открытом интернете. Поэтому для этих моделей я не включаю вопросы, связанные с графиками или анализом данных. Но у них есть некоторые интересные особенности, которых нет у других моделей.
Grok 2. Эта модель от X.AI Илона Маска — «тёмная лошадка» в мире ИИ. Несмотря на поздний выход на рынок, X очень быстро продвигается сквозь поколения масштабирования благодаря изобретательным подходам к получению быстрого доступа к чипам и энергии. Сегодня Grok 2 — это очень способная модель Gen2, запертая в интерфейсе Twitter/X.1 Она может извлекать информацию из Twitter и генерировать изображения с помощью открытого генератора Flux (без особых защитных ограничений, поэтому, в отличие от других таких генераторов, она с удовольствием создаёт фотореалистичные фейковые изображения реальных людей). «Развлекательный» системный промпт Грока довольно специфичен, но это всё равно сильная модель, занимающая второе место в главной таблице лидеров ИИ.
Llama 3.1 405B. Это модель второго поколения от Meta, и, хотя она пока не мультимодальна, она уникальна среди моделей Gen2 тем, что имеет открытые веса. То есть, Meta выпустила её в открытый доступ, и любой желающий может её скачать и использовать, а также, в некоторой степени, модифицировать и настраивать. Вероятно, благодаря этому она будет быстро развиваться сообществом, которое будет находить новые способы расширения её возможностей.
Много чего осталось за рамками этого обзора.Например, почти все самые мощные модели имеют более компактные версии, созданные на основе своих более крупных «собратьев». Среди них — GPT-4o mini, Grok 2 mini, Llama 3.1 70B, Gemini 1.5 Flash и Claude 3 Haiku. Хотя они и не столь умны, как передовая модель Gen2, они гораздо быстрее и дешевле в эксплуатации, поэтому часто используются, когда полноценная передовая модель не нужна. Ещё масштаб — не единственный способ улучшить модели; есть много подходов к архитектуре системы и обучению, которые могут сделать одни модели лучше других. Но сегодня правит масштаб. И масштаб всегда означал «впихивание» в ИИ большего «образования» — наполнение его большим количеством данных в процессе обучения. Но на прошлой неделе мы узнали о новом способе масштабирования.
Новая форма масштаба: мышление
На прошлой неделе были представлены модели o1-preview и o1-mini от OpenAI, и они продемонстрировали принципиально иной подход к масштабированию. o1-preview, судя по всему, по объёму обучения относится к Gen2 (OpenAI не раскрыла никаких конкретных деталей), но она достигает весьма потрясающей производительности в узких областях благодаря использованию новой формы масштабирования ПОСЛЕ обучения модели. Оказывается, вычисления при инференсе — объём вычислительной мощности на «размышление» над задачей, — тоже следуют собственному закону масштабирования. По сути, этот процесс «размышления» — это выполнение моделью нескольких внутренних шагов рассуждения перед генерацией вывода, что может привести к более точным ответам (ИИ не «думает» в буквальном смысле, но небольшая антропоморфизация упрощает объяснение).
В отличие от вашего компьютера, который может вычислять в фоновом режиме, LLM могут «думать» только генерируя слова и токены. Мы давно знаем, что один из самых эффективных способов повысить точность модели — заставить её следовать цепочке мыслей (например, запромптив: сначала найди данные, затем рассмотри варианты, потом выбери лучший, и, наконец, опиши результаты), потому что это заставляет ИИ «думать» по шагам. OpenAI сделала так, чтобы модели o1 проходили через такой процесс «мышления», генерируя скрытые токены размышлений, прежде чем дать окончательный ответ. Так они открыли ещё один закон масштабирования: чем дольше модель «думает», тем лучше её ответ. Похоже, как и у закона масштабирования для обучения, предела нет, но и он точно так же носит экспоненциальный характер: для дальнейшего улучшения выводов надо позволять ИИ «думать» всё дольше. И вот уже вымышленный компьютер из «Автостопом по галактике», которому потребовалось 7,5 миллиона лет, чтобы вычислить окончательный ответ на главный вопрос, кажется скорее пророчеством, чем шуткой. Мы пока на раннем этапе применения закона масштабирования для «мышления», но он выглядит очень перспективным.
Что дальше?
Существование двух законов масштабирования, для обучения и для «мышления», говорит в пользу того, что в ближайшие годы способности ИИ сильно улучшатся. Даже если мы упрёмся в стену в обучении более крупных моделей (что кажется маловероятным по крайней мере ещё несколько поколений моделей), ИИ смогут решать всё более сложные задачи, тратя больше вычислений на «мышление». Это двойное масштабирование практически гарантирует, что гонка создания более мощных ИИ так и продолжится, с мощными последствиями для общества, экономики и окружающей среды.
Архитектуры моделей и методы обучения постоянно совершенствуются. Благодаря этому возможности ИИ завоёвывают новые рубежи. Давно обещанные технологическими компаниями автономные ИИ-агенты, вероятно, уже не за горами. Эти системы смогут справляться со сложными задачами при минимальном человеческом присмотре. Это много на что повлияет. Темпы развития ИИ, судя по всему, продолжат ускоряться, так что надо подготовиться как к открывающимся возможностям, так и к грядущим вызовам.