Как будет выглядеть ИИ в 2030 году?
Если масштабирование продолжится до 2030 года, инвестиции в ИИ достигнут сотен миллиардов долларов, и он будет требовать гигаватты энергии. Бенчмарки показывают, что ИИ может повысить производительность важных областей вроде научных исследований.
Этот отчёт подготовлен по заказу Google DeepMind. Все изложенные в нём мнения и выводы принадлежат авторам и не обязательно отражают позицию Google DeepMind или получили её одобрение.
Введение
Что произойдёт, если масштабирование ИИ продолжится до 2030 года? Мы публикуем отчёт, с анализом, чего потребует такое масштабирование в плане вычислительных мощностей, инвестиций, данных, аппаратного обеспечения и энергии. Ещё мы рассматриваем будущие способности ИИ, которые это масштабирование сделает возможными, особенно в сфере научных исследований, на которой сосредоточены ведущие разработчики ИИ. Мы утверждаем, что несмотря на необходимость создания беспрецедентной инфраструктуры масштабирование ИИ, вероятно, продолжится до 2030 года, и приведёт к трансформативным для науки и не только способностям.
Масштабирование, вероятно, продолжится до 2030 года: Судя по текущим тенденциям, передовые ИИ-модели 2030 года потребуют инвестиций в сотни миллиардов долларов и гигаватт электроэнергии. Это сложнейшие задачи, но преодолимые. Такие инвестиции оправдаются, если ИИ сможет принести соответствующую экономическую отдачу за счёт повышения производительности. Если доходы ИИ-лабораторий продолжат расти нынешними темпами, они принесут отдачу, оправдывающую сотни миллиардов долларов инвестиций на масштабирование.
Масштабирование приведёт к появлению ценных способностей ИИ: К 2030 году ИИ сможет создавать сложное научное программное обеспечение по запросам на естественном языке, помогать математикам формализовывать наброски доказательств и решать открытые задачи о биологических протоколах. Все эти примеры получены простой экстраполяцией существующих бенчмарков, прогресс по которым позволяет предположить, что это станет возможным к 2030 году. Мы ожидаем, что способности ИИ кардинально преобразят несколько научных дисциплин, хотя их полноценное развёртывания может затянуться и на большее время.
Ниже мы обсудим некоторые выводы отчёта.
Масштабирование, вероятно, продолжится до 2030 года
Судя по текущим тенденциям, к 2030 году кластеры для обучения передового ИИ будут стоить больше 100 млрд долларов. На таких кластерах можно будет проводить обучение масштабом около 10^29 операций с плавающей точкой. На это потребовалась бы непрерывная работа крупнейшего кластера для ИИ 2020 года в течение более 3 000 лет. Обученные на таких кластерах ИИ-модели будут использовать в тысячи раз больше вычислительных мощностей, чем GPT-4, и потребуют гигаватт электроэнергии.
Это иллюстрирует закономерность, которая многократно повторяется в наших выводах: если нынешние тенденции сохранятся, они приведут к экстремальным результатам. Стоит ли считать, что они сохранятся? В последнее десятилетие экстраполяция выдавала хороший начальный прогноз, а наш анализ аргументов в пользу предстоящего замедления часто показывал их неубедительность.
Ниже мы кратко излагаем некоторые из этих аргументов и наши выводы из отчёта:
-
Масштабирование может «упереться в стену», то есть ИИ-системы могут перестать совершенствоваться при дальнейшем масштабировании. Но бенчмарки и выручка показывают значительное улучшение последних ИИ-моделей. Такой сценарий возможен, но очевидных подтверждений пока нет.
-
Запасы данных для обучения могут иссякнуть. Но созданных человеком текстов в открытом доступе хватит для масштабирования как минимум до 2027 года, и можно в больших количествах генерировать синтетические данные, и их полезность стала более очевидной после изобретения рассуждающих моделей. Трудно полностью исключить дефицит данных, но эта проблема кажется преодолимой.
-
Узким местом масштабирования может стать нехватка электроэнергии. Если масштабирование продолжится, обучение передового ИИ 2030 года будет требовать гигаватт мощности. Нелегко обеспечить такое энергоснабжение, но оно может быстро вырасти, например, при помощи солнечной энергии аккумуляторов или отдельных собственных тепловых станций. Кроме того, обучение передовых ИИ уже начинают географически распределять по нескольким датацентрам, что должно смягчить эти трудности. Электроэнергия вряд ли станет «узким местом» до 2028 года, и даже потом проблема выглядит разрешимой.
-
Масштабирование может стать слишком дорогим, и разработчики ИИ перестанут вкладывать средства. Это, конечно, возможно, но признаков пока почти нет. Если тенденции роста доходов разработчиков ИИ продолжатся, в 2030 году они будут соответствовать прогнозируемым как минимум стомиллиардным инвестициям в обучение передовых ИИ. Рост доходов от ИИ до двенадцатизначных сумм может показаться чрезмерным, но если ИИ повысит продуктивность выполнения значительной части рабочих задач, он может стоить и триллионы.
-
Фокус развития ИИ может сместиться на более эффективные алгоритмы. Но алгоритмическая эффективность уже растёт параллельно с вычислительными мощностями. Нет особых оснований ожидать, что алгоритмический прогресс ускорится. И даже тогда он, скорее, мотивирует использовать больше вычислительных мощностей.
-
ИИ-компании могут перераспределить вычислительные мощности с обучения на запуск, например, рассуждающих моделей и других продуктов. Но сейчас на обучение и запуск выделяются сопоставимые объёмы вычислительных мощностей, и есть основания ожидать, что так они и будут масштабироваться. Масштабирование обучения позволяет создавать лучшие ИИ-модели, которые сделают доступнее более ценные задачи. Сдвиг в сторону запуска возможен, но маловероятно, что это замедлит масштабирование обучения.
В свете вышесказанного мы считаем, что экстраполяция нынешних тенденций на 2030 год — надёжный базовый прогноз. И если они действительно сохранятся, это позволяет нам экстраполировать способности ИИ, о чём мы поговорим ниже.
ИИ ускорит исследования и разработки в нескольких областях
В отчёте мы рассматриваем и конкретные примеры, как ИИ может повысить производительность. Мы сосредоточились на исследованиях и разработках — приоритетном направлении ряда ведущих разработчиков ИИ.1 Согласно тенденциям развития способностей применение ИИ для исследований и разработок ждёт огромный прогресс, особенно в сферах наподобие программной инженерии и математики, где обучать модели на реалистичных задачах можно полностью in silico. Судя по текущему прогрессу в бенчмарках, к 2030 году ИИ сможет создавать сложное научное программное обеспечение по запросам на естественном языке, помогать математикам формализовывать наброски доказательств и отвечать на сложные вопросы о биологических протоколах.
Мы прогнозируем, что к 2030 году ИИ-ассистенты достигнут того уровня, который сейчас у них только в программировании, во многих научных областях. Будут и различия: например, в отличие от существующих ИИ-инструментов для программирования, в основном ограниченных контекстом отдельного проекта, больше внимания будет уделяться анализу и обобщению обширной и разнородной литературы. Но есть и важные сходства: предложение вариантов с учётом контекста, поиск релевантной информации, полное выполнение небольших чётко очерченных задач.
Основываясь на примеру программирования, мы прогнозируем, что в итоге это приведёт к повышению продуктивности в отдельных задачах на 10–20%.2 Даже если рабочие задачи математика или биолога-теоретика поддаются автоматизации хуже, чем задачи программиста, мы уже наблюдаем рост показателей соответствующих бенчмарков и ожидаем ещё многие годы прогресса. Вероятно, способности ИИ кардинально преобразят несколько научных дисциплин, хотя для их полноценного развёртывания может потребоваться время и после 2030 года.
Ниже мы приводим четыре примера из отчёта: программирование, математика, молекулярная биология и прогнозирование погоды. Хотя выбранные бенчмарки не могут охватить весь спектр задач каждой из областей, они дают представление о растущих способностях ИИ и о задачах, которые довольно скоро можно будет автоматизировать. Тут использованы результаты из списков рекордов бенчмарков и из карточек моделей, так что график подогнан под лучшие показатели.
Программирование: ИИ-ассистенты уже преобразует написание программ, генерируя код и отвечая на вопросы. При сохранении текущих тенденций к 2030 году ИИ сможет самостоятельно устранять ошибки, реализовывать новые функции и решать сложные (но чётко определённые) задачи научного программирования.
Математика: ИИ может уже скоро начать выполнять роль научного ассистента, детализируя наброски доказательств или интуитивные догадки. Первые свидетельства уже говорят, что ИИ помогает математикам в работе. Мнения известных математиков как о том, насколько релевантны для их работы существующие математические бенчмарки, так и о прогнозах, как скоро ИИ сможет получать математические результаты самостоятельно, а не в качестве помощника, весьма расходятся.
Молекулярная биология: Находящиеся в открытом доступе бенчмарки по взаимодействиям «белок-лиганд», вроде PoseBusters, вероятно, будут решены в ближайшие несколько лет, хотя сроки для прогнозирования произвольных взаимодействий «белок-белок» ожидаются подольше (и с меньшей уверенностью). Тем временем, на подходе ИИ-ассистенты для биологических исследований и разработок. Существующие бенчмарки типа «вопрос-ответ» по биологическим протоколам к 2030 году должны быть решены. Хоть эти бенчмарки и не отражают весь спектр задач молекулярной биологии, тенденции дают представление о растущих способностях ИИ в этой области.
Прогнозирование погоды: Прогнозирование погоды с помощью ИИ уже может превосходить традиционные методы на горизонтах от нескольких часов до нескольких недель. Более того, методы ИИ экономически эффективны и могут стать ещё лучше при больших объёма данных. Дальнейшие задачи — улучшить существующие прогнозы, особенно для редких явлений, и научиться извлекать из этих лучших прогнозов практическую пользу.
У нас повторяется тема, что развёртывание и воздействие на общество могут значительно отставать от развития способностей. Например, если сравнивать программирование с фармацевтическими исследованиями, то циклы процессов там намного короче, не нужны лабораторные эксперименты или клинические испытания, безопасность редко настолько критична, а приблизительную корректность результата часто легко проверить. Да и обучающих данных вдоволь. Поэтому мы ожидаем, что к 2030 году лишь немногие (если вообще какие-то) одобренные к продаже лекарства будут разработаны с использованием современных ИИ-инструментов не говоря уж об инструментах 2030 года. Но ранние этапы разработки, вероятно, уже почувствуют значительное влияние ИИ. А вот от программирования мы ожидаем кардинальных изменений, и прогнозируем расцвет ПО, в том числе для научных исследований и разработок.3
Заключение
К 2030 году ИИ, вероятно, станет ключевой технологией в масштабах всей экономики и будет присутствовать во всех аспектах взаимодействия людей с компьютерами и мобильными устройствами. Если эти прогнозы сбудутся, крайне важно, чтобы те, кто принимает важные решения, уделяли много внимания вопросу ИИ при планировании курса на ближайшие пять лет и далее.
Чтобы узнать больше, ознакомьтесь с полным отчётом.