Самый важный момент в истории — сейчас

o3, DeepSeek и другие передовые разработки в ИИ приближают появление СИИ

автор: Tomas Pueyo
Взлёт ИИГипотеза масштабированияИскусственный интеллектПрогнозирование развития ИИСуперинтеллектТрансформативный искусственный интеллект
 

Исследователи ИИ паникуют от того, как быстро он развивается. Случаи, когда он оказывается умнее людей, стали обычным делом, и его темпы развития растут. Достижения последних недель ещё сильнее ускорили этот процесс. Похоже, ИИ могут в ближайшие 1-5 лет стать умнее людей, а потом быстро уподобиться богам. Мы стоим на краю пропасти и вот-вот прыгнем с обрыва ИИ-суперинтеллекта,⁠⁠1 хотим мы того или нет.
Когда мы прыгнем?
Что нас ждёт внизу?
Есть ли у нас парашют?

Цифровая иллюстрация: одинокая человеческая фигура стоит на краю высокой скалы, вертикальный склон которой состоит из ниспадающих потоков светящегося синего двоичного кода; в бездне внизу клубятся облака. Текст: (нет).

Прогнозы рынка

Шесть месяцев назад я написал статью What would you do if you had 8 years left to live?, где объяснял, что рынок прогнозирует появление СИИ (сильного искусственного интеллекта — способного на то, что может большинство людей) через восемь лет, к 2032 году. С тех пор эта дата сдвинулась ближе. Теперь его ждут всего через шесть лет. То есть полугода хватило, чтобы приблизить прогноз на целый год. Оценки вероятности сейчас выглядят так:

Распределение вероятностей в прогнозах сообщества Metaculus о дате, когда будет разработана, протестирована и публично анонсирована первая обобщённая ИИ-система; резкий зелёный пик приходится на июнь 2027 года; распределение плавно спадает, образуя длинный правый хвост, уходящий за 2200 год.
Мода (самый распространённый прогноз) — создание СИИ через 2,5 года. Среднее значение прогнозов — 6 лет (то есть к декабрю 2030 года).

Но ИИ, такой же умный, как люди, — не самый тревожащий рубеж. Самый тревожащий — это ASI (искусственный суперинтеллект), настолько превосходящий человеческие возможности, что мы даже не в силах его постичь.

Согласно прогнозистам, осталось пять лет:

  • Два года (то есть конец 2026 года) до слабого СИИ

  • Ещё три года (то есть конец 2029 года) до суперинтеллекта

Можно заметить, что прогнозы не идеально последовательны, но они сходятся в том, что ИИ, способный выполнять любую задачу лучше любого человека, появится уже через пять лет.

У кого больше всего шансов знать точно? Полагаю, у руководителей крупнейших ИИ-лабораторий. Что говорят они?

Ведущие эксперты

Портрет Дарио Амодея на светло-голубом фоне: тёмные вьющиеся волосы, очки в тёмной оправе, тёмно-синяя рубашка; рядом с ним нарисован белый спич-баббл с цитатой.
Источник.

Вот ещё одна его цитата:

Я думаю, что мощный ИИ⁠⁠2 может появиться уже в 2026 году.—Машины благодати и любви, Дарио Амодей, генеральный директор Anthropic

И ещё одна:

Два года назад мы были на уровне старшей школы. В прошлом году — на уровне бакалавриата. В этом — на уровне аспирантуры. Если прикинуть скорость развития этих способностей, приходишь к мысли, что мы придём к цели в 2026 или 2027 году.—Дарио Амодей в беседе с Лексом Фридманом

Перейдём к OpenAI, создателям ChatGPT. Вот что говорит генеральный директор компании Сэм Альтман:

Теперь мы уверены, что знаем, как создать СИИ в классическом понимании этого термина. Мы начинаем заглядывать дальше — на суперинтеллект в полном смысле этого слова. С суперинтеллектом мы сможем сделать всё остальное. — Reflections, Сэм Альтман

А вот их глава по продуктам:

ИИ поднимается по списку лучших программистов с миллионного места на тысячное, а затем на 175-е — всего за 3–4 месяца… Траектория очень крутая, я даже не уверен, что это будет 2027 год, думаю, может и раньше.

Почему он говорит, что ИИ сейчас на 175-м месте среди лучших программистов мира?

Две расположенные рядом гистограммы от OpenAI, сравнивающие производительность трёх моделей (o1 preview, o1, o3). Слева точность на SWE-bench Verified растёт с 41,3 до 48,9 и 71,7. Справа рейтинг Elo на Codeforces растёт с 1258 до 1891 и 2727, со светло-голубой полосой погрешности/расширения на столбце o3.
Рейтинг 2727 на Codeforces соответствует 175-му месту среди лучших программистов мира. Для сравнения: от o1 preview до o1 рейтинг вырос на 633 пункта, а от o1 до o3 — на 836. От следующей модели вполне можно ожидать прироста в 700 пунктов, и тогда она займёт 9-е место в мире…

Обратите внимание, что это программисты разрабатывают ИИ. Так что 175-е место в списке лучших программистов означает, что ИИ способен писать код для ИИ лучше, чем большинство людей.

Вот что говорит исследователь из OpenAI:

Скриншот твита Стивена Макалира (@McaleerStephen) с галочкой верификации в X, где показаны текст сообщения, время публикации, число просмотров и счётчики вовлечённости. Текст: Stephen McAleer @McaleerStephen. Трудно выразить свои взгляды так, чтобы не показаться ИИ-хайповщиком. Скажу так: многие исследователи в передовых лабораториях очень серьёзно относятся к перспективе коротких сроков, и практически никто за пределами лабораторий не говорит достаточно много о последствиях для безопасности. 17:21, 9 января 2025, 109,7 тыс. просмотров. 83, 103, 1 тыс., 208.
Источник.⁠⁠3

И ещё один:

Мы считаем, что o1 [модель, которую OpenAI выпустила несколько месяцев назад] — это новая парадигма масштабирования, и мы пока лишь на ранней стадии продвижения по ней.—Ноам Браун

И ещё один:

Всё, что мы сейчас делаем, отлично масштабируется. Всё возникает эмерджентно. Ничего не прописано в коде. Мы никак не говорили модели: «Эй, тебе, возможно, стоит проверить своё решение, сделать шаг назад…» Никаких тактик. Всё возникает само. Всё усваивается через обучение с подкреплением. Это безумие! Безумие!

Вот ещё один пример:

С тех пор, как я пришёл в январе 2024 года, я перешёл от «это пустой хайп» к «СИИ, по сути, уже здесь». ИМХО, дальше нас ждёт относительно мало новых научных открытий, вместо них — годы упорной инженерной работы: перепробовать все ставшие очевидными идеи в рамках новой парадигмы. Возможно, за этой стеной будет другая, но пока что, насколько видно, впереди 10-кратный рост.

Вот что по этому поводу заявила администрация Байдена:

Скриншот шапки статьи Axios с изображением флага США, поверх которого наложено предупреждающее диалоговое окно в стиле старых версий Windows с треугольником-предостережением и кнопкой OK. За иллюстрацией следуют начальные абзацы статьи о прощальном послании Джейка Салливана.
Источник.

Возможно, именно поэтому Сэм Альтман назначил на 30 января закрытый брифинг для представителей правительства США. Как сообщает Axios:

Инсайдеры в сфере ИИ считают, что грядёт крупный прорыв в создании суперАгентов уровня PhD… Сотрудники OpenAI рассказывают друзьям, что недавние успехи их одновременно вдохновляют и пугают.

Если вы думаете, что это просто шумиха от лидеров отрасли ИИ в поисках новых инвесторов, обратите внимание на слова Демиса Хассабиса — недавнего лауреата Нобелевской премии за работу в области ИИ и генерального директора DeepMind (это подразделение Google, так что привлекать финансирование им нужды нет):

В этой сфере много шумихи. [До появления СИИ], вероятно, от трёх до пяти лет.

Но есть ли ощутимые доказательства, что эти ИИ-модели и правда становятся настолько хороши?

Бенчмарки

ИИ и раньше требовалось некоторое время, чтобы превзойти людей в разных задачах.

График из журнала TIME, показывающий результаты передовых ИИ по восьми бенчмаркам с 1998 по 2023 год в сравнении с жирной горизонтальной линией на уровне 100%, обозначающей производительность человека. Разные кривые (распознавание рукописного текста, распознавание речи, распознавание изображений, понимание прочитанного, понимание языка, тест на здравый смысл, математика начальной школы, генерация кода) достигают и пересекают базовый человеческий уровень всё позже, но всё круче.

Но раньше, чтобы превзойти человека в какой-нибудь задаче, ИИ требовались десятилетия, а теперь — месяцы. Вот так всё быстро.

Передовая модель o3 от OpenAI ещё не вышла, поэтому давайте посмотрим, что говорят те, кто пользуется гораздо более глупой o1.⁠⁠4

Согласно тесту MENSA, её IQ — 120.

Скриншот сайта, отслеживающего IQ ИИ: колоколообразная кривая человеческого IQ, на оси X расположены логотипы разных ИИ-моделей соответственно их результатам; большинство моделей сгруппировано в диапазоне 80–95, а o1 от OpenAI находится значительно правее, около отметки 120.

Чтобы оценить, как это много: o1 располагается между выдающимся интеллектом и очень выдающимся интеллектом, что соответствует 87–91-му процентилю. То есть эта штука умнее 9 из 10 человек.

Подумайте об этом.

Проиллюстрируем наглядно (попробуйте сами найти ответ на вопрос ниже!):

Скриншот сообщения в чате с логической загадкой для ИИ.
Отсюда.

Итак, какой у вас ответ?
Подумайте!
Ладно, вот:

Скриншот той же логической загадки в ChatGPT, теперь под ней, рядом с логотипом OpenAI, короткий ответо ассистента, видно, что модель ненадолго задумалась перед ответом.

Я проверил.⁠⁠5

У меня точно на это ушло больше 5 секунд, и, полагаю, многие вообще не в состоянии её решить.

В июле 2024 года системы AlphaProof и AlphaGeometry от Google DeepMind чуть не завоевали золото на Международной математической олимпиаде (IMO):

График от Google DeepMind, на котором представлены результаты всех людей-участников Международной математической олимпиады 2024 года, отсортированные по общему баллу; столбцы окрашены в соответствии с медалями (синий — прочие, оранжевый — бронза, серый — серебро, жёлтый — золото) и возрастают примерно от 1 до 42 баллов. Вертикальной синей линией отмечен результат системы DeepMind на уровне 28 баллов, у верхней границы серебра.
Источник.

o1 — универсальная модель. Она не специализируется на математике. И всё же она набрала 83 % на отборочном экзамене к той же IMO. Предыдущая версия ChatGPT набрала 13 %…

Диаграмма от OpenAI с тремя столбцами, показывающая точность решения задач олимпиадной математики AIME 2024 для gpt4o, o1 preview и o1; верхняя часть каждого столбца выделена более светлым оттенком, обозначающим верхнюю границу результата.
Источник.

Почему это важно?

Золото на IMO — важный рубеж для исследователей ИИ: они трактуют его как обретение «способности рассуждать».

Пол Кристиано — изобретатель RLHF, признанный гений и, пожалуй, самый уважаемый в мире специалист по согласованию — ранее говорил, что повысит оценку вероятности «резкого взлёта» с 30 % до 50 %, если к 2025 году мы увидим золото на IMO.—@AISafetyMemes

Напомним: «резкий взлёт» — это когда ИИ становится достаточно умным, чтобы улучшать сам себя, — и, делая это, становится ещё умнее, улучшает себя ещё больше, становится всё умнее и — ВЖУХ! — за считанные месяцы, недели или дни достигает уровня суперинтеллекта благодаря рекурсивному циклу самоулучшения.

Чтобы получить об этом представление, послушайте генерального директора NVIDIA — компании, которая сегодня получает более 100 %⁠⁠6 прибыли в сфере ИИ:

Скриншот твита от @tsarnick, пересказывающего слова Дженсена Хуанга, над встроенным стоп-кадром видео с Хуангом в чёрной кожаной куртке, сидящим в кресле для интервью, с жёлтыми субтитрами. Текст: Tsarathustra @tsarnick. Дженсен Хуанг говорит, что технологии вышли на цикл положительной обратной связи, когда ИИ проектирует новый ИИ и теперь развивается со скоростью «закона Мура в квадрате», а это означает, что прогресс, который мы увидим в ближайший год или два, будет «впечатляющим и удивительным». @tsarnick. which allowed us to use. 0:03 / 1:50. 7:29, 18 сентября 2024, 368,7 тыс. просмотров. 135, 681, 2,5 тыс., 897.
Источник.⁠⁠7

В 2021 году Пол оценивал вероятность такого развития событий всего в 8 %! Как известно, он был самым видным сторонником концепции «медленного взлёта». Резкие взлёты пугают своей куда меньшей предсказуемостью. У общественных институтов почти нет времени, чтобы адаптироваться к безумным темпам изменений.—Источник

Посмотрите, как он справляется с научными вопросами уровня PhD:

Небольшая гистограмма с четырьмя столбцами от OpenAI, сравнивающая точность в бенчмарке научных вопросов уровня PhD (GPQA Diamond) между моделями gpt4o, o1 preview, o1 и базовым уровнем эксперта-человека.

Он отвечает лучше докторов наук!

Вот широкий набор тестов:

Четыре сгруппированные горизонтальные гистограммы от OpenAI, сравнивающие базовые результаты gpt4o (бирюзовый цвет) с улучшенными результатами o1 (коралловый цвет) в наборе бенчмарков, экзаменов, научных дисциплин уровня PhD и категорий MMLU.

Кроме того, недавно у некоторых ИИ появилось контекстное окно на 100 млн токенов (то есть они могут «прочесть» около 750 романов, чтобы выдать вам ответ).

Скриншот комментария на Reddit от пользователя FateOfMuffins с иконками голосования, ответа, награды и репоста внизу. Текст: FateOfMuffins, 1 мин. назад. Я занимаюсь олимпиадной математикой. В августе было «ха-ха, ИИ не умеет в математику, мои пятиклассники надёжнее», в сентябре — «чёрт, он лучше большинства моих двенадцатиклассников», в декабре — «чёрт, он лучше меня в математике, а я этим на жизнь зарабатываю». Весьма показательно, что исследователи OpenAI (один из которых — тренер по спортивному программированию) и главный научный сотрудник теперь пишут код хуже собственных моделей. Голосовать. Ответить. Наградить. Поделиться.
Это декабрь 2024 года. Источник.⁠⁠8

Всё только что рассказанное касается o1 — предыдущей модели! А что мы знаем о нынешней модели o3, которую OpenAI сейчас тестирует и от которой исследователи в таком восторге?

GPQA — это сложный экзамен по естественным наукам, рассчитанный на докторов наук, который невозможно пройти, просто загуглив. В среднем они набирают 34 %. В своей узкой специализации — около 81 %. Новая модель OpenAI, o3, даёт 88 % правильных ответов.

Диаграмма из трёх столбцов от OpenAI, демонстрирующая точность ответов на научные вопросы уровня PhD (бенчмарк GPQA Diamond) для моделей o1 preview, o1 и o3, где результат o3 достигает почти 88 процентов.
Источник этих графиков в конечном счёте — OpenAI.

Другими словами, o3 решает задачи лучше докторов наук в их же областях.⁠⁠9

Ещё один бенчмарк — FrontierMath, набор строгих, не публиковавшихся ранее математических задач, специально составленных математиками, чтобы решить их было невероятно трудно.

Задачи действительно сложные… большинство из них, похоже, намного выше моего уровня. — Эван Чен, тренер Международной математической олимпиады.

ИИ никогда не набирали больше 2%, но o3 верно решил 25% задач.

Диаграмма с двумя столбцами от OpenAI, показывающая точность на бенчмарке исследовательской математики EpochAI Frontier Math: скачок с 2,0 у o1 до 25,2 у o3, с более светлой затенённой областью на столбце o3, обозначающей верхнюю границу.
Источник.

ARC-AGI — известный тест на подвижный интеллект, задуманный так, чтобы быть относительно простым для человека, но сложным для ИИ. Средний человек набирает в нём 75 %, а аспиранты STEM-специальностей — 100 %; o3 обошёл все предыдущие модели ИИ и набрал 87,5 %.

Точечная диаграмма на тёмном фоне от ARC Prize, показывающая зависимость результата от затрат на задачу (по логарифмической шкале) при полузакрытом тестировании ARC-AGI. Зелёные точки для o1-mini и o1 preview скопились в левом нижнем углу, красные точки для o1 low/med/high расположены посередине, серые контрольные точки отмечают Kaggle SOTA, среднего mturker и STEM grad, а жёлтые точки для o3 low (tuned) и o3 high (tuned) достигают 76 и 88 процентов при значительно более высокой стоимости.

Два года назад (в 2023 году) один эксперт по ИИ предсказал, что ИИ преодолеет отметку в 70 % в ARC-AGI только через 2–3 года от сегодняшнего дня (то есть примерно в 2027 или 2028 году)…

Скриншот твита @iruletheworldmo, на аватарке усатый мужчина в красной шапке Санты с эмодзи клубники. Видны галочка верификации, текст твита, время публикации, количество просмотров и счётчики реакций. Текст: @iruletheworldmo. слитый бенчмарк: o3 pro решила задачи, до которых, как мы думали, оставалось ещё 5 лет. команда Сэма пытается понять, как она это сделала. происходит нечто беспрецедентное. 0:35, 19 января 2025, 583,3 тыс. просмотров. 145, 246, 3,2 тыс., 800.
Источник.⁠⁠10

Подведу итог:

  • Модель o1 от OpenAI была настолько хороша, что уже считалась элитной.

  • Их новая модель, o3, настолько хороша, что превосходит экспертов в их же областях.

  • Прогресс между этими двумя моделями занял лишь месяцы.

  • Исследователи ИИ отмечают, что она даже не оптимизирована!

  • Они настолько ошеломлены этим прогрессом, что многие приходят к выводу: мы достигнем СИИ через 1–3 года.

Вы уже впечатлены?

Пределы роста

Но, может быть, они упускают из виду какие-то препятствия, способные сдержать этот рост? Может ли развитие интеллекта на пути к СИИ упереться в стену?

Может, есть какой-то фундаментальный предел в том, какие типы задач способна решать эта технология? Нет:

Мы математически доказали, что трансформеры способны решить любую задачу — при условии, что им позволено сгенерировать столько промежуточных токенов рассуждения, сколько нужно. — Денни Чжоу, руководитель команды рассуждений в Google DeepMind.

Судя по всему, технологии и интеллект не станут сдерживающими факторами суперинтеллекта. Если что-то и станет ограничением, так это базовое сырьё. Это:

  1. Данные для обучения ИИ-моделей
  2. Вычислительные мощности (чипы) для обучения и запуска моделей
  3. Электроэнергия на вычисления
  4. Деньги на оплату всего этого
  5. Качество алгоритмов для оптимизации всего этого

Похоже, что (4) деньги — не проблема.

Скриншот заголовка статьи CNN с именем автора и отметкой времени под ним. Текст: Трамп объявляет о 500 млрд долларов инвестиций в инфраструктуру ИИ в США. Автор: Clare Duffy, CNN. Время чтения: 4 минуты. Обновлено в 22:46 EST, вторник, 21 января 2025.
Для сравнения: в 2021 году инвестиции в ИИ составили около 1 млрд долларов! Это не значит, что 500 млрд долларов действительно будут вложены. Это значит, что к ИИ проявляют огромный интерес — от самых дорогих компаний до самых могущественных правительств мира.⁠⁠11

Внимание всего мира приковано к ИИ. Все понимают, что за ним будущее, и готовы вкладывать деньги, чтобы его приблизить.

3. Электроэнергия

Компании вроде OpenAI, Amazon, Meta и Google понимают, как много им понадобится электроэнергии, и инвестируют в создание собственных мощностей — вплоть до строительства или перезапуска атомных реакторов для стабильного энергоснабжения. То, что такая энергия дороже ископаемого топлива или возобновляемых источников для них неважно: электричество — куда меньшая доля их расходов, чем вычислительные мощности.

Насколько сложно произвести всю нужную электроэнергию? Возьмём США как самый важный пример:

Линейный график спроса дата-центров США на электроэнергию с 2014 по 2028 год, в ТВт·ч, показывающий пологую историческую кривую, поднимающуюся примерно с 60 ТВт·ч (CAGR 7 %), а затем, после 2023 года, расходящуюся веером в диапазон нижнего и верхнего прогнозов и достигающую примерно 400–600 ТВт·ч к 2028 году.

На дата-центры уже приходится 4,5 % спроса на электроэнергию в США, и через четыре года эта доля, вероятно, вырастет до 7–12 %. Насколько это сложно? За последние пару десятилетий объёмы выработки электроэнергии в США выросли не сильно, так что задача может оказаться непростой.

Линейный график выработки электроэнергии в США с 1985 по 2023 год в тераватт-часах от Our World in Data; кривая круто поднимается примерно с 2500 ТВт·ч в 1980-х годах примерно до 4000 ТВт·ч к 2000 году, а затем выходит на плато в диапазоне 4000–4500 ТВт·ч вплоть до 2023 года.

Но возобновляемая энергетика взлетает:

Два расположенных рядом небольших графика от Our World in Data, показывающие потребление ветряной и солнечной энергии в США в пересчёте на первичную энергию с 1965 по 2023 год; обе кривые остаются почти горизонтальными примерно до 2000 года, а затем круто идут вверх, достигая к 2023 году примерно 500–600 ТВт·ч (ветер) и 400–500 ТВт·ч (солнце).

К 2028 году американским дата-центрам потребуется около 200 ТВт·ч дополнительной электроэнергии, но ветряная и солнечная энергетика прибавляют около 200 ТВт·ч в год, так что о нехватке электричества сильно беспокоиться не приходится.⁠⁠12

2. Вычислительные мощности

Вычислительные мощности, вероятно, станут ограничивающим фактором. Именно поэтому NVIDIA занимает третье место в рейтинге самых дорогих компаний мира, а два других производителя микросхем — Broadcom и TSMC — десятое и одиннадцатое.

Но спрос настолько велик, что с NVIDIA всё активнее конкурируют новые поставщики: Cerebras, AMD, Intel, TPU от Google (внутренний спрос на которые настолько высок, что Google забирает их все и больше не продаёт), Microsoft, Groq…

1. Ограничения по данным

Здесь мы действительно упираемся в стену: мы уже скормили моделям почти весь интернет. Объём ещё не оцифрованного контента, который несложно достать, способен разве что удвоить количество доступных данных — и на этом всё. А дальше? Есть два ответа.

Во-первых, синтетические данные. У нас уже есть физические движки, способные создавать реалистичные окружения для ИИ. Это, например, помогает обучать беспилотные автомобили. Более интересный источник синтетических данных — просто использовать ИИ для генерации данных для обучения других ИИ. Почему это работает? Разве не «мусор на входе — мусор на выходе»? Нет, потому что во многих научных областях легко составить задачи, получить от ИИ ответы и проверить их правильность. Если ответ на сгенерированную ИИ задачу верен, можно ИИ об этом сообщить. Если неверен — тоже, и он учится на будущее.

Во-вторых, человеческому мозгу не нужно поглощать весь интернет, чтобы стать умным. А значит, у нас сейчас огромный запас: мы используем триллионы токенов данных, потому что наши алгоритмы обучения и вычислений пока не очень оптимизированы. Природа нашла алгоритм для нашего мозга методом проб и ошибок. Мы же можем как минимум подойти к этой задаче эффективнее.

Вообще, это только что сделали. Малоизвестная китайская компания выпустила революционную модель, который заставил всех переосмыслить мир ИИ.

DeepSeek: «Ух ты!»-момент стоимости ИИ

DeepSeek — небольшая китайская компания, которая выпустила новую ИИ-модель R1; с компьютера её можно использовать здесь.⁠⁠13 Вот её «рейтинг качества ИИ»:

Столбчатая диаграмма индекса качества Artificial Analysis, ранжирующая шестнадцать передовых моделей по общему баллу в бенчмарках. DeepSeek-R1 выделена красной рамкой на втором месте с 89 баллами, уступая лишь o1 от OpenAI с 90 баллами.
Источник. Другие утверждают, что R1 от DeepSeek лучше o1 от OpenAI.

Она стоит в 25 раз дешевле, чем o1:⁠⁠14

Диаграмма Artificial Analysis, показывающая цены ввода и вывода в долларах США за 1 млн токенов для шестнадцати моделей. Большая фиолетовая стрелка, указывает на очень низкую цену вывода DeepSeek-R1 (2,19) по сравнению с огромной ценой вывода o1 (60) в крайней правой части графика.
Источник.

И кто это сделал? Китайский стартап из 100 человек безо всякого венчурного финансирования.

Скриншот твита Хань Сяо (@hxiao) с галочкой верификации, он описывает материнскую компанию DeepSeek; фраза «deepseek is their side project» выделена светло-голубым. Текст: Han Xiao @hxiao. холдинг deepseek 幻方量化 — это квант-компания с многолетней историей, суперумные ребята с топовым математическим бэкграундом; так вышло, что у них скопилось много GPU для трейдинга/майнинга, и deepseek — это их сайд-проект, чтобы выжимать из этих gpu максимум. 17:13, 22 января 2025, 252 тыс. просмотров. 83, 509, 3,6 тыс., 638.
Раньше они были хедж-фондом и небольшой командой усердно работали над оптимизацией алгоритмов и скорости. Пару лет назад они решили сменить курс: у них было много опыта и GPU (графических процессоров — компьютеров, лучше всего оптимизированных для ИИ; именно такие продаёт NVIDIA), и они решили заняться ИИ.⁠⁠15

К тому же это открытая модель, а значит, каждый может изучать, дорабатывать повторно использовать её код! Они отдали её бесплатно. Все инструменты, использованные ими для этого прорыва, теперь доступны всему миру.

Скриншот твита henry (@arithmoquine), опубликованного 9 часов назад, с маленькой мультяшной аватаркой; видны текст сообщения, счётчики вовлечённости и количество просмотров. Текст: henry @arithmoquine, 9 ч. за последние несколько часов я сделал более 200 000 запросов к api deepseek. никаких ограничений по частоте, и всё это обошлось мне где-то в 50 центов. благослови КПК, openai так бы никогда не смогли. 138, 901, 10 тыс., 410 тыс.
Источник: X.⁠⁠16

И DeepSeek уже улучшает сам себя!

Скриншот твита Мэтью Бермана (@MatthewBerman), в котором цитируется скриншот поста из блога Саймона Уиллисона о PR к llama.cpp, написанном DeepSeek-R1. Далее следует приведённый Уиллисоном фрагмент расшифровки цепочки рассуждений R1. Текст: MatthewBerman @MatthewBerman. DeepSeek R1 только что получил двукратный прирост скорости! И знаете, что самое безумное? Код для этого ускорения БЫЛ НАПИСАН САМИМ R1! Самоулучшающийся ИИ уже здесь. Simon Willison's Weblog. ggml : x2 speed for WASM by optimizing SIMD (via) PR от Xuan-Son Nguyen для llama.cpp: этот PR даёт огромный прирост скорости для WASM за счёт использования SIMD-инструкций для функций скалярного произведения qX_K_q8_K и qX_0_q8_0. Удивительно, но 99% кода в этом PR написано DeepSeek-R1. Я только разрабатывал тесты и писал промпты (с некоторой долей проб и ошибок). Они поделились своими промптами здесь; они прогоняли их напрямую через R1 на chat.deepseek.com. На «обдумывание» каждого промпта у модели уходило 3–5 минут. Я вижу очень многообещающие результаты от DeepSeek R1 и в написании кода. Вот недавний лог, где я использовал его, чтобы переписать плагин llm_groq.py по паттерну кэшированной JSON-модели из llm_mistral.py, что и привело к этому PR. Я пытался проделать то же самое с o1, но, думаю, DeepSeek справился лучше. В частности, из цепочки рассуждений R1: Погодите, но в model_map «groq-gemma» сопоставляется с «gemma-7b-it». Значит, возможно, model_map нужен, чтобы сопоставлять локальные ID моделей с реальными именами моделей Groq. Но раз model_map жёстко задан, а API возвращает доступные модели, возможно, model_map следует формировать динамически из ответа API. Или же model_map можно вообще убрать, а модели регистрировать на основе полученных из API. Погодите, возможно, model_map больше не нужен. Вместо этого, когда модели получены из API, «id» каждой модели — это и есть реальное имя модели, используемое в API Groq. То есть при регистрации моделей локальный ID — это «groq-{id}», а groq_model_id — это «id». 17:37, 28 января 2025 г., 1 млн просмотров. 428, 1,6 тыс., 8 тыс., 2,7 тыс.
Источник: X.⁠⁠17

А что же Meta (Facebook)? Два года назад Meta начала выпускать версии своей собственной открытой модели — Llama. Llama хуже и намнго дороже R1!

Скриншот анонимного поста от сотрудника в группе Artificial Intelligence компании Meta за вчерашний день, с иконками закладок и опций; заголовок поста выделен жирным шрифтом, за ним следует текст из нескольких абзацев. Текст: Искусственный Интеллект, Вчера. Meta, ngi. Подразделение GenAI в Meta в панике. Всё началось с deepseek v3 от результатов которого в бенчмарках Llama 4 уже отстаёт. Сыплет соль на рану, что это сделала «неизвестная китайская компания с бюджетом на обучение в 5..5 миллиона». Инженеры лихорадочно разбирают deepsek на части и копируют из него всё, что только можно. Я даже не преувеличиваю. Руководство ломает голову, как оправдать колоссальные расходы подразделения gen ai. Как им смотреть в глаза высшему начальству, когда каждый такой «лидер» в подразделении зарабатывает больше, чем стоило обучение всей deepseek v3 целиком, а таких «лидеров» у нас десятки. С выходом Deepseek r1 всё стало ещё страшнее. Не могу разглашать конфиденциальную информацию, но она всё равно скоро станет достоянием общественности. Это должна была быть небольшая структура с упором на инженерию, но куча людей захотела поучаствовать в дележе импакта и искусственно раздуть штат, и теперь в проигрыше все. 52, 42, 1 724. Поделиться.
Источник.⁠⁠18

И DeepSeek — не единственные, кто так делает. Модель Doubao-1.5-pro от ByteDance показывает в бенчмарках результаты не хуже GPT 4o от OpenAI и Claude Sonnet 3.5 от Anthropic, обходясь в 50 раз дешевле.

Таблица результатов бенчмарков на китайском языке (综合指标, сводные показатели) от ByteDance, где строки сгруппированы по категориям Знания, Математика, Программирование, Рассуждения, Следование инструкциям и Китайский, в которой Doubao-1.5-pro (выделенный столбец) сравнивается с Llama3.1-405B, GPT4o-0806, Gemini-exp-1205, Claude-3.5-Sonnet-latest, Qwen2.5 и Deepseek V3. Текст: 综合指标. Doubao-1.5-pro, Llama3.1-405B, GPT4o-0806, Gemini-exp-1205, Claude-3.5-Sonnet-latest, Qwen2.5, Deepseek V3. Знания MMLU 88.6, 88.6, 88.7, 86.8, 88.5, 85.6, 88.5. MMLU_PRO 80.1, 73.3, 74.9, 76.4, 78.0, 71.1, 75.9. GPQA 65.0, 51.1, 53.1, 62.1, 65.0, 49.0, 59.1. MATH Математика 88.6, 73.8, 75.9, 89.7, 78.3, 83.1, 87.8. OlympiadBench 59.8, 34.1, 40.7, 64.7, 43.5, 50.0, 59.1. Программирование MBPP+ 78.0, 72.8, 78.3, 78.6, 76.5, 76.9, 79.3. McEval 70.2, 58.7, 68.2, 67.0, 68.2, 61.7, 69.4. FullStackBench 65.1, 53.6, 61.8, 62.6, 60.3, 56.9, 63.3. Рассуждения BBH 91.6, 89.2, 91.7, 92.6, 92.6, 88.3, 92.3. DROP 93.0, 91.2, 79.8, 89.7, 88.3, 87.4, 91.6. Следование инструкциям IFEval 89.5, 86.0, 85.7, 89.8, 89.3, 84.1, 86.1. SysBench 67.6, 58.9, 62.2, 69.0, 69.0, 47.2, 66.3. Китайский CMMLU 90.9, 75.4, 77.3, 84.3, 81.2, 84.3, 83.5. C-Eval 91.8, 72.7, 76.0, 83.9, 80.0, 84.1, 86.5. 其他模型的评测指标来自官方评测结果, 官方评测结果中不含的部分来自内部评测平台结果. GPT4o-0806在语言模型公开评测指标中显著优于GPT4o其他版本, https://github.com/openai/simple-evals.
Источник.

А теперь вот: я только что впервые протестировал DeepSeek, и это был поразительный опыт. Впервые я почувствовал, что у меня есть толковый соавтор для тех исследований, которыми я занимаюсь. Я ошеломлён.

Много лет я задавался вопросом, почему население одной страны такое большое. Я много спрашивал об этом ИИ, но они неизменно подводили:

  • Они не доходили до причин, в духе «Людей так много, потому что был демографический бум».

  • Они путали причинно-следственные связи, в духе, например «В этой стране много людей, потому что большинство живёт в городах, а города очень густонаселены».

  • Когда я ошибался, они этого не замечали так что не могли подвергнуть мои допущения сомнению.

  • Они предлагали целый набор пунктов, не учитывая связей между ними.

Ошибок было ещё куда больше.

DeepSeek — первый ИИ, который смог самостоятельно, без подсказок, выдвинуть те же гипотезы, что и я. И первый, который сам предложил новые гипотезы. Но он пошёл ещё дальше: предложил, как эти гипотезы проверить, и откуда брать для этого данные! И всё это — быстро и бесплатно! Самое поразительное — можно посмотреть на ход рассуждений DeepSeek, и он бьёт точно в цель. Он ощущался по-человечески, причём как очень умный и рациональный человек. Все сомнения, возникавшие у ИИ по ходу размышлений, были обоснованы и сильно помогли мне улучшить свои промпты. Например:

Скриншот чата с DeepSeek. Сверху в светло-голубом пузыре — уточняющий промпт автора, а ниже, под аватаром DeepSeek в виде кита, сворачиваемый блок «Думал 12 секунд», там серым текстом показана цепочка рассуждений модели. Названия обсуждаемых стран скрыты двумя бежевыми плашками.

Как DeepSeek удалось создать столь качественную модель так дёшево? Точно неясно, но, кажется, это комбинация факторов, которые я разберу в статье для премиум-подписчиков. Там же я расскажу, какие шаги остались до создания СИИ.

Здесь важно, что им не понадобилась обратная связь от человека! Они выстроили процесс, в котором просто скармливали машине данные и создавали механизмы, позволяющие ей учиться самой. Помните, я говорил, что синтетические данные избавят прогресс ИИ от ограничений данных? Вот идеальный пример.

Это очень важно, потому что люди всегда были самым узким местом прогресса ИИ. Прежде, чем AlphaGo смог обыгрывать людей, ему пришлось учиться на десятках миллионов человеческих ходов. А вот AlphaGo Zero научился побеждать людей вообще без этого, играя только сам с собой, всего за 3 дня.

AlphaGo Zero обыграл AlphaGo со счётом 100:0.

Что всё это значит? Давайте соберём всё воедино.

Выводы: будущее вот-вот обрушится на нас

Карикатура с палочными человечками на графике с осями «Интеллект» и «Время»: почти горизонтальная кривая интеллекта тянется вправо, где резко уходит вертикально вверх; два человечка на плоском участке (один сидит с ноутбуком и лупой, другой стоит) обмениваются пренебрежительными репликами, а красная стрелка указывает на красную точку прямо на изгибе экспоненты.
  • Четыре года назад лучшие ИИ-модели достигали примерно уровня интеллекта крысы, три года назад — собаки, два года назад — старшеклассника, год назад — среднестатистического бакалавра, несколько месяцев назад — доктора наук, а сейчас они превосходят людей со степенью доктора наук в их профильных областях. Просто экстраполируйте.

  • Создатели этих моделей единодушно говорят, что масштабирование идёт быстрее, чем ожидалось, и безо всяких хитрых уловок. Они повсюду видят возможности для оптимизации. Интеллект просто масштабируется. Они считают, что до СИИ осталось 1–4 года. Это лишь немногим оптимистичнее прогнозов рынков в ~2–6 лет.

  • Системы ИИ сейчас недалеки от элитных программистов. А ИИ уже улучшает сам себя. Сложите эти два фактора — и представьте, как быстро темпы развития ИИ будут ускоряться.

  • Пока непохоже, чтобы сам интеллект стал затыком на пути к СИИ. Скорее — другие факторы, вроде энергии или вычислительных мощностей.

  • Но DeepSeek только что доказали, что для создания моделей может хватать на порядки меньше денег, энергии и вычислительных мощностей.

  • Так что, хоть развитие ИИ и может быть ограничено электроэнергией, данными и особенно вычислительными мощностями, мы постоянно ослабляем эти физические ограничения, находя способы делать модели эффективнее.

Другими словами: ИИ развивается всё быстрее, не видно явных барьеров для его прогресса, и знающие люди считают, что СИИ появится уже через пять лет.

Отвечая на вопросы из введения: мы сейчас прыгаем в пропасть, и, у нас, наверное, всего несколько лет (от 1 до 6 — смотря кого спросить), чтобы научиться летать — или разбиться о землю.

Как нам к этому подготовиться? Это я и собираюсь исследовать в следующих статьях:

  • Что нового известно о влиянии ИИ на конкретные профессии?

  • Ускорит ли ИИ развитие науки?

  • Что мы узнали о задаче согласования ИИ? ИИ нас всех убьют?

  • Как вам войти в сферу ИИ, если вы о ней ничего не знаете? Как вам оседлать эту волну?

Всё это я рассмотрю в следующих статьях!


Оригинальная публикация: Tomas Pueyo (2025) The most important time in history is now, Uncharted Territories, 29 января.

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18