Длинный список теорий влияния интерпретируемости
Основа оптимизации
Задача согласования с точки зрения глубокого обучения
Сценарии погибели от СИИ вероятны (и дизъюнктивны)
Психическое здоровье и задача согласования: подборка ресурсов
Нго и Юдковский о росте способностей ИИ
Юдковский и Кристиано обсуждают «Скорости взлёта»
Принципы проектов по согласованию/агентности
Взлом градиента
HCH и состязательные вопросы
Скорость взлёта
Насколько вероятна обманчивая согласованность?
Вознаграждение — не цель оптимизации
Мнения команды DeepMind по согласованию об аргументах о гибели от СИИ
Гибель от ИИ с точки зрения убеждённого в выходе LLM на плато
Подростковые годы технологий
Запрос предложений по проблеме крайней концентрации власти
Самые распространённые кибератаки с применением ИИ
Когда десятилетия превращаются в дни: разбор «AI 2027»
Лаборатория и жизнь: разбор «ИИ как обычная технология»
Управление суперинтеллектом
Соларпанк: видение устойчивого будущего
Наступила эпоха турбулентности из-за ИИ. Решения, которые мы принимаем сейчас, имеют решающее значение
Мягкая сингулярность
Машины благодати и любви
Что такое согласование ИИ?
Введение в контроль ИИ
Политика в области ИИ в правительстве США
Мини-пост 3: стать человеком, который действительно что-то делает
Карьерные советы по безопасности СИИ
Длинный список полезных направлений
d/acc: год спустя
Проект
Практическое руководство по защите весов ИИ-моделей
Как ИИ может привести к краху критической инфраструктуры
Проклятие интеллекта
ИИ и Левиафан: часть I — институциональная экономика интеллектуального взрыва
Мышление безопасника
Системная карточка: Claude Opus 4 и Claude Sonnet 4 (оценки CBRN)
Как ИИ может привести к катастрофическим пандемиям
Кибератака на электросеть: модель угроз с учётом ИИ
Кибератаки на критически важную инфраструктуру
ИИ и эволюция биологических рисков для национальной безопасности: возможности, пороги и меры
Будущее фишинга
3CB: бенчмарк катастрофических киберспособностей
Краткое изложение: постепенная утрата влияния
Перевороты с поддержкой ИИ: как небольшая группа может воспользоваться ИИ для захвата власти
ИИ вызывает страхи о биотерроризме. В чём реальный риск?
Переосмысление моделей угроз СИИ
ИИ мог бы победить всех нас вместе взятых
Катастрофические сценарии с ИИ
Общее во взглядах «AI 2027» и «ИИ как обычная технология»
Почему мнения о том, когда появится мощный ИИ, расходятся?
Открытые споры о будущем ИИ
Самый важный момент в истории — сейчас
Революция ИИ: путь к суперинтеллекту
«Длинные» сроки до продвинутого ИИ теперь безумно коротки
В поисках стабильности в борьбе за преимущество в ИИ
Подготовка к запуску
Эпоха интеллекта
Как будет выглядеть ИИ в 2030 году?
Триада ИИ и её значение для стратегии национальной безопасности
Масштабирование: состояние дел в области ИИ
В поисках динамичного подхода к созданию безопасного сверхчеловеческого ИИ
Вести крупную ИИ-компанию с соблюдением этических норм практически невозможно
Технические исследования безопасности ИИ