На этой неделе в Моноиде:

• Понедельник 22.09 — Коворкинг 🖥️
• Среда 24.09 — Коворкинг 🖥️
• Четверг 25.09 — Знакомство с AI safety по роликам Роба Майлза 🏷️
• Пятница 26.09 — Новости ML, AI и technical safety 🏷️
• Суббота 27.09 — Знакомство с AI safety по роликам Роба Майлза 🏷️
• Воскресенье 28.09 — Коворкинг 🖥️

🖥️ - Стоимость по тарифам коворкинга
🏷️ - Вход бесплатный

🌍 Подробные описания мероприятий и тарифы доступны на сайте
📍 Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Новости ML, AI и technical safety

📅 Когда: 26 сентября (и каждую пятницу)
⏰ Время: 20:00
📍 Где: Москва, ЦДО «Моноид»
💰 Стоимость: бесплатно

Это регулярные встречи дискуссионной группы по ML, AI и technical safety. Мы ищем статьи, которые что-то значат для области, чтобы их обсудить и попытаться понять и их смысл, и их роль.

На этой неделе читаем:

1️⃣ AI safety via debate - вариант реализации “Scalable oversight”, о котором мы немного говорили в прошлый раз: идея использования пары ИИ для достижения более устойчивых и безопасных результатов, которая продолжает звучать в разных вариациях.
2️⃣ Super Co-alignment of Human and AI for Sustainable Symbiotic Society - недавний взгляд на задачу согласования (под вывеской “Superalignment”, потому что у слов тоже есть инфляция), который в том числе ставит под сомнение работоспособность подхода первой статьи.

Чтобы поучаствовать во встрече, нужно: 
⭕️прочитать статью,
⭕️прийти и обсудить прочитанное.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Продолжаем знакомство с AI safety по роликам Роба Майлза
Киноклуб, дискуссии, нетворкинг

📅 Когда: 17:00, 27 сентября (суббота)
📍 Где: Москва, ЦДО «Моноид»
🎙️ Организатор: Анна Самина
💰 Стоимость: бесплатно

О мероприятии:
Смотрим короткие видео про безопасность ИИ от Роба Майлза, обсуждаем идеи и делимся мыслями.

Атмосфера: неформальные разговоры и философия с попкорном.

Что смотрим:
🔘Why Would AI Want to do Bad Things? Instrumental Convergence
🔘Why Does AI Lie, and What Can We Do About It?
🔘The OTHER AI Alignment Problem: Mesa-Optimizers and Inner Alignment

Q: Я не был(а) на первой встрече. Смогу понять?
A: Конечно. Каждое видео самостоятельное — можно присоединиться, когда удобно

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Evals: оценки прогресса и прогресс оценок ИИ.
Лекция в рамках программы стажировки

📅 Когда: 28 сентября (воскресенье)
⏰ Время: 18:00
📍 Где: Москва, ЦДО «Моноид»
🎙️ Спикер: Олег Лариков
💰 Стоимость: бесплатно

Как осмысленно измерять производительность больших языковых моделей, если они постоянно меняются? Что отличает надежный метод оценки от посредственного? Что именно делает задачу сложной? На лекции поговорим о субъективности оценок, о том, как оценивают творческие задачи, и что делать с быстрым устареванием тестов.

Основные вопросы:
Это лекция о проблемах осмысленного измерения быстро меняющегося процесса:

🔘 Что мы измеряем? Подходы к определению и измерению абстрактного понятия "качества" у языковых моделей.
🔘 К чему приводят ошибки? Риски, связанные с плохими метриками и их последствия.
🔘 Почему это так сложно? Вызовы и уникальные проблемы в оценке LLM.

Зачем приходить:
🔘познакомиться с темой мета-анализа ИИ-технологий.
🔘разобраться подробнее, что делают Anthropic и METR.

📍 Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

На этой неделе в Моноиде:

• Понедельник 29.09 — Коворкинг 🖥️
• Среда 01.10 — Коворкинг 🖥️
• Четверг 02.10 — Знакомство с AI safety по роликам Роба Майлза 🏷️
• Пятница 03.10 — Новости ML, AI и technical safety 🏷️
• Суббота 04.10 — Один интеллект хорошо, а два - лучше 💰
• Воскресенье 05.10 — Коворкинг 🖥️

🖥️ - Стоимость по тарифам коворкинга
🏷️ - Вход бесплатный
💰 - Мероприятие платное

🌍 Подробные описания мероприятий и тарифы доступны на сайте
📍 Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Продолжаем знакомство с AI safety по роликам Роба Майлза
Киноклуб, дискуссии, нетворкинг

📅 Когда: 17:00, 2 октября (четверг)
📍 Где: Москва, ЦДО «Моноид»
🎙️ Организатор: Арина Забелина
🆓 Стоимость: бесплатно

О мероприятии:
Смотрим короткие видео про безопасность ИИ от Роба Майлза, обсуждаем идеи и делимся мыслями.

Атмосфера: неформальные разговоры и философия с попкорном.

Что смотрим:
🔘 Intelligence and Stupidity: The Orthogonality Thesis
🔘 Goal Misgeneralization: How a Tiny Change Could End Everything
🔘 Quantilizers: AI That Doesn't Try Too Hard

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Новости ML, AI и technical safety

📅 Когда: 3 октября (и каждую пятницу)
⏰ Время: 20:00
📍 Где: Москва, ЦДО «Моноид»
💰 Стоимость: бесплатно

Это регулярные встречи дискуссионной группы по ML, AI и technical safety. Мы ищем статьи, которые что-то значат для области, чтобы их обсудить и попытаться понять и их смысл, и их роль.

На этой неделе читаем:

1️⃣ Optimal Policies Tend to Seek Power - попытка математического описания естественных аттракторов агентов: почему в достаточно неопределённом мире широкий диапазон целей может приводить к схожим промежуточным действиям;
2️⃣ Frontier Models are Capable of In-context Scheming - о практических проблемах ограничения ИИ-агентов, включая их способность игнорировать поставленные временные рамки и ломать ограничивающие механизмы.

Чтобы поучаствовать во встрече, нужно: 
⭕️прочитать статью,
⭕️прийти и обсудить прочитанное.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Один интеллект хорошо, а два - лучше.
Мастер-класс по развитию эмоционального интеллекта

📅 Дата: 4 октября (суббота)
⏰ Время: 18.00
📍 Где: Москва, ЦДО «Моноид»
🎙️ Ведущая: Ольга Мо
💰 Стоимость: 2500р (оплата онлайн или при посещении)

Речь идет об эмоциональном интеллекте (а не искусственном, как можно было подумать). У нас в гостях Ольга Мо. Рационалистка, фасилитатор и коуч ННО. Соавтор проекта "Игропрактики". Блог с анонсами ее проектов: тут.

Передаем ей слово:

Вместо противопоставления одного типа интеллекта другому (разумные мысли - мешающие чувства) я предлагаю объединять и взаимно усиливать их. Задаваться вопросами о природе эмоций, отслеживать причины их вызывающие (и нет, это не другие люди и их поступки, хотя легко так думать в отсутствии понятных моделей).

На мастер-классе
Рассмотрим ваши эмоции как реакции, порождающие цепочки телесных и ментальных откликов. И зададимся вопросом, что с ними делать.

Для этого вы:
1) Найдете у себя в теле эмоции
2) Определите ключевой паттерн их работы
3) Узнаете способы на него влиять
4) Профит!

Хорошая модель своей эмоциональной сферы помогает:
🔘Принимать уверенные решения
🔘Строить желанные планы
🔘Получать больше удовольствия от жизни

А еще понимание самого себя (а, так вот почему я так делаю) и, в конечном итоге, ведет к пониманию других (а, так вот почему они так делают). Это кропотливая работа над собой. И с самим собой. Предлагаю заняться ей с моей помощью.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

LLM Steering 2025: Дружеский хакатон по промпт-инжинирингу

📅 Когда: 24-26 октября
📍 Где: Онлайн + Москва, ЦДО «Моноид»
💰 Стоимость: бесплатно

LLM Steering (направленное управление моделью) — это базовый навык для оценки моделей (evals) и, главное, для решения реальных задач с LLM. Мы считаем, что навыки развиваются практикой, поэтому делаем хакатон с фокусом на обучение и кооперацию.

Про что кейсы?
Хакатон предполагает несколько направлений, из которых участники смогут выбрать кейс подходящей тематики и уровня сложности. Будут охвачены:
🔘базовые методы промпт-инжиниринга,
🔘стилистическое управление генерацией контента,
🔘генерация и проверка кода,
🔘извлечение, структурирование и верификация данных,
🔘поиск уязвимостей, ограничений и нетипичных поведенческих сценариев моделей.

Образовательная программа:
Предварительно к хакатону будут проведены опциональные лекции и воркшопы по темам:
🔘методы промпт-инжиниринга,
🔘основы jailbreak-техник и AI Safety,
🔘оформление pitch-презентаций для проектов.

Что значит дружеский хакатон?
Все, кто сдаст рабочее решение по критериям, попадают в список победителей и получают призы.
Нет крупных денежных призов, только полезные ресурсы и сувениры от ЦДО «Моноид».

Зачем участвовать:
Этот опыт полезен для тех, кто хочет построить карьеру в этой области, а также для:
🔘освоения прикладных методов работы с LLM на реальных задачах,
🔘понимания ограничений и сильных сторон моделей,
🔘формирования портфолио и исследовательских идей.

Спец-номинации:
🔘«AI Safety релевантный проект»
🔘«Проект на сопровождение»

Подробнее: тут
Регистрация: тут

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Новости ML, AI и technical safety

📅 Когда: 10 октября (и каждую пятницу)
⏰ Время: 20:00
📍 Где: Москва, ЦДО «Моноид»
💰 Стоимость: бесплатно

Это регулярные встречи дискуссионной группы по ML, AI и technical safety. Мы ищем статьи, которые что-то значат для области, чтобы их обсудить и попытаться понять и их смысл, и их роль.

На этой неделе читаем:

1️⃣ Reward Is Not the Optimization Target - общетеоретическое заявление о довольно важной динамике RL: заданная нами функция вознаграждения не есть преследуемая обученным агентом функция даже в достаточно идеальном случае.
2️⃣ Rethinking Reward Model Evaluation: Are We Barking up the Wrong Tree? - современный анализ схожего эффекта: авторы анализируют динамику конкретно RLHF-подобных методов.

Чтобы поучаствовать во встрече, нужно: 
⭕️прочитать статью,
⭕️прийти и обсудить прочитанное.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

На этой неделе в Моноиде:

• Понедельник 06.10 — Коворкинг 🖥️
• Среда 08.10 — Киноклуб-дискуссия о AI Safety 🆓
• Четверг 09.10 — Коворкинг 🖥️
• Пятница 10.10 — Новости ML, AI и technical safety 🆓
• Суббота 11.10 — Лекция "Автоматизация нетворкинга" 🆓
• Воскресенье 12.10 — Доклад "Основные идеи SLT" 🆓

🖥️ - Стоимость по тарифам коворкинга
🆓 - Вход бесплатный


🌍 Подробные описания мероприятий и тарифы доступны на сайте
📍 Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Киноклуб с дискуссией про AI Safety

📅 Когда: 18:00, 8 октября (среда)
📍 Где: Москва, ЦДО «Моноид»
🎙️ Организатор: Анна Самина
🆓 Стоимость: бесплатно

О мероприятии:
Смотрим короткие видео про безопасность ИИ, обсуждаем идеи и делимся своими мыслями.

Атмосфера: пофилософствовать с попкорном в руках

Что смотрим:
🔘 Award-Winning Short Film on Superintelligence (2024)
🔘 When will AI automate all mental work, and how fast?
🔘 How to Align AI: Put It in a Sandwich

Q: Я первый раз слышу про сейфети. Мне можно прийти?
A: Нужно. Именно на новичков этот формат и ориентирован.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Автоматизация нетворкинга
Лекция в рамках стажировки

📅 Когда: 11 октября (суббота) в 17:00
📍 Где: Москва, ЦДО «Моноид»
🎙️ Спикер: Арина Забелина
💰 Стоимость: по тарифам коворкинга

О чем:
О том, как конвертировать рукопожатия в знакомства, а знакомства -- в связи. Способы начать нетворкинг, найти удобный подход и поставить на конвеер.

Ни слова про душевное тепло, сколько-то слов про социальные механики.


Что будет:
🔘Краткая инструкция к созданию CRM для знакомств
🔘N приёмов, которые почему-то считаются грязными вне корпоративного мира
🔘Cсылки на людей, которые расскажут похожие вещи ещё лучше


📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Основные идеи SLT: как и зачем измерять сложность модели
Отчетный доклад в рамках стажировки

📅 Когда: 12 октября (воскресенье) в 18:00
📍 Где: Москва, ЦДО «Моноид»
🎙️ Спикер: Слава Меритон
🆓 Стоимость: бесплатно

О чем:
Singular Learning Theory (SLT) говорит, что количество параметров не показывает настоящую сложность модели. Вместо этого она предлагает искать другие, более точные способы измерять эту сложность.

🔘Что мы понимаем под сложностью модели, и зачем ее измерять?
🔘Почему большие модели не всегда «сложнее»?
🔘Как связаны байесовская перспектива, сложность модели и ее обучение?
🔘Что это значит для анализа и интерпретации нейросетей?

Доклад задуман как краткое и ориентированное на непрофессионалов объяснение базовых идей SLT.

Что будет:
🔘Общий обзор того, какие существуют подходы к измерению сложности.
🔘Пересказ статьи из программы стажировки: You’re Measuring Model Complexity Wrong.
🔘Обсуждение.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

На этой неделе в Моноиде:

• Понедельник 13.10 — Коворкинг🖥️
• Среда 15.10 — Киноклуб 🆓
• Четверг 16.10 — Коворкинг 🖥️
• Пятница 17.10 — Новости ML, AI и technical safety 🆓
• Суббота 18.10 — Доклад "Мой опыт ML4Good" 🆓
• Воскресенье 19.10 — Интенсив "Основы LLM: как работают языковые модели" 💰

🖥️ - Стоимость по тарифам коворкинга
🆓 - Вход бесплатный
💰- Мероприятие платное


🌍 Подробные описания мероприятий и тарифы доступны на сайте
📍 Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Основы LLM: как работают языковые модели

📅 Когда: 19.10, 14:00–21:00
🎙️ Преподаватель: Олег Лариков
📍 Где: Москва, ЦДО «Моноид»
💰 Стоимость: 4000 ₽ (базовая), 2000 ₽ (по абонементу), бесплатно — для участников/выпускников

🔗 Купить билет на интенсив и найти подробную информацию можно на нашем сайте

Большие языковые модели повсюду. Вы спрашиваете их совета, они пишут ваш код, формулируют письма, решают задачи и даже философствуют о смысле жизни. Но как это вообще возможно? Как они работают?

На этом интенсиве мы разберёмся, что такое LLM и почему они перевернули мир технологий:

1️⃣Принцип «предсказания следующего слова»:
⭕️Как из “угадывания слова за словом” появляются осмысленные тексты.
⭕️Базовые замечания о корреляции букв в языке на глубину (Шеннон) и свойства текста
2️⃣Как LLM “думает”:
⭕️Рекуррентные сети и внимание
⭕️Задача интерпретации: в поисках логики модели
⭕️Уверенность LLM: статистическая вероятность против фактов
3️⃣Промптинг LLM:
⭕️Как продолжение текста превращается в диалог с вопросами и ответами?
⭕️Что такое цепочка мыслей chain-of-thought?
⭕️Персоны, рассуждения
4️⃣Что именно LLM делает "не так”?
⭕️Какие задачи можно и нельзя ей решать?
⭕️Подхалимство: почему модель (почти) всегда будет соглашаться

📌 Что нужно знать заранее:
Мы не ждём, что вы разбираетесь в машинном обучении. Если вы знаете, что вообще такое функции, переменные и векторы — этого более чем достаточно.

Для кого этот интенсив:
🔘Для тех, кто планирует изучать безопасность ИИ, но не имеет технической подготовки.
🔘Для тех, кто хочет перестать бояться терминов вроде «трансформер», «векторизация» и «контекстное окно».
🔘Для всех, кто интересуется языковыми моделями, но не готов погружаться в сложные математические детали.

Что взять с собой:
Ноутбук с доступом к любой LLM

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Фокус-группа по концептуальному AI Safety

📅 Когда: с 18 октября
📍 Где: Москва, ЦДО «Моноид»

Моноид набирает волонтеров в фокус группу на новый курс "Основы концептуального AI Safety".
Формат: цикл очных встреч по субботам. Каждая встреча длится примерно 3 часа.

Мы исследуем, как разные способы смотреть на проблему — влияют на то, что мы вообще считаем “понятным". И как думать про проблему на уровне теории, чтобы ставить и решать прикладные задачи в области AI Safety.

Темы:
⭕️ как разные адженды смотрят на задачу AI Safety
⭕️ что значит "задать цель ИИ"
⭕️ как формализуются предпочтения людей
⭕️ как применять эти модели к реально существующим нейросеткам
⭕️ какие со всем этим есть проблемы и как увязать это все в единую теорию

Что будет на встречах:
Авторы делятся идеями из курса. Участники — исследуют теорию на прочность, задают вопросы, и вместе разбираем кейсы, чтобы найти, где теория расходится с практикой.
Цель: Проверить жизнеспособность новых фреймов и обсудить концептуальные проблемы Safety.

Кого мы ищем:
⭕️ в первую очередь мы ждем тех, кто хочет изучить новые теоретические модели и проанализировать современные системы в терминах этих моделей
⭕️ мы будем рады людям с опытом в AI Safety, но ожидаем что глубокое знание области не обязательно — один из запросов к фокус группе это отметить все, что было непонятно и на какой вопрос вы не получили ответ
⭕️ специальных требований к техническому\математическому бекграунду нет, важно желание и умение рассуждать из первых принципов

🔗 Как попасть: присоединиться к чату

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Новости ML, AI и technical safety

📅 Когда: 17 октября (и каждую пятницу)
⏰ Время: 20:00
📍 Где: Москва, ЦДО «Моноид»
💰 Стоимость: бесплатно

Это регулярные встречи дискуссионной группы по ML, AI и technical safety. Мы ищем статьи, которые что-то значат для области, чтобы их обсудить и попытаться понять и их смысл, и их роль.

На этой неделе читаем:

1️⃣ Corrigibility - пример концептуального подхода к проблеме, в данном случае к проблеме корректируемости: как должен, математически, выглядеть некоторый абстрактный агент, который принимает коррекцию своего поведения от внешнего источника?
2️⃣ Fast Adversarial Attacks on Language Models In One GPU Minute - статья об атаках на LLM, математическое/алгоритмическое представление "джейлбрейка".

Чтобы поучаствовать во встрече, нужно: 
⭕️прочитать статью,
⭕️прийти и обсудить прочитанное.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Киноклуб с дискуссией про AI Safety

📅 Когда: 17:00, 15 октября
📍 Где: Москва, ЦДО «Моноид»
🎙️ Организатор: Крупнина Анастасия
🆓 Стоимость: бесплатно

О мероприятии:
Смотрим короткие видео про безопасность ИИ, обсуждаем идеи и делимся своими мыслями.

Атмосфера: пофилософствовать с попкорном в руках

Что смотрим:

🔘Why Not Just: Raise AI Like Kids?
🔘Intelligence and Stupidity: The Orthogonality Thesis
🔘When will AI automate all mental work, and how fast?
🔘A.I. - Humanity's Final Invention?

Q: Я первый раз слышу про сейфети. Мне можно прийти?
A: Нужно. Именно на новичков этот формат и ориентирован.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Доклад "Мой опыт ML4Good"
Отчетный доклад в рамках стажировки

📅 Когда: 18 октября (суббота) в 18:00
🎙️ Спикер: Роман Малов
📍 Где: Москва, ЦДО «Моноид»
🆓 Стоимость: бесплатно

О чем:
ML4Good — неделя интенсивных занятий, посвящённая безопасности искусственного интеллекта. Программа охватывает как современные технологии и методы, так и обсуждение ближайшего будущего и стратегий его развития.

Вы узнаете, что там происходит, что из него вынес спикер, и сформируете мнение, нужно ли вам туда.

Что будет:
🔘Обзор структуры и тем буткемпа.
🔘Краткие обзоры наиболее интересных лекций и статей — от интерпретируемости моделей до форкастов и планов по сверхинтеллекту.
🔘Обсуждение впечатлений и рекомендаций для будущих участников.

📍Адрес: Ломоносовский проспект, 25к3. По вопросам прохода на территорию — пишите @MonoidAdmin.