Новости ML, AI и technical safety

📅Когда: 29 августа (и каждую пятницу)
⏰Время: 20:00
📍Где: Москва, ЦДО «Моноид»
💰Стоимость: бесплатно

Это регулярные встречи дискуссионной группы по ML, AI и technical safety. Мы ищем статьи, которые что-то значат для области, чтобы их обсудить и попытаться понять и их смысл, и их роль.

На этой неделе читаем:

1️⃣ A Theory of Deep Learning Must Include Compositional Sparsity - в статье излагается гипотеза о причинах эффективной работы глубоких сетей - выучиваемые функции принадлежат определённому, довольно специфичному классу, допускающему и эффективное вычисление и обучение.

2️⃣ Risks from Learned Optimization in Advanced Machine Learning Systems - классическая статья, излагающая гипотетическую концепцию меса-оптимизаторов как артефактов обучения и сценариев, в которых они приводят к нежелательным результатам обучения.

Чтобы поучаствовать во встрече, нужно: 
⭕️прочитать статью,
⭕️прийти и обсудить прочитанное.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

На этой неделе в Моноиде:

• Понедельник 01.09 — Коворкинг 🖥️
• Среда 03.09 — Коворкинг 🖥️
• Пятница 05.09 — Новости ML, AI и technical safety 🏷️
• Суббота 06.09 — Коворкинг 🖥️
• Воскресенье 07.09 —Доклад: основы менеджмента по Гроуву. Что такое рычажное действие? 🏷️

🖥️ - Стоимость по тарифам коворкинга
🏷️ - Вход бесплатный
💰 - Мероприятие платное

🌍 Подробные описания мероприятий и тарифы доступны на сайте
📍 Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Новости ML, AI и technical safety

📅 Когда: 5 сентября (и каждую пятницу)
⏰ Время: 20:00
📍 Где: Москва, ЦДО «Моноид»
💰 Стоимость: бесплатно

Это регулярные встречи дискуссионной группы по ML, AI и technical safety. Мы ищем статьи, которые что-то значат для области, чтобы их обсудить и попытаться понять и их смысл, и их роль.

На этой неделе читаем:

1️⃣ Explaining and Harnessing Adversarial Examples - о намеренном введении нейросетей в заблуждение, как и почему это работает. По меркам отрасли статья древняя (2014!), но высказанные высокоуровневые соображения остаются актуальными по сей день.

2️⃣ Alignment faking in large language models (внимание: основная статья 53 страницы, прочитайте заранее) - о реальных наблюдениях эффектов по мотивам Risks from learned optimization предыдущей недели. Какие реально наблюдаемые эффекты при обучении моделей выглядят как противостояние мета- и меса-оптимизатора, если рассматривать происходящее через эту призму?

Чтобы поучаствовать во встрече, нужно: 
⭕️прочитать статью,
⭕️прийти и обсудить прочитанное.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Основы менеджмента по Гроуву. Что такое рычажное действие?
Отчетный доклад в рамках стажировки

📅 Когда: 7 сентября (воскресенье) в 17:00
📍 Где: Москва, ЦДО «Моноид»
🎙️ Спикер: Арина Забелина
💰 Стоимость: по тарифам коворкинга

О чем:
Рычаг — способ за счёт небольших усилий двигать что-то большое. Рычажное воздействие в менеджменте — способность двигать большие процессы через работу с ключевыми элементами.

Энди Гроув, сооснователь Intel, считал, что суть управления заключается в поиске и применении таких «рычагов» — действий с максимальным коэффициентом полезности. На докладе обсудим ключевые концепции из его книги "высокоэффективный менеджмент" и примеры из реальных процессов.

Обсуждаемые вопросы:
🔘Как на самом деле измеряется вклад менеджера
🔘Действия с отрицательным рычагом — какие привычные задачи разрушают эффективность?
🔘Почему это звучит так похоже на EA Handbook?)

Что будет:
🔘Краткое изложение основных концепций книги "высокоэффективный менеджмент".
🔘Иллюстрации и примеры из разных отраслей.
🔘Обсуждение.


📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

На этой неделе в Моноиде:

• Понедельник 08.09 — Коворкинг 🖥️
• Среда 10.09 — Коворкинг 🖥️
• Четверг 11.09 — Коворкинг 🖥️
• Пятница 12.09 — Новости ML, AI и technical safety 🏷️
• Суббота 13.09 — Коворкинг 🖥️
• Воскресенье 14.09 — SSC / ACX митап 🏷️

🖥️ - Стоимость по тарифам коворкинга
🏷️ - Вход бесплатный
💰 - Мероприятие платное

🌍 Подробные описания мероприятий и тарифы доступны на сайте
📍 Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

✨ SSC / ACX митап в Москве
Slate Star Codex / Astral Codex Ten

📅 Когда: 14 сентября 2025 года, воскресенье, 16:00 - 21:00.
📍 Где: Москва, ЦДО «Моноид»
💰 Стоимость: бесплатно

Я могу прийти?
Да. Если вы видите это сообщение, значит вы приглашены. Не стесняйтесь приходить, даже если вы прочли не так много статей в блоге или это не совсем ваша специальность - главное это желание пообщаться с интересными людьми.

Что будет:
Общение и обсуждение постов Slate Star Codex / Astral Codex Ten / Less Wrong.

А поподробнее?
🔘Обсуждение постов Скотта Александра и не только;
🔘Общение с интересными людьми в уютном пространстве и с доступом к горячему чаю;
🔘Тихая комната чтобы восстановить силы;

Про что это все?
Скотт Александер — автор блогов Slate Star Codex и Astral Codex Ten.
Знакомство можно начать со следующих постов:
🔘Лирического Богиня всего остального
🔘Технического Частые вопросы о консеквенциализме
🔘Важного Прививка от сомнений
🔘Монументального Размышления о Молохе
🔘Воодушевляющего Слова Идолов
🔘Мотивирующего Жизнь коротка, искусство вечно

По вопросам организации: чат.
По разным вопросам: @red_hara, @sciuru, @Gwinyster

Коротко о правилах:
🔘Не приходим если болеем ОРВИ или любыми другими заболеваниями, передающимися воздушно-капельным путем;
🔘Соблюдаем все остальные правила пространства

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Новости ML, AI и technical safety

📅 Когда: 12 сентября (и каждую пятницу)
⏰ Время: 20:00
📍 Где: Москва, ЦДО «Моноид»
💰 Стоимость: бесплатно

Это регулярные встречи дискуссионной группы по ML, AI и technical safety. Мы ищем статьи, которые что-то значат для области, чтобы их обсудить и попытаться понять и их смысл, и их роль.

На этой неделе читаем:

1️⃣Testing The Natural Abstraction Hypothesis: Project Intro - программная статья Johns Wentworth о гипотетическом подходе к согласованию ИИ.
2️⃣Optimizers Qualitatively Alter Solutions And We Should Leverage This - если в прошлый раз мы смотрели статью Anthropic, в этот раз будет Google DeepMind: альтернативный взгляд на динамику процесса обучения.

Чтобы поучаствовать во встрече, нужно: 
⭕️прочитать статью,
⭕️прийти и обсудить прочитанное.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Знакомство с AI safety по роликам Роба Майлза
Киноклуб, дискуссии, нетворкинг

📅 Когда: 17:00, 17 сентября (среда)
📍 Где: Москва, ЦДО «Моноид»
🎙️ Организатор: Анна Самина
💰 Стоимость: бесплатно

О мероприятии:
Смотрим короткие видео про безопасность ИИ от Роба Майлза, обсуждаем идеи и делимся мыслями.

Атмосфера: пофилософствовать с попкорном в руках

Что смотрим:
🔘10 Reasons to Ignore AI Safety
🔘9 Examples of Specification Gaming
🔘Tech is Good, AI Will Be Different

Q: Я первый раз слышу про сейфети. Мне можно прийти?
A: Нужно. Именно на новичков этот формат и ориентирован.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

На этой неделе в Моноиде:

• Понедельник 15.09 — Коворкинг 🖥️
• Среда 17.09 — Знакомство с AI safety по роликам Роба Майлза 🏷️
• Четверг 18.09 — Коворкинг 🖥️
• Пятница 19.09 — Новости ML, AI и technical safety 🏷️
• Суббота 20.09 — Коворкинг 🖥️
• Воскресенье 21.09 — Коворкинг 🖥️

🖥️ - Стоимость по тарифам коворкинга
🏷️ - Вход бесплатный

🌍 Подробные описания мероприятий и тарифы доступны на сайте
📍 Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Новости ML, AI и technical safety

📅 Когда: 19 сентября (и каждую пятницу)
⏰ Время: 20:00
📍 Где: Москва, ЦДО «Моноид»
💰 Стоимость: бесплатно

Это регулярные встречи дискуссионной группы по ML, AI и technical safety. Мы ищем статьи, которые что-то значат для области, чтобы их обсудить и попытаться понять и их смысл, и их роль.

На этой неделе читаем:

1️⃣ Concrete Problems in AI Safety - обзор проблем безопасности с практическим прицелом, в противоположность более теоретическим построениям Хубингера или Уэнтворса. Рекомендуется сравнить этот прогноз девятилетней давности с текущим состоянием.
2️⃣ Mechanistic Interpretability for AI Safety -- A Review - мы достаточно много поминаем mech-interp на обсуждениях, но до жирафа дошло, что собственно статей о нём мы не брали. Обзор суммирует разные результаты и подходы; на стр. 32 есть забавный словарик терминов.

Чтобы поучаствовать во встрече, нужно: 
⭕️прочитать статью,
⭕️прийти и обсудить прочитанное.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

На этой неделе в Моноиде:

• Понедельник 22.09 — Коворкинг 🖥️
• Среда 24.09 — Коворкинг 🖥️
• Четверг 25.09 — Знакомство с AI safety по роликам Роба Майлза 🏷️
• Пятница 26.09 — Новости ML, AI и technical safety 🏷️
• Суббота 27.09 — Знакомство с AI safety по роликам Роба Майлза 🏷️
• Воскресенье 28.09 — Коворкинг 🖥️

🖥️ - Стоимость по тарифам коворкинга
🏷️ - Вход бесплатный

🌍 Подробные описания мероприятий и тарифы доступны на сайте
📍 Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Новости ML, AI и technical safety

📅 Когда: 26 сентября (и каждую пятницу)
⏰ Время: 20:00
📍 Где: Москва, ЦДО «Моноид»
💰 Стоимость: бесплатно

Это регулярные встречи дискуссионной группы по ML, AI и technical safety. Мы ищем статьи, которые что-то значат для области, чтобы их обсудить и попытаться понять и их смысл, и их роль.

На этой неделе читаем:

1️⃣ AI safety via debate - вариант реализации “Scalable oversight”, о котором мы немного говорили в прошлый раз: идея использования пары ИИ для достижения более устойчивых и безопасных результатов, которая продолжает звучать в разных вариациях.
2️⃣ Super Co-alignment of Human and AI for Sustainable Symbiotic Society - недавний взгляд на задачу согласования (под вывеской “Superalignment”, потому что у слов тоже есть инфляция), который в том числе ставит под сомнение работоспособность подхода первой статьи.

Чтобы поучаствовать во встрече, нужно: 
⭕️прочитать статью,
⭕️прийти и обсудить прочитанное.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Продолжаем знакомство с AI safety по роликам Роба Майлза
Киноклуб, дискуссии, нетворкинг

📅 Когда: 17:00, 27 сентября (суббота)
📍 Где: Москва, ЦДО «Моноид»
🎙️ Организатор: Анна Самина
💰 Стоимость: бесплатно

О мероприятии:
Смотрим короткие видео про безопасность ИИ от Роба Майлза, обсуждаем идеи и делимся мыслями.

Атмосфера: неформальные разговоры и философия с попкорном.

Что смотрим:
🔘Why Would AI Want to do Bad Things? Instrumental Convergence
🔘Why Does AI Lie, and What Can We Do About It?
🔘The OTHER AI Alignment Problem: Mesa-Optimizers and Inner Alignment

Q: Я не был(а) на первой встрече. Смогу понять?
A: Конечно. Каждое видео самостоятельное — можно присоединиться, когда удобно

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Evals: оценки прогресса и прогресс оценок ИИ.
Лекция в рамках программы стажировки

📅 Когда: 28 сентября (воскресенье)
⏰ Время: 18:00
📍 Где: Москва, ЦДО «Моноид»
🎙️ Спикер: Олег Лариков
💰 Стоимость: бесплатно

Как осмысленно измерять производительность больших языковых моделей, если они постоянно меняются? Что отличает надежный метод оценки от посредственного? Что именно делает задачу сложной? На лекции поговорим о субъективности оценок, о том, как оценивают творческие задачи, и что делать с быстрым устареванием тестов.

Основные вопросы:
Это лекция о проблемах осмысленного измерения быстро меняющегося процесса:

🔘 Что мы измеряем? Подходы к определению и измерению абстрактного понятия "качества" у языковых моделей.
🔘 К чему приводят ошибки? Риски, связанные с плохими метриками и их последствия.
🔘 Почему это так сложно? Вызовы и уникальные проблемы в оценке LLM.

Зачем приходить:
🔘познакомиться с темой мета-анализа ИИ-технологий.
🔘разобраться подробнее, что делают Anthropic и METR.

📍 Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

На этой неделе в Моноиде:

• Понедельник 29.09 — Коворкинг 🖥️
• Среда 01.10 — Коворкинг 🖥️
• Четверг 02.10 — Знакомство с AI safety по роликам Роба Майлза 🏷️
• Пятница 03.10 — Новости ML, AI и technical safety 🏷️
• Суббота 04.10 — Один интеллект хорошо, а два - лучше 💰
• Воскресенье 05.10 — Коворкинг 🖥️

🖥️ - Стоимость по тарифам коворкинга
🏷️ - Вход бесплатный
💰 - Мероприятие платное

🌍 Подробные описания мероприятий и тарифы доступны на сайте
📍 Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Продолжаем знакомство с AI safety по роликам Роба Майлза
Киноклуб, дискуссии, нетворкинг

📅 Когда: 17:00, 2 октября (четверг)
📍 Где: Москва, ЦДО «Моноид»
🎙️ Организатор: Арина Забелина
🆓 Стоимость: бесплатно

О мероприятии:
Смотрим короткие видео про безопасность ИИ от Роба Майлза, обсуждаем идеи и делимся мыслями.

Атмосфера: неформальные разговоры и философия с попкорном.

Что смотрим:
🔘 Intelligence and Stupidity: The Orthogonality Thesis
🔘 Goal Misgeneralization: How a Tiny Change Could End Everything
🔘 Quantilizers: AI That Doesn't Try Too Hard

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Новости ML, AI и technical safety

📅 Когда: 3 октября (и каждую пятницу)
⏰ Время: 20:00
📍 Где: Москва, ЦДО «Моноид»
💰 Стоимость: бесплатно

Это регулярные встречи дискуссионной группы по ML, AI и technical safety. Мы ищем статьи, которые что-то значат для области, чтобы их обсудить и попытаться понять и их смысл, и их роль.

На этой неделе читаем:

1️⃣ Optimal Policies Tend to Seek Power - попытка математического описания естественных аттракторов агентов: почему в достаточно неопределённом мире широкий диапазон целей может приводить к схожим промежуточным действиям;
2️⃣ Frontier Models are Capable of In-context Scheming - о практических проблемах ограничения ИИ-агентов, включая их способность игнорировать поставленные временные рамки и ломать ограничивающие механизмы.

Чтобы поучаствовать во встрече, нужно: 
⭕️прочитать статью,
⭕️прийти и обсудить прочитанное.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Один интеллект хорошо, а два - лучше.
Мастер-класс по развитию эмоционального интеллекта

📅 Дата: 4 октября (суббота)
⏰ Время: 18.00
📍 Где: Москва, ЦДО «Моноид»
🎙️ Ведущая: Ольга Мо
💰 Стоимость: 2500р (оплата онлайн или при посещении)

Речь идет об эмоциональном интеллекте (а не искусственном, как можно было подумать). У нас в гостях Ольга Мо. Рационалистка, фасилитатор и коуч ННО. Соавтор проекта "Игропрактики". Блог с анонсами ее проектов: тут.

Передаем ей слово:

Вместо противопоставления одного типа интеллекта другому (разумные мысли - мешающие чувства) я предлагаю объединять и взаимно усиливать их. Задаваться вопросами о природе эмоций, отслеживать причины их вызывающие (и нет, это не другие люди и их поступки, хотя легко так думать в отсутствии понятных моделей).

На мастер-классе
Рассмотрим ваши эмоции как реакции, порождающие цепочки телесных и ментальных откликов. И зададимся вопросом, что с ними делать.

Для этого вы:
1) Найдете у себя в теле эмоции
2) Определите ключевой паттерн их работы
3) Узнаете способы на него влиять
4) Профит!

Хорошая модель своей эмоциональной сферы помогает:
🔘Принимать уверенные решения
🔘Строить желанные планы
🔘Получать больше удовольствия от жизни

А еще понимание самого себя (а, так вот почему я так делаю) и, в конечном итоге, ведет к пониманию других (а, так вот почему они так делают). Это кропотливая работа над собой. И с самим собой. Предлагаю заняться ей с моей помощью.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

LLM Steering 2025: Дружеский хакатон по промпт-инжинирингу

📅 Когда: 24-26 октября
📍 Где: Онлайн + Москва, ЦДО «Моноид»
💰 Стоимость: бесплатно

LLM Steering (направленное управление моделью) — это базовый навык для оценки моделей (evals) и, главное, для решения реальных задач с LLM. Мы считаем, что навыки развиваются практикой, поэтому делаем хакатон с фокусом на обучение и кооперацию.

Про что кейсы?
Хакатон предполагает несколько направлений, из которых участники смогут выбрать кейс подходящей тематики и уровня сложности. Будут охвачены:
🔘базовые методы промпт-инжиниринга,
🔘стилистическое управление генерацией контента,
🔘генерация и проверка кода,
🔘извлечение, структурирование и верификация данных,
🔘поиск уязвимостей, ограничений и нетипичных поведенческих сценариев моделей.

Образовательная программа:
Предварительно к хакатону будут проведены опциональные лекции и воркшопы по темам:
🔘методы промпт-инжиниринга,
🔘основы jailbreak-техник и AI Safety,
🔘оформление pitch-презентаций для проектов.

Что значит дружеский хакатон?
Все, кто сдаст рабочее решение по критериям, попадают в список победителей и получают призы.
Нет крупных денежных призов, только полезные ресурсы и сувениры от ЦДО «Моноид».

Зачем участвовать:
Этот опыт полезен для тех, кто хочет построить карьеру в этой области, а также для:
🔘освоения прикладных методов работы с LLM на реальных задачах,
🔘понимания ограничений и сильных сторон моделей,
🔘формирования портфолио и исследовательских идей.

Спец-номинации:
🔘«AI Safety релевантный проект»
🔘«Проект на сопровождение»

Подробнее: тут
Регистрация: тут

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Новости ML, AI и technical safety

📅 Когда: 10 октября (и каждую пятницу)
⏰ Время: 20:00
📍 Где: Москва, ЦДО «Моноид»
💰 Стоимость: бесплатно

Это регулярные встречи дискуссионной группы по ML, AI и technical safety. Мы ищем статьи, которые что-то значат для области, чтобы их обсудить и попытаться понять и их смысл, и их роль.

На этой неделе читаем:

1️⃣ Reward Is Not the Optimization Target - общетеоретическое заявление о довольно важной динамике RL: заданная нами функция вознаграждения не есть преследуемая обученным агентом функция даже в достаточно идеальном случае.
2️⃣ Rethinking Reward Model Evaluation: Are We Barking up the Wrong Tree? - современный анализ схожего эффекта: авторы анализируют динамику конкретно RLHF-подобных методов.

Чтобы поучаствовать во встрече, нужно: 
⭕️прочитать статью,
⭕️прийти и обсудить прочитанное.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

На этой неделе в Моноиде:

• Понедельник 06.10 — Коворкинг 🖥️
• Среда 08.10 — Киноклуб-дискуссия о AI Safety 🆓
• Четверг 09.10 — Коворкинг 🖥️
• Пятница 10.10 — Новости ML, AI и technical safety 🆓
• Суббота 11.10 — Лекция "Автоматизация нетворкинга" 🆓
• Воскресенье 12.10 — Доклад "Основные идеи SLT" 🆓

🖥️ - Стоимость по тарифам коворкинга
🆓 - Вход бесплатный


🌍 Подробные описания мероприятий и тарифы доступны на сайте
📍 Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin