Новости ML, AI и technical safety

📅 Когда: 19:30, 21 ноября (и каждую пятницу)
🎙️ Ведущий: Олег Лариков
📍 Где: Москва, ЦДО «Моноид»
💰 Стоимость: бесплатно

Это регулярные встречи дискуссионной группы по ML, AI и technical safety. Мы ищем статьи, которые что-то значат для области, чтобы их обсудить и попытаться понять и их смысл, и их роль.

На этой неделе читаем:

1️⃣ The Reversal Curse: LLMs trained on "A is B" fail to learn "B is A" - мы уже немного говорили об этом странном эффекте (применительно к ROME), статья разбирает его подробнее.
2️⃣ Pre-training under infinite compute - теоретическая работа, вдохновлённая вопросом "что делать, если тексты кончились, а компьют остался". Для контраста рекомендую освежить в памяти (или прочитать, если ещё не) The Bitter Lesson.

Чтобы поучаствовать во встрече, нужно: 
⭕️прочитать статью,
⭕️прийти и обсудить прочитанное.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Киноклуб с дискуссией про AI Safety

📅 Когда: 19:00, 20 ноября
📍 Где: Москва, ЦДО «Моноид»
🎙️ Организатор: Самина Анна
🆓 Стоимость: бесплатно

О мероприятии:
Смотрим короткие видео про безопасность ИИ, обсуждаем идеи и делимся своими мыслями.

Атмосфера: пофилософствовать с попкорном в руках

Что смотрим:

🔘Sorting Pebbles Into Correct Heaps
🔘Avoiding Negative Side Effects: Concrete Problems in AI Safety
🔘Training AI Withou Writing A Reward Function, with Reward Modelling

Q: Я первый раз слышу про сейфети. Мне можно прийти?
A: Нужно. Именно на новичков этот формат и ориентирован.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

• Понедельник 24.11 — Коворкинг 🖥️
• Вторник 25.11 — Коворкинг 🖥️
• Среда 26.11 — Киноклуб 🆓
• Четверг 27.11 — Коворкинг 🖥️
• Пятница 28.11 — Новости ML, AI и technical safety 🆓
• Суббота 29.11 — Фокус группа по концептуальному safety 🆓
• Воскресенье 30.11 — Коворкинг 🖥️

🖥️ - Стоимость по тарифам коворкинга
🆓 - Вход бесплатный

🌍 Подробные описания мероприятий и тарифы доступны на сайте
📍 Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Киноклуб с дискуссией про AI Safety

📅 Когда: 19:00, 26 ноября
📍 Где: Москва, ЦДО «Моноид»
🎙️ Организатор: Крупнина Анастасия
🆓 Стоимость: бесплатно

О мероприятии:
Смотрим короткие видео про безопасность ИИ, обсуждаем идеи и делимся своими мыслями.

Атмосфера: пофилософствовать с попкорном в руках

Что смотрим:

🔘Sorting Pebbles Into Correct Heaps
🔘Avoiding Negative Side Effects: Concrete Problems in AI Safety
🔘Training AI Withou Writing A Reward Function, with Reward Modelling

Q: Я первый раз слышу про сейфети. Мне можно прийти?
A: Нужно. Именно на новичков этот формат и ориентирован.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Финальная встреча фокус-группы!

📅 Когда: 17.00, 29 ноября
📍 Где: Москва, ЦДО «Моноид»
🆓 Стоимость: бесплатно

Представляем содержание трёх частей курса «Модели и концепции в AI safety».

Расскажем:
🔘Какие темы вошли в структуру курса,
🔘Почему именно они и в этом порядке,
🔘Что вы сможете применять в своих проектах после прохождения курса.

Даже если вы не были ни на одной встрече, приходите, посмотрите на обзор всего курса, задайте вопросы авторам.

Чтобы поучаствовать во встрече, нужно:
🔘интересоваться AI safety
🔘прийти в субботу в «Моноид»

Эта встреча подводит итог лекционному формату фокус-группы. Но мы не прощаемся, в следующем году будет работа с кейсами. Оставайтесь с нами!

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Новости ML, AI и technical safety

📅 Когда: 20:00, 28 ноября (и каждую пятницу)
🎙️ Ведущий: Олег Лариков
📍 Где: Москва, ЦДО «Моноид»
💰 Стоимость: бесплатно

Это регулярные встречи дискуссионной группы по ML, AI и technical safety. Мы ищем статьи, которые что-то значат для области, чтобы их обсудить и попытаться понять и их смысл, и их роль.

На этой неделе читаем:

1️⃣ Emergent Misalignment: Narrow finetuning can produce broadly misaligned LLMs (начало 2025) + From shortcuts to sabotage: natural emergent misalignment from reward hacking (Anthropic, ноябрь 2025) - о забавном эффекте обобщения нежелательного поведения; мы уже довольно много говорили о первой статье, так что обсуждение будет скорее сфокусировано на второй.
2️⃣ Understanding neural networks through sparse circuits (OpenAI, ноябрь 2025) - заявка на альтернативный метод интерпретации конкретно трансформеров.

Чтобы поучаствовать во встрече, нужно: 
⭕️прочитать статьи,
⭕️прийти и обсудить прочитанное.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

• Понедельник 01.12 — Коворкинг 🖥️
• Вторник 02.12 — Коворкинг 🖥️
• Среда 03.12 — Киноклуб 🆓
• Четверг 04.12 — Коворкинг 🖥️
• Пятница 05.12 — Новости ML, AI и technical safety 🆓
• Суббота 06.12 — Закрыто 🚫
• Воскресенье 07.12 — Закрыто 🚫

🖥️ - Стоимость по тарифам коворкинга
🆓 - Вход бесплатный

🌍 Подробные описания мероприятий и тарифы доступны на сайте
📍 Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Киноклуб с дискуссией про AI Safety

📅 Когда: 19:00, 3 декабря
📍 Где: Москва, ЦДО «Моноид»
🎙️ Организатор: Самина Анна
🆓 Стоимость: бесплатно

О мероприятии:
Смотрим короткие видео про безопасность ИИ, обсуждаем идеи и делимся своими мыслями.

Атмосфера: пофилософствовать с попкорном в руках

Что смотрим:

🔘Sorting Pebbles Into Correct Heaps
🔘Avoiding Negative Side Effects: Concrete Problems in AI Safety
🔘Training AI Without Writing A Reward Function, with Reward Modelling

Q: Я первый раз слышу про сейфети. Мне можно прийти?
A: Нужно. Именно на новичков этот формат и ориентирован.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Новости ML, AI и technical safety

📅 Когда: 20:00, 5 декабря (и каждую пятницу)
🎙️ Ведущий: Олег Лариков
📍 Где: Москва, ЦДО «Моноид»
💰 Стоимость: бесплатно

Это регулярные встречи дискуссионной группы по ML, AI и technical safety. Мы ищем статьи, которые что-то значат для области, чтобы их обсудить и попытаться понять и их смысл, и их роль.

На этой неделе читаем:

1️⃣ Training Data Influence Analysis and Estimation: A Survey - статья о проблеме, о которой мы уже сколько-то говорили: как определить, какая часть обучающего корпуса ответственна за то или иное поведение модели.
2️⃣ Steering Evaluation-Aware Language Models to Act Like They Are Deployed - недавнее практическое обсуждение того, как при тестировании моделей создавать сценарии, которые бы не коммуницировали модели что это тестовый сценарий.

Чтобы поучаствовать во встрече, нужно: 
⭕️прочитать статьи,
⭕️прийти и обсудить прочитанное.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

• Понедельник 08.12 — Коворкинг 🖥️
• Вторник 09.12 — Коворкинг 🖥️
• Среда 10.12 — Киноклуб 🆓
• Четверг 11.12 — Коворкинг 🖥️
• Пятница 12.12 — Новости ML, AI и technical safety 🆓
• Суббота 13.12 — Коворкинг 🖥️
• Воскресенье 14.12 — Коворкинг 🖥️

🖥️ - Стоимость по тарифам коворкинга
🆓 - Вход бесплатный

🌍 Подробные описания мероприятий и тарифы доступны на сайте
📍 Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Киноклуб с дискуссией про AI Safety

📅 Когда: 19:00, 10 декабря
📍 Где: Москва, ЦДО «Моноид»
🎙️ Организатор: Крупнина Анастасия
🆓 Стоимость: бесплатно

О мероприятии:
Смотрим короткие видео про безопасность ИИ, обсуждаем идеи и делимся своими мыслями.

Атмосфера: пофилософствовать с попкорном в руках

Что смотрим:

🔘Как создать безопасный ИИ? #1 Нежелательные побочные эффекты
🔘What a 100-years-old horse teaches us about AI
🔘AI That Doesn’t Try Too Hard - Maximizers and Satisficers

Q: Я первый раз слышу про сейфети. Мне можно прийти?
A: Нужно. Именно на новичков этот формат и ориентирован.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Новости ML, AI и technical safety

📅 Когда: 20:00, 12 декабря (и каждую пятницу)
🎙️ Ведущий: Олег Лариков
📍 Где: Москва, ЦДО «Моноид»
💰 Стоимость: бесплатно

Это регулярные встречи дискуссионной группы по ML, AI и technical safety. Мы ищем статьи, которые что-то значат для области, чтобы их обсудить и попытаться понять и их смысл, и их роль.

На этой неделе читаем:

1️⃣ Specification gaming: the flip side of AI ingenuity - возвращаясь к "базовым" статьям, эта статья, кажется, определила использование самого термина specification gaming. Также есть обновляемый список примеров, рекомендую просмотреть его, может какой-то из них вызовет желание прочитать подробности.
2️⃣ Talking About Large Language Models - немного необычный жанр, рассмотрение того, как мы говорим об LLM и какие переносы интуиций с человеческого общения при этом допускаем.

Чтобы поучаствовать во встрече, нужно: 
⭕️прочитать статьи,
⭕️прийти и обсудить прочитанное.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

🐉 Зимнее светское рациональное солнцестояние 2025

📅 Когда: 17:00, 21 декабря (воскресенье)
📍 Где: Москва, ЦДО «Моноид»
💰 Стоимость: бесплатно

Рациональное солнцестояние — это светский праздник, во время которого люди, объединённые идеями гуманизма, прогресса и рациональности, собираются вместе, чтобы поделиться идеями и познакомится с новыми людьми.

Тема этого года: человеческие ценности. Как формируется то, что вызывает в нас восхищение?

Программа:
🔘Тематическая арка
🔘Доклады от участников
🔘Игра "Медианные миры", настолки, свободное общение

По традиции гости в костюмах приветствуются и получают небольшие сувениры!

Мы ждем вас на Зимнем Светском Рациональном Солнцестоянии 2025, чтобы поговорить о насущном, подумать о вечном, помечтать о стоящем и провести самую долгую ночь в хорошей компании.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Хотите сделать доклад или провести игру? Пишите сюда!

✨ Зимний вечер в Моноиде

📅 Когда: 27 декабря
⏰ Время: 16:00
📍 Где: Москва, ЦДО «Моноид»
💰 Стоимость: 1500₽, купить билет можно онлайн или на входе

Новогодние огоньки, запах елки и мандаринов, вкусная еда, много сладостей и никаких итогов уходящего года и планов на будущий. Вечер под девизом "Давайте (это все) после праздников, а сегодня просто отдохнем".

В программе:
🔘Тематический квест в пространстве
🔘Power-point party: вы знаете, что это за формат. И, если хотите выступить, мы вам рады!
🔘Нетворкинг зона: тут у нас (почти)структурированный нетворкинг, мандарины и шоколад
🔘Зона с настолки: Стратегические игры, игры на дедукцию, иманджинариум (+AI edition), шахматы, Эволюция, Нечто, Мафия и ещё больше 30 разных игр
🔘Chill out зона: тут можно смотреть новогодние короткометражки, лежа на подушках и трогая траву. Изредка перекидываясь фразами с теми, кто захотел ленности и уюта. А можно взять с полки книгу и с умным видом ее почитывать (или просто упасть в подушки и поспать)

✨ А еще у нас будет мастер-класс по новогоднему крафту.

И конечно, всех будут ждать подарки!

Волонтерские сборы: украшаем Моноид к зимним праздникам

Мы собираемся два раза, чтобы украсить Моноид по-зимнему:

🔘воскресенье, 14 декабря, 14:00 –18:00 и 17:00 – 21:00
на повестке дня: развесить лампочки, нарезать снежинки и подобрать мемы на стены

🔘среда, 17 декабря, 14:00 –18:00 и 17:00 – 21:00
на повестке дня: основные украшения: елка, окна, фотозоны.

Что за это будет:
По традиции — месяц коворкинга в Моноиде всем, кто помогал 4 часа и больше.

Если вам удобнее прийти не к началу смены или у вас есть вопросы, напишите Владу.

📍Адрес: Ломоносовский проспект, 25к3. По вопросам прохода на территорию — пишите @MonoidAdmin.

🐉 Один из наших преподавателей стал ментором в программе Sci.STEPS

Если вы планируете карьеру в области AI Safety, можно податься к Славе.

Программа в целом предлагает менторскую поддержку под широкий набор задач, связанных с научными и карьерными треками. Обязательных встреч с ментором немного: программа скорее про коммитмент и помощь в приоритизации. Подходит, например, если вам нужно податься в PhD или магистратуру, собрать нормальное резюме или наконец-то сесть за ресёрч, но оно всё откладывается.

📌 Подать заявку: тут
📌 Узнать подробнее: тут

Волонтерский сбор — украшаем Моноид к зимним праздникам
Часть первая: бесконечный поток снежинок.

📅 Когда: 14 декабря, 14:00 –18:00 и 17:00 – 21:00
📍 Где: Москва, ЦДО «Моноид»

Каждый год мы увеличиваем количество снежинок на наших стенах. В этом году мы решили добавить к количеству качество и сделать тематических снежинок.

А еще будем готовить мемы для размещения по стенам.

Как все устроено
🔘Работаем в две пересекающиеся смены — можно прийти к началу любой.
🔘Каждая смена длится 4 часа, с короткими перерывами на отдых и перекус.

🔘1 смена: 14:00 - 18:00
🔘2 смена: 17:00 - 21:00

Что за это будет:
По традиции — месяц коворкинга в Моноиде всем, кто помогал 4 часа и больше.

Если вам удобнее прийти не к началу смены или у вас есть вопросы, напишите Владу.

📍Адрес: Ломоносовский проспект, 25к3. По вопросам прохода на территорию — пишите @MonoidAdmin.

• Понедельник 15.12 — Коворкинг 🖥️
• Вторник 16.12 — Коворкинг 🖥️
• Среда 17.12 — Волонтерский сбор: украшаем Моноид к зимним праздникам ❄️
• Четверг 18.12 — Коворкинг 🖥️
• Пятница 19.12 — Коворкинг 🖥️
• Суббота 20.12 — Коворкинг 🖥️
• Воскресенье 21.12 — Зимнее светское рациональное солнцестояние 2025 ❄️

❄️ - Тематические мероприятия, вход свободный
🖥️ - Стоимость по тарифам коворкинга
🆓 - Вход бесплатный

🌍 Подробные описания мероприятий и тарифы доступны на сайте
📍 Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Волонтерский сбор — украшаем Моноид к зимним праздникам
Часть вторая: украшаем пространство.

📅 Когда: 17 декабря, 14:00 –18:00 и 17:00 – 21:00
📍 Где: Москва, ЦДО «Моноид»

Повесить кучу гирлянд, почти бесконечное число снежинок, разрисовать окна и украсить елку. Новогоднее настроение само себя не создаст... Нам нужны волонтеры!

Что будем делать:
🔘вешать гирлянды и елочные игрушки;
🔘клеить на стены снежинки;
🔘рисовать на окнах и создавать атмосферу.
🔘есть мандарины в промышленных масштабах и вайбить друг другу тем, что все обязательно будет хорошо!

Как все устроено
🔘Работаем в две пересекающиеся смены — можно прийти к началу любой.
🔘Каждая смена длится 4 часа, с короткими перерывами на отдых и перекус.

🔘1 смена: 14:00 - 18:00
🔘2 смена: 17:00 - 21:00

Что за это будет:
По традиции — месяц коворкинга в Моноиде всем, кто помогал 4 часа и больше.

Если вам удобнее прийти не к началу смены или у вас есть вопросы, напишите Владу.

📍Адрес: Ломоносовский проспект, 25к3. По вопросам прохода на территорию — пишите @MonoidAdmin.

🐉 21 декабря можно выступить с докладом на Светском Солнцестоянии (подробнее на сайте).

📝 Формат: 10-15 мин. В стиле ted. Можно со слайдами. Можно без. Можно с мемами. Можно без.

О чём можно сделать доклад:
В этом году мы хотим послушать о человеческих ценностях: общих и лично ваших. Можно рассказать о том, что вам кажется наиболее интересным и важным, будь то ценности сами по себе или то, что наиболее ценно вам прямо сейчас.

🧩 Энтомология, оперетта, резьба по яичной скорлупе, экстремальная утюжка белья — любые увлечения котируются, если вы готовы рассказать о них заразительно и страстно. Нам интересна феноменология удовольствия: расскажите не о том, что вам нравится, а почему и как. Попробуйте описать, как можно научиться испытывать удовольствие от конкретной вещи для тех, кто этого опыта не имел. Объясните, как именно нужно смотреть/думать/чувствовать, чтобы ваше любимое смогло стать стало хотя бы понятным, а в идеале — приятным и для остальных.

🧩 Увлечённому узкой темой человеку может казаться, что другим это будет неинтересно. Но чаще люди просто "не умеют их готовить", не знают, как настроить восприятие этой штуки на получение впечатления от неё. И пусть эти впечатления будут у каждого своими, и наверняка найдётся кто-то, кто не сможет испытать особых эмоций от того, что приносит вам восторг. Но большинство пока просто не знает. И им можно рассказать, это ведь так любопытно. А кому-то может оказаться и полезно.

📎 Готовы сделать доклад? Пишите сюда!

• Понедельник 22.12 — Коворкинг 🖥️
• Вторник 23.12 — Коворкинг 🖥️
• Среда 24.12 — Коворкинг 🖥️
• Четверг 25.12 — Коворкинг 🖥️
• Пятница 26.12 — Коворкинг 🖥️
• Суббота 27.12 — Зимний вечер в Моноиде 💰
• Воскресенье 28.12 — Коворкинг 🖥️

🖥️ - Стоимость по тарифам коворкинга
💰 - Мероприятие платное

🌍 Подробные описания мероприятий и тарифы доступны на сайте
📍 Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin