Киноклуб с дискуссией про AI Safety

📅 Когда: 19:00, 12 ноября
📍 Где: Москва, ЦДО «Моноид»
🎙️ Организатор: Самина Анна
🆓 Стоимость: бесплатно

О мероприятии:
Смотрим короткие видео про безопасность ИИ, обсуждаем идеи и делимся своими мыслями.

Атмосфера: пофилософствовать с попкорном в руках

Что смотрим:
🔘That alien message
🔘Specification Gaming: How Al Can Turn Your Wishes Against You
🔘AI Sleeper Agents: How Anthropic Trains and Catches Them

Q: Я первый раз слышу про сейфети. Мне можно прийти?
A: Нужно. Именно на новичков этот формат и ориентирован.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Новости ML, AI и technical safety

📅 Когда: 14 ноября (и каждую пятницу)
⏰ Время: 20:00
📍 Где: Москва, ЦДО «Моноид»
💰 Стоимость: бесплатно

Это регулярные встречи дискуссионной группы по ML, AI и technical safety. Мы ищем статьи, которые что-то значат для области, чтобы их обсудить и попытаться понять и их смысл, и их роль.

На этой неделе читаем:

1️⃣ Emergent World Representations: Exploring a Sequence Model Trained on a Synthetic Task - представитель семейства результатов интерпретации поведения нейросетей как создания моделей реальности (на встречах заходила речь о разных результатах из этого семейства, но пока не было отдельной статьи);
2️⃣ In-Context Learning Creates Task Vectors - попытка теоретического описания того, каким образом "in-context learning" оказывается именно learning.

Чтобы поучаствовать во встрече, нужно: 
⭕️прочитать статью,
⭕️прийти и обсудить прочитанное.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

• Понедельник 17.11 — Коворкинг 🖥️
• Вторник 18.11 — Коворкинг 🖥️
• Среда 19.11 — Коворкинг 🖥️
• Четверг 20.11 — Киноклуб 🆓
• Пятница 21.11 — Новости ML, AI и technical safety 🆓
• Суббота 22.11 — Фокус группа по концептуальному safety 🆓
• Воскресенье 23.11 — Коворкинг 🖥️

🖥️ - Стоимость по тарифам коворкинга
🆓 - Вход бесплатный

🌍 Подробные описания мероприятий и тарифы доступны на сайте
📍 Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Новости ML, AI и technical safety

📅 Когда: 19:30, 21 ноября (и каждую пятницу)
🎙️ Ведущий: Олег Лариков
📍 Где: Москва, ЦДО «Моноид»
💰 Стоимость: бесплатно

Это регулярные встречи дискуссионной группы по ML, AI и technical safety. Мы ищем статьи, которые что-то значат для области, чтобы их обсудить и попытаться понять и их смысл, и их роль.

На этой неделе читаем:

1️⃣ The Reversal Curse: LLMs trained on "A is B" fail to learn "B is A" - мы уже немного говорили об этом странном эффекте (применительно к ROME), статья разбирает его подробнее.
2️⃣ Pre-training under infinite compute - теоретическая работа, вдохновлённая вопросом "что делать, если тексты кончились, а компьют остался". Для контраста рекомендую освежить в памяти (или прочитать, если ещё не) The Bitter Lesson.

Чтобы поучаствовать во встрече, нужно: 
⭕️прочитать статью,
⭕️прийти и обсудить прочитанное.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Киноклуб с дискуссией про AI Safety

📅 Когда: 19:00, 20 ноября
📍 Где: Москва, ЦДО «Моноид»
🎙️ Организатор: Самина Анна
🆓 Стоимость: бесплатно

О мероприятии:
Смотрим короткие видео про безопасность ИИ, обсуждаем идеи и делимся своими мыслями.

Атмосфера: пофилософствовать с попкорном в руках

Что смотрим:

🔘Sorting Pebbles Into Correct Heaps
🔘Avoiding Negative Side Effects: Concrete Problems in AI Safety
🔘Training AI Withou Writing A Reward Function, with Reward Modelling

Q: Я первый раз слышу про сейфети. Мне можно прийти?
A: Нужно. Именно на новичков этот формат и ориентирован.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

• Понедельник 24.11 — Коворкинг 🖥️
• Вторник 25.11 — Коворкинг 🖥️
• Среда 26.11 — Киноклуб 🆓
• Четверг 27.11 — Коворкинг 🖥️
• Пятница 28.11 — Новости ML, AI и technical safety 🆓
• Суббота 29.11 — Фокус группа по концептуальному safety 🆓
• Воскресенье 30.11 — Коворкинг 🖥️

🖥️ - Стоимость по тарифам коворкинга
🆓 - Вход бесплатный

🌍 Подробные описания мероприятий и тарифы доступны на сайте
📍 Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Киноклуб с дискуссией про AI Safety

📅 Когда: 19:00, 26 ноября
📍 Где: Москва, ЦДО «Моноид»
🎙️ Организатор: Крупнина Анастасия
🆓 Стоимость: бесплатно

О мероприятии:
Смотрим короткие видео про безопасность ИИ, обсуждаем идеи и делимся своими мыслями.

Атмосфера: пофилософствовать с попкорном в руках

Что смотрим:

🔘Sorting Pebbles Into Correct Heaps
🔘Avoiding Negative Side Effects: Concrete Problems in AI Safety
🔘Training AI Withou Writing A Reward Function, with Reward Modelling

Q: Я первый раз слышу про сейфети. Мне можно прийти?
A: Нужно. Именно на новичков этот формат и ориентирован.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Финальная встреча фокус-группы!

📅 Когда: 17.00, 29 ноября
📍 Где: Москва, ЦДО «Моноид»
🆓 Стоимость: бесплатно

Представляем содержание трёх частей курса «Модели и концепции в AI safety».

Расскажем:
🔘Какие темы вошли в структуру курса,
🔘Почему именно они и в этом порядке,
🔘Что вы сможете применять в своих проектах после прохождения курса.

Даже если вы не были ни на одной встрече, приходите, посмотрите на обзор всего курса, задайте вопросы авторам.

Чтобы поучаствовать во встрече, нужно:
🔘интересоваться AI safety
🔘прийти в субботу в «Моноид»

Эта встреча подводит итог лекционному формату фокус-группы. Но мы не прощаемся, в следующем году будет работа с кейсами. Оставайтесь с нами!

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Новости ML, AI и technical safety

📅 Когда: 20:00, 28 ноября (и каждую пятницу)
🎙️ Ведущий: Олег Лариков
📍 Где: Москва, ЦДО «Моноид»
💰 Стоимость: бесплатно

Это регулярные встречи дискуссионной группы по ML, AI и technical safety. Мы ищем статьи, которые что-то значат для области, чтобы их обсудить и попытаться понять и их смысл, и их роль.

На этой неделе читаем:

1️⃣ Emergent Misalignment: Narrow finetuning can produce broadly misaligned LLMs (начало 2025) + From shortcuts to sabotage: natural emergent misalignment from reward hacking (Anthropic, ноябрь 2025) - о забавном эффекте обобщения нежелательного поведения; мы уже довольно много говорили о первой статье, так что обсуждение будет скорее сфокусировано на второй.
2️⃣ Understanding neural networks through sparse circuits (OpenAI, ноябрь 2025) - заявка на альтернативный метод интерпретации конкретно трансформеров.

Чтобы поучаствовать во встрече, нужно: 
⭕️прочитать статьи,
⭕️прийти и обсудить прочитанное.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

• Понедельник 01.12 — Коворкинг 🖥️
• Вторник 02.12 — Коворкинг 🖥️
• Среда 03.12 — Киноклуб 🆓
• Четверг 04.12 — Коворкинг 🖥️
• Пятница 05.12 — Новости ML, AI и technical safety 🆓
• Суббота 06.12 — Закрыто 🚫
• Воскресенье 07.12 — Закрыто 🚫

🖥️ - Стоимость по тарифам коворкинга
🆓 - Вход бесплатный

🌍 Подробные описания мероприятий и тарифы доступны на сайте
📍 Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Киноклуб с дискуссией про AI Safety

📅 Когда: 19:00, 3 декабря
📍 Где: Москва, ЦДО «Моноид»
🎙️ Организатор: Самина Анна
🆓 Стоимость: бесплатно

О мероприятии:
Смотрим короткие видео про безопасность ИИ, обсуждаем идеи и делимся своими мыслями.

Атмосфера: пофилософствовать с попкорном в руках

Что смотрим:

🔘Sorting Pebbles Into Correct Heaps
🔘Avoiding Negative Side Effects: Concrete Problems in AI Safety
🔘Training AI Without Writing A Reward Function, with Reward Modelling

Q: Я первый раз слышу про сейфети. Мне можно прийти?
A: Нужно. Именно на новичков этот формат и ориентирован.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Новости ML, AI и technical safety

📅 Когда: 20:00, 5 декабря (и каждую пятницу)
🎙️ Ведущий: Олег Лариков
📍 Где: Москва, ЦДО «Моноид»
💰 Стоимость: бесплатно

Это регулярные встречи дискуссионной группы по ML, AI и technical safety. Мы ищем статьи, которые что-то значат для области, чтобы их обсудить и попытаться понять и их смысл, и их роль.

На этой неделе читаем:

1️⃣ Training Data Influence Analysis and Estimation: A Survey - статья о проблеме, о которой мы уже сколько-то говорили: как определить, какая часть обучающего корпуса ответственна за то или иное поведение модели.
2️⃣ Steering Evaluation-Aware Language Models to Act Like They Are Deployed - недавнее практическое обсуждение того, как при тестировании моделей создавать сценарии, которые бы не коммуницировали модели что это тестовый сценарий.

Чтобы поучаствовать во встрече, нужно: 
⭕️прочитать статьи,
⭕️прийти и обсудить прочитанное.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

• Понедельник 08.12 — Коворкинг 🖥️
• Вторник 09.12 — Коворкинг 🖥️
• Среда 10.12 — Киноклуб 🆓
• Четверг 11.12 — Коворкинг 🖥️
• Пятница 12.12 — Новости ML, AI и technical safety 🆓
• Суббота 13.12 — Коворкинг 🖥️
• Воскресенье 14.12 — Коворкинг 🖥️

🖥️ - Стоимость по тарифам коворкинга
🆓 - Вход бесплатный

🌍 Подробные описания мероприятий и тарифы доступны на сайте
📍 Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Киноклуб с дискуссией про AI Safety

📅 Когда: 19:00, 10 декабря
📍 Где: Москва, ЦДО «Моноид»
🎙️ Организатор: Крупнина Анастасия
🆓 Стоимость: бесплатно

О мероприятии:
Смотрим короткие видео про безопасность ИИ, обсуждаем идеи и делимся своими мыслями.

Атмосфера: пофилософствовать с попкорном в руках

Что смотрим:

🔘Как создать безопасный ИИ? #1 Нежелательные побочные эффекты
🔘What a 100-years-old horse teaches us about AI
🔘AI That Doesn’t Try Too Hard - Maximizers and Satisficers

Q: Я первый раз слышу про сейфети. Мне можно прийти?
A: Нужно. Именно на новичков этот формат и ориентирован.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Новости ML, AI и technical safety

📅 Когда: 20:00, 12 декабря (и каждую пятницу)
🎙️ Ведущий: Олег Лариков
📍 Где: Москва, ЦДО «Моноид»
💰 Стоимость: бесплатно

Это регулярные встречи дискуссионной группы по ML, AI и technical safety. Мы ищем статьи, которые что-то значат для области, чтобы их обсудить и попытаться понять и их смысл, и их роль.

На этой неделе читаем:

1️⃣ Specification gaming: the flip side of AI ingenuity - возвращаясь к "базовым" статьям, эта статья, кажется, определила использование самого термина specification gaming. Также есть обновляемый список примеров, рекомендую просмотреть его, может какой-то из них вызовет желание прочитать подробности.
2️⃣ Talking About Large Language Models - немного необычный жанр, рассмотрение того, как мы говорим об LLM и какие переносы интуиций с человеческого общения при этом допускаем.

Чтобы поучаствовать во встрече, нужно: 
⭕️прочитать статьи,
⭕️прийти и обсудить прочитанное.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

🐉 Зимнее светское рациональное солнцестояние 2025

📅 Когда: 17:00, 21 декабря (воскресенье)
📍 Где: Москва, ЦДО «Моноид»
💰 Стоимость: бесплатно

Рациональное солнцестояние — это светский праздник, во время которого люди, объединённые идеями гуманизма, прогресса и рациональности, собираются вместе, чтобы поделиться идеями и познакомится с новыми людьми.

Тема этого года: человеческие ценности. Как формируется то, что вызывает в нас восхищение?

Программа:
🔘Тематическая арка
🔘Доклады от участников
🔘Игра "Медианные миры", настолки, свободное общение

По традиции гости в костюмах приветствуются и получают небольшие сувениры!

Мы ждем вас на Зимнем Светском Рациональном Солнцестоянии 2025, чтобы поговорить о насущном, подумать о вечном, помечтать о стоящем и провести самую долгую ночь в хорошей компании.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Хотите сделать доклад или провести игру? Пишите сюда!

✨ Зимний вечер в Моноиде

📅 Когда: 27 декабря
⏰ Время: 16:00
📍 Где: Москва, ЦДО «Моноид»
💰 Стоимость: 1500₽, купить билет можно онлайн или на входе

Новогодние огоньки, запах елки и мандаринов, вкусная еда, много сладостей и никаких итогов уходящего года и планов на будущий. Вечер под девизом "Давайте (это все) после праздников, а сегодня просто отдохнем".

В программе:
🔘Тематический квест в пространстве
🔘Power-point party: вы знаете, что это за формат. И, если хотите выступить, мы вам рады!
🔘Нетворкинг зона: тут у нас (почти)структурированный нетворкинг, мандарины и шоколад
🔘Зона с настолки: Стратегические игры, игры на дедукцию, иманджинариум (+AI edition), шахматы, Эволюция, Нечто, Мафия и ещё больше 30 разных игр
🔘Chill out зона: тут можно смотреть новогодние короткометражки, лежа на подушках и трогая траву. Изредка перекидываясь фразами с теми, кто захотел ленности и уюта. А можно взять с полки книгу и с умным видом ее почитывать (или просто упасть в подушки и поспать)

✨ А еще у нас будет мастер-класс по новогоднему крафту.

И конечно, всех будут ждать подарки!

Волонтерские сборы: украшаем Моноид к зимним праздникам

Мы собираемся два раза, чтобы украсить Моноид по-зимнему:

🔘воскресенье, 14 декабря, 14:00 –18:00 и 17:00 – 21:00
на повестке дня: развесить лампочки, нарезать снежинки и подобрать мемы на стены

🔘среда, 17 декабря, 14:00 –18:00 и 17:00 – 21:00
на повестке дня: основные украшения: елка, окна, фотозоны.

Что за это будет:
По традиции — месяц коворкинга в Моноиде всем, кто помогал 4 часа и больше.

Если вам удобнее прийти не к началу смены или у вас есть вопросы, напишите Владу.

📍Адрес: Ломоносовский проспект, 25к3. По вопросам прохода на территорию — пишите @MonoidAdmin.

🐉 Один из наших преподавателей стал ментором в программе Sci.STEPS

Если вы планируете карьеру в области AI Safety, можно податься к Славе.

Программа в целом предлагает менторскую поддержку под широкий набор задач, связанных с научными и карьерными треками. Обязательных встреч с ментором немного: программа скорее про коммитмент и помощь в приоритизации. Подходит, например, если вам нужно податься в PhD или магистратуру, собрать нормальное резюме или наконец-то сесть за ресёрч, но оно всё откладывается.

📌 Подать заявку: тут
📌 Узнать подробнее: тут

Волонтерский сбор — украшаем Моноид к зимним праздникам
Часть первая: бесконечный поток снежинок.

📅 Когда: 14 декабря, 14:00 –18:00 и 17:00 – 21:00
📍 Где: Москва, ЦДО «Моноид»

Каждый год мы увеличиваем количество снежинок на наших стенах. В этом году мы решили добавить к количеству качество и сделать тематических снежинок.

А еще будем готовить мемы для размещения по стенам.

Как все устроено
🔘Работаем в две пересекающиеся смены — можно прийти к началу любой.
🔘Каждая смена длится 4 часа, с короткими перерывами на отдых и перекус.

🔘1 смена: 14:00 - 18:00
🔘2 смена: 17:00 - 21:00

Что за это будет:
По традиции — месяц коворкинга в Моноиде всем, кто помогал 4 часа и больше.

Если вам удобнее прийти не к началу смены или у вас есть вопросы, напишите Владу.

📍Адрес: Ломоносовский проспект, 25к3. По вопросам прохода на территорию — пишите @MonoidAdmin.

• Понедельник 15.12 — Коворкинг 🖥️
• Вторник 16.12 — Коворкинг 🖥️
• Среда 17.12 — Волонтерский сбор: украшаем Моноид к зимним праздникам ❄️
• Четверг 18.12 — Коворкинг 🖥️
• Пятница 19.12 — Коворкинг 🖥️
• Суббота 20.12 — Коворкинг 🖥️
• Воскресенье 21.12 — Зимнее светское рациональное солнцестояние 2025 ❄️

❄️ - Тематические мероприятия, вход свободный
🖥️ - Стоимость по тарифам коворкинга
🆓 - Вход бесплатный

🌍 Подробные описания мероприятий и тарифы доступны на сайте
📍 Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin