Новости ML, AI и technical safety

📅Когда: 18 июля (и каждую пятницу)
⏰Время: 18:00
📍Где: Москва, ЦДО «Моноид»
💰Стоимость: бесплатно

Это регулярные встречи дискуссионной группы по ML, AI и technical safety. Мы ищем статьи, которые что-то значат для области, чтобы их обсудить и попытаться понять и их смысл, и их роль.

На этой неделе читаем:
1️⃣Блокпост от METR Recent Frontier Models Are Reward Hacking
2️⃣ Эссе от Скотта Александера The control group is out of control

Чтобы поучаствовать во встрече, нужно: 
⭕️прочитать статью,
⭕️прийти и обсудить прочитанное.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

⭐ AI Safety x Physics Grand Challenge: очно в Москве

📍Где: Москва, Россия
🗓Когда: 25-27 июля
💰Стоимость: бесплатно
⏰Дедлайн подачи: 25 июля

Пару недель назад мы писали про хакатон AI Safety x Physics от Apart. Его можно пройти очно, если вы в Москве.

Хакатон посвящен Natural Abstractions, SLT, Physics-Informed ML и Scaling Laws. В наличии: удобное помещение через дорогу от МГУ и один из авторов этого канала (Рома) в качестве координатора.

Что будет:
⭕Обсудим подготовительные материалы
⭕Посмотрим трансляцию официальной части от Apart
⭕Придумаем идеи, с которыми подадимся на хакатон
⭕Объединимся в команды и начнем работать над проектами

Каждой команде предоставляется 400$ компьюта на видеокартах (в том числе А100)

Точно подавайтесь, если вы:
⭕Имеете подходящий бекграунд:
• закончили бакалавриат/магистратуру по физике
• или имеете опыт в ML research
⭕Умеете кодить на Питоне (базовый уровень)
⭕Будете в это время в Москве

🔗Подать заявку: вступить в чат
По всем вопросам писать сюда: @newroman1

На этой неделе в Моноиде:

• Понедельник 21.07 — Коворкинг 🖥️
• Среда 23.07 — Коворкинг 🖥️
• Пятница 25.07 — AI Safety x Physics Grand Challenge: очно в Москве 🏷️
• Суббота 26.07 — AI Safety x Physics Grand Challenge: очно в Москве 🏷️
Практикум "Одиночество в большом городе" 💰
• Воскресенье 27.07 —AI Safety x Physics Grand Challenge: очно в Москве 🏷️

🖥️ - Стоимость по тарифам коворкинга
🏷️ - Вход бесплатный
💰 - Мероприятие платное

🌍 Подробные описания мероприятий и тарифы доступны на сайте
📍 Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Новости ML, AI и technical safety

📅Когда: 1 августа (и каждую пятницу)
⏰Время: 18:00
📍Где: Москва, ЦДО «Моноид»
💰Стоимость: бесплатно

Это регулярные встречи дискуссионной группы по ML, AI и technical safety. Мы ищем статьи, которые что-то значат для области, чтобы их обсудить и попытаться понять и их смысл, и их роль.

На этой неделе читаем:
1️⃣Та самая статья про сов, которую сейчас все обсуждают Subliminal Learning: Language models transmit behavioral traits via hidden signals in data

2️⃣ Статья аж 2019 года про проблемы в методологии, которая, к сожалению, не утратила актуальности With Little Power Comes Great Responsibility

Чтобы поучаствовать во встрече, нужно: 
⭕️прочитать статью,
⭕️прийти и обсудить прочитанное.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

На этой неделе в Моноиде:

• Понедельник 28.07 — Коворкинг 🖥️
• Среда 30.07 — Коворкинг 🖥️
• Пятница 01.08 — Новости ML, AI и technical safety 🏷️
• Суббота 02.08 — Коворкинг 🖥️
• Воскресенье 03.08 — Коворкинг 🖥️

🖥️ - Стоимость по тарифам коворкинга
🏷️ - Вход бесплатный
💰 - Мероприятие платное

🌍 Подробные описания мероприятий и тарифы доступны на сайте
📍 Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Что почитать в ЦДО "Моноид"?

📖 Название: "The AI Does Not Hate You"
✏️ Автор: Том Чиверс
📚 Жанр: нон-фикшен

Книга "The AI Does Not Hate You" — мост между двумя мирами: скептически настроенной широкой публикой и небольшим сообществом людей, утверждающих, что мы можем случайно уничтожить себя, создав слишком умную машину. Том Чиверс проводит читателя через идеи, кажущиеся на первый взгляд безумными. Он разбирает, почему сверхразумный ИИ может быть не злым, а просто безразличным, и почему это может быть даже страшнее.

Чиверс показывает, как выглядит мышление, которое не боится дойти до логического конца — даже если вывод пугает. Он в чём-то не согласен — и всё же идёт дальше, потому что вопрос важный. В результате получается книга о том, как вести разговор всерьёз — даже тогда, когда тема кажется слишком поразительной, чтобы в неё поверить.

Цитаты:
🔘The AI does not hate you, nor does it love you, but you are made of atoms which it can use for something else.
🔘The tiny difference in DNA between us and gorillas, the thing that makes us smarter, is the difference that means our thronging billions live on every continent on the planet, while gorillas are going extinct in the mountains of Congo and Rwanda. If there's a machine that's smarter than us, the Rationalists say, we would live only at its sufferance – as gorillas do, just about, at ours.

Новости ML, AI и technical safety

📅Когда: 8 августа (и каждую пятницу)
⏰Время: 18:00
📍Где: Москва, ЦДО «Моноид»
💰Стоимость: бесплатно

Это регулярные встречи дискуссионной группы по ML, AI и technical safety. Мы ищем статьи, которые что-то значат для области, чтобы их обсудить и попытаться понять и их смысл, и их роль.

На этой неделе читаем:
1️⃣Обзорная статья про recursive self-improvement A Survey of Self-Evolving Agents: On Path to Artificial Super Intelligence

2️⃣ Как теория причинности может помочь сейфити? Theories of Impact for Causality in AI Safety (потыкайте в ссылки и introductions в сноске)

Чтобы поучаствовать во встрече, нужно: 
⭕️прочитать статью,
⭕️прийти и обсудить прочитанное.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

На этой неделе в Моноиде:

• Понедельник 04.08 — Коворкинг 🖥️
• Среда 06.08 — Коворкинг 🖥️
• Пятница 08.08 — Новости ML, AI и technical safety 🏷️
• Суббота 09.08 — Интенсив: "Нейросети из первых принципов" 💰
• Воскресенье 10.08 — Коворкинг 🖥️

🖥️ - Стоимость по тарифам коворкинга
🏷️ - Вход бесплатный
💰 - Мероприятие платное

🌍 Подробные описания мероприятий и тарифы доступны на сайте
📍 Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

На этой неделе в Моноиде:

• Понедельник 11.08 — Коворкинг 🖥️
• Среда 13.08 — Коворкинг 🖥️
• Пятница 15.08 — Новости ML, AI и technical safety 🏷️
• Суббота 16.08 — Коворкинг 🖥️
• Воскресенье 17.08 — Доклад: "Основы Singular learning theory" 🏷️

🖥️ - Стоимость по тарифам коворкинга
🏷️ - Вход бесплатный
💰 - Мероприятие платное

🌍 Подробные описания мероприятий и тарифы доступны на сайте
📍 Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Новости ML, AI и technical safety

📅Когда: 15 августа (и каждую пятницу)
⏰Время: 18:00
📍Где: Москва, ЦДО «Моноид»
💰Стоимость: бесплатно

Это регулярные встречи дискуссионной группы по ML, AI и technical safety. Мы ищем статьи, которые что-то значат для области, чтобы их обсудить и попытаться понять и их смысл, и их роль.

На этой неделе читаем:
1️⃣ Coercing LLMs to Do and Reveal (Almost) Anything - статья про то, как небольшими изменениями в промпте можно заставить модель делать (почти) что угодно

2️⃣ Beware The Man Of One Study, Two Dark Side Statistics Papers, The Cowpox of Doubt - 3 эссе Скотта Александра про науку, методологию, и эпистемическую паранойю

Чтобы поучаствовать во встрече, нужно: 
⭕️прочитать статью,
⭕️прийти и обсудить прочитанное.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Singular learning theory: про интерпретируемость, но другую
Отчетный доклад в рамках стажировки

📅 Когда: 17 августа (воскресенье) в 18:00
📍 Где: Москва, ЦДО «Моноид»
🎙️ Спикер: Слава Меритон
💰 Стоимость: по тарифам коворкинга

О чем:
Singular Learning Theory (SLT) — это теория, на которой построен подход developmental interpretability (dev Interp). Он противопоставлен mechanistic interpretability(mech Intepr), где смотрят на готовую модель и разбирают, что внутри. SLT же интересует сам процесс обучения: что там происходит, пока модель учится.
 
🔘Как смотреть на модели с байесовской точки зрения?
🔘Что такое фазовые переходы и откуда они берутся?
🔘При чем тут свободная энергия?
🔘Какие прогнозы делает SLT?
🔘Что с этим всем в плане практического применения?

Доклад задуман как краткое и ориентированное на непрофессионалов объяснение ключевых идей SLT.

Что будет:
🔘Общий обзор того, что представляет из себя теория и как выглядит ее theory of change.
🔘Пересказ двух статей из программы стажировки: Dialogue introduction to Singular Learning Theory и Neural networks generalize because of this one weird trick.
🔘Обсуждение.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

✨ POWERPOINT PARTY: НАВЫКИ И ИНСАЙТЫ

📅Когда: 25 августа
⏰Время: 18:00
📍Где: Москва, ЦДО «Моноид»
💰Стоимость: по тарифам коворкинга

Приходите на PowerPoint Party!
Теперь — с центральной темой.

На этот раз ждём (и готовим) презентации про любые навыки — от необходимых до абсурдных.
Лайфхак, история провала или неочевидный способ учиться быстрее — всё, что расскажет о вашем навыке или подарит новый зрителю.

Формат презентаций максимально свободный. Торжественно приглашаем:

- Прийти с одним-единственным слайдом, но с харизматичным докладом;
- Украсть обучающую презентацию с прошлой работы;
- Правдоподобно сыграть педагога в PowerPoint-караоке
или придумать любой другой формат под ваш рассказ.

Примеры тем:
❔ Единственный математически верный способ завязать шнурки
❔Дыхательные практики для забывающих дышать
❔ Как гуглить

Истории про реальные победы и поражения чрезвычайно приветствуются!


Бонус: если тема зайдёт — сделаем сборник лучших лайфхаков после вечера.

Презентация желательна — будет грустно в двадцатером слушать 3 доклада. Но и без неё приходить не запрещаем!

Ждём всех, кто хочет научиться — или научить!

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

На этой неделе в Моноиде:

• Понедельник 18.08 — Коворкинг 🖥️
• Среда 20.08 — Коворкинг 🖥️
• Пятница 22.08 — Новости ML, AI и technical safety 🏷️
• Суббота 23.08 — Коворкинг 🖥️
• Воскресенье 24.08 — Коворкинг 🖥️

🖥️ - Стоимость по тарифам коворкинга
🏷️ - Вход бесплатный
💰 - Мероприятие платное

🌍 Подробные описания мероприятий и тарифы доступны на сайте
📍 Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

📖 Название: «Шум. Несовершенство человеческих суждений»
✏️ Авторы: Даниэль Канеман, Оливье Сибони, Касс Р. Санстейн
📚 Жанр: нон-фикшен

Книга «Шум. Несовершенство человеческих суждений»  посвящена незаметному, но повсеместному явлению — разбросу в человеческих суждениях, который возникает даже при одинаковой информации и одинаковых задачах.  Авторы называют это «шумом» и подчёркивают: его последствия глубоки, а масштабы недооценены. Судебные приговоры, медицинские диагнозы, управленческие решения — всё это оказывается чувствительным к случайным факторам: дню недели, настроению, порядку рассмотрения дел.

Канеман, Сибони и Санстейн предлагают смотреть на шум как на скрытую переменную, которую можно измерить, а значит — и сократить. Они описывают способы обнаружения и уменьшения шума: с помощью «шумовых аудитов», алгоритмов, стандартизированных процедур и командного анализа. Примеры из медицины, права, страхования и бизнеса делают проблему осязаемой и подталкивают к переосмыслению роли экспертного мнения. Авторы обращают внимание на то, как можно повысить точность и справедливость суждений, если внедрить подходы, уменьшающие влияние случайности.

Цитаты:
🔘Психологические искажения приводят к появлению статистического смещения, если много людей совершают одинаковые ошибки. Однако во множестве случаев люди заблуждаются по-разному. И тогда психологические искажения вызывают системный шум
🔘Люди уверены, что они используют комплексный подход и проявляют изобретательность, вынося свои оценки. Однако сложность и изобретательность большей частью напрасная трата сил – обычно они не помогают превзойти точность простых моделей
🔘Нам кажется, мы понимаем, что происходит; однако могли ли мы это предвидеть?

На этой неделе в Моноиде:

• Понедельник 25.08 — POWERPOINT PARTY: НАВЫКИ И ИНСАЙТЫ 🖥️
• Среда 27.08 — Коворкинг 🖥️
• Пятница 29.08 — Новости ML, AI и technical safety 🏷️
• Суббота 30.08 — Коворкинг 🖥️
• Воскресенье 31.08 — Коворкинг 🖥️

🖥️ - Стоимость по тарифам коворкинга
🏷️ - Вход бесплатный
💰 - Мероприятие платное

🌍 Подробные описания мероприятий и тарифы доступны на сайте
📍 Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

Новости ML, AI и technical safety

📅Когда: 29 августа (и каждую пятницу)
⏰Время: 20:00
📍Где: Москва, ЦДО «Моноид»
💰Стоимость: бесплатно

Это регулярные встречи дискуссионной группы по ML, AI и technical safety. Мы ищем статьи, которые что-то значат для области, чтобы их обсудить и попытаться понять и их смысл, и их роль.

На этой неделе читаем:

1️⃣ A Theory of Deep Learning Must Include Compositional Sparsity - в статье излагается гипотеза о причинах эффективной работы глубоких сетей - выучиваемые функции принадлежат определённому, довольно специфичному классу, допускающему и эффективное вычисление и обучение.

2️⃣ Risks from Learned Optimization in Advanced Machine Learning Systems - классическая статья, излагающая гипотетическую концепцию меса-оптимизаторов как артефактов обучения и сценариев, в которых они приводят к нежелательным результатам обучения.

Чтобы поучаствовать во встрече, нужно: 
⭕️прочитать статью,
⭕️прийти и обсудить прочитанное.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin

На этой неделе в Моноиде:

• Понедельник 01.09 — Коворкинг 🖥️
• Среда 03.09 — Коворкинг 🖥️
• Пятница 05.09 — Новости ML, AI и technical safety 🏷️
• Суббота 06.09 — Коворкинг 🖥️
• Воскресенье 07.09 —Доклад: основы менеджмента по Гроуву. Что такое рычажное действие? 🏷️

🖥️ - Стоимость по тарифам коворкинга
🏷️ - Вход бесплатный
💰 - Мероприятие платное

🌍 Подробные описания мероприятий и тарифы доступны на сайте
📍 Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin