Довольно интересная обзорная статья по RL основанному на физике:

A Survey on Physics Informed Reinforcement Learning: Review and Open Problems
https://arxiv.org/abs/2309.01909

14.09 Лекторий о ритуалах и традициях в широком смысле

Какие ритуалы есть у наших домашних питомцев? Какую роль играют традиции в еврейском обществе? Как искусство отражает ритуалы? На лектории "От животных к людям: Ритуалы вокруг нас" мы попытаемся разобраться в многообразии ритуалов и традиций.


Своим взглядом поделятся:

🔆 Ольга Ситкина - специалист по поведению животных, Tellington TTouch couch, создатель курса "Счастливый кот" и Инфопортала мой котопес и др.

🔆 Даниэль Альтерман - свободный исследователь

🔆 Ноа Томин - еврейский образователь, мадриха, социолог

🔆 Анна Смолярова - художница, арт-медиаторка


📍 Almacén Gallery HaPninim 1, Tel Aviv
🕦 14 сентября, 19:00

💰 Стоимость билета: 70 шекелей

Билеты: https://get-in.com/lectorium2

🗺️ Гугл улучшил построение маршрутов на Картах

Сервис Google Карты использует удобную навигацию, чтобы строить оптимальный маршрут из пункта А в пункт Б. Но как именно он определяет, какая дорога будет самой лучшей для пользователя? Оказывается, с помощью технологии "обратного обучения с подкреплением" (inverse reinforcement learning).

Этот метод работает так: искусственный интеллект анализирует реальные маршруты, которые люди выбирают в жизни. Эти данные - пример оптимальных "маршрутов" (если людей усреднить, то обычно они перемещаются оптимально). На их основе нейросеть извлекает скрытые критерии, которыми пользователи руководствуются при построении маршрута. Учитывают ли они время в пути, стоимость, живописность дороги?

Раньше применение такого подхода в масштабах всей Земли было затруднено - просто слишком много возможных маршрутов для анализа! Но инженеры Google разработали новый алгоритм RHIP (Receding Horizon Inverse Planning), который эффективно масштабируется.

Он объединяет точные, но ресурсозатратные методы для локальных участков пути с более дешёвыми алгоритмами глобального планирования. Благодаря оптимизации и распараллеливанию вычислений, RHIP позволил впервые применить обратное обучение с подкреплением в масштабах всей дорожной сети планеты.

В итоге точность маршрутов в Google Картах выросла на 15-24% по сравнению с предыдущим алгоритмом. Теперь, когда вы строите маршрут, ИИ может предугадать оптимальный путь, максимально приближенный к тому, который выбрали бы вы сами.

🌍 Блог-пост
📰 Статья

Подпишись на @nn_for_science

👃 У нейросетей появился нюх

Ученые из Google исследовали, как можно научить искусственный интеллект предсказывать запах вещества по его молекулярной структуре. Эта фундаментальная проблема в области цифрового обоняния долгое время оставалась нерешенной.

Для создания модели авторы использовали графовые нейронные сети – специальный тип нейросетей, хорошо работающий с графовыми данными. Молекулы очень удобно представлять в виде графов, где атомы – вершины, а связи – ребра. Такая структура позволяет эффективно анализировать особенности молекулы.

Модель обучалась на наборе из 5000 молекул с соответствующими запаховыми дескрипторами типа "цветочный", "фруктовый" и т.д. Затем ее проверили на 400 ранее не встречавшихся молекулах.

Результаты показали, что нейросеть описывает запахи новых веществ не хуже, чем средний человек! Более того, модель лучше справляется с задачей, чем предыдущие подходы на основе традиционных химических дескрипторов.

Полученная нейросетью "карта запахов" переносится и на другие задачи в области обоняния - например, определение схожести запахов разных веществ. Таким образом, исследователи создали универсальное средство для изучения мира запахов.

В будущем подобные модели могут использоваться для автоматического предсказания запаха еще не синтезированных молекул. Это поможет ускорить открытие новых ароматов и душистых веществ без дорогостоящего экспериментального тестирования.

📰 Статья

Подпишись на @nn_for_science

Как уместить слона в холодильник: обзор квантования моделей в 🤗 Transformers

Квантование моделей в машинном обучении - это процесс уменьшения разрядности представления весов нейронной сети.

Обычно веса моделей хранятся с использованием 32-битных чисел с плавающей точкой (float32). Это позволяет достичь высокой точности, но требует большого объема памяти.

Квантование снижает разрядность представления весов до 8, 4 или даже 2 бит. Это значительно уменьшает размер модели и позволяет запускать её на устройствах с ограниченными ресурсами - например, смартфонах или дешевых GPU.

Конечно, меньшее количество бит приводит к некоторой потере точности модели. Но современные алгоритмы квантования, такие как поддерживаемые в библиотеке 🤗 Transformers, позволяют минимизировать эту потерю.

Таким образом, квантование делает возможным использование крупных нейросетевых моделей там, где раньше для этого не хватало вычислительных ресурсов. Это расширяет сферы применения искусственного интеллекта - от мобильных приложений до IoT устройств.

В статье (ниже) даётся обзор основных методов квантования, встроенных в популярную библиотеку 🤗 Transformers. Рассматриваются их особенности, производительность на разных устройствах и точность по сравнению с исходными моделями. Почитайте, возможно статья поможет вам выбрать оптимальный подход к квантованию для своих задач.

🤗 Статья

Подпишись на @nn_for_science

Аналитика потребления генеративного ИИ

Недавно венчурный фонд Andreessen Horowitz опубликовал любопытный анализ развития потребительского искусственного интеллекта.

Andreessen Horowitz - это один из крупнейших венчурных фондов в США, который инвестирует в технологические стартапы. Среди их портфельных компаний такие гиганты, как Facebook, Airbnb, Coinbase. Поэтому когда их эксперты делятся аналитикой - стоит прислушаться.

Так вот, они изучили посещаемость популярных сервисов, основанных на технологиях вроде DALL-E и ChatGPT. И выяснили много интересного.

Во-первых, ChatGPT абсолютный фаворит пользователей. Его ежемесячная аудитория - 1,6 млрд посещений, что делает это приложение 24-м по популярности сайтом в мире! Другие сервисы ИИ пока сильно отстают от лидера.

Во-вторых, люди готовы платить за возможности ИИ в среднем 21$ в месяц. Это намного больше, чем для обычных приложений. Так что потребительский ИИ - выгодный бизнес.

В-третьих, продукты ИИ пока сконцентрированы в веб-браузерах. Мобильные приложения только набирают популярность в этой сфере - вот вам и ниша которую можно заполнить.

Также выяснилось, что большинство успешных сервисов ИИ - это стартапы, созданные с нуля вокруг технологий вроде GPT. Лишь несколько продуктов созданы технологическими гигантами.

В целом, это ценная аналитика от экспертного фонда о развитии потребительского ИИ. ChatGPT уже завоевал сердца миллионов. А какие ещё интересные сервисы ИИ появятся в будущем?

〽️ Аналитика

Подпишись на @nn_for_science

Wired подаёт как сенсацию известие о том, что финский стартап Metroc использует труд заключённых, чтобы обучать свою большую языковую модель. Но я ещё 3 года назад писал, что Сбер договорился со ФСИН о совместной работе над искусственным интеллектом, подразумевая, что осужденные будут обучать ИИ правильно различать рукописный текст и детали изображения. То есть Кандинский и ГигаЧат вполне могут быть созданы при участии заключённых и это замечательно как минимум с точки зрения социализации лиц отбывших наказание. Раньше вот человек отсидел за ошибки молодости и не знал куда податься, а сейчас есть возможность осваивать современные професcии в местах лишения свободы. Причём на мой вкус «7 лет в Бутырке обучал ИИ-модели» в резюме может смотреться куда привлекательнее, чем «закончил месячный курс по машинному обучению». Кстати, на рынке труда наблюдается дефицит кадров и если у вас есть знакомые во ФСИН, то самое время запускать стартап в сегменте PaaS (Prisoners as a Service). И я вполне серьёзно, хотя понимаю, что звучит всё несколько забавно.

https://www.wired.com/story/prisoners-training-ai-finland/