Forwarded from Институт AIRI
Делимся расписанием ИИшницы «Диффузионные модели и их расширения», которая пройдет в этот четверг на YouTube-канале AIRI 🍳
🔵 15:30 – Вступление, Артур Кадурин, AIRI
🔵 15:35 – «Диффузионные модели: три стороны одной медали», Дмитрий Ветров, ФКН ВШЭ, AIRI
В докладе спикер рассмотрит три способа интерпретации диффузионных моделей и кратко перечислит основные преимущества, которые дают разные способы взгляда на эту популярную генеративную модель.
🔵 15:55 – "Star-Shaped Denoising Diffusion Probabilistic Models", Андрей Охотин, ФКН ВШЭ
Диффузионные модели сейчас достигают высокого качества на задачах генерации изображений и звука, однако, испытывают проблемы с генерацией данных со сложной внутренней структурой. Статья, про которую расскажет Андрей, представляет обобщение классических диффузионых моделей, позволяющее использовать не только гауссовское зашумляющее распределение. Благодаря этому удается добиться высокого качества генерации данных из таких специфических многообразий.
🔵 16:15 – «Применение генеративных картиночных моделей в рекламе» Валентин Хрульков, Яндекс
Валентин расскажет о практических сценариях использования технологии генерации картинок для улучшения привлекательности рекламных баннеров.
🔵 16:35 – "Entropic Neural Optimal Transport via Diffusion Processes" Никита Гущин, Сколтех
Доклад основан на статье "Entropic Neural Optimal Transport via Diffusion Processes" (NeurIPS 2023, oral). Оптимальный транспорт с помощью нейронных сетей — новое направление для решения задач непарного переноса стиля и доменной адаптации. В докладе Никита расскажет про способ связать оптимальный транспорт и диффузионные модели с помощью задачи моста Шрёдингера. Помимо рассказа о разработанном в статье алгоритме будут рассмотрены также другие уже известные алгоритмы для задачи моста Шрёдинегра и их приложения.
🔵 17:55 – "Training of an integrator of diffusion model trajectories" Вячеслав Мещанинов, ФКН ВШЭ
Диффузионные модели продемонстрировали огромный потенциал для генерации данных самой разной структуры. Однако главным их недостатком является большое количество шагов на этапе использования, необходимое для качественной генерации объектов. В докладе Вячеслав расскажет о том, как можно преодолеть данный недостаток и обучить модель, которая за один шаг способна пройти всю траекторию генерации диффузионной модели.
Сохраняйте ссылку на трансляцию, до встречи в четверг! 🍿
В докладе спикер рассмотрит три способа интерпретации диффузионных моделей и кратко перечислит основные преимущества, которые дают разные способы взгляда на эту популярную генеративную модель.
Диффузионные модели сейчас достигают высокого качества на задачах генерации изображений и звука, однако, испытывают проблемы с генерацией данных со сложной внутренней структурой. Статья, про которую расскажет Андрей, представляет обобщение классических диффузионых моделей, позволяющее использовать не только гауссовское зашумляющее распределение. Благодаря этому удается добиться высокого качества генерации данных из таких специфических многообразий.
Валентин расскажет о практических сценариях использования технологии генерации картинок для улучшения привлекательности рекламных баннеров.
Доклад основан на статье "Entropic Neural Optimal Transport via Diffusion Processes" (NeurIPS 2023, oral). Оптимальный транспорт с помощью нейронных сетей — новое направление для решения задач непарного переноса стиля и доменной адаптации. В докладе Никита расскажет про способ связать оптимальный транспорт и диффузионные модели с помощью задачи моста Шрёдингера. Помимо рассказа о разработанном в статье алгоритме будут рассмотрены также другие уже известные алгоритмы для задачи моста Шрёдинегра и их приложения.
Диффузионные модели продемонстрировали огромный потенциал для генерации данных самой разной структуры. Однако главным их недостатком является большое количество шагов на этапе использования, необходимое для качественной генерации объектов. В докладе Вячеслав расскажет о том, как можно преодолеть данный недостаток и обучить модель, которая за один шаг способна пройти всю траекторию генерации диффузионной модели.
Сохраняйте ссылку на трансляцию, до встречи в четверг! 🍿
Please open Telegram to view this post
VIEW IN TELEGRAM
❤16👍1
Forwarded from Первая Полоса
Компания, собравшая базу человеческих лиц со всего мира, обжаловала штраф в 9 миллионов долларов в суде Великобритании.
Американская фирма ClearviewAI, известная своим сотрудничеством с спецслужбами США и рядом скандалов из-за сбора персональных данных в европейских странах, выиграла аппеляцию по делу о штрафе в 7,5 миллионов фунтов (9,1 млн долларов), который ей в прошлом году назначил британский информационный надзорный орган — Information Commissioner's Office (ICO).
СlearviewAI использует социальные сети и другие открытые источники для сбора фотографий пользователей, а затем предоставляет свою базу данных для сопоставления, работая таким образом как сервис по установлению личности. В прошлом году в ICO пришли к выводу, что деятельность фирмы нарушает европейский и британский регламенты о защите персональных данных — людей, чья информация была использована, об этом не уведомляли.
Представители компании подали апелляцию, указав, что обслуживали в Британии только правоохранительные органы, а данные обрабатывались вне границ страны. Суд признал правоту Clearview и отменил решение о штрафе, поскольку существующие регламенты не касаются работы силовых ведомств с персональными данными.
Сейчас сервис в основном использует полиция разных государств. До 2020 года Clearview предоставлял свои услуги не только государственным, но и частным клиентам, но в результате одного из судебных разбирательств объявил, что переходит на исключительно государственное сотрудничество.
С судами по делам о незаконном использовании персональных данных пользователей фирма столкнулась в США, Франции, Италии, Греции, Канаде и Австралии. В некоторых случаях осталось неясно, удалила ли Clearview свои базы данных, признанные незаконными.
С февраля 2022 года компания бесплатно предоставляет свои услуги властям Украины, используя огромную базу фотографий из VK. По мнению экспертов, опрошенных изданием Wired, активное использование ВКонтакте украинскими силовиками для идентификации российских военнослужащих, «спорно» с точки зрения человеческих прав. Как отметили собеседники Wired, это лишь один из возможных способов применения такой технологии: она пригодна для использования и в сугубо военных целях, что само по себе имеет потенциал нарушения международно признанных прав человека.
Широко развёрнутая система распознавания лиц работает в российских городах с 2018 года. Для неё использовали технологию FindFace, которую в 2010 году называли «убийцей анонимности». Ранее в этом году СМИ сообщали, что основатели NtechLab, компании-разработчика этой технологии, покинули собственную фирму после того, как им не удалось уговорить её руководство остановить работу FindFace в России.
По различным данным, из 10 городов мира, наиболее плотно покрытых сетью видеонаблюдения, от 8 до 9 находятся в Китае. Если исключить китайские города из этого перечня, в десятке окажутся четыре крупнейших города Индии, а также Москва, Санкт-Петербург, Багдад, Лондон и Лос-Анджелес.
Фото: Ascannio / Shutterstock
#лихая_долина
Американская фирма ClearviewAI, известная своим сотрудничеством с спецслужбами США и рядом скандалов из-за сбора персональных данных в европейских странах, выиграла аппеляцию по делу о штрафе в 7,5 миллионов фунтов (9,1 млн долларов), который ей в прошлом году назначил британский информационный надзорный орган — Information Commissioner's Office (ICO).
СlearviewAI использует социальные сети и другие открытые источники для сбора фотографий пользователей, а затем предоставляет свою базу данных для сопоставления, работая таким образом как сервис по установлению личности. В прошлом году в ICO пришли к выводу, что деятельность фирмы нарушает европейский и британский регламенты о защите персональных данных — людей, чья информация была использована, об этом не уведомляли.
Представители компании подали апелляцию, указав, что обслуживали в Британии только правоохранительные органы, а данные обрабатывались вне границ страны. Суд признал правоту Clearview и отменил решение о штрафе, поскольку существующие регламенты не касаются работы силовых ведомств с персональными данными.
Сейчас сервис в основном использует полиция разных государств. До 2020 года Clearview предоставлял свои услуги не только государственным, но и частным клиентам, но в результате одного из судебных разбирательств объявил, что переходит на исключительно государственное сотрудничество.
С судами по делам о незаконном использовании персональных данных пользователей фирма столкнулась в США, Франции, Италии, Греции, Канаде и Австралии. В некоторых случаях осталось неясно, удалила ли Clearview свои базы данных, признанные незаконными.
С февраля 2022 года компания бесплатно предоставляет свои услуги властям Украины, используя огромную базу фотографий из VK. По мнению экспертов, опрошенных изданием Wired, активное использование ВКонтакте украинскими силовиками для идентификации российских военнослужащих, «спорно» с точки зрения человеческих прав. Как отметили собеседники Wired, это лишь один из возможных способов применения такой технологии: она пригодна для использования и в сугубо военных целях, что само по себе имеет потенциал нарушения международно признанных прав человека.
Широко развёрнутая система распознавания лиц работает в российских городах с 2018 года. Для неё использовали технологию FindFace, которую в 2010 году называли «убийцей анонимности». Ранее в этом году СМИ сообщали, что основатели NtechLab, компании-разработчика этой технологии, покинули собственную фирму после того, как им не удалось уговорить её руководство остановить работу FindFace в России.
По различным данным, из 10 городов мира, наиболее плотно покрытых сетью видеонаблюдения, от 8 до 9 находятся в Китае. Если исключить китайские города из этого перечня, в десятке окажутся четыре крупнейших города Индии, а также Москва, Санкт-Петербург, Багдад, Лондон и Лос-Анджелес.
Фото: Ascannio / Shutterstock
#лихая_долина
👍11😱8👀4❤3🤔1
Встретил парня из Google. 8 лет там оттарабанил. Раньше занимался там Google Glass, потом всяким спич процессингом. Теперь уволился, уехал из Долины и переехал в Португалию
Португалия стронг
Говорит тут хотя бы на улицах не грабят
Португалия стронг
Говорит тут хотя бы на улицах не грабят
❤72😁37🐳4
#лабораторный_журнал
Закрыли позицию Data Analyst, так что в моей команде прибавление.
Всего откликов: 61. Дошли до оффера двое. Искали с начала сентября, так что в целом процесс занял полтора месяца.
Вот такая вот воронка
Закрыли позицию Data Analyst, так что в моей команде прибавление.
Всего откликов: 61. Дошли до оффера двое. Искали с начала сентября, так что в целом процесс занял полтора месяца.
Вот такая вот воронка
👍52❤10👎2
Forwarded from Сиолошная
В 2019 году GPT-2 не могла достоверно считать до десяти. Всего четыре года спустя системы на основе глубокого обучения могут писать программное обеспечение, генерировать фотореалистичные сцены по запросу, давать советы по интеллектуальным темам и сочетать обработку речи и изображений для управления роботами.
С этих слов начинается новое открытое письмо «Managing AI Risks in an Era of Rapid Progress», первыми двумя авторами которого идут Yoshua Bengio и Geoffrey Hinton. Эти двое вместе с Yann LeCun называются крёстными отцами глубокого обучения, и в 2018м году получили Turing Award (аналог Нобелевской премии в мире компьютеров) за вклад в эту сферу.
Ключевые тезисы:
1️⃣ Не существует фундаментальных причин, по которым прогресс ИИ-систем замедлится или остановится на человеческом уровне. ИИ уже превзошел человеческие способности в отдельно взятых областях, таких как стратегические игры или фолдинг белка
2️⃣ Многие из потенциальных рисков вскоре могут реализоваться и тем самым создать новые, поскольку компании разрабатывают автономные ИИ-системы (AI-агенты, про которых я писал выше): системы, которые могут планировать, действовать и достигать целей в реальном мире. Хотя нынешние системы имеют ограниченную автономность, ведутся активные работы над тем, чтобы это изменить
3️⃣ Не нужно думать про захват контроля и ресурсов ИИ-системами против нашей воли — мы можем передать их добровольно. Автономные системы становятся все более быстрыми и выгодными по сравнению с людьми, и вскоре может возникнуть дилемма. Компании, правительства и военные будут вынуждены развертывать ИИ-системы и сокращать дорогостоящую проверку каждого решения человеком — иначе они рискуют оказаться вытесненными в конкурентной борьбе, ведь всегда найдется страна-сосед, где планка морали и ответственности чуть ниже. В результате автономные системы искусственного интеллекта могут все чаще брать на себя решающую роль
4️⃣ Авторы выделяют как минимум 5 технических областей в рамках AI Safety. По этим направлениям должна работать как минимум треть исследователей в компаниях, разрабатывающих AI:
— Наблюдение и контроль искренности
— Надежность систем
— Интерпретируемость
— Оценки рисков
— Решение новых проблем, возникающих из-за самых передовых моделей
5️⃣ В письме делается акцент на срочную необходимость создания национальных институтов и международного контроля. Это включает лицензирование, контроль, прохождение тестов. Как и OpenAI, авторы подчёркивают, что самое пристальное внимание должно быть уделено передовым системам, а именно небольшому количеству наиболее мощных ИИ, обученных с бюджетом в миллиарды долларов, и которые будут обладать наиболее опасными и непредсказуемыми возможностями
«Ну вот OpenAI то ясно что конкурентов хотят убить регуляциями» — к таким комментаторам у меня вопрос: а что движет подписантами? Почему они предлагают в целом то же самое? Хотят похайпить на модной теме? Или просто под старость умом поехали?🍿 жду оправдания и самые убойные теории заговора в комментариях 💬
С этих слов начинается новое открытое письмо «Managing AI Risks in an Era of Rapid Progress», первыми двумя авторами которого идут Yoshua Bengio и Geoffrey Hinton. Эти двое вместе с Yann LeCun называются крёстными отцами глубокого обучения, и в 2018м году получили Turing Award (аналог Нобелевской премии в мире компьютеров) за вклад в эту сферу.
Ключевые тезисы:
— Наблюдение и контроль искренности
— Надежность систем
— Интерпретируемость
— Оценки рисков
— Решение новых проблем, возникающих из-за самых передовых моделей
«Ну вот OpenAI то ясно что конкурентов хотят убить регуляциями» — к таким комментаторам у меня вопрос: а что движет подписантами? Почему они предлагают в целом то же самое? Хотят похайпить на модной теме? Или просто под старость умом поехали?
Please open Telegram to view this post
VIEW IN TELEGRAM
👍15🤔10🔥2
В "Zen and the art of motorcycle repair" автор пишет про аналитический нож, который разрезает мир на концепты и категории.
Я пользуюсь им, чтобы ковыряться в носу. Например, вот наблюдение. В хороших отелях на завтрак опционально подают шампанское. Есть два типа людей: одни пьют это шампанское, другие не могут представить, зачем пить шампанское утром. Первые относятся к drinking culture, вторые нет. Люди из drinking culture это те ребята, которые прибухивают "для нужного настроения", используют алкоголь как способ развлекаться и обычно веселее в общении. Примечательно, что их меньшинство, но они абсолютно доминируют медиа. Кажется, что в каждом фильме и сериале все постоянно синячат. Возможно прибухивание эстетично, а может это заговор капиталистов, не знаю.
Я пользуюсь им, чтобы ковыряться в носу. Например, вот наблюдение. В хороших отелях на завтрак опционально подают шампанское. Есть два типа людей: одни пьют это шампанское, другие не могут представить, зачем пить шампанское утром. Первые относятся к drinking culture, вторые нет. Люди из drinking culture это те ребята, которые прибухивают "для нужного настроения", используют алкоголь как способ развлекаться и обычно веселее в общении. Примечательно, что их меньшинство, но они абсолютно доминируют медиа. Кажется, что в каждом фильме и сериале все постоянно синячат. Возможно прибухивание эстетично, а может это заговор капиталистов, не знаю.
👍32👎2❤1
This media is not supported in your browser
VIEW IN TELEGRAM
Сегодня на выставке автоматизации в индустрии еды.
Очень мало всего с компутер вижном, везде простая автоматизация
Вот робот-диджей
Очень мало всего с компутер вижном, везде простая автоматизация
Вот робот-диджей
👀11👍4👎3
#искусственный_интеллект
# ИИ риск и вонючие носки
Заметил в обсуждениях ИИ риска такой феномен. “Думеры” говорят про экзистенциальный риск, то есть способность ИИ уничтожить человечество или обеспечить нам участь хуже смерти. “Анти-думеры” говорят: зачем вы думаете про какой-то апокалиптический сценарий, если есть более насущные риски? И речь заходит о более краткосрочных рисках ИИ: армии автономных дронов-убийц, оптимизация пропаганды, увеличение экономического неравенства. Или вообще не связанные с ИИ риски: климат, голод, эпидемии, ядерная война. Казалось бы эти риски к нам гораздо ближе, они сильно вероятнее, так что обращать внимание надо в первую очередь на них.
Однако для меня абсолютно логично, что “думеры” говорят про экзистенциальный риск. Их цель не убедить вас, что ИИ может быть опасен. Их цель донести, что ИИ смертельно опасен, просто ОХРЕНЕТЬ КАК ОПАСЕН. Это очень разные вещи.
Приведу такую аналогию. Вы находитесь на Урале, живете себе в домике. На улице у вас сушатся носки. Надвигается лесной пожар. О чем вы будете беспокоится?
1. Носки провоняют дымом.
2. Пожар сожжет ваш дом.
Носки провоняют гораздо раньше и с гораздо большей вероятностью. Однако выбор приоритета очевиден: хрен с ними с носками. Думаем сразу наперед.
Верящие в экзистенциальный риск ИИ пытаются предупредить всех именно про пожар. Даже ужасные вещи, к которым слабый ИИ может привести нас уже в ближайшем времени, меркнут по сравнению с настоящей угрозой. Пусть вероятность реализации этого риска маленькая, его масштаб вот насто-о-олько велик.
В полемике про ИИ риск происходит нестыковка: “думеры” говорят про пожар, а их оппонентны думают, что речь о носках. Слышны возгласы: зачем вы предлагаете бежать из дома из-за того, что носки провоняют дымом? “Анти-думеры” видят в предлагаемых мерах перебор, потому что думают о другой угрозе.
Следовательно кому-то в этой системе надо четче изъясняться о предмете разговора, а кому-то не игнорировать этот предмет, пусть даже о нем сложнее рассуждать.
# ИИ риск и вонючие носки
Заметил в обсуждениях ИИ риска такой феномен. “Думеры” говорят про экзистенциальный риск, то есть способность ИИ уничтожить человечество или обеспечить нам участь хуже смерти. “Анти-думеры” говорят: зачем вы думаете про какой-то апокалиптический сценарий, если есть более насущные риски? И речь заходит о более краткосрочных рисках ИИ: армии автономных дронов-убийц, оптимизация пропаганды, увеличение экономического неравенства. Или вообще не связанные с ИИ риски: климат, голод, эпидемии, ядерная война. Казалось бы эти риски к нам гораздо ближе, они сильно вероятнее, так что обращать внимание надо в первую очередь на них.
Однако для меня абсолютно логично, что “думеры” говорят про экзистенциальный риск. Их цель не убедить вас, что ИИ может быть опасен. Их цель донести, что ИИ смертельно опасен, просто ОХРЕНЕТЬ КАК ОПАСЕН. Это очень разные вещи.
Приведу такую аналогию. Вы находитесь на Урале, живете себе в домике. На улице у вас сушатся носки. Надвигается лесной пожар. О чем вы будете беспокоится?
1. Носки провоняют дымом.
2. Пожар сожжет ваш дом.
Носки провоняют гораздо раньше и с гораздо большей вероятностью. Однако выбор приоритета очевиден: хрен с ними с носками. Думаем сразу наперед.
Верящие в экзистенциальный риск ИИ пытаются предупредить всех именно про пожар. Даже ужасные вещи, к которым слабый ИИ может привести нас уже в ближайшем времени, меркнут по сравнению с настоящей угрозой. Пусть вероятность реализации этого риска маленькая, его масштаб вот насто-о-олько велик.
В полемике про ИИ риск происходит нестыковка: “думеры” говорят про пожар, а их оппонентны думают, что речь о носках. Слышны возгласы: зачем вы предлагаете бежать из дома из-за того, что носки провоняют дымом? “Анти-думеры” видят в предлагаемых мерах перебор, потому что думают о другой угрозе.
Следовательно кому-то в этой системе надо четче изъясняться о предмете разговора, а кому-то не игнорировать этот предмет, пусть даже о нем сложнее рассуждать.
👍60👎11🤔9🔥2😁2
#лабораторный_журнал
Один из фаундеров PF из семьи Х, владельцев большой и богатой одноименной компании. На недавней выставке он попросил меня показать его отцу, его брату и нескольким работникам компании нашу систему с computer vision.
Казалось бы кого можно удивить ConvNext классификатором? Даже крутых картинок с баундингбоксами нет. Но все были очень впечатлены. Потому что во всей компании с присутствием в 50+ странах такого нет.
Я думаю мы сильно переоцениваем проникновение ML в компании вне IT. Это поле еще пахать и пахать.
Но пахать очень тяжело: нужно быть реально крутым, чтобы найти у этих компаний проблему решаемую с помощью ML, формализовать, решить и поддерживать. Наиболее сложные первые два этапа, потому что люди хотят довольно сложных вещей. Если бы проблемы были вида "у нас есть фотографии, на них иногда все плохо, иногда хорошо, надо определять когда плохо", то их бы до вас кто-то решил. Вместо этого проблемы вида: мясо хранится в стендах определённой формы, иногда внутри мяса во время хранения начинается ферментация, что может быть замечено по скорости изменения влажности внутри мяса и скорости изменения на поверхности, но измерить это нельзя, потому что в каждый кусок сенсор не засунешь. Вот и ломай голову. Сломаешь: получишь большой контракт.
Один из фаундеров PF из семьи Х, владельцев большой и богатой одноименной компании. На недавней выставке он попросил меня показать его отцу, его брату и нескольким работникам компании нашу систему с computer vision.
Казалось бы кого можно удивить ConvNext классификатором? Даже крутых картинок с баундингбоксами нет. Но все были очень впечатлены. Потому что во всей компании с присутствием в 50+ странах такого нет.
Я думаю мы сильно переоцениваем проникновение ML в компании вне IT. Это поле еще пахать и пахать.
Но пахать очень тяжело: нужно быть реально крутым, чтобы найти у этих компаний проблему решаемую с помощью ML, формализовать, решить и поддерживать. Наиболее сложные первые два этапа, потому что люди хотят довольно сложных вещей. Если бы проблемы были вида "у нас есть фотографии, на них иногда все плохо, иногда хорошо, надо определять когда плохо", то их бы до вас кто-то решил. Вместо этого проблемы вида: мясо хранится в стендах определённой формы, иногда внутри мяса во время хранения начинается ферментация, что может быть замечено по скорости изменения влажности внутри мяса и скорости изменения на поверхности, но измерить это нельзя, потому что в каждый кусок сенсор не засунешь. Вот и ломай голову. Сломаешь: получишь большой контракт.
❤57👍20🔥8👏1
Решил проверить как у GPT-4 с Географией. Придумал: можно проверить понимание расположения объектов попросив её исключить один из них из карты.
Полный провал.
Промпты:
1. Карта мира
2. Карта мира без России
3. Карта мира без США
4. Карта мира без Евразии
Дальше уже не стал пытаться, везде одно и то же: просто карта мира.
Интересно, почему все карты получаются в стиле Age of Sail?
Полный провал.
Промпты:
1. Карта мира
2. Карта мира без России
3. Карта мира без США
4. Карта мира без Евразии
Дальше уже не стал пытаться, везде одно и то же: просто карта мира.
Интересно, почему все карты получаются в стиле Age of Sail?
❤9