Forwarded from Карьера в науке
#Карьерныеистории: от студента МГУ до постдока Стэнфорда
Артемий Новоселов, постдок School of Sustainability Стэнфордского университета, автор телеграм-канала NN for Science, рассказал «Карьере в науке» свою историю успеха.
Артемий изучает применение искусственного интеллекта к геофизике (науке об изучении планет с помощью физических методов), читает лекции в Стэнфорде и занимается популяризацией науки.
«Изначально у меня даже не было мысли связать жизнь с геологией. Я занимался в театральной школе около 8 лет и хотел поступать в театральный университет. В последний момент мама отговорила, и выбор пал на геологический факультет МГУ. Меня привлекала идея ходить в походы и носить бороду, а геологи все это делают, в этом была вся задумка. Геологом я стал, но бороду так и не ношу, а в походы хожу в свободное от работы время».
Об учебе в Норвегии, работе в Стэнфорде и о том, как применяется искусственный интеллект в геофизике, читайте в наших карточках.
#карьерныеистории #стэнфорд #постдок
Артемий Новоселов, постдок School of Sustainability Стэнфордского университета, автор телеграм-канала NN for Science, рассказал «Карьере в науке» свою историю успеха.
Артемий изучает применение искусственного интеллекта к геофизике (науке об изучении планет с помощью физических методов), читает лекции в Стэнфорде и занимается популяризацией науки.
«Изначально у меня даже не было мысли связать жизнь с геологией. Я занимался в театральной школе около 8 лет и хотел поступать в театральный университет. В последний момент мама отговорила, и выбор пал на геологический факультет МГУ. Меня привлекала идея ходить в походы и носить бороду, а геологи все это делают, в этом была вся задумка. Геологом я стал, но бороду так и не ношу, а в походы хожу в свободное от работы время».
Об учебе в Норвегии, работе в Стэнфорде и о том, как применяется искусственный интеллект в геофизике, читайте в наших карточках.
#карьерныеистории #стэнфорд #постдок
❤48👍22🔥8😱1🤩1
Fortuna - A Library for Uncertainty Quantification
Привет! Приходилось ли вам принимать важное решение, но вы не были уверены, что делаете правильный выбор? Есть способ помочь принять более обоснованное решение, и он называется квантификацией неопределенности.
Fortuna - это библиотека, которая поможет вам оценить неопределенность в ваших проектах. В библиотеке есть несколько действительно интересных функций, таких как конформные методы, которые позволяют получить калиброванные прогнозы, и поддержка байесовского вывода в моделях глубокого обучения.
Количественная оценка неопределенности важна, поскольку она помогает нам понять, насколько мы не уверены в наших прогнозах или решениях. Выяснив степень неопределенности, мы можем сделать более обоснованный выбор. Fortuna позволяет легко использовать количественную оценку неопределенности в ваших проектах, поэтому попробуйте ее, если вы хотите принимать более взвешенные решения.
Ознакомьтесь с документацией для получения дополнительной информации.
Привет! Приходилось ли вам принимать важное решение, но вы не были уверены, что делаете правильный выбор? Есть способ помочь принять более обоснованное решение, и он называется квантификацией неопределенности.
Fortuna - это библиотека, которая поможет вам оценить неопределенность в ваших проектах. В библиотеке есть несколько действительно интересных функций, таких как конформные методы, которые позволяют получить калиброванные прогнозы, и поддержка байесовского вывода в моделях глубокого обучения.
Количественная оценка неопределенности важна, поскольку она помогает нам понять, насколько мы не уверены в наших прогнозах или решениях. Выяснив степень неопределенности, мы можем сделать более обоснованный выбор. Fortuna позволяет легко использовать количественную оценку неопределенности в ваших проектах, поэтому попробуйте ее, если вы хотите принимать более взвешенные решения.
Ознакомьтесь с документацией для получения дополнительной информации.
👍29🔥3
ИИ на службе душевного равновесия
Психотерапия - эффективный способ решения проблем психического здоровья, но к сожалению, качество услуг варирует от терапевта к терапевту.
Стэнфордские исследователи разработали инструмент обработки естественного языка под названием CRSTL (Computational RepresentationS of Therapist Language), чтобы лучше понять, что работает в психотерапии. CRSTL переводит расшифровку терапевтических сессий в 16 количественных характеристик, которые могут быть проанализированы с помощью ИИ.
Характеристики включают частоту использования терапевтами различных местоимений и упоминание различных эмоций. Инструмент также измеряет, сколько времени терапевты говорят и как быстро они говорят. CRSTL позволяет понять, как эти характеристики меняются в течение сессии и как они различаются между сессиями и терапевтами.
Результаты показывают, что анализ языка терапевтов может помочь понять, что способствует эффективности психотерапевтических сессий.
Инструмент можно скачать тут
Психотерапия - эффективный способ решения проблем психического здоровья, но к сожалению, качество услуг варирует от терапевта к терапевту.
Стэнфордские исследователи разработали инструмент обработки естественного языка под названием CRSTL (Computational RepresentationS of Therapist Language), чтобы лучше понять, что работает в психотерапии. CRSTL переводит расшифровку терапевтических сессий в 16 количественных характеристик, которые могут быть проанализированы с помощью ИИ.
Характеристики включают частоту использования терапевтами различных местоимений и упоминание различных эмоций. Инструмент также измеряет, сколько времени терапевты говорят и как быстро они говорят. CRSTL позволяет понять, как эти характеристики меняются в течение сессии и как они различаются между сессиями и терапевтами.
Результаты показывают, что анализ языка терапевтов может помочь понять, что способствует эффективности психотерапевтических сессий.
Инструмент можно скачать тут
❤19👍8🔥3😱3😁2
Forwarded from тоже моушн
This media is not supported in your browser
VIEW IN TELEGRAM
ну что, готовы к продвинутой интерполяции?
не ограничивай себя статичными генерациями! возьми уже наконец свои seeds и prompts, расположи в красивом порядке и сгенерируй плавную* анимацию в новом колабе!
colab notebook
*плавную насколько это возможно
@тоже_моушн
не ограничивай себя статичными генерациями! возьми уже наконец свои seeds и prompts, расположи в красивом порядке и сгенерируй плавную* анимацию в новом колабе!
colab notebook
👍21🔥6
Курс по машинному обучению простыми словами от автора канала @nn_for_science
Готовы ли вы узнать о нейронных сетях и их использовании в научных исследованиях? Мой курс по машинному обучению (весна 2022 года) уже доступен бесплатно для всех желающих!
В этом курсе, состоящем из 12 лекций, вы получите высокоуровневый обзор современных методов искусственного интеллекта и их использования в различных научных областях. От биологии и физики до лингвистики и философии, глубокое обучение (нейронные сети) быстро становится одним из самых перспективных методов в машинном обучении.
Не упустите шанс понять, что возможно сейчас и и что будет возможно в ближайшем будущем.
🎥 Посмотреть курс прямо сейчас
Мне бы хотелось, чтобы как можно больше людей получили пользу от этого курса, поэтому, пожалуйста, поделитесь им со своими друзьями и подписчиками. Заранее спасибо!
А еще я потихоньку начинаю работать над новой версией этого курса и мне очень нужен ваш фидбек! Пишите комментарии что и как можно улучшить
Готовы ли вы узнать о нейронных сетях и их использовании в научных исследованиях? Мой курс по машинному обучению (весна 2022 года) уже доступен бесплатно для всех желающих!
В этом курсе, состоящем из 12 лекций, вы получите высокоуровневый обзор современных методов искусственного интеллекта и их использования в различных научных областях. От биологии и физики до лингвистики и философии, глубокое обучение (нейронные сети) быстро становится одним из самых перспективных методов в машинном обучении.
Не упустите шанс понять, что возможно сейчас и и что будет возможно в ближайшем будущем.
🎥 Посмотреть курс прямо сейчас
Мне бы хотелось, чтобы как можно больше людей получили пользу от этого курса, поэтому, пожалуйста, поделитесь им со своими друзьями и подписчиками. Заранее спасибо!
А еще я потихоньку начинаю работать над новой версией этого курса и мне очень нужен ваш фидбек! Пишите комментарии что и как можно улучшить
🔥42👍7❤3🎉3🤯2🤩1
Мозг использует нелинейное пространство для ориентации
Исследователи обнаружили, что нейроны в определенной области мозга, называемой областью СА1 гиппокампа, представляют пространство с помощью нелинейной гиперболической геометрии. Этот тип геометрии использует экспоненциальную шкалу, что позволяет хранить больше позиционной информации, чем линейная шкала.
Исследователи также обнаружили, что размер этого представления меняется в зависимости от количества времени, которое животное тратит на изучение окружающей среды. Например, если крыса проводит больше времени, исследуя новую область, представление этой области в ее мозгу расширяется.
Эти результаты важны, поскольку они показывают, как мозг способен эффективно представлять информацию об окружающем нас пространстве с помощью динамической гиперболической геометрии. Такое понимание потенциально может помочь нам разработать лучшие способы навигации и понимания окружающей среды.
Статья в Nature
Исследователи обнаружили, что нейроны в определенной области мозга, называемой областью СА1 гиппокампа, представляют пространство с помощью нелинейной гиперболической геометрии. Этот тип геометрии использует экспоненциальную шкалу, что позволяет хранить больше позиционной информации, чем линейная шкала.
Исследователи также обнаружили, что размер этого представления меняется в зависимости от количества времени, которое животное тратит на изучение окружающей среды. Например, если крыса проводит больше времени, исследуя новую область, представление этой области в ее мозгу расширяется.
Эти результаты важны, поскольку они показывают, как мозг способен эффективно представлять информацию об окружающем нас пространстве с помощью динамической гиперболической геометрии. Такое понимание потенциально может помочь нам разработать лучшие способы навигации и понимания окружающей среды.
Статья в Nature
👍50🔥15🤯13❤3🤩3
Хорошие новости для тех, кто беспокоится о слишком умном ИИ. Человечество на пороге дефицита данных
Исследователи из Epoch AI обнаружили, что мировой запас данных может оказаться недостаточным, чтобы удовлетворить потребности все более голодных моделей машинного обучения.
По их прогнозам, дефицит восококачественных текстовых данных может возникнуть уже в этом (2023) году, а данных для задач компьютерного зрения - в течение десятилетия.
Авторы сделали прогноз объема неразмеченных данных: оценили текущий размер источников и темпы создания контента в каждом из них. Для LLM особенно важны Википедия, arxiv, электронные библиотеки - где есть контроль качества или редакционный контроль. Для CV - YouTube, Insta, Snapchat, FB.
Затем они рассчитали размер наборов данных, необходимых для обучения будущих моделей, и определили, когда пересекутся кривые спроса и предложения.
Вдруг вы сомневаетесь, нужны ли книги, статьи или видео вашего авторства. Да, очень нужны. Творите, пожалуйста🤍
📖Статья
@GingerSpacetail
Исследователи из Epoch AI обнаружили, что мировой запас данных может оказаться недостаточным, чтобы удовлетворить потребности все более голодных моделей машинного обучения.
По их прогнозам, дефицит восококачественных текстовых данных может возникнуть уже в этом (2023) году, а данных для задач компьютерного зрения - в течение десятилетия.
Авторы сделали прогноз объема неразмеченных данных: оценили текущий размер источников и темпы создания контента в каждом из них. Для LLM особенно важны Википедия, arxiv, электронные библиотеки - где есть контроль качества или редакционный контроль. Для CV - YouTube, Insta, Snapchat, FB.
Затем они рассчитали размер наборов данных, необходимых для обучения будущих моделей, и определили, когда пересекутся кривые спроса и предложения.
Вдруг вы сомневаетесь, нужны ли книги, статьи или видео вашего авторства. Да, очень нужны. Творите, пожалуйста🤍
📖Статья
@GingerSpacetail
👍60😁15❤11🔥1😢1
Какие модели лучше?
Мне часто бывает нужна baseline модель классификации, точность которой будет использоваться как эталон для тестирования своих моделей (например representation learning для downstream задач) или просто предобученная модель, чтобы быстро начать экспериментировать. И каждый раз возникает вопрос, какую архитектуру использовать.
Хочу поделится ноутбуком с наглядным сравнением разных архитектур, где модели оцениваются с точки зрения точности и скорости на наборе данных Imagenet. Это сравнение основано на библиотеке предобученных моделей PyTorch Image Models (timm).
Спойлер: модели семейства LeViT - самые быстрые и самые точные среди самых быстрых. Это неудивительно - они представляют собой гибрид лучших идей CNN и трансформеров. Семейство BEiT самые точные, но и самые медленные (хотя нужно быть осторожным с интерпретацией, т.к. они обучены на большем наборе данных ImageNet-21k).
А моя любимая ResNet18 отстает почти на 10 пунктов от такой же по скорости LeViT-256🐈
📖Ноутбук
👨💻timm
@karray
Мне часто бывает нужна baseline модель классификации, точность которой будет использоваться как эталон для тестирования своих моделей (например representation learning для downstream задач) или просто предобученная модель, чтобы быстро начать экспериментировать. И каждый раз возникает вопрос, какую архитектуру использовать.
Хочу поделится ноутбуком с наглядным сравнением разных архитектур, где модели оцениваются с точки зрения точности и скорости на наборе данных Imagenet. Это сравнение основано на библиотеке предобученных моделей PyTorch Image Models (timm).
Спойлер: модели семейства LeViT - самые быстрые и самые точные среди самых быстрых. Это неудивительно - они представляют собой гибрид лучших идей CNN и трансформеров. Семейство BEiT самые точные, но и самые медленные (хотя нужно быть осторожным с интерпретацией, т.к. они обучены на большем наборе данных ImageNet-21k).
А моя любимая ResNet18 отстает почти на 10 пунктов от такой же по скорости LeViT-256
📖Ноутбук
👨💻timm
@karray
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥34👍11❤5
Тут кто-то из твиттеров запилил семантический поиск по arxiv.org для CS, используя эмбеддинги вместо текста.
Это работает так: сначала были извлечены эмбеддинги из 500к абстрактов используя OpenAI API (что стоило $40). Потом эти эмбеддинги были сохранены в векторную базу данных Pinecone. Далее, когда пользователь вводит текст в поиске, из него также извлекается эмбеддинг через API, а потом производится поиск по базе. Кроме того, сервис позволяет искать похожие статьи. Результаты сортируются по cosine similarity между запросом и статьей (так же выводится в карточках в процентах).
Эмбеддинг - это математическое представление слов или документов в векторном пространстве, где каждое слово или документ представлено в виде вектора. Эти векторы заключают в себе значение и контекст в непрерывном числовом пространстве, что позволяет сравнивать сходство между словами или документами по значению, вычисляя расстояние между их векторами.
👨💻 arxivxplorer.com
@karray
Это работает так: сначала были извлечены эмбеддинги из 500к абстрактов используя OpenAI API (что стоило $40). Потом эти эмбеддинги были сохранены в векторную базу данных Pinecone. Далее, когда пользователь вводит текст в поиске, из него также извлекается эмбеддинг через API, а потом производится поиск по базе. Кроме того, сервис позволяет искать похожие статьи. Результаты сортируются по cosine similarity между запросом и статьей (так же выводится в карточках в процентах).
Эмбеддинг - это математическое представление слов или документов в векторном пространстве, где каждое слово или документ представлено в виде вектора. Эти векторы заключают в себе значение и контекст в непрерывном числовом пространстве, что позволяет сравнивать сходство между словами или документами по значению, вычисляя расстояние между их векторами.
👨💻 arxivxplorer.com
@karray
👍66🔥21🤯13
Привет с лекции Андрея Карпати в Стенфорде! Приятно осознавать, что еще пару лет назад я слушал его лекции онлайн и даже не думал что смогу ходить на них в живую.
Dream big!
Dream big!
🔥137❤16🤩5👍4🤯2🎉2😱1
Революционная система прогнозирования погоды на основе искусственного интеллекта генерирует точные прогнозы на 10 дней всего за 60 секунд
Новая система для прогноза погоды GraphCast, разработанная DeepMind, использует машинное обучение (ML) и графовые нейронные сети (GNNs) для создания точных прогнозов погоды на 10 дней всего за 60 секунд. В отличие от традиционных систем численного прогнозирования погоды (NWP), GraphCast может эффективно масштабироваться с увеличением доступности данных.
Процесс моделирования в GraphCast включает три этапа: сначала получают эмбеддинг входных данных с помощью GNN, затем используют глубокую GNN для обработки всех вводных, и, наконец, предсказывают погоду в заданных координатах.
Благодаря этому инновационному подходу GraphCast превосходит существующие модели прогнозирования погоды, обещая произвести революцию в промышленности и улучшить повседневную жизнь людей.
🌪️ Подробнее в статье
Новая система для прогноза погоды GraphCast, разработанная DeepMind, использует машинное обучение (ML) и графовые нейронные сети (GNNs) для создания точных прогнозов погоды на 10 дней всего за 60 секунд. В отличие от традиционных систем численного прогнозирования погоды (NWP), GraphCast может эффективно масштабироваться с увеличением доступности данных.
Процесс моделирования в GraphCast включает три этапа: сначала получают эмбеддинг входных данных с помощью GNN, затем используют глубокую GNN для обработки всех вводных, и, наконец, предсказывают погоду в заданных координатах.
Благодаря этому инновационному подходу GraphCast превосходит существующие модели прогнозирования погоды, обещая произвести революцию в промышленности и улучшить повседневную жизнь людей.
🌪️ Подробнее в статье
👍73🔥11❤1