Data Secrets
77.4K subscribers
6.04K photos
593 videos
20 files
2.43K links
Главный по машинному обучению

Сотрудничество: @veron_28

РКН: clck.ru/3FY3GN
Download Telegram
This media is not supported in your browser
VIEW IN TELEGRAM
Двойные графики иногда называют “вводящими в заблуждение”, потому что их шкалы можно так сжать и растянуть, что ряды станут похожими, хотя таковыми и не являются, или наоборот, их похожесть абсолютно нельзя будет определить по графику (см. гиф). Это приводит к ложным выводам.

Чтобы не обмануться, лучше всего дополнительно посчитать корреляцию. Она в любом случае не изменится (то есть как бы «учтет» манипуляции с осями), потому что нормализует каждый ряд по среднему и дисперсии. Например, как бы вы не растягивали тренды, если корреляции между метриками нет, она и не покажется.

😻 #analytics
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥19👍13🐳7🤔3
Как грызть гранит науки о данных?

С чего начать, как продолжить и что точно нельзя упустить? На связи редакция Data Secrets, и сейчас мы всё-всё расскажем, а заодно проведем небольшую экскурсию по нашему журналу 🙂

Вообще, образование data специалиста стоит на двух китах: математика и программирование.

Математика, в свою очередь, стоит на трех черепахах: теория вероятностей и статистика, линейная алгебра, основы мат. анализа. Вся эта математика, кстати, далеко не так сложна как кажется. Проблема в том, что её плохо и скучно объясняют во многих вузах. А у нас вы можете найти интересные пояснения на эту тему по хэштэгу #math. Вот например, посты, где мы препарируем нормальное распределение, поясняем за градиенты и объясняем математику AB-теста. А вот наша подборка книг по математике – с ними точно не пропадете.

Программирование в дате – это в основном Python и SQL. Python является стандартом де-факто для нашей сферы: он простой и логичный. Помимо синтаксиса обязательно нужно знать несколько основных библиотек: pandas, numpy, sklearn и, если планируете заниматься нейросетями, то еще PyTorch и TensorFlow. Про это и еще много всего питоновского мы пишем по хэштегу #python. Вот наши любимые посты: Как пара строк кода может сократить использование памяти в два раза, Запускаем графовую нейросеть за 5 минут, Деплоим модель с помощью FastAPI. Про SQL тоже пишем (#SQL), куда же без него: Советы по написанию запросов, Вообще все про NULL, Соединяем питон с SQL и многое другое.

После изучения этой базы начинается все самое интересное:

– Классические алгоритмы машинного обучения (у нас по хэштегу #train). Вот несколько основных: Линейная регрессия, Стекинг, Бустинг, Обучение с подкреплением. А еще мы рассказываем про всякие хитрости и нюансы, например, что делать со статичными фичами и какие бывают необчные функции потерь.

– Конечно же, нейросети (#NN). Они бывают разные: сверточные, рекуррентные (а еще LSTM), графовые, диффузионные, трансформеры, GANы. Конечно, обучать их нелегко, но мы освещаем тонкости: например, пост про эмбеддинги, про DropOut или про всякие фишки CNN.

– Ну и аналитика с визуализацией. Умение проанализировать данные, обработать и представить их в виде хорошо читаемых схем – важный скилл (важнее, чем уметь обучать нейросети). Мы делимся инсайтами по хэштегу #analytics: например, рассказываем про бандитсткую альтернативу AB-тестам, учим правильно рисовать графики и делимся надежным роадмэпом для анализа данных.

Вот как-то так. Мы также рекомендуем много хорошей литературы, бесплатных курсов и источников по хэштегу #advice. А еще постим новости (#news) и самые лучшие мемы (#memes). Желаем удачи!

😻 Ваша команда Data Secrets
Please open Telegram to view this post
VIEW IN TELEGRAM
145👍50🔥163🤯21👌1🍌1🤨1🤓1
Как правильно задизайнить AB-тест

Вот 5 простых шагов и ответ на вопрос «зачем это нужно».

😻 #analytics
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍565🤯3🐳1🤨1🙈1🗿1
Что делать с НЕнормальным распределением?

Как известно, моделям (особенно линейным) нравится, когда данные имеют нормальное распределение. Но что делать, если это не так? Рассказываем про два варианта: простой и посложнее.

😻 #train #analytics #python
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍43🔥106🤯4😐3🙈3
ARIMA

ARIMA — это такой алгоритм для прогнозирования временных рядов. ARIMA использует исторические значения и скользящее среднее, чтобы получить предсказания. В карточках – интуитивное объяснение, немного математики и код.

😻 #analytics #train
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍45❤‍🔥65🤔1
Зацените, как люди любят визуализацию: нашли в Твиттере аналитика Ewa Tuteja, которая сама связала датавиз и пометила пост прикольным тегом #DressYourHouseInData

😻 #analytics
Please open Telegram to view this post
VIEW IN TELEGRAM
👍47🔥12😁119🤯5
QQ-плот и с чем его едят

Сначала объяснили, кто такие куку и как они строятся. Потом раскрыли все секреты того, как их читать и делать по ним важные выводы. А напоследок показали универсальный код на питоне для построения этих графиков.

😻 #analytics
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
40👍20🤯6❤‍🔥1
Незабываемая пятерка: топ самых крутых датавизов от нашей редакции

Смотрим, залипаем и учимся: как превращать данные во что-то изящно простое и одновременно красивое на примере 5 дашбордов.

😻 #analytics
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
31👍10
CloudReports – для быстрой выгрузки данных из облака

Хорошая аналитика невозможна без хороших данных. Сегодня все больше компаний хранят данные в облачных сервисах. Но с выгрузкой данных оттуда есть нюанс... Читайте карточки – сами все поймете.

Как и обещали, оставляем ссылку на шаблоны отчетов и на Telegram канал CloudReports с новостями из мира аналитики.

Кто-нибудь пробовал? Дайте обратную связь.

😻 #advice #analytics
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍114🔥3
3 способа найти период в данных

Период - это время, необходимое для повторения "шаблона" в данных. Используя данные о периоде, можно построить модель с сезонностью, которая будет лчше предиктить будущие значения. Но как это период определить? На примере и в комплекте с кодом показываем три способа.

😻 #analytics #train
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍57🔥10👏43🥰3💯1🙈1
Мощные и малоизвестные фишки Matplotlib

На днях мы копались в документации Matplotlib и были удивлены количеству плюшек, которые он предоставляет. Теперь делимся с вами самыми порадовавшими нас находками. Поехали читать карточки (или документацию, или и то и то)!

😻 #python #analytics
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍60🤯12❤‍🔥7🔥21
Никогда не используйте feature importances для случайного леса в sklearn

И вот почему: используемый в этой функции метод склонен переоценивать важность непрерывных вещественных или многозначных категориальных признаков. Дело в том, что такие фичи просто предоставляют древовидным моделям больше возможностей разделить данные пополам, и их важность переоценивается. Показываем пример и обсуждаем альтернативный подход.

😻 #analytics #train
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍803
Partial Dependence Plots для интерпретации моделей

Чем больше машинного обучения в нашей жизни, тем острее встает вопрос повышения интерпретируемости моделей. В классическом примере с кредитом в случае отказа клиент всегда хочет знать, по какой именно причине ему не дали займ.

Поэтому появляется все больше и больше инструментов, которые приокрывают нам "черный ящик": feature importance, SHAP-значения или графики частичной зависимости. Вот о таких графиках сегодня и поговорим.

P.S. Мы вдохновились этим материалом с Kaggle, и здесь же у ребят есть ноутбук с отличными практическими упражнениями – можно перейти и проверить свои знания

😻 #train #analytics
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍228🤔2
Тем временем МАИ совместно с VK Education запустили бесплатный онлайн-курс Введение в анализ данных.

Ведет курс Костя Измайлов: Chief Data Officer в Yandex и по совместительству Kaggle Master. Курс достаточно емкий и компактный, всего около 5 часов. Цена – 0 рублей. Темы курса классические, он подойдет для новичков или для тех, кто хочет освежить знания:

1. Python для анализа данных
2. Визуализация данных
3. Статистический анализ данных
4. Работа с базами данных

Все рабочие блокноты, кстати, доступны тут.

😻 #analytics #news #advice
Please open Telegram to view this post
VIEW IN TELEGRAM
👍457🤯3🤨1
Отличная пдфка от Данила Звягинцева про плохие паттерны в датавизе

В наборе:

- отсутствие контекста данных
- попытка угодить каждому
- много визуального шума (цветов, дизайн элементов, картинок и тд)
- непонятные заголовки
- обман графиками: манипуляции осями, 3D
- отсутствие темплейтов и стандартизации
- отсутствие выводов и призывов к действию

😻 #analytics
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍194