PDP – отличный график для EDA

Partial dependence plots (PDP) — это график, который позволяет понять, как различные значения конкретной фичи влияют на предсказания модели. Это еще один способ заглянуть в черный ящик и сделать модель более интерпретируемой.

😻 #train #analytics

TruthGPT by Илон Маск

В новом интервью Илон Маск признался, что действительно хочет сделать альтернативу ChatGPT, и даже дал название будущей платформе — TruthGPT. Она, по его замыслу, станет ориентированной на поиск истины системой искусственного интеллекта.

Идея, по словам Маска, заключается в создании системы ИИ, которая стремится понять человечество, и с меньшей вероятностью сможет его уничтожить.

😻 #news

RedPajama: текстовый датасет на 1.2 триллиона токенов

Недавно появилась Dolly 2.0 – первая открытая 12B Chat-LLM, которую можно использовать в коммерческих продуктах. Теперь таких моделей станет больше, ведь нам завезли кучу текстовых данных!

RedPajama - это датасет на 1.2 триллиона текстовых токенов, созданный с целью воспроизведения передовых LLM. Датасет был воссоздан по рецепту из статьи о LLaMA (то есть LLaMA училась на чем-то похожем). Главное: RedPajama-Data-1T является открытым и доступным для скачивания. Простор для обучения своих моделек!

Кажется, что благодаря этим данным через пару месяцев мы увидим в open-source полностью открытую версию LLaMA.

😻 #advice