🐳 Делаем конкурента DeepSeek R1-Zero на домашней пекарне: метод GRPO в Unsloth
Современные LLM требуют больших вычислительных мощностей для обучения и файн-тюнинга. Однако разработчики Unsloth нашли способ обучать модели с логическим рассуждением (подобные DeepSeek R1-Zero) даже на маломощных видеокартах с ограниченной памятью.
Ключевая особенность Unsloth — поддержка нового алгоритма GRPO, который позволяет моделям развивать логическое мышление без вмешательства человека. Раньше для достижения «момента озарения» на модели Qwen2.5 (1.5B) требовалось две A100 (160 Гб VRAM), но разработчикам Unsloth удалось значительно оптимизировала процесс GRPO, сделав его:
— в 5 раз менее требовательным к видеопамяти (сейчас экономия составляет 80% VRAM по сравнению с HuggingFace + FA2);
— доступным для локального обучения на видеокартах от 7 Гб VRAM;
— совместимым с QLoRA и LoRA, а не только с полным дообучением.
Кроме того, разработчики Unsloth добавили поддержку OnlineDPO, PPO и RLOO.
👉 Читать статью
Современные LLM требуют больших вычислительных мощностей для обучения и файн-тюнинга. Однако разработчики Unsloth нашли способ обучать модели с логическим рассуждением (подобные DeepSeek R1-Zero) даже на маломощных видеокартах с ограниченной памятью.
Ключевая особенность Unsloth — поддержка нового алгоритма GRPO, который позволяет моделям развивать логическое мышление без вмешательства человека. Раньше для достижения «момента озарения» на модели Qwen2.5 (1.5B) требовалось две A100 (160 Гб VRAM), но разработчикам Unsloth удалось значительно оптимизировала процесс GRPO, сделав его:
— в 5 раз менее требовательным к видеопамяти (сейчас экономия составляет 80% VRAM по сравнению с HuggingFace + FA2);
— доступным для локального обучения на видеокартах от 7 Гб VRAM;
— совместимым с QLoRA и LoRA, а не только с полным дообучением.
Кроме того, разработчики Unsloth добавили поддержку OnlineDPO, PPO и RLOO.
👉 Читать статью
😳 Если бы языки программирования были девушками
Выбрать язык — всё равно что найти идеального партнера. Кто-то западает на строгую типизацию, кто-то ищет простоту и гибкость, а некоторые готовы углубиться в самые сложные алгоритмы отношений 😏
Мы заглянули в Тиндер разработчика и нашли там 10 достойных кандидатов. Свайпайте и выбирайте свой мэтч ❤️
А какой язык программирования похитил ваше сердце? Пишите в комментариях👇
Выбрать язык — всё равно что найти идеального партнера. Кто-то западает на строгую типизацию, кто-то ищет простоту и гибкость, а некоторые готовы углубиться в самые сложные алгоритмы отношений 😏
Мы заглянули в Тиндер разработчика и нашли там 10 достойных кандидатов. Свайпайте и выбирайте свой мэтч ❤️
А какой язык программирования похитил ваше сердце? Пишите в комментариях👇
Российским айтишникам можно будет ежегодно подтверждать навыки на Госуслугах
Минцифры запустит Национальную систему подтверждения ИТ-компетенций — с 31 мая разработчики смогут проходить тестирование по 21 направлению, включая Python, Java и Git.
➡️ Как это работает
▪️ Айтишник сдаёт тест → получает сертификат → он появляется в Госуслугах.
▪️ Сертификат нужно обновлять раз в год.
🤔 А что думаете вы: это полезный инструмент или очередная бюрократия для айтишников?
#новость
Минцифры запустит Национальную систему подтверждения ИТ-компетенций — с 31 мая разработчики смогут проходить тестирование по 21 направлению, включая Python, Java и Git.
▪️ Айтишник сдаёт тест → получает сертификат → он появляется в Госуслугах.
▪️ Сертификат нужно обновлять раз в год.
#новость
Please open Telegram to view this post
VIEW IN TELEGRAM
У нас, кстати, есть курс «Самоучитель по Go для начинающих», в котором вас ждут 18 частей с практикой.
• Обеспечена полная поддержка generic type alias.
• Внесены оптимизации в runtime, которые привели к снижению нагрузки на процессор на 2-3% при проведении типовых тестов производительности.
• В команду
go для модулей добавлен механизм отслеживания исполняемых зависимостей.• В команды
go build и go install добавлена опция -json для вывода в формате JSON.• Добавлена переменная окружения GOAUTH для задания параметров аутентификации, необходимых для извлечения модулей, доступ к которым ограничен.
• В команде
go vet реализован новый анализатор тестов, выявляющий типовые ошибки при включении тестов, fuzzing-инструментов, утилит проверки производительности и примеров приложений.• Добавлен тип
os.Root, позволяющий изолировать операции с файловой системой заданным каталогом.• В пакет testing добавлен метод
B.Loop для выполнения тестов производительности и многое другое.#новости #golang
Please open Telegram to view this post
VIEW IN TELEGRAM
Разбор как работает DeepSeek-R1
Вышла мощная статья от Jay Alammar про DeepSeek-R1 — модель, которая умеет рассуждать лучше обычных LLM. Это не просто улучшенная версия GPT (Пока мнения разнятся), а принципиально новый подход.
➡️ Что внутри статьи
🔸 Как работают reasoning-модели и почему это важно
🔸 Детальный разбор тренировочного пайплайна DeepSeek-R1
🔸 Как RL без SFT позволяет модели обучаться на задачах логики
🔸 Почему DeepSeek-R1-Zero — это революция в обучении reasoning LLM
Будущее LLM — в умении логически рассуждать. DeepSeek-R1 показывает, как это можно сделать на практике.
ℹ️ Читайте полный разбор: ссылка на статью
Вышла мощная статья от Jay Alammar про DeepSeek-R1 — модель, которая умеет рассуждать лучше обычных LLM. Это не просто улучшенная версия GPT (Пока мнения разнятся), а принципиально новый подход.
🔸 Как работают reasoning-модели и почему это важно
🔸 Детальный разбор тренировочного пайплайна DeepSeek-R1
🔸 Как RL без SFT позволяет модели обучаться на задачах логики
🔸 Почему DeepSeek-R1-Zero — это революция в обучении reasoning LLM
Будущее LLM — в умении логически рассуждать. DeepSeek-R1 показывает, как это можно сделать на практике.
Please open Telegram to view this post
VIEW IN TELEGRAM
Разработчик создал SQL Noir — интерактивную детективную игру, где расследования ведутся с помощью SQL-запросов.
Погружаешься в сюжет и решаешь загадки с реальными SQL-запросами.
🔗 Ссылка
Please open Telegram to view this post
VIEW IN TELEGRAM
⚠️ В машинном обучении, как в любви: слишком идеальные предсказания – это подозрительно!
Когда модель слишком прилипчива к тренировочным данным, результат оказывается… ну, как в отношениях, когда всё кажется идеальным, но реальность ломает сердце.
❌ Оверфиттинг (Overfitting) – модель так хорошо запомнила тренировочные данные, что на реальных данных начинает путаться.
💔 В любви: «Я выбрал идеального партнёра по профилю, а в жизни выяснилось, что его «идеальность» – всего лишь иллюзия!»
❌ Андерфиттинг (Underfitting) – модель обучена настолько поверхностно, что предсказывает мэтчи случайным образом.
💔 В любви: «Мне нравятся только люди с именем Александр, а всех остальных я даже не замечаю – бедный фильтр!»
❌ Неправильный выбор фичей (Feature Selection Fail) – если модель опирается на неважные признаки, она предсказывает мэтчи хуже случайности.
💔 В любви: «Ты любишь авокадо? Значит, мы созданы друг для друга!» – а потом оказывается, что это вовсе не про важное.
🎯 На вебинаре мы разобрали, как избежать этих ошибок и создать работающую модель для speed dating, которая на самом деле помогает находить любовь! Вчера мы не просто говорили о любви – мы её предсказывали!
🔥 Спасибо всем, кто был с нами и участвовал!
💘 Как же это было?
Если ты пропустил вебинар или хочешь пересмотреть запись – просто перейди по [ссылке] и получи видео 😉
Когда модель слишком прилипчива к тренировочным данным, результат оказывается… ну, как в отношениях, когда всё кажется идеальным, но реальность ломает сердце.
❌ Оверфиттинг (Overfitting) – модель так хорошо запомнила тренировочные данные, что на реальных данных начинает путаться.
💔 В любви: «Я выбрал идеального партнёра по профилю, а в жизни выяснилось, что его «идеальность» – всего лишь иллюзия!»
❌ Андерфиттинг (Underfitting) – модель обучена настолько поверхностно, что предсказывает мэтчи случайным образом.
💔 В любви: «Мне нравятся только люди с именем Александр, а всех остальных я даже не замечаю – бедный фильтр!»
❌ Неправильный выбор фичей (Feature Selection Fail) – если модель опирается на неважные признаки, она предсказывает мэтчи хуже случайности.
💔 В любви: «Ты любишь авокадо? Значит, мы созданы друг для друга!» – а потом оказывается, что это вовсе не про важное.
🎯 На вебинаре мы разобрали, как избежать этих ошибок и создать работающую модель для speed dating, которая на самом деле помогает находить любовь! Вчера мы не просто говорили о любви – мы её предсказывали!
🔥 Спасибо всем, кто был с нами и участвовал!
💘 Как же это было?
Если ты пропустил вебинар или хочешь пересмотреть запись – просто перейди по [ссылке] и получи видео 😉
Самые полезные каналы для программистов в одной подборке!
Сохраняйте себе, чтобы не потерять 💾
🔥Для всех
Библиотека программиста — новости, статьи, досуг, фундаментальные темы
Книги для программистов
IT-мемы
Proglib Academy — тут мы рассказываем про обучение и курсы
Азбука айтишника — здесь мы познаем азы из мира программирования
🤖Про нейросети
Библиотека робототехники и беспилотников | Роботы, ИИ, интернет вещей
Библиотека нейрозвука | Транскрибация, синтез речи, ИИ-музыка
Библиотека нейротекста | ChatGPT, Gemini, Bing
Библиотека нейровидео | Sora AI, Runway ML, дипфейки
Библиотека нейрокартинок | Midjourney, DALL-E, Stable Diffusion
#️⃣C#
Книги для шарпистов | C#, .NET, F#
Библиотека шарписта — полезные статьи, новости и обучающие материалы по C#
Библиотека задач по C# — код, квизы и тесты
Библиотека собеса по C# — тренируемся отвечать на каверзные вопросы во время интервью и технического собеседования
Вакансии по C#, .NET, Unity Вакансии по PHP, Symfony, Laravel
☁️DevOps
Библиотека devops’а — полезные статьи, новости и обучающие материалы по DevOps
Вакансии по DevOps & SRE
Библиотека задач по DevOps — код, квизы и тесты
Библиотека собеса по DevOps — тренируемся отвечать на каверзные вопросы во время интервью и технического собеседования
🐘PHP
Библиотека пхпшника — полезные статьи, новости и обучающие материалы по PHP
Вакансии по PHP, Symfony, Laravel
Библиотека PHP для собеса — тренируемся отвечать на каверзные вопросы во время интервью и технического собеседования
Библиотека задач по PHP — код, квизы и тесты
🐍Python
Библиотека питониста — полезные статьи, новости и обучающие материалы по Python
Вакансии по питону, Django, Flask
Библиотека Python для собеса — тренируемся отвечать на каверзные вопросы во время интервью и технического собеседования
Библиотека задач по Python — код, квизы и тесты
☕Java
Книги для джавистов | Java
Библиотека джависта — полезные статьи по Java, новости и обучающие материалы
Библиотека Java для собеса — тренируемся отвечать на каверзные вопросы во время интервью и технического собеседования
Библиотека задач по Java — код, квизы и тесты
Вакансии для java-разработчиков
👾Data Science
Книги для дата сайентистов | Data Science
Библиотека Data Science — полезные статьи, новости и обучающие материалы по Data Science
Библиотека Data Science для собеса — тренируемся отвечать на каверзные вопросы во время интервью и технического собеседования
Библиотека задач по Data Science — код, квизы и тесты
Вакансии по Data Science, анализу данных, аналитике, искусственному интеллекту
🦫Go
Книги для Go разработчиков
Библиотека Go разработчика — полезные статьи, новости и обучающие материалы по Go
Библиотека Go для собеса — тренируемся отвечать на каверзные вопросы во время интервью и технического собеседования
Библиотека задач по Go — код, квизы и тесты
Вакансии по Go
🧠C++
Книги для C/C++ разработчиков
Библиотека C/C++ разработчика — полезные статьи, новости и обучающие материалы по C++
Библиотека C++ для собеса — тренируемся отвечать на каверзные вопросы во время интервью и технического собеседования
Библиотека задач по C++ — код, квизы и тесты
Вакансии по C++
💻Другие каналы
Библиотека фронтендера
Библиотека мобильного разработчика
Библиотека хакера
Библиотека тестировщика
Библиотека разработчика игр | Gamedev, Unity, Unreal Engine
Вакансии по фронтенду, джаваскрипт, React, Angular, Vue
Вакансии для мобильных разработчиков
Вакансии по QA тестированию
InfoSec Jobs — вакансии по информационной безопасности
📁Чтобы добавить папку с нашими каналами, нажмите 👉сюда👈
Также у нас есть боты:
Бот с IT-вакансиями
Бот с мероприятиями в сфере IT
Мы в других соцсетях:
🔸VK
🔸YouTube
🔸Дзен
🔸Facebook *
🔸Instagram *
* Организация Meta запрещена на территории РФ
Сохраняйте себе, чтобы не потерять 💾
🔥Для всех
Библиотека программиста — новости, статьи, досуг, фундаментальные темы
Книги для программистов
IT-мемы
Proglib Academy — тут мы рассказываем про обучение и курсы
Азбука айтишника — здесь мы познаем азы из мира программирования
🤖Про нейросети
Библиотека робототехники и беспилотников | Роботы, ИИ, интернет вещей
Библиотека нейрозвука | Транскрибация, синтез речи, ИИ-музыка
Библиотека нейротекста | ChatGPT, Gemini, Bing
Библиотека нейровидео | Sora AI, Runway ML, дипфейки
Библиотека нейрокартинок | Midjourney, DALL-E, Stable Diffusion
#️⃣C#
Книги для шарпистов | C#, .NET, F#
Библиотека шарписта — полезные статьи, новости и обучающие материалы по C#
Библиотека задач по C# — код, квизы и тесты
Библиотека собеса по C# — тренируемся отвечать на каверзные вопросы во время интервью и технического собеседования
Вакансии по C#, .NET, Unity Вакансии по PHP, Symfony, Laravel
☁️DevOps
Библиотека devops’а — полезные статьи, новости и обучающие материалы по DevOps
Вакансии по DevOps & SRE
Библиотека задач по DevOps — код, квизы и тесты
Библиотека собеса по DevOps — тренируемся отвечать на каверзные вопросы во время интервью и технического собеседования
🐘PHP
Библиотека пхпшника — полезные статьи, новости и обучающие материалы по PHP
Вакансии по PHP, Symfony, Laravel
Библиотека PHP для собеса — тренируемся отвечать на каверзные вопросы во время интервью и технического собеседования
Библиотека задач по PHP — код, квизы и тесты
🐍Python
Библиотека питониста — полезные статьи, новости и обучающие материалы по Python
Вакансии по питону, Django, Flask
Библиотека Python для собеса — тренируемся отвечать на каверзные вопросы во время интервью и технического собеседования
Библиотека задач по Python — код, квизы и тесты
☕Java
Книги для джавистов | Java
Библиотека джависта — полезные статьи по Java, новости и обучающие материалы
Библиотека Java для собеса — тренируемся отвечать на каверзные вопросы во время интервью и технического собеседования
Библиотека задач по Java — код, квизы и тесты
Вакансии для java-разработчиков
👾Data Science
Книги для дата сайентистов | Data Science
Библиотека Data Science — полезные статьи, новости и обучающие материалы по Data Science
Библиотека Data Science для собеса — тренируемся отвечать на каверзные вопросы во время интервью и технического собеседования
Библиотека задач по Data Science — код, квизы и тесты
Вакансии по Data Science, анализу данных, аналитике, искусственному интеллекту
🦫Go
Книги для Go разработчиков
Библиотека Go разработчика — полезные статьи, новости и обучающие материалы по Go
Библиотека Go для собеса — тренируемся отвечать на каверзные вопросы во время интервью и технического собеседования
Библиотека задач по Go — код, квизы и тесты
Вакансии по Go
🧠C++
Книги для C/C++ разработчиков
Библиотека C/C++ разработчика — полезные статьи, новости и обучающие материалы по C++
Библиотека C++ для собеса — тренируемся отвечать на каверзные вопросы во время интервью и технического собеседования
Библиотека задач по C++ — код, квизы и тесты
Вакансии по C++
💻Другие каналы
Библиотека фронтендера
Библиотека мобильного разработчика
Библиотека хакера
Библиотека тестировщика
Библиотека разработчика игр | Gamedev, Unity, Unreal Engine
Вакансии по фронтенду, джаваскрипт, React, Angular, Vue
Вакансии для мобильных разработчиков
Вакансии по QA тестированию
InfoSec Jobs — вакансии по информационной безопасности
📁Чтобы добавить папку с нашими каналами, нажмите 👉сюда👈
Также у нас есть боты:
Бот с IT-вакансиями
Бот с мероприятиями в сфере IT
Мы в других соцсетях:
🔸VK
🔸YouTube
🔸Дзен
🔸Facebook *
🔸Instagram *
* Организация Meta запрещена на территории РФ
▪️ Функциональные описывают, ЧТО должна делать система (например, проводить оплату).
▪️Нефункциональные — КАК система должна это делать (например, за 2 секунды, с поддержкой 1000 пользователей одновременно, с шифрованием данных).
Нефункциональные требования — основа стабильности и качества работы системы. Их игнорировать нельзя.
Please open Telegram to view this post
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
Это утилита, которая поможет быстро находить готовые команды для терминала и сразу их выполнять. Вы можете использовать готовые шпаргалки или создать свои, а navi покажет возможные значения аргументов прямо в интерфейсе.
brew install navinavi — доступ ко всем шпаргалкам
▪️ Поддерживает кастомные конфиги, цвета и пути для шпаргалок
▪️ Работает в любом терминале или через Tmux
▪️ Можно использовать как скриптовый инструмент или даже через Alfred
🔗 Репозиторий
Please open Telegram to view this post
VIEW IN TELEGRAM
📊 Как себя чувствует IT-рынок в 2025 году?
Друзья, запускаем важное исследование рынка труда в IT!
Нам очень важно понять:
• Как изменились зарплаты
• Что происходит с наймом
• Есть ли сокращения или рост
🔐 Опрос полностью анонимный
⏱️ Займёт всего 3-5 минут
📈 Результаты опубликуем в подробной статье
Ваши ответы помогут составить реальную картину происходящего в индустрии.
👉 Пройти опрос
Друзья, запускаем важное исследование рынка труда в IT!
Нам очень важно понять:
• Как изменились зарплаты
• Что происходит с наймом
• Есть ли сокращения или рост
🔐 Опрос полностью анонимный
⏱️ Займёт всего 3-5 минут
📈 Результаты опубликуем в подробной статье
Ваши ответы помогут составить реальную картину происходящего в индустрии.
👉 Пройти опрос