This media is not supported in your browser
VIEW IN TELEGRAM
🔥 Soup - дообучение LLM одной командой
Проект упрощает fine-tuning и post-training моделей до схемы: один YAML-конфиг → одна команда.
Самое интересное:
- можно дообучать 8B-модель даже на ноутбуке с 4 ГБ VRAM
- layer streaming подаёт слои модели на GPU по одному
- работает с QLoRA и локальными GPU
- автоматически подбирает batch size, устройство и квантование
- есть DPO, ORPO, SimPO и KTO
- без SSH и отдельной облачной инфраструктуры
На RTX 3050 Laptop 4 GB авторы запускали Llama 3.1 8B Instruct с пиковым потреблением около 3,32 ГБ VRAM.
https://github.com/MakazhanAlpamys/Soup
Проект упрощает fine-tuning и post-training моделей до схемы: один YAML-конфиг → одна команда.
Самое интересное:
- можно дообучать 8B-модель даже на ноутбуке с 4 ГБ VRAM
- layer streaming подаёт слои модели на GPU по одному
- работает с QLoRA и локальными GPU
- автоматически подбирает batch size, устройство и квантование
- есть DPO, ORPO, SimPO и KTO
- без SSH и отдельной облачной инфраструктуры
На RTX 3050 Laptop 4 GB авторы запускали Llama 3.1 8B Instruct с пиковым потреблением около 3,32 ГБ VRAM.
https://github.com/MakazhanAlpamys/Soup
👍14❤4🔥3
🔥 Google выпустила Gemini Omni 1.1 Flash для генерации и редактирования видео
Главные возможности:
- продление сцены до 40 секунд с учётом предыдущих 10 секунд видео
- генерация плавного перехода между первым и последним кадром
- черновики в 360p - до 60% быстрее и примерно в 3 раза дешевле 720p
- апскейл готового видео до 1080p и 4K
- можно использовать до 3 секунд видео как референс для движения и сохранения персонажей
- доступ через Gemini API и Google AI Studio
Модель уже интегрируют Adobe Firefly, Figma Weave и Runway.
https://blog.google/innovation-and-ai/technology/developers-tools/build-with-gemini-omni-1-1-flash/
Главные возможности:
- продление сцены до 40 секунд с учётом предыдущих 10 секунд видео
- генерация плавного перехода между первым и последним кадром
- черновики в 360p - до 60% быстрее и примерно в 3 раза дешевле 720p
- апскейл готового видео до 1080p и 4K
- можно использовать до 3 секунд видео как референс для движения и сохранения персонажей
- доступ через Gemini API и Google AI Studio
Модель уже интегрируют Adobe Firefly, Figma Weave и Runway.
https://blog.google/innovation-and-ai/technology/developers-tools/build-with-gemini-omni-1-1-flash/
❤4🔥4👍1