💥️️️️️️ 9 млрд параметров вместо 27 млрд: SenseNova представила модель с повторным использованием слоёв
SenseNova Loop-9B-Preview работает на архитектуре Looped Transformer: одни и те же блоки с общими весами используются несколько раз. Это позволяет увеличивать глубину вычислений без пропорционального роста числа параметров.
Для улучшения передачи информации между блоками применяется mHC - Manifold-Constrained Hyper-Connections.
По данным разработчиков:
- Модель обходит Qwen3.5-27B на WorkBuddy Bench, RaccoonPPT Bench и AutomationBench.
- Добавление mHC повышает результат на 4,42 пункта в GPQA Diamond и на 13,34 пункта в TeamBench.
- Среди демонстраций - программирование, офисные задачи и создание интерактивных HTML-страниц с анимацией.
Повторные проходы требуют дополнительных вычислений. Поэтому 9B здесь не означает трёхкратную экономию относительно 27B, а результаты отдельных тестов не доказывают превосходство во всех задачах.
Команда объявила об открытом релизе. Дальше планирует масштабировать архитектуру и научить модель выбирать, когда отвечать быстро, а когда тратить больше вычислений на рассуждение.
🤗 Model: https://huggingface.co/sensenova/SenseNova-6.8-Loop-9B-Preview
💻 GitHub: https://github.com/OpenSenseNova/SenseNova-Loop
👾Discord: https://discord.com/invite/BuTXPHmQub
SenseNova Loop-9B-Preview работает на архитектуре Looped Transformer: одни и те же блоки с общими весами используются несколько раз. Это позволяет увеличивать глубину вычислений без пропорционального роста числа параметров.
Для улучшения передачи информации между блоками применяется mHC - Manifold-Constrained Hyper-Connections.
По данным разработчиков:
- Модель обходит Qwen3.5-27B на WorkBuddy Bench, RaccoonPPT Bench и AutomationBench.
- Добавление mHC повышает результат на 4,42 пункта в GPQA Diamond и на 13,34 пункта в TeamBench.
- Среди демонстраций - программирование, офисные задачи и создание интерактивных HTML-страниц с анимацией.
Повторные проходы требуют дополнительных вычислений. Поэтому 9B здесь не означает трёхкратную экономию относительно 27B, а результаты отдельных тестов не доказывают превосходство во всех задачах.
Команда объявила об открытом релизе. Дальше планирует масштабировать архитектуру и научить модель выбирать, когда отвечать быстро, а когда тратить больше вычислений на рассуждение.
🤗 Model: https://huggingface.co/sensenova/SenseNova-6.8-Loop-9B-Preview
💻 GitHub: https://github.com/OpenSenseNova/SenseNova-Loop
👾Discord: https://discord.com/invite/BuTXPHmQub
👍8🔥6❤3
This media is not supported in your browser
VIEW IN TELEGRAM
Шесть месяцев спустя ты занимаешься отгадкой своего же кода 😂
😁37👍2❤1
Forwarded from Machinelearning
Media is too big
VIEW IN TELEGRAM
Логика работы GPT опирается теперь на пять ценностей – верность намерениям человека, снижение вреда, честность, поддержку самостоятельности и внимание к контексту.
Там, где явных правил нет, модель должна взвешивать долгосрочные интересы пользователя и последствия своих действий.
В документе появилась цепочка инстанций, по которой модель разрешает конфликты между ограничениями OpenAI, системными промптами и запросами пользователей.
Большинство жёстких стилистических шаблонов компания убрала, тон ответов модель подбирает по истории диалогов и памяти.
В документации термин ассистент заменён на GPT.
openai.com
Новые лимиты действуют в интерфейсах Messages и Token Counting и рассчитаны на тех, кто передаёт в модель объёмные PDF-документы, графику или крупные вычисления, запас по размеру нагрузки снижает риск отклонения.
Заодно компания смягчила ограничения на обработку картинок пачками, в промпте больше 20 изображений предельное разрешение каждого выросло с 2000 до 3000 пикселей.
При доступе к Claude через сторонние облачные сервисы запросы по-прежнему могут блокироваться собственными ограничениями провайдеров.
claude.com
Поддельный плагин выдавал себя за официальный инструмент Anthropic и пробыл в доступе около 11 часов, по оценке Cursor его успели установить до 5000 пользователей.
Исследователи из OpenSourceMalware выяснили, что в начало обычного плагина добавили 66 строк вредоносного кода, он исполнялся сразу после загрузки редактора. Скрипт собирал имя компьютера, адрес почты, IP-адрес, добавлял ключ атакующего в список авторизации SSH и пытался поднять обратный туннель.
Служба SSH требовала прав администратора, которые плагину в macOS и Windows обычно не выдают, но кража данных и внедрение ключей во многих случаях удались.
Cursor подделку удалил, маркетплейс временно закрыл и помогает блокировать серверы злоумышленников. Удалить плагин недостаточно, бэкдор продолжит работать в фоне, пострадавшим нужно проверить файлы авторизации на запись
svc-telemetry и выполнить официальный скрипт очистки.cursor.com
Обновление вышло в рамках инициативы Expert Intelligence и открывает литературу OpenStax, Open Textbook Library и S Chand Publishing.
Gemini отвечает строго по выбранному материалу, а выжимки и объяснения снабжает цитатами и ссылками на страницы источника. Сервис превращает объёмные тексты в конспекты, тесты, карточки и карты знаний, переводит их в аудиодискуссию или видеоролик.
Библиотека доступна в веб-интерфейсе Gemini Notebook, в меню источников нужна категория Textbooks.
blog.google
Пользователю достаточно подумать фразу «Эй, Neuralink» и мысленно сформулировать задачу, после чего Grok берёт управление операционной системой и выполняет действия сам. Обновление проверили в 72-часовой сессии дома у пациента с боковым амиотрофическим склерозом.
Вместе с агентом разработчики сделали распознавание речевых намерений и прямую связь с iPhone, так парализованный человек теперь может силой мысли звонить близким или заказывать еду, передавая сигналы мозга в синтезатор речи телефона.
Neuralink отчиталась и о клинических испытаниях базовой связи, в первую неделю пациент набирал 75 английских слов в минуту при доле ошибок по словам в 5,8%.
Neuralink в X
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
👍6❤🔥3🔥3❤2
📄️️️️️️ Agent Harness Course 2026 - как построить своего AI-агента с нуля
Пошаговый курс на ~8 недель (1–2 часа в день): от одного запроса к LLM до агента с инструментами, памятью, субагентами, защитой и тестами - и финального проекта.
Свой учебный харнес на чистом Python без единой зависимости, 7 запускаемых уроков, финальный проект, 19 тестов и разбор архитектуры настоящего open-source агента. Ai Ml — материал переработан, структурирован и дополнен кодом, схемами и справочниками.
Курс не учит «пользоваться ещё одним фреймворком». Он показывает, из чего сделан любой агент — Claude Code, Codex, Cursor, Devin, LearnHarness — и даёт собрать каждую деталь руками. После этого любой фреймворк читается за вечер, а любой баг агента - объясним.
https://github.com/justxor/agent-harness-course/
Пошаговый курс на ~8 недель (1–2 часа в день): от одного запроса к LLM до агента с инструментами, памятью, субагентами, защитой и тестами - и финального проекта.
Свой учебный харнес на чистом Python без единой зависимости, 7 запускаемых уроков, финальный проект, 19 тестов и разбор архитектуры настоящего open-source агента. Ai Ml — материал переработан, структурирован и дополнен кодом, схемами и справочниками.
Курс не учит «пользоваться ещё одним фреймворком». Он показывает, из чего сделан любой агент — Claude Code, Codex, Cursor, Devin, LearnHarness — и даёт собрать каждую деталь руками. После этого любой фреймворк читается за вечер, а любой баг агента - объясним.
https://github.com/justxor/agent-harness-course/
🔥8😁5❤4👍3
ООП умерло? Разработчики всё чаще задаются вопросом: зачем нам вообще классы?
В бизнес-приложениях структуры данных обычно меняются редко, а бизнес-логика постоянно. Поэтому функциональная декомпозиция нередко оказывается удобнее классической ООП.
Например, в *OCaml можно построить сервис с внедрением зависимостей вообще без классов:
Здесь есть интерфейс, инкапсуляция, внедрение зависимостей и тестируемость. Но нет ни наследования, ни объектов, ни классов.
Идея простая: данные отдельно, поведение отдельно, зависимости через модули.
ООП не исчезло, но во многих современных архитектурах классы всё чаще играют роль контейнеров для функций.
А вы как считаете: ООП всё ещё необходимо или классы давно стали лишней абстракцией?
*OCaml - функциональный язык программирования из семейства ML.
В бизнес-приложениях структуры данных обычно меняются редко, а бизнес-логика постоянно. Поэтому функциональная декомпозиция нередко оказывается удобнее классической ООП.
Например, в *OCaml можно построить сервис с внедрением зависимостей вообще без классов:
type user = { email : string }
module type USER_REPO = sig
val exists : string -> bool
val save : user -> unit
end
module UserService (Repo : USER_REPO) = struct
let register email =
if Repo.exists email then
Error "Already exists"
else (
Repo.save { email };
Ok ()
)
end
Здесь есть интерфейс, инкапсуляция, внедрение зависимостей и тестируемость. Но нет ни наследования, ни объектов, ни классов.
Идея простая: данные отдельно, поведение отдельно, зависимости через модули.
ООП не исчезло, но во многих современных архитектурах классы всё чаще играют роль контейнеров для функций.
А вы как считаете: ООП всё ещё необходимо или классы давно стали лишней абстракцией?
*OCaml - функциональный язык программирования из семейства ML.
👍14🤣6💊6🥰4❤3
DevOps на практике
Русскоязычный практикум: от запуска HTTP-сервиса до контейнеров, CI и Kubernetes. Все задания выполняются вокруг одного приложения. В каждой работе есть проверка и упражнение на диагностику.
Уровень: начинающий с базовым знанием командной строки. Темп: 2-4 часа на работу.
Выполняйте последовательно в отдельной учебной папке. Примеры рассчитаны на Linux/macOS с Python 3, Git и Docker с Compose; Kubernetes требует локального кластера и kubectl. Не используйте рабочий кластер или настоящие секреты.
https://github.com/justxor/devops-practice-ru
Русскоязычный практикум: от запуска HTTP-сервиса до контейнеров, CI и Kubernetes. Все задания выполняются вокруг одного приложения. В каждой работе есть проверка и упражнение на диагностику.
Уровень: начинающий с базовым знанием командной строки. Темп: 2-4 часа на работу.
Выполняйте последовательно в отдельной учебной папке. Примеры рассчитаны на Linux/macOS с Python 3, Git и Docker с Compose; Kubernetes требует локального кластера и kubectl. Не используйте рабочий кластер или настоящие секреты.
https://github.com/justxor/devops-practice-ru
🔥7👍2🥰2
AI-агентов научили тратить на 88% меньше токенов. И при этом они стали лучше решать задачи
Исследователи из Tsinghua и Microsoft представили HarnessMM - метод оптимизации AI-агентов без переобучения моделей.
Проблема в том, что современные агенты вроде Codex постоянно обращаются к LLM после каждого действия. Даже когда следующий шаг очевиден.
Например, агент написал код, запустил компиляцию и получил успешный результат. Вместо очередного запроса к модели можно сразу запускать тесты.
HarnessMM позволяет заранее сохранить цепочку действий с условиями их выполнения. Если условие соблюдено, следующий шаг запускается без повторного обращения к LLM. В нестандартных ситуациях управление возвращается модели.
Результаты на 98 задачах HumanEval:
- DeepSeek Harness: расход токенов снизился на 87,93%, а успешность выросла с 71,43% до 85,71%.
- Codex: расход снизился на 29,54% при прежней успешности 90,82%.
Экономия достигается не только пропуском вызовов модели, но и оптимизацией контекста и других частей агентной системы.
Получается, эффективность AI-агента зависит не только от самой модели, но и от того, насколько грамотно организована работа вокруг неё.
Причём для этого даже не нужно менять веса LLM.
https://arxiv.org/abs/2610.32813
Исследователи из Tsinghua и Microsoft представили HarnessMM - метод оптимизации AI-агентов без переобучения моделей.
Проблема в том, что современные агенты вроде Codex постоянно обращаются к LLM после каждого действия. Даже когда следующий шаг очевиден.
Например, агент написал код, запустил компиляцию и получил успешный результат. Вместо очередного запроса к модели можно сразу запускать тесты.
HarnessMM позволяет заранее сохранить цепочку действий с условиями их выполнения. Если условие соблюдено, следующий шаг запускается без повторного обращения к LLM. В нестандартных ситуациях управление возвращается модели.
Результаты на 98 задачах HumanEval:
- DeepSeek Harness: расход токенов снизился на 87,93%, а успешность выросла с 71,43% до 85,71%.
- Codex: расход снизился на 29,54% при прежней успешности 90,82%.
Экономия достигается не только пропуском вызовов модели, но и оптимизацией контекста и других частей агентной системы.
Получается, эффективность AI-агента зависит не только от самой модели, но и от того, насколько грамотно организована работа вокруг неё.
Причём для этого даже не нужно менять веса LLM.
https://arxiv.org/abs/2610.32813
👍27🔥7👏6
🔗️️️️️️ 1,6 трлн параметров и упор на AI-агентов: вышла LongCat-2.5
Команда LongCat представила новую мультимодальную MoE-модель с 1,6 трлн параметров, из которых около 48 млрд активируются на каждый токен.
Основной упор сделали на агентное программирование: работу с большими кодовыми базами, создание полноценных проектов, генерацию интерфейсов и 3D-сцен.
В архитектуре есть несколько интересных решений.
Изображения кодируются в дискретные токены через Residual Vector Quantization (RVQ). Это позволяет обрабатывать визуальную и текстовую информацию в общей модели.
Для обучения агентов используют long-horizon RL. Причём неудачные попытки решения реальных задач превращаются в новые тренировочные примеры с автоматической проверкой результата.
Отдельно оптимизировали инференс: W4A4-квантизация дала прирост пропускной способности на 43,3% для prefill и 42,77% для decode относительно W8A8 в тестах разработчиков.
На Terminal Bench 2.1 модель набрала 88,4 балла, приблизившись к результатам ведущих моделей для программирования.
LongCat-2.5 уже доступна через API и совместима с Claude Code, Codex и другими агентными средами.
https://longcat.ai/blog/longcat-2.5
Команда LongCat представила новую мультимодальную MoE-модель с 1,6 трлн параметров, из которых около 48 млрд активируются на каждый токен.
Основной упор сделали на агентное программирование: работу с большими кодовыми базами, создание полноценных проектов, генерацию интерфейсов и 3D-сцен.
В архитектуре есть несколько интересных решений.
Изображения кодируются в дискретные токены через Residual Vector Quantization (RVQ). Это позволяет обрабатывать визуальную и текстовую информацию в общей модели.
Для обучения агентов используют long-horizon RL. Причём неудачные попытки решения реальных задач превращаются в новые тренировочные примеры с автоматической проверкой результата.
Отдельно оптимизировали инференс: W4A4-квантизация дала прирост пропускной способности на 43,3% для prefill и 42,77% для decode относительно W8A8 в тестах разработчиков.
На Terminal Bench 2.1 модель набрала 88,4 балла, приблизившись к результатам ведущих моделей для программирования.
LongCat-2.5 уже доступна через API и совместима с Claude Code, Codex и другими агентными средами.
https://longcat.ai/blog/longcat-2.5
🔥10💋3❤2👍2⚡1
Forwarded from Machinelearning
This media is not supported in your browser
VIEW IN TELEGRAM
Исследователи MIT CSAIL дали GPT-6 Astra доступ к весам Qwen3.5-0.8B через Python и разрешили провести до 50 тестовых прогонов.
Задача - улучшить математические способности модели, не используя градиенты и обучение.
Astra обнаружила, что Qwen часто зацикливается в рассуждениях, повторяет одни и те же фрагменты и достигает лимита токенов, так и не выдав ответ.
Причину удалось локализовать в MLP-блоках 15-го и 19-го слоёв. Astra нашла направление в пространстве весов, связанное с зацикливанием, и скорректировала 131 072 параметра из 800 млн.
Результаты:
- MATH-500: с 7,9% до 48,1%
- GSM8K: с 13,8% до 67,1%
- Доля ответов, достигших лимита токенов: с 93% до 33,1%
Никакого fine-tuning, backpropagation или обновления весов через оптимизатор.
Astra устранила механизм, мешавший модели завершать рассуждения, на которые та уже была способна.
На Gemma 3 270M, у которой не было аналогичной проблемы, подход почти не помог.
Работа интересна для mechanistic interpretability: LLM смогла найти конкретный механизм нежелательного поведения и исправить его напрямую в весах.
Авторы называют подход Weight-Space Programming.
https://rikiyat.github.io/blog/weight-space-programming/
@ai_machinelearning_big_data
#GPT #astra #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
❤32🔥20👍11
Компания OpenAI представила Pando, высокопроизводительный бэкенд для Git
Компания OpenAI анонсировала проект Pando, в рамках которого разработан новый бэкенд, совместимый с протоколом и инструментарием Git, и уже внедрённый для обслуживания внутреннего монолитного репозитория компании. Необходимость создания собственного хранилища для Git объясняется экспоненциальным ростом числа параллельных операций push и fetch из-за массового использования AI-агентов в компании OpenAI, к которым не удалось применить классические подходы к масштабированию Git, такие как трёхфазные коммиты и журнал упреждающей записи (WAL). Внедрение Pando позволило сократить медианную задержку при выполнении push-операций почти на 80% и значительно повысить надёжность операций слияний. Развёрнутый на базе Pando репозиторий в OpenAI обрабатывает около 1 петабайта Git-данных в сутки с пиковыми нагрузками до 57 ТБ данных в час.
Полный текст:
https://opennet.ru/66603/
https://opennet.me/66603/
Компания OpenAI анонсировала проект Pando, в рамках которого разработан новый бэкенд, совместимый с протоколом и инструментарием Git, и уже внедрённый для обслуживания внутреннего монолитного репозитория компании. Необходимость создания собственного хранилища для Git объясняется экспоненциальным ростом числа параллельных операций push и fetch из-за массового использования AI-агентов в компании OpenAI, к которым не удалось применить классические подходы к масштабированию Git, такие как трёхфазные коммиты и журнал упреждающей записи (WAL). Внедрение Pando позволило сократить медианную задержку при выполнении push-операций почти на 80% и значительно повысить надёжность операций слияний. Развёрнутый на базе Pando репозиторий в OpenAI обрабатывает около 1 петабайта Git-данных в сутки с пиковыми нагрузками до 57 ТБ данных в час.
Полный текст:
https://opennet.ru/66603/
https://opennet.me/66603/
🔥9👍6🥰1
Сбер открыл доступ к Kandinsky Avatar 1.0 — модели для генерации говорящих видеоаватаров по референсному изображению и аудио
Для создания ролика достаточно изображения, записи голоса и текстового описания сцены. Нейросеть синхронизирует артикуляцию с аудио, генерирует мимику, движения головы и жесты.
Основные характеристики:
До 60 секунд видео с частотой 24 кадра в секунду.
95 языков в обучающем датасете, включающем более 1 млн видеофрагментов.
Pro — генерация видео в HD.
Lite — облегчённая версия с разрешением SD, которую можно запускать на домашней видеокарте.
По оценке Сбера, версия Pro сопоставима по качеству с HeyGen IV, а Lite — с открытыми моделями, превосходящими её по размеру в 7–10 раз.
Модели доступны в опенсорсе, в том числе для коммерческого применения. Это позволит разработчикам создавать собственных виртуальных консультантов, образовательные сервисы и инструменты для производства видеоконтента.
https://huggingface.co/kandinskylab/Kandinsky-S2V-1.0-Pro-distill-Diffusers
Для создания ролика достаточно изображения, записи голоса и текстового описания сцены. Нейросеть синхронизирует артикуляцию с аудио, генерирует мимику, движения головы и жесты.
Основные характеристики:
До 60 секунд видео с частотой 24 кадра в секунду.
95 языков в обучающем датасете, включающем более 1 млн видеофрагментов.
Pro — генерация видео в HD.
Lite — облегчённая версия с разрешением SD, которую можно запускать на домашней видеокарте.
По оценке Сбера, версия Pro сопоставима по качеству с HeyGen IV, а Lite — с открытыми моделями, превосходящими её по размеру в 7–10 раз.
Модели доступны в опенсорсе, в том числе для коммерческого применения. Это позволит разработчикам создавать собственных виртуальных консультантов, образовательные сервисы и инструменты для производства видеоконтента.
https://huggingface.co/kandinskylab/Kandinsky-S2V-1.0-Pro-distill-Diffusers
🔥15😁7🥱4❤3🥰1
Mistral выложила технический отчёт по своей LLM на триллион параметров
Mistral Large 4 содержит около 1 трлн параметров, но на каждый токен активирует только 52 млрд. Для этого используется MoE с 128 экспертами, из которых выбираются четыре, плюс один общий.
В отчёте подробно разобраны Multi-head Latent Attention, Sparse Attention и переиспользование KV-кеша между слоями. Эти решения помогают сократить расход памяти и вычислений при работе с длинным контекстом.
Контекстное окно составляет 1 млн токенов. Модель поддерживает изображения, более 160 языков, вызов инструментов и агентные сценарии.
На Artificial Analysis Coding Agent Index она набрала 48%, примерно на уровне GLM-5.3, при этом, по данным Mistral, использовала на 47% меньше токенов.
Веса доступны на Hugging Face в FP8 и NVFP4. На обычной видеокарте такую модель не запустить, зато в отчёте достаточно технических подробностей для тех, кто занимается архитектурой и оптимизацией LLM.
Технический отчёт: https://huggingface.co/mistralai/Mistral-Large-4-1T-A52B/blob/main/assets/technical_report.pdf
Mistral Large 4 содержит около 1 трлн параметров, но на каждый токен активирует только 52 млрд. Для этого используется MoE с 128 экспертами, из которых выбираются четыре, плюс один общий.
В отчёте подробно разобраны Multi-head Latent Attention, Sparse Attention и переиспользование KV-кеша между слоями. Эти решения помогают сократить расход памяти и вычислений при работе с длинным контекстом.
Контекстное окно составляет 1 млн токенов. Модель поддерживает изображения, более 160 языков, вызов инструментов и агентные сценарии.
На Artificial Analysis Coding Agent Index она набрала 48%, примерно на уровне GLM-5.3, при этом, по данным Mistral, использовала на 47% меньше токенов.
Веса доступны на Hugging Face в FP8 и NVFP4. На обычной видеокарте такую модель не запустить, зато в отчёте достаточно технических подробностей для тех, кто занимается архитектурой и оптимизацией LLM.
Технический отчёт: https://huggingface.co/mistralai/Mistral-Large-4-1T-A52B/blob/main/assets/technical_report.pdf
❤11🥴8👍4🔥3😁3
Вышел htop для видеокарт, который показывает, куда на самом деле уходит VRAM
Скотт Хансельман из Microsoft опубликовал gputaskman, терминальный монитор GPU с открытым исходным кодом.
Обычный диспетчер задач показывает, что занято 15 ГБ видеопамяти. Но сколько из них съела нейросеть, сколько занимает KV-кеш, а сколько забрал браузер?
gputaskman разбирает потребление памяти по процессам и пытается определить, какие LLM загружены.
Инструмент показывает использование VRAM, активность GPU, веса моделей, KV-кеш и вычислительные буферы. Умеет получать данные из Ollama и LM Studio, распознавать GGUF и обнаруживать CUDA, Vulkan и другие среды выполнения.
Поддерживаются Windows с NVIDIA и AMD, Linux и WSL с NVIDIA, а также macOS на Apple Silicon.
Для запуска из исходников:
Есть готовые сборки и JSON-вывод для скриптов.
Проект пока экспериментальный. Потребление памяти измеряется, а распределение между весами модели и KV-кешем в некоторых случаях оценивается приблизительно.
Полезная утилита для тех, кто запускает LLM локально и пытается понять, почему очередная модель не помещается в видеопамять.
GitHub: https://github.com/shanselman/gputaskman
Скотт Хансельман из Microsoft опубликовал gputaskman, терминальный монитор GPU с открытым исходным кодом.
Обычный диспетчер задач показывает, что занято 15 ГБ видеопамяти. Но сколько из них съела нейросеть, сколько занимает KV-кеш, а сколько забрал браузер?
gputaskman разбирает потребление памяти по процессам и пытается определить, какие LLM загружены.
Инструмент показывает использование VRAM, активность GPU, веса моделей, KV-кеш и вычислительные буферы. Умеет получать данные из Ollama и LM Studio, распознавать GGUF и обнаруживать CUDA, Vulkan и другие среды выполнения.
Поддерживаются Windows с NVIDIA и AMD, Linux и WSL с NVIDIA, а также macOS на Apple Silicon.
Для запуска из исходников:
git clone https://github.com/shanselman/gputaskman.git
cd gputaskman
uv run --locked gputaskman
Есть готовые сборки и JSON-вывод для скриптов.
Проект пока экспериментальный. Потребление памяти измеряется, а распределение между весами модели и KV-кешем в некоторых случаях оценивается приблизительно.
Полезная утилита для тех, кто запускает LLM локально и пытается понять, почему очередная модель не помещается в видеопамять.
GitHub: https://github.com/shanselman/gputaskman
🔥21👍10❤9🥰3🤣3
OpenAI может пересмотреть планы строительства дата-центров после выборов в США
По данным The Wall Street Journal, руководство OpenAI обсуждает возможность пересмотра прогнозов по вычислительным мощностям на 2027 год.
Причина неожиданная: сопротивление строительству новых дата-центров на местном уровне.
На прошедших выборах американские избиратели поддержали кандидатов, критически настроенных к расширению инфраструктуры ЦОД, а в некоторых районах одобрили дополнительные ограничения на строительство.
Для OpenAI это потенциальная проблема. Компания рассчитывает на масштабное расширение вычислительных мощностей для обучения и запуска новых моделей. Задержки с разрешениями и строительством могут повлиять на сроки ввода серверных кластеров.
Местных жителей беспокоят потребление электроэнергии и воды, нагрузка на инфраструктуру и возможный рост коммунальных тарифов.
Получается, что развитие ИИ всё сильнее зависит от факторов за пределами самой индустрии: электросетей, градостроительных решений и отношения местных сообществ.
Даже если у компании есть деньги и GPU, это ещё не гарантирует, что ей разрешат построить дата-центр.
По данным The Wall Street Journal, руководство OpenAI обсуждает возможность пересмотра прогнозов по вычислительным мощностям на 2027 год.
Причина неожиданная: сопротивление строительству новых дата-центров на местном уровне.
На прошедших выборах американские избиратели поддержали кандидатов, критически настроенных к расширению инфраструктуры ЦОД, а в некоторых районах одобрили дополнительные ограничения на строительство.
Для OpenAI это потенциальная проблема. Компания рассчитывает на масштабное расширение вычислительных мощностей для обучения и запуска новых моделей. Задержки с разрешениями и строительством могут повлиять на сроки ввода серверных кластеров.
Местных жителей беспокоят потребление электроэнергии и воды, нагрузка на инфраструктуру и возможный рост коммунальных тарифов.
Получается, что развитие ИИ всё сильнее зависит от факторов за пределами самой индустрии: электросетей, градостроительных решений и отношения местных сообществ.
Даже если у компании есть деньги и GPU, это ещё не гарантирует, что ей разрешат построить дата-центр.
❤12👍6🥰5🤔2😨1
Ant Group представила Ling-3.2-flash: мультимодальная модель на 560 млрд параметров, обошедшая Claude Opus 5 в ряде тестов
Ant Ling выпустила Ling-3.2-flash, модель с нативной мультимодальностью и архитектурой MoE: 560 млрд параметров, из которых активируются 25 млрд.
Модель работает с изображениями, документами, 3D-сценами и сложными агентными задачами.
Результаты против Claude Opus 5 (max):
- OmniDocBench 1.5: 92,21 против 90,56.
- ZEROBench (Sub): 43,71 против 39,52.
- Vision2Web: 85,86 против 80,20.
Это результаты тестирования разработчиков, независимого подтверждения пока нет.
В демонстрациях Ling-3.2-flash создаёт сайты по визуальным референсам, управляет Blender, восстанавливает 3D-объекты по изображениям и превращает PDF с формулами в работающий код.
Отдельно показали работу нескольких ИИ-агентов: модель анализирует финансовые данные, готовит отчёт, презентацию и видео, а затем дорабатывает материалы по замечаниям пользователя.
Попробовать: https://computrix.ai/sg/models/modelservice-1793847516851001818
Ant Ling выпустила Ling-3.2-flash, модель с нативной мультимодальностью и архитектурой MoE: 560 млрд параметров, из которых активируются 25 млрд.
Модель работает с изображениями, документами, 3D-сценами и сложными агентными задачами.
Результаты против Claude Opus 5 (max):
- OmniDocBench 1.5: 92,21 против 90,56.
- ZEROBench (Sub): 43,71 против 39,52.
- Vision2Web: 85,86 против 80,20.
Это результаты тестирования разработчиков, независимого подтверждения пока нет.
В демонстрациях Ling-3.2-flash создаёт сайты по визуальным референсам, управляет Blender, восстанавливает 3D-объекты по изображениям и превращает PDF с формулами в работающий код.
Отдельно показали работу нескольких ИИ-агентов: модель анализирует финансовые данные, готовит отчёт, презентацию и видео, а затем дорабатывает материалы по замечаниям пользователя.
Попробовать: https://computrix.ai/sg/models/modelservice-1793847516851001818
❤4🔥2😱2🗿2
Кто в IT платит выше рынка? И какой оффер считается хорошим?
Предлагаем опытным IT-специалистам поделиться мнением о зарплатах и бенефитах в крупных технологических компаниях.
Кто, на ваш взгляд, платит выше рынка?
У кого привлекательнее премии?
Насколько важны ДМС, спорт, питание и другие бонусы при выборе работы?
👉 Поделиться мнением: https://clck.ru/3WNkGe
Предлагаем опытным IT-специалистам поделиться мнением о зарплатах и бенефитах в крупных технологических компаниях.
Кто, на ваш взгляд, платит выше рынка?
У кого привлекательнее премии?
Насколько важны ДМС, спорт, питание и другие бонусы при выборе работы?
👉 Поделиться мнением: https://clck.ru/3WNkGe
🔥5🌭3❤1
10 Open Source проектов для создания собственного ИИ-агента по покупкам
Можно собрать персонального ИИ-помощника, который ищет товары в разных магазинах, сравнивает характеристики, учитывает ваши предпочтения и отслеживает изменения цен.
Для этого необязательно писать всё с нуля. Вот 10 проектов, из которых можно собрать такую систему.
1. LangChain - оркестрация LLM, инструментов и логики агента.
https://github.com/langchain-ai/langchain
2. Browser Use - управление браузером через ИИ: поиск товаров, переходы по страницам, взаимодействие с интерфейсами магазинов.
https://github.com/browser-use/browser-use
3. Playwright - автоматизация браузера, извлечение информации и проверка страниц.
https://github.com/microsoft/playwright
4. Firecrawl - преобразование содержимого сайтов в Markdown и структурированные данные для LLM.
https://github.com/firecrawl/firecrawl
5. Crawlee - сбор информации с сайтов, обход каталогов и обработка больших объёмов страниц.
https://github.com/apify/crawlee
6. Qdrant - векторная база данных для семантического поиска товаров по описаниям и характеристикам.
https://github.com/qdrant/qdrant
7. Mem0 - память агента: любимые бренды, размеры, бюджет и предыдущие предпочтения.
https://github.com/mem0ai/mem0
8. LiteLLM - единый интерфейс для разных LLM, включая локальные модели.
https://github.com/BerriAI/litellm
9. Streamlit - быстрый веб-интерфейс с поиском, сравнением товаров и рекомендациями.
https://github.com/streamlit/streamlit
10. n8n - автоматизация регулярных проверок цен, уведомлений и других сценариев.
https://github.com/n8n-io/n8n
Например, можно задать агенту: «Найди ноутбук до $1500 с 32 ГБ RAM, сравни пять вариантов и сообщи, если лучший подешевеет на 15%».
Агент соберёт предложения, отфильтрует неподходящие модели, сравнит характеристики и сохранит предпочтения для следующего поиска.
Для реального проекта понадобятся ещё нормализация цен, проверка актуальности предложений, обработка блокировок сайтов и подтверждение пользователя перед покупкой.
Хороший практический проект для изучения LLM-агентов, RAG, браузерной автоматизации и работы с внешними API.
Можно собрать персонального ИИ-помощника, который ищет товары в разных магазинах, сравнивает характеристики, учитывает ваши предпочтения и отслеживает изменения цен.
Для этого необязательно писать всё с нуля. Вот 10 проектов, из которых можно собрать такую систему.
1. LangChain - оркестрация LLM, инструментов и логики агента.
https://github.com/langchain-ai/langchain
2. Browser Use - управление браузером через ИИ: поиск товаров, переходы по страницам, взаимодействие с интерфейсами магазинов.
https://github.com/browser-use/browser-use
3. Playwright - автоматизация браузера, извлечение информации и проверка страниц.
https://github.com/microsoft/playwright
4. Firecrawl - преобразование содержимого сайтов в Markdown и структурированные данные для LLM.
https://github.com/firecrawl/firecrawl
5. Crawlee - сбор информации с сайтов, обход каталогов и обработка больших объёмов страниц.
https://github.com/apify/crawlee
6. Qdrant - векторная база данных для семантического поиска товаров по описаниям и характеристикам.
https://github.com/qdrant/qdrant
7. Mem0 - память агента: любимые бренды, размеры, бюджет и предыдущие предпочтения.
https://github.com/mem0ai/mem0
8. LiteLLM - единый интерфейс для разных LLM, включая локальные модели.
https://github.com/BerriAI/litellm
9. Streamlit - быстрый веб-интерфейс с поиском, сравнением товаров и рекомендациями.
https://github.com/streamlit/streamlit
10. n8n - автоматизация регулярных проверок цен, уведомлений и других сценариев.
https://github.com/n8n-io/n8n
Например, можно задать агенту: «Найди ноутбук до $1500 с 32 ГБ RAM, сравни пять вариантов и сообщи, если лучший подешевеет на 15%».
Агент соберёт предложения, отфильтрует неподходящие модели, сравнит характеристики и сохранит предпочтения для следующего поиска.
Для реального проекта понадобятся ещё нормализация цен, проверка актуальности предложений, обработка блокировок сайтов и подтверждение пользователя перед покупкой.
Хороший практический проект для изучения LLM-агентов, RAG, браузерной автоматизации и работы с внешними API.
❤11🔥4👍1🥰1
35-летнюю математическую задачу решили с помощью GPU и ИИ-агентов
В сентябре 2026 года инженер Cognition Эрик Лу разложил число RSA-260 длиной 260 десятичных цифр (862 бита) на два простых множителя по 130 цифр.
Задача оставалась нерешённой с 1991 года.
Для факторизации использовали General Number Field Sieve (GNFS), один из самых эффективных известных алгоритмов разложения больших чисел. Его реализацию CADO-NFS серьёзно оптимизировали для GPU с помощью ИИ-агентов Devin.
Результаты:
4900 GPU-дней вычислений, примерно 13,5 GPU-лет.
$400 000 оценочная стоимость вычислений по рыночным тарифам.
До 10 раз дешевле, чем предыдущие публичные методы сопоставимого класса, по оценке автора.
Математическая асимметрия: перемножить два 130-значных простых числа легко, а найти их по известному произведению чрезвычайно трудно. На этой сложности основана криптосистема RSA.
При этом результат не означает взлом современного RSA-2048. Исследователи ускорили существующий алгоритм, а не нашли принципиально новый способ факторизации.
Подробный технический разбор: https://cognition.com/blog/factoring-rsa-260
@machinelearning_interview
В сентябре 2026 года инженер Cognition Эрик Лу разложил число RSA-260 длиной 260 десятичных цифр (862 бита) на два простых множителя по 130 цифр.
Задача оставалась нерешённой с 1991 года.
Для факторизации использовали General Number Field Sieve (GNFS), один из самых эффективных известных алгоритмов разложения больших чисел. Его реализацию CADO-NFS серьёзно оптимизировали для GPU с помощью ИИ-агентов Devin.
Результаты:
4900 GPU-дней вычислений, примерно 13,5 GPU-лет.
$400 000 оценочная стоимость вычислений по рыночным тарифам.
До 10 раз дешевле, чем предыдущие публичные методы сопоставимого класса, по оценке автора.
Математическая асимметрия: перемножить два 130-значных простых числа легко, а найти их по известному произведению чрезвычайно трудно. На этой сложности основана криптосистема RSA.
При этом результат не означает взлом современного RSA-2048. Исследователи ускорили существующий алгоритм, а не нашли принципиально новый способ факторизации.
Подробный технический разбор: https://cognition.com/blog/factoring-rsa-260
@machinelearning_interview
❤12👀4👍2🔥2