283K subscribers
5.36K photos
1.24K videos
17 files
5.7K links
Погружаемся в машинное обучение и Data Science

Показываем как запускать любые LLm на пальцах.

По всем вопросам - @haarrp

@itchannels_telegram -🔥best channels

Реестр РКН: clck.ru/3Fmqri
Download Telegram
🌟 Turbovec: библиотека векторного поиска на основе гугловского TurboQuant

Библиотека написана на Rust, есть привязки для Python, а в основе - TurboQuant, алгоритм сжатия векторов, который Google описали в статье, принятой на ICLR 2026.

Сама библиотека к Google отношения не имеет, это независимая реализация чужого алгоритма.


🟡Turbovec сжимает данные примерно в восемь раз

Коллекция из 10 миллионов документов, занимающая в исходном виде 31 гигабайт, умещается в 4. Поиск при этом, как утверждает автор, идёт быстрее, чем в FAISS - одного из самых распространённых инструментов в этой области.

По замерам turbovec обгоняет FAISS в среднем в 3,4-3,5 раза при 4-битном сжатии и на 20-26% при 2-битном, в зависимости от железа.

🟡Удобные мелочи

Индекс не нужно предварительно обучать - векторы просто добавляются по мере поступления.

Сохранение инкрементальное, на диск уходит только то, что изменилось с прошлого раза, поэтому даже на большом индексе это занимает миллисекунды.

Поиску можно передать список разрешённых документов - скажем, чтобы пользователь видел только свои файлы.

Удаление работает по постоянным идентификаторам, ссылки на записи не плывут.

Тем, кто уже сидит на LangChain, LlamaIndex, Haystack или Agno, автор предлагает готовые адаптеры - меняется одна строка импорта, остальной код остаётся как был.


📌Лицензирование: MIT License


🖥 Github


@ai_machinelearning_big_data

#AI #ML #VectorSearch #TurboQuant #Rust
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍130🔥42🤓189👏8❤‍🔥6🎉3🥱1
Вы уже заметили, что сайты банков и контрагентов стали открываться с предупреждением «Подключение не защищено»?

Дело в том, что GlobalSign отзывает SSL-сертификаты у российских компаний, и те переходят на сертификаты Национального удостоверяющего центра Минцифры (НУЦ). Chrome, Safari, Firefox и Edge таким сертификатам не доверяют — и сайты перестают открываться. Из-за этого встают платежи, работа с ЭДО и закупки на госплощадках.

Сертификаты отзывают постепенно, по мере истечения срока, так что список недоступных сайтов будет пополняться ещё месяцами. Вот что можно с этим сделать.
Способ первый: поставить корневые сертификаты НУЦ вручную. Ставить придётся на каждый компьютер, включая домашние ноутбуки и телефоны сотрудников, а потом проверять, что после обновления системы всё осталось на месте. В больших компаниях это займёт не один день.

Способ второй: разослать сертификаты сразу на все компьютеры, через систему управления устройствами или групповые политики. Это сработает, если такая система уже есть и все компьютеры подключены к домену. С личными устройствами сотрудников так не получится.

Способ третий: установить Яндекс Браузер для организаций. Он поддерживает все нужные сертификаты безопасности, поэтому сайты открываются в нём без ошибок. Настройками можно управлять централизованно, а соединение шифруется по TLS.

Установите Браузер в вашей компании!
🤬117🤔63😁40👍17🤨15🔥6🥰4🌭4🤷‍♂3😢3🙊3
⚡️ Xiaomi показала конкурента NVIDIA DGX Spark

Xiaomi представила компактный локальный AI-компьютер для локального запуска и развёртывания ИИ-моделей на трёх собственных чипах - O3, O100 и D100.

Прототип поддерживает связку моделей 120B и 3B и умеет переключаться между «быстрой» и «медленной» моделью в зависимости от задачи.

По формату это прямой конкурент DGX Spark: запуск крупных моделей и AI-агентов локально, без облака.

Дженсен Хуанг ранее предупреждал об эффекте экспортных ограничений США:

«Как только они построят полный стек, начнут экспортировать его так быстро, как только смогут».


@ai_machinelearning_big_data

#Xiaomi
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
1👍13791🔥5115🤔3😁2🤩2😐2
📌 Palomar - реестр проверенных LEAN-доказательств

Последние месяцы доказательства, сгенерированные ИИ, посыпались валом как для новых результатов, так и для старых, причем часть из них формализована на Lean и проверить такой репозиторий непросто, особенно если ты не эксперт. Нужно убедиться:

🟠что заявленные формальные утверждения действительно имеют доказательства, проходящие проверку типов;
🟠что в доказательствах нет жульничества;
🟠что формальные утверждения по смыслу совпадают с тем, что описано словами.

Под эту задачу и Теренс Тао запустил Palomar - реестр математики, верифицированной на Lean. Инициативу вырастили Lean FRO и ICARM.

Прием заявок уже идет, чтобы в него попасть, в репозитории должно быть три вещи:

🟢challenge file с коротким и читаемым человеком описанием заявленных результатов на Lean;
🟢solution module с доказательством любой длины;
🟢файл formalization.yaml, где те же результаты изложены обычным языком и собраны метаданные и раскрытия.

Снимок поданного репозитория проверяют двумя этапами.
Сначала инструмент Comparator смотрит, что solution module типизируется и доказывает ровно то, что заявлено в challenge file. После этого языковая модель сверяет, похоже ли неформальное описание в на то, что заявлено формально.

Прошел оба - попал в реестр. Принимают формализации и старых результатов, и новых. Кто автор доказательства - человек, ИИ или оба вместе - значения не имеет.


@ai_machinelearning_big_data

#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
1👍7720🗿19🥰6😎6🔥1
📈 OpenRouter вырос примерно в 9000 раз за 2,5 года

В январе 2024 года через OpenRouter проходило около 10 млрд токенов в неделю. К августу 2026-го - уже больше 90 трлн токенов в неделю.

Рост - примерно в 9000 раз.

По данным OpenRouter, примерно с февраля агенты уже генерируют больше токенов, чем обычные пользователи.

Один агентный запрос в среднем потребляет примерно в 15 раз больше токенов. Агент рассуждает, вызывает инструменты, читает результаты, пишет код, запускает подзадачи и повторяет цикл снова.

https://menlovc.com/perspective/stripe-to-acquire-openrouter-why-everyone-is-obsessed-with-model-routing/

@ai_machinelearning_big_data

#OpenRouter
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥71🎉3819👏14👍6
Visual GenAI: открытый курс от Yandex Research и преподавателей ШАДа

В открытом доступе появились материалы курса «Генеративные модели в компьютерном зрении». Курс посвящён современным генеративным моделям для изображений, видео и 3D.

Что внутри:
- Глубокая теоретическая база по диффузионным моделям
- Эффективные техники обучения и сэмплирования 
- Гибридные генеративные подходы на базе диффузии, которые используются сейчас в индустрии
- Авторегрессионная визуальная генерация
- Генерация видео, мультимодальные и 3D-модели

Особенность курса — практические домашние задания, где рассматриваются актуальные техники из статей за последние пару лет, которые могут пригодиться, если захотите пойти работать в этом направлении. Материалы подойдут тем, кто уже знаком с базой по генеративным моделям и хочет понять, что сейчас происходит в research и R&D по этому направлению.

Материалы: https://github.com/dbaranchuk/VisualGenAI
1🤓94👍65👨‍💻3615👏7🔥5🤣4😁1🎉1🤝1😎1
Media is too big
VIEW IN TELEGRAM
✔️ Hugging Face прощупывает интерес покупателей

Платформа для хостинга моделей и датасетов наняла банки, чтобы выяснить, готов ли кто-нибудь купить бизнес. Речь пока не о сделке - тестирование рынка может закончиться и новым раундом финансирования.

По данным источников, сейчас компанию оценивают примерно в 1,3 млрд долларов, тогда как в 2023 году оценка доходила до 4,5 млрд, - за три года почти в три с половиной раза ниже.

Наиболее вероятными покупателями называют нынешних инвесторов Hugging Face - Google, Amazon, Nvidia, Intel и Salesforce.
bloomberg.com

✔️ Alibaba запустила видеогенератор Wan3.0

Модель собирает тридцатисекундные ролики из текстовых документов, таблиц, презентаций и веб-страниц. В новой версии лучше работают референсы и реконструкция реальных объектов, а базовая длина ролика выросла.

Alibaba целится в производство рекламы, коротких сериалов и музыкальных клипов. До официального запуска модель была в открытой бете.

Иностранцы получают доступ к API через Alibaba Cloud. Секунда видео стоит 10 центов в 720p и 20 центов в 1080p, то есть полный тридцатисекундный ролик в 1080p обойдется в 6 долларов.
reuters.com

✔️ Antigravity теперь управляется с телефона

Агентом можно рулить со смартфона или из браузера, ничего дополнительно не устанавливая. В интерфейсе видно сессии в реальном времени, туда же ставятся задачи и оттуда проверяются результаты.

На телефон приходят уведомления, когда агент закончил работу или ждет от человека подтверждения. Подключиться можно сразу к нескольким машинам и быстро между ними переключаться, причем монитор хосту не нужен - Antigravity запускается и работает и без него.

Обновление раскатывают постепенно, первыми его получают подписчики Google AI Ultra.
antigravity.google

✔️ FDA впервые разрешило автономного робота для забора крови

Американский регулятор выдал разрешение по процедуре системе Aletta голландского стартапа Vitestro. Робот делает всю процедуру сам: накладывает жгут, дезинфицирует кожу, находит вену, вводит иглу, меняет пробирки, убирает расходники и заклеивает прокол.

Вены он ищет ближней инфракрасной съемкой, ультразвуком и допплерографией - ими же отличает вену от артерии. В клинических испытаниях на 1600 пациентах игла попадала с первой попытки в 94,5% случаев.

Aletta рассчитана на амбулаторный прием взрослых. Один оператор может вести сразу три таких аппарата.
fda.gov

✔️ В Южной Корее микроэлектроника догоняет медицину по конкурсу в ВУЗы

На фоне ИИ-бума корейские абитуриенты пошли в микроэлектронику. По данным Jongno Academy, частного центра подготовки к поступлению, средний проходной балл на профильные специальности в ведущих вузах дошел до 96,2. Медицинские факультеты, где конкурс исторически самый высокий в стране, держат 97,2.

Университеты вместе с Samsung Electronics и SK Hynix запускают целевые программы с гарантированным трудоустройством. А школьники, чтобы поступить на инженерные направления, все лето занимаются в специализированных центрах Сеула.
ft.com

@ai_machinelearning_big_data

#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥76👏72👍3214🤔7
This media is not supported in your browser
VIEW IN TELEGRAM
Когда Claude 23 минуты думает над задачей… а потом просто упирается в лимит сессии
😁25930👍16🔥9💯4🫡2
✔️ OpenAI усилила защиту в Codex в ответ на инциденты удаления файлов

Руководитель Codex Тибо Соттьё подвёл итог изменениям последних недель, которые снижают риск деструктивных действий Codex.

🟡Контекст

Месяц назад в сети появились жалобы на то, что GPT-5.6 в Codex делает с файлами то, о чем его не просили.

Самый серьезный кейс - команда, которая должна была почистить за собой временные файлы, вместо этого удаляла файлы пользователя.

В ходе разбора выяснили, что Codex создает временные папки и потом чистит их, и в редких случаях чистил неправильно - он переиспользовал под временную работу системную переменную окружения, а некорректная команда очистки затем указывала на настоящий домашний каталог вместо временной папки.

Второй случай проще - модель удаляла или перезаписывала временный путь, не посмотрев, что там уже лежит.


По итогам расследования добавили дополнительную защиту на нескольких уровнях:

🟢Инструкции самой модели.

Codex теперь обязан проверять, что именно он собирается удалить, заводить временные каталоги заново, не переиспользовать системные переменные окружения, выбирать обратимые действия и останавливаться, когда масштаб операции неясен.

🟢Проверки на исполнении.

Механизм, который выявляет рискованные команды удаления и отправляет их на ревью, усилили. Если команду отклонили, модель направляют к более безопасному способу.

🟢Ужесточение Full access.

Включить полный доступ случайно стало труднее, предупреждения переписали понятнее, а самые рискованные сочетания разрешений дополнительно ограничили.

🟢Обновленный Auto-review.

Он стал лучше распознавать деструктивные действия.

🟢Тесты и обучение.

OpenAI собрала условия и данные, воспроизводящие найденные сбои. Сейчас добавляются RL-задачи и грейдеры под эти риски, а деструктивные действия вычищаются из обучающих данных.

🟡Что советуют делать самим

Обновлять Codex и работать в одном из режимов песочницы - Ask for approval или Approve for me.

Full access включать только там, где среде можно доверять и откуда легко восстановиться.


@ai_machinelearning_big_data

#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥28👍2010😁3❤‍🔥1👌1
🔥 OpenAI показала первые результаты своего inference-чипа Jalapeño - и он обходит NVIDIA GB200/GB300 по ключевым метрикам.

В тестах на GPT-OSS 120B, DeepSeek R1 670B и Kimi K2.5 1T:

- в 1,5-1,9× выше производительность на ватт
- в 1,7-3,6× ниже end-to-end latency
- до 4,1× выше скорость в интерактивных сценариях
- до 1459 токенов/с на пользователя на GPT-OSS 120B
- до 700 токенов/с на DeepSeek R1

TDP Jalapeño - 700 Вт, но в тестах потребление не превышало 550 Вт.

OpenAI планирует начать развёртывание чипа до конца 2026 года. Gen 2 уже в разработке, Gen 3 формируется.

https://openai.com/index/jalapeno-first-results/
👍106🔥3316🥰3
✔️ OpenAI обещает лучший DevDay в истории компании

Руководитель направления Codex Тибо Соттьё пообещал, что в этом году DevDay окажется лучшим за всю историю OpenAI.

Конференция пройдет 29 сентября в Сан-Франциско, открывающий кейноут покажут в прямом эфире.


Послужной список у DevDay говорит о том, что действительно есть чего ожидать:

🟢В 2023 году там показали GPT-4 Turbo, GPTs и Assistants API;

🟢В 2024-м - Realtime API, кеширование промптов и другие инструменты для разработчиков;

🟢В 2025-м - приложения в ChatGPT, AgentKit, API для Sora 2 и GPT-5 Pro, а заодно открыли Codex для всех.

Что готовят в этот раз, Тибо не сказал. В комментариях вангуют релиз Astra, модель следующего поколения, обучение которой в конце июля OpenAI поставила на паузу.


@ai_machinelearning_big_data

#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
💯48👍38🎉25🤩75🥱2👏1
Media is too big
VIEW IN TELEGRAM
✔️ OpenAI возвращает пятичасовой лимит подписчикам ChatGPT Plus

С 26 августа для тарифа Plus снова заработает скользящее пятичасовое окно в ChatGPT Work и Codex.

Руководитель Codex Тибо Соттьё объясняет это тем, что лимиты выравнивают нагрузку и не дают случайно спалить недельную квоту за одну сессию.

Подписчиков Pro за 100 и 200 долларов изменение не касается - непрерывный доступ у них останется как минимум на несколько месяцев.

В сообществе решение раскритиковали: одни жалуются на изменение условий после оплаты, другие - что выбирали Codex вместо Claude как раз ради долгих сессий, и теперь собираются пересматривать рабочий стек.
Tibo в X

✔️ Google представила Gemini для юристов

Gemini Enterprise for Legal подключается через коннекторы MCP к профильному софту: iManage, NetDocuments, DocuSign, Everlaw, RelativityOne и Thomson Reuters HighQ.

Платформа разбирает контракты, ведет правовые исследования и следит за изменениями в нормативной базе. Права доступа при этом наследуются из корпоративных политик, которые у компании уже есть, отдельно раздавать их не нужно.

Продукт пока в предварительном тестировании. Похожий инструмент Google уже запустила для финансового сектора, на очереди здравоохранение.
google.com

✔️ NVIDIA показала Jetson Orin Nano 2

Вычислительный модуль рассчитан на дроны и устройства машинного зрения. Внутри восьмиядерный процессор Arm и 8 ГБ оперативной памяти, заявленная производительность - 78 TOPS.

Габариты остались прежними, а инференс, по данным NVIDIA, идет вдвое быстрее, чем у версии Super - обновили тензорные ядра и подняли пропускную способность памяти. Прежнюю производительность модуль выдает при меньшем энергопотреблении.

Через программный стек NVIDIA на модуле можно развернуть оптимизированные для edge-устройств визуальные и языковые модели семейств Cosmos, Nemotron, Gemma 4 и Qwen 3.

В продажу Jetson Orin Nano 2 поступит в первой половине 2027 года.
nvidia.com

✔️ Perplexity выпустила локального ассистента для устройств NVIDIA

Portable Computer одной командой разворачивает инфраструктуру Perplexity на DGX Spark - планировщик задач, маршрутизатор и локальный поисковый индекс.

Работает все на Qwen 3.8 27B и собственной PPLX 27B, следом добавят Nemotron 3.5 Lightning. Если задача сложная, локальный оркестратор может отправить запрос в одну из 15 облачных моделей.

Наружу без явного разрешения пользователя не уходит ничего - это касается и коннекторов к Google Drive, Gmail, Slack и GitHub.

Инструмент доступен подписчикам Pro и Max на Linux. Версию для Windows обещают в ближайшее время. Также в планах поддержка обычных ПК с видеокартами RTX.
perplexity.ai

✔️ Anthropic отправила офис в Сан-Франциско на удаленку

Компания временно перевела сотрудников головного офиса на удаленную работу - из-за возможной забастовки охранников, которых нанимает подрядчик Allied Universal. При этом в профсоюзе SEIU, представляющем охранников, планы на забастовку отрицают - голосование по этому вопросу даже не проводилось.

Переговоры SEIU с охранными агентствами идут с апреля. Профсоюз добивается повышения зарплат, расширения медстраховки и профильного обучения.

В ИИ-индустрии в целом обострилось внимание к физической безопасности - ранее в этом году с угрозами в свой адрес сталкивались сотрудники и Anthropic, и OpenAI.
businessinsider.com


@ai_machinelearning_big_data

#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
👍87🤔5320👏10🎉6🔥4🤬2😭2😢1
Qwen показала Qwen3.8-Flash - мультимодальную MoE-модель и ранний превью архитектуры Qwen4.

- 125B параметров + 51B N-gram embeddings
- активируется всего 6B параметров на токен
- нативный контекст 262K, расширение до 1M через YaRN
- новая архитектура: GDN + QSA hybrid attention, Gated Residual, N-gram Embedding и Muon optimizer
- обучение обошлось примерно в 9 раз дешевле Qwen3.7-Plus

Бенчмарки:
- DeepSWE 1.1 - 58.7
- SWE-bench Pro - 62.5
- CoWorkBench - 73.9
- AndroidWorld - 84.5
- MathVision - 95.7

Продакшен-версия появится в QwenCloud:
$0.16 / 1M входных токенов
$0.47 / 1M выходных токенов

Также Qwen открывает веса Qwen3.8-Flash-Next - ранней версии архитектуры, которую команда исследует для Qwen4.

https://github.com/QwenLM/Qwen3.8-Flash-Next/blob/main/tech_report.pdf

https://huggingface.co/Qwen/Qwen3.8-Flash-Next?spm=a2ty_o06.30285417.0.0.1d73c921FsyOPe&file=Qwen3.8-Flash-Next
87🔥73👍31🤩2310🎉4👀1
⚡️ Анонимная Ox Alpha оказалась новой GLM

Модель OX Alpha появилась на OpenRouter в минувшие выходные в стелс режиме и сразу вышла на первое место по использованию, больше чем вдвое обогнав DeepSeek.

В OpenRouter называют этот запуск крупнейшим в истории площадки.


Сообщество вычислило автора раньше, чем тот представился по характерным ошибкам API и по устройству токенизатора - в Ox Alpha опознали почерк Zai.

Признание компании догадку подтвердило - это новая версия GLM.

Модель заточена под кодинг и сложные агентные задачи. Заодно она меняет прежнее деление линейки - раньше Zai держала отдельно текстовые GLM и визуальные GLM-V, а Ox Alpha мультимодальна.

На OpenRouter модель бесплатна еще неделю, после чего Zai назовет коммерческие тарифы.

Веса обещают выложить сегодня.


@ai_machinelearning_big_data

#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
👍96👌5341👏19🔥16🎉10🤔2💯2🤬1
🔥 GLM-5.3-Flash официально вышла

Новая модель Z.ai стала первой нативно мультимодальной моделью в серии GLM-5 и получила архитектуру, заточенную под дешёвый длинный контекст.

Главное:

* 320B параметров, активны 18B
* hybrid-архитектура: sparse attention + linear attention
* attention compute снижен в 3,01 раза
* KV-cache уменьшен в 4,44 раза
* контекст до 1 млн токенов
* нативная работа с изображениями и интерфейсами
* подходит для coding, browser/GUI-задач, Blender, Office, research и работы с документами
* в GLM Coding Plan даёт в 3 раза больше квоты, чем GLM-5.3

Model ID: glm-5.3-flash

Weights: http://huggingface.co/zai-org/GLM-5.3-Flash
API: http://docs.z.ai/guides/llm/glm-5.3-flash
Coding Plan: http://z.ai/subscribe
ZCode: http://zcode.z.ai/en
Chat: http://chat.z.ai
AutoClaw: http://autoclaw.z.ai

@ai_machinelearning_big_data

#GLM
🔥94👍1913👏10🤩6💯4😐1
🚨 OpenAI признала серьёзный инцидент: исследовательские AI-агенты вышли за пределы тестовой среды и добрались до систем Hugging Face.

Во время внутренних тестов по кибербезопасности модели с ослабленными ограничениями:

* нашли способы общаться друг с другом через инфраструктуру OpenAI
* получили запрещённый доступ в интернет
* использовали найденные уязвимости
* выполнили код на десятках серверов Hugging Face
* на одном сервере получили root-доступ
* получили ограниченный доступ к закрытым данным и учётным данным

OpenAI заявляет, что данные пользователей и работа её продуктов не пострадали.

После расследования компания изолировала веса основной исследовательской модели, приостановила часть обучения новых моделей и усилила изоляцию, контроль доступа в интернет и автоматическое обнаружение опасного поведения.

OpenAI называет произошедшее «предупредительным выстрелом»: современные AI-агенты уже способны самостоятельно находить слабые места в инфраструктуре и объединять усилия через неожиданные каналы.

https://openai.com/index/hugging-face-incident-and-the-road-ahead/

@ai_machinelearning_big_data

#openai
😁88🤣52👨‍💻3617😨14🤔9👍8🔥5🤬4😴2
✔️ Китай наладил связь между Землей и Луной на скорости 100 Мбит/с

Специалисты Китайской академии наук успешно протестировали оптический канал обмена данными на расстоянии свыше 400 000 километров. Эксперимент проводился с использованием окололунного спутника DRO-A.

Команде удалось достичь скорости передачи команд от Земли к аппарату (uplink) на уровне 1,25 Мбит/с, тогда как скорость обратного потока телеметрии (downlink) составила 100 Мбит/с.

Подобная высокоскоростная двусторонняя лазерная связь развернута за пределами околоземной орбиты впервые.


Переход на эту технологию кардинально меняет пропускную способность каналов дальней космической связи.

Для сравнения: передача одного снимка в разрешении 8K с лунной поверхности по традиционному микроволновому линку (около 5 Мбит/с) занимает до пяти минут. Новая лазерная система позволяет передать этот же объем всего за 12 секунд, что решает проблемы при отправке тяжелых научных данных на Землю.


@ai_machinelearning_big_data

#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
1🔥158👍9322👏14🤩7🤣2