Время Валеры
32K subscribers
238 photos
9 videos
1 file
479 links
Мне платят за то, что я говорю другим людям что им делать.
Автор книги https://www.manning.com/books/machine-learning-system-design
https://venheads.io
https://www.linkedin.com/in/venheads
Реклама: @arturtimofeevv
Download Telegram
С середины лета мегапростыня начала барахлить.

Ну как барахлить — она просто говорила, что меня нет. Я спал, а она говорит: нет, сегодня ты на мне не спал. Сначала пару раз в неделю, потом 3–4, потом уже почти каждый день. Но продолжала но ночам холодить, а по утрам греть и жужжать

Поначалу я подумал, что, возможно, уже достиг такого уровня познания, что по ночам ухожу в астрал. Но затем решил что реальность прозаичнее.

Мельдонщик из зала тоже недавно заявил ряду людей: «Что-то я давно не видел Валерия». Сказал он это людям, которым я регулярно говорил, что хожу в зал. Неловко вышло.

Потом оказалось, что он просто начал работать в другую смену, как, видимо, и мегапростыня.

В итоге я написал в команду поддержки, что вот я был, а вот меня не стало. Они почесали репу и выслали мне новую мегапростыню бесплатно.

Спасибо.

А мельдонщик, кстати, снова вышел в утреннюю смену и попросил еще мельдония.
😁334💅25🤣21🔥10❤8👻2💊2🤔1👌1🐳1
Про важное поговорили, теперь можно про ML.

Сейчас читаю ML System Design (который уже неприлично разросся: 5 месяцев и 10+ часов контента только по агентским системам, а всего 60+) в школе ML Inside (запись на текущий поток закрыта).

Мой давний друг и коллега Витя Кантор попросил рассказать про другой его курс.

Онлайн-специализация «Искусственный интеллект и анализ данных»

Это реинкарнация старой специализации по ML на Coursera от МФТИ и Яндекса, теперь, небось, без второго Питона. В программе 7 модулей: Математика и Python, Classic ML, DL, AI-агенты, A/B, Production ML (MLOps) и введение в ML System Design. https://mlinside.ru/specializaciya

Подойдёт тем, кто хочет перейти в ML из аналитики или разработки, подтянуть теорию перед собеседованиями или просто освежить базу и разобраться в новом, например, в агентах. Учиться можно в своём темпе, все модули открыты сразу (только последний ещё в разработке).

Для студентов университетов особое предложение: покупать подписку не надо, доступ можно получить бесплатно.

Бюджет или платная форма обучения, очно или дистанционно, бакалавриат, магистратура или даже аспирантура — заполняете анкету, подтверждаете, что вы студент, и получаете доступ: https://forms.yandex.ru/u/69e893846d2d7372b90870d5
🔥99🤣33❤24👍10❤‍🔥1💩1
В последнее время все дружно делают корпоративных AI-агентов и постепенно приходят к замечательной мысли: чтобы модель делала работу, ей надо дать доступ к работе. А не только поле, куда работяга будет заботливо копировать содержимое остальных корпоративных систем.

OpenAI называют это переходом от assistance к execution. Microsoft развивает skills, коннекторы к корпоративным данным и взаимодействие агентов между собой. В общем, хочется, чтобы AI уже что-нибудь сделал, а не только рассказал, как это можно было бы сделать. Вполне понятное желание.

Яндекс туда же: на Yandex Scale 2026 (обсуждали здесь) анонсировали Алису AI Про. Заявленный сценарий — сотрудник описывает задачу обычным языком, а дальше Алиса сама определяет шаги (делает стейт машину?), подбирает инструменты и работает с подключёнными корпоративными системами (mcp/a2a registry?). Для сложной задачи может собрать команду специализированных агентов, которые параллельно занимаются документами, поиском информации и прочими частями работы (конкурент моей книге по дизайну AI систем?)

В целом задача непростая

Модель, даже очень умная, сама по себе не знает, как устроена ваша компания. Где лежит актуальный договор, кто согласовывает закупку, откуда брать цифры для отчёта и почему файл «финал_финал_2» использовать нельзя (лекция про rag), а надо спросить у человека, который сейчас в отпуске. В обучающую выборку эти замечательные знания, скорее всего, не попали.

Ей нужны документы, внутренние инструкции, CRM, почта, трекер, базы знаний и правила выполнения конкретных операций. Причём всё это надо не просто подключить, но и разобраться, что кому можно читать и менять. Просьба в системном промпте «пожалуйста, не показывай чужие данные» проверку прав доступа не заменяет.

Дальше надо решить, какие действия агент выполняет сам, а где должен остановиться и спросить человека.

У Алисы AI Про такие разрешения предусмотрены отдельно. Потому что между «подготовь письмо клиенту» и «отправь письмо клиенту» разница небольшая только в количестве букв.

В общем, снова данные, интеграции, permissions и оркестрация. Обычный system design, который после появления LLM почему-то никуда не делся. Хорошая модель нужна, но работу по встраиванию в конкретную организацию за вас не отменяет.

Для российского enterprise есть ещё вопрос, где всё это разворачивается и куда уходят данные. Если компания не готова отправлять их во внешнее облако, рассказ о том, какой у вас замечательный интеллект, обсуждение далеко не продвинет. Поэтому мои бывшие коллеги, Яндексоиды, предусмотрели варианты on-premises и гибридного развёртывания, выбор модели и собственные специализированные навыки.

Конкретные условия и доступность возможностей имеет смысл обсуждать наравне с качеством самой модели как ещё одну часть ТТХ

Поэтому следует смотреть на следующий показатель : сколько работы после внедрения перестал делать сотрудник. С учётом времени на подготовку контекста, проверку и исправление результата, конечно.

Если он по-прежнему должен всё найти, скачать, скопировать, принести в чат, а потом разнести ответ обратно по системам, то агент у вас, возможно, и появился.

Но коннектором в этой архитектуре всё ещё работает человек.
1🤡723👍64🤮31❤18🤣12🔥5👾5🤔4👎2💯2
Не перестаю радоваться и удивляться тому, что студенты всегда остаются студентами. Вот и в эту субботу они в очередной раз это доказали.

Команда из пяти человек. Все очень серьёзные люди, умудрённые опытом, сединами и отягощенные грузом PhD: архитекторы, совладельцы бизнеса - вообщем серьезные дядьки.

Должны были продемонстрировать и защитить первую половину дизайн-документа по агентной системе, которая призвана ревьюить дизайн-документы. Они начали переделывать под себя систему с предыдущего потока, потому что задача у них как у архитекторов достаточно интересная: какие вопросы нужно задать и какие ответы получить, чтобы снизить дисперсию оценки проекта. Это, очевидно, очень важно для любой компании, которая оценивает проекты, а затем их выполняет.

Изначально они должны были защищаться за неделю до этого, но попросили отсрочку: все разъехались по командировкам. Люди, опять же, занятые.

Договорились встретиться на защите в субботу.

Суббота наступила, я заварил чай, думаю: Ну, наконец-то я буду не читать, а слушать.

Начинаем занятие, вызываю команду:

И тут лидер команды говорит:
— А мы сегодня не готовы и документ не покажем

Чем в очередной раз подтверждает: студенты всегда остаются студентами.

Дисперсию они, очевидно, не снизили.
1😁341❤42🤣29😢6🤡4🔥3💅2👍1🤔1🌚1
AI-проекты с нуля: как выбрать нишу, собрать продукт и выйти на первую выручку

Собрать AI-продукт сейчас можно за выходные. Сложнее добиться, чтобы им пользовались и за него платили: большинство таких проектов так и остаются демками.

8 октября на онлайн-панели разберём весь путь от идеи до первых денег.

Обсудим:

— как выбрать нишу, которую не съест следующий релиз OpenAI
— на чём собирать продукт: готовые API, агенты или своя модель, и как не утонуть в стоимости токенов
— где найти первых платящих клиентов без бюджета на маркетинг
— по каким сигналам понять, что проект пора масштабировать или закрывать

Спикеры:

Андрей Резинкин — ангел-инвестор в 20+ стартапах

Валерий Бабушкин — ex-VP of ML в Alibaba, руководил AI-командами до 600 человек в BP, Kaggle Grandmaster

Игорь Зуев — в портфеле 30+ приложений на рынок ЕС и США, выручка $1.5 млн+ в год

Артём Субботин — 20 лет опыта в hardware и создании глобальных трендов

Николай Хлебинский — серийный IT-предприниматель, основатель Retail Rocket

Александр Горный — ex-директор по стратегии Mail.Ru Group (VK), основатель клуба для предпринимателей ShareAI

📅 Когда: 8 октября, четверг, 19:00 мск
📍 Где: онлайн, Zoom
💰 Стоимость: бесплатно, нужна подписка на каналы всех спикеров
❓Q&A: да, приносите вопросы по своим проектам

Доступ к трансляции и запись получат только зарегистрированные — забирайте место:

👉 Зарегистрироваться на конференцию
🥱58🤣19👍13❤12🤡10⚡1🔥1💩1💅1
В воскресенье, 11 октября в 19 по Лондону (21 по мск), проведём стрим с моим другом и будущим соавтором книги про дизайн агентских систем — Алексеем.

Он долгое время работал в информационной безопасности: разрабатывал антивирусные технологии, системы обнаружения сложных целенаправленных атак и инфраструктуру для обработки больших объёмов данных. Технологии, созданные под его руководством, лицензировали и использовали Яндекс, ВКонтакте, Одноклассники и другие крупные компании.

Последние несколько лет Алексей строит production-агентов для бизнеса — системы, которым можно доверить реальные бизнес-процессы.

В центре его интересов — архитектура агентских систем и agent harness, tool calling, управление контекстом, evals, а также надёжность и контроль поведения агентов в production.

Вопросы можно писать в комментариях к посту
104🔥116👍30❤17💅8🤬3👾1
Live stream scheduled for
Нет совета директоров? Одолжим на вечер: в четверг шесть экспертов разберут ваш AI-проект

Обычно на вопрос «как запустить AI-продукт» отвечает кто-то один. И отвечает со своей колокольни: технолог про архитектуру, предприниматель про продажи, инвестор про метрики.

В четверг мы соберём за одним столом шесть человек с очень разным опытом. По сути, это совет директоров, которого у ранних проектов обычно нет:

Валерий Бабушкин — взгляд технолога, который строил ML в Alibaba и руководил AI-командами до 600 человек
Игорь Зуев — взгляд практика, в портфеле которого 30+ приложений на рынок ЕС и США, выручка $1.5 млн+ в год
Артём Субботин — взгляд продуктовика, который 20 лет создаёт тренды в hardware
Николай Хлебинский — взгляд серийного предпринимателя, который построил Retail Rocket
Александр Горный — взгляд стратега, который в Mail.Ru Group (VK) помогал выбирать компании для покупок и инвестиций на полмиллиарда долларов
Андрей Резинкин — взгляд инвестора, в чьём портфеле 20+ стартапов на разных стадиях: от идеи до $100 млн выручки

Где искать нишу, на чём собирать, откуда брать первых клиентов и когда пора масштабироваться — у каждого из шестерых будет свой ответ. И самое полезное начнётся там, где они не согласятся друг с другом.

В конце Q&A: приходите с вопросом по своему проекту, совет директоров его рассмотрит.

Эфир для всех, кто делает AI-продукт, думает о запуске или хочет понять, где в AI сейчас деньги.

📅 Четверг, 8 октября, 19:00–21:00 мск, Zoom
💰 Бесплатно. Условие одно: подписка на каналы спикеров, бот всё проверит

Ссылку на эфир и запись получат только зарегистрированные:

👉 Занять место на эфире
💩62❤21👎10😁8💅3👏2👾2😱1🥴1🖕1💊1
Прежде чем делиться документом, его полезно сжать, сохранив информацию (скилл здесь, https://xn--r1a.website/cryptovalerii/999 - если сжимает мало, попросите сделать экстремальное сжатие). Читателю меньше работы, автору приходится разобраться, что он вообще хотел сказать, для модели — компаундный эффект (экономия на каждом прогоне).

С контекстом для LLM похожая история (часто документ и является контекстом), только хуже.

Допустим, вы делаете агента, которому нужны данные из интернета. Проблемы начинаются раньше, чем кажется: нужен программный доступ к поисковой выдаче, а его негде взять. И даже когда доступ есть, найти страницы недостаточно — их нужно скачать, почистить HTML, нарезать на фрагменты, выбрать подходящие и передать модели.

Я уже рассказывал про Yandex Scale — теперь у них появились Smart Snippets в Yandex Search API. Отправляете запрос, получаете релевантные фрагменты найденных страниц с цитатами и ссылками на источники. Поиск и подготовка веб-контекста — одним вызовом API.

Каждый фрагмент — примерно 500 токенов. В контекст идут выбранные части страниц. Итоговый ответ на их основе формирует ваша модель: Smart Snippets подготавливают для неё материал.

По данным Yandex Cloud, это сокращает количество токенов веб-контекста до 3 раз при том же качестве ответа.

Тут полезно правильно посчитать экономику. Если веб-контекст сократился втрое, весь счёт за LLM втрое не уменьшится из за остальной обертки: остаются инструкции, история диалога, генерация ответа. Плюс стоимость самого поиска. Но если агент регулярно ходит в интернет и приносит много текста, оптимизировать эту часть вполне имеет смысл.

Ну и приятная возможность — снять с себя часть работы по обработке веб-контента. Это, к сожалению, не значит, что поддерживать становится нечего: свой код вокруг ответа API остаётся, и отвечать за то, как это работает в проде, всё равно кому-то придётся.

Есть смысл потестировать на своих запросах качество ответов, полную стоимость запроса и задержку. Если качество сохраняется, а стоимость и объём поддержки снижаются — есть вполне понятная причина использовать.

Протестировать можно здесь
👎111❤20👍13😴6🥱4🔥3👌1
Вчера общался со старшим директором по Data Science в одной компании в Штатах. Оказалось, что именно она была автором той самой модели в Target, которая в своё время отправила купоны со скидками на детские товары в семью, где отец ещё не знал, что его дочь беременна.

Той самой, после которой он в ярости прибежал в ближайший магазин Target разбираться: С какого перепуга вы присылаете моей дочери такое (My daughter got this in the mail!” he said.“She’s still in high school, and you’re sending her coupons for baby clothes and cribs? Are you trying to encourage her to get pregnant?)? А спустя некоторое время вернулся и сказал: Да, она беременна.

У меня к ней был один главный вопрос. В сообществе ведь ходили две версии этой байки. По одной, девушка сама ещё не знала о беременности, а модель уже всё поняла. По другой — девушка знала и уже покупала какие-то товары, по которым модель определила беременность и начала предлагать скидки на соответствующие покупки. Не знал только отец.

Ну и тайна раскрылась: по её словам, сама девушка уже знала, что беременна.

Конечно, забавно в какой-то момент карьеры встречать людей, о которых ты никогда не слышал, но прекрасно знаешь о том, что они создали.

А еще она пишет детские книжки
1🔥256❤54👍26👏4😁3
Live stream started
Комментарии и вопросы по стриму можно оставлять здесь.
🌚13😁4🥱2👾2❤1👀1
Live stream finished (1 hour)
Forwarded from 
🎙🎙🎙🎙🎙
Главный признак, что пора в сеньоры ML: сложные кейсы перестали казаться сложными, а новые проекты — по-настоящему новыми.

Если вы все чаще ловите себя на мысли, что пора расти дальше, приходите на прямой эфир с Валерием Бабушкиным — человеком, который сам прошел путь до сеньора в машинном обучении и может дать вам экспертный совет ✅  

↖️ Прямой эфир с Валерием Бабушкиным
Как расти в ML: грейды, собеседования и проектирование систем

Встреча пройдет в формате Q&A. Каждый участник сможет задать вопрос Валерию о карьере и получить экспертный ответ. Заодно обсудим, как перейти от роли исполнителя к участию в проектировании ML-систем.

Будет полезно продактам и проджект-менеджерам, тимлидам ML-команд, ML-инженерам, DS, MLOps (middle+) и свитчерам из разработки или аналитики.

❓Свой вопрос можете отправить при регистрации на событие или в чат во время эфира.

Спикер: 
Валерий Бабушкин — старший директор данных, аналитики и искусственного интеллекта в British Petroleum.


📅 Когда: 15 октября в 19:00 мск

📌 Записаться
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍34❤23🔥8😱6💅3👾3
Встретился с основателями Higgsfield, договорились, что помогу собрать топовую команду DS и аналитики.

В ближайшее время буду работать с ребятами и их Head of Data Дидаром: помогать с наймом, участвовать в интервью и формировании команды. Планирую прилететь в Алматы на неделю-другую и познакомиться со всеми лично.

Higgsfield делает AI-платформу для генерации контента. Классная комбинация задач: эксперименты, продуктовый рост, монетизация, платежи, антифрод. И отдельно — работа с последовательностями действий пользователей: как помочь человеку быстрее получить нужный результат генерации и попробовать натравить на это Reinforcement learning

Кого ищем:
• Product Analyst — продукт, удержание, монетизация.
• Product Scientist — эксперименты, causal inference, ML для продуктовых решений.
• Marketing / Growth Analyst — привлечение пользователей и эффективность маркетинга.
• Payments Analyst — платежи, подписки и причины отказов.
• Antifraud Analyst и Antifraud Scientist — расследования и модели против мошенничества.
Есть также роли в B2B-продуктовой аналитике, CX / SEO / GEO и analytics engineering.
Нужны люди с сильной базой, которые умеют разбираться в задаче, задавать вопросы и самостоятельно доводить работу до результата.
По условиям: $100–350k в год + опционы, в зависимости от роли и уровня. Работа в офисе в Алматы, с финансовой и организационной поддержкой релокации. Темп высокий, рабочая неделя — шесть дней. Это стоит учитывать сразу.

Для понимания задач — пара историй от ребят. Их антифрод-аналитик вычислил мошенника, которого искало ФБР, и помог собрать доказательства для дела. А руководитель Growth-аналитики разработал метрики, которые помогли компании закрыть раунд на $400 млн, и получил $5 млн опционами.

Планируем первый стрим с Дидаром: поговорим о задачах, команде, подходе к работе и найме. Дату и время сообщу отдельно. Вопросы можно уже оставлять в комментариях.

Если интересно — пишите мне @Venheads, обсудим, какая роль может подойти. Можно сразу откликнуться по ссылкам или написать рекрутеру @anton_higgs.

Все вакансии — здесь.
How Higgsfield Became One of the Fastest-Growing AI Video Platforms for Creators and Startups
💩208🔥128❤28👎15❤‍🔥8👍4🌭4😱3⚡2😁2💯1
Очень хороший пост от Gergely - автора pragmatic engineer

Причина, по которой SWE/IT находится в таком привилегированном положении в плане зарплат, условий и локаций (от легкого переезда до удаленки), связана не столько с тем, что это область, в которую сложно войти, а в том, что сама область постоянно изменяется, и необходимо постоянно учиться и адаптироваться. Далее он пишет, что в отрасли был период стабильности в 10 лет, в который люди, казалось, забыли, что премиум платится именно за это.

Согласен со многим, в том числе это одна из причин, почему ML-специалисты и около них не сильно пострадали: этим добрякам все эти 10 лет приходилось постоянно себя переизобретать, и далеко не все выдерживали.Знаю многих, которые ушли из профессии как раз по этой причине: нужно постоянно, непрерывно учиться.

I think many of us working in tech tend to forget that the reason software engineering vs other engineering fields pays (a lot!) more, is a lot more flexible (WFH/remote), and has better perks:

Because this field changes much faster than other engineering fields. The premium is because fewer people are able/willing to pick up new technologies, methodologies so quickly.

But the field had ~10-20 years of stability, and so lots of folks forgot this is why a premium exists. And that AI is just another tech wave: software engineers who pick it up and master it will generally fare better; those not will struggle a lot more.

Ask your mechanical engineer, electrical engineer, civil engineer, chemical engineer friends (if you have them) what their pay is; how much equity; how easy it’s to work remote; and how easy to live countries without taking country-specific exams or learning the local language.

Software engineering is a privileged field in many ways: but it’s like this because few enough put up with the brutal pace of change that happens periodically, and leaves those behind who don’t like sudden and less predictable change.

In some ways: the job IS the ability and willingness to learn and adapt new technologies, fast, while building real-world stuff that makes money for the business one way or the other. We are paid a hefty premium to do exactly this, and because few enough people do this.
2❤103👍36🦄9👎3😁2🔥1👾1