Собственно про качество мы слышали уже, только не совсем то, что пишет Антон 😂😂😂

Вот это я понимаю, настоящий инженерный подход, чувак посчитал сколько ему обходится локальная llm и за сколько он может взять более мощные модели в облаке 👇👇👇

0.100$/кВт*час, (1000 UZS).

Watts: 250 (2080 Ti) + 150 (4060 Ti) + 100 (cpu) + 50 (остальное част), это еще андервольт (0.050$ кВт*ч)

При токене 10-15 ток/сек для qwen-32b или до 60 ток/сек для deepseek-r1-8b (ну железо не топовый), максимум могу получить 360,000-480,000 токенов в час с flash attention и kv cache @ q8, с учетом что между промпт жду, это макс 220-250к/час токенов.

Для 1м токенов получится $0.200/1М токенов.
Еще системник включено, я работаю с макОс.
Контекст маловат.

За $0.200 я могу получить deepseek-v3.1 с 65к контекст.
Или тот же gpt-4.1-mini, gpt-5-mini будет куда умнее, быстрее и выгоднее мне.

Ваш задача и случае может отличаться, но для себя понял что облако мне выгоднее.

Есть только одни чуваки на просторах рунета чьему мнению я доверяю, они ерунды не скажут 👆👆👆

Предлагаю Саше провести совместный стрим на тему того как сегодня правильно развиваться айтишникам, когда конфы не нужны, курсы и менторы часто толкают скам, сообщества только ради бабосов создают, многие программисты застряли в своём развитии на уровне, который легко заменит ИИ.

👇👇👇

Агония конференций: главный формат сборищ айтишников умер, и его совсем не жаль

Онтико, организатор одних из самых крупных конференций в России (HighLoad, TeamLead Conf и т. д.), провели опрос, из которого узнали, что сам жанр конференций окуклился и превратился в легаси-хуйню. Результаты опроса намекают, что организаторам по-прежнему больше всего похуй на человека, для которого всё и должно делаться, — на посетителя конфы.

Но если всё делается не для посетителя, то для кого? Большие конфы с множеством логотипов в футере делаются для разного рода очковтирателей.

Начнём с многолетних спикеров и членов программных комитетов, чьи ЧСВ раздуваются до планетарного масштаба. Как будто бы, сам факт, что тебе вручили микрофон или право им распоряжаться на столь серьёзном мероприятии, как бы делает тебя особенным. Сразу у твоих слов появляется больший вес, а в интонациях проскакивает нотка высокомерия. Хотя по цифрам — это смешной контент. Доклады (от этого слова у меня в носу запах, как от старого оборудования в физической лаборатории провинциального ВУЗа) едва собирают тысячу просмотров на YouTube. Панельные дискуссии, куда приходят неподготовленные проходимцы поторговать ебалом, невозможно смотреть без фейспалма. После выступления на конфе можно будет похвастаться маме, что ты стал очень солидным человеком в индустрии.

Следующий тип очковтирателей — это разного рода деврелы и бренд-менеджеры. Главный продукт, который они производят — это фотографии людей на стендах или на фоне логотипа компании, а также фото своих спикеров на сцене. Фотографии украшают корпоративные презентации, которые с помпой демонстрируются руководству. Каких-либо метрик у деврела и бренд-менеджеров нет, потому что «ну вы же должны понимать, построение бренда работодателя — это медленный процесс».

Ну и самые главные очковтиратели — организаторы конференций, которые вообще не хотят меняться. Они по-прежнему работают на одного актора: спонсоров конфы. Вся экономика конференций строится на том, что спонсоры поставят стенды, заплатят за выступление одних своих сотрудников, а другим — купят билеты.

Что остаётся незамотивированному зеваке, которого компания отправила на конфу? Поиграть в плейстешн на стенде. Поскучать на докладе с названием типа «Как мы собрали суперапп, а потом обратно распилили его на отдельные приложения. Наш опыт», что-то жизненное и интересное будет зацензурировано спонсором. Получить бесплатное худи с логотипом и катышками, которое будет носиться строго дома. Из нормального остаётся только наебнуть дешёвого пивка с коллегами, именно с коллегами, потому что вся атмосфера конфы, где тебя бомбят рекламными сообщениями и пытаются развлечь, не располагает к знакомству с новыми людьми.

Вы удивитесь, но такое времяпрепровождение стоит вполне себе богемного прайса. На Frontend Conf, двухдневную самую крупную конференцию по одному из популярнейших направлений в IT, которую как раз-таки Онтико и организует, входной билет стоил 88к деревянных. Тысяча евро за два дня. Запомнится эта конференция шашлычок-гейтом: за 88к кейтеринг выдавал один шашлык в одни руки, и это попало под камеры.

Есть мнение, что микросервисы сильно переоценены. Хочу сказать пару слов на эту тему.

Вчера на созвоне разбирали архитектурный ландшафт сервисной архитектуры. Традиционно ребята уперлись в тонкое место SOA — общую шину предприятия. Попытались использовать API-gateway и вместо оркестрации уйти в хореографию. Нетрудно догадаться, что решение сразу стало не в SOA-стиле, а обычными микросервисами.

Мне кажется, что исторически именно раздутые ESB заставили уходить организации в микросервисы. И это остро чувствуется, когда сам сталкиваешься с задачей и ощущаешь всю неповоротливость шины.

Один такой практический созвон заменяет сотни споров, потому что в теории все просто, а практика показывает обратное.

Поэтому очень важно для усвоения материала пройти путь от монолитов через сервисы к микросервисам, без этого нет понимания "болевых" точек, которые привели индустрию к текущему состоянию. Микросервисы получились не случайно, они являются закономерным результатом многолетнего набивания шишек.

Кстати, а кто ещё не знает, что в микросервисах нет ESB? 👇👇👇

Каким образом уход в микросервисы решает проблему раздутого esb?
Оно только ещё больше раздувается

Не знаю как вам, а мне этот год дался максимально тяжело. Особенно последние несколько недель.

Во-первых, в этом году сделал полный юридический аудит своих проектов. Понял, что их надо либо закрывать, либо развивать. Естественно принял решение - развивать. Хотя сейчас думаю не было ли это ошибкой?

Во-вторых, сделал себе отдельную студию под запись видео, уже давно хочу вернуться к регулярной записи роликов.

В-третьих, начал делегировать работу, которую делал сам. Казалось бы это должно сильно облегчить работу, но объяснять людям что нужно сделать - это отдельный вид искусства.

В итоге получил дикое количество перерабток. Немного устал, но не выгорел. Иду к цели на чистом упрямстве.

Только на моей памяти было "ИИ никогда не сможет обыграть человек в шахматы", "ИИ никогда не сможет переводить тексты, делать анализ изображений, генерировать видео", "ИИ никогда не сможет писать код".

Теперь вот "ИИ не заменит людей"


Вам не кажется, что уровень того что ИИ никогда не сможет делать постоянно растёт?
https://habr.com/ru/companies/bothub/articles/969106/

Попробуйте посмотреть на вопрос под другим углом. Мы боле 40 лет создаём процессы и инструменты, которые удобны человеку. У нас появляются Ide, языки программирования, методики разработки. Заставь человека писать код прокалывая дырочки на перфокартах и вы сразу поймёте, что наша супер интеллектуальность никому не нужна. Для прогресса нужна скорость!

Принципиально модель вычислений не меняется годами, меняются только инструменты, созданные для человека.

А теперь возникает вопрос, то что удобно для работы человека удобно для работы ИИ? Ответ - твёрдое нет.

Для ИИ использование наших высокурлвневых языков и абстракции так же неудобно как нам прокалывать дырочки на перфокартах.

Поэтому дело не только в том чего ИИ может или нет, а в развитии инструментов, которые будут компенсировать отсутствие абстрактного мышления у LLM.