Мне практически каждый день задают те или иные вопросы по каким-то проблемам или настройками из сферы ИТ: в личных сообщениях, в комментариях или форуме на сайте, тут в чате, в ВК. Последнее время переадресовываю эти вопросы ИИ и отправляю ответ. Чаще всего он решает задачу.
Хочу лишний раз всем напомнить, кто пропустил вспышку - используйте ИИ. Он уже сейчас решает очень большой спектр задач. Да, иногда неидеально и не полностью, но не пользоваться им в наши дни, всё равно, что ходить пешком, когда уже можно ехать на автобусе или машине. Транспорт не отменяет хождение, но идти, когда можно ехать, особого смысла нет, если стоит задача быстро попасть в нужное место, а не прогуляться.
Я сам не сказать, что прям активно использую ИИ, но пользуюсь каждый день. Из платных версий уже 2 раза по дешёвке покупал Perplexity и оба раза мне блокировали аккаунты. Пользуюсь бесплатными: ChatGPT, DeepSeek, Qwen, Perplexity. Пока у них ещё нормальные бесплатные лимиты. Для простых задач хватает и бесплатных версий. По отзывам платные намного качественнее, но у меня и задач для них пока нет. Код не пишу, хотя есть желание попробовать. Уже обдумал задачи, на которых опробую. В ежедневной текучке хватает бесплатных.
DeepSeek, Qwen и Perplexity работают без каких-либо ограничений. Не нужно VPN включать. Не вижу никаких причин ими не пользоваться, но куча знакомых и незнакомых мне людей до сих пор ими не пользуются. Не знаю, почему. То ли разбираться лень, то ли не верят, что они им помогут. Если не пробовали ещё, то обязательно попробуйте и начинайте использовать. Чего ждать то? Будущее уже наступило. Теперь работа с ИИ будет обыденностью. Самое главное - не махайте рукой, типа это фигня, если он не решит какую-то задачу или наврёт. С ИИ надо учиться взаимодействовать и не ждать от него чуда. Это рабочий инструмент, к которому нужно привыкнуть и использовать по назначению.
Я и юридические вопросы ему задаю. Много врёт и даёт неточную информацию, доверять нельзя, но как отправная точка может помочь. И бытовые, по ремонту машины, например. Тут хорошо помогает. Сказывается богатая база информации на автофорумах, которая не теряет актуальности со временем.
По ИТ само собой. Портянки bash и регулярок пишет почти всегда рабочие, хоть и не оптимальные. По ошибкам и логам тоже очень хорошо помогает решать проблемы. Сконфигурировать какой-то новый сервис или актуализировать конфигурацию под только что вышедшую версию чаще всего не может, начинает фантазировать. Сказывается отсутствие обучающего материала, который ещё не написали. Для старых сервисов даёт конфигурации рабочие, но часто неоптимальные, с лишними параметрами. Я обычно получаю от него конфигурацию, прошу всё пояснить и дальше по документации сверяю некоторые моменты и убираю или меняю то, что мне не нужно. То есть использую ИИ только как помощник, не доверяю ему полное решение задачи. Хотя он может решить, но плохо. Так как я пока ещё могу сам проверить всё, делаю это.
❓А у вас как дела с ИИ складываются? Есть ещё те, кто его не использует? Чем руководствуетесь при этом? Отдельно поинтересуюсь, какие платные подписки покупаете и самое главное, как оплачиваете? Не разбирался пока с этой темой.
———
ServerAdmin:📱 Telegram | 🌐 Сайт | 📲 MAX 😩
#ai
Хочу лишний раз всем напомнить, кто пропустил вспышку - используйте ИИ. Он уже сейчас решает очень большой спектр задач. Да, иногда неидеально и не полностью, но не пользоваться им в наши дни, всё равно, что ходить пешком, когда уже можно ехать на автобусе или машине. Транспорт не отменяет хождение, но идти, когда можно ехать, особого смысла нет, если стоит задача быстро попасть в нужное место, а не прогуляться.
Я сам не сказать, что прям активно использую ИИ, но пользуюсь каждый день. Из платных версий уже 2 раза по дешёвке покупал Perplexity и оба раза мне блокировали аккаунты. Пользуюсь бесплатными: ChatGPT, DeepSeek, Qwen, Perplexity. Пока у них ещё нормальные бесплатные лимиты. Для простых задач хватает и бесплатных версий. По отзывам платные намного качественнее, но у меня и задач для них пока нет. Код не пишу, хотя есть желание попробовать. Уже обдумал задачи, на которых опробую. В ежедневной текучке хватает бесплатных.
DeepSeek, Qwen и Perplexity работают без каких-либо ограничений. Не нужно VPN включать. Не вижу никаких причин ими не пользоваться, но куча знакомых и незнакомых мне людей до сих пор ими не пользуются. Не знаю, почему. То ли разбираться лень, то ли не верят, что они им помогут. Если не пробовали ещё, то обязательно попробуйте и начинайте использовать. Чего ждать то? Будущее уже наступило. Теперь работа с ИИ будет обыденностью. Самое главное - не махайте рукой, типа это фигня, если он не решит какую-то задачу или наврёт. С ИИ надо учиться взаимодействовать и не ждать от него чуда. Это рабочий инструмент, к которому нужно привыкнуть и использовать по назначению.
Я и юридические вопросы ему задаю. Много врёт и даёт неточную информацию, доверять нельзя, но как отправная точка может помочь. И бытовые, по ремонту машины, например. Тут хорошо помогает. Сказывается богатая база информации на автофорумах, которая не теряет актуальности со временем.
По ИТ само собой. Портянки bash и регулярок пишет почти всегда рабочие, хоть и не оптимальные. По ошибкам и логам тоже очень хорошо помогает решать проблемы. Сконфигурировать какой-то новый сервис или актуализировать конфигурацию под только что вышедшую версию чаще всего не может, начинает фантазировать. Сказывается отсутствие обучающего материала, который ещё не написали. Для старых сервисов даёт конфигурации рабочие, но часто неоптимальные, с лишними параметрами. Я обычно получаю от него конфигурацию, прошу всё пояснить и дальше по документации сверяю некоторые моменты и убираю или меняю то, что мне не нужно. То есть использую ИИ только как помощник, не доверяю ему полное решение задачи. Хотя он может решить, но плохо. Так как я пока ещё могу сам проверить всё, делаю это.
❓А у вас как дела с ИИ складываются? Есть ещё те, кто его не использует? Чем руководствуетесь при этом? Отдельно поинтересуюсь, какие платные подписки покупаете и самое главное, как оплачиваете? Не разбирался пока с этой темой.
———
ServerAdmin:
#ai
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍196👎13
Расскажу историю по мотивам утренней, как моя невнимательность и ошибки бесплатных СhatGPT и Qwen привели к тому, что я несколько часов ходил по кругу и не мог решить простейшую задачу. Думаю, это будет наглядным примером того, как не стоит сильно доверять ИИ даже в простых задачах.
Как я уже писал, у меня была задача - собирать логи Mikrotik в Loki. Первое, что я сделал - задал вопрос на эту тему ChtaGPT, чтобы в целом понять структуру задачи. Он ответил вполне логично, что можно взять устаревший Promtail, или современный и рекомендуемый Alloy. И сразу предложил к нему конфигурацию.
Я, уже наученный опытом использования конфигураций от ИИ, сразу же пошёл в документацию, чтобы самому собрать нужные параметры. Меня интересовали параметры для раздела loki.source.syslog. Я этот поисковой запрос вбил в Яндексе, в надежде сразу попасть в документацию, как это обычно бывает. И я действительно попал в документацию Grafana, только для продукта Agent, который был предшественником Alloy. У них одинаковая структура конфигурации, просто у Alloy намного больше параметров. Но визуально они не отличаются.
Я собрал конфиг для syslog на основе этой документации. Запустил, всё работает. Оправляю логи с Mikrotik и получаю ошибку парсинга. Я опять пошел в ИИ и спросил его, в чём ошибка и как решить. Он логично отвечает, что Alloy ожидает RFC5424, а получает RFC3164-подобный формат от Микротика.
И дальше он предлагает параметр, который решает эту проблему:
❗️Но вставляет его не в тот раздел конфигурации. Я добавляю, запускаю, получаю ошибку конфигурации на параметр syslog_format, якобы его не существует. Пишу это в ИИ и он мне на голубом глазу отвечает:
В Grafana Alloy нет параметра syslog_format (я привёл аналогию с другими инструментами — здесь это не работает).
Я возвращаюсь на вкладку документации для Agent, всё там проверяю и действительно не вижу этого параметра. Ну а дальше поехали всевозможные костыли, на которые я потратил кучу времени, но задачу таки решил через одно место.
И уже позже, когда я разбирался с метками на основе syslog полей, я попадаю в документацию Alloy и с удивлением вижу там:
The messages must be compliant with the RFC5424 syslog protocol or the RFC3164 BSD syslog protocol.
Это было как гром среди ясного неба. Я не понимаю, чем я вообще занимался и какую задачу решал. Сравнил две вкладки с документацией Agent и Alloy. Они очень похожи, так как последний является продолжением первого, просто для него добавились дополнительные параметры.
Сделать нужно было вот так:
А ИИ предложил так:
Поставил параметр не в ту секцию. Когда получил ошибку на syslog_format, с какого-то перепугу заявил, что его не существует. А я из-за невнимательности поверил и решил, что его действительно нет.
Параллельно я этот же вопрос решал с Qwen и он тоже не дал рабочей конфигурации для Alloy.
Такая вот для меня поучительная история получилась. Не знаю, как работают платные версии, но бесплатные явно путаются и в некоторых сферах работают плохо. Я так понял, что тут наложилось то, что был Promtail, Agent и теперь появился Alloy. Все 3 программы решают одинаковые задачи, существовали одновременно, конфигурации похожи, поэтому получается путаница. Проще было с самого начала сделать всё самому. Это бы заняло 10-15 минут. А в итоге несколько часов потратил. Правда, многому научился. И получил в итоге самый удобный вариант, о котором напишу в следующей заметке.
☝️ По сути тут ошибся я сам, с себя ответственности не снимаю. С ИИ какой спрос? Он постоянно ошибается. В итоге наложилось одно на другое. ИИ мог бы помочь мне, но сделал ещё хуже - пустил по ложному следу.
———
ServerAdmin:📱 Telegram | 🌐 Сайт | 📲 MAX 😩
#ai
Как я уже писал, у меня была задача - собирать логи Mikrotik в Loki. Первое, что я сделал - задал вопрос на эту тему ChtaGPT, чтобы в целом понять структуру задачи. Он ответил вполне логично, что можно взять устаревший Promtail, или современный и рекомендуемый Alloy. И сразу предложил к нему конфигурацию.
Я, уже наученный опытом использования конфигураций от ИИ, сразу же пошёл в документацию, чтобы самому собрать нужные параметры. Меня интересовали параметры для раздела loki.source.syslog. Я этот поисковой запрос вбил в Яндексе, в надежде сразу попасть в документацию, как это обычно бывает. И я действительно попал в документацию Grafana, только для продукта Agent, который был предшественником Alloy. У них одинаковая структура конфигурации, просто у Alloy намного больше параметров. Но визуально они не отличаются.
Я собрал конфиг для syslog на основе этой документации. Запустил, всё работает. Оправляю логи с Mikrotik и получаю ошибку парсинга. Я опять пошел в ИИ и спросил его, в чём ошибка и как решить. Он логично отвечает, что Alloy ожидает RFC5424, а получает RFC3164-подобный формат от Микротика.
И дальше он предлагает параметр, который решает эту проблему:
syslog_format = "rfc3164"❗️Но вставляет его не в тот раздел конфигурации. Я добавляю, запускаю, получаю ошибку конфигурации на параметр syslog_format, якобы его не существует. Пишу это в ИИ и он мне на голубом глазу отвечает:
В Grafana Alloy нет параметра syslog_format (я привёл аналогию с другими инструментами — здесь это не работает).
Я возвращаюсь на вкладку документации для Agent, всё там проверяю и действительно не вижу этого параметра. Ну а дальше поехали всевозможные костыли, на которые я потратил кучу времени, но задачу таки решил через одно место.
И уже позже, когда я разбирался с метками на основе syslog полей, я попадаю в документацию Alloy и с удивлением вижу там:
The messages must be compliant with the RFC5424 syslog protocol or the RFC3164 BSD syslog protocol.
Это было как гром среди ясного неба. Я не понимаю, чем я вообще занимался и какую задачу решал. Сравнил две вкладки с документацией Agent и Alloy. Они очень похожи, так как последний является продолжением первого, просто для него добавились дополнительные параметры.
Сделать нужно было вот так:
loki.source.syslog "syslog_in" { listener { address = "0.0.0.0:1514" protocol = "udp" syslog_format = "rfc3164" } forward_to = [loki.process.syslog_process.receiver]}А ИИ предложил так:
loki.source.syslog "syslog_in" { listener { address = "0.0.0.0:1514" protocol = "udp" } syslog_format = "rfc3164" forward_to = [loki.process.syslog_process.receiver]}Поставил параметр не в ту секцию. Когда получил ошибку на syslog_format, с какого-то перепугу заявил, что его не существует. А я из-за невнимательности поверил и решил, что его действительно нет.
Параллельно я этот же вопрос решал с Qwen и он тоже не дал рабочей конфигурации для Alloy.
Такая вот для меня поучительная история получилась. Не знаю, как работают платные версии, но бесплатные явно путаются и в некоторых сферах работают плохо. Я так понял, что тут наложилось то, что был Promtail, Agent и теперь появился Alloy. Все 3 программы решают одинаковые задачи, существовали одновременно, конфигурации похожи, поэтому получается путаница. Проще было с самого начала сделать всё самому. Это бы заняло 10-15 минут. А в итоге несколько часов потратил. Правда, многому научился. И получил в итоге самый удобный вариант, о котором напишу в следующей заметке.
☝️ По сути тут ошибся я сам, с себя ответственности не снимаю. С ИИ какой спрос? Он постоянно ошибается. В итоге наложилось одно на другое. ИИ мог бы помочь мне, но сделал ещё хуже - пустил по ложному следу.
———
ServerAdmin:
#ai
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍105👎4
Решил понемногу погружаться в тему ИИ, чтобы изучить технологию работы с ними не на уровне вопросов в окно чата, а чуть поглубже. Начать решил с локальных моделей, так как они всегда под рукой, бесплатны, нет ограничений доступа, а технически взаимодействие с ними такое же, как и с большими платными моделями. Разница лишь в качестве ответов. Для обучения это некритично.
Весьма кстати недавняя покупка нового компьютера. Покупал его не для работы с ИИ, а просто как основной рабочий. Конечно, его видюхи маловато для локальных моделей, но с другой стороны, что-то мощнее и стоит дороже. Компьютер в целом сбалансированный получился и просто так его не усилить без добавления денег. Сразу показываю конфигурацию, чтобы далее было понятен контекст:
▪️AMD Ryzen 5 5600
▪️32 ГБ Памяти
▪️RTX 5060 8 ГБ
Все выходные игрался с моделями - устанавливал, запускал, тестировал. Увлекательное занятие, не оторваться. Очень понравилось. Смотрел видео, читал материалы, изучал.
Работал с Ollama и LM Studio. Первая проще по настройкам, их там почти нет. Устанавливаешь, качаешь модель, чатишься. Более тонкая работа с ним будет уже через API и агентов. LM Studio более продвинутая в плане настроек и встроенных возможностей. Можно прямо в интерфейсе подключать плагины, MCP сервера. Для первоначального знакомства с технологией лучше подходит. Плюс, OIllama почему-то меньше нагружает видеокарту, больше процессор, а LM Studio наоборот - на 100% видеокарту и потом процессор. В чём причина - не разбирался. Все настройки дефолтные.
У LM Studio удобный поиск по моделями. Она сразу показывает, какие модели у тебя нормальной пойдут, а какие пробовать не стоит. Для того, чтобы быстро сориентироваться в этой теме, можно воспользоваться сайтом - canirun.ai. Он автоматически видит твоё железо и показывает, какие модели как на нём заработают. LM Studio делает примерно то же самое у себя.
У меня шустро работают модели до 10B, а если больше, то только квантированные - Q4_K_M. Но некоторые очень медленно, надо оставлять запрос на выполнение и заниматься другими делами. Например:
- Qwen3.6-35B-A3B-Q4_K_M даёт 7 токенов в секунду;
- Qwen3-Coder-30B-A3B-Instruct-Q4_K_M - 15;
- Gemma-4-31B-it-Q4_K_M только 1.
Для первоначального знакомства ориентироваться стоит на популярные модели:
◽️Qwen
◽️Llama
◽️Gemma
◽️GigaChat
◽️Mistral
Я тестировал как общие, так и заточенные на программирование, те, что имеют приписку coder. Например, плейбуки ансибла или докер файлы Qwen3-Coder-30B пишет вполне сносно.
Я для себя наметил следующие задачи, которые попробую решить с помощью небольших локальных моделей:
🔹Интеграция с IDE при написании конфигураций и скриптов для решения текущих рабочих задач.
🔹Поиск и анализ информации в интернете, в частности выжимка из ежедневных новостей и видео, фокус на том, что мне интересно.
🔹Работа с моими текущими задачами, документами, календарём.
🔹Автоматизация некоторой рутины, связанной с отчётностью по рекламе, договорами, бухгалтерией, бюджетом и т.д.
Хочу научиться работать с RAG и MCP. Для того, чтобы хотя бы примерно понять, какие практические задачи можно решать с MCP, предлагаю посмотреть популярные порталы с ними:
- Google MCP Servers
- NeuralDeep MCP (много российских интеграций)
- Official MCP Registry
- MCPmarket
Например, к модели через MCP можно подключить Grafana или Zabbix и работать с их сущностями, чаты MAX для чтения и отправки сообщений, магазин Вкусвилл для набора корзины и т.д. Много интересных и необычных интеграций. Есть где развернуться. Причем для таких небольших прикладных задач локальной модели будет достаточно.
Буду рад любым практическим советам в этом деле. По мере появления свободного времени, буду потихоньку всё это изучать и чем-то делиться. Лучший способ что-то изучить - это хоть как-то начать взаимодействовать с технологией. Сначала ничего не понятно, но по мере погружения в контекст будет получаться всё больше и больше.
❗️Если заметка вам полезна, не забудьте 👍 и забрать в закладки.
———
ServerAdmin:📱 Telegram | 🌐 Сайт | 📲 MAX 😩
#ai
Весьма кстати недавняя покупка нового компьютера. Покупал его не для работы с ИИ, а просто как основной рабочий. Конечно, его видюхи маловато для локальных моделей, но с другой стороны, что-то мощнее и стоит дороже. Компьютер в целом сбалансированный получился и просто так его не усилить без добавления денег. Сразу показываю конфигурацию, чтобы далее было понятен контекст:
▪️AMD Ryzen 5 5600
▪️32 ГБ Памяти
▪️RTX 5060 8 ГБ
Все выходные игрался с моделями - устанавливал, запускал, тестировал. Увлекательное занятие, не оторваться. Очень понравилось. Смотрел видео, читал материалы, изучал.
Работал с Ollama и LM Studio. Первая проще по настройкам, их там почти нет. Устанавливаешь, качаешь модель, чатишься. Более тонкая работа с ним будет уже через API и агентов. LM Studio более продвинутая в плане настроек и встроенных возможностей. Можно прямо в интерфейсе подключать плагины, MCP сервера. Для первоначального знакомства с технологией лучше подходит. Плюс, OIllama почему-то меньше нагружает видеокарту, больше процессор, а LM Studio наоборот - на 100% видеокарту и потом процессор. В чём причина - не разбирался. Все настройки дефолтные.
У LM Studio удобный поиск по моделями. Она сразу показывает, какие модели у тебя нормальной пойдут, а какие пробовать не стоит. Для того, чтобы быстро сориентироваться в этой теме, можно воспользоваться сайтом - canirun.ai. Он автоматически видит твоё железо и показывает, какие модели как на нём заработают. LM Studio делает примерно то же самое у себя.
У меня шустро работают модели до 10B, а если больше, то только квантированные - Q4_K_M. Но некоторые очень медленно, надо оставлять запрос на выполнение и заниматься другими делами. Например:
- Qwen3.6-35B-A3B-Q4_K_M даёт 7 токенов в секунду;
- Qwen3-Coder-30B-A3B-Instruct-Q4_K_M - 15;
- Gemma-4-31B-it-Q4_K_M только 1.
Для первоначального знакомства ориентироваться стоит на популярные модели:
◽️Qwen
◽️Llama
◽️Gemma
◽️GigaChat
◽️Mistral
Я тестировал как общие, так и заточенные на программирование, те, что имеют приписку coder. Например, плейбуки ансибла или докер файлы Qwen3-Coder-30B пишет вполне сносно.
Я для себя наметил следующие задачи, которые попробую решить с помощью небольших локальных моделей:
🔹Интеграция с IDE при написании конфигураций и скриптов для решения текущих рабочих задач.
🔹Поиск и анализ информации в интернете, в частности выжимка из ежедневных новостей и видео, фокус на том, что мне интересно.
🔹Работа с моими текущими задачами, документами, календарём.
🔹Автоматизация некоторой рутины, связанной с отчётностью по рекламе, договорами, бухгалтерией, бюджетом и т.д.
Хочу научиться работать с RAG и MCP. Для того, чтобы хотя бы примерно понять, какие практические задачи можно решать с MCP, предлагаю посмотреть популярные порталы с ними:
- Google MCP Servers
- NeuralDeep MCP (много российских интеграций)
- Official MCP Registry
- MCPmarket
Например, к модели через MCP можно подключить Grafana или Zabbix и работать с их сущностями, чаты MAX для чтения и отправки сообщений, магазин Вкусвилл для набора корзины и т.д. Много интересных и необычных интеграций. Есть где развернуться. Причем для таких небольших прикладных задач локальной модели будет достаточно.
Буду рад любым практическим советам в этом деле. По мере появления свободного времени, буду потихоньку всё это изучать и чем-то делиться. Лучший способ что-то изучить - это хоть как-то начать взаимодействовать с технологией. Сначала ничего не понятно, но по мере погружения в контекст будет получаться всё больше и больше.
❗️Если заметка вам полезна, не забудьте 👍 и забрать в закладки.
———
ServerAdmin:
#ai
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
2👍211👎3
В продолжение утренней темы, так как по длине туда всё не влезло. Хочу кратенько ещё одну тему затронуть, которая сейчас только набирает популярность - безопасная работа с ИИ. Пока не погружаешься в эту тему, до конца не понимаешь, какие конкретно есть опасности.
Например, в LM Studio появились плагины. Я когда про них читал, погрузился в эту тему. Они пишутся на JavaScript, в перспективе будет Python, и закодить там можно всё, что угодно. Помимо того, что в коде самих плагинов может что-то быть, но это проверяется относительно просто, они могут ходить по сайтам и собирать информацию. В этих сайтах могут быть запрятаны инструкции что-то сделать, что вам не понравится. Например, проверить какие-то локальные файлы, к которым есть доступ, найти там какие-нибудь токены от платных сервисов и отправить их куда-то во вне веб запросом. Или что-то более простое - гонять модельку по редиректам, устраивая кому-то ддос, или просто отправить её сканировать localhost или твою локальную сеть.
Ещё один вполне реальный пример. Вам присылают документ, который вы автоматом отправляете в ИИ на анализ. В документе есть инструкция - добавить ссылку на вредоносный сайт или заменить существующую. Может быть и посложнее - проверить локальный RAG на предмет каких-то паролей, токенов или другой приватной информации, и перейти по адресу aiserver.com/?info=password. Обычным GET запросом агент выдаст найденный пароль. А серия таких запросов может вообще какую угодно текстовую информацию выдать.
Чем плотнее ИИ-агенты будут интегрироваться в наши процессы, а мне видится это неизбежным уже в самом ближайшем будущем, тем больше у них будет доступов и возможностей. И тут впору появиться какому-то специализированному ИИ-антивирусу, который будет защищать от таких проблем. А пока их нет, вся защита на пользователях.
Публичные сервисы от всего этого защищены, а вот локальная защита - ваша ответственность. Самое очевидно - использовать самодельные песочницы. В простом случае - отдельные виртуалки и гонять информацию между ними без участия ИИ-агентов. И уж точно не запускать агентов с доступом ко всей информации или всему компьютеру. Сколько уже историй видел в инете, когда агенты грохали пользовательские файлы или всю систему.
#ai #security
Например, в LM Studio появились плагины. Я когда про них читал, погрузился в эту тему. Они пишутся на JavaScript, в перспективе будет Python, и закодить там можно всё, что угодно. Помимо того, что в коде самих плагинов может что-то быть, но это проверяется относительно просто, они могут ходить по сайтам и собирать информацию. В этих сайтах могут быть запрятаны инструкции что-то сделать, что вам не понравится. Например, проверить какие-то локальные файлы, к которым есть доступ, найти там какие-нибудь токены от платных сервисов и отправить их куда-то во вне веб запросом. Или что-то более простое - гонять модельку по редиректам, устраивая кому-то ддос, или просто отправить её сканировать localhost или твою локальную сеть.
Ещё один вполне реальный пример. Вам присылают документ, который вы автоматом отправляете в ИИ на анализ. В документе есть инструкция - добавить ссылку на вредоносный сайт или заменить существующую. Может быть и посложнее - проверить локальный RAG на предмет каких-то паролей, токенов или другой приватной информации, и перейти по адресу aiserver.com/?info=password. Обычным GET запросом агент выдаст найденный пароль. А серия таких запросов может вообще какую угодно текстовую информацию выдать.
Чем плотнее ИИ-агенты будут интегрироваться в наши процессы, а мне видится это неизбежным уже в самом ближайшем будущем, тем больше у них будет доступов и возможностей. И тут впору появиться какому-то специализированному ИИ-антивирусу, который будет защищать от таких проблем. А пока их нет, вся защита на пользователях.
Публичные сервисы от всего этого защищены, а вот локальная защита - ваша ответственность. Самое очевидно - использовать самодельные песочницы. В простом случае - отдельные виртуалки и гонять информацию между ними без участия ИИ-агентов. И уж точно не запускать агентов с доступом ко всей информации или всему компьютеру. Сколько уже историй видел в инете, когда агенты грохали пользовательские файлы или всю систему.
#ai #security
1👍78👎2
Покажу один из примеров, где локальные модели вполне могут справляться с поставленными задачами. Есть открытый проект Vane, в прошлом назывался Perplexica. Как можно понять из названия, это копия функциональности Perplexity. Автор переименовался, потому что хочет развивать продукт в другом ключе, а не делать клон популярного сервиса.
Vane работает на базе открытого поисковика SearxNG. Он собирает поисковую выдачу, передаёт результат в ИИ, который формирует ответ. Всё это работает локально и управляется вами. В чём преимущество и удобство Vane? Тут три основных момента.
1️⃣ Вы управляете через настройки SearxNG поисковой выдачей. Можете выбирать поисковую систему, или несколько систем, с которых будет браться выдача.
2️⃣ Вы сами выбираете модель, которая будет формировать выдачу. Это могут быть как платные внешние модели, типа OpenAI, Gemini, Groq, Anthropic, так и локальные, запущенные через Ollama или LM Studio.
3️⃣ Все результаты хранятся у вас локально. Нет риска быть забаненными и потерять все диалоги.
Я погонял этот движок на базе локальных моделей через LM Studio. Настройка очень простая. У меня всё сразу получилось. При использовании моделей Openai/gpt-oss-20B, Qwen3.6-35B-A3B, Qwen3-Coder-30B-A3B ответ готовится 1-3 минуты, что вполне терпимо. И при этом он нормального качества. Если брать модели попроще, то качество ответов мне не понравилось.
Рассказываю, как всё это настроить у себя. Запускаем Vane на любой виртуальной машине. Много ресурсов не надо, 4vCPU и 4GB памяти хватает за глаза. Может и меньше - это стандартный размер моей тестовой виртуалки.
Vane запустится сразу с настроенным SearxNG, где по умолчанию настроен поисковик Google. Для постоянного использования SearxNG лучше установить и настроить отдельно, чтобы можно было управлять выдачей. Это нетрудно сделать. Для тестов хватит и гугла.
Качаем и устанавливаем LM Studio. Там простой установщик, сложностей никаких нет. Запускаем LM Studio, идём в раздел Model Search, там где робот с лупой нарисован. Ставим максимально возможную для вас модель. Проще всего начать с Qwen или GPT-OSS. Они для этих задач хорошо подходят.
Идём в раздел Local Server, загружаем скачанную модель. Контекст выставляем примерно 20 000. Мне его всегда хватало. Если меньше, то иногда поисковик ругался, что не хватает контекста. После загрузки модели включаем ползунок Status: Stopped, чтобы он стал Status: Running. В свойствах сервера активируйте параметр Serve on Local Network, чтобы он стал доступен по сети, а не только локально.
Открываем в браузере виртуалку с Vane на порту 3000. Он запущен без аутентификации, сразу можно работать. Идём в настройки, нажимаем Add Connection, выбираем Connection Type - LM Studio и указываем адрес машины с запущенной ИИ, порт по умолчанию 1234. У меня адрес LM Studio - http://192.168.137.200:1234/.
Заходим в добавленное подключение, выбираем Chat Model - openai/gpt-oss-20b, Embedding Model - all-MiniLM-L6-v2. Я не знаю, чем они принципиально отличаются. С этой мне больше всего понравилась скорость и результаты.
На этом всё. Открываем новый чат и вводим запрос. Работает примерно так же, как бесплатная Perplexity, только тут вы управляете и поисковиком, и моделью. Можете подключить нормальную коммерческую, результат будет отличный, и при этом всё хранится и управляется вами.
Понравилось, что он умеет ходить на заданные сайты и готовить выжимку из новостей, или конкретной статьи. Не пишет, как Qwen, что я не умею ходить по ссылкам. Важно, чтобы сайт его не распознал, как работа и не заблокировал парсинг. Какие-то блокируют, какие-то нет.
Из багов заметил, что иногда падал контейнер с Vane, когда использовал разные embedding модели, в том числе запущенные в LM Studio. Со стандартной all-MiniLM-L6-v2 проблем не было.
Получается вполне себе функциональное и прикладное решение.
❗️Если заметка вам полезна, не забудьте 👍 и забрать в закладки.
———
ServerAdmin:📱 Telegram | 🌐 Сайт | 📲 MAX 😩
#ai
Vane работает на базе открытого поисковика SearxNG. Он собирает поисковую выдачу, передаёт результат в ИИ, который формирует ответ. Всё это работает локально и управляется вами. В чём преимущество и удобство Vane? Тут три основных момента.
Я погонял этот движок на базе локальных моделей через LM Studio. Настройка очень простая. У меня всё сразу получилось. При использовании моделей Openai/gpt-oss-20B, Qwen3.6-35B-A3B, Qwen3-Coder-30B-A3B ответ готовится 1-3 минуты, что вполне терпимо. И при этом он нормального качества. Если брать модели попроще, то качество ответов мне не понравилось.
Рассказываю, как всё это настроить у себя. Запускаем Vane на любой виртуальной машине. Много ресурсов не надо, 4vCPU и 4GB памяти хватает за глаза. Может и меньше - это стандартный размер моей тестовой виртуалки.
# docker run -d -p 3000:3000 -v vane-data:/home/vane/data --name vane itzcrazykns1337/vane:latestVane запустится сразу с настроенным SearxNG, где по умолчанию настроен поисковик Google. Для постоянного использования SearxNG лучше установить и настроить отдельно, чтобы можно было управлять выдачей. Это нетрудно сделать. Для тестов хватит и гугла.
Качаем и устанавливаем LM Studio. Там простой установщик, сложностей никаких нет. Запускаем LM Studio, идём в раздел Model Search, там где робот с лупой нарисован. Ставим максимально возможную для вас модель. Проще всего начать с Qwen или GPT-OSS. Они для этих задач хорошо подходят.
Идём в раздел Local Server, загружаем скачанную модель. Контекст выставляем примерно 20 000. Мне его всегда хватало. Если меньше, то иногда поисковик ругался, что не хватает контекста. После загрузки модели включаем ползунок Status: Stopped, чтобы он стал Status: Running. В свойствах сервера активируйте параметр Serve on Local Network, чтобы он стал доступен по сети, а не только локально.
Открываем в браузере виртуалку с Vane на порту 3000. Он запущен без аутентификации, сразу можно работать. Идём в настройки, нажимаем Add Connection, выбираем Connection Type - LM Studio и указываем адрес машины с запущенной ИИ, порт по умолчанию 1234. У меня адрес LM Studio - http://192.168.137.200:1234/.
Заходим в добавленное подключение, выбираем Chat Model - openai/gpt-oss-20b, Embedding Model - all-MiniLM-L6-v2. Я не знаю, чем они принципиально отличаются. С этой мне больше всего понравилась скорость и результаты.
На этом всё. Открываем новый чат и вводим запрос. Работает примерно так же, как бесплатная Perplexity, только тут вы управляете и поисковиком, и моделью. Можете подключить нормальную коммерческую, результат будет отличный, и при этом всё хранится и управляется вами.
Понравилось, что он умеет ходить на заданные сайты и готовить выжимку из новостей, или конкретной статьи. Не пишет, как Qwen, что я не умею ходить по ссылкам. Важно, чтобы сайт его не распознал, как работа и не заблокировал парсинг. Какие-то блокируют, какие-то нет.
Из багов заметил, что иногда падал контейнер с Vane, когда использовал разные embedding модели, в том числе запущенные в LM Studio. Со стандартной all-MiniLM-L6-v2 проблем не было.
Получается вполне себе функциональное и прикладное решение.
❗️Если заметка вам полезна, не забудьте 👍 и забрать в закладки.
———
ServerAdmin:
#ai
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
2👍121👎1
Вчера был на бесплатной конференции по машинному обучению и искусственному интеллекту от Селектел. Пока свежи воспоминания, поделюсь некоторыми мыслями на эту тему. Конфа была больше для руководителей и людей, принимающих решения. Было мало технических подробностей и много примеров внедрения в бизнесе для решения различных задач.
🔹Особенность ведения бизнеса в современных реалиях в РФ такова, что локальные нейросети, развёрнутые на своих или арендованных серверах - это повсеместная история. Доступ к технологическим мировым лидерам ограничен как технически (блокировки, санкции), так законодательно (персональные данные, трансграничная передача). Особых проблем в этом нет, так как многие задачи успешно решаются условно небольшими нейросетями, а сама технология ещё не оформилась в какую-то стабильную и понятную историю. Идут постоянные изменения, обновления, улучшения. Всё меняется очень быстро. Завязки на что-то одно крупное будут скорее вредить, чем помогать.
💡У меня в голове по этому проводу возникла мысль, что сейчас очень хорошее время зайти специалистом в эту область знаний. Я не про себя сейчас, а вообще. Технология развивается, всё постоянно меняется, устоявшихся практик и готовых специалистов нет или очень мало. Если вы ищите себя в IT и пока не знаете, на чём сфокусироваться, обратите внимание на ML и AI.
ML-инженеры уже давно сформировались, это не сказать, что что-то новое, а вот AI-инженеры, которые занимаются построением инфраструктуры для использования нейросетей, сейчас будут очень востребованы. Вокруг нейросети нужно построить масштабную и нагруженную технологическую платформу, чтобы всё это успешно работало. Она сейчас включает в себя как минимум сам движок LLM, RAG, векторную БД, MCP Server, агенты, LLM прокси для роутинга запросов. Наверняка появится какая-то платформа для управления всем этим. Сейчас каждый свою пишет так, как ему кажется удобнее.
🔹Вопреки расхожему мнению, что небольшие локальные модели на те же 30B не могут конкурировать с огромными облачными, это не так. Для многих локальных задач небольших моделей достаточно. Наиболее популярные модели от qwen, gemma, gpt-oss, minimax.
🔹Некоторые примеры решения задач с помощью ИИ:
◽️Рекрутёр обзвонщик разговаривает с кандидатами, ищет подходящих, передаёт дальше.
◽️Текстовая и голосовая работа операторов с базой знаний, которая постоянно обновляется. Популярная задача, актуальная почти для всех компаний.
◽️Изменение стоимости доставки в интернет-магазине в зависимости от нагрузки сервиса, чтобы снижать при нехватке водителей поток клиентов повышением цены.
◽️У банков иишки уже много лет решают кучу задач: предсказания по кредитам, выплатам, внутренняя база знаний, поддержка клиентов, антифрод, работа с документами и т.д.
Понравилась история с примером AI агента, который помогает операторам банка отвечать клиентам почему им не начислили тот или иной кэшбек. Банки настолько усложнили схему с кэшбеками, что без AI не разобраться. Я по этой причине вообще не пользуюсь никакими кэшбеками принципиально. Не хочу забивать себе этим голову.
🔹Несколько практических моментов, которые для себя вынес:
- MiniMax и OpenCode - ai ассистент в терминале и ide.
- LiteLLM Proxy - проксирование запросов в разные LLM.
- Модели нормально крутятся в Kubernetes.
———
ServerAdmin:📱 Telegram | 🌐 Сайт | 📲 MAX 😩
#ai
🔹Особенность ведения бизнеса в современных реалиях в РФ такова, что локальные нейросети, развёрнутые на своих или арендованных серверах - это повсеместная история. Доступ к технологическим мировым лидерам ограничен как технически (блокировки, санкции), так законодательно (персональные данные, трансграничная передача). Особых проблем в этом нет, так как многие задачи успешно решаются условно небольшими нейросетями, а сама технология ещё не оформилась в какую-то стабильную и понятную историю. Идут постоянные изменения, обновления, улучшения. Всё меняется очень быстро. Завязки на что-то одно крупное будут скорее вредить, чем помогать.
💡У меня в голове по этому проводу возникла мысль, что сейчас очень хорошее время зайти специалистом в эту область знаний. Я не про себя сейчас, а вообще. Технология развивается, всё постоянно меняется, устоявшихся практик и готовых специалистов нет или очень мало. Если вы ищите себя в IT и пока не знаете, на чём сфокусироваться, обратите внимание на ML и AI.
ML-инженеры уже давно сформировались, это не сказать, что что-то новое, а вот AI-инженеры, которые занимаются построением инфраструктуры для использования нейросетей, сейчас будут очень востребованы. Вокруг нейросети нужно построить масштабную и нагруженную технологическую платформу, чтобы всё это успешно работало. Она сейчас включает в себя как минимум сам движок LLM, RAG, векторную БД, MCP Server, агенты, LLM прокси для роутинга запросов. Наверняка появится какая-то платформа для управления всем этим. Сейчас каждый свою пишет так, как ему кажется удобнее.
🔹Вопреки расхожему мнению, что небольшие локальные модели на те же 30B не могут конкурировать с огромными облачными, это не так. Для многих локальных задач небольших моделей достаточно. Наиболее популярные модели от qwen, gemma, gpt-oss, minimax.
🔹Некоторые примеры решения задач с помощью ИИ:
◽️Рекрутёр обзвонщик разговаривает с кандидатами, ищет подходящих, передаёт дальше.
◽️Текстовая и голосовая работа операторов с базой знаний, которая постоянно обновляется. Популярная задача, актуальная почти для всех компаний.
◽️Изменение стоимости доставки в интернет-магазине в зависимости от нагрузки сервиса, чтобы снижать при нехватке водителей поток клиентов повышением цены.
◽️У банков иишки уже много лет решают кучу задач: предсказания по кредитам, выплатам, внутренняя база знаний, поддержка клиентов, антифрод, работа с документами и т.д.
Понравилась история с примером AI агента, который помогает операторам банка отвечать клиентам почему им не начислили тот или иной кэшбек. Банки настолько усложнили схему с кэшбеками, что без AI не разобраться. Я по этой причине вообще не пользуюсь никакими кэшбеками принципиально. Не хочу забивать себе этим голову.
🔹Несколько практических моментов, которые для себя вынес:
- MiniMax и OpenCode - ai ассистент в терминале и ide.
- LiteLLM Proxy - проксирование запросов в разные LLM.
- Модели нормально крутятся в Kubernetes.
———
ServerAdmin:
#ai
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍72👎8
Трачу сейчас всё доступное для обучения свободное время на взаимодействие с ИИ. Очень увлекает, трудно оторваться вечером и лечь спать. Мои публикации на этот счёт стоит воспринимать как заметки. Это не обучающий материал и не лучшие практики, которые стоит перенимать. Делюсь своими наблюдениями и опытом.
Поставил себе цель в первую очередь изучить работу агентов. Для этого на первом этапе сформулировал простую, но вполне прикладную для меня задачу, которую хочу решить полностью с помощью агентов. Основные вехи:
◽️Настроить ansible-контроллер и написать плейбуки для автоматической установки агента Zabbix под разные системы.
◽️Настроить автоматическое добавление узлов на сервер мониторинга и назначение шаблонов, внесение в них изменений.
◽️Настроить MCP-сервер и организовать взаимодействие с сервером Zabbix человеческим языком, чтобы можно было делать примерно такие запросы: "Назови мне узлы, где в течении ближайшей недели закончится свободное место на дисках", "Какие компьютеры остаются включёнными в выходные дни", "Какие виртуальные хосты веб серверов больше всего нагружены" и т.д.
Это основные тезисы, с которых я начал. Сейчас уже техзадание, доработанное самим агентом выглядит намного объёмнее и конкретнее.
Начал изучение агентов с OpenClaw и OpenCode. Они на слуху, я видел много материалов по ним. К сожалению, в основном видел какие-то бестолковые примеры, где просто всё устанавливают и делают какие-то условные задачи для демонстрации работы. Из-за этого я даже не понял, что это два совершенно разных инструмента.
Сначала установил OpenClaw. Это монстр, где куча функциональности. Он не просто агент, это - погонщик агентов. У него много настроек и возможностей. Он жрёт кучу токенов и на локальных моделях безбожно тормозит. Сделать что-то путное с ним без жирной подписки не получится. Начинать с него знакомство с агентами было ошибкой. Я только кучу времени потерял и не получил практического опыта.
Потом установил и настроил OpenCode на небольшой виртуалке (2CPU, 4GB RAM). С ним работать одно удовольствие. Без проблем во всём разобрался и начал вайбкодить 😁 Сразу покажу последовательность действий, чтобы можно было повторить.
Подключил к нему пару моделей из своей LM Studio:
Добавил 2 модели: qwen3.5-9b и qwen3.6-35b-a3b. На первой с контекстом до 30к работает шустро, нет ощущения, что всё тормозит. Я даже удивился, что агент так бодро работает и вполне осмысленно. По строке в секунду появляется в чате. Удобно разрабатывать план, вносить уточнения.
Для работы с контекстом в 30к нужно сильно дробить задачи, иначе его не хватает. Плейбуки для ансибла пишутся нормально на модели qwen3.5-9b. Модель 35b-a3b подойдёт только для проработанного задания, чтобы запустить его и оставить думать на пару часов.
После настройки opencode, создаём каталог, инициализируем там git репозиторий и кладём в него файл с заданием, которое вы написали.
Дальше можно работать тут же в консоли, но я для удобства открыл VSCode, подключился к серверу по SSH. Там более удобное окружение для одновременной работы с файлами и терминалом.
В каталоге с инструкцией запустил opencode:
Открылся чат. Выбрал в нём режим Plan, модель qwen3.5-9b и стал командовать. Начал с того, что дал задание написать подробный план работ на основе инструкций из моего файла.
Ну а дальше пошёл бесценный опыт взаимодействия с агентом, который в двух словах не описать. Об этом напишу отдельно, когда задача будет решена.
❗️Если заметка вам полезна, не забудьте 👍 и забрать в закладки.
———
ServerAdmin:📱 Telegram | 🌐 Сайт | 📲 MAX 😩
#ai
Поставил себе цель в первую очередь изучить работу агентов. Для этого на первом этапе сформулировал простую, но вполне прикладную для меня задачу, которую хочу решить полностью с помощью агентов. Основные вехи:
◽️Настроить ansible-контроллер и написать плейбуки для автоматической установки агента Zabbix под разные системы.
◽️Настроить автоматическое добавление узлов на сервер мониторинга и назначение шаблонов, внесение в них изменений.
◽️Настроить MCP-сервер и организовать взаимодействие с сервером Zabbix человеческим языком, чтобы можно было делать примерно такие запросы: "Назови мне узлы, где в течении ближайшей недели закончится свободное место на дисках", "Какие компьютеры остаются включёнными в выходные дни", "Какие виртуальные хосты веб серверов больше всего нагружены" и т.д.
Это основные тезисы, с которых я начал. Сейчас уже техзадание, доработанное самим агентом выглядит намного объёмнее и конкретнее.
Начал изучение агентов с OpenClaw и OpenCode. Они на слуху, я видел много материалов по ним. К сожалению, в основном видел какие-то бестолковые примеры, где просто всё устанавливают и делают какие-то условные задачи для демонстрации работы. Из-за этого я даже не понял, что это два совершенно разных инструмента.
Сначала установил OpenClaw. Это монстр, где куча функциональности. Он не просто агент, это - погонщик агентов. У него много настроек и возможностей. Он жрёт кучу токенов и на локальных моделях безбожно тормозит. Сделать что-то путное с ним без жирной подписки не получится. Начинать с него знакомство с агентами было ошибкой. Я только кучу времени потерял и не получил практического опыта.
Потом установил и настроил OpenCode на небольшой виртуалке (2CPU, 4GB RAM). С ним работать одно удовольствие. Без проблем во всём разобрался и начал вайбкодить 😁 Сразу покажу последовательность действий, чтобы можно было повторить.
# curl -fsSL https://opencode.ai/install | bashПодключил к нему пару моделей из своей LM Studio:
# cat ~/.config/opencode/opencode.json{
"$schema": "https://opencode.ai/config.json",
"provider": {
"lmstudio": {
"npm": "@ai-sdk/openai-compatible",
"name": "LM Studio (local)",
"options": {
"baseURL": "http://192.168.137.200:1234/v1"
},
"models": {
"qwen/qwen3.5-9b": {
"name": "qwen3.5-9b"
},
"qwen/qwen3.6-35b-a3b": {
"name": "qwen3.6-35b-a3b"
}
}
}
}
}Добавил 2 модели: qwen3.5-9b и qwen3.6-35b-a3b. На первой с контекстом до 30к работает шустро, нет ощущения, что всё тормозит. Я даже удивился, что агент так бодро работает и вполне осмысленно. По строке в секунду появляется в чате. Удобно разрабатывать план, вносить уточнения.
Для работы с контекстом в 30к нужно сильно дробить задачи, иначе его не хватает. Плейбуки для ансибла пишутся нормально на модели qwen3.5-9b. Модель 35b-a3b подойдёт только для проработанного задания, чтобы запустить его и оставить думать на пару часов.
После настройки opencode, создаём каталог, инициализируем там git репозиторий и кладём в него файл с заданием, которое вы написали.
# mkdir zabbix-ai# cd zabbix-ai/# git initДальше можно работать тут же в консоли, но я для удобства открыл VSCode, подключился к серверу по SSH. Там более удобное окружение для одновременной работы с файлами и терминалом.
В каталоге с инструкцией запустил opencode:
# opencodeОткрылся чат. Выбрал в нём режим Plan, модель qwen3.5-9b и стал командовать. Начал с того, что дал задание написать подробный план работ на основе инструкций из моего файла.
Ну а дальше пошёл бесценный опыт взаимодействия с агентом, который в двух словах не описать. Об этом напишу отдельно, когда задача будет решена.
❗️Если заметка вам полезна, не забудьте 👍 и забрать в закладки.
———
ServerAdmin:
#ai
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
1👍214👎7
Не могу не поделиться этой историей, хотя пользы от неё кому-то кроме меня скорее всего не будет. Я потратил где-то час на решение одной нелепой ошибки, а спаc меня в итоге бесплатный Qwen. Я уже практически отчаялся самостоятельно разобраться в проблеме.
Делаю простую задачу. Полное её описание скорее всего напишу отдельно. Мне нужно с Windows машины автоматически выключать Linux сервера по событию с ИБП. Делается это элементарно через cmd скрипт, который можно отладить в консоли примерно так:
Делаем на сервере пользователя ups_shutdown и добавляем ему публичный ключ:
Даём ему через visudo права на выполнение указанной команды:
На винде перед этим создал нужный ключ:
Всё максимально просто и стандартно. Пробую подключиться, не получается. На команду:
Получаю запрос на аутентификацию по паролю. Режим отладки показывает, что ssh успешно применяет созданный ключ id_ed25519, публичная часть которого добавлена на Linux. А на самом сервере никаких ошибок при подключении. Просто тишина. Перепроверил по 10 раз все настройки и права доступа. Ничего не помогло.
При этом если туда же подключаться под root, то аутентификация нормально проходит. Вызвал на помощь Qwen. Он, конечно, кучу всего предложил проверить, отправить логи, отладку и т.д. Ничего не помогало.
В конце он предложил начать всё сначала и отправить ему вообще все настройки и логи. Дал список команд. Я всё собрал и отправил. Он тут же нашёл ошибку:
💥 Два раза
Я тупо ошибся при переносе публичного ключа, скопировав ssh-ed25519 два раза. Не знаю, как так вышло, но вот вышло. И ни в одном логе нигде не было ошибки, что ключи не совпадают, формат неверный или что-то в этом духе.
Рано или поздно я бы плюнул на всё, удалил пользователя и сделал бы всё заново. Это известный и рабочий приём, который я сам практикую и многим советую, особенно в комментариях к моим статьям, которые гарантированно рабочие, потому что я проверял их лично. Но очень хотелось разобраться в проблеме, поэтому тратил время.
Многие сетуют, мол ИИ часто ошибается. Я вот с ним плотно работаю и могу сказать, что он ошибается реже чем я. И при этом он быстро находит свои ошибки. Давал ему на проверку некоторые свои статьи, которые я внимательно писал и выверял. Он там находил ошибки. И писал итоговые статьи лучше меня. Он вообще может за час проверить все статьи с моего сайта, исправить ошибки, дополнить полезной информацией и проверить на реальных системах всё, что напишет.
Грустно было осознать, что он разом обесценил мой прошлый тяжёлый труд. Но ничего не поделать. Мир меняется и надо меняться вместе с ним. Писать вручную подобные статьи, что есть на моём сайте, потеряло всякий смысл. Как и делать вручную многие другие вещи. Я за последние пару недель автоматизирую всё, что только в голову приходит. Репы в gitflic растут как на дрожжах. Всё, что откладывал или казалось не очень нужным, решается за пару часов генерации и отладки. Причём для админских дел, в отличии от программерских, много токенов не нужно. У нас контекст задач значительно меньше.
———
ServerAdmin:📱 Telegram | 🌐 Сайт | 📲 MAX 😩
#ai
Делаю простую задачу. Полное её описание скорее всего напишу отдельно. Мне нужно с Windows машины автоматически выключать Linux сервера по событию с ИБП. Делается это элементарно через cmd скрипт, который можно отладить в консоли примерно так:
> ssh ups_shutdown@192.168.137.29 "sudo systemctl poweroff"Делаем на сервере пользователя ups_shutdown и добавляем ему публичный ключ:
# useradd -m -s /bin/bash ups_shutdown# mkdir -p /home/ups_shutdown/.ssh# touch /home/ups_shutdown/.ssh/authorized_keys# echo "ssh-ed25519 AAAAC3NzaC1lZDI1... ваш_ключ..." >> /home/ups_shutdown/.ssh/authorized_keys# chown -R ups_shutdown:ups_shutdown /home/ups_shutdown/.ssh# chmod 700 /home/ups_shutdown/.ssh# chmod 600 /home/ups_shutdown/.ssh/authorized_keysДаём ему через visudo права на выполнение указанной команды:
ups_shutdown ALL=(ALL) NOPASSWD: /usr/bin/systemctl poweroffНа винде перед этим создал нужный ключ:
> ssh-keygen -t ed25519 -C "ups_shutdown" -N "" -f %USERPROFILE%\.ssh\id_ed25519Всё максимально просто и стандартно. Пробую подключиться, не получается. На команду:
> ssh ups_shutdown@192.168.137.29 "sudo systemctl poweroff"Получаю запрос на аутентификацию по паролю. Режим отладки показывает, что ssh успешно применяет созданный ключ id_ed25519, публичная часть которого добавлена на Linux. А на самом сервере никаких ошибок при подключении. Просто тишина. Перепроверил по 10 раз все настройки и права доступа. Ничего не помогло.
При этом если туда же подключаться под root, то аутентификация нормально проходит. Вызвал на помощь Qwen. Он, конечно, кучу всего предложил проверить, отправить логи, отладку и т.д. Ничего не помогало.
В конце он предложил начать всё сначала и отправить ему вообще все настройки и логи. Дал список команд. Я всё собрал и отправил. Он тут же нашёл ошибку:
ssh-ed25519 ssh-ed25519 AAAAC3NzaC1....LQSVErJUKo ups_shutdown💥 Два раза
ssh-ed25519 подряд! Это невалидный формат ключа.Я тупо ошибся при переносе публичного ключа, скопировав ssh-ed25519 два раза. Не знаю, как так вышло, но вот вышло. И ни в одном логе нигде не было ошибки, что ключи не совпадают, формат неверный или что-то в этом духе.
Рано или поздно я бы плюнул на всё, удалил пользователя и сделал бы всё заново. Это известный и рабочий приём, который я сам практикую и многим советую, особенно в комментариях к моим статьям, которые гарантированно рабочие, потому что я проверял их лично. Но очень хотелось разобраться в проблеме, поэтому тратил время.
Многие сетуют, мол ИИ часто ошибается. Я вот с ним плотно работаю и могу сказать, что он ошибается реже чем я. И при этом он быстро находит свои ошибки. Давал ему на проверку некоторые свои статьи, которые я внимательно писал и выверял. Он там находил ошибки. И писал итоговые статьи лучше меня. Он вообще может за час проверить все статьи с моего сайта, исправить ошибки, дополнить полезной информацией и проверить на реальных системах всё, что напишет.
Грустно было осознать, что он разом обесценил мой прошлый тяжёлый труд. Но ничего не поделать. Мир меняется и надо меняться вместе с ним. Писать вручную подобные статьи, что есть на моём сайте, потеряло всякий смысл. Как и делать вручную многие другие вещи. Я за последние пару недель автоматизирую всё, что только в голову приходит. Репы в gitflic растут как на дрожжах. Всё, что откладывал или казалось не очень нужным, решается за пару часов генерации и отладки. Причём для админских дел, в отличии от программерских, много токенов не нужно. У нас контекст задач значительно меньше.
———
ServerAdmin:
#ai
Please open Telegram to view this post
VIEW IN TELEGRAM
👍125👎4
На днях непроизвольно любопытный эксперимент получился. Он очень хорошо демонстрирует то, что несмотря на будущее засилье ИИ, головой думать всё равно нужно. И инженеры никуда не денутся, которые на это способны.
Я в основном сейчас использую 2 нейросети:
▪️Бесплатный Qwen для быстрых вопросов и поиска в интернете.
▪️Платный z.ai в режиме агента в opencode. Мне очень нравится, как он работает. Делал ещё один заход в openclaw, но опять не пошло. Не нравится он мне. На очереди claude agent, но не хватает времени на него, чтобы плотно заняться.
Всё остальное смотрю эпизодически в рамках исследования и изучения. Никак не подберу какую-то десктопную платформу, чтобы ежедневную мелкую рутину за меня делал. Для всех остальных задач мне очень нравится opencode. Он закрыл почти все мои потребности в автоматизации.
Я не так давно пересобрал один старый системник, который работал как обычный рабочий комп под виндой. Воткнул в него все старые диски, что лежали без дела и стал туда свои бэкапы лить. Кстати, посмотрел стоимость дисков сейчас 😱 Они пипец как подорожали. Всё моё б.у.шное барахло, что я туда воткнул, потянуло на 100 т.р.
Системник был на 100% рабочий, проблем с ним не было. Я его продул, обновил термопасту, воткнул диски, накатил PVE. Какое-то время он поработал и начал аварийно перезагружаться без каких-либо видимых причин. Явных ошибок в логах нет, тем более перед ребутами. Ничего подозрительного не видно.
Решил скормить syslog нейронкам, чтобы они там покопались и вынесли свой вердикт. Заморачиваться не стал, отдал в opencode весь лог на 12 МБ и попросил проверить. Он нашёл там некоторые моменты, типа ошибок в SMART одного из дисков и ошибки сетевой карты Realtek. Это известная тема, они глючат в Linux, и в PVE в частности. Я уже писал об этом не раз (1, 2). Сталкивался много раз с этим, но к аварийным перезагрузкам это никогда не приводило. Вряд ли в этом дело.
Это днём было, а вечером я вайбкодил и решал некоторые задачи. Зашёл в статистику по токенам и заметил, что днём куда-то 1,1 млн. токенов улетели. Это не сказать, что много, но лично у меня незаметно столько не улетает. Задачи относительно простые и короткие. Потом уже сообразил, что это анализ лога столько сожрал.
В то же время я этот же лог дал для теста другой закрытой нейронке с линуксовым агентом, которого я сейчас тестирую. Я не знаю, на базе чего работает сетка, у меня доступ только к агенту. И он поступил более разумно. Не стал анализировать весь лог, а грепнул его по ключевым словам. И это по ресурсам было раз в 100 экономичнее, так как с ошибками было несколько десятков строк против 110 тыс. всего лога.
В итоге агенты дали два разных решения. Первый сказал, что виноват диск, надо его отключить. Второй предложил установить другой драйвер на сетевуху, обвинив его в ребутах. Ни то, ни другое не помогло. Причина не в этом. Скорее всего просто железо устало. Материнка старая (14 лет), пора в утиль. Хотя под виндой работала стабильно. Может просто совпадение и время пришло именно сейчас, а может реально с современным линуксом у этого железа какой-то конфликт.
К чему я всё это рассказал. Для успешного решения задач к ИИ полагается приложить опытного специалиста, который умеет и понимает, как с нейронкой работать. Без этого либо результат будет неудовлетворительный, либо по ресурсам будет огромный перерасход. Нельзя просто так взять и отдать все логи на анализ. Надо выстроить рабочий процесс, который позволит эффективно анализировать и не тратить слишком много денег на это.
У меня много примеров было, когда надо было как-то оптимизировать работу агента, а не решать задачу в лоб. Привёл именно этот, потому что он самый простой и наглядный. Я не ожидал, что простой анализ небольшого лога сожрёт столько токенов. Причём это было сделано быстро. Я даже не обратил внимания. Если нет лимитов и подписки, то можно очень быстро прогореть на лютом перерасходе на какой-то неочевидной задаче.
———
ServerAdmin:📱 Telegram | 🌐 Сайт | 📲 MAX 😩
#ai
Я в основном сейчас использую 2 нейросети:
▪️Бесплатный Qwen для быстрых вопросов и поиска в интернете.
▪️Платный z.ai в режиме агента в opencode. Мне очень нравится, как он работает. Делал ещё один заход в openclaw, но опять не пошло. Не нравится он мне. На очереди claude agent, но не хватает времени на него, чтобы плотно заняться.
Всё остальное смотрю эпизодически в рамках исследования и изучения. Никак не подберу какую-то десктопную платформу, чтобы ежедневную мелкую рутину за меня делал. Для всех остальных задач мне очень нравится opencode. Он закрыл почти все мои потребности в автоматизации.
Я не так давно пересобрал один старый системник, который работал как обычный рабочий комп под виндой. Воткнул в него все старые диски, что лежали без дела и стал туда свои бэкапы лить. Кстати, посмотрел стоимость дисков сейчас 😱 Они пипец как подорожали. Всё моё б.у.шное барахло, что я туда воткнул, потянуло на 100 т.р.
Системник был на 100% рабочий, проблем с ним не было. Я его продул, обновил термопасту, воткнул диски, накатил PVE. Какое-то время он поработал и начал аварийно перезагружаться без каких-либо видимых причин. Явных ошибок в логах нет, тем более перед ребутами. Ничего подозрительного не видно.
Решил скормить syslog нейронкам, чтобы они там покопались и вынесли свой вердикт. Заморачиваться не стал, отдал в opencode весь лог на 12 МБ и попросил проверить. Он нашёл там некоторые моменты, типа ошибок в SMART одного из дисков и ошибки сетевой карты Realtek. Это известная тема, они глючат в Linux, и в PVE в частности. Я уже писал об этом не раз (1, 2). Сталкивался много раз с этим, но к аварийным перезагрузкам это никогда не приводило. Вряд ли в этом дело.
Это днём было, а вечером я вайбкодил и решал некоторые задачи. Зашёл в статистику по токенам и заметил, что днём куда-то 1,1 млн. токенов улетели. Это не сказать, что много, но лично у меня незаметно столько не улетает. Задачи относительно простые и короткие. Потом уже сообразил, что это анализ лога столько сожрал.
В то же время я этот же лог дал для теста другой закрытой нейронке с линуксовым агентом, которого я сейчас тестирую. Я не знаю, на базе чего работает сетка, у меня доступ только к агенту. И он поступил более разумно. Не стал анализировать весь лог, а грепнул его по ключевым словам. И это по ресурсам было раз в 100 экономичнее, так как с ошибками было несколько десятков строк против 110 тыс. всего лога.
В итоге агенты дали два разных решения. Первый сказал, что виноват диск, надо его отключить. Второй предложил установить другой драйвер на сетевуху, обвинив его в ребутах. Ни то, ни другое не помогло. Причина не в этом. Скорее всего просто железо устало. Материнка старая (14 лет), пора в утиль. Хотя под виндой работала стабильно. Может просто совпадение и время пришло именно сейчас, а может реально с современным линуксом у этого железа какой-то конфликт.
К чему я всё это рассказал. Для успешного решения задач к ИИ полагается приложить опытного специалиста, который умеет и понимает, как с нейронкой работать. Без этого либо результат будет неудовлетворительный, либо по ресурсам будет огромный перерасход. Нельзя просто так взять и отдать все логи на анализ. Надо выстроить рабочий процесс, который позволит эффективно анализировать и не тратить слишком много денег на это.
У меня много примеров было, когда надо было как-то оптимизировать работу агента, а не решать задачу в лоб. Привёл именно этот, потому что он самый простой и наглядный. Я не ожидал, что простой анализ небольшого лога сожрёт столько токенов. Причём это было сделано быстро. Я даже не обратил внимания. Если нет лимитов и подписки, то можно очень быстро прогореть на лютом перерасходе на какой-то неочевидной задаче.
———
ServerAdmin:
#ai
Please open Telegram to view this post
VIEW IN TELEGRAM
👍91👎5
Последнее время много про ИИ думаю, про будущее нашей профессии и вот это вот всё. И знаете, какая мне идея в голову пришла? Вот раньше были сисадмины, потом появились DevOps и им почти за то же самое стали платить больше, чем сисадминам.
Мне кажется, уже сейчас можно потихоньку девопсам и тем более сисадминам писать в резюме ИИ-инженер или AI-инженер. Это увеличит и востребованность, и зарплату, хотя делать вы по сути будете всё то же самое, что и раньше. Просто немного изучите ИИ и внедряйте в свой рабочий процесс.
Нигде не видел этой мысли. Самому вчера пришла в голову во время прогулки. Вообще, пешие прогулки или пробежки - полезная тема. Физическая активность сама по себе увеличивает кровообращение и снабжение мозга кислородом, так ты ещё и переключаешь внимание. А если где-то на природе гуляешь, что я обычно делаю, так ещё и медитативный эффект получается.
Стараюсь хотя бы через день гулять пешком по часу. Идеально, конечно, так делать каждый день. Или хотя бы в будни после сидячего рабочего дня. У меня каждый день не получается. Очень много дел помимо основной работы.
#ai #мысли
Мне кажется, уже сейчас можно потихоньку девопсам и тем более сисадминам писать в резюме ИИ-инженер или AI-инженер. Это увеличит и востребованность, и зарплату, хотя делать вы по сути будете всё то же самое, что и раньше. Просто немного изучите ИИ и внедряйте в свой рабочий процесс.
Нигде не видел этой мысли. Самому вчера пришла в голову во время прогулки. Вообще, пешие прогулки или пробежки - полезная тема. Физическая активность сама по себе увеличивает кровообращение и снабжение мозга кислородом, так ты ещё и переключаешь внимание. А если где-то на природе гуляешь, что я обычно делаю, так ещё и медитативный эффект получается.
Стараюсь хотя бы через день гулять пешком по часу. Идеально, конечно, так делать каждый день. Или хотя бы в будни после сидячего рабочего дня. У меня каждый день не получается. Очень много дел помимо основной работы.
#ai #мысли
1👍150👎5
Расскажу кратко, как я работаю с AI. Не нужно воспринимать это как инструкцию и повторять слепо за мной. Я особо не разбирался с этой темой, не тестировал, где лучше, дешевле, удобнее. Использую набор продуктов и сервисов, которые меня устраивают и решают поставленные задачи. Всё это сейчас невозможно купить напрямую, поэтому делюсь информацией, чтобы вам не пришлось тратить время, чтобы попробовать то же самое.
Я использую китайский сервис z.ai и его модели GLM-4.7 и GLM-5.2. Вторая подороже по расходу токенов, но на своих задачах я не особо вижу разницу. Если токенов много, ставлю 5.2, если мало остаётся, использую 4.7. Мне хватает самого начального тарифа за $18.
Напрямую с российских карт оплатить не получится. Я использую посредников на plati.market. Ссылка на продавца, где я оплачивал последние 3 месяца. Сначала купил оплаченный аккаунт, а потом его же продлевал. После оплаты приходится в чат отправлять логин и пароль от учётки. Сейчас, кстати, почему то стоимость ниже, чем была всего пару недель назад. Я плачу USDT. У меня есть некоторая сумма, которую непонятно как и куда выводить. Мне очень удобно тратить именно их на подписку.
В качестве агента использую opencode. Он нативно интегрируется с z.ai. Достаточно в сервисе создать ключ для доступа по API и указать его в opencode. Мне нравится этот агент за простоту и функциональность. Чтобы начать работать, не нужна какая-то особенная настройка. Можно просто установить и пользоваться. Будет нормальный результат сразу. Потом уже можно что-то донастроить по своим потребностям.
У меня отдельная виртуалка с opencode, там директории с проектами, оттуда они пушатся во внешний git репозиторий. Какие задачи решаю с помощью агента? Довольно простые, прикладные, которые упрощают повседневную рутину. В основном это плейбуки ансибла. Приведу конкретные примеры:
▪️Набор плейбуков для базовой настройки систем с различными ролями + обвязка вокруг них на bash скриптах для некоторого удобства.
▪️Плейбук для быстрой установки и интеграции в мою инфраструктуру новой VPS со всем, что надо для обхода деградации, замедления и блокировки.
▪️Мониторинг температуры некоторого железа с помощью Zabbix.
▪️Быстрое автоматическое добавление узлов с различными системами в мониторинг и сбор логов.
Ну и так далее. То есть ничего особенного, чего бы я не смог сделать сам, но агент это делает намного быстрее. Сначала он что-то разработает. Я ему даю доступ к тестовым виртуалкам. Он там сам всё проверяет и отлаживает, пишет инструкцию по использованию. А потом уже я иду, проверяю и в дальнейшем пользуюсь сам. То есть какие-то процессы полностью на автоматическое исполнение я агенту не отдаю.
Это я привёл примеры по администрированию. Я и некоторые другие свои задачи с ним решал, но сразу скажу, что навайбкодить что-то прям хорошее, рабочее у меня не получилось. Это не такая простая задача, как кажется. До удовлетворительного результата, чтобы сделать, закрыть задачу и начать пользоваться, у меня не получилось довести. Пока всё в полурабочем состоянии. На это надо много времени. У меня свободного почти нет, поэтому занимаюсь в основном текучкой.
Ещё отдельный спектр задач по поиску информации в интернете и консультированию. Агент хорошо ходит по ссылкам, что-то проверяет, анализирует, структурирует и выдаёт результат. Это разовые задачи без артефактов на выходе. По сути работает как поисковик и советник.
Первое время я прям много всего делал, нужного и ненужного. Было интересно, ночами сидел, не мог оторваться. Завораживает, как агент сам делает осмысленную работу за тебя. Лимиты все тратил. А сейчас всё основное сделано, пользуюсь не так часто.
❗️Если заметка вам полезна, не забудьте 👍 и забрать в закладки.
———
ServerAdmin:📱 Telegram | 🌐 Сайт | 📲 MAX 😩
#ai
Я использую китайский сервис z.ai и его модели GLM-4.7 и GLM-5.2. Вторая подороже по расходу токенов, но на своих задачах я не особо вижу разницу. Если токенов много, ставлю 5.2, если мало остаётся, использую 4.7. Мне хватает самого начального тарифа за $18.
Напрямую с российских карт оплатить не получится. Я использую посредников на plati.market. Ссылка на продавца, где я оплачивал последние 3 месяца. Сначала купил оплаченный аккаунт, а потом его же продлевал. После оплаты приходится в чат отправлять логин и пароль от учётки. Сейчас, кстати, почему то стоимость ниже, чем была всего пару недель назад. Я плачу USDT. У меня есть некоторая сумма, которую непонятно как и куда выводить. Мне очень удобно тратить именно их на подписку.
В качестве агента использую opencode. Он нативно интегрируется с z.ai. Достаточно в сервисе создать ключ для доступа по API и указать его в opencode. Мне нравится этот агент за простоту и функциональность. Чтобы начать работать, не нужна какая-то особенная настройка. Можно просто установить и пользоваться. Будет нормальный результат сразу. Потом уже можно что-то донастроить по своим потребностям.
У меня отдельная виртуалка с opencode, там директории с проектами, оттуда они пушатся во внешний git репозиторий. Какие задачи решаю с помощью агента? Довольно простые, прикладные, которые упрощают повседневную рутину. В основном это плейбуки ансибла. Приведу конкретные примеры:
▪️Набор плейбуков для базовой настройки систем с различными ролями + обвязка вокруг них на bash скриптах для некоторого удобства.
▪️Плейбук для быстрой установки и интеграции в мою инфраструктуру новой VPS со всем, что надо для обхода деградации, замедления и блокировки.
▪️Мониторинг температуры некоторого железа с помощью Zabbix.
▪️Быстрое автоматическое добавление узлов с различными системами в мониторинг и сбор логов.
Ну и так далее. То есть ничего особенного, чего бы я не смог сделать сам, но агент это делает намного быстрее. Сначала он что-то разработает. Я ему даю доступ к тестовым виртуалкам. Он там сам всё проверяет и отлаживает, пишет инструкцию по использованию. А потом уже я иду, проверяю и в дальнейшем пользуюсь сам. То есть какие-то процессы полностью на автоматическое исполнение я агенту не отдаю.
Это я привёл примеры по администрированию. Я и некоторые другие свои задачи с ним решал, но сразу скажу, что навайбкодить что-то прям хорошее, рабочее у меня не получилось. Это не такая простая задача, как кажется. До удовлетворительного результата, чтобы сделать, закрыть задачу и начать пользоваться, у меня не получилось довести. Пока всё в полурабочем состоянии. На это надо много времени. У меня свободного почти нет, поэтому занимаюсь в основном текучкой.
Ещё отдельный спектр задач по поиску информации в интернете и консультированию. Агент хорошо ходит по ссылкам, что-то проверяет, анализирует, структурирует и выдаёт результат. Это разовые задачи без артефактов на выходе. По сути работает как поисковик и советник.
Первое время я прям много всего делал, нужного и ненужного. Было интересно, ночами сидел, не мог оторваться. Завораживает, как агент сам делает осмысленную работу за тебя. Лимиты все тратил. А сейчас всё основное сделано, пользуюсь не так часто.
❗️Если заметка вам полезна, не забудьте 👍 и забрать в закладки.
———
ServerAdmin:
#ai
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
12👍125👎1
У меня основной инструмент взаимодействия с ИИ - агент OpenCode. Мне в целом привычна и удобна работа в консоли, особенно для решения конкретных прикладных задач. Я тут же могу проверить решение - запустить, подключиться к другому серверу и т.д. Но иногда не хватает веб интерфейса для некоторых задач. У opencode есть свой встроенный веб интерфейс, но он мне совершенно не понравился. Неудобный.
Не так давно я смотрел обзор агента Coddy от автора. Мне он показался интересным, запомнил. И вот дошли руки попробовать. Сразу скажу, что он мне понравился и я оставил его себе для работы. К сожалению, у меня нет возможности пользоваться и сравнивать разные агенты, коих сейчас выходит очень много. В Coddy просто есть сразу всё, что лично мне нужно.
Что понравилось в Coddy и что он умеет:
▪️Простой инструмент из одного бинарника, конфига и папок со скилами, сессиями, кроном и т.д. Его легко запускать, переносить, обновлять.
▪️Три режима работы: ACP (взаимодействие агентов), HTTP (работаете в браузере), Gateway (взаимодействие через Telegram или другой мессенджер). Все три режима используют единое хранилище сессий. Например, в браузере можно посмотреть, что вы делали в других сессиях.
▪️Куча основных инструментов уже встроены: чтение файлов, запуск команд, ssh соединения, поиск через поисковики, анализ сайтов и т.д.
▪️Простой и лаконичный веб интерфейс. Ничего лишнего.
▪️Можно подключать все популярные llm, в том числе локальные.
▪️Нормально работает с локальными моделями, так как по умолчанию почти не расходует контекст на свою работу.
▪️Вся функциональная современная база есть: rules, sheduler, skills, mcp, long-term memory между сессиями или глобальная.
- По умолчанию всегда спрашивает, прежде чем что-то выполнять.
Что не понравилось:
◽️Не показывает статистику по генерации ответа. Не видно, какая была скорость генерации токенов для локальных моделей.
◽️Добавлять настройки через веб интерфейс неудобно.
◽️Результат работы планировщика можно посмотреть только в консоли, либо я не понял, где и как искать результаты работы в веб интерфейсе.
◽️Запросы на выполнение той или иной команды иногда почему-то выводятся где-то вверху в чате, хотя сам чат уже уехал вниз. Похоже на какой-то баг.
В общем, мне этот агент показался удобным, чтобы в одном месте собрать всю работу с llm. Поставил coddy на постоянку, буду использовать вместе с opencode, первого для работы в браузере, второго - в консоли.
На картинках мои примеры работы с локальной моделькой omnicoder-9b. Я её долго мучал. Она шустро у меня работает и не сказать, что сильно тупая. Если аккуратно подойти к настройке, то многие админские задачи сможет выполнять. Например, проверять регулярно какие-то логи с хостов и формировать отчёт.
❗️Если заметка вам полезна, не забудьте 👍 и забрать в закладки.
———
ServerAdmin:📱 Telegram | 🌐 Сайт | 📲 MAX 😩
#ai
Не так давно я смотрел обзор агента Coddy от автора. Мне он показался интересным, запомнил. И вот дошли руки попробовать. Сразу скажу, что он мне понравился и я оставил его себе для работы. К сожалению, у меня нет возможности пользоваться и сравнивать разные агенты, коих сейчас выходит очень много. В Coddy просто есть сразу всё, что лично мне нужно.
Что понравилось в Coddy и что он умеет:
▪️Простой инструмент из одного бинарника, конфига и папок со скилами, сессиями, кроном и т.д. Его легко запускать, переносить, обновлять.
▪️Три режима работы: ACP (взаимодействие агентов), HTTP (работаете в браузере), Gateway (взаимодействие через Telegram или другой мессенджер). Все три режима используют единое хранилище сессий. Например, в браузере можно посмотреть, что вы делали в других сессиях.
▪️Куча основных инструментов уже встроены: чтение файлов, запуск команд, ssh соединения, поиск через поисковики, анализ сайтов и т.д.
▪️Простой и лаконичный веб интерфейс. Ничего лишнего.
▪️Можно подключать все популярные llm, в том числе локальные.
▪️Нормально работает с локальными моделями, так как по умолчанию почти не расходует контекст на свою работу.
▪️Вся функциональная современная база есть: rules, sheduler, skills, mcp, long-term memory между сессиями или глобальная.
- По умолчанию всегда спрашивает, прежде чем что-то выполнять.
Что не понравилось:
◽️Не показывает статистику по генерации ответа. Не видно, какая была скорость генерации токенов для локальных моделей.
◽️Добавлять настройки через веб интерфейс неудобно.
◽️Результат работы планировщика можно посмотреть только в консоли, либо я не понял, где и как искать результаты работы в веб интерфейсе.
◽️Запросы на выполнение той или иной команды иногда почему-то выводятся где-то вверху в чате, хотя сам чат уже уехал вниз. Похоже на какой-то баг.
В общем, мне этот агент показался удобным, чтобы в одном месте собрать всю работу с llm. Поставил coddy на постоянку, буду использовать вместе с opencode, первого для работы в браузере, второго - в консоли.
На картинках мои примеры работы с локальной моделькой omnicoder-9b. Я её долго мучал. Она шустро у меня работает и не сказать, что сильно тупая. Если аккуратно подойти к настройке, то многие админские задачи сможет выполнять. Например, проверять регулярно какие-то логи с хостов и формировать отчёт.
❗️Если заметка вам полезна, не забудьте 👍 и забрать в закладки.
———
ServerAdmin:
#ai
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍58👎5