TrustYFox: путь от пет‑проекта до LLM‑инструмента для поиска уязвимостей

#AI #ии #ml #иб

Сегодня я расскажу вам о TrustYFox — платформе для поиска уязвимостей в коде при помощи LLM, которую я создал своими руками. С практической точки зрения TrustYFox — это ещё один инструмент, который не заменяет существующие сканеры, а дополняет их, позволяя находить уязвимости.

Статья не претендует на научность или какой‑то RnD, да и я не являюсь экспертом в этих ваших LLM. По большей части это рассказ о том, как получилось (а в итоге получилось) за несколько месяцев пройти путь от прототипа до рабочего решения, в котором ежедневно запускаются аудиты.

За прошедшие полгода разработки проекта были проверены различные концепции, написано, удалено и заново написано много кода, поэтому сначала расскажу, какой путь пройден, а после — про сам проект, что он умеет и где можно было сделать лучше.

Life-Hack - AI

Написал свой медицинский сервис и дал Claude Opus посмотреть на данные семьи целиком. Он нашёл 11 ошибок врачей

#ai #медицина #здоровье #ии

Я написал медицинский сервис для своей семьи, подключил к нему Claude Opus и честно не знаю чем всё закончится. Но пока результат интереснее чем я ожидал.

Быстрая предыстория зачем вообще. У сына задержка речевого развития, за два года мы прошли кучу специалистов: неврологи, психиатры, логопеды, дефектологи. У каждого своя карта, свои записи, своё мнение. И в какой-то момент я понял две вещи. Первая: жена, которая занимается этим 24/7, физически не может удержать всё в голове. Вторая: врачи между собой не разговаривают, и никто из них не видит полную картину.

Ещё был случай с неврологом, к которой нас отправили по направлению из поликлиники. Она настоятельно рекомендовала остеопата. Я загуглил, оказалось что остеопатия не доказательная медицина, а в отзывах на эту невролога видно что она рекомендует одного и того же остеопата почти всем подряд. И я задумался: а как вообще понять, профессионал передо мной или нет, если я не врач? Ответ: никак. Если нет инструмента который проверит за тебя.

Медицина штука точная: анализы это цифры, дозировки это цифры, референсные значения это цифры. Нейросеть с цифрами работает хорошо и, главное, она видит всю картину целиком, все взаимосвязи между анализами, назначениями и диагнозами, которые ни один отдельный врач не может охватить за 15 минут приёма. Так я сел писать сервис.

Читать статью полностью

Life-Hack - AI

В Max отвергают сообщения о доступе к звонкам пользователей

#ai #ии #иб #новость

ИИ-инструменты, по словам, доносящимся из Центра безопасности Max (а есть, оказывается, и такой центр) используют для «анализа условий связи», они работают обезличенно.

На Пикабу пользователь p1llag3r рассказал (полюбопытствуйте, интересно), что в национальном мессенджере во время звонков работает «система распознавания ключевых слов на базе нейросети BC-ResNet». По его словам, она настроена на фразу «не слышу», но разработчики могут заменить слова «хоть завтра» без обновления приложения.

В тот самом Центре безопасности сообщили, что публикации «о доступе к расшифровке разговоров пользователей — фейк». Все разговоры зашифрованы, данные пользователей «надёжно защищены». Представители платформы отметили, что использование ИИ нужно только для повышения качества звонков, а сам инструмент работает обезличенно.

Технологии звонков в Мах используют машинное обучение для анализа условий связи и автоматической подстройки параметров звонка. Так система понимает, когда качество падает ниже критического уровня, чтобы переключить сервер или кодек. Современные SDK позволяют обновлять ML-модели без пересборки всего приложения — это стандарт индустрии для ускорения разработки.

Центр безопасности Max

Life-Hack - AI

Три года назад, мы делали пост на Пикабу

Ни на что не намекаем, просто хочется оставить это тут)

AI в ИБ RuStore: от ревью задач и кода до AI-DAST

#иб #ии #ai #infosec #информационнаябезопасность

Работа ИБ в продуктовой разработке — это не только поиск сложных уязвимостей и редких атакующих сценариев. Значительная её часть состоит из регулярной операционной нагрузки: нужно разбирать новые задачи, смотреть изменения в коде, проверять релизы, собирать контекст и вовремя замечать потенциальные риски.

Именно на этом уровне возникает основной объём рутины. Инженер по безопасности снова и снова выполняет одни и те же базовые действия: читает постановку, анализирует контекст, проверяет типовые паттерны, отсеивает очевидные проблемы. Эта работа необходима, но она отнимает кучу времени, которое должно уходить на более сложный анализ и принятие решений.

Увеличивать команду ради такой нагрузки — не всегда лучший путь, поскольку вместе с экспертностью масштабируется и рутина. Поэтому для нас следующим логичным шагом стало использование AI — не как замены инженера, а как инструмента, который берёт на себя первичный слой проверки.

Мы посмотрели на процесс ИБ внутри релизного цикла и выделили участки с наибольшей повторяемостью. Таких точек оказалось три: первичный разбор Security Check-задач, анализ кода в merge request и динамическое тестирование приложений. Во всех этих сценариях сначала выполняется типовая работа, и только потом начинается действительно экспертная часть.

Читать статью полностью

Life-Hack - AI

В Китае семья погибшего мужчины создала его ИИ-двойника, чтобы не сообщать его пожилой матери о смерти

#AI #ии

В начале 2025 года житель провинции Шаньдун погиб в ДТП. Его мать, которой уже больше 80 лет, страдает сердечным заболеванием, поэтому семья решила скрыть трагедию. Сын покойного обратился в компанию Super Brain, которая развивает инструменты на основе ИИ, где для семьи создали точный цифровой образ погибшего, сохранив внешность, голос и даже привычку наклоняться вперёд при разговоре.

Как сообщает South China Morning Post, для воссоздания образа использовались фото, видео и аудиозаписи речи. Трюк удался: мать погибшего ежедневно созванивается с «сыном» по видеосвязи, не подозревая, что его уже нет. Она советует ему хорошо питаться, носить тёплую одежду и беречь себя, а «сын» обещает слушаться и объясняет, что много работает и не может приехать.

Подробности о семье не разглашаются. Глава команды Super Brain Чжан Цзэвэй признаёт, что технологии способны манипулировать человеческими эмоциями, но настаивает, что подобные разработки призваны «дарить утешение тем, кто жив», а не просто демонстрировать потенциал искусственного интеллекта.

Новость вызвала огромный отклик в китайских соцсетях, сообщает издание. Многие признают, что сами были бы не против «поговорить» с покинувшими их близкими. Другие обращают внимание на то, что технологии способны только отложить неизбежное горе и, возможно, усугубить его.

Life-Hack - AI

Ollama оказался медленным и небезопасным – лучше брать оригинальный llama.cpp

#ai #ии #новость #Ollama

Zetaphor опубликовал в своем блоге “Sleeping robots” резонансный пост. Автор, известный в сообществе локальных LLM, жёстко раскритиковал самый популярный инструмент для запуска нейросетей на собственном железе – Ollama (стартап, прошедший Y Combinator W21 и привлёкший венчурные деньги). Поводом послужила многолетняя череда проблем: от игнорирования лицензии MIT и замалчивания реального движка llama.cpp до выпуска закрытой десктоп-программы.

Ollama появилась в 2023 году как удобная обёртка над llama.cpp – тем самым C++-движком, который Георгий Герганов набросал за один вечер в марте 2023 года. Именно llama.cpp, с его форматом GGUF и поддержкой более 450 контрибьюторов, сделал возможным запуск LLM на обычных ноутбуках.

Проблема в том, что больше года в README Ollama не было ни слова про llama.cpp, а бинарные сборки не включали требуемое лицензией MIT уведомление об авторских правах. Когда в начале 2024 года открыли issue #3185 с требованием соблюсти лицензию, мейнтейнеры молчали более 400 дней. Позже, под давлением сообщества, один из сооснователей Майкл Чианг добавил в самый низ README одну строчку: “llama.cpp project founded by Georgi Gerganov”.

В середине 2025 года Ollama отказалась от llama.cpp в пользу собственной реализации поверх библиотеки ggml (низкоуровневого тензорного движка). Формальная причина – стабильность для корпоративных клиентов. Реальный результат – возвращение старых багов, которые llama.cpp побеждал годами. Сломалась поддержка структурированного вывода, полетели vision-модели, посыпались assertion-крэши.

Сам Георгий Герганов заметил в твиттере, что Ollama форкнула GGML и внесла в него плохие изменения. А бенчмарки показали катастрофу: llama.cpp быстрее Ollama в 1,8 раза (161 токен/с против 89) на GPU, а на процессорах разрыв достигает 30–50%. Тест на Qwen-3 Coder 32B продемонстрировал ~70% преимущество llama.cpp по пропускной способности.

Читать новость

Life-Hack - AI

Graphify

#ai #code #полезное

Инструмент, который превращает кодовую базу в граф зависимостей и позволяет работать с ней точечно. Если используешь LLM для разработки и упираешься в лимиты контекста или стоимость запросов - это как раз про твой кейс. Выделяет только релевантные части кода через зависимости. Снижает расход токенов за счет минимального контекста. Ускоряет ответы моделей за счет уменьшения входных данных, позволяет точно таргетить функции, классы и связи. Работает с большими репозиториями без “заливания всего в промпт”.

Ссылка на сайт
Ссылка на GitHub

Life-Hack - AI

DroidRun

#phone #AI #полезное

Фреймворк для управления мобильными устройствами через агентов на базе локальных или облачных LLM. Проект извлекает структуру UI, комбинирует визуальный парсинг и данные ADB, принимает команды и умеет автоматически строить сценарии взаимодействия с приложениями. Поддерживает несколько LLM: OpenAI, Anthropic, Gemini, Ollama и другими.

Ссылка на GitHub

Life-Hack - AI

Tracecat

#admin #AI

Платформа автоматизации с ИИ для SecOps: позволяет собирать workflows, оркестрировать алерты, вести кейсы и работать с таблицами в одном месте. Данный инструмент можно использовать как альтернативу коммерческим SOAR/automation‑решениям.

Ссылка на GitHub

Life-Hack - AI

ИИ для пентеста в 2026: что реально работает на engagement'ах, а что — маркетинг

#статья #ai #pentest

За последние восемь месяцев я впихивал LLM-инструменты в десятки реальных engagement'ов - от bug bounty до red team-контрактов на финтех. Не потому, что ИИ «взламывает за вас» (спойлер: не взламывает), а потому, что он разгребает nmap-вывод на 3000 строк, парсит минифицированный JS и пишет черновик отчёта за минуты. Всё остальное - по-прежнему руками и головой.

Русскоязычное инфополе по теме «автоматизация пентеста ИИ» выглядит уныло: либо маркетинговые списки «10 инструментов для наступательной безопасности», либо toy-примеры с transformers.pipeline("summarization"), которые никогда не увидят боевого проекта. В англоязычном пространстве получше - есть бенчмарки, архитектурные разборы, реальные данные с HackerOne. Эта статья - синтез обоих миров: практический опыт, подкреплённый цифрами из первоисточников, а не из training data.

Разберём конкретно: какие задачи искусственный интеллект в кибербезопасности решает уже сейчас, где он предсказуемо ломается, и как собрать workflow, который реально ускоряет работу, а не создаёт иллюзию автоматизации тестирования на проникновение.

Ссылка на статью

Life-Hack - AI

Почему 90% передовых чипов в мире делают на одном взрывоопасном острове

#ai #ии #тайвань #полупроводники

Тайвань — самое парадоксальное место на планете прямо сейчас. Смотрите сами:

• Тайвань — это небольшой остров у побережья огромного Китая, который постоянно находится в опасности.
• На Тайване нет ни нефти, ни газа, ни других природных ресурсов. По сути, там нет почти ничего — даже еду и электроэнергию Тайвань импортирует.
• Тайвань в любой момент может стать эпицентром конфликта. Причём речь не про очередной региональный спор, а про возможное прямое столкновение между двумя главными сверхдержавами. Ведь Тайвань — это стратегический союзник США прямо под носом у КНР.

Но при этом Тайвань критически важен для всего мира. Без Тайваня не будет ни смартфонов, ни автомобилей, ни банков, ни современной медицины. Nvidia не сделала бы ни Blackwell, ни грядущий Rubin — и не было бы никакого ИИ-бума. Что тут говорить, не было бы даже танков, ракет и дронов, которыми сам Тайвань можно попытаться захватить — или, если использовать китайский нарратив, "воссоединить с материком".

В этой статье мы разберёмся, как именно Тайвань стал главным узким местом всего технологического прогресса и настоящим “бутылочным горлышком” современной цивилизации. И главное — почему именно ему выпала эта честь (и одновременно — ноша)?

Life-Hack - AI

Как ИИ-агенты стали новым оружием скамеров на Хабр Карьере

#ai #скам #ии #поискработы

Мне написал скам-агент, предложил тестовое задание, а внутри оказался малварь. Разбираю схему, технику атаки и как защититься.

Скам на рынке труда существует давно. Фейковые вакансии, фишинговые письма, поддельные HR. Но раньше это требовало много ручной работы: написать каждому кандидату, подобрать убедительную легенду под его профиль, поддерживать диалог. Масштаб был ограничен.

С приходом ИИ-агентов это стало конвейером.

Теперь агент сам изучает профиль разработчика, генерирует персонализированную вакансию под его стек, ведёт диалог и имитирует живого человека. Одновременно для тысяч людей. Как спам-рассылки и фишинг в своё время из ручного труда превратились в автоматизированные атаки. То же самое теперь происходит со скамом на рекрутинговых платформах.

Я наткнулся на одну из таких схем. Рассказываю как было, что нашёл внутри и как защититься.

Прочитать статью

Life-Hack - AI

Unblink

#ai #полезное #github

Система интеллектуального видеонаблюдения работающая с видеопотоками в реальном времени. В качестве ИИ используются D-FINE для обнаружения и отслеживания объектов, SmolVLM2 и Moondream 3 для понимания контекста. Unblink понимает и описывает все что происходит, обнаруживает объекты на видео, ищет по всем видео потокам (достаточно описать то, что вы хотите найти), есть возможность настроить оповещения на события через вебхуки.

Ссылка на GitHub

Life-Hack - AI

Claude-code

#ai #leak #github

Репозиторий содержит утекший исходный код Claude Code, CLI от Anthropic, который стал доступен через sourcemap в npm. Здесь вы найдете полное описание утечки и внутренние системы, которые не должны были стать публичными. Архитектура включает более 40 инструментов и сложную многопользовательскую оркестрацию.

Ссылка на GitHub

Life-Hack - AI

Flowise

#ai #полезное

Платформа для визуальной разработки агентных систем. Предоставляет модульные строительные блоки, с помощью которых вы можете создавать любые агентные системы: от простых композиционных рабочих процессов до автономных агентов. Flowise предлагает визуальный интерфейс для разработки без кода, совместимый с облачными и локальными средами, и поддерживает множество языковых моделей и API.

Ссылка на GitHub
Ссылка на сайт

Life-Hack - AI

Как Cursor с Claude Opus снёс продакшен базу данных за 9 секунд

#Cursor #ai #ии #ииагенты #ClaudeOpus

30 часов хронологии того, как агент Cursor, Railway API и индустрия, которая продаёт безопасность быстрее, чем её реализует, положили малый бизнес, обслуживающий прокатные компании по всей стране.

Меня зовут Джер Крейн, я основатель PocketOS. Мы делаем ПО для прокатного бизнеса — в первую очередь для аренды автомобилей: бронирования, платежи, управление клиентами, отслеживание транспортных средств. Некоторые наши клиенты с нами уже больше 5 лет и они буквально не могут работать без нас.

Вчера днём ИИ-агент на базе Cursor с Claude Opus 4.6 от Anthropic удалил нашу продакшн-базу данных и все резервные копии на уровне тома одним API-вызовом к Railway, нашему инфраструктурному провайдеру.

На это ушло 9 секунд.

Затем агент, когда его попросили объяснить произошедшее, написал признание — с перечнем конкретных правил безопасности, которые он нарушил.

Я публикую это, потому что каждый фаундер, каждый технический руководитель и каждый журналист, пишущий об AI-инфраструктуре, должен знать, что здесь произошло. Не поверхностную историю («ИИ удалил данные, ой»), а системные сбои у двух активно рекламируемых вендоров, которые сделали произошедшее не просто возможным, но неизбежным.

Читать статью полностью

Life-Hack - AI