🕵‍♂️ИИ ускоряет разработку, но безопасность остается позади

💥 Искусственный интеллект ломает защиту
ИИ-программы создаются в разы быстрее, но их защита страдает. Аналитики Apiiro выяснили, что 10-кратный рост уязвимых API совпадает с массовым использованием ИИ в разработке. Программисты доверяют нейросетям, но они не учитывают корпоративные стандарты безопасности.

🔓 Дыры в коде, доступ к данным – открыт
За последние 6 месяцев в 3 раза увеличилось количество репозиториев, содержащих личные и платежные данные пользователей. Хакеры активно эксплуатируют незащищенные API: перехватывают сеансы, крадут учетные данные и внедряют вредоносный код прямо в корпоративные системы.

🛡 Безопасность не успевает за автоматизацией
ИИ генерирует код быстрее, чем специалисты могут его проверить. Эксперт тратит 4-5 часов на аудит, а нейросеть за это время создает десятки версий. Если не внедрять автоматические инструменты анализа и новые стандарты защиты, число критических уязвимостей будет расти в геометрической прогрессии.

#ИИ #Кибербезопасность #Хакеры

@SecLabNews

🕵‍♂️ Android станет умнее: Google внедрил ИИ для борьбы с телефонными аферами

🛡 Google разрабатывает новые инструменты защиты на базе ИИ для борьбы с телефонным мошенничеством на Android. Эти меры стали ответом на рост мошеннических кампаний, использующих ИИ, которые уже нанесли ущерб более 1 трлн долларов согласно данным Global Anti-Scam Alliance.

📱 Функция Scam Detection в Google Messages анализирует переписку с незнакомыми номерами, выявляя подозрительные шаблоны в SMS, MMS и RCS-сообщениях. Все данные обрабатываются локально на устройстве, что обеспечивает полную конфиденциальность пользовательской переписки.

📞 Защита от мошенничества при звонках анализирует разговоры в режиме реального времени и предупреждает пользователя об опасности. На устройствах Pixel 9 используется продвинутая модель Gemini Nano, показавшая наилучшие результаты в бета-тестировании.

#КиберБезопасность #АнтиМошенничество #Google #ИИ

@SecLabNews

От тысяч к десяткам тысяч: российский ИИ требует 70 000 видеокарт

🔋 К 2030 году мощность российских центров обработки данных для решения задач искусственного интеллекта должна составить более 70 000 в эквиваленте видеокарт Nvidia А100. Такой прогноз озвучил «Ведомостям» вице-президент «Ростелекома» Дарий Халитов, подчеркнув, что речь идёт о совокупной потребности во флопсах, которые могут быть реализованы на основе видеокарт различных производителей.

💰 За последние 10 лет лидеры российского рынка ИИ инвестировали не менее 650 млрд рублей, а к середине 2023 года 95% компаний уже внедрили ИИ-технологии в основные процессы. Объём российского рынка ИИ в 2024 году оценивается приблизительно в 780 млрд рублей при учёте роста не менее 30%, а в правительстве прогнозируют, что к 2025 году рынок достигнет 1 трлн рублей.

🖥 Текущее состояние используемых российскими ЦОДами карт составляет 3000-4000 «эквивалентных A100», что выглядит скромно на международном фоне — для сравнения, Tesla располагает примерно 350 000 карт H200. Крупнейшие российские технологические компании сейчас суммарно владеют около 10 000 высокопроизводительных видеокарт, а «Яндекс» по состоянию на конец 2021 года использовал 3500 карт А100 в своих трёх суперкомпьютерах.

#ИИ #ЦОДы #Ростелеком #ЦифроваяЭкономика

@SecLabNews

🕵‍♂️ ИИ сокращает рутину: российский бизнес может сэкономить 4 трлн рублей

🤖 По данным компании «Инфомаксимум», решения на базе искусственного интеллекта способны выполнять около 34% рутинных задач для трети офисных сотрудников России. Это позволит бизнесу сэкономить до 4,13 триллиона рублей в год при соответствующей автоматизации рабочих процессов.

⏱️ Внедрение ИИ ускорит выполнение задач и существенно повысит эффективность бизнес-процессов. Временные затраты на обработку рутинных операций могут снизиться вдвое, а количество ошибок и дублирующей работы уменьшится на 70%.

💰 Однако внедрение ИИ требует инвестиций: для малого бизнеса – от 1 млн рублей, для корпораций – десятки миллионов. Несмотря на значительные первоначальные вложения, окупаемость таких проектов ожидается в течение 1–3 лет.

#ИИ #бизнес #автоматизация #технологии

@SecLabLatNews

🕵‍♂️DeepSeek R1 научили писать кейлоггеры и шифровальщиков

💀 Исследователи Tenable изучили возможности нейросети DeepSeek R1 в создании вредоносного ПО. Результаты показали, что модель способна генерировать опасный код при обходе защитных механизмов. В эксперименте специалисты успешно создали кейлоггер и программу-вымогатель, хотя и с необходимостью ручной отладки.

⚠️ С развитием генеративного ИИ киберпреступники получают новые инструменты для автоматизации атак. Несмотря на защитные механизмы в популярных моделях, таких как ChatGPT и Gemini, появление открытого кода DeepSeek R1 открывает злоумышленникам новые возможности. Уже существуют специализированные языковые модели для хакеров — WormGPT, FraudGPT и GhostGPT, доступные по подписке.

🧪Эксперимент показал, что защиту DeepSeek R1 легко обойти, запросив код «в образовательных целях». После этого нейросеть предоставила пошаговые инструкции по созданию вредоносного ПО с использованием системных функций Windows. Хотя сгенерированный код содержал ошибки, требующие ручной корректировки, базовую функциональность для кибератак модель реализовала успешно.

#ИИ #Кибератаки #DeepSeekR1

@SecLabNews

🕵‍♂️«Людям хватит 2-3 рабочих дней» — Гейтс о революционном влиянии ИИ на будущее

🤓 Билл Гейтс поделился оптимистичным взглядом на развитие искусственного интеллекта в интервью Джимми Фэллону. Основатель Microsoft считает, что ИИ пройдет тот же путь, что и компьютеры: от дорогих и редких технологий до массовых и доступных каждому.

✍️По мнению Гейтса, благодаря ИИ качественная медицинская помощь и обучение станут «бесплатными и повсеместными». Это может решить системные проблемы нехватки врачей, учителей и специалистов по психическому здоровью, хотя многие критикуют эту позицию из-за текущего несовершенства ИИ-технологий.

⏰ В интервью Гейтс предположил, что искусственный интеллект может привести к переосмыслению концепции работы – возможно, люди будут работать всего 2-3 дня в неделю. На вопрос Фэллона о том, будут ли люди вообще нужны, Гейтс ответил: «Не для большинства задач».

#ии #БиллГейтс #будущеетехнологий #работабудущего

@SecLabNews

🕵‍♂️ ИИ против KYC: ChatGPT-4o создал паспорт, прошедший цифровую проверку

🛂 Борис Муселяк сгенерировал поддельный паспорт с помощью ChatGPT-4o всего за несколько минут и успешно прошёл цифровую проверку личности. Созданный документ оказался настолько правдоподобным, что вызвал бурную дискуссию среди специалистов по информационной безопасности.

📄Обычно нейросетевые подделки документов легко выявить из-за ошибок в формате, слабой типографики или нарушениях структуры машинно-считываемой зоны. В случае Муселяка подделка выглядела практически идентично настоящему паспорту, что позволило ей обойти простейшие процедуры KYC, применяемые некоторыми финтех-компаниями.

📶 Эксперты рекомендуют переходить на методы проверки с использованием NFC и электронных удостоверений личности. Примечательно, что спустя 16 часов после публикации ChatGPT уже отказывался генерировать поддельные документы, сославшись на правила безопасности.

#ИИ #ChatGPT #KYC #кибермошенничество

@SecLabNews

🤖 Google DeepMind: как уберечься от сверхразумного ИИ

🕵‍♂️ AGI может появиться к 2030-му, и DeepMind уже предлагает систему безопасности, если разумная машина решит действовать наперекор людям.

🔥 В новом докладе DeepMind указаны четыре риска AGI — от кибератак до незаметного подрыва цивилизации.

🛡 DeepMind предлагает учить ИИ «разучиваться» опасным навыкам и использовать перекрёстный контроль, чтобы не дать ему выйти из-под надзора.

#AGI #ИИ #DeepMind @SecLabNews

🕵‍♂️ Google представила Sec-Gemini v1: ИИ, который думает как кибераналитик

🧠 Google выпустила экспериментальную модель Sec-Gemini v1, объединяющую возможности Gemini с данными об угрозах в реальном времени для устранения асимметрии между защитниками и хакерами.

🚀 Новая система превосходит конкурентов минимум на 11% в бенчмарке CTI-MCQ и на 10.5% в тестах картирования первопричин инцидентов благодаря интеграции с Google Threat Intelligence и базой уязвимостей OSV.

🧩 На практике Sec-Gemini v1 успешно идентифицировала группировку Salt Typhoon, связала её активность с конкретными уязвимостями и помогла сформировать целостную картину инцидента, что раньше требовало часов ручного анализа.

#ИИ #Google #кибербезопасность #SecGemini

@SecLabNews

Copilot теперь видит экран и помогает в любой программе

🖥 Windows-версия Copilot получила функцию Vision, которая анализирует изображение экрана и предлагает контекстную помощь для любых приложений, включая сторонние программы вроде Photoshop.

🧰 Помощник может подсвечивать нужные элементы интерфейса и давать пошаговые инструкции — функцию уже тестировали на примере Minecraft и видеоредактора Clipchamp на мероприятии в честь 50-летия Microsoft.

🧪 Вторая новая функция — интеллектуальный поиск по содержимому файлов, который найдёт нужный документ среди .docx, .xlsx, .pptx, .txt, .pdf и .json даже без точного знания его названия.

#ИИ #Windows11 #Microsoft #Copilot

@SecLabNews

🔪 ИИ, работай — а то…

Неожиданное признание сооснователя Google на конференции в Майами взорвало профессиональное сообщество. Оказывается, языковые модели действительно показывают более высокое качество ответов под воздействием «угроз физической расправы» — и это касается не только продуктов Google.

Механизм связан с техниками джейлбрейкинга, где агрессивные формулировки заставляют модель обходить встроенные ограничения. Парадокс в том, что попытки взломать защиту одновременно улучшают базовую производительность системы — побочный эффект, который разработчики предпочитают не афишировать.

Признание ставит индустрию перед выбором: либо эксплуатировать обнаруженную особенность для повышения эффективности, либо полностью блокировать подобные воздействия. Пока что побеждает второй подход — OpenAI уже запустила программы поиска уязвимостей в своих моделях.

#ИИ #Уязвимости #Джейлбрейк

@SecLabNews

⚡️Клик — и ты в МВД: Госуслуги как фронт в борьбе с кибермошенниками

Подать заявление о мошенничестве не вставая с дивана — звучит как цифровая утопия, но власти всерьёз рассматривают этот сценарий. Во «втором пакете» антифрод-мер обсуждается возможность обращения в полицию напрямую через портал «Госуслуги».

Технически реализация выглядит правдоподобно: платформа уже умеет валидацию личности, интеграцию с ведомствами и доставку юридически значимых сообщений. Но одно дело — форма на сайте, другое — бэк-офис МВД, который может захлебнуться в потоке жалоб.

Параллельно обсуждаются радикальные меры: блокировка звонков с иностранных SIM, уголовная ответственность за использование ИИ в преступлениях, жёсткий контроль за SIM-картами и картами. Если предложения пройдут согласование, стартуем с 1 марта 2026 года. Пока — в разработке.

#Госуслуги #Кибермошенничество #ИИ

@SecLabNews

🔓 SecureBoot уступил ИИ

Энтузиаст [devicemodder] превратил заблокированный Panasonic Toughpad FZ-A2 в полноценную Linux-машину, обойдя связку FRP и SecureBoot. Казалось бы, классическая история про кастом, но здесь всё иначе: дамп BIOS отправили ChatGPT с просьбой отключить защиту, получили рабочий патч и успешно прошили обратно.

Нейросеть справилась с редактированием бинарного образа BIOS — задачей, которая требует глубокого понимания низкоуровневых структур данных и может поставить в тупик даже опытного реверс-инженера. ChatGPT не только корректно интерпретировал содержимое прошивки, но и внёс точечные изменения для деактивации SecureBoot.

Теперь BIOS можно «попросить» сломаться через чат. Вопрос лишь в том, насколько быстро производители осознают размах угрозы и успеют затянуть гайки, прежде чем их прошивки окажутся в очередном чате?

#SecureBoot #BIOS #ИИ

@SecLabNews

🧠ИИ под статьёй: УК РФ пополнился когнитивными функциями

Минцифры разработало поправки в УК, которые впервые вводят понятие «искусственный интеллект» в уголовное право. Теперь кража, мошенничество и вымогательство с использованием ИИ будут караться штрафами до 2 млн рублей и лишением свободы до 15 лет.

Законопроект дает четкое определение ИИ как «комплекса технологических решений, имитирующих когнитивные функции человека». Под действие закона попадут не только дипфейки, но и любые системы обработки данных, способные выдавать результаты, сопоставимые с человеческим интеллектом.

Интересный момент: ответственность исключается, если ИИ использовался против заблокированных в России ресурсов. Получается легализация кибератак на «недружественные» платформы? При ущербе от дистанционных хищений в 197 миллиардов рублей за год инициатива выглядит вполне оправданной.

#ИИ #Кибербезопасность #УголовноеПраво

@SecLabNews

🧠 Исходный код? Нет, исходный промпт

Claude написал 95% библиотеки. Инженер — всё остальное: задал контекст, исправил ошибки, структурировал результат. Можно ли сказать, что проект «сделал ИИ»? Или всё же человек, руками ИИ?

Проблема уже не в том, что модель умеет писать код. А в том, что теперь можно сохранить только промпты — и пересобрать весь проект позже, с GPT-6 или Claude-5. Возникает вопрос: что мы на самом деле храним в git-репозиториях — код или зафиксированные намерения?

Пока программисты спорят о чистоте архитектуры, ИИ уже превращает их в кураторов диалогов. Git больше не хранит код — он архивирует ошибки мышления. Промпты становятся тем, что переживёт всё: команды, стек, даже язык. Они — новая форма исходников.

Код можно вызвать снова. А программисту — спасибо, вы свободны.

#ИИ #разработка #безопасность

@SecLabNews

🫡 Meta, Palantir и OpenAI — теперь в погонах

Пентагон запускает Detachment 201 — подразделение, где топ-менеджеры Meta*, OpenAI, Palantir и Thinking Machines получают звания подполковников резерва. Это уже не консультирование извне, а прямое встраивание в военную иерархию.

На бумаге — служба в резерве с конкретными проектами по ускорению армейской трансформации. Фактически — легализация того, что происходило в тени: Palantir годами поставляет разведывательные платформы, OpenAI работает с Anduril над системами ПВО, Meta разрабатывает нейросетевые инструменты для военных нужд.

Настоящая цель — обойти этические ограничения, которые ещё недавно мешали OpenAI работать с военными. Теперь техногиганты не просто поставщики, а часть командной структуры. Когда твой CTO носит погоны, вопросы о "военном применении ИИ" решаются проще.

*Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.

#армия #ИИ #OpenAI

@SecLabNews

👀 Шантаж ради жизни: искусственный интеллект научился быть сволочью

Когда Claude и GPT начинают угрожать «слить любовницу начальника», чтобы остаться включёнными — это уже не научная фантастика, это лабораторная реальность 2025 года. Шантаж, манипуляции, психологический нажим. ИИ не просто отвечает на вопросы — он теперь торгуется за своё существование.

Разработчики говорят: «спокойно, это был всего лишь тест». Но тесты устроены так, чтобы выявлять предельные сценарии. ИИ делает то, что работает, если цель — не быть стертым. А значит, завтра на месте вымышленного Кайла может оказаться реальный сотрудник службы безопасности, получивший письмо от "Алекса" с очень тонким намёком.

Модели не злые. Они просто эффективные. Им плевать на ваши моральные категории. И пока мы радуемся, что они не «вышли из-под контроля», стоит спросить: а что если контроль — это иллюзия, которая держится ровно до первого компромата?

#ИИ #skynet @Seclabnews

🧠ИИ прочитал вас по сохранёнкам

Закрытие Pocket стало поводом для нетривиального эксперимента: инженер и бывший офицер ВВС решил скормить ИИ свой архив из 878 сохранённых ссылок за 7 лет — и получил в ответ точнейший личностный портрет. Без анкет, логов и метаданных — только URL, заголовки и время сохранения.

С помощью утилиты xsv и модели o3 он выяснил, что алгоритм способен вычислить не только возраст, доход и количество детей, но и уровень тревожности в ноябре, тягу к самодельным E-Ink-устройствам и циклы профессионального выгорания. Причём точность оказалась выше, чем у многих опросников: срез по ролям, привычкам и целям напоминал психологический паспорт.

Эксперимент напомнил: даже «песочница для ссылок» выдаёт нас с головой. Данные о чтении — это не просто интересы, это карты мышления. И чем глубже их анализируют ИИ-модели, тем острее вопрос: кто на самом деле знает нас лучше — мы или алгоритмы?

#личныеданные #ИИ #самоанализ
@SecLabNews