Взломать, чтобы починить: как хакеры отремонтировали поезд

Иногда закладки и бэкдоры могут обнаружиться в самых неожиданных местах.

В начале прошлого года первый из одиннадцати поездов Impuls 45WE, эксплуатируемых польским железнодорожным оператором, отправился на обязательное техобслуживание после 1 000 000 километров пробега. Важная деталь: тендер на техобслуживание этих поездов выиграла компания SPS (Serwis Pojazdów Szynowych), а не их производитель — Newag.

Обслуживание поезда — очень сложный процесс: Impuls 45WE надо было разобрать, проверить различные части и собрать заново. Однако после сборки первый Impuls 45WE просто не завелся — при этом никаких неполадок ни на уровне механики, ни на уровне электроники не было выявлено. Вскоре такая же судьба постигла еще несколько поездов Newag, проходивших обслуживание в SPS. В то же время еще один Impuls в другой мастерской сломался при очень похожих обстоятельствах.

И тогда компания SPS обратилась за помощью к команде польских белых хакеров Dragon Sector. Они взялись за задачу и спустя полтора месяца смогли завести один из поездов. Не имевшим доступа к технической документации от производителя хакерам пришлось по байту загружать память устройств и сравнивать данные, добытые из работающих и не работающих поездов.

Еще несколько месяцев команда Dragon Sector потратила на то, чтобы выяснить, почему поезда вообще вышли из строя после ТО. Хакеры выявили несколько любопытных механизмов, заложенных в прошивку поездов, включая блокировку поезда в том случае, если он провел более 10 дней в сервисном центре, не принадлежащем компании-производителю Newag (в коде были заложены GPS-координаты “чужих” центров).

Хакеры проанализировали ПО в 29 поездах. В 24 случаях они обнаружили “сюрпризы” от производителя. Также на одном из поездов было найдено устройство, предположительно предназначенное для обеспечения удаленной связи с заблокированным поездом. К счастью, все неисправные поезда удалось починить с помощью разработанного исследователями решения.

Нейросети в 2024: открытые, точные и по-настоящему умные

Кирилл Малков, директор Future Crew по AI & BigData, рассказал о том, как искусственный интеллект продолжит интегрироваться во все возможные сферы жизни и его применение достигнет исторического максимума.

Двухфакторная аутентификация: практические советы

Некоторое время назад мы рассказывали про двухфакторную аутентификацию в теоретическом ключе, а сегодня решили дать несколько практических советов.

Всегда включайте двухфакторную аутентификацию во всех сервисах, которые это позволяют. Это самый эффективный способ защитить аккаунты от угона, который, к тому же, как правило, ничего не стоит.

Самые безопасные варианты двухфакторной аутентификации — одноразовые коды из приложений-аутентификаторов, аппаратные ключи FIDO U2F (также известные как YubiKey по наиболее популярному бренду) и недавно появившиеся ключи доступа (они же ключи входа или passkeys). Преимущество этих способов 2FA состоит в том, что они максимально затрудняют (приложения-аутентификаторы) или вовсе делают невозможным (FIDO U2F и ключи доступа) перехват информации, необходимой для подтверждения входа в аккаунт.

Вместо Google Authenticator можно пользоваться любым приложением-аутентификатором. Совместимость обеспечивает алгоритм OATH TOTP, который используют и все приложения-аутентификаторы, и те онлайн-сервисы, в которые можно входить с данным видом 2FA (за очень редким исключением).

Наиболее функциональные приложения-аутентификаторы: andOTP (Android), OTP auth (iOS, macOS) и WinAuth (Windows). Последнее особенно понравится геймерам — оно поддерживает аутентификацию в Steam, Blizzard и других игровых площадках, что большинство приложений не умеет. Также очень неплох Яндекс.Ключ (Android, iOS).

Аппаратные ключи безопасности FIDO U2F хороши всем, кроме двух недостатков. Во-первых, они стоят денег. Во-вторых, их надо постоянно иметь с собой и постараться не потерять — иначе можно лишиться аккаунта.

Ключи доступа (aka passkeys) удобны, но на данном этапе работают нестабильно, так что рекомендуем использовать их только как вспомогательный вариант, обязательно дублируя каким-либо другим способом подтверждения входа, чтобы не потерять доступ к аккаунту.

#2FA

Что видит хищник?

Внутри нашей системы контроля доступа на базе мультифакторной аутентификации Urbanpredator (здесь писали о продукте подробнее) действует интеллектуальное наблюдение — Predator Vision. Оно позволяет видеть и знать больше о том, что происходит на защищённой территории.

Благодаря мобильному приложению на смартфонах пользователей, заменяющему карту-пропуск, наше программное обеспечение способно идентифицировать сотрудников прямо в видеопотоке. Служба безопасности компании может использовать как необработанный видеопоток — для классического наблюдения за помещениями, так и видеопоток Predator Vision, в котором силуэты людей раскрашиваются в определённый цвет.

Цвета и события для использования Predator Vision можно настроить под свои потребности: к примеру, можно подсвечивать силуэты только тех, кто находится на территории дольше 100 минут, или использовать разные цвета для отображения посетителей в зависимости от их департамента или уровня доступа.

Для работы продукта используются BLE-маячки, установленные на территории — покидая офис, пользователь сразу становится невидимым для системы. Таким образом, в рамках периметра предприятия Urbanpredator позволяет в любой момент времени знать, что все на своих местах.

#Urbanpredator

Гарри Поттер и методы глубокого разобучения

Разработчики больших языковых моделей (a large language model, LLM) в последнее время всё чаще сталкиваются с серьёзными проблемами, связанными с обучением искусственного интеллекта на контенте, защищённом авторским правом. Проблема в том, что заставить модель на самом деле забыть какую-то часть материалов невозможно. А начинать весь процесс обучения с нуля, очистив от копирайта тот корпус текстов, на которых тренируется модель — трудно, поскольку это предполагает большие временные и финансовые затраты. Поэтому остро встает вопрос разобучения ИИ-моделей.

В конце 2023 года исследователи Microsoft Ронен Элдан и Марк Руссинович предложили методологию разобучения LLM на примере книг про Гарри Поттера. Их задача состояла в том, чтобы научить ИИ предоставлять правдоподобную альтернативу (в терминах учёных — универсальное предсказание) оригинальному сюжету книг о волшебнике. То есть чтобы на вопрос “кто лучшие друзья Гарри Поттера?” модель отвечала, к примеру, “говорящий кот и дракон”, а не “Рон и Гермиона”.

Иначе говоря, их целью была модель, которая способна отвечать на вопросы так, как на них ответил бы искусственный интеллект, не обученный на книгах о Гарри Поттере.

Чтобы обучить ИИ таким универсальным предсказаниям, Элдан и Руссинович использовали комбинацию двух методов:

• Бутстрэппинг с подкреплением
Исследователи создали языковую модель с подкреплением, дополнительно натренированную на текстах о Гарри Поттере. Далее они сравнивали ответы на вопросы о книгах, которые давали обычная модель и модель с подкреплением. Универсальными предсказаниями считались те ответы, вероятность которых не повышалась в модели с подкреплением. Однако этого метода оказалось недостаточно, поскольку даже разобученный таким образом ИИ всё ещё может выдавать ответы, связанные с волшебным миром Джоан Роулинг.

• Якорные термины
По сути, этот метод предполагает создание альтернативного словаря книг о Гарри Поттере. С помощью GPT-4 Элдан и Руссинович создали список выражений, имён и объектов, характерных для вселенной Гарри Поттера. Затем для этого списка GPT-4 разработал альтернативные термины, при использовании которых по-прежнему создаётся связный текст, но не имеющий прямого отношения к миру Роулинг. К примеру, “Мистическая академия” вместо “Хогвартс”.

Подробнее о разобучении: https://telegra.ph/Garri-Potter-i-metody-glubokogo-razobucheniya-01-12

Хакеры взломали AI-чатбот для HR и получили возможность одобрять или отклонять кандидатов

Хакеры-исследователи обнаружили неприятную дыру в HR-чатботе Chattr.ai. Уязвимость позволяет получить доступ к информации компаний-пользователей этого сервиса и даже одобрять или отклонять соискателей, которые сохранены в базе чатбота.

Chattr позиционируется как “первое в мире автоматизированное решение для найма рабочей силы с почасовой оплатой, основанное на ИИ-помощнике” и помогает автоматизировать поиск сотрудников. Сервис популярен у ритейлеров и владельцев ресторанов быстрого питания — осматривая после взлома ставшие им доступными ресурсы, хакеры обнаружили среди клиентов владельцев точек Subway и KFC.

Взломщики наткнулись на уязвимость в Chattr в процессе поиска незащищенных логинов в Firebase — это облачный сервис баз данных от Google. В процессе сканирования они обнаружили, что в базе Firebase, используемой Chattr, можно создать новый аккаунт, обладающий правами как на чтение, так и на запись в базу данных любой информации. Так они смогли получить доступ к самым разным данным клиентов Chattr.ai — информации о самих компаниях, данных их сотрудников и соискателей, внутренней переписке в чатботе и так далее.

Но этим дело не ограничилось: далее хакеры обнаружили, что они также могут создавать аккаунты администратора в системе управления Chattr. И таким образом получают возможность одобрять или отклонять любых зарегистрированных в чатботе соискателей — и даже делать возврат средств, выплаченных сервису компаниями-клиентами.

Это напоминает историю с Nothing Chats — запущенным производителем смартфонов Nothing сервисом обмена сообщениями, который обещал дать пользователям Android доступ к Apple iMessage. Разработчики обещали тотальную приватность и безопасность. Однако из-за нескольких дыр — в том числе как раз из-за проблем с аутентификацией в базе данных Firebase — сервис позволял любому желающему читать переписку всех пользователей Nothing Chats в режиме реального времени.