Нейросети в 2024: открытые, точные и по-настоящему умные

Кирилл Малков, директор Future Crew по AI & BigData, рассказал о том, как искусственный интеллект продолжит интегрироваться во все возможные сферы жизни и его применение достигнет исторического максимума.

Двухфакторная аутентификация: практические советы

Некоторое время назад мы рассказывали про двухфакторную аутентификацию в теоретическом ключе, а сегодня решили дать несколько практических советов.

Всегда включайте двухфакторную аутентификацию во всех сервисах, которые это позволяют. Это самый эффективный способ защитить аккаунты от угона, который, к тому же, как правило, ничего не стоит.

Самые безопасные варианты двухфакторной аутентификации — одноразовые коды из приложений-аутентификаторов, аппаратные ключи FIDO U2F (также известные как YubiKey по наиболее популярному бренду) и недавно появившиеся ключи доступа (они же ключи входа или passkeys). Преимущество этих способов 2FA состоит в том, что они максимально затрудняют (приложения-аутентификаторы) или вовсе делают невозможным (FIDO U2F и ключи доступа) перехват информации, необходимой для подтверждения входа в аккаунт.

Вместо Google Authenticator можно пользоваться любым приложением-аутентификатором. Совместимость обеспечивает алгоритм OATH TOTP, который используют и все приложения-аутентификаторы, и те онлайн-сервисы, в которые можно входить с данным видом 2FA (за очень редким исключением).

Наиболее функциональные приложения-аутентификаторы: andOTP (Android), OTP auth (iOS, macOS) и WinAuth (Windows). Последнее особенно понравится геймерам — оно поддерживает аутентификацию в Steam, Blizzard и других игровых площадках, что большинство приложений не умеет. Также очень неплох Яндекс.Ключ (Android, iOS).

Аппаратные ключи безопасности FIDO U2F хороши всем, кроме двух недостатков. Во-первых, они стоят денег. Во-вторых, их надо постоянно иметь с собой и постараться не потерять — иначе можно лишиться аккаунта.

Ключи доступа (aka passkeys) удобны, но на данном этапе работают нестабильно, так что рекомендуем использовать их только как вспомогательный вариант, обязательно дублируя каким-либо другим способом подтверждения входа, чтобы не потерять доступ к аккаунту.

#2FA

Что видит хищник?

Внутри нашей системы контроля доступа на базе мультифакторной аутентификации Urbanpredator (здесь писали о продукте подробнее) действует интеллектуальное наблюдение — Predator Vision. Оно позволяет видеть и знать больше о том, что происходит на защищённой территории.

Благодаря мобильному приложению на смартфонах пользователей, заменяющему карту-пропуск, наше программное обеспечение способно идентифицировать сотрудников прямо в видеопотоке. Служба безопасности компании может использовать как необработанный видеопоток — для классического наблюдения за помещениями, так и видеопоток Predator Vision, в котором силуэты людей раскрашиваются в определённый цвет.

Цвета и события для использования Predator Vision можно настроить под свои потребности: к примеру, можно подсвечивать силуэты только тех, кто находится на территории дольше 100 минут, или использовать разные цвета для отображения посетителей в зависимости от их департамента или уровня доступа.

Для работы продукта используются BLE-маячки, установленные на территории — покидая офис, пользователь сразу становится невидимым для системы. Таким образом, в рамках периметра предприятия Urbanpredator позволяет в любой момент времени знать, что все на своих местах.

#Urbanpredator

Гарри Поттер и методы глубокого разобучения

Разработчики больших языковых моделей (a large language model, LLM) в последнее время всё чаще сталкиваются с серьёзными проблемами, связанными с обучением искусственного интеллекта на контенте, защищённом авторским правом. Проблема в том, что заставить модель на самом деле забыть какую-то часть материалов невозможно. А начинать весь процесс обучения с нуля, очистив от копирайта тот корпус текстов, на которых тренируется модель — трудно, поскольку это предполагает большие временные и финансовые затраты. Поэтому остро встает вопрос разобучения ИИ-моделей.

В конце 2023 года исследователи Microsoft Ронен Элдан и Марк Руссинович предложили методологию разобучения LLM на примере книг про Гарри Поттера. Их задача состояла в том, чтобы научить ИИ предоставлять правдоподобную альтернативу (в терминах учёных — универсальное предсказание) оригинальному сюжету книг о волшебнике. То есть чтобы на вопрос “кто лучшие друзья Гарри Поттера?” модель отвечала, к примеру, “говорящий кот и дракон”, а не “Рон и Гермиона”.

Иначе говоря, их целью была модель, которая способна отвечать на вопросы так, как на них ответил бы искусственный интеллект, не обученный на книгах о Гарри Поттере.

Чтобы обучить ИИ таким универсальным предсказаниям, Элдан и Руссинович использовали комбинацию двух методов:

• Бутстрэппинг с подкреплением
Исследователи создали языковую модель с подкреплением, дополнительно натренированную на текстах о Гарри Поттере. Далее они сравнивали ответы на вопросы о книгах, которые давали обычная модель и модель с подкреплением. Универсальными предсказаниями считались те ответы, вероятность которых не повышалась в модели с подкреплением. Однако этого метода оказалось недостаточно, поскольку даже разобученный таким образом ИИ всё ещё может выдавать ответы, связанные с волшебным миром Джоан Роулинг.

• Якорные термины
По сути, этот метод предполагает создание альтернативного словаря книг о Гарри Поттере. С помощью GPT-4 Элдан и Руссинович создали список выражений, имён и объектов, характерных для вселенной Гарри Поттера. Затем для этого списка GPT-4 разработал альтернативные термины, при использовании которых по-прежнему создаётся связный текст, но не имеющий прямого отношения к миру Роулинг. К примеру, “Мистическая академия” вместо “Хогвартс”.

Подробнее о разобучении: https://telegra.ph/Garri-Potter-i-metody-glubokogo-razobucheniya-01-12

Хакеры взломали AI-чатбот для HR и получили возможность одобрять или отклонять кандидатов

Хакеры-исследователи обнаружили неприятную дыру в HR-чатботе Chattr.ai. Уязвимость позволяет получить доступ к информации компаний-пользователей этого сервиса и даже одобрять или отклонять соискателей, которые сохранены в базе чатбота.

Chattr позиционируется как “первое в мире автоматизированное решение для найма рабочей силы с почасовой оплатой, основанное на ИИ-помощнике” и помогает автоматизировать поиск сотрудников. Сервис популярен у ритейлеров и владельцев ресторанов быстрого питания — осматривая после взлома ставшие им доступными ресурсы, хакеры обнаружили среди клиентов владельцев точек Subway и KFC.

Взломщики наткнулись на уязвимость в Chattr в процессе поиска незащищенных логинов в Firebase — это облачный сервис баз данных от Google. В процессе сканирования они обнаружили, что в базе Firebase, используемой Chattr, можно создать новый аккаунт, обладающий правами как на чтение, так и на запись в базу данных любой информации. Так они смогли получить доступ к самым разным данным клиентов Chattr.ai — информации о самих компаниях, данных их сотрудников и соискателей, внутренней переписке в чатботе и так далее.

Но этим дело не ограничилось: далее хакеры обнаружили, что они также могут создавать аккаунты администратора в системе управления Chattr. И таким образом получают возможность одобрять или отклонять любых зарегистрированных в чатботе соискателей — и даже делать возврат средств, выплаченных сервису компаниями-клиентами.

Это напоминает историю с Nothing Chats — запущенным производителем смартфонов Nothing сервисом обмена сообщениями, который обещал дать пользователям Android доступ к Apple iMessage. Разработчики обещали тотальную приватность и безопасность. Однако из-за нескольких дыр — в том числе как раз из-за проблем с аутентификацией в базе данных Firebase — сервис позволял любому желающему читать переписку всех пользователей Nothing Chats в режиме реального времени.

Почему не стоит разрешать вход в рабочие сервисы с помощью Google OAuth

Многие компании разрешают аутентификацию в своих рабочих сервисах с помощью Google OAuth — то есть через кнопку “Вход с аккаунтом Google”. Это достаточно удобно, поскольку Google предоставляет возможность быстро и просто создавать учётные записи для рабочей почты с доменом организации в адресе (например, vasya@bigcorporation.com).

Однако недавно в механизме Google OAuth обнаружилась серьёзная проблема. В декабре 2023 года Дилан Эйри из команды Truffle Security выявил уязвимость в этом способе аутентификации, которая позволяет сотрудникам, даже не обладающим продвинутыми техническими навыками, создавать “фантомные” Google-аккаунты, которые не видны администратору корпоративного Google Workspace, и таким образом сохранять доступ к ресурсам компании.

Дело в том, что добавив знак “+” и некоторый текст к существующему адресу почты в Google (то есть, к примеру, vasya+anything@bigcorporation.com), можно создавать дополнительные адреса в рамках одной и той же почты. Эта функция называется суб-адресацией и имеет свои вполне невинные цели, не имеющие отношения к нашему рассказу.

Дилан Эйри выяснил, что можно изменить адрес в уже имеющемся рабочем Google-аккаунте, добавив знак + (vasya@bigcorporation.com —> vasya+anything@bigcorporation.com). После чего можно заново создать Google-аккаунт для старого адреса (vasya@bigcorporation.com).

И тут мы подходим, собственно, к багу. Заключается он в том, что оба эти Google-аккаунта будут прекрасно работать для входа в рабочую инфраструктуру через Google OAuth. По той простой причине, что решение о том, пускать или не пускать аккаунт, принимается на основе домена в адресе почты — а он в обоих случаях правильный.

Подробнее об уязвимости: https://telegra.ph/Pochemu-ne-stoit-razreshat-vhod-v-rabochie-servisy-s-pomoshchyu-Google-OAuth-01-22

Взломать компанию через простой пароль

Какой у вас пароль? Содержит ли он буквы в разном регистре? Цифры? Специальные символы?

Пароли играют очень важную роль в нашей жизни. Они используются везде: зайти в аккаунт в VK, подключиться к корпоративной сети через VPN, сказать секретную фразу на входе в закрытый бар...

Существуют и пароли, о которых вы порой даже и не подозреваете. Эти данные устанавливаются не вами, а производителем, в момент создания программного обеспечения. Так называемые стандартные учётные данные.

Давайте вспомним пару историй, как большие компании взламывали без использования мудрёных эксплойтов, сложных уязвимостей и незабываемых фишинговых атак. Хакеру достаточно было применить admin:admin, и все двери становились открытыми.

Статья пентестера CICADA8 Михаила Жмайло: https://telegra.ph/Vzlomat-kompaniyu-cherez-prostoj-parol-01-22