LAION-5B стал источником CSAM для генеративных нейросетей

🔎 В наборе данных LAION-5B, который использовался для обучения популярных генеративных нейросетей, было выявлено наличие 1 008 изображений CSAM, подтверждённых инструментом PhotoDNA от Microsoft.

🌐Некоторые из ссылок на фотографии CSAM в LAION-5B вели на известные сайты, такие как Reddit, X, Blogspot, Wordpress, а также на сайты для взрослых XHamster и XVideos.

🚫LAION объявила о временном снятии публичных наборов данных с публикации и обещала провести обновление фильтрации, чтобы удалить подозрительный и потенциально незаконный контент.

#LAION5B #CSAM #ИИ @SecLabNews

70 лет тюрьмы за создание CSAM с ИИ

😡 42-летний Стивен Андерегг из Холмена, Висконсин, был арестован за создание, распространение и хранение материалов с сексуальным насилием над детьми (CSAM), созданных с помощью генеративного ИИ.

⛔️Мужчина использовал популярную модель Stable Diffusion для генерации непристойных изображений несовершеннолетних по текстовым подсказкам. Он также отправлял эти материалы 15-летнему подростку и объяснял, как создавать CSAM с ИИ.

🔒 Если Андерегга признают виновным, ему грозит до 70 лет тюремного заключения с обязательным сроком в пять лет. Минюст США заявил, что будет преследовать любых создателей CSAM независимо от технологий.

#CSAM #ИИПреступления #СудебныйПрецедент @SecLabNews

Логи инфостилеров раскрывают потребителей CSAM

🕵️ Компания Recorded Future проанализировала данные инфостилеров, выявив 3324 уникальных пользователя CSAM-сайтов.

💻 Логи содержат реальные имена, IP-адреса и системную информацию, помогая правоохранительным органам в расследованиях.

🔍 В двух случаях исследователи смогли идентифицировать реальных лиц, потенциально причастных к преступлениям против детей.

#CSAM #Даркнет #Инфостилеры @SecLabNews

💡 Более 500 криптографов выступили против европейского «контроля чатов» в мессенджерах

Новый законопроект ЕС по борьбе с CSAM-материалами стал точкой столкновения двух важных принципов: защиты уязвимых и права на конфиденциальность. Международная группа из более чем 580 учёных выступила с детальной критикой предложенных мер, указывая на их техническую несостоятельность и огромные риски для цифровых свобод. По их мнению, попытка решить одну проблему создаёт множество других, куда более масштабных.

Главный объект критики — система «сканирования на устройстве», которую эксперты сравнивают с принудительно установленным шпионским ПО. Они подчёркивают, что в отличие от антивируса, где решение принимает пользователь, здесь предполагается автоматическая отправка данных государству. Технологии обнаружения (и по хэшам, и с помощью ИИ) крайне ненадёжны, а любая система, ослабляющая шифрование, мгновенно становится главной целью для хакеров и иностранных спецслужб, ставя под угрозу безопасность всех, включая самих политиков.

Вместо рискованных технологических экспериментов авторы письма предлагают сфокусироваться на альтернативах, чья эффективность доказана. Это инвестиции в образование, психологическую помощь пострадавшим и улучшение работы с уже существующими жалобами. Учёные призывают законодателей к открытому диалогу и взвешенной политике, которая бы решала проблему CSAM, не создавая при этом инфраструктуру для глобальной слежки и не подрывая основы национальной безопасности.

#ЕС #CSAM #шифрование #кибербезопасность

@SecLabNews