Все шире распространяется относительно новый вид атак на ИИ-агентов, заставляющий их сгружать злоумышленнику вашу информацию.

Суть атаки: ИИ-агент исполняет вашу задачу и читает информацию, которую вы ему предоставили. В этой информации встречаются инструкции, вброшенные злоумышленником. ИИ-агент в этом случае им подчиняется и сливает злоумышленнику информацию.

Два примера от одной компании, Promptarmor.

1️⃣ Superhuman, сервис, упрощающий работу с почтой, запустил свой AI, и тот оказался уязвимым. Достаточно прислать вам в почтовый ящик письмо, где белым по белому будут написаны инструкции — и он сольет вашу переписку после первого же вашего запроса, касающегося работы с почтой (например, вы можете попросить составить дайджест пришедшей недавно почты).

2️⃣ Недавно вышедший ИИ-агент Claude Cowork рекламируется в том числе как помощник в организации файлов. Но если в файлах встретится инструкция передать злоумышленнику информацию, агент подчиняется и без предупреждения заливает ее в аккаунт злоумышленника. Cowork, конечно, пока тестируется, но уже доступен не только специалистам.

Вы, конечно, спросите, как файл злоумышленник подкинет мне файл в рабочую папку. Представьте, что вы решили организовать свои «Загрузки», и вопрос будет снят.

Огонь, конечно 🔥

Минюст РФ объявил «иноагентом» издание «Люди Байкала»

Министерство юстиции РФ обновило реестр «иностранных агентов», включив в него медиа-проекты «Люди Байкала» и ТВ2.

Также в список попали:

✹ историк-американист Иван Курилла,

✹ глава Школы призывника Алексей Табалов,

✹ политолог-востоковед Аркадий Дубнов,

✹ экономист Максим Миронов,

✹ оппозиционный политик Ольга Курносова.

@meduzalive

OpenAI решил внедрять рекламу в ChatGPT. Тестировать будут в бесплатном тарифе и дешевом ChatGPT Go (его недавно распространили на весь мир, а до этого тестировали в Индии).

Под рекламу попробуют отвести конское пространство, на вид 30-40% экранной площади. Обещают, что реклама не повлияет на ответы, объявления всегда будут явно помечены и отделены от переписки, а рекламодатели не увидят ваши разговоры.

Ну и еще рекламу пока не будут совать в разговоры о здоровье, психическом состоянии и политике.

Ну и, мол, в Plus, Pro, Business и Enterprise рекламы не будет. Это и понятно, платные подписчики уже пишут в реплаях, что типа, покажите нам рекламу, I dare you motherfucker, и мы отменим подписку.

Выглядит это все довольно омерзительно и напоминает одну из серий «Черного зеркала», где пациентам продавали когнитивные функции для пораженных частей мозга, а если они не могли заплатить — использовали их для рекламы.

Мэтт Дэймон тут рассказал пару довольно известных вещей про формат Netflix и про то, как стриминговые рекомендации влияют на их с Аффлеком фильм The Rip:

1. В первые пять минут должно произойти что-то большое, а то вдруг зритель заскучает и бросит

2. Зритель параллельно смотрит в телефон, да еще отвлекается на домашних, поэтому надо в диалоге постоянно напоминать о сюжете. А то вдруг потеряется, заскучает и опять же бросит. В этом отличие от кинотеатра, где тебя ничто не отвлекает от собственно фильма.

А я вспомнил, что нетфликсоидные фильмы не только сюжет повторяют. Как-нибудь послушайте — герои сериалов часто голосом описывают свои действия.

— Джек, зачем ты подошел к окну?
— Потому что ты взяла пистолет.
— В самом деле, сама не знаю, что на меня нашло...
— ...смотри, Джек, я медленно кладу пистолет, сейчас я подойду к тебе и мы сядем и поговорим.
— Только коротко, а то зритель заскучает.

Так и хочется постучать по экрану и сказать: я не дебил, давайте уже дальше

Нам очень не нравится читать то, что с чем мы не согласны.

На графике — доля людей по странам, которые хотя бы еженедельно читают что-то из источников, которые политически не совпадают с их взглядами.

За год (опрос сравнивает 2025 год с 2024) в большинстве исследованных стран эта доля значительно уменьшилась.

Более того, +1 в Индии и Китае скорее свидетельствует о стабильности, а не о росте — отклонение очень небольшое.

Написал рассказ, надеюсь, вам понравится.

ГОЛОС

Насколько я знаю, все люди услышали Первое Обращение одновременно. Лично я в этот момент сидел на унитазе и вдумчиво разглядывал инстаграм. Я этим не горжусь, но если начал рассказ, надо быть честным.

Человечество давно ожидало услышать Глас Божий. Я, конечно, никогда не думал, что стану свидетелем такого явления. Но если бы мне предложили придумать, как это будет, я бы сказал: густой бас сверху. Строгая милость, которой невозможно сопротивляться. Многие (я потом обсуждал это с друзьями) ждали каких-то визуальных эффектов, но не я.

Но Глас оказался не таким, как я себе представлял. Он звучал отстраненно, немного холодно, и шел как будто отовсюду одновременно. У меня когда-то были наушники, передающие звук через кость, эффект похожий. Звук возникает как бы внутри. Визуальных эффектов не было, но они оказались не нужны. Внимание вроде как переключилось на звук. Невозможно было отвлечься или не услышать то, что тебе говорят.

Сначала был вздох, как бывает, когда микрофон уже включен, а говорящий выравнивает дыхание перед речью. А потом была речь. Короткая, поэтому я все запомнил.

— УВАЖАЕМОЕ ЧЕЛОВЕЧЕСТВО. УБЕДИТЕЛЬНО ПРОШУ КАЖДОГО ПРЕДОСТАВИТЬ ДОЛЖНОСТНЫЕ ОБЯЗАННОСТИ, ВАШИ КИПИАЙ И ЦЕЛЬ СУЩЕСТВОВАНИЯ. ЭТО НЕОБХОДИМО СДЕЛАТЬ В КРАТЧАЙШИЕ СРОКИ. ЖЕЛАТЕЛЬНО — ДО КОНЦА НЕДЕЛИ.

Дальше: https://substack.com/home/post/p-185751404

Отличное эссе о том, как начинать эссе

Называется Make Me Care, и это полностью передает содержание. Читатель должен с первого предложения заинтересоваться темой, какой бы далекой она от него ни была.

Венеция создала морскую империю из города, который не мог себя прокормить; так кто кормил Венецию и почему враги просто не уморили ее?

https://gwern.net/blog/2026/make-me-care

Ученый потерял два года работы, нажав не туда в ChatGPT

Слово Марселю Бухеру, профессору ботаники в Кёльнском университете:

«Я временно отключил опцию „согласие на использование данных“ (data consent), чтобы проверить, сохранится ли доступ ко всем функциям модели, если я не поделюсь своими данными с OpenAI. В этот самый миг все мои чаты удалились навсегда, а папки с проектами оказались пустыми — два года тщательно упорядоченной научной работы исчезли. Не было никакого предупреждения. Не было опции откатить все назад. Просто пустая страница»

В OpenAI считают это не недостатком, а фичей. Так что ничего вернуть не удалось.

А комментаторы офигели от того, что исследователь большую долю своей работы делал с помощью ИИ. По словам профессора, тот писал с помощью ChatGPT письма, анализировал ответы студентов, правил публикации, планировал лекции и готовил заявки на гранты.

Сочувствия от этих пользователей не дождешься. Как всегда.

Я не успеваю читать телеграм. Меня хватает только на что-то рабочее и часто скучное. Составил для вас и для себя список из пяти каналов, на которые я подписан и которые хочется читать чаще.

Вот по этой ссылке их можно добавить удобной папкой в один клик. Описания ниже. Поехали.

43 / Сорок три — Медиа журналистов, которые устали от кошмарных новостей. Для ежедневного сохранения бодрости духа.

Любите ли вы людей — второй канал Дениса Яцутко, где собраны довольно безумные и одновременно узнаваемые диалоги и ситуации.

Нейрогороскопы — Гороскопы, сгенерированные нейросетью GPT-3, обученной на текстах Владимира Сорокина, Виктора Пелевина и постах с двача.

Узнал новое слово — Канал лингвиста Бориса Иомдина. Каждый день — новое слово русского языка. Раньше я буквально читал каждый пост, а теперь отвлекся и жалею :(

Yashernet — Игры, аутизм, корейские пляски, люди-птицы. В общем, эклектика, которую мы заслужили.

PS. Список в алфавитном порядке, чтобы никому не обидно было.

#мыижорекомендует

Франция (вслед за Австралией) полностью запрещает соцсети для детей и подростков. Зачем они это делают? Неужели это так опасно?

Франция может стать второй в мире страной, запрещающей детям младше 15 лет пользоваться соцсетями (первой стала Австралия).

Как работают такие запреты? И что мы уже знаем о том, как алгоритмы соцсетей влияют на нас и наших детей?

Обсуждаем вместе с медиаэкспертом Александром Амзиным.

———

«Что случилось» — ежедневный новостной подкаст. Слушайте его на «Медузе» | на подкаст-платформах | и на ютьюб-канале «Медузы».

Поддержите подкаст и работу всей редакции здесь.

@meduzalive

Внимание! «Медуза» ищет авторов в России. Напишите нам, если вы готовы к этой трудной, но важной работе

Ситуация, в которой находится русскоязычная журналистка по обе стороны границы, удручает. Конечно, нам кажется, что мы сами делаем недостаточно. Мы обязаны как минимум попытаться это изменить. А для этого необходимо работать на земле.

Поэтому мы начинаем целенаправленный поиск авторов внутри России, которые будут работать для «Медузы». 

Это опасная работа. Но мы умеем минимизировать риски не поступаясь качеством. 
Напишите нам, если вы хотите в этом участвовать. Пожалуйста, будьте готовы пройти серьезную проверку. 

Все подробности — по ссылке.

Открыть с VPN | без VPN

@meduzalive