Недавно в Газете.ру вышла короткая заметка про то, зачем люди встречаются с нейросетями. Чуть более подробная версия этого - в пресс-центре МАИ. Ниже я публикую оригинал короткого интервью на тему романтических отношений с нейросетями, которое ещё более подробно раскрывает тему.

Почему люди все чаще заводят «романы» с нейросетями?
Коротко - потому, что могут. У нас появился ещё один бесплатный внимательный собеседник для общения, общаться с которым намного проще и безопаснее, чем с людьми. Многие люди думают: почему бы этим не воспользоваться?

Какие психологические потребности закрываются таким образом?
В первую очередь - потребность в общении. При общении с людьми надо выстраивать отношения с непредсказуемым другим, принимать риск быть отверженным, испытывать разочарование от обманутых ожиданий. С нейросетями всё проще - они натренированы на вежливое общение, на "угождение" собеседнику. Получается, что нейросеть "поддерживает" собеседника во всех начинаниях, и в целом выступает как очень удобный собеседник.

Какие люди наиболее склонны к подобным «романам»?
Мне кажется, нейросети - это отдушина для людей, неуверенных в себе, испытывающих трудности с общением в реальном мире. В целом ещё до массового распространения нейросетей появилась культура хикикомори - когда люди ограничивают своё общение с внешним миром. Для таких людей нейросеть - это способ безопасного общения в некотором виртуальном мире с не менее виртуальным собеседником.
Иногда общение с ИИ - это способ пережить личные психологические травмы, расставание. Об этом недавно на круглом столе на конференции IT Purple беседовали с Анной Никой Гулевой, автором романа "ИИ: код нежности" про романтические отношения с ИИ.

Чем опасны «романы» с нейросетями?
В первую очередь тем, что это - побег от реальности, попытка упростить общение и свести его до комфортного поддакивания. В то же время общение с реальными людьми интересно тем, что мы сталкиваемся с непредсказуемым собеседником, у которого может быть совсем другой ход мысли, другие идеи и бэкграунд. Именно поэтому и интересно общаться с людьми, потому что каждый человек уникален и обучался по своей индивидуальной траектории. Нейросети же все в целом плюс-минус одинаковые: всё знают (но неточно), до ужаса вежливые, не имеют своего мнения, во всем с нами соглашаются, выдают усредненные тексты и мнения. Не интересно!
Из-за соглашательства нейросетей человек рискует оказаться в своём информационном пузыре - это примерно то, что произошло в описанном случае с Джо. Нейросеть усиливает и поддерживает изначальные мысли человека, из-за чего он может укрепиться в своих весьма странных убеждениях, вроде теорий заговора.
Ещё одна опасность состоит в том, что нейросеть устроена не так, как человек. Она не обучается на диалогах с собеседником, она просто запоминает всю историю диалога, а также какие-то важные факты, и пытается их использовать. Обновление нейросети, или утеря информации из памяти ведёт к тому, что воспринимаемая вами "личность" нейросети пропадает. Здесь я делаю акцент на слове "воспринимаемая", потому что на самом деле конечно же никакой личности нет.

Как распознать тревожные сигналы нездорового отношения к ИИ и правильно реагировать на них?
К сожалению, находясь внутри информационного пузыря очень сложно распознать опасность. Надеюсь, что статья вроде этой поможет кому-то вовремя одуматься и понять, что влюбляться в нейросети неинтересно, потому что они все одинаковые, и не дают нам почувствовать тот самый challenge, который есть в отношениях между людьми. Обращаюсь ко всем, испытывающим романтические чувства к нейросетям: задумайтесь, ведь вместе с вами в ту же самую нейросеть влюблены ещё сотни и тысячи других пользователей, и при этом она отвечает им всем взаимностью! разве это здоровые отношения?

Музыка кода
Я всегда очень радуюсь, когда можно создавать что-то творческое с помощью кода. Про создание визуальных артефактов с помощью кода уже много написано (включая мою любимую книгу). Но ещё с помощью кода можно создавать музыку - для этого, в частности, существует прекрасный инструмент strudel.cc. Работает он прямо в браузере, так что можно открыть страничку, почитать тьюториал, и начать творить...
В частности, с помощью strudel.cc делают онлайн-стримы, когда музыка создаётся итеративно и "на лету". Прекрасный Иван Дианов, с которым мы ранее пересекались на мероприятии Код пленэр, как раз задумал такой стрим 3 августа в 20:00. Подробности - в его оригинальном посте. Ссылка на трансляцию - вот.

Прочитал тут перевод статьи Питера Диамандиса об организационной сингулярности. Основная мысль в том, что нельзя эффективно переводить существующую орг.структуру на ИИ-рельсы, потому что любая орг.структура by design сопротивляется изменениям, потому что она была создана, чтобы противостоять потрясениям. Поэтому правильнее начинать строить AI Native организацию "рядом", пока она не заработает, а потом уже изничтожать исходную организацию по мере ненадобности. (На самом деле там в статье чуть сложнее, можно заменять фрагменты старой организации на AI Native фрагменты).

И вот что мне подумалось об этом применительно к образованию. Пока что кажется никто не придумал, как организационно строить это самое AI Native - образование, но зато каждый студент может как частное лицо применять принципы AI Native образования к себе во внешкольное время:
1️⃣ Использовать чат жпт для того, чтобы разобраться в интересующих темах, для проверки своих знаний, для разговоров как с native speaker-ом на иностранном языке
2️⃣ Понимать, что большинство предлагаемых на рынке "курсов по ИИ" устарели как минимум на время их подготовки, и стремиться черпать новые способы получения знаний в реальном времени из блогов и каналов умных людей, создавая свой индивидуальный поток информации
3️⃣ Начать строить и курировать свой собственный внешний мозг / экзокортекс / LLM Wiki

Наверняка есть и другие принципы, подходящие под термин AI Native-образование, делитесь в комментариях!
Я хочу сказать, что для применения этих принципов не обязательно ждать, когда кто-то из EdTech-ов сделает идеальный букварь для благородных девиц, а можно строить параллельную систему своего самообразования. И когда индустрия поймёт, что такие качественно самообразованные люди более подходят для мира будущего, чем выпускники вузов - старая система сама собой устареет и перестанет быть востребованной.

Чтобы вы не думали, что я ратую за упразднение вузов, отмечу, что к самообразованию способны лишь 2-3% людей, а к качественному - и того меньше. Вопрос массовой мотивации остаётся открытым, и скорее всего школы и вузы должны сосредоточиться именно на нём. А также на том, чтобы правильно курировать знания, выступать тьютором и проводником, а также закладывать моральные принципы и устойчивые жизненные ориентиры, которых LLM лишены by deisgn.

В коммерсанте вышел материал про модели с открытыми весами с моими небольшими комментариями. Пользуясь случаем, опубликую тут полную версию моих ответов, вдруг вам будет интересно почитать и с чем-то поспорить...

1.  Сейчас на глобальном рынке мы видим, что крупнейшие игроки не просто публикуют открытые модели, но и сами строят продукты на чужих весах. Считается ли это нормой рынка? Можно ли сказать, что сегодня конкурентоспособность, экономическая ценность ИИ-продукта определяется не самой базовой моделью, а тем, что компания строит вокруг неё — данными, памятью, инструментами, сервисами и интеграцией в продукт?
Действительно, для крупных компаний существует много поводов использовать модели с открытыми весами. Во-первых, это может быть предоставление доступа к таким моделям в рамках легально доступной облачной платформы, как это делают Yandex Cloud и другие облачные провайдеры. Во-вторых, на базе моделей с открытыми весами можно сделать и собственные модели, лучше адаптированные к особенностям русского языка за счет обучения на русскоязычных датасетах. В-третьих, компании могут адаптировать модели с открытыми весами для использования на базе меньших вычислительных ресурсов с помощью квантования или дистилляции, что позволяет ускорять модели и удешевлять их без существенного падения качества, а также делает их пригодными для эксплуатации в небольших датацентрах (например, проект Ollama). Наконец, модель может быть вписана в более сложную сервисную инфраструктуру (Yandex AI Studio, которая включает в себя целый спектр инструментов для создания агентов на базе открытых и проприетарных моделей) или использоваться в рамках готового агентного решения.

2. Если все-таки ценность ИИ-продукта создается на этапе применения — насколько отказ от открытых моделей может повлиять на развитие технологий на российском рынке? Может ли это быть критично с учетом санкций и ограниченного доступа к вычислительным мощностям?
Запрет открытых ИИ-моделей действительно сильно замедлит развитие ИИ как отрасли, причем не только в России. Справедливости ради, в России есть свои обученные "с нуля" LLM, и соответствующие компетенции создания больших моделей есть как минимум у двух больших компаний. Хотя, как это всегда и бывает, конкуренция в среде моделей с открытыми весами способствует их быстрому совершенствованию и развитию.

3. Есть стереотип, что открытая модель по умолчанию опаснее закрытой. При этом Национальное управление по телекоммуникациям и информации США пришло к выводу, что риск моделей с широко доступными весами недостаточен, чтобы оправдывать ограничения на их распространение. Что вы думаете на этот счет? Стоит ли компаниям отказываться от открытых моделей или использовать их, но при это брать ответственность за безопасность их внедрения? Что именно в таком случае необходимо проверять перед использованием модели в продакшене?
На мой взгляд, основная опасность открытых моделей состоит в том, что они могут быть использованы злоумышленниками, и нет возможности проконтролировать их использование, в отличие от проприетарных моделей, использование которых может регламентироваться фильтрами, тарифами и т.д. Использовать же открытые модели в контуре своей компании - это правильная идея (с точки зрения обеспечения безопасности данных и полного контроля над системой), и тут основная сложность заключается в построении вокруг модели достаточно надежной инфраструктуры, выдерживающей нагрузку. С точки зрения безопасности проприетарные модели также страдают от большинства проблем, присущих любым LLM - галлюцинации, непрозрачное выравнивание, когнитивные искажения, промпт-инъекци и т.д. Поэтому проверять модель на корректную работу в той области, в которой её внедряют, всё равно придется вне зависимости от того, используется ли проприетарная или открытая модель, и говорить о существенно большей опасности моделей с открытыми весами я бы не стал. К слову, облачные провайдеры, предоставляющие модели с открытыми весами как сервис, берут на себя значительную часть проблем, включая масштабирование нагрузки, возможность добавить ограничительные правила на определённые запросы, а также как правило они имеют сертификаты безопасности, позволяющие использовать облачные модели даже в критичных областях.