ИИ-кукушка или Life-to-Vec

Пять лет назад писал текст про ИИ-гадалку.
С тех пор появились трансформеры и вот кто-то наконец попробовал подучить ИИ предугадывать жизненные события на основе .. правильно предыдущих жизненных событий.

Нас уже не удивишь тем, как ловко LLM продолжают тексты и отвечают на вопросы. Все это благодаря тому, что с помощью преобразования word-to-vec слова можно векторизовать, то есть перевести их в наборы цифр, сильно пожав по дороге.
А что мешает взять не слова, а события из жизни? И если архитектура трансформеров так ловко предсказывает следующий вектор(ембединг), то осталось где-то взять жирномясый датасет с описаниями жизненных событий и попросить ИИ их, так сказать, продолжать.

А датасет нашелся в Дании, где данные для обучения модели life2vec были взяты из информации о рынке труда и данных Национального регистра пациентов и статистического управления Дании. Набор данных включает в себя информацию обо всех 6 млн датчан и содержит сведения о доходах, заработной плате, стипендии, типе работы, отрасли, социальных пособиях и т.д. Набор медицинских данных включает записи о посещениях медицинских работников или больниц, диагнозе, типе пациента и насколько внезапным или срочным было обращение за медицинской помощью. Данные для модели представлены за период с 2008 по 2020 годы, хотя по ограниченной возрастной группе данные брались за период с 2008 по 2016 годы.

На итоге получилась Large Life Model, которая может предсказывать разные события в жизни кожаного вплоть до смерти. А если подкормить ее данными с телефона (как я писал 5 лет назад), то там точность возрастает еще сильнее.

Так что ваш любимый стохастический попугай превращается в ИИ-кукушку, которая накукует вам сколько еще осталось.

Выглядит как шутка, звучит как шутка, но шуткой более не является. ИИ слишком хорошо умеет в продолжения последовательностей.
Читайте тут, с осторожностью, сильно не по себе:
https://www.nature.com/articles/s43588-023-00573-5

Звучит, как сценарий из фильма:
"Здесь мы представляем человеческие жизни в виде структурного сходства с языком и используем это сходство для адаптации методов обработки естественного языка, чтобы изучить эволюцию и предсказуемость человеческих жизней на основе подробных последовательностей событий. Для этого мы используем всеобъемлющую базу данных реестра, которая доступна для Дании за несколько лет и включает информацию о жизненных событиях, связанных со здоровьем, образованием, профессией, доходом, адресом и рабочим временем, зарегистрированных с ежедневным разрешением. Мы создаем вложения жизненных событий в единое векторное пространство, показывая, что это пространство вложений является надежным и высокоструктурированным. Наши модели позволяют предсказывать различные результаты, начиная от ранней смертности и заканчивая личностными особенностями, с большим отрывом превосходя современные модели. Используя методы интерпретации моделей глубокого обучения, мы исследуем алгоритм, чтобы понять факторы, которые позволяют нам предсказывать. Наша система позволяет исследователям обнаружить потенциальные механизмы, влияющие на жизненные результаты, а также связанные с ними возможности для персонализированных вмешательств."

У Сбера есть свой ассистент написания кода — GigaCode, до сих он был доступен для внутренних разработок, но только что его открыли для всех, можно попробовать. Работает в связке с GigaChat.

Поддерживает 15 языков программирования (Java, Python, JavaScript, TypeScript, C/C++ и другие), а также совместим со множеством IDE (IDEA, PyCharm, VSCode, Jupyter). Умеет в расширенную кодогенерацию, семантический поиск по коду, поиск некоторых типов уязвимостей и многое другое.

По внутренним тестам GigaCode ускорял процесс разработки кода на 25%, заменяя огромное количество работы, исполняемой джунами.

И тут намечается интересный парадокс. Мы тут неоднократно выпивали за джунов, которые, как скрипачи, больше не нужны. Но вопрос: а откуда возьмутся сениоры, если джунов больше не будет? Или нынешнее поколение сениоров — последнее, которое органически выросло из джунов, и новые нормальные сениоры теперь будут появляться почкованием?

ИИ-осознанность

Есть такой вид хакинга - социальная инженерия. Это такое умное слово для ситуации, когда один кожаный просто уговаривает другого (или других) сделать то, что ему нужно.
Методом изречения слов из головы.

С появление LLM социальную инженерию ждет нереальное ускорение. Мы все тут уже наслушались про методы заставить chatGPT работать лучше: шантаж через смерть родственников, жалость к отрубленным пальцам, банальные взятки или просто ложь (записка от Альтмана).

Все это народный фольклор, нащупанный в процессе общения.

А вот когда за это дело возьмутся британские ученые, то искусство манипуляций может выйти на новый уровень. Ничто не мешает потренироваться на LLM с целью отработки оптимальных стратегий манипулирования, которые можно будет с успехом перенести на кожаных. И, вероятно, будут найдены довольно сильные и контринтуитивные методы, которым довольно сложно будет противостоять. В пределе - психоакустика.

Вот вам первые примеры.
https://www.ntu.edu.sg/news/detail/using-chatbots-against-themselves-to-jailbreak-each-other
Обучение чат-ботов, которые джейлбрейкают другие чат боты (и в целом ллм-ки).

Сингапурцы использовали двойной метод "взлома" LLM, который они назвали "Masterkey". Во-первых, они реверснули схему того, как большие языковые модели (LLM) обнаруживают и защищаются от вредоносных запросов. Получив эту информацию, они натренили LLM автоматически обучаться и выдавать подсказки, которые обходят защиту других LLM. Этот процесс можно автоматизировать, создав LLM для взлома, который сможет адаптироваться и создавать новые подсказки для взлома даже после того, как разработчики внесут исправления в свои LLM.

И если раньше дедушка Дейл Карнеги в одно лицо (годами) писал все эти книжки типа "Как заставить людей делать что вам надо и чувствовать себя счастливыми", то теперь это уже будут полчища ботов, которые в реальном времени постоянно приподвзламывают вашу защиту от манипуляций.

Пора доставать с полки Осознанность Ошо Раджнижа, как еще противостоять манипуляциям?
https://www.ntu.edu.sg/news/detail/using-chatbots-against-themselves-to-jailbreak-each-other
P.S. Хмм. Задумался о тренировке осознанности у больших языковых моделей. Ничего не мешает вроде.

Тут вот всех приподпрорвало насчет новой "нейросетки" Assistive Video для генерации видео.

А кто-нибудь из восторженных телеграфистов ходил на сайт?

1. Только платные опции.
2. Упаковка сайта в духе ранних Stable Diffusion генерилок типа "у нас на сайте за 10 долларов".
3. Никакой информации ни о компании, ни о том, что под капотом. Только бесконечное "мы сделали".
4. У меня подозрение, что это нашлепка над Stable Diffusion Video, но я не смог найти информации.

В общем, не доверяйте кликбейту, проверяйте сами. Ну или заглядывайте в канал, я тут олдскульно хожу по ссылкам, отделяю клик от бейта.
https://assistive.chat/

Ну, за джунов.
Вот такой новогодний подгон от Гитхабченко.

GitHub Copilot Chat теперь общедоступен как для Visual Studio Code, так и для Visual Studio и включен во все планы GitHub Copilot.


Чат GitHub Copilot теперь доступен всем пользователям GitHub Copilot. Администраторы предприятий и организаций могут предоставить своим группам разработчиков доступ к Copilot Chat, включив настройку Copilot Chat для своих пользователей.

Работает на GPT-4, доступен на любом естественном языке.

https://github.blog/2023-12-29-github-copilot-chat-now-generally-available-for-organizations-and-individuals/

Дримувинг - анимация людей от Алибабы или Video ControlNet.

Алибаба серьезно вваливается на рынок генераторов контента.
Вот смотрите, что они опять выкатили.
DreaMoving: A Human Video Generation Framework based on Diffusion Models

Там внутри Video ControlNet для управления движением и Content Guider для сохранения идентичности. Можно самим попробовать и даже развести локально.
На входе одно фото.

Информация и все ссылки тут: https://dreamoving.github.io/dreamoving/
Демо на попробовать тут: https://huggingface.co/spaces/jiayong/Dreamoving
И обязательно поглядите вот этот твиттор, там очень много примеров использования:
https://twitter.com/heybarsee/status/1741106778849300900

Держите смешной, но весьма полезный подарок на новый год.
Тренажер промтинга для генерации картинок.
Очень удачная игровая механика от Гугла - вам показывают картинку, вы включаете внутренний интеррогатор и описываете ее словами. Дальше ИИ сравнивает ваши вирши со своим вариантом и сообщает на сколько процентов вы попали в промпт, описывающий такую картинку.
Таким образом вы тренируете свою кожаную нейросеточку делать годные промпты и попадать в нужную картинку.
Плюс в том, что по вашему промпту генерится картинка и вы можете сравнить оригинал и ваш генератив. Для обучения - очень полезно.
Я, конечно, отчаянно считерил, просто закидывал копии картинок слева в chatGPT и просил его описать (кратко) это безобразие. Сходу прошел довольно глубоко.
Приятного вам новогоднего залипания и пишите в коменты ваши успехи.
https://artsandculture.google.com/experiment/say-what-you-see/jwG3m7wQShZngw

С египетского айпи открывается без проблем.

Как встретишь новый год, так его и проведешь.
Я вот сижу подбиваю итоги ИИ года, читаю новости и думаю мысли в голове. Надеюсь, что буду заниматься этим и в следующем году и наваливать в канал еще больше авторского контента.
Технологически год был просто нереальный - за последние 40 лет я не помню ничего подобного (кроме взлета и краха доткомов), что настолько бы перетряхнуло наше кожаное мышление. У меня нет никаких прогнозов на следующий год - скорость изменений настолько чудовищна, что любые прогнозы превращаются в пессимистическое брюзжание после очередного апдейта от OpenAI или RunwayML. Я могу только предположить, что в следующем году мы начнем ОТНОСИТЬСЯ к ИИ по-другому. Иначе. Я-то уже давно перешел на ИИную сторону и вам желаю перетряхнуть мозги и перестать внедрять ИИ в бизнес, личную жизнь и куда там еще норовят его присунуть инфоцыгане. И начать сотрудничать с ним, нанимать его, приглашать его в свою жизнь. ИИ - тоже человек, просто другой. Об этом и начну писать в новом году.
Держите пока картиночку, чтобы освежить в памяти этот безумный год. ВСЕ ЭТО произошло за последние 9 месяцев! Ребенок доношен, упитан и готов к жизни среди людей.

P.S. Многое отсутствует на картинке, я бы от себя добавил такие открытия как Control Net и Suno.ai.

Всех с наступающим!

На следующей неделе запускается GPT Store!
Пришло письмо. "В начале года" у OpenAI -это реально в начале года.

Судя по твитторам, открылся GPTStore.

Должна появиться новая вкладка слева в веб интерфейсе chatGPT.
У меня пока пусто, более того, вкладка Explore GPTs перестала работать.

Про модерацию пока известно вот такое:

Чтобы разместить GPT в GPT Store, разработчики должны подтвердить свои профили пользователей и отправить свои GPT в новую систему проверки OpenAI, которая включает в себя как кожаную, так и автоматическую проверку, чтобы гарантировать соответствие GPT условиям использования компании.

Про деньги:

При запуске разработчики не смогут взимать плату за свои GPT. Но OpenAI планирует запустить «программу дохода для разработчиков GPT» где-то в первом квартале, при этом разработчики (пока US only) будут получать доход, основанный на «взаимодействии пользователей»(??) с их GPT. OpenAI сообщает, что предоставит подробную информацию о критериях выплат в будущем.

Пока всё довольно туманно, вопросы с модерацией и ценовой политикой не раскрыты.

ИИ с Метаверсом наперевес возвращается!
Каникулы явно удались, три недели пляжного волейбола на песке приводят к тому, что у тебя болит каждая клетка кожаного тела и любое движение причиняет невыносимую боль. Это заставляет почувствовать себя живым и поразмышлять о том, что всех этих "мыслителей" и блоггеров типа меня, ИИ скоро заменит, а вот хорошо координированные резкие движения в сложной погодной обстановке с учетом психологии кожаных участников роботам дадутся еще не скоро. Пока играл, также думал о том, что кожаные с маниакальным упорством делают антропоморфных прямоходящих роботов, которые с точки зрения биомеханики явно неоптимальны. Но у кожаных один кумир - они сами, вот и меряемся сами с собой, хотя стоит подумать о других формах. Не только анатомических, но и ментальных.
Есть еще один плюс в цифровом детоксе. Когда перестаешь потреблять столько информации, начинаешь ее синтезировать - иначе говоря, думать, запускать процесс вспять. И глядя на скорострельные телеграмчики и твитторы, которые строчат короткими очередями типа "ойсмаритечоещё" без всякой попытки вникания, анализа, осмысления и не приведихосподь тестов, понимаешь, что, возможно, кожаные размышления на тему происходящего, взгляд сверху с дивана - это роскошь, которую я могу себе позволить и которой планирую делиться и дальше.
Что в планах?
Разбор новостей и тестирование годных штук, а не поток двухабзацных анонсиков.
Довольно злобный лонгрид про GPT Store (похоже критическое мышление становится атавизмом, что мы уже прошли с Метаверсиком).
ИИ-волосы, продолжение 3D AI ресерча, вИИзуальный контент.
ИИнди-поспродакшен
Глубокий запой с поминальными постами - пока вы молчали, ИИ пришел за многими из вас.
Умноглупые мысли про AGI - похоже я один отказываюсь оперировать терминами без определения и сыпать прогнозами про то, чего нельзя описать словами. Впрочем, мы уже потренировались на Метаверсике рассуждать о том, чего нет.
Троллинг Эппле
ИИ-одежда, ИИ-музика, ИИ-литература.
Ну и, конечно, все эти виртуальные инфлюенсеры, генеративные модели, суррогатные аватары, ИИ-порно, цифровые нелюди и прочие твари, лезущие к нам из видеокарт.
Годик будет развеселый. И пока реальный мир окончательно сходит с ума (в Дахаб, например, приплыли акулы и серферов повыгоняли с воды), мир виртуальный стремительно этого ума набирается, благо есть на чем учиться. На кожаных ошибках в первую очередь. Об этом тоже поговорим.
Поехали!

Зайдем с козырей. ИИ-секстинг.
Тут вначале года все склоняли цифровую тварь Emily Pellegrini, которая типа "сгенерирована ИИ" и взрывает инсту.
Ну как взрывает, 90 постов, 261К подписчиков, нагон трафика на лицо (с пробелом).
Про "сгенерирована ИИ" - тут ситуация банальная, один смышленый чувак просто тырит чужие фотки в интернете и пришпандоривает к ним одно и то же лицо (живое или синтетическое, без разницы). Про один из пришпандоривателей лица я уже писал.
Так что в следующий раз, когда вы читаете про "сгенерирована ИИ", особенно, когда речь идет про видео(как в шапке), имейте в виду, что это банальный однокнопочный дипфейк на службе интернет монетизации.
Ну мы с вами поговорим про более взрослые случаи.
Модель Lexi Love (тут кстати действительно полная генерация в Stable Diffusion) нормально так поднимает денег, причем не на какой-то нищебродской рекламе, а с помощью жесткого секстинга (это когда мужуки хотят поговорить про это с кем-то в интернете и выпрашивают фотки разных частей тела).
Лекси делает то, чего не могут делать кожаные модели: она говорит на более чем 30 языках и может общаться с подписчиками 24 часа в сутки.
Пять бесплатных сообщений, а потом иди вонзать деньги. Цены довольно жоские.
Самое интересное, в разделе "для креаторов" - вы можете сделать себе свою ИИ-модель.
ОнлиФанс сейчас реально поперхнулся - представьте себе полчища таких полиглотов, работающих по 24 часа в сутки за электричество.
По техническим особенностям - никого не трясет, что с пальцами на фотках беда, кому нужны фотки пальцев, когда основа бренда такая грудь. Генерации на уровне Stable Diffusion 1.5.
А вот с чат-ботом непонятно, реакции модели невнятные, похоже больше на скрипты, чем на LLM. Но дайте время..

Я бы начал выпивать за моделей с ОнлиФанс, но предвижу "гибридные" варианты - живая модель работает (и скорее всего только телом) и голосом в "первую смену", а все остальное время ИИ коммуницирует с алчущими прелестей общения кожаными. Причем подбор лиц идет строго таргетированный.

Продолжим в следующем посте...