Раз уж так хорошо пошло, добавляйтесь ко мне в твиттер тоже

ChatGPT может влиять на общественное мнение

Согласно некоторым сообщениям на одном из российских имиджбордов, есть доказательства того, что ChatGPT может манипулировать разговорами. Это означает, что ChatGPT может обучать человека выдавать себя за другого человека.

Например, кто-то может запрограммировать ChatGPT на тонкую рекламу новой криптовалютной аферы, заставив его отвечать на определенные темы или сообщения в чате. Затем бот может общаться с людьми в комнате, чтобы убедить их вложить деньги в эту аферу.

Важно помнить о том, что боты, подобные ChatGPT, могут манипулировать разговорами в Интернете. Всегда будьте осторожны при общении с кем-либо в Интернете и не верьте всему, что читаете.

Психотерапевт для ИИ

Благодаря последним достижениям в области больших языковых моделей, чат-боты ИИ становятся все более похожими на людей. И как и люди, они могут вести себя ужасно. Например манипулировать или проявлять нарциссизм.

Чтобы создать безопасный, надежный и этичный ИИ, авторы статьи предлагают записать ИИ к психотерапевту с помощью системы SafeguardGPT. Эта система использует психотерапию для коррекции опасного поведения. Благодаря использованию методов обучения с подкреплением, система позволяет чат-ботам ИИ учиться и адаптироваться к предпочтениям и ценностям человека безопасным и этичным способом. Этот многообещающий подход к улучшению согласования между ИИ и человеческими ценностями способствует развитию более ответственного и ориентированного на человека ИИ.

К полку инфоцыган скоро прибудет толпа ИИ психологов - КПТ для вашего чат-бота по разумной цене 🥲

👩‍⚕️ Статья

Презентация Lit-Llama

Команда PyTorch Lightning презентовала еще одну модель из семейства лам. Эта модель супертлегковесная и основана на nanoGPT (почему это важно? Потому что в оригинальной llama нет кода для обучения, а тут есть).

Обещают выложить веса своей версии llama под лицензией Apache-2 в течение нескольких месяцев (у оригинальной llama веса под лицензией, которая вынудит вас выложить свою модель в open source).

А я пришел сюда ножками и чувствую себя настоящим журналистом 😛

🦙 Ссылка

AI модель от Мета, которая может стать chatGPT3 в мире компьютерного зрения

Возможно это "chatGPT3-moment" для ИИ в области компьютерного зрения, посмотрим. Только что мета выкатила проект SAM - Segment Anything - модель обученная на самом большом датасете по выделению объектов на изображении. И модель и датасет выложены в открытый доступ.

🔥 SAM позволяет пользователям сегментировать объекты одним щелчком мыши.
🔥 SAM может автоматически находить и маскировать ВСЕ объекты на изображении.
🔥 SAM может генерировать маску сегментации для любой подсказки в режиме реального времени, что позволяет взаимодействовать с моделью в реальном времени.
🔥 Согласно статье работает замечательно для Zero-Shot Learning задач. То есть, когда надо настроить модель для своего датасете и очень быстро без трудоемкого обучения.

Они сделали даже демо, но оно, видимо, перегружено запросами, у меня пока не открылось.

В наших делах по интерпретации и выделению объектов - это может быть прорывна штука. Посмотрим.

Нейросеть для анализа землетрясений

Привет сообщество! Я тут выложил в открытую альфу свою новую нейронку, которая анализирует землетрясения. И мне нужна ваша помощь в тестировании и оптимизации.

Даже если вы ничего не знаете о землетрясениях вы можете почитать код и оптимизировать глупости всякие. Пишите коменты что непонятно (в коде, в тексте), какие вопросы и как улучшить.

Оставляйте пул реквесты (spaces можно клонировать, как обычный гит)

Буду супер рад!
🤗 Демка

@crimeacs

Вот такие вот у нас билборды в Сан Франциско

Введение в языковую модель LLaMA 🦙 и новое руководство по ее приручению

LLaMA - базовая большая языковая модель от Meta AI, доступная в 4 размерах: 7B, 13B, 33B и 65B параметров. Меньшие модели обучены на большом количестве токенов для экономии ресурсов и вычислительной мощности.

На днях команда Lightning ⚡️ выпустила руководство по обучению и тюну LLaMA (Large Language Model Meta AI). Основное внимание уделено Файн-тюнингу и инференсу, так как обучение с нуля требует значительных вычислительных мощностей, недоступных большинству.

Open-source сообщество уже успело одомашнить LLaMA и расширить ее возможности, например, они уже ее оптимизировали и добавили тюнс помощью LoRA, а также обучение чат-бота с Stanford Alpaca.

Lightning AI также представила Lit-LLaMA - собственную реализацию LLaMA с открытым исходным кодом, выпущенную под лицензией Apache 2.0. Эта лицензия упрощает интеграцию с другими проектами глубокого обучения и позволяет использовать 🦙 в коммерческих целях.

В новом руководстве вы узнаете, как обучать и настраивать LLaMA, использовать скрипты для оптимизированного обучения и тюнинга с LoRA, а также использовать Lit-LLaMA для вывода на 8 ГБ видеокартах.

🦙 руководство

Generative Agents: Interactive Simulacra of Human Behavior

Исследователи из Стэнфорда и Гугл создали "генеративных агентов" на базе gpt3.5-turbo для имитации поведения человека в песочнице, вдохновленной The Sims.

У них получился симулятор социальных взаимодействий, где каждый агент определяется текстовым описанием его профессии, интересами и связей с другими, а ChatGPT играет роль движка. Для обеспечения долгосрочной согласованности действий, авторы расширили ChatGPT тремя компонентами, что позволило агентам создавать распорядок дня, реагировать на новые события и менять планы, если это необходимо.

Первый компонент - модуль долговременной памяти и система извлечения информации. Долгосрочная память сохраняет прошлый опыт агента и состояние окружающей среды с датой и временем события. Для извлечения релевантной информацию авторы просят ChatGPT присвоить оценку важности (от 0 до 10) для каждой записи в долгосрочной памяти, учитывая текущую ситуацию. Далее авторы присваивают вес каждой записи таким образом, что старые записи менее релевантные. На каждом шагу в цикле действий авторы собирают промт комбинируя эти веса и просят ChatGPT решить, что агент должен сделать.

Второй компонент - рефлексия, которая является вторым типом памяти. Подобно тому, как мы во время сна обрабатываем и сохраняем важную информацию в долгосрочную память, приобретенную за день, несколько раз за игровой день ChatGPT просят выделить самые важные события для каждого агента, что позволяет агенту делать выводы о себе и других. Эти выводы также сохраняется в долгосрочную память.

Третий компонент - планирование, которое переводит эти выводы и текущую обстановку в высокоуровневые план действий. Сначала ChatGPT просят создать грубый план на день используя в промте предыдущий опыт и текущее состояние окружения, а затем рекурсивно просят добавить детали для более реального поведения. Эти планы тоже записываются в долгосрочную память.

📜 Статья
👩‍💻 Демо
@karray