Media is too big
VIEW IN TELEGRAM
Наш «Палиндром» занял первую строчку в новом рейтинге контент-агентств России Тэглайн 2023
Так же наши проекты:
Номинация Mobile, AR, VR, IoT - Игры
Альфа-банк Кормушка - Серебро
Номинация Social Media
Мегафон - Золото
Номинация Бренд-медиа
Код - Золото
Кинжал - Серебро
ВСК - Бронза
Так же наши проекты:
Номинация Mobile, AR, VR, IoT - Игры
Альфа-банк Кормушка - Серебро
Номинация Social Media
Мегафон - Золото
Номинация Бренд-медиа
Код - Золото
Кинжал - Серебро
ВСК - Бронза
👍21🔥8🍾6❤1👏1
Переход от Экономики Знаний к Экономике Управления Искусственным Интеллектом
В связи с стремительным развитием генеративных моделей мы становимся свидетелями революции в сфере знаний. Ранее ключ к успеху заключался в накоплении информации и умении применять её в нужный момент. Теперь же наступает эра, когда компьютеры способны выполнять это не хуже нас, а порой даже и лучше.
В ближайшем будущем акцент в экономике сместится с объема знаний на способность эффективно распределять и управлять ресурсами. Профессии претерпят трансформацию: от непосредственного выполнения работы к стратегическому управлению, в том числе с использованием искусственного интеллекта. Сотрудники всех уровней будут вынуждены осваивать навыки работы с моделями AI, выполняя роль не только исполнителей, но и стратегов.
Какие навыки окажутся важными?
Четкое видение — это ключевое умение в будущем. Вам потребуется ясно представлять, какую работу необходимо выполнить и в каком направлении двигаться. Это требует умения формулировать конкретные, краткие и ясные задачи для AI-моделей.
Оценка таланта — подобно менеджеру, выбирающему подходящего сотрудника для задачи, вам потребуется умение оценивать и выбирать наиболее подходящие AI-модели для различных задач. Это включает в себя понимание их сильных и слабых сторон и наилучших областей применения.
Внимание к деталям — важно уметь определять, когда необходимо вмешаться в процесс и углубиться в детали, а когда можно доверить выполнение AI. Это требует способности к критическому анализу результатов и понимания того, как они соотносятся с вашими целями и стандартами качества.
Этот переход представляет собой не только вызов, но и возможность для каждого из нас раскрыть свой потенциал в новой роли. Гибкость, готовность к обучению и принятию новых подходов станут вашими главными инструментами в эпоху экономики управления ресурсами. Мы находимся на пороге эры, где способность эффективно распределять и управлять ресурсами становится ключевым фактором успеха в любой сфере.
В связи с стремительным развитием генеративных моделей мы становимся свидетелями революции в сфере знаний. Ранее ключ к успеху заключался в накоплении информации и умении применять её в нужный момент. Теперь же наступает эра, когда компьютеры способны выполнять это не хуже нас, а порой даже и лучше.
В ближайшем будущем акцент в экономике сместится с объема знаний на способность эффективно распределять и управлять ресурсами. Профессии претерпят трансформацию: от непосредственного выполнения работы к стратегическому управлению, в том числе с использованием искусственного интеллекта. Сотрудники всех уровней будут вынуждены осваивать навыки работы с моделями AI, выполняя роль не только исполнителей, но и стратегов.
Какие навыки окажутся важными?
Четкое видение — это ключевое умение в будущем. Вам потребуется ясно представлять, какую работу необходимо выполнить и в каком направлении двигаться. Это требует умения формулировать конкретные, краткие и ясные задачи для AI-моделей.
Оценка таланта — подобно менеджеру, выбирающему подходящего сотрудника для задачи, вам потребуется умение оценивать и выбирать наиболее подходящие AI-модели для различных задач. Это включает в себя понимание их сильных и слабых сторон и наилучших областей применения.
Внимание к деталям — важно уметь определять, когда необходимо вмешаться в процесс и углубиться в детали, а когда можно доверить выполнение AI. Это требует способности к критическому анализу результатов и понимания того, как они соотносятся с вашими целями и стандартами качества.
Этот переход представляет собой не только вызов, но и возможность для каждого из нас раскрыть свой потенциал в новой роли. Гибкость, готовность к обучению и принятию новых подходов станут вашими главными инструментами в эпоху экономики управления ресурсами. Мы находимся на пороге эры, где способность эффективно распределять и управлять ресурсами становится ключевым фактором успеха в любой сфере.
👍13🔥2👏1
Исследование использования AI в интернет маркетинге
- Генеративный AI может добавить к рынку около $500 миллиардов, за счет повышения продуктивности.
- 85%, маркетологов уже активно используют AI в своей работе. (Кто оставшиеся 15%?)
- Создание контента - самое популярное применение AI среди маркетологов, его используют 87%.
- AI также применяется для подбора ключевиков (42%), управления SMM (39%), email-маркетинга (39%) и ведения заметок (36%).
- ChatGPT - самый известный инструмент, его знают 99,65% опрошенных.
- Лишь 11% маркетологов считают, что контент, написанный AI, лучше человеческого, в то время как 63% уверены, что он хуже.
- Примерно 75% маркетологов считают использование AI важным или очень важным для своей работы.
- Есть опасения, что AI может заменить профессионалов в сфере контент-маркетинга (75% опасаются за писателей) и email-маркетинга (44%).
- Главные риски, связанные с AI, включают распространение ложной информации и нарушения авторских прав.
- 93% маркетологов верят, что AI будет оказывать положительное влияние на их работу.
- Генеративный AI может добавить к рынку около $500 миллиардов, за счет повышения продуктивности.
- 85%, маркетологов уже активно используют AI в своей работе. (Кто оставшиеся 15%?)
- Создание контента - самое популярное применение AI среди маркетологов, его используют 87%.
- AI также применяется для подбора ключевиков (42%), управления SMM (39%), email-маркетинга (39%) и ведения заметок (36%).
- ChatGPT - самый известный инструмент, его знают 99,65% опрошенных.
- Лишь 11% маркетологов считают, что контент, написанный AI, лучше человеческого, в то время как 63% уверены, что он хуже.
- Примерно 75% маркетологов считают использование AI важным или очень важным для своей работы.
- Есть опасения, что AI может заменить профессионалов в сфере контент-маркетинга (75% опасаются за писателей) и email-маркетинга (44%).
- Главные риски, связанные с AI, включают распространение ложной информации и нарушения авторских прав.
- 93% маркетологов верят, что AI будет оказывать положительное влияние на их работу.
👍4
This media is not supported in your browser
VIEW IN TELEGRAM
Наверное, многие слышали, что OpenAI на днях выпустила новую модель — GPT-4 Omni, особенно хорошо распознающую изображения и заметно более дешевую, чем GPT-4. В честь этого я решил обновить ПРОСТОБОТа. Теперь там по умолчанию включена модель GPT-4o, но самое интересное — теперь ему можно отправлять изображения. Примеры в видео.
Этот функционал также стал доступен пользователям всех других корпоративных ботов, которые я поддерживаю. Зайдите в своего и обязательно попробуйте. Возможно, понадобится вручную переключить модель через команду /model gpt-4o.
Подключение голосового ввода на очереди.
Этот функционал также стал доступен пользователям всех других корпоративных ботов, которые я поддерживаю. Зайдите в своего и обязательно попробуйте. Возможно, понадобится вручную переключить модель через команду /model gpt-4o.
Подключение голосового ввода на очереди.
🔥13👍4👏1 1
Media is too big
VIEW IN TELEGRAM
Добавил в Простобота возможность генерации картинок. И, даже больше, он может сам себе дать команду создать изображение.
Смотрите как работает. Просто начинаете с нарисуй и дальше пишите что угодно.
Картинки сохраняются в контексте и он может видеть их при общении в дальнейшем.
Это всё доступно прямо сейчас всем вам, а так же пользователям корпоративных ботов.
Нужно использовать с моделью gpt-4o.
Music: 春柳
Musician: EnjoyMusic
Смотрите как работает. Просто начинаете с нарисуй и дальше пишите что угодно.
Картинки сохраняются в контексте и он может видеть их при общении в дальнейшем.
Это всё доступно прямо сейчас всем вам, а так же пользователям корпоративных ботов.
Нужно использовать с моделью gpt-4o.
Music: 春柳
Musician: EnjoyMusic
🔥11👍4❤1
Forwarded from Палиндром
Media is too big
VIEW IN TELEGRAM
Хьюстон, у нас вышло видео! Да-да, первый выпуск «С три короба» уже в сети и ждёт, когда ты его посмотришь.
Родион Скрябин и Алексей Пономарь разобрали медиапроект на 3 плюса и 3 минуса. Где будет мёд, а где дёготь? Хочешь узнать первым?
Please open Telegram to view this post
VIEW IN TELEGRAM
👍4🔥2👏1
Благодаря тому, что Андрей Карпаты выпустил сегодня видео о том, как воссоздать GPT-2 с нуля, я натолкнулся на его другую, более простую запись, сделанную год назад. После трёх часов просмотра, пауз, задавания вопросов и ковыряния, вспоминания, что такое нижнетреугольная матрица и как их умножают, до меня наконец окончательно дошло, как работают трансформеры. Только теперь понял, что такое тренировка модели и как выглядит натренированная модель. И самое главное — откуда берутся все эти вектора (embeddings). Не прошло и двух лет, как я их использую. Оказалось, это вполне можно понять. Но пока как быстро и просто объяснить — не придумал. Как придумаю — расскажу.
👍14🔥6❤3👎1🍾1
Media is too big
VIEW IN TELEGRAM
Презентация на WWDC 2024
Мне очень понравилось. Выглядит всё впечатляюще, но хочется попробовать руками. Надеюсь, в использовании будет близко.
На что я обратил внимание:
Буду ждать. Кстати, первым прочитанным мной обзором этой презы был канал моего сына, ему привет. Смотрел её я уже после этого.
Мне очень понравилось. Выглядит всё впечатляюще, но хочется попробовать руками. Надеюсь, в использовании будет близко.
На что я обратил внимание:
• Опять захотелось
Apple Vision
, прежде всего из-за огромных мониторов. Также нравится идея совместного взаимодействия с удаленными друзьями. Надеюсь в Штатах получится хотя бы попробовать.
•
Apple Intelligence
- считаю компанию профессионалом практического применения технологий, в этом конкретном случае мы видим десятки маленьких юз-кейсов, где AI реально улучшает и упрощает жизнь.
• Работа с фотографиями с помощью прямой речи.
• Калькулятор с рукописным вводом, использование рисованных данных, построение графиков функций.
• Улучшение вашего почерка.
• Суммаризация данных, изменение стиля текста.
• Генерация картинок в заметках и Genmoji в Messages.
• Работа через Siri с контекстом.
• ChatGPT в Siri выглядит не очень удобно, интересно как будет на самом деле. Кстати, говорят, что только на английском это работать будет.
• Удаленный шаринг управления устройством твоему собеседнику через FaceTime.
•
Работа с iPhone с вашего Mac
- выглядит полезной штукой. При этом телефон остается заблокированным, звук и пуши идут к вам на экран компьютера.
• Расстановка окон приложений по экрану компьютера - пользуюсь сейчас специальным приложением для этого, надеюсь нативно будет удобнее.
• Новое приложение Passwords выглядит красиво, но не знаю, что можно добавить к текущим паролям в настройках (я там храню практически все).
Буду ждать. Кстати, первым прочитанным мной обзором этой презы был канал моего сына, ему привет. Смотрел её я уже после этого.
👍9🔥4👏1
Знакомьтесь - Claude
Claude 3 - это языковые модели, созданные конкурентом OpenAI, компанией Anthropic.
Топовая модель claude-opus по некоторым показателям превосходит ChatGPT-4, однако она ощутимо дешевле.
Средняя модель claude-sonnet также сравнима с ChatGPT-4 и тоже дешевле.
Младшая модель claude-haiku почти бесплатна и супер быстра.
У всех трёх моделей есть возможность работать с изображениями (можно присылать картинки). Но самое главное и интересное - все они могут работать с контекстным окном до 200 000 токенов! Представляете, как это много? Сколько информации можно им отправить?
Я подключил все модели к своим ботам. В зависимости от тарифа компании пользователям доступны либо две, либо все три модели. Можно пользоваться. В ПРОСТОБОТ они тоже появились. Для удобства работы с большими контекстными окнами я добавил возможность отправлять текстовые файлы. Они будут восприниматься как набранные сообщения.
Claude 3 - это языковые модели, созданные конкурентом OpenAI, компанией Anthropic.
Топовая модель claude-opus по некоторым показателям превосходит ChatGPT-4, однако она ощутимо дешевле.
Средняя модель claude-sonnet также сравнима с ChatGPT-4 и тоже дешевле.
Младшая модель claude-haiku почти бесплатна и супер быстра.
У всех трёх моделей есть возможность работать с изображениями (можно присылать картинки). Но самое главное и интересное - все они могут работать с контекстным окном до 200 000 токенов! Представляете, как это много? Сколько информации можно им отправить?
Я подключил все модели к своим ботам. В зависимости от тарифа компании пользователям доступны либо две, либо все три модели. Можно пользоваться. В ПРОСТОБОТ они тоже появились. Для удобства работы с большими контекстными окнами я добавил возможность отправлять текстовые файлы. Они будут восприниматься как набранные сообщения.
🔥7👍4❤2
This media is not supported in your browser
VIEW IN TELEGRAM
Только Claude появился в моей жизни, а у него уже появилось обновление! Вчера выпустили новую версию средней модели Claude - Sonnet 3.5. Твиттер гудит положительными отзывами, ну и я сегодня утром решил работать с ней.
После 8 часов совместного труда твердо могу сказать, что она мне нравится гораздо больше, чем GPT-4o. И в программировании, и просто в общении. Ну и никак не могу привыкнуть к окну в 200 тысяч токенов - если раньше я писал функциями, то теперь я могу писать целые модули. Работа опять несказанно ускорилась, и я опять сегодня вспоминал мой любимый момент из недавно пересмотренной матрицы.
На видео Anthropic показывают, как Claude сам пишет тест для программы, видит, что он не работает, и сам исправляет код. Выглядит как магия. Утром с другом разбирались, как это реализовано, и решили, что это просто Python-интерфейс, который дает возможность общаться, запускать и менять файлы. Думаю, я такое тоже могу написать. Надо попробовать.
Ну и да, во всех моих ботах теперь при выборе модели claude-sonnet включается именно он. Вы тоже можете пробовать на ПРОСТОБОТе.
А еще я узнал, что платные пользователи могут бустить каналы. Давайте забустим мой пожалуйста!
@sergiobulaev
После 8 часов совместного труда твердо могу сказать, что она мне нравится гораздо больше, чем GPT-4o. И в программировании, и просто в общении. Ну и никак не могу привыкнуть к окну в 200 тысяч токенов - если раньше я писал функциями, то теперь я могу писать целые модули. Работа опять несказанно ускорилась, и я опять сегодня вспоминал мой любимый момент из недавно пересмотренной матрицы.
На видео Anthropic показывают, как Claude сам пишет тест для программы, видит, что он не работает, и сам исправляет код. Выглядит как магия. Утром с другом разбирались, как это реализовано, и решили, что это просто Python-интерфейс, который дает возможность общаться, запускать и менять файлы. Думаю, я такое тоже могу написать. Надо попробовать.
Ну и да, во всех моих ботах теперь при выборе модели claude-sonnet включается именно он. Вы тоже можете пробовать на ПРОСТОБОТе.
А еще я узнал, что платные пользователи могут бустить каналы. Давайте забустим мой пожалуйста!
@sergiobulaev
🔥10🍾1
Решил всё таки разделить свой канал на две части. Как видите пишу не то что не регулярно, а скорее волнами. Так со мной было всегда, даже когда начиналась моя тема по блогам в середине 2000х, Интернетные штучки начали взлетать, только когда у меня появились партнеры и сотрудники, обеспечивающие непрерывную стабильность постов.
Ситуация сейчас иная: нанимать никого не планирую. Просто смесь друзей и родственников с незнакомыми мне людьми, которых интересует AI, постоянно де мотивирует. О личном и обычном как то неудобно, а постоянные AI-темы думаю многих достали. Так что теперь будет два. Этот сохранит направленность на AI, технологии и работу - вы его так забустили (я вижу ваши имена, большое всем спасибо!), что делать его личным как то глупо.
А для личных, повседневных тем - теперь будет новый канал. Там тоже буду рад всем, но там будут мои мысли на совсем любые темы. Не знаю на какие. Про Таиланд наверное или детей. Когда захочу - напишу.
Возможно теперь не буду писать в оба, ну вы привыкли 🙂
Новый канал: @sergeyonsamui
Ситуация сейчас иная: нанимать никого не планирую. Просто смесь друзей и родственников с незнакомыми мне людьми, которых интересует AI, постоянно де мотивирует. О личном и обычном как то неудобно, а постоянные AI-темы думаю многих достали. Так что теперь будет два. Этот сохранит направленность на AI, технологии и работу - вы его так забустили (я вижу ваши имена, большое всем спасибо!), что делать его личным как то глупо.
А для личных, повседневных тем - теперь будет новый канал. Там тоже буду рад всем, но там будут мои мысли на совсем любые темы. Не знаю на какие. Про Таиланд наверное или детей. Когда захочу - напишу.
Возможно теперь не буду писать в оба, ну вы привыкли 🙂
Новый канал: @sergeyonsamui
Telegram
Сергей Булаев 😎🐊🦩
Привет! Я Сергей, живу на острове Самуи в Таиланде. Интересуюсь психологией, технологиями, искусством, спортом и питанием. Люблю семью, друзей, творчество, книги, путешествия и готовить.
❤6
👋 Привет, меня зовут Сергей и всю жизнь я что-то придумывал, основывал, со-основывал и создавал.
Создавал обычно вместе и с помощью замечательных людей, которых мне довелось встретить очень много и которых я продолжаю встречать. В основном мои проекты так или иначе связаны с контентом.
Вот чем я особенно горжусь:
Уже несколько лет живу в Таиланде на тропическом острове Ко Самуи. Сильно увлечен технологиями искусственного интеллекта и их практическим применением.
Делаю на базе этого всего контентные проекты и полезные сервисы. Например, сервис корпоративных ботов с удобным доступом к AI-помощникам через Telegram с панелью администрирования biznesbot.ai. А также сервис хранения и использования воспоминаний flashbacks.ai.
Всем подписчикам моего канала бесплатно доступен ПРОСТОБОТ - через который каждый может пообщаться с разными моделями искусственного интеллекта, включая популярные - ChatGPT и Claude.
В личку писать: @sergeonsamui
Личный канал: @sergeyonsamui
Инста из Таиланда: https://www.instagram.com/sergeinboca
Создавал обычно вместе и с помощью замечательных людей, которых мне довелось встретить очень много и которых я продолжаю встречать. В основном мои проекты так или иначе связаны с контентом.
Вот чем я особенно горжусь:
- Купи Батон
(iOS, Android) - мобильное приложение списков покупок. Идея моя, долгое время руководил проектом. До сих пор принадлежит мне с партнерами.
- Интернетные штучки - мой первый контентный проект о стартапах в IT. Давным-давно продан, перепродан и закрыт. Но во времена, когда он был еще моим, он как-то раз даже стал блогом года.
- IT конференция
ULCAMP - в палатках на берегу Волги. Придумывал вместе с коллегами, в ней очень много от меня, долгое время был одним из организаторов. Встретил на одной из них свою жену.
-
Lifehacker.ru - сама идея не моя, но я был среди основателей и мажоритарным со-владельцем. Продан.
-
Взахлёб - истории в виде переписки. Я придумал и занимался проектом первые 3 года. Тогда он был установлен у каждого 3-го подростка в России. До сих пор являюсь совладельцем.
-
Палиндром - контент-агентство, сооснователь и совладелец.
1 место в рейтинге "Контент-агентства России Tagline 2023".
Уже несколько лет живу в Таиланде на тропическом острове Ко Самуи. Сильно увлечен технологиями искусственного интеллекта и их практическим применением.
Делаю на базе этого всего контентные проекты и полезные сервисы. Например, сервис корпоративных ботов с удобным доступом к AI-помощникам через Telegram с панелью администрирования biznesbot.ai. А также сервис хранения и использования воспоминаний flashbacks.ai.
Всем подписчикам моего канала бесплатно доступен ПРОСТОБОТ - через который каждый может пообщаться с разными моделями искусственного интеллекта, включая популярные - ChatGPT и Claude.
В личку писать: @sergeonsamui
Личный канал: @sergeyonsamui
Инста из Таиланда: https://www.instagram.com/sergeinboca
11❤26👍15 5
Тем временем мой близкий друг, партнёр и по совместительству Вовин крёстный - Саша, взял Вову на вручение своих ежегодных стипендий для одарённых детей. Не перестаю восхищаться его приверженностью и объёмами постоянной помощи людям. Суть очень проста: Сашин сын Матвей много лет занимался математикой в "Коде Успеха", и Саша был так доволен его результатами (и я подтверждаю, я с Матвеем хорошо знаком), что решил оплачивать занятия в этой школе 10 талантливым детям в год. В этом году, смотрю, их было уже 13. Подробности здесь.
❤34🔥15
Media is too big
VIEW IN TELEGRAM
Зеро кодинг в Claude на русском и английском
Вот так бывает - посмотришь видосик где Claude делает играбельный тетрис с первого раза и потом убиваешь почти час что бы повторить тоже самое (и потом только понимаешь что там на видосике количество попыток не написано :)
Не так всё хорошо как кажется, но тем не менее с моими рабочими задачами он гораздо лучше справляется.
Еще прикольные видосики на тему того что “легко” делает Claude:
Генератор и проходитель лабиринтов
Игра SpaceX Starship Lender
3D Doom
Саммер для Reddit
Визуализация Deep Learning
Интерактивная книга для ребенка
Игра на запоминание карточек
Создаем инфографики на базе квартального отчета Тесла
Без блэкджека тоже не обошлось
@sergiobulaev - AI - и всё такое
Музыка в видео: My Go Away Dream (Not The King)
Вот так бывает - посмотришь видосик где Claude делает играбельный тетрис с первого раза и потом убиваешь почти час что бы повторить тоже самое (и потом только понимаешь что там на видосике количество попыток не написано :)
Не так всё хорошо как кажется, но тем не менее с моими рабочими задачами он гораздо лучше справляется.
Еще прикольные видосики на тему того что “легко” делает Claude:
Генератор и проходитель лабиринтов
Игра SpaceX Starship Lender
3D Doom
Саммер для Reddit
Визуализация Deep Learning
Интерактивная книга для ребенка
Игра на запоминание карточек
Создаем инфографики на базе квартального отчета Тесла
Без блэкджека тоже не обошлось
@sergiobulaev - AI - и всё такое
Музыка в видео: My Go Away Dream (Not The King)
👍9❤5
Делаю тут для ULCAMP 2024 бота с памятью. По идее, он должен отвечать на любые вопросы на тему конференции, показывать пользователю его покупки (билеты, палатки, автобус), и менять заказ (отправлять сообщение о необходимости изменений в поддержку).
Решил показать, как эта самая память работает.
Хранить/вводить информацию решили через Google таблицы — как самый простой и быстрый инструмент. Процесс понятен (на изображении справа):
Взаимодействие пользователя с ботом происходит через мою универсальную библиотеку AgentBot, над которой я работаю уже более полугода. Все мои боты работают сейчас на ней. Она позволяет взаимодействовать с разными моделями и отвечает за хранение контекста для каждого пользователя.
Самое главное, что, с учетом того, что LLM модели не требуется широта знаний (ведь всю самую важную информацию мы уже ей отдаем в запросе), мы можем использовать самые дешевые модели, и они будут отлично справляться.
Можете попробовать сами: @ulcampbot (версия не финальная, но вполне рабочая, если у вас куплены билеты на Ulcamp, то обязательно свяжите личный кабинет). Название тоже не финальное. Уже неделю прошу организаторов придумать мне его. Буду рад любым баг-репортам.
Кстати, мне сделали код на скидку на билеты на ULCAMP — BIZNESBOT10.
@sergiobulaev - AI и всё такое.
Решил показать, как эта самая память работает.
Хранить/вводить информацию решили через Google таблицы — как самый простой и быстрый инструмент. Процесс понятен (на изображении справа):
1. Контент-менеджер вводит небольшие статьи в таблицу, которые состоят из заголовка и текста (но по факту все равно объединяются в один элемент контента). Решили сделать его в среднем 500-1000 символов длиной (но это не жестко).
2. Раз в 15 минут мой скрипт проходит по таблице и считывает все данные. Проверяет, чего у нас еще нет, а что изменилось. Далее все, что надо добавить/изменить, переводится в вектора — Embeddings и сохраняется в векторной базе данных Pinecone. Поскольку у OpenAI и Anthropic разные форматы векторов, то я делаю сразу обе версии, чтобы иметь возможность переключать модели.
Взаимодействие пользователя с ботом происходит через мою универсальную библиотеку AgentBot, над которой я работаю уже более полугода. Все мои боты работают сейчас на ней. Она позволяет взаимодействовать с разными моделями и отвечает за хранение контекста для каждого пользователя.
1. Пользователь отправляет запрос боту, он попадает сразу в дочерний класс AgentBot, который называется UlcampBot.
2. UlcampBot переводит запрос в Embeddings и отправляет запрос в Pinecone.
3. Pinecone подбирает несколько статей, наиболее близких по векторам (а значит наиболее релевантных по смыслу), и возвращает эти статьи боту.
4. В случае, если пользователь — участник, мы делаем запрос к информации о его покупках из личного кабинета.
5. Информация передается обратно боту.
6. Бот подмешивает в системное сообщение справочную информацию из Pinecone и личную информацию из кабинета и передает на обработку родительскому классу AgentBot.
7. AgentBot исполняет свою обычную работу, формируя контекст и используя системное сообщение, делает запрос к LLM модели.
8. LLM модель в свою очередь генерирует ответ, используя переданную информацию, и возвращает его.
9. Ответ отправляется пользователю.
Самое главное, что, с учетом того, что LLM модели не требуется широта знаний (ведь всю самую важную информацию мы уже ей отдаем в запросе), мы можем использовать самые дешевые модели, и они будут отлично справляться.
Можете попробовать сами: @ulcampbot (версия не финальная, но вполне рабочая, если у вас куплены билеты на Ulcamp, то обязательно свяжите личный кабинет). Название тоже не финальное. Уже неделю прошу организаторов придумать мне его. Буду рад любым баг-репортам.
Кстати, мне сделали код на скидку на билеты на ULCAMP — BIZNESBOT10.
@sergiobulaev - AI и всё такое.
❤14👍5