Тем временем Anthropic удвоили размер максимального лимита количества сгенерированных токенов для Claude 3.5 Sonnet при запросах через API. Теперь он - 8192!

Чтобы воспользоваться, нужно добавить дополнительный заголовок в запрос на создание сообщения:

"anthropic-beta": "max-tokens-3-5-sonnet-2024-07-15"

Также увеличенное окно доступно в консоли. В Claude.ai пока не меняли, но планируют выкатывать.

Сергей Булаев AI 🤖 - об AI и не только

🤖 Команда AutoGPT представила новое поколение своего инструмента для создания автономных AI-агентов. Это pre-alpha версия с открытым исходным кодом, доступная на GitHub.

Ключевые особенности нового AutoGPT:

Модульная архитектура на основе Блоков - функциональных компонентов для настройки поведения агентов. Двухкомпонентная структура: AutoGPT Server (бэкенд) и AutoGPT Builder (фронтенд для сборки агентов)

Есть несколько примеров - блоки для Reddit, Wikipedia, Discord.

На видео - процесс создания AI-агента для маркетинга на Reddit, показывая, насколько быстрым и простым стал этот процесс.

Пример блока для получения инфы из Wikipedia:

class GetWikipediaSummary(Block):
class Input(BlockSchema):
topic: str
class Output(BlockSchema):
summary: str
def **init**(self):
super().__init__(
id="h5e7f8g9-1b2c-3d4e-5f6g-7h8i9j0k1l2m",
input_schema=GetWikipediaSummary.Input,
output_schema=GetWikipediaSummary.Output,
test_input={"topic": "Artificial Intelligence"},
test_output={"summary": "Artificial intelligence (AI) is intelligence demonstrated by machines..."},
)
def run(self, input_data: Input) -> BlockOutput:
response = requests.get(f"https://en.wikipedia.org/api/rest_v1/page/summary/{input_data.topic}")
summary_data = response.json()
yield "summary", summary_data['extract']

Год назад я уже пробовал AutoGPT, но тогда так и не начал им пользоваться. Новая версия выглядит достаточно интересно что бы попробовать ещё разок.

#AutoGPT #AIagents

Сергей Булаев AI 🤖 - об AI и не только

🚌 Добавил возможность проверять свою регистрацию на автобус в бота Ulcamp. Просто дал Клоду ещё одну функцию, позволяющую проверить, зарегистрирован ли пользователь на трансфер или нет.

{
"name": "check_bus_schedule",
"description": "Check which bus is user registered for using information that is kept in function database. Phone is optional. Just send a request to recieve schedule.",
"input_schema": {
"type": "object",
"properties": {"phone": {"type": "string"}},
},
},

💬 Бот, кстати, отлично работает и справляется с потоком запросов. До ULCAMP осталась всего неделя. Если что, у меня есть промокод на билет BIZNESBOT10 на 10%. 🎟️

Сергей Булаев AI 🤖 - о ботах и не только.

Звёзды и их молодость

Сергей Булаев AI 🤖 - об AI и не только

🧠 Исследователи из Huawei Noah's Ark Lab и University College London представили EM-LLM - модель с эпизодической памятью, имитирующую некоторые аспекты работы человеческого мозга. Это очередной шаг в улучшении обработки длинных контекстов в AI. Полный текст публикации.

EM-LLM сегментирует информацию на события, используя уровень неожиданности (surprise) и графовые алгоритмы. Как это работает?

1. Модель оценивает, насколько каждый новый токен неожидан в контексте предыдущих. Чем выше неожиданность, тем вероятнее, что это начало нового "события".
2. Далее используется матрица сходства между ключами внимания в слоях трансформера. Эта матрица рассматривается как граф, где токены - вершины, а сходство между ними - веса рёбер. Применяются алгоритмы кластеризации графов для уточнения границ событий.

Процесс извлечения памяти включает два этапа:

1. Поиск по сходству: выбираются k событий, наиболее похожих на текущий запрос.
2. Сохранение временной последовательности: для каждого выбранного события добавляются соседние события из исходной последовательности.

Это имитирует эффекты временной смежности и асимметрии, наблюдаемые в человеческой памяти - тенденцию вспоминать события, близкие по времени и в определенном порядке.

Результаты тестировались на LongBench - наборе задач для оценки работы с длинными текстами:

- 4.3% общий рост по сравнению с современными моделями
- 33% улучшение в задаче PassageRetrieval, где нужно найти исходный параграф по его краткому содержанию

EM-LLM можно применить к существующим моделям без переобучения, что упрощает внедрение

Этот подход перекликается с моим проектом https://flashbacks.ai, где я рабатаю над AI-ассистентом для людей которые боятся деменции (таких как я). Принципы EM-LLM могут помочь в создании подобного помощника, способного лучше организовывать и извлекать воспоминания.

Хотя EM-LLM показывает неплохие результаты, она все ещё очень далека от полного воспроизведения сложности человеческой памяти.

#AIMemory #flashbacksAI

@sergiobulaev - об AI и когнитивных технологиях

Андрей Карпаты, бывший глава отдела ИИ в Tesla и исследователь в OpenAI, запускает Eureka Labs - образовательную платформу с использованием ИИ. Цель Eureka Labs - создать ИИ-ассистентов для обучения, которые будут работать вместе с преподавателями, чтобы "каждый мог изучить что угодно".

Первый продукт компании - курс по ИИ под названием LLM101n, который научит студентов создавать собственный ИИ. Курс обещает показать как создавать веб-приложение, подобное ChatGPT, с нуля, используя Python, C и CUDA.

Точные детали о финансировании Eureka Labs, бизнес-модели и команде пока неизвестны.
Карпаты описывает Eureka Labs как кульминацию его 20-летней страсти к ИИ и образованию.

До этого Карпаты работал в Stanford University, OpenAI и Tesla, где руководил командой компьютерного зрения для системы Autopilot. Параллельно с работой над Eureka Labs, Карпаты ведет онлайн-курс "Neural Networks: Zero to Hero" и YouTube-канал с лекциями об ИИ и языковых моделях.

Я тут недавно по его видео разбирался руками как вообще работают трансформеры.

Сергей Булаев AI 🤖 - об AI и не только

🏠💰 Роскошный особняк Сэма Альтмана за $27 млн оказался проблемным.

Генеральный директор OpenAI Сэм Альтман столкнулся с неожиданными проблемами в своём модном особняке в Сан-Франциско. Дом площадью около 880 кв. метров, расположенный на знаменитой улице Ломбард, оказался настоящим разочарованием с множеством дефектов.

🏊‍♂️ Бассейн-инфинити, нависающий над краем дома, протекает, заливая нижний этаж.
🚽 Неисправная канализация сливает сточные воды прямо в землю.
🌱 Система полива сада и смыва туалетов, использующая переработанную дождевую воду, даёт сбои.
🦇 C пещерой Бэтмена, ведущей в гараж, вроде всё ок.
Согласно судебному иску, поданному командой Альтмана, застройщик Troon Pacific намеренно исказил информацию о качестве недвижимости, чтобы продать её "как можно быстрее". Более того, некоторые подрядчики якобы "отомстили" за задержку оплаты, забив канализационные трубы мусором.
💰 Только ремонт бассейна оценивается в $4 млн, не считая других многочисленных проблем.
Интересно, что это не первый скандал с участием Troon Pacific. В мае компанию обязали вернуть $50 млн инвесторам за незавершенный проект реновации в Сан-Франциско.

Через неделю буду там - надо будет дойти посмотреть до дома вижвую :)

#СэмАльтман #OpenAI

Сергей Булаев AI 🤖 - об AI и не только