Думаю, не все знают, что такое коммиты, но те, кому они важны, - точно знают. Это такое сохранение текущего состояния проекта во время разработки для того, чтобы иметь возможность всегда к нему вернуться, если что-то пойдет не так.

Не будучи профессиональным программистом, я не знаю, как часто их надо делать. Я стараюсь делать каждый раз, как очередная функция заработала (иногда даже частично). Но очень часто забываю.

В процессе работы с Cursor Composer дела могут пойти не так в любой момент, и коммиты становятся ещё важнее. Андрей Карпаты уже третий день работает с Cursor и, видимо, тоже задумался об этой проблеме.

В итоге он написал простую функцию gcm (git commit -m), которая, используя программу командного доступа к LLM, llm (кстати, сам по себе очень крутой инструмент), генерит комментарии к коммитам на основе разницы между старым и новым кодом. Изящное, простое, полезное решение.

Нужно просто установить llm, использовать ключ от OpenAI или же одну из моделей, которые смогут работать на вашем компе, и добавить в ваш .bashrc (или .zshrc) исходный код команды. Я всё сделал, работает супер.

Добавил ещё себе туда же:

alias save="git add . && gcm && git push"

и теперь каждый раз пишу save для сохранения.

Сергей Булаев AI 🤖 - об AI и не только

В Information вышла новая статья про Q* (Q star), я полностью её не видел, но видел скриншоты кусков, твиты о ней и вот есть статья на Decoder про статью.

Основные моменты:

Согласно информации, из этой статьи, со ссылкой на двух человек, участвующих в проекте, OpenAI может выпустить чат-бот версию Strawberry уже этой осенью, возможно, в составе ChatGPT.

Q* (Strawberry) может решать сложные математические задачи, с которыми не справляются современные LLM. В ходе внутренних демонстраций Q* успешно решил популярную головоломку "Connections" от New York Times, что подчеркивает его мощные аналитические и языковые способности. Модель способна не только генерировать контент, но и выполнять сложные действия, требующие продуманных решений. Кроме того, Q* может обрабатывать вопросы, связанные с субъективными темами, такими как маркетинговые стратегии продуктов, и давать точные ответы после дополнительного анализа.

Reuters ранее сообщало, что OpenAI уже тестировала AI, который набрал более 90 процентов на MATH benchmark (коллекция задач по математическому мастерству).

Основной причиной, по которой Q* еще не был выпущен, вероятно, является огромная вычислительная мощность, необходимая для его работы. Это давно обсуждается, и Сэм Альтман был недоволен этим, так как Q* был бы излишне мощным для повседневного использования. OpenAI планирует поднимать ещё денег ради решения этой проблемы.

Вокруг Q* было много опасений. Сотрудники OpenAI написали письмо в Reuters, предупреждая о серьезных рисках, связанных с новой технологией. Это подтверждает, что шутка о том, что Илья Суцкевер "увидел что-то пугающее", может иметь под собой реальную основу.

Q* уже был представлен американским властям. Есть предположения, что был сделан сознательный выбор не объявлять о проекте публично до окончания выборов по соображениям безопасности.

Основные разработчики Q* — Якуб Пачоцки и Шимон Сидор — построили модель на основе исследований Ильи Суцкевера, бывшего главного научного сотрудника OpenAI. Пачоцки, благодаря своему вкладу в разработку Q*, стал непосредственным преемником Суцкевера

Подход Q* напоминает метод "Self-Taught Reasoner" (STaR), предложенный исследователями Стэнфордского университета. Он направлен на улучшение способностей ИИ к рассуждению, что позволяет моделям учиться на собственных выводах и улучшать их точность без необходимости в обширном наборе внешних данных. Такой подход существенно повышает гибкость и автономность ИИ.

Долгое время Q* воспринимался как миф, но теперь очевидно, что он существует и уже используется для создания синтетических данных для обучения будущих моделей, таких как "Orion" .

Проект "Orion" является флагманской языковой моделью OpenAI, которая должна превзойти GPT-4. Q*, играет ключевую роль в этом проекте, генерируя высококачественные синтетические данные для его обучения. Эта комбинация может значительно снизить количество галлюцинаций и повысить общую производительность модели Orion.

Сергей Булаев AI 🤖 - об AI и не только

Подробный рассказ о создании простого Mac приложения с нуля при помощи моего любимого Cursor Composer.

Сергей Булаев AI 🤖 - об AI и не только

15 августа я написал, что придумал нового бота и завтра покажу. Прошло ровно две недели. За это время я дважды съездил на Пхукет, слетал в Бангкок, ко мне приехали сначала одни друзья, потом другие. Каждый день я что-то делал по этому проекту. Понимал что рано показывать.

Думаю, теперь я готов (хотя показывать всё ещё особо нечего). Это даже нельзя назвать MVP, это скорее скелет будущего продукта. Первые инструменты.

Наша личность во многом состоит из воспоминаний, которые со временем превращаются в опыт, как-то влияющий на нас и изменяющий нас. Я очень хочу создать некую базу своих воспоминаний. Понимаю, что записать все воспоминания невозможно. Но если не записывать ничего, то точно ничего не получится 🙂

Цель: создать помощника для своей памяти, которая, безусловно, будет слабеть с годами (неизвестно ещё с какой скоростью), и который так или иначе будет помогать мне вспоминать важные для меня вещи.

Я много думал об этом и понял ещё один очевидный момент — чем больше воспоминаний удастся записать, тем лучше LLM сможет имитировать личность человека. Например, для написания текста от его лица. Ведь что такое текст — это информация, полученная из какого-то источника, пропущенная через призму собственного опыта.

Дальше я вспомнил, что у меня как минимум есть свои телеграм-каналы, посты из которых можно превращать в воспоминания. Поэтому я решил написать очередного бота.

Причём просто записывать воспоминания неинтересно. Интересно сразу как-то с ними работать, поэтому бота сразу два:

Сохранитель
- Запоминает всё, что вы ему пришлёте: текстовые сообщения, вложения, картинки, аудио.
- Может записывать сообщения из телеграм-каналов, в которые вы его добавите.
- Транскрибирует аудиосообщения в текст.
- Переводит тексты в векторы (embeddings) и сохраняет их в векторную базу данных.
- Уже умеет также превращать картинки в текст, но пока этот текст не векторизирует.

Отвечатель
- Выбираете, с информацией из какого канала работаете.
- Пишете ему любой вопрос или просто предложение.
- Он преобразует это в векторы.
- Выбирает 5 наиболее близких воспоминаний.
- Отправляет всё это LLM-модели.
- Присылает вам ответ.

Есть простая админ-панель. Она позволяет удалять/редактировать все записанные воспоминания. Всем этим может пользоваться любой подписчик моего канала. Есть небольшие ограничения, чтобы я внезапно не разорился, но вряд ли вы в них упрётесь.

Как я это буду использовать?

Добавил бота ко всем своим публичным каналам, и процесс сохранения информации начался. Кроме того, у меня есть два приватных канала только для себя, куда я пишу важные для меня заметки. Также создал аналог Saved Messages, но с доп возможностями — туда шлю всё новое, что хочу, чтобы бот запомнил (например, ссылки на статьи и файлы, хотя они ещё не парсятся).

Пока смогу просто искать по этой информации и получать ответы на её основе. Просто хотелось поскорее начать копить данные.

Планы примерно такие:

- Скачивание статей для векторизации, парсинг файлов.
- Аналог человеческого сна — некая систематизация впечатлений за день, формирование воспоминаний на основе новой информации, векторизация воспоминаний.
- Группирование информации с помощью LLM.
- Поиск старых воспоминаний, связанных с новыми (как работает память).
- Случайные воспоминания и напоминания - флэшбэки!

Кроме того, придумано практическое использование для авторов каналов:

- Возможность собрать информацию по теме, высказать мнение, а бот свяжет это с прошлыми воспоминаниями и напишет пост на основе всего этого.
- Дать ему пост, а он найдёт в нём якоря, которые можно залинковать на старые посты.

На самом деле можно придумать ещё много применений. Главное — начать копить информацию. Что думаете?

P.S. Если что, я в курсе, что существуют Obsidian, Roam, Notion, Evernote, Apple Notes и т.д. Я пробовал их все, и некоторые из них даже использую. Но память, как мне кажется, работает немного по-другому.

Сергей Булаев AI 🤖 - об AI и не только