Прочитал сегодня в Atlantic (статья за пейволом), о датасете, содержащем более 1.000.000 сеансов переписок пользователей с ChatGPT 3.5 и 4. Запись проводилась с разрешения пользователей (но как я понял - был типо сервис Wildchat, нажми две галочки и пользуйся ChatGPT бесплатно) в рамках исследования кейсов использования чат ботов (пейпер). По ним сейчас может искать любой желающий!

Это же офигеть просто! Многие из нас уже используют чат ботов, как доверенных собеседников, с которыми, часто, можно поделиться чем то больши, чем с близкими людьми. Мы же знаем, что они - не судят, просто страются помочь.

Это же так страшно, одно дело кто то получит доступ к твоим поисковым запросам (что уже неприятно), другое дело к твоей личной переписке. Переживаниям, проблемам, эмоциям. Представьте какой простор для таргетирования рекламы? (я уже не говорю о более серьёзных кейсов - таких как исползование этих данных как доказательств). Статья собственно об этом. Заливаю вам подкаст о ней на Notebook LM.

А что если со злым умыслом? Дырочки (пусть пока и смешные) уже начали появляться. Дальше их будет всё больше.

В очередном #ИскуственныйПодкаст обсуждение этой статьи.

YouTube версия

Сергей Булаев AI 🤖 - об AI и не только

Пытался сделать сегодня свой первый YouTube Shorts, но был дезинформирован гуглом о том что можно делать видео до 3 минут длинной. В итоге когда я начал его закачивать - оказалось что всё режется до минуты. Обидно. Выложу хоть сюда.

Но вообще факт - у Лекса Фридмана вышел подкаст с основателями Cursor. Можете не смотреть, вот несколько цитат для вас.

О вкладке Cursor Tab: «Цель Cursor Tab - устранить все низкоэнтропийные действия, которые вы совершаете в редакторе. Когда намерение эффективно определено, давайте просто move you forward - просто перетащим туда, где кажется должно быть след действие». - Аман

О своем подходе к диффам: «Вероятно, у нас будет четыре или пять различных видов диффов. Мы оптимизировали diff для автозавершения, так что интерфейс diff будет отличаться от интерфейса, когда вы просматриваете большие блоки кода». - Суалех

О трудностях поиска ошибок: «Даже самые умные модели невероятно плохо калибруются». - Аман

О концепции Shadow Workspace: «Идея создания Shadow Workspace заключалась в том, что мы можем создать отдельное окно Cursor, которое будет скрыто, и вы сможете установить в нем флаг, чтобы оно стало скрытым. Окно есть, но вы его не видите». - Арвид (в бэкграунде крутится что-то, что генерирует код и само его проверяет (или с LSP или без оного). Это дополнительная проверка на то, что дичь не написана с точки зрения логики и синтаксиса.)

О своей системе Preempt: «У нас есть одна внутренняя система, которую мы называем Preempt, которая немного помогает нам в этом. И я думаю, что она была создана для прежней эпохи, когда у нас было 8 000 окон с маркерными контактами». - Арвид

О выборе модели: «Сейчас я бы сказал, что самая лучшая модель - это Sonnet. Думаю, это общее мнение». - Аман

Об их системе индексирования: «Мы разбиваем весь ваш код на куски, затем отправляем код в embeddings, и мы встраиваем код. Затем мы храним вложения в базе данных, но на самом деле мы не храним никакого кода». - Суалех

О будущем программирования: «Меня очень радует будущее, в котором я могу просто показать пару примеров, а потом ИИ применяет их ко всем местам». - Арвид

О своем видении: «Мы - лаборатория прикладных исследований, создающая необычайно продуктивные системы человеческого ИИ». - Из их манифеста

О роли ИИ в программировании: «Мы не пытаемся заменить программистов. Мы усиливаем их способности, даем им суперсилу». - Майкл

Концептуально в общем в интервью ничего нового. Единственное что мне резануло ухо - они считают что они самые инновационные, а вот Microsoft нет и Copilot застрял. Могу предположить, когда их купит кто-то из бигтеха -они передумают :)

Спасибо @eugeon за правки и комментарий!

P.S. У нас опять отобрали 5-ю реакцию, "классика", мою любимую. Побустите пожалуйста..

Сергей Булаев AI 🤖 - об AI и не только

В общем, Ozempic работает. Факт. Думаю, это также повлияет на стоимость перелётов (средний вес пассажиров самолётов заметно сократится) и, конечно, на мой родной [из-за Купи Батона] CPG рынок (слышал, что запускаются инновационные продукты).

Я часто рассказываю эту историю. В 2013-м я впервые приехал в Долину, чтобы фандрейзить для Купи Батона. Я прожил в Пало-Альто, на California Ave, полтора месяца. Постоянно ездил в Сан-Франциско на встречи, и каждый раз, по дороге, смотрел на огромный баннер: "Человек, который проживёт 150 лет, уже родился". Да, это была реклама страховки, но очень крутая. Прошло 11 лет, а я до сих пор её помню.

Современные лекарства и технологии — это революция. Они продлевают жизнь. Большинство людей этого не понимают. Хочется быть поближе к создателям.

Сергей Булаев AI 🤖 - об AI и не только

Сегодня шортс получился. Он про проект Inverse Painting, исходный код которого скоро должны выложить вот тут.

Цель проекта - создание видео процесса рисования картины на основе готового изображения.

Ключевые особенности:

- Использует диффузионные модели для генерации видео.
- Обучается на реальных видео процесса рисования акриловыми красками.
- Способен работать с различными художественными стилями, включая Ван Гога.
- Имитирует типичные техники художников: рисование от заднего плана к переднему, фокус на семантических объектах, использование слоёв.

Процесс работы:

- Генерация текстовых инструкций для рисования.
- Создание масок для определения областей рисования.
- Рендеринг холста с помощью диффузионной модели, учитывающей текст и маски.

Уникальность в том, что он может экстраполировать знания, полученные при обучении на акриловой живописи, на другие стили и жанры, создавая правдоподобные видео процесса рисования для широкого спектра художественных работ.

Сергей Булаев AI 🤖 - об AI и не только

Только вот писал про разные конверторы GitHub репозиториев в единый файл для скармливания LLM, и тут Пьетро Скирано решил сделать собственный на replit.

Главный плюс - можете пользоваться прямо здесь и сейчас.

Приложение исключает бинарники, включает в результат только текст.

Сергей Булаев AI 🤖 - об AI и не только

Apple выпустила трейлер "Submerged" ("Под водой"), своего первого игрового фильма в формате Apple Immersive Video! Погрузитесь в захватывающую подводную битву времен Второй мировой войны от Эдварда Бергера, режиссера фильма "На Западном фронте без перемен". Только на Vision Pro, премьера уже завтра, 10 октября!

А я всё ещё их не купил :((

Сергей Булаев AI 🤖 - об AI и не только

Наверное, уже слышали, что в этом году впервые Нобелевская премия по физике была вручена ученым, чьи работы связаны с искусственным интеллектом.

Джон Хопфилд и Джеффри Хинтон — это ветераны в нашей области. Почитал про них немного.

Хопфилд первым предложил модель нейронной сети, которая могла хранить и восстанавливать информацию, как человеческая память.

Можно сказать, что он стал одним из прародителей концепции эмбеддингов, хотя сам термин появился позже. Его работа 82-го с ассоциативными сетями, особенно модель Hopfield Networks, заложила основу для идеи создания низкоразмерных представлений данных (эмбеддингов), которые сохраняют ключевые свойства информации.

Хопфилд фактически первым показал, как можно сжато и эффективно хранить и восстанавливать паттерны, что позже было применено в методах создания эмбеддингов для текстов, изображений и других типов данных.

Джеффри Хинтон внёс не менее значимый вклад в развитие искусственного интеллекта. В 85 году он разработал методы для обучения нейронных сетей распознаванию паттернов на основе примеров, что позволило обучать их с помощью градиентного спуска. Это стало ключевым открытием для развития машинного обучения, позволив сетям "учиться" и становиться более точными.

Он также известен своими работами над машиной Больцмана (может рассматриваться как стохастический генеративный вариант сети Хопфилда), которая, хотя и не стала основой современных систем, сыграла важную роль в исследовании принципов работы нейросетей.

Хинтон, несмотря на все свои достижения, уже после ухода из Google в 2023 году начал открыто высказываться о рисках искусственного интеллекта. Он предупреждает, что ИИ может выйти из-под контроля, а также превзойти человека в интеллектуальных способностях.

Сергей Булаев AI 🤖 - об AI и не только

Джек Дорси (тот, что создал Twitter, который теперь X) о важности выгрузки мыслей из головы. Выгрузки в виде пьес и представлений. Про театральные компании. Про сторителлинг. А также о том, что некоторые из лучших продуктов в мире просто родились по дороге.

(оригинал)

Сергей Булаев AI 🤖 - об AI и не только

Один из самых популярных ИИ помощников кодеров Claude Dev дорос до версии 2.0 и переименовался в Cline (CLI aNd Editor). Потому что там можно пользоваться не только Клодом видимо. То есть редактор кода и админ. А я его всё так и не попробовал.

Как я понимаю он работает из командной строки в VS (не знаю работает ли в других), как агент с расширенным функционалом, выполняющий поручения по написанию кода. В отличие от Cursor Composer он умеет запускать команды в терминале (с разрешения) и может установить вам модуль, или даже запустить код над которым работает чтобы оценить результаты.

В новой версии ответы потоково отображаются в редакторе с анимацией текста, что позволяет следить за прогрессом Cline при редактировании файлов. На 40% уменьшилось количество запросов при исполнении задач. Также появилась возможность прерывать генерацию и давать обратную связь в реальном времени.

Постоянно вижу его в топе по расходам токенов за день на OpenRouter. Звучит круто, надо пробовать обязательно.

Сергей Булаев AI 🤖 - об AI и не только