Forwarded from Dealer.AI
Мы живем в пору context engineering/management.
Вышел очень интересный обзор об 20-летней трансформации взаимодействия машины и человека для постановки задач.
Кстати полная версия у моего соседей по цеху тут.
Основной пойнт, что постановка задачи через использование контекста моделей (по факту окна входа) стремилась к снижению энтропии и упорядочиванию входных данных.🧠 В то время как, человек получает на вход множество модальностей данных, да еще и в разном качестве, машине мы стараемся передать эти наблюдения в другой форме. К примеру, вы учите бустинг, и обязательно проводите EDA, очистку данных, фиче инжиниринг и кормите итоговые плоские таблички для обучения. Потом появились seq2seq модели, а еще позже GenAI. Чем продвинутее становились архитектуры, тем меньше нужно было снижать энтропию входа. Сейчас мы можем в некотором виде подавать текст в модели или агентные системы, через промпт инжиниринг и контекстный менеджмент. В том числе, мы можем кормить и картинки и аудио и видео, используя дополнительные кодировщики.
Согласен, что это все ещё не данные as is, как видим и осязаем их мы, и энтропия по отношению к этому тоже снижена, но в идеале она будет стремиться к изначальному виду.
Авторы поднимают вопрос такого развития, что ИИ-технологии достигнут уровня сначала человека и смогут принимать окружающую информацию AS IS, воспринимая среду без трансформации, а потом, став еще продвинутее, будут менять среду и ее энтропию, упрощая ее, наоборот уже для человека. Такой вот реально большой оберегающий брат.Или не оберегающий. 🧠 Очень интересный взгляд.
А сейчас, по мнению авторов, мы живем в эру контекст менеджмента и инжиниринга. Если вам интересно об этом почитать, советую вот это репо. И действительно, все работы и решения основаны сейчас на том, чтобы наполнять контекст модели, ограниченый max token lens только нужной информацией, и не помещать или удалять от туда ненужную информацию. Отсюда, кстати, и концепция внешней памяти, и RAG темы, и FC/TC, присыпанные доп. инженерией очистки/умных ножниц ✂️ и сжатия/саммаризации только полезной информации для контекста📊 . Примером таких операций может быть:
1. Удаление рассуждений из видимого контекста модели после данного на их основе ответа.
2. Вырезка из контекста подсказок из RAG, memory и прочих данных, которые могут спутать модель, если их там оставить. Ведь никто не исключал протухания данных.
3. Написание функций сжатия и саммаризации, а также улучшения экстрактивных механизмов моделей для этого.
И многое другое...
Остается один момент, это вопрос того, что контекст инженерия снижает энтропию вспомогательно, а если путь к AGI - то нужны новые решения, которые не требуют инженерии вокруг или сводят ее к минимуму. Зачастую вопрос повышения энтропии входа коррелировал вообще с уровнем развития вычислительных технологий. Бывает так, что методология в теории есть, но техника не позволяла ее эффективно реализовать, а когда позволяет происходит переход на новый уровень развития. Но что это должно быть и будет? Поживем, увидим, у меня нет ответа не этот вопрос.
Вышел очень интересный обзор об 20-летней трансформации взаимодействия машины и человека для постановки задач.
Кстати полная версия у моего соседей по цеху тут.
Основной пойнт, что постановка задачи через использование контекста моделей (по факту окна входа) стремилась к снижению энтропии и упорядочиванию входных данных.
Согласен, что это все ещё не данные as is, как видим и осязаем их мы, и энтропия по отношению к этому тоже снижена, но в идеале она будет стремиться к изначальному виду.
Авторы поднимают вопрос такого развития, что ИИ-технологии достигнут уровня сначала человека и смогут принимать окружающую информацию AS IS, воспринимая среду без трансформации, а потом, став еще продвинутее, будут менять среду и ее энтропию, упрощая ее, наоборот уже для человека. Такой вот реально большой оберегающий брат.
А сейчас, по мнению авторов, мы живем в эру контекст менеджмента и инжиниринга. Если вам интересно об этом почитать, советую вот это репо. И действительно, все работы и решения основаны сейчас на том, чтобы наполнять контекст модели, ограниченый max token lens только нужной информацией, и не помещать или удалять от туда ненужную информацию. Отсюда, кстати, и концепция внешней памяти, и RAG темы, и FC/TC, присыпанные доп. инженерией очистки/умных ножниц ✂️ и сжатия/саммаризации только полезной информации для контекста
1. Удаление рассуждений из видимого контекста модели после данного на их основе ответа.
2. Вырезка из контекста подсказок из RAG, memory и прочих данных, которые могут спутать модель, если их там оставить. Ведь никто не исключал протухания данных.
3. Написание функций сжатия и саммаризации, а также улучшения экстрактивных механизмов моделей для этого.
И многое другое...
Остается один момент, это вопрос того, что контекст инженерия снижает энтропию вспомогательно, а если путь к AGI - то нужны новые решения, которые не требуют инженерии вокруг или сводят ее к минимуму. Зачастую вопрос повышения энтропии входа коррелировал вообще с уровнем развития вычислительных технологий. Бывает так, что методология в теории есть, но техника не позволяла ее эффективно реализовать, а когда позволяет происходит переход на новый уровень развития. Но что это должно быть и будет? Поживем, увидим, у меня нет ответа не этот вопрос.
Please open Telegram to view this post
VIEW IN TELEGRAM
arXiv.org
Context Engineering 2.0: The Context of Context Engineering
Karl Marx once wrote that ``the human essence is the ensemble of social relations'', suggesting that individuals are not isolated entities but are fundamentally shaped by their interactions with...
❤13
Записки C3PO
Заменил Superwhisper на Wispr Flow. Wispr Flow лучше понимает контекст и чётко выполняет голосовые команды при работе с текстом. К примеру, команду: «Напиши письмо на английском, в котором ты спрашиваешь Лебовски где мои деньги», он сразу поймет, в отличие…
Я уже писал, что перешёл с Superwhisper на Wispr Flow, а в этот раз пишу, как перешёл с Wispr Flow на Aqua Voice.
Ключевые преимущества — это абсолютно мгновенная транскрибация того, что я говорю. Ты просто зажимаешь Fn, говоришь, отпускаешь и текст как будто мгновенно появляется в поле ввода. При чем понимание самого текста, tone of voice, стиля, терминов, англицизмов очень точное. Я очень редко правлю текст. И в отличие от Superwhisper, в Aqua Voice, как и Wispr Flow, иконка, которая слушает текст, очень маленькая и внизу, её можно показывать только когда происходит зажатие клавиш, а не огромное окно на пол экрана.
Минус — это отсутствие понимания команд, как в остальных, но на самом деле это даже плюс, так как в первых двух это приводит к false positive и приходится править текст, так как классификатор неправильно понял. Для команд лучше оставить Highlight
Ключевые преимущества — это абсолютно мгновенная транскрибация того, что я говорю. Ты просто зажимаешь Fn, говоришь, отпускаешь и текст как будто мгновенно появляется в поле ввода. При чем понимание самого текста, tone of voice, стиля, терминов, англицизмов очень точное. Я очень редко правлю текст. И в отличие от Superwhisper, в Aqua Voice, как и Wispr Flow, иконка, которая слушает текст, очень маленькая и внизу, её можно показывать только когда происходит зажатие клавиш, а не огромное окно на пол экрана.
Минус — это отсутствие понимания команд, как в остальных, но на самом деле это даже плюс, так как в первых двух это приводит к false positive и приходится править текст, так как классификатор неправильно понял. Для команд лучше оставить Highlight
2🔥24❤7🤔2
Forwarded from Data Secrets
Андрей Карпаты: «ИИ – это ПО 2.0, и оно автоматизирует то, что можно проверить»
Понравился свежий емкий пост Карпаты на вечную тему автоматизации в эпоху ИИ. Подготовили сокращенный перевод:
Понравился свежий емкий пост Карпаты на вечную тему автоматизации в эпоху ИИ. Подготовили сокращенный перевод:
ИИ часто сравнивают с историческими прорывами: электричеством, промышленной революцией и тд. Но, по-моему, самая точная аналогия – ИИ как новая вычислительная парадигма, Software 2.0.
В обоих случаях речь про автоматизацию обработки цифровой информации. В 80-х автоматизировались задачи, которые сводились к механическому преобразованию информации по простым, чётко формализуемым правилам (например, бухгалтерия).
Сейчас же, с ИИ, мы можем автоматизировать то, что вручную описать невозможно, но можно проверить. Мы задаем таргет (например, accuracy) и с помощью градиентного спуска ищем в пространстве алгоритмов нейросеть, которая оптимизирует этот таргет лучше всего.
Это и есть Software 2.0, и в этой парадигме ключевым факторов автоматизируемости задачи выступает ее проверяемость. Лучше всего можно автоматизировать именно то, что легко проверить.
Если задача непроверяема, останется надеяться на волшебную обобщающую способность нейросетей. Именно поэтому прогресс ИИ такой зубчатый: в проверяемых задачах прогресс стремительный (код, математика, головоломки), а вот многое другое отстает (творчество, стратегия, здравый смысл).
Software 1.0 легко автоматизирует то, что можно формально описать.
Software 2.0 легко автоматизирует то, что можно проверить.
❤47👍16🤔6
Data Secrets
Андрей Карпаты: «ИИ – это ПО 2.0, и оно автоматизирует то, что можно проверить» Понравился свежий емкий пост Карпаты на вечную тему автоматизации в эпоху ИИ. Подготовили сокращенный перевод: ИИ часто сравнивают с историческими прорывами: электричеством…
Базированность Карпаты, конечно, поражает
💯33
Forwarded from Strategic move: стратегия, продукт и AI (Julia Bilinkis)
Повыкладываю сюда парочку инсайтов из разговоров с топами, которых я глубоко уважаю, из наших встреч по продуктовой стратегии.
Одна фраза звучала особенно точно:
«Мы идем туда, где получилось, делаем то, что получилось, и надеемся, что случайно попадём в точку роста»
Идея в том, что команды обычно не имеют проблем с идеями, они видят МНОГО возможностей, но не понимают, какие из них: стратегические,
масштабируемые,
принесут много денег,
малозатратные,
быстрые,
тупиковые...список можно продолжать.
А результат какой?
Команда выбирает не лучшие возможности, а самые доступные. Те, которые «легче продать», те, где клиент сам пришёл...
Получается логика:
куда взяли - туда и пошли
И вот в такие моменты вспоминается классика из Алисы в стране чудес:
«Если не знаешь, куда идёшь - любая дорога подойдёт».
Ровно так и работает отсутствие продуктовой стратегии.
Не хватает не идей - не хватает системы выбора.
Системы, которая говорит:
это - масштабируемая проблема,
это - нет.
это - чёткая гипотеза,
это - шум.
это - продукт,
это - проект.
это - надо убить,
а это - удвоить.
И знаете, я прекрасно помню этот момент в своей карьере.
Когда я была руководителем, я попросила команду принести идеи. И мне принесли огромный, разношерстный список:
от мелких улучшений интерфейса до каких-то точечных фичей,
которые решали локальные неудобства конкретных сотрудников или клиентов.
Я смотрела на этот список…
и первая мысль была:
«Неужели они не видят, что это всё - локальная оптимизация?
Что ни одна из этих идей не приведёт нас туда, куда мы хотим прийти?»
И вот что интересно: я даже не смогла им тогда сказать «нет».
Потому что (и это важный момент) это была их первая попытка мыслить продуктово, первый шаг от выполнения задач к поиску ценности.
Понимаете?
Люди не могут сразу выдать стратегический рычаг.
Не потому что “не понимают”, а потому что часто у них нет структуры, нет критериев “что такое хорошая идея”.
Так и появляются списки, которые внутри команды кажутся “идейными”, а снаружи выглядят как бессистемный набор хотелок.
Но это не вина команды.
Это сигнал, что им нужна рамка мышления, система отбора, критерии, подход, которые переводят их из режима:
«что бы нам такое сделать?» в «что даст наибольший эффект?»
Одна фраза звучала особенно точно:
«Мы идем туда, где получилось, делаем то, что получилось, и надеемся, что случайно попадём в точку роста»
Идея в том, что команды обычно не имеют проблем с идеями, они видят МНОГО возможностей, но не понимают, какие из них: стратегические,
масштабируемые,
принесут много денег,
малозатратные,
быстрые,
тупиковые...список можно продолжать.
А результат какой?
Команда выбирает не лучшие возможности, а самые доступные. Те, которые «легче продать», те, где клиент сам пришёл...
Получается логика:
куда взяли - туда и пошли
И вот в такие моменты вспоминается классика из Алисы в стране чудес:
«Если не знаешь, куда идёшь - любая дорога подойдёт».
Ровно так и работает отсутствие продуктовой стратегии.
Не хватает не идей - не хватает системы выбора.
Системы, которая говорит:
это - масштабируемая проблема,
это - нет.
это - чёткая гипотеза,
это - шум.
это - продукт,
это - проект.
это - надо убить,
а это - удвоить.
И знаете, я прекрасно помню этот момент в своей карьере.
Когда я была руководителем, я попросила команду принести идеи. И мне принесли огромный, разношерстный список:
от мелких улучшений интерфейса до каких-то точечных фичей,
которые решали локальные неудобства конкретных сотрудников или клиентов.
Я смотрела на этот список…
и первая мысль была:
«Неужели они не видят, что это всё - локальная оптимизация?
Что ни одна из этих идей не приведёт нас туда, куда мы хотим прийти?»
И вот что интересно: я даже не смогла им тогда сказать «нет».
Потому что (и это важный момент) это была их первая попытка мыслить продуктово, первый шаг от выполнения задач к поиску ценности.
Понимаете?
Люди не могут сразу выдать стратегический рычаг.
Не потому что “не понимают”, а потому что часто у них нет структуры, нет критериев “что такое хорошая идея”.
Так и появляются списки, которые внутри команды кажутся “идейными”, а снаружи выглядят как бессистемный набор хотелок.
Но это не вина команды.
Это сигнал, что им нужна рамка мышления, система отбора, критерии, подход, которые переводят их из режима:
«что бы нам такое сделать?» в «что даст наибольший эффект?»
❤37👍8🔥2💯1
Лучшее, что можно сделать с инженером, который не помогает решать задачи, а только тормозит рассказами, как их сложно решать или вовсе невозможно — уволить. При чем не только его, а вообще всех, если продолжать его логику. Зачем тогда работать, а саппортить продукт и баги чинить смогут и мидлы.
https://xn--r1a.website/leadgr/2202
https://xn--r1a.website/leadgr/2202
Telegram
Teamlead Good Reads – ежедневные советы про менеджмент людей и команд
Почему менеджеры увольняют лучших инженеров
Сильные инженеры не появляются в командах случайно. Это люди, которые годами копят знания и в итоге способны замечать риски и проблемы там, где другие видят только задачи. Такие инженеры умеют задавать вопросы…
Сильные инженеры не появляются в командах случайно. Это люди, которые годами копят знания и в итоге способны замечать риски и проблемы там, где другие видят только задачи. Такие инженеры умеют задавать вопросы…
🔥18❤4🤔3👍1
С сентября месяца я открывал Perplexity 0 раз. А все почему? На сложные вопросы я хожу в Claude/ChatGPT, а за простыми теперь есть гугл с ai ответами, который живет в более удобном месте в браузерной строке. There is no moats...
👍63🤔5❤3
После появления ChatGPT и прочего GenAI достаточно часто зовут спикером на всякие конфы, где рассказывают про то, как поменялась работа продакта благодаря ии финтифлюхам. Забавно, что среди спикеров я никогда не видел продактов из индустрии.
😁56💯6
Наконец дошли руки до ноябрьского эссе Бена Томпсона о пользе пузырей.
OpenAI заключает сделки на $1,4 трлн при выручке ~$13 млрд — это пузырь. Томпсон объясняет, почему это хорошо.
Карлота Перес в 2002 году написала классическую работу "Technological Revolutions and Financial Capital". Главная идея: пузыри создают инфраструктуру, которая переживает банкротства инвесторов. Оптоволокно, проложенное обанкротившимися телеком-компаниями в 2000-х, стало бесплатным фундаментом для сегодняшнего интернета.
Hobart и Huber в книге "Boom" добавляют второй тип пользы — когнитивную координацию. Пузырь работает как механизм синхронизации: множество людей одновременно движутся в одном направлении. Dotcom-эра породила XMLHttpRequest (Microsoft создал его, чтобы убить Netscape, а получился фундамент для веб-приложений) и переход на Linux/x86 вместо дорогих Sun-серверов.
Проблема AI-пузыря: GPU устаревают за 5 лет — это не железная дорога и не оптоволокно. Львиная доля денег идёт Nvidia, но чипы не остаются полностью самортизированными активами, которыми можно пользоваться бесплатно десятилетиями.
Но есть два направления с долгосрочной отдачей. Первое — производство чипов. TSMC и Samsung строят заводы в США, правительство стало акционером Intel. Зависимость от Тайваня начинает снижаться.
Второе — энергетика. Здесь самое интересное: узкое место уже не чипы, а электричество. CFO Microsoft на earnings call: «Последние несколько лет мы испытывали дефицит не GPU или CPU как таковых — нам не хватало пространства и энергии». CEO Amazon говорит то же самое.
Генерация электричества в США стагнирует 20 лет. AI создаёт одновременно экономический стимул (нужно больше энергии) и политический (давление убрать бюрократические барьеры). Если пузырь профинансирует строительство новых мощностей, а потом инвесторы обанкротятся — дешёвая энергия останется навсегда.
Когнитивная часть AI-пузыря уже работает. Substrate пытается создать новый тип литографии в Америке. Extropic делает чипы на основе вероятностной энтропии вместо бинарных вычислений. Без пузыря такие проекты не получили бы финансирование.
Альтернатива пузырю — стагнация. До AI технологии стали скучными: Big Five поделили рынок, стартапы превратились в конвейер SaaS с низким риском. AR/VR развивались как строчка в бюджете Meta и Apple, а не через экосистему стартапов. Результат — медленный прогресс.
Томпсон завершает интересной мыслью: у AI-пузыря есть квазидуховный элемент. Люди в лабораториях верят, что строят бога. Это объясняет инвестиции в модели, которые никогда не окупятся, прежде чем их обгонят следующие. Можно не соглашаться с политическими следствиями в виде попыток регуляций, но именно эта вера — драйвер всего происходящего.
OpenAI заключает сделки на $1,4 трлн при выручке ~$13 млрд — это пузырь. Томпсон объясняет, почему это хорошо.
Карлота Перес в 2002 году написала классическую работу "Technological Revolutions and Financial Capital". Главная идея: пузыри создают инфраструктуру, которая переживает банкротства инвесторов. Оптоволокно, проложенное обанкротившимися телеком-компаниями в 2000-х, стало бесплатным фундаментом для сегодняшнего интернета.
Hobart и Huber в книге "Boom" добавляют второй тип пользы — когнитивную координацию. Пузырь работает как механизм синхронизации: множество людей одновременно движутся в одном направлении. Dotcom-эра породила XMLHttpRequest (Microsoft создал его, чтобы убить Netscape, а получился фундамент для веб-приложений) и переход на Linux/x86 вместо дорогих Sun-серверов.
Проблема AI-пузыря: GPU устаревают за 5 лет — это не железная дорога и не оптоволокно. Львиная доля денег идёт Nvidia, но чипы не остаются полностью самортизированными активами, которыми можно пользоваться бесплатно десятилетиями.
Но есть два направления с долгосрочной отдачей. Первое — производство чипов. TSMC и Samsung строят заводы в США, правительство стало акционером Intel. Зависимость от Тайваня начинает снижаться.
Второе — энергетика. Здесь самое интересное: узкое место уже не чипы, а электричество. CFO Microsoft на earnings call: «Последние несколько лет мы испытывали дефицит не GPU или CPU как таковых — нам не хватало пространства и энергии». CEO Amazon говорит то же самое.
Генерация электричества в США стагнирует 20 лет. AI создаёт одновременно экономический стимул (нужно больше энергии) и политический (давление убрать бюрократические барьеры). Если пузырь профинансирует строительство новых мощностей, а потом инвесторы обанкротятся — дешёвая энергия останется навсегда.
Когнитивная часть AI-пузыря уже работает. Substrate пытается создать новый тип литографии в Америке. Extropic делает чипы на основе вероятностной энтропии вместо бинарных вычислений. Без пузыря такие проекты не получили бы финансирование.
Альтернатива пузырю — стагнация. До AI технологии стали скучными: Big Five поделили рынок, стартапы превратились в конвейер SaaS с низким риском. AR/VR развивались как строчка в бюджете Meta и Apple, а не через экосистему стартапов. Результат — медленный прогресс.
Томпсон завершает интересной мыслью: у AI-пузыря есть квазидуховный элемент. Люди в лабораториях верят, что строят бога. Это объясняет инвестиции в модели, которые никогда не окупятся, прежде чем их обгонят следующие. Можно не соглашаться с политическими следствиями в виде попыток регуляций, но именно эта вера — драйвер всего происходящего.
Stratechery by Ben Thompson
The Benefits of Bubbles
We are in an AI Bubble: the big question is if this bubble will be worth it for the physical infrastructure and coordinated innovation that result?
❤24🔥8🤔6👍2😁2
Поорал, конечно, с итогов года по версии ChatGPT. Теперь даже жалко, что дропнул всю историю чатов в начале года (вот если бы Сама завез избранное и норм поиск по чатам, не пришлось бы!)
😁11👍1