Сергей Булаев пишет о нереально крутых ускорителях создания контента. В прошлых постах я писал про роботов-журналистов, но тут мы наблюдаем «рождение чего-то великого» в формате производства и потребления информации, когда ты можешь почти автоматически перевести любые нудные документы, найти в них различия и новости и моментально перевести в формат интересного подкаста созданного на лету на твоем родном языке.

О синдроме «основателя против менеджера»

На мероприятии Y Combinator Брайан Чески затронул одну важную мысль: как только компания начинает расти, принято считать, что её основателям необходимо «нанять хороших людей и дать им свободу работать», чтобы они масштабировали бизнес и вели компанию к прекрасному будущему. Проблема в том, что этот совет чаще всего приводит к катастрофе.

Когда Airbnb начал масштабироваться, Чески понял, что классические принципы управления крупными корпорациями не работают для стартапов. Он решил идти своим путём, вдохновляясь подходом Стива Джобса, который не просто делал skip level встречи с сотрудниками, а вывозил на ретрит топ 100 самых важных сотрудников Apple вне зависимости от их формальных должностей.

Суть в том, что существует два способа управления: «режим основателя» и «режим менеджера». Большинство учат переходить ко второму, когда бизнес растёт, но это ведёт к провалу. Основатели должны оставаться в «режиме основателя», что подразумевает глубокое вовлечение в процессы и отказ от стандартных подходов.

От души стараемся поддерживать режим внутреннего предпринимательства - intrapreneurshrip, но даже на нашем скромном объеме тяга к изобилию процессов и правил создает сильное сопротивление, особенно когда люди приходят из более зрелых корпоративных культур.

Текст статьи - https://paulgraham.com/foundermode.html

О боксе, управлении гневом, ИИ и новостной ленте.

Несколько лет уже занимаюсь боксом 3-4 раза в неделю. В боксе у меня большой прогресс в плане физической формы и выносливости, но в поединках пока очень тяжело. Усталость и боль от пропущенных ударов стал переносить гораздо легче и замечаю, что теперь могу быстро восстанавливаться и спать на следующий день глубоким сном, несмотря на ощущения в теле, которые раньше влияли довольно сильно и негативно, но с чем реально сложно, - сохранять свой план на бой и держать ритм.

Оба моих тренера в прошлом профессиональные боксеры 200+ и 300+ боев в любителях и 30+ на профессиональном ринге и шикарные спарринг партнеры, потому что знают игру, знают как не нанести травм, но научить тебя вести поединок в приближенном к реальности режиме.

Я часто расспрашивал их о том как настрой и мысли во время боя влияют на результат и каждый поделился опытом своим и других боксеров, исходя из которого думать в процессе боя о чем-то в постороннем крайне опасно и часто заканчивается поражением. Ранее писал об идеальном состоянии потока в стрельбе по тарелкам и своем опыте нахождения «правильного потока» на соревнованиях.

Например, мой тренер рассказывал, как выигрывал весь бой с разгромным счетом, время начало тянуться медленно и он начал думать, о том что будет отвечать сейчас на вопросы журналистам на английском языке и бой закончился неожиданно его полным и очень внезапным поражением.

Вторая важная тема это гнев и его контроль. В профессиональном боксе принято разжигать ненависть в прессе, на взвешивании, пресс-конференциях и социальных сетях у противника и вызывать сильные эмоции у аудитории. Мои наставники также отмечали, что если получается задеть человека за живое и обидным словом или действием вызвать гнев, то шанс выиграть бой значительно повышаются, потому что противник открывается в бою, забывает про свой план и работает на рефлексах. В процессе боя у каждого боксера тоже есть арсенал обидных фраз, небольших трюков незаметных и работающих на грани нарушения правил, просто обидных взглядов и смешков, чтобы тебя задеть и заставить открыться, забыть про защиту и план боя и нарваться на эффективный встречный удар, самый оптимальный с точки зрения затрат энергии.

Стараюсь минимум времени уделять просмотру новостей и даже заголовков, но замечаю, что почти каждая новость, за которую цепляется сознание имеет яркую эмоциональную окраску и чаще гнев или возмущение, хотя выдает факт, который почти невозможно детально разобрать из короткого текста. Алгоритмы социальных сетей также усиливают этот эффект отупления. Думаю с AI/ИИ можно будет за выходные сделать раскарску цветами таких манипуляций в тексте, чтобы выделять для своего сознания желания авторов сломать твой план и разумное мышление при прочтении новости и заставить тебя двигаться на рефлексах.

О креативности и искусственном интеллекте.

Прочитал интересную статью "The Originality of Machines: AI Takes the Torrance Test". Авторы исследовали творческие способности GPT-4 с помощью тестов Торренса, которые измеряют оригинальность, беглость и гибкость идей. GPT-4 попал в топ 1% по оригинальности и беглости среди всех тестируемых, что удивило исследователей.

В то же время гибкость ИИ оказалась ниже в некоторых заданиях, что указывает на ограниченные способности к адаптации и многоплановому мышлению. Интересно, что студенты в контрольной группе учатся в колледже предпринимательству и финансам, а тесты проводились преподавателем, обладающим опытом и знаниями в области тестирования и администрирования данной методики.
Тесты Торренса на творческое мышление разработаны для оценки креативности человека. Они измеряют способности к оригинальности, гибкости и беглости идей через задания, требующие нестандартного подхода, такие как придумать необычные использования для повседневных предметов или предположить последствия необычных ситуаций.

Сделал при помощи Google notebook подкаст по тексту статьи. Звучит вполне удобно для прослушивания

Дублированная версия подкаста при помощи Eleven Labs. Имеет много недостатков, хотя инструмент совсем не бесплатный

О фармацевтике, AI и No-code инструментах. Недавно был в гостях у Ryan Stanley, где мы обсуждали, как технологии, особенно искусственный интеллект, меняют фармацевтику и здравоохранение. Еще затронули Agentforce от Salesforce и low code/no-code инструменты вроде Make.com. Ryan интересный собеседник и до того как включил запись, говорил в очень спокойном темпе и на совсем другие темы, а на камеру включил скоростной режим. Получил полезный опыт блиц-интервью. Интересно, что контент для него - один из основных двигателей новых продаж и знакомств.

Про RAG, LLM и Databricks и будущее корпоративных баз знаний и чатботов.

LLM (Большие языковые модели) способны создавать правдоподобные и связные ответы на вопросы и многие из моего окружения активно используют в жизни и работе OpenAI, Claude, Perplexity вместо Google поиска. Благодаря обучению на огромных массивах данных LLM учитывают нюансы и контекст, однако они не всегда являются надежными источниками знаний. Модели склонны к “галлюцинациям” — созданию откровенно ошибочных фактов при ответах пользователям. Кроме того, LLM не могут учитывать события, произошедшие после их обучения, и не имеют доступа к закрытой корпоративной информации.

Эти ограничения можно преодолеть с помощью дополненной генерации (RAG). RAG использует дополнительные данные, позволяя LLM предоставлять более точные и актуальные ответы. В процессе RAG происходит автоматический поиск релевантной информации в базе данных, что улучшает качество ответов и снижает вероятность ошибок. Это особенно полезно для компаний, где важен доступ к закрытым или специализированным данным, недоступным в открытых источниках.

RAG также помогает получать свежие данные, что актуально, когда LLM обучена на старой информации. Кроме того, RAG позволяет использовать систему с учетом прав пользователя, обеспечивая безопасность при работе с конфиденциальными данными.

Мы уже некоторое время являемся партнерами Databricks - платформы для обработки больших данных и машинного обучения и сегодня меня их маркетологи приятно удивили отличной методичкой по RAG с очень понятными схемами и отличным контентом.

Об искусственном интеллекте - за один час. Очень понравилась лекция Андрей Карпаты — специалиста в области искусственного интеллекта и машинного обучения, который ранее был директором AI в Tesla, возглавляя разработку технологий автономного вождения. Он также был исследователем в OpenAI, где занимался глубоким обучением и нейронными сетями.

Интересные факты из статьи:

- Языковая модель может работать на небольшом компьютере и это всего 2 файла. Один содержит параметры модели, а второй это исполняемый код, например, на C++ длиной в районе всего 500 строк кода

- Opensource (открытые системы) отстают от закрытых тип OpenAI, но незначительно

- Чтобы обучить большую и бесплатную модель на промышленном объеме текста, собранного с веб-сайтов понадобилось 6 000 GPU, работающих непрерывно в течение 12 дней, и стоило ~2 миллиона долларов.

- В процессе обучения происходит сжатие текста в файл с параметрами, который в отличие от ZIP архивов (которые сжимаются без потерь) сжимается с потерями и скорее передает суть текста

- ChatGPT, Claude или Gemini- очень дорогие системы, которые на порядок более емкие чем open source. Стоимость их обучения может составлять десятки и даже сотни миллионов долларов, в них задействованы гораздо большие наборы данных и вычислительные кластеры

- Llama2-70b очень популярна, потому что на данный момент это, пожалуй, самая мощная модель с открытыми весами. Meta AI не просто выпустила модель, они выложили в открытый доступ весовые коэффициенты, архитектуру и даже статью о ней

- Несмотря на некоторые внешние сходства с сознанием человека - правильнее воспринимать нейронные сети как эмпирические артефакты. Мы вводим данные, наблюдаем ответы и оцениваем их поведение по тексту, который они генерируют в различных ситуациях. Поэтому оценка их работы очень сложная в силу их эмпирической природы.

- Известно как оптимизировать параметры нейросети, чтобы добиться лучшего предсказания следующего слова, но как эти параметры работают вместе, чтобы достичь этого, не совсем понятно. У нас есть модели и теории, которые предполагают, что они создают и поддерживают некую базу знаний, но даже это не совсем просто. Знания в этих сетях могут быть одномерными. Например, если спросить нейросеть кто является мамой Тома Круза - то она выдаст точный ответ, а если спросить чей он сын, то признается, что не знает.

- Важно знать, что вы не всегда можете быть уверены в том, что полученный результат точен или является галлюцинацией. Часть информации может быть запомнена из обучающих данных, а часть - нет.. По большей части они придумывают интернет-текст на основе своих обширных данных, создавая контент, представляющий собой смесь заученных знаний и творческой экстраполяции.

- Процесс доучивания моделей также дорогой и в нем задействовано много ручного труда. Как правило, компании нанимают команды для сбора наборов данных. Этим командам даются подробные инструкции по маркировке и ставится задача придумать вопросы и подготовить соответствующие ответы.

- На пути превращения нейронных сетей в ИИ-помощников ключевым моментом является процесс тонкой настройки (fine tuning) Вместо общих интернет-текстов, использовавшихся при предварительном обучении, используются документы с вопросами и ответами (Q&A).

- После предварительного обучения и тонкой настройки можно использовать третий этап: Reinforcement Learning from Human Feedback или RLHF, как его называют в OpenAI. На этом этапе применяется уникальный подход - использование сравнительных меток, - когда люди выбирают наиболее подходящие ответы из предложенных.

- Интересно, что по аналогии с человеческим разумом у LLM выделяют две системы мышления быструю и медленную (почти как сознание и подсознание

- Большое влияние на качество результатов работы нейросети оказывает размер оперативной памяти (контекстное окно), с которым сеть работает в моменте

- В настоящее время ни одна языковая модель не обладает способностью взять больше времени на обдумывания и повысить за несколько подходов качество выдаваемых решений и их точность.

Про сингулярность. Обсуждали с другом ИИ в создании контента, вспоминали Голливудский фильм «Хвост виляет собакой» видимые элементы ИИ в текущей избирательной гонке.

Сингулярность — это гипотетический момент в будущем, когда развитие искусственного интеллекта и технологий станет настолько быстрым и мощным, что произойдут радикальные изменения в обществе, экономике и человеческом опыте. После достижения этой точки ИИ может превзойти человеческий интеллект, что приведет к последствиям, которые невозможно предсказать. Этот концепт тесно связан с идеями технологической экспоненциальности и автономного самоулучшения ИИ.

По сути в некоторых аспектах ИИ людей обогнал, но креативный процесс, при всех технологических возможностях пока идет как и шел, потому как внедрение и даже базовое осознание требует глубокого погружения и высокой степени абстрактности мышления.

Роботы журналисты уже вовсю собирают и пишут новости, фильмы снимают уже без актеров, а полностью при помощи ИИ, но в тоже время, пиарщики, маркетологи, креативные агенства, DSP-системы продолжают работать как работали в парадигме Голливуда и газетной рекламы 20-летней давности. Удивительно, что даже с бюджетом Elon Musk и компания в избирательной кампании из видимых элементов сгенерировали при помощи ИИ только кошечек и собачек, которых спасают от нелегалов.

О силе позитивной визуализации в спорте и бизнесе

Ранее писал о своём увлечении стендовой стрельбой, которую я считаю в большей степени ментальным видом спорта. После большого прогресса на тренировках и плачевных результатов на соревнованиях прочитал несколько книг по спортивной психологии и одна из них "Inner Game of Tennis". Тимоти Голви рассказывает в частности о важности визуализации и приводит в пример историю гольфиста, который оказался в плену во время войны во Вьетнаме. Этот человек был заключен в маленькой камере и лишен возможности играть в гольф на протяжении многих лет. Однако, чтобы не сойти с ума и не потерять форму, он начал использовать силу визуализации.

Каждый день, находясь в заточении, он мысленно играл раунд гольфа на своем любимом поле, визуализируя каждую деталь. Он представлял каждый удар, чувствовал вес клюшки, слышал звук мяча, падающего в лунку. Этот процесс помогал ему не только сохранять разум в тяжелых условиях, но и улучшать свои навыки, несмотря на полное отсутствие реальной практики.

Когда гольфист был освобожден, он вернулся домой и сыграл в свой первый турнир. К удивлению всех, несмотря на длительный перерыв, он показал отличные результаты и даже выиграл чемпионат. Визуализация позволила ему сохранить высокий уровень игры и остаться в отличной форме, несмотря на долгие годы без тренировок. Это история стала классическим примером того, как мощным инструментом может быть воображение и как оно помогает улучшать навыки в любом виде деятельности, будь то спорт или другие области жизни. Часто размышляю о том насколько мысли материальны и как визуализация помогает достигать очень впечатляющих результатов. Часто вспонимаю как с партнером рисовали на салфетке какой-то безумный план, но потом он становился реальностью в течение пары следующих лет.

Про США и ЕС, найм сотрудников, предпринимательство и инвестиционный климат. Прошлую неделю провел в Дублине, Париже и Амстердаме встречаясь с друзьями и коллегами, в том числе обсуждали как дела обстоят с наймом и удержанием сотрудников и предпринимательским духом. Ситуация с наймом и отношение к работадателям в Голландии и Ирландии не сильно отличается от нашего опыта в Франции. Будет уместно отметить, что нанимать людей для среднего и малого бизнеса в ЕС это большое испытание, особенно если сравнивать с наймом в США, где employment at will является другой крайностью, но явно дает большую гибкость брать на себя предпринимательские риски.

Также обсуждали, что за последние пять лет в Соединённых Штатах наблюдается значительный рост числа компаний с рыночной капитализацией более 1 миллиарда долларов, особенно в таких секторах, как технологии и здравоохранение. Развитие венчурного капитала и частного акционерного финансирования позволило многим компаниям быстро масштабироваться, что привело к появлению большого количества «единорогов» (стартапов с оценкой более 1 миллиарда долларов).
По сравнению с США, в Европе таких компаний меньше, хотя рост таких техноцентров, как Лондон, Берлин и Стокгольм, заметен.

В США насчитывается более 500 единорогов, в то время как в Европе их количество не превышает 100. Основное преимущество США заключается в зрелой экосистеме венчурного капитала и более агрессивных раундах финансирования, в то время как в Европе более распространены традиционные пути финансирования, такие как банковские кредиты или государственные субсидии.

Эта разница в культуре финансирования объясняет разрыв в создании компаний с миллиардной капитализацией между этими регионами

Недавнее исследование также показало, что 55% американских стартапов стоимостью более $1 млрд имели хотя бы одного иммигранта в числе основателей. Более того, 65% ведущих компаний в сфере искусственного интеллекта в США также были основаны иммигрантами. Эти цифры не просто демонстрируют значимость иммигрантов, но и их ведущую роль в создании прорывных технологий.
Кроме того, исследование Национального фонда американской политики выявило, что в четверти миллиардных компаний, таких как Tesla и Nvidia, основатели иммигранты приехали в США как иностранные студенты. А доля иммигрантов-изобретателей в стране выросла с 24% в 2000 году до 35% в 2016 году.

Пока, явно климат для предпринимателей в США остается предпочтительным и страна притягивает таланты со всего мира. Надеюсь мы доживем до того, что визы и гринкарты для талантливых людей, за счет которых бизнес растет будет получать также легко как финансирование.

Об AI в электронной коммерции (по отчету Gen AI Works, сентябрь 2024)

Gen AI Works - крупнейшее сообщество специалистов по искусственному интеллекту сделали отличный отчет AI Implementation Insights" о внедрении ИИ в крупнейших компаниях мира.

Топ кейсы:

1. Picnic (онлайн-супермаркет):
- Прогнозирует повторные покупки через модель CRP
- Управляет каталогом из 30 000+ товаров
- Использует продвинутые модели (цепи Маркова, RNN) для рекомендаций
- Автоматизация списков покупок

2. Etsy:
- Визуальный поиск на базе EfficientNet и Vision Transformers
- ИИ-рекомендации товаров
- Мультизадачное обучение для категоризации
- Поиск похожих товаров по изображениям

3. Mercado Libre:
- Использует большие языковые модели для техподдержки
- Автоматическая документация
- Интерфейсы на естественном языке
- Улучшенный пользовательский опыт

4. Algolia:
- Платформа персонализации в реальном времени
- Динамические результаты поиска
- Персонализированный контент
- Отслеживание предпочтений с защитой приватности

5. Amazon (Проект Pi):
- ИИ-контроль качества
- Компьютерное зрение для обнаружения дефектов
- Автоматическая инспекция товаров
- Проверка качества перед отправкой

6. DoorDash:
- Использует GPT-4 для создания графов знаний о продуктах
- Автоматическая маркировка товаров
- Умная генерация описаний
- Структурирование неформатированных данных

Сделал для вас подкаст при помощи NotebookML

Про AI автономных агентов и первый опыт с Anthropic computer.

Вчера с интересом прочитал про новый продукт Anthropic Computer и сразу его попробовал в действии. По замыслу создателей это автоматизация, которая должна стать умнее RPA (например UiPath) за счет использования LLM, позволяя ИИ взаимодействовать с программами так, как это делает человек: читать информацию на экране, вводить текст, кликать по кнопкам и даже переключаться между окнами.

Для выполнения задач Claude 3.5 Sonnet получает команды, анализирует экранные изображения и ищет нужные элементы, используя координаты для точного управления курсором. Этот подход снижает зависимость от устаревших RPA «жестких» скриптов, которые ломаются при малейших изменениях интерфейсов.

Установка Docker и запуск скриптов заняла минут 15 и агент сходу заработал на Mac. В качестве эксперимента попросил найти в Google рекомендации ресторанов в Атланте и сложить в текстовой файл, а также Excel табличку. Результат получился приемлимый, но на просьбу зайти в мой аккаунт и записать это в моем Evernote система ответила жестоким отказом, сославшись на безопасность и политики использования. Не смог сходу найти интересные use cases для применения этой инновационной системы, так как пока она отказывается куда-либо логиниться.

Поверхностный поиск статей в Google по безопасности решения выдал примеры атак “prompt injection”, когда злоумышленники могут внедрить скрытые инструкции в документы или веб-страницы. Такой метод может заставить Claude выполнять опасные действия, включая загрузку и запуск вредоносных файлов.

Польские исследователи решили выяснить, сколько LLM-агентов сейчас бродят по интернету в попытках автоматом взломать серверы. Для этого они развернули по сети серверы с названиями, похожими на государственные службы, и настроили систему логгирования попыток взлома.

Результаты показали, что из примерно миллиона попыток взлома только 6 выглядели как действия ИИ-агентов — и все эти попытки пришли из Индии. Вот подробности проекта.

Можно предположить, что автономных агентов будет совсем скоро очень много и они будут сильнее умнее первых версий Claude.

О профессиональном спорте и предпринимательстве.

Мой близкий друг, комментируя мое отношение к спортивному режиму, сну и восстановлению отметил, что оно соответствует подходу профессиональных спортсменов. Соглашусь, что у предпринимателей и спортсменов много общего и в моей среде предпринимателей много успешных спортсменов любителей.

У предпринимателя много ответственности не только перед собой, но и перед клиентами и сотрудниками и игра подразумевает постоянное создание и поддержание конкурентных преимуществ вне зависимости от уровня твоей усталости, времени суток или погоды за окном.

Часто тяжелое испытание прилетает к тебе неожиданно и если ты держишь режим постоянно, то становишься менее уязвимым к таким событиям, особенно если находишься в отличной форме. Формула "немного нехорошего мне не повредит" совсем не подходит для режима, когда ты играешь на результат, который в идеале постоянно растет.

Чтобы сохранить ясность сознания и способность принимать решения в условиях недостатка информации и времени стараюсь держать режим сна и отдыха и в этом здорово помогают часы Garmin, которые объективно показывают не только сон, но и усталость (показатель вариабельности сердечного ритма - HRV), стараюсь следить за питанием и заниматься спортом не менее 3х раз в неделю. Бокс дает отличную кардио нагрузку и помогает развивать концентрацию внимания, которая дается мне совсем непросто.

У нас в компании есть большая группа в Strava сотрудников и друзей, которые регулярно делятся своими беговыми и вело- и другими тренировками и поддерживают друг друга.

Ранее писал о недопустимости negative self talk, так как ругая себя или давая вслух негативные оценку событиям - мы сбиваем настрой, который и так дается нелегко. В спортивной психологии много говорят о том как выносить пользу из проигрыша и фокусироваться на следующем шаге, а в бизнесе этот навык помогает найти в любой проблеме полезный урок и возможность улучшения.

Профессиональный спорт обычно ограничен возрастом, чего не скажешь о бизнесе.

Примеры успешных предпринимателей в почтенном возрасте совсем не редкость в современном мире и тут режим, настрой и набор убеждений тоже здорово помогает интересно жить дольше.

Меня часто спрашивают о долгосрочных планах, и с текущего горизонта мне очень нравится то что мы с командой единомышленников делаем и пока я совсем не вижу себя в режиме пенсионера, рыбалки, пляжа и ленивого просмотра достопримечательностей. Непрерывный рост и новые вызовы выглядят куда более интересной игрой для разума, если будет возможность сохранить здоровье и ясность ума соблюдая режим и улучшая свои навыки.

О биткоинах как инвестиции и MicroStrategy.

На собеседовании услышал от кандидата очень странную историю о компании MicroStrategy под руководством Майкла Сейлора. Не поверил даже, что такое возможно... Марк по словам кандидата, системно берет кредит под залог акций компании и регулярно покупает биткоины, при этом основной бизнес компании перестал быть таким важным в глазах основателя относительно это незамысловатой стратегии. Поиск в Google выдал новость, что MicroStrategy снова готовится к масштабной закупке Bitcoin. На этот раз стратегия под названием «21/21 план» предполагает привлечение $42 млрд в течение следующих трёх лет: $21 млрд будет обеспечено за счёт продажи акций, а остальные $21 млрд — за счёт фиксированных доходных ценных бумаг.
На сегодняшний день MicroStrategy получает 17,8% годовой доходности с своих BTC резервов, и планирует в будущем достичь от 6% до 10% ежегодно с 2025 по 2027 годы. По текущей цене Bitcoin в районе $70,000 запланированные инвестиции буду эквивалентом покупки примерно 578,586 BTC, что составит около 2,7% от общего предложения Bitcoin. Этот шаг MicroStrategy подчеркивает растущий тренд среди компаний, которые рассматривают Bitcoin как актив для резервов. В данном случае компания по сути за счет этой стратегии предполагает расти, потому как основной бизнес не выглядит особенно успешным.