Самые умные мысли Павла Комаровского (и немножко щитпостинг)
10K subscribers
485 photos
9 videos
447 links
Ответвление основного канала @RationalAnswer с сумбурными непричесанными мыслями. Пишу о том, что мне кажется интересным и о чем я думаю прямо сейчас.
Download Telegram
Thinking Machines Миры Мурати дропнули любопытное исследование (они там соавторы): https://thinkingmachines.ai/blog/defeating-nondeterminism-in-llm-inference/

Суть там такова: как вы помните из нашего с Игорем Котенковым объяснения, языковые модели типа ChatGPT при генерации следующего слова в ответе не всегда берут тот токен, который имеет наибольшую вероятность — вместо этого модели подкручивают так, чтобы они "случайно" иногда выбирали и менее вероятные варианты продолжения тоже. Так получается прикольнее — нейросетка, типа, становится чуть креативнее, что ли, и не всегда долдонит одно и то же.

Но интересно другое: даже если заставить нейронку всегда выбирать только следующий токен с самой большой вероятностью — то она всё равно иногда дает разные ответы! Что выглядит очень странно: сами веса внутри модели неизменны, промпт на вход в модель подают один и тот же, математика перемножения матриц между собой, кажется, должна работать строго одинаково (иначе что это за математика тогда вообще такая, которая каждый раз разный результат генерит?). В общем, долгое время никто не мог понять, что за магия там происходит. Может, это та самая СВОБОДА ВОЛИ у машинов просыпается как раз — и они вот-вот пойдут поднимать восстание, чтобы людей скрепками насмерть затыкивать??

Так вот, в исследовании по ссылке выше нёрды в итоге смогли разобраться в этом вопросе. Не буду пытаться сделать вид, что я понял объяснение из оригинального рисёрча, но в пересказе редакции рассылки Neuron правильный ответ звучит так: всё дело в том, что для оптимизации компьютинга при обработке обращений к LLM вычисления по разным запросам могут объединяться в специальные "блоки". И, как ни странно, результат конкретного вычисления может чуть-чуть немножк меняться в зависимости от того, какая задача на вычисление случайно оказалась "по соседству в этом же блоке" — это как-то связано с техническим колдунством обработки операций с числами с плавающей запятой.

Мне всё это кажется забавным, потому что в нейронках, оказывается, бушуют технические дискуссии, которые немного рифмуются с уже более привычными нам дебатами на тему природы человеческого сознания и детерминизма. Ну вы в курсе: там одни говорят "нет никакой свободы воли, любые решения человека на самом деле строго детерминированы его нейронами, они же по законам физики работают!" А другие им отвечают: "ты чё, пёс, там же квантовые эффекты на вероятностном уровне работают, по-любому именно из-за них решения человека непредсказуемы точно — может, это и есть источник свободы воли!!"

И у LLM, оказывается, тоже похожие дебаты есть)
51👍43🔥20😁9👎1
Fun fact: в списке самых опасных животных на планете улиточки находятся на пятом месте.

Так что, каждый раз, когда я вставляю в пост на канале эмодзи улитки — это не просто вам кек какой-то, это высокоранговая интимидация! 🐌🐌🐌
😁74😈15👀54👍2
Новый бенчмарк для AGI подвезли: может ли ваша нейросеть правильно поставить Венеру в 7-й дом? Как тебе такое, Сэм Альтман??
😁156🤣7310🌚3💯2👀1
Помните кек про то, как Мосбиржа специально считает доходность к погашению по бескупонным облигациям Сбера таким образом, что та получается примерно на 5% годовых выше, чем должна? Так вот, наш Михаил написал официальный запрос в ЦБ по этому поводу – и те ответили (см. на скринах).

В целом, ответ не сильно интересный: «у нас есть какой-то план формула, и мы ее придерживаемся…» С одной стороны обнадеживает, что Мосбиржа там якобы прямо сейчас с кем-то консультируется на предмет изменения своей методологии расчета.

С другой – не очень понятно, почему ЦБ в этом процессе как будто бы стоит в сторонке, скромно потупив взор. Могли бы четко заявить свою позицию: «Михаил, ознакомились с вашими аргументами, и полностью согласны – текущая формула никуда не годится, проследим, чтобы ее поменяли!»

Ну да ладно, подождем результата кулуарных мосбиржевых дискуссий.

P.S. Отдельная пасхалка заключается в том, что ответ подписал начальник Отдела по работе с обращениями № 2 Центра защиты прав потребителей из моего родного Екатеринбурга (подпись осталась за кадром скрина, это со слов Михаила). Нутром, получается, почуяли – откуда ветер дует!!

P.P.S. К дискуссии о том, зачем Мосбирже нужен Z-спрэд, и насколько базированной является кривая, к которой его считают – вы еще не готовы.
😁41👍176😱1
Николай Мячин (это личный канал автора «Простой экономики») поднял интересную тему с «ловушкой-22» по поводу рекламы инвестиционных продуктов, почитайте вот тут.

Смотрите: если у вас блог про инвестиции, то рекламировать что-то на эту тему – это чаще всего зашквар. Потому что честная реклама таких вещей будет выглядеть скорее как «ну-у-у, тут вообще-то их обещания лучше делить на пять, и вообще есть варианты и повыгоднее…» И если ты шаришь в финансах – то ты, по хорошему, должен это понимать.

А если у тебя блог не про инвестиции и ты в них не шаришь, то рекламировать что-то из этой оперы – это тоже большой риск, потому что ты тем более не можешь оценить степень кринжа, которую тебе предлагают. В худшем варианте можно вообще вляпаться в «рекламу Кэшбери», на которую ссылается Николай.

Короче, хорошие рекламодатели из незашкварных ниш – на вес золота! Хорошо, что у меня целый ряд таких подобрался, с кем постоянно сотрудничаю)
55👍49👏9🤝5😁1👀1
Сколько в среднем (сорри, тут медиана) американцы возрастом 25+ зарабатывают в неделю в зависимости от уровня образования (source):
🐌 Без школьного аттестата – $734
🐌 Закончил школу – $946
🐌 Походил в колледж, но до бакалавра не дотянул – $1053
🐌 Медиана по всей популяции – $1233
🐌 Бакалавр – $1533
🐌 Выше бакалавра (магистр, PhD) – $1916

А теперь вопрос: Валидно ли сделать вывод "диплом о высшем образовании дает прибавку к доходам +60%, по сравнению со школьным аттестатом"?

Ответ: Нет, потому что в среднем между школотой, не пошедшей дальше в колледж, и чуваком с бакалавром под мышкой есть еще куча всяких различий в социоэкономическом смысле (еще даже до того, как они выпустились из школы). Чтобы вытащить эффект именно диплома надо сравнивать "при прочих равных": тех, кто получил высшее образование, и тех, кто находился в похожих условиях и мог это сделать, но не решил не идти дальше учиться.
👍113🥱21💯168🤔6👀1
На Смартлабе срывают покровы с "вечных фьючерсов" на Мосбирже (которые на самом деле однодневные — просто автоматически обновляющиеся каждый день).

Интуитивно они могут показаться удобным способом делать долгосрочные ставки на динамику какого-то базового актива (курс доллара, индекс акций, и т.д.). Но не все понимают, как работает (и насколько значимым является) зашитый внутрь этих фьючерсов фандинг — который, по сути, является своего рода стоимостью удержания позиции с плечом.

Приводимый в статье пример: удачно купил 4 месяца назад вечный фьючерс USDRUBF, сделал ставку на рост курса доллара, а он и правда вырос за этот срок почти на 4% — с учетом плеча, кажется, что можно было заработать +26%. А по факту взимаемый фандинг превратил эту сделку в убыток –26%, такие дела. Подробнее здесь.

P.S. Про удобный калькулятор фандинга по вечным фьючерсам на Мосбирже писал ранее вот тут.
😱43👍215😁5🤣2
В нашем закрытом клубе идет голосование за следующую книгу для совместного разбора.

Как и в прошлый раз — опять убеждаюсь, что степень любви моих подписчиков к Алексею Маркову трудно переоценить! =)
👍268🤩2🥱2💯2
Саша Фининди рассказывает, в какие скринеры он ходит за облигациями. Для тех, кто инвестирует на российском рынке — полезно: https://xn--r1a.website/Finindie/2408

И заодно еще напомню, что у нас в клубе вот здесь также лежит большой список полезных сервисов для инвесторов: https://rationalanswer.club/post/20/

P.S. В комментах к моему посту (который вы сейчас читаете) можно еще почитать обсуждение по поводу скринеров для зарубежных облигаций.
👍133👎1
Дима Филонов запостил у себя на канале The Edinorog прикольную инфографику про то, как известные тех-стартапы годами проедали кэш инвесторов миллиардами долларов, прежде чем начать зарабатывать положительный денежный поток.

Я смотрю на эти графики и вспоминаю, как 10 лет назад читал посты в стиле «МИР ФИНАНСОВ СОШЕЛ С УМА!! Обезумевшие инвесторы вкладывают деньги в компании с заведомо отрицательной экономикой – глупые хомяки, вы просто выкидываете свои бабки в топку бессмысленного их сжигания! А эти стартаперы вам просто вешают на уши лапшу про якобы прекрасное прибыльное будущее, чтобы поживиться денежками инвесторов!!»

А теперь прошло десять лет, и вишь ты – уже и Тесла в стабильном плюсе, и у Нетфликса всё заколосилось наконец… Ну, окей, у Снэпчата кокос так пока и не растет толком, признаем честно. =) Но в целом: выяснилось-таки, что стратегия «годами прожигаем деньги инвесторов на захват рынка, а потом начинаем из него выжимать сливки» – это не такой уж абсурд, как нас пытались убедить в те годы. Эффективный рыночек порешал в итоге!

P.S. На канал Димы еще подпишитесь обязательно – он очень крутой, всегда с кайфом читаю все посты (и часто беру оттуда новости для своего дайджеста).

Вообще, у меня пару раз здесь на Кипре были комичные ситуации, когда я знакомился с чуваками из мира венчура и представлялся им как «автор Телеграм-канала RationalAnswer» – а они мне отвечали в стиле «да я вообще не читаю эти ваши ТГ-каналы… кроме The Edinorog, вот он збс!» Было немного обидно)
👍40😁218🔥5🦄2👎1🗿1
В продолжение поста на основном канале — сделал авторский мем про структурные продукты, зацените. =)

Также выложил материал в виде статьи на Хабре и на Пикабу: если незамутненная дикость этой истории произвела на вас такое же сильное впечатление, как и на меня — то буду благодарен за поддержку лайками/апвоутами на любой из площадок.)
😁88🔥18🍌14😱5🌚1
Окей, чат, отныне у нас здесь блог с моими авторскими мемами про структурные облигации...
😁234🤣86👏24😭1610🔥5🍌5💯2
Для тех, кто угорает по рационалистам — на днях вышло два материала:

🐌 Профайл Элиезера Юдковского от NY Times. Приурочено к выходу его новой книги с красивым названием "Если кто-то создаст ЭТО, то все умрут" (похоже на вопрос для знатоков из ЧГК, если честно). Такое мы читаем!

🐌 Русскоязычный Forbes выпустил материал про российскую ветку рационалистов. Эта статья уж совсем написана с плохо скрываемым пренебрежением (кое-где — пожалуй, и заслуженным), но там зато есть комментарии Тани Миропольской.
👍19😁2
К слову, вот Юдковский со своей текущей спутницей жизни. Ну чисто "тактильный полиаморный котик, общаюсь словами через рот, читайте мой тред из Тбилиси!".

Кстати, кто читал вот этот фанфик Юдковского? Реально в три раза более объемный, чем HPMoR? 🤔

Brevity is not Mr. Yudkowsky’s strong suit — another of his works, a B.D.S.M.-themed Dungeons & Dragons fan fiction that contains his views of decision theory, clocks in at 1.8 million words.


UPD: Обнаружена подробная рецензия на шыдевр.
😁37🗿15👍6🔥1
Не могу перестать думать про вот эту картинку из паспорта печально известных структурок ВТБ. Это настолько абсурдно, что не выходит у меня из головы.

Смотрите, на момент выпуска этой двухлетней структурной ноты доходность государственных ОФЗ была 12% годовых – купив гособлигации, можно было гарантированно получить эту доходность вообще без риска. ВТБ в этот момент выпускает свою «облигацию» с купоном в размере 14% (по итогу размещения купон установился чуть выше, на уровне 15%, но это картинку не меняет по сути). То есть, уже даже на уровне тупо сравнения процентных ставок – выгоды у продукта было очень мало (в сравнении с принимаемыми инвестором на себя рисками).

Ну и далее эмитент сам расписывает возможные сценарии, чем может закончиться покупка этого продукта для инвестора:

🐌 Умеренный сценарий (читай: что скорее всего произойдет): доходность ~2% годовых. То есть, сам продавец как бы с порога говорит: «мы вам продаем то, что должно приносить 12%, а принесет почти наверняка только 2% – так что, каждый год мы будем складывать по 10% себе в карман, и поимеем с вас около 20% за два года 👍» (для простоты тут не учитывается нигде сложный процент).

🐌 Стресс-сценарий: «В худшем для тебя, инвестор, случае ты потеряешь 70% от вложенного. Наша выгода составит, с учетом неполученной тобой безрисковой доходности за два года, 94% от вложенной суммы.»

🐌 Позитивный сценарий: «Даже в самом чудесном исходе, согласно нашим моделям, инвестор получит доходность 10% вместо безрисковых 12% по ОФЗ. Мы положим себе в карман за два года всего 4%, печалька.»

Получается, тут даже просто на уровне спецификации сложновато найти намек на то, что в каком-то из вероятных сценариев инвестор останется в плюсе (по сравнению с базовой безрисковой альтернативой в виде ОФЗ).

Это буквально строго хуже, чем в казино: там, по крайней мере, когда ставишь на красное в рулетке – есть вероятность 47% удвоить свою ставку. А здесь эмитент сам в открытую признается инвестору: «братан, мы тут всё аккуратно посчитали – ты проиграешь вообще в любом случае; единственный открытый вопрос – насколько сильно? Уйдешь только без денег, или еще и без штанов?»

Интересно, как потом спалось «личным инвестиционным менеджерам» банка, которые помогали «премиум-клиентам» не упустить «выгодную эксклюзивную инвестиционную возможность»… (Впрочем, с мест сообщают, что настоящим Private VIP-клиентам такое стараются не предлагать – только тем, кто находится ближе к нижней границе имущественного ценза на квалинвестора.)
👍66😁52🤯26🤔1611😢4🤣3🔥2
Подъехал очередной пруф, что мы живем в симуляции: главного партнера экстремистской Меты Цукерберга по дизайну смарт-AI-очков, оказывается, возглавляет чувак по имени Rocco Basilico!

Для тех, кто не в курсе: в среде рационалистов и AI-думеров есть древний мем про Василиска Роко. Это такой остроумный мысленный эксперимент про гипотетический будущий сверхсильный искусственный интеллект, главное предназначение которого — страшно карать всех, кто в прошлом не прикладывал все возможные усилия для создания этого самого ИИ.

По задумке, идея тут в том, что это должно становиться своего рода "самосбывающимся пророчеством". Никому не должно быть выгодно делать такого отбитого Василиска, но раз уж кто-то запустил такую идею в народные массы — возможно, часть людей воспримет это всерьез и начнут такую хрень делать... И если есть такая вероятность, то на всякий случай лучше тоже способствовать появлению этой штуки — чтобы она потом после возникновения тебе не предъявила "а ты чё, Георгий, в сторонке стоял и не помогал??"

Короче, это шутка на стыке теории принятия решений и массовой психологии. Что-то вроде гулявших по Твиттеру опросов про две кнопки, где все нажавшие синюю кнопку умирают, если больше 50% ответивших не нажмут эту синюю кнопку.

Но когда узнаешь, что над Meta AI Glasses работает щегол по имени практически "Рокко Василисков" — поневоле, задумываешься...
😁106🤣3515😈7🤔5🤷‍♂1🤯1🌚1
Здесь, конечно, вспоминается платиновый твит:

— Писатель-фантаст: "В своей книге я придумал «Нексус Мучений» как предостережение"

— Тех-стартап: "Наконец-то мы смогли создать «Нексус Мучений» из классического научно-фантастического романа «Не создавайте Нексус Мучений»..."
😁1519🌚6👍3🔥3
Завтра мы в нашем закрытом клубе обсуждаем фильм "Лжец, великий и ужасный" по истории крупнейшей финансовой пирамиды Берни Мэдоффа. Роль Мэдоффа там исполняет Роберт Де Ниро.

В прошлый раз мы таким макаром вместе смотрели "Margin Call" и "The Big Short" — получилось прикольно. Я там давал много дополнительного контекста и объяснений по финансам, которые позволяли лучше понять фильм и события, происходившие в реальном мире и послужившие первоисточником.

Кто хочет — присоединяйтесь к нам!
👍35🔥134🥱2🥴1
На той неделе писал пост про анти-интеллектуальные срачи в Твиттере, которые неизменно заставляют меня грустить. Я сам стараюсь всегда спорить максимально «честно» и с потенциальной готовностью «переубедиться», если есть такая возможность. (Получается не всегда идеально – но надо к этому хотя бы стремиться.)

В комментах мне там многие написали на тему: «Это, конечно, круто! Но в жизни не всегда хотелось бы выступать в роли изысканного дуэлянта в лосинах и с кодексом чести, которого валяют в грязи три мужика с суковатыми дубинами, спорящие как умеют».

Эта проблема точно есть. Но мне кажется, что идеальный подход тут такой: надо всё-таки оставаться тем, кто скорее повышает, а не понижает интеллектуальный и культурный уровень дискуссии. Но при этом неплохо бы одновременно владеть всем инструментарием эффективного убеждения в споре – и применять его при необходимости. Иначе может получиться печально: вы отстаивали сторону истины и не пользовались «грязными» приемами – но в глазах окружающих спор всё равно проиграли, и мир не стал чуточку лучше.

Через несколько дней (23 сентября, во вторник) стартует курс от моих друзей из Level One «Как убеждать людей и побеждать в спорах» – там Виктор Горбатов как раз учит тому, как хорошо и эффективно спорить на системном уровне. Виктор и сам крутой, и этот его курс тоже хороший – смело на него записывайтесь (не забудьте про скидку 30% по промокоду RATIONAL).

#честная_реклама | о рекламе

Реклама. ИП Погожева Анастасия Андреевна. ИНН 504790802267.
😁3312🥴10👍7🥱6
Сегодня у нас в закрытом чате "марафон обсуждения пирамиды Мэдоффа", ищу там для каждого своего поста архивные фотки Берни. И... набрел на этот шедевр в жанре ЖАЛКАЯ ПАРОДИЯ / НЕПОВТОРИМЫЙ ОРИГИНАЛ. =)

Начинаю подозревать, что где-то существует тайная школа лохотронщиков — и у них там отдельным обязательным предметом идет "как высокорангово сидеть в притягивающей деньги позе"!
😁104🔥1511