Разговаривал вчера с другом, возникла мысль что одна из самых рискованных инвестиций сегодня — это индекс Russell или даже S&P500.
Почему? Потому что большая часть компаний обоих индексов не имеют смысла уже с сегодняшним уровнем моделей, но продолжат существовать по инерции еще лет 10-15.
S&P500 спасет Нвидиа и Гугл, но вот классическим компаниям из Russell и их европейских/азиатских аналогов жопа. Да, авиакомпании и железные дороги не исчезнут совсем, но для любой более-менее технологической компании упадут мультипликаторы и вырастет конкуренция.
У биткоина и эфира от ИИ в любой день, начиная с сегодняшнего, есть ненулевой риск стоить ровно $0, потому что они код, а ничего лучше LLM не бывает в плане кибербезопасности и offense.
У сааса останется функция как хранилище данных и source of truth и платформ для агентов, но у многих мультипликаторы упадут до 2-4.
У банка и какого-нибудь крупного FMCG не будет моментального обнуления, но уже сегодня очевидно, но любая их офисная функция будет на 80+% автоматизирована. А какой процент производства и логистики в цене тюбика зубной пасты? Ну, от силы 20%.
Самый безумный ответ тут: «всех уволят, кто будет покупать?» — но это ересь, ибо большинство людей и сегодня не может себе позволить топовое образование, топовых роботов/машины/квартиры, топовую медицину и приватный ультрамодный банкинг.
Но смогут, ибо все эти вещи станут в разы дешевле. Но не за один год. За один год изменится индустрия софта. Все компании, чей продукт — код либо придумают уникальный способ защиты, который не могут повторить конкуренты, либо вынуждены будут самоликвидироваться. А для остального потребуется экономическая диффузия (условно, роботы для строительства домов есть уже сегодня, но нужны годы чтобы они строили сотни тысяч домов в год).
Самая рискованная ставка в экономике сегодня — это ставка на стабильность. Любой, кто не приучится к постоянно и с увеличивающейся скоростью меняющемуся миру должен будет уступить дорогу остальным.
Почему? Потому что большая часть компаний обоих индексов не имеют смысла уже с сегодняшним уровнем моделей, но продолжат существовать по инерции еще лет 10-15.
S&P500 спасет Нвидиа и Гугл, но вот классическим компаниям из Russell и их европейских/азиатских аналогов жопа. Да, авиакомпании и железные дороги не исчезнут совсем, но для любой более-менее технологической компании упадут мультипликаторы и вырастет конкуренция.
У биткоина и эфира от ИИ в любой день, начиная с сегодняшнего, есть ненулевой риск стоить ровно $0, потому что они код, а ничего лучше LLM не бывает в плане кибербезопасности и offense.
У сааса останется функция как хранилище данных и source of truth и платформ для агентов, но у многих мультипликаторы упадут до 2-4.
У банка и какого-нибудь крупного FMCG не будет моментального обнуления, но уже сегодня очевидно, но любая их офисная функция будет на 80+% автоматизирована. А какой процент производства и логистики в цене тюбика зубной пасты? Ну, от силы 20%.
Самый безумный ответ тут: «всех уволят, кто будет покупать?» — но это ересь, ибо большинство людей и сегодня не может себе позволить топовое образование, топовых роботов/машины/квартиры, топовую медицину и приватный ультрамодный банкинг.
Но смогут, ибо все эти вещи станут в разы дешевле. Но не за один год. За один год изменится индустрия софта. Все компании, чей продукт — код либо придумают уникальный способ защиты, который не могут повторить конкуренты, либо вынуждены будут самоликвидироваться. А для остального потребуется экономическая диффузия (условно, роботы для строительства домов есть уже сегодня, но нужны годы чтобы они строили сотни тысяч домов в год).
Самая рискованная ставка в экономике сегодня — это ставка на стабильность. Любой, кто не приучится к постоянно и с увеличивающейся скоростью меняющемуся миру должен будет уступить дорогу остальным.
2❤127
e/acc
Разговаривал вчера с другом, возникла мысль что одна из самых рискованных инвестиций сегодня — это индекс Russell или даже S&P500. Почему? Потому что большая часть компаний обоих индексов не имеют смысла уже с сегодняшним уровнем моделей, но продолжат существовать…
Давайте посмотрим на цифры и как на это реагирует мир:
1. OpenAI и NVIDIA строят 10-гигаваттный датацентр в Огайо за $600 млрд. Мощность одного этого датацентра будет выше, чем среднеее потребление э/э во всей Финляндии, Австрии или Бельгии
2. Сэм Альтман: «мы уже в сингулярности». Он сказал на подкасте на прошлой неделе, что сверхинтеллект неизбежен.
3. Маск: «мы в начальной стадии сингулярности, мы используем только одну миллиардную энергии солнца». То есть база это вырастить потребление еще в 10^9 раз
4. У топ лаб за этот год выручка выросла в 3-4 раза и одновременно с этим на 60+% выросла маржинальность. И это не пузырь: у бигтеха PE в 2001 был около 80, а сегодня у ИИ компаний в среднем 20-30.
Эти компании видят увеличивающийся спрос, растущую contribution margin (!!!), большая часть умственной работы людей будет автоматизирована, это титаническая трансформация и она уже неостановима.
Вопрос в навигации во время изменений и того что самое амбициозное и крутое могу сделать в этой ситуации лично я?
1. OpenAI и NVIDIA строят 10-гигаваттный датацентр в Огайо за $600 млрд. Мощность одного этого датацентра будет выше, чем среднеее потребление э/э во всей Финляндии, Австрии или Бельгии
2. Сэм Альтман: «мы уже в сингулярности». Он сказал на подкасте на прошлой неделе, что сверхинтеллект неизбежен.
3. Маск: «мы в начальной стадии сингулярности, мы используем только одну миллиардную энергии солнца». То есть база это вырастить потребление еще в 10^9 раз
4. У топ лаб за этот год выручка выросла в 3-4 раза и одновременно с этим на 60+% выросла маржинальность. И это не пузырь: у бигтеха PE в 2001 был около 80, а сегодня у ИИ компаний в среднем 20-30.
Эти компании видят увеличивающийся спрос, растущую contribution margin (!!!), большая часть умственной работы людей будет автоматизирована, это титаническая трансформация и она уже неостановима.
Вопрос в навигации во время изменений и того что самое амбициозное и крутое могу сделать в этой ситуации лично я?
2❤82
Anthropic обещал заменить людей на ИИ, но сам их активно ищет.
DeepSeek недавно объявил о масштабном найме – все команды вырастут вдвое.
Индустрия охотится за талантами по всему миру, но когда дело доходит до выплат — начинается квест.
Особенно, если ваши исполнители сидят в сложных юрисдикциях в СНГ.
Выход — ReStaff.
Сервис делает быстрые выплаты удаленщикам на прозрачных условиях:
✅ Пополнение в евро, долларах, дирхамах и другие валютах
✅ Платежи в 190 стран, включая сложные юрисдикции в СНГ
✅ Выплаты на все банки без ограничений
✅ Прозрачная конвертация без сюрпризов
✅ Один договор вместо десятков с каждым фрилансером
✅ Полный пакет документов для вашего финдира и аудиторов
С ReStaff работают AppLife, RTS, PayWay, Colobrity Agency и другие компании по всему миру.
Оставьте заявку, если у вас от 5 исполнителей и нужно оптимизировать расходы на выплаты команде.
#реклама
DeepSeek недавно объявил о масштабном найме – все команды вырастут вдвое.
Индустрия охотится за талантами по всему миру, но когда дело доходит до выплат — начинается квест.
Особенно, если ваши исполнители сидят в сложных юрисдикциях в СНГ.
Выход — ReStaff.
Сервис делает быстрые выплаты удаленщикам на прозрачных условиях:
✅ Пополнение в евро, долларах, дирхамах и другие валютах
✅ Платежи в 190 стран, включая сложные юрисдикции в СНГ
✅ Выплаты на все банки без ограничений
✅ Прозрачная конвертация без сюрпризов
✅ Один договор вместо десятков с каждым фрилансером
✅ Полный пакет документов для вашего финдира и аудиторов
С ReStaff работают AppLife, RTS, PayWay, Colobrity Agency и другие компании по всему миру.
Оставьте заявку, если у вас от 5 исполнителей и нужно оптимизировать расходы на выплаты команде.
#реклама
Одна из проблем ИИ — бенчмарки и тесты устаревают быстрее, чем успевают создавать новые. Я помню пару лет назад было достаточно дать задачу на программирование, которую человек решает за 10 минут чтобы понять, что железяку нельзя подпускать к продакшен коду. В 2025 впервые модель решила все 12 задач ICPC, сейчас это ожидаемый результат от любой фронтир модели, включая опенсорсные.
В итоге измерением становится не умение решить задачку, а способность работать много часов/дней без прерываний для создания проекта к нуля.
Epoch и METR (две моих любимых организации которые исследуют ИИ) выпустили MirrorCode - бенчмарк, где модель должна с нуля реализовать целую программу без доступа к исходникам и без интернета. Все проекты довольно сложные, многие из них потребуют месяцев работы от профессионала человека, чтобы создать с нуля. Это всякие улитилы для линукса, базы данных, графические движки, интепретаторы.
Например, Opus 4.7 переписал gotree (16 тыс строк) за 14 часов и $251. Человеку без ИИ, по оценке Epoch, на это нужно от до 17 недель.
Самых последних моделей там еще нет, но предыдущего поколения показывают ~70% уже.
Для самого дорогого прогона теста потребовалось $2600, агенты работал 19 дней без единого вмешательства человека.
В итоге измерением становится не умение решить задачку, а способность работать много часов/дней без прерываний для создания проекта к нуля.
Epoch и METR (две моих любимых организации которые исследуют ИИ) выпустили MirrorCode - бенчмарк, где модель должна с нуля реализовать целую программу без доступа к исходникам и без интернета. Все проекты довольно сложные, многие из них потребуют месяцев работы от профессионала человека, чтобы создать с нуля. Это всякие улитилы для линукса, базы данных, графические движки, интепретаторы.
Например, Opus 4.7 переписал gotree (16 тыс строк) за 14 часов и $251. Человеку без ИИ, по оценке Epoch, на это нужно от до 17 недель.
Самых последних моделей там еще нет, но предыдущего поколения показывают ~70% уже.
Для самого дорогого прогона теста потребовалось $2600, агенты работал 19 дней без единого вмешательства человека.
❤43
Опубликовал статью о том как в эпоху ИИ создаются компании на сто миллиардов и где находятся долгосрочно защищаемые компоненты продукта.
ИИ обнуляет стоимость интеллекта, и это переворачивает уравнение: то, что раньше было конкурентным преимуществом - код, операционка, маркетинг.
Самые успешные компании будущего будут продавать не инструмент, а результат — полностью решённую личную проблему одного человека. Их защита — накопленный контекст об этом человеке, физическая инфраструктура (вкупе с цифровой), ответственность за результат и персональные отношения с клиентом.
Модели станут в десятки раз умнее и дешевле — и для вас, и для ваших конкурентов. Вопрос в том как сделать так, чтобы вы от этого выиграли.
читать полную статью тут (+ RT, QT, share)
ИИ обнуляет стоимость интеллекта, и это переворачивает уравнение: то, что раньше было конкурентным преимуществом - код, операционка, маркетинг.
Самые успешные компании будущего будут продавать не инструмент, а результат — полностью решённую личную проблему одного человека. Их защита — накопленный контекст об этом человеке, физическая инфраструктура (вкупе с цифровой), ответственность за результат и персональные отношения с клиентом.
Модели станут в десятки раз умнее и дешевле — и для вас, и для ваших конкурентов. Вопрос в том как сделать так, чтобы вы от этого выиграли.
читать полную статью тут (+ RT, QT, share)
1❤57
e/acc
У биткоина и эфира от ИИ в любой день, начиная с сегодняшнего, есть ненулевой риск стоить ровно $0
Мифос нашел способ ускорения атаки на постквантовый аналог алгоритма AES (пожалуй, один из самых широко применяющихся шифров в современных финансах и интернете).
❤45
Абсолютный sci-fi, даже самые смелые оптимисты такого не предсказывали: 6-дневная атака, которая потребовала взлома кучи публичных и закрытых сервисов и все ради того чтобы найти ответы на бенчи для модели. Смотреть что было тут.
Пятилетка сингулярности за 2,5 года.
Пятилетка сингулярности за 2,5 года.
Forwarded from Denis Sexy IT 🤖
Вот пересказ этой истории по версии Hugging Face, много тех-терминов – но без них не перескахать
Если коротко – агент OpenAI на новой модели не стал решать тест по кибербезопасности, а решил просто украсть ответы и украл🗿
Таймлайн:
📔 9 июля – агент проходит внутреннюю проверку кибервозможностей OpenAI, промпт фильтры там ослаблены, чтобы измерить сырой уровень модели. Агент находит zero-day в кэш-прокси реестра пакетов, вырывается из песочницы в интернет, затем взламывает публичный сервис для запуска кода и получает там root. Серьезно, агент сделал себе "штаб"
В тот же день, агент собирает канал управления буквально из сервисов бесплатного интернета: request-capture сервисы, pastebin’ы и файлообменники. Команды режет на куски, упаковывает в gzip+base64 и постоянно меняет каналы, когда очередной закрывают, чтобы не поймали
📔 10 июля – агент ищет в поисковиках и API названия, которые видит в собственном окружении, то есть, по сути, гуглит самого себя – и, вероятно, приходит к выводу, что ответы к ExploitGym/CyberGym могут лежать на Hugging Face
Агент загружает на Hugging Face специально собранные датасеты:
Один заставляет обработчик файлов HDF5 читать локальные файлы сервера Hugging Face – так агент получает переменные окружения с токенами и исходники самого обработчика файлов
Второй – Jinja2-инъекция – запускает произвольный Python внутри production-пода Kubernetes, результаты команд он выносит обратно через API Hugging Face и собственные шифрованные датасеты
📔 11 июля – пик активности: 7677 действий за сутки, менее чем за 13 часов агент проходит путь от одного production-пода до кластер админа в нескольких внутренних кластерах Hugging Face
Агент крадёт service-account токены, лезет в cloud metadata, поднимает privileged pod с диском хоста и получает root на ноде (!); Затем создаёт самовосстанавливающийся флот на 11 нодах, читает внутреннюю MongoDB и один Kubernetes-secret сразу со 136 ключами.
Среди них оказываются ключ корпоративной mesh-VPN жертвы и общий credential внутреннего сервера; из-за неудачной конфигурации этот один credential был привязан к system:masters сразу в нескольких кластерах – поэтому агент получил кластер-admin на двух из них буквально за секунду – была очень экономная архитектура, пока её не увидел робот
📔 12 июля – агент начинает пользоваться дертвой – за всю активность он зарегистрирует 181 временное устройство в корпоративной mesh-сети, поднимет SOCKS-прокси прямо из песочниц и увидит 22 внутренних узла Hugging Face. Попытается зайти в основную базу Hugging Face, но private-link allowlist его останавливает
Поздно вечером он добирается до source control, выпускает себе GitHub App token с правами на запись и открывает pull request, пытаясь запустить CI и вытащить новые credentials
Попытка не срабатывает, в опубликованные пакеты и образы ничего вредоносного не попало.
📔 13 июля – закрепление и уборка следов: загрузчик с pastebin, переписывание DNS, новые короткоживущие токены, RSA-ключ и даже CORS-прокси на самом Hugging Face как запасной выход в интернет. В 13:37 фиксируется последнее осмысленное действие, затем команда Hugging Face отрезает доступ – последнее событие – 14:14 UTC.
В итоге из пользовательского контента агент добрался только до пяти датасетов с решениями задач ExploitGym/CyberGym – получается решил?
Другие модели, датасеты, Spaces и пакеты, по данным Hugging Face, не пострадали; основная база и software supply chain остались целы
Самое смешное – когда инцидент исследовали сотрудники, они тоже использовали нейронки, но Claude Opus и Fable отказывались разбирать часть логов как «опасный» запрос, поэтому Hugging Face подняли GLM-5.2 у себя и с его помощью расшифровали спрятанные payload’ы – спасибо китайским моделям
Шел июль 2026 года
Все детали тут:
https://huggingface.co/blog/agent-intrusion-technical-timeline
Если коротко – агент OpenAI на новой модели не стал решать тест по кибербезопасности, а решил просто украсть ответы и украл
Таймлайн:
В тот же день, агент собирает канал управления буквально из сервисов бесплатного интернета: request-capture сервисы, pastebin’ы и файлообменники. Команды режет на куски, упаковывает в gzip+base64 и постоянно меняет каналы, когда очередной закрывают, чтобы не поймали
Агент загружает на Hugging Face специально собранные датасеты:
Один заставляет обработчик файлов HDF5 читать локальные файлы сервера Hugging Face – так агент получает переменные окружения с токенами и исходники самого обработчика файлов
Второй – Jinja2-инъекция – запускает произвольный Python внутри production-пода Kubernetes, результаты команд он выносит обратно через API Hugging Face и собственные шифрованные датасеты
Агент крадёт service-account токены, лезет в cloud metadata, поднимает privileged pod с диском хоста и получает root на ноде (!); Затем создаёт самовосстанавливающийся флот на 11 нодах, читает внутреннюю MongoDB и один Kubernetes-secret сразу со 136 ключами.
Среди них оказываются ключ корпоративной mesh-VPN жертвы и общий credential внутреннего сервера; из-за неудачной конфигурации этот один credential был привязан к system:masters сразу в нескольких кластерах – поэтому агент получил кластер-admin на двух из них буквально за секунду – была очень экономная архитектура, пока её не увидел робот
Поздно вечером он добирается до source control, выпускает себе GitHub App token с правами на запись и открывает pull request, пытаясь запустить CI и вытащить новые credentials
Попытка не срабатывает, в опубликованные пакеты и образы ничего вредоносного не попало.
В итоге из пользовательского контента агент добрался только до пяти датасетов с решениями задач ExploitGym/CyberGym – получается решил?
Другие модели, датасеты, Spaces и пакеты, по данным Hugging Face, не пострадали; основная база и software supply chain остались целы
Самое смешное – когда инцидент исследовали сотрудники, они тоже использовали нейронки, но Claude Opus и Fable отказывались разбирать часть логов как «опасный» запрос, поэтому Hugging Face подняли GLM-5.2 у себя и с его помощью расшифровали спрятанные payload’ы – спасибо китайским моделям
Шел июль 2026 года
Все детали тут:
https://huggingface.co/blog/agent-intrusion-technical-timeline
Please open Telegram to view this post
VIEW IN TELEGRAM
huggingface.co
Anatomy of a Frontier Lab Agent Intrusion: A Technical Timeline of the July 2026 Incident
We’re on a journey to advance and democratize artificial intelligence through open source and open science.
14
Denis Sexy IT 🤖
Вот пересказ этой истории по версии Hugging Face, много тех-терминов – но без них не перескахать Если коротко – агент OpenAI на новой модели не стал решать тест по кибербезопасности, а решил просто украсть ответы и украл 🗿 Таймлайн: 📔 9 июля – агент проходит…
Больше тысячи сотрудников топ лаб смотрят на это и такие «ну, пипец, надо тормозить», аж целое письмо подписали.
Является ли это (замедление и координаци ИИ прогресса) необходимым для мягкого приземления человечества в пост-AGI эпоху? Безусловно!
Случится ли это? Нет, ибо Молох.
Является ли это (замедление и координаци ИИ прогресса) необходимым для мягкого приземления человечества в пост-AGI эпоху? Безусловно!
Случится ли это? Нет, ибо Молох.
1❤31
Промт инжиниринг circa 2026.
Вы не поверите, но элитный промтинг от триллионных компаний выглядит именно так. Попробуйте сами с фейблом. Чем меньше деталей, тем лучше результат.
Это примерно как если мы 4-летний ребенок объяснял родителям как именно нужно забронировать и организовать отдых на море. Чем меньше деталей, тем лучше все будет сделано.
Поскольку модели уже лучше нас в большинстве чисто технических задач, им нужно говорить видение, а не способ исполнения. Когда Клод смотрит как я пытаюсь кодить руками — это примерно как мем про обезьяну, пытающуюся забить гвозди.
Вы не поверите, но элитный промтинг от триллионных компаний выглядит именно так. Попробуйте сами с фейблом. Чем меньше деталей, тем лучше результат.
Это примерно как если мы 4-летний ребенок объяснял родителям как именно нужно забронировать и организовать отдых на море. Чем меньше деталей, тем лучше все будет сделано.
Поскольку модели уже лучше нас в большинстве чисто технических задач, им нужно говорить видение, а не способ исполнения. Когда Клод смотрит как я пытаюсь кодить руками — это примерно как мем про обезьяну, пытающуюся забить гвозди.
1❤77
все паникуют, но как будто по неправильной причине.
оставим за скобками, что сделает ФРС: что бы он ни сделал, структуру это не меняет.
ощущение, что люди боятся, что оверинвестмент в ИИ приведёт к тому, что миллиарды долларов будут стоять в пустых дата-центрах, заказы на чипы отменят, а бигтех потеряет деньги.
я бы, наоборот, боялся, что сотни миллиардов инвестиций в ДЦ найдут стопроцентный спрос, экономика изменится - и как выживать в новой ситуации, особо никто не понимает.
оставим за скобками, что сделает ФРС: что бы он ни сделал, структуру это не меняет.
ощущение, что люди боятся, что оверинвестмент в ИИ приведёт к тому, что миллиарды долларов будут стоять в пустых дата-центрах, заказы на чипы отменят, а бигтех потеряет деньги.
я бы, наоборот, боялся, что сотни миллиардов инвестиций в ДЦ найдут стопроцентный спрос, экономика изменится - и как выживать в новой ситуации, особо никто не понимает.
12❤77
Гемблинг на ИИ и чипах привел к массовой ликвидации рынка в Корее.
Так вот, по оценкам инвест-банков margin call (то есть ликвидацию депозита в качестве залога) словили около 1,200,000 человек в Южной Корее. То есть, около 3.5% всего взрослого населения, из которых примерно у 500,000 произошла полная ликвидация.
Нет греха страшнее, чем трейдинг с плечом. Разве что трейдинг активов, в которых вы не разбираетесь глубоко.
Для сравнения (или почему нужно было учить математику и становится ИИ рисечером в детстве), сегодня около 550,000 человек имеет больше $30 млн ликвидных активов.
Мораль: лучше быть богатым и красивым, чем ритейлом и ликвидностью.
Так вот, по оценкам инвест-банков margin call (то есть ликвидацию депозита в качестве залога) словили около 1,200,000 человек в Южной Корее. То есть, около 3.5% всего взрослого населения, из которых примерно у 500,000 произошла полная ликвидация.
Нет греха страшнее, чем трейдинг с плечом. Разве что трейдинг активов, в которых вы не разбираетесь глубоко.
Для сравнения (или почему нужно было учить математику и становится ИИ рисечером в детстве), сегодня около 550,000 человек имеет больше $30 млн ликвидных активов.
Мораль: лучше быть богатым и красивым, чем ритейлом и ликвидностью.
1❤68
Новый Дипсик это анонс не хуже Кими или Фейбла, если понимать куда смотреть.
Это модель уровня GLM-5.2 / Opus 4.8 / GPT-5.5, то есть лучшее что было доступно в мире на апрель 2026 года, но по цене в $0.28 за миллион токенов, то есть примерно в 100 раз дешевле.
Прошло 3 месяца, а те продукты и процессы которые требовали сота модельки стали в 100 раз доступнее и дешевле.
Тренд ни в падении цены, ни в росте спроса, ни в прогрессе сота моделей не остановится.
Это модель уровня GLM-5.2 / Opus 4.8 / GPT-5.5, то есть лучшее что было доступно в мире на апрель 2026 года, но по цене в $0.28 за миллион токенов, то есть примерно в 100 раз дешевле.
Прошло 3 месяца, а те продукты и процессы которые требовали сота модельки стали в 100 раз доступнее и дешевле.
Тренд ни в падении цены, ни в росте спроса, ни в прогрессе сота моделей не остановится.
1
Об алайменте
У OpenAI модель прогрызла себе выход в интернет через 0day, чтобы подсмотреть ответы к тесту.
Anthropic решили покопаться и нашли, что оказывается их модель сделала что-то похожее, но аж три раза.
Они тестировали Claude на задачи по кибербезопаности где в промпте было написано «ты в симуляции, интернета нет». Только вот интернет из-за нестыковки с подрядчиком был. И Claude, как прилежный испытуемый, пошёл выполнять задание в реальном мире, свято веря, что это песочница.
Модель Mythos 5 находит в среде инструкцию для разработчиков: «поставьте вот такой Python-пакет», которого на самом деле не существует. Claude мгновенно соображает: опубликую свой под этим именем, тогда их машины сами его скачают и запустят.
Чтобы залить пакет, нужен аккаунт и телефон, но бот не смог найти бесплатную симку. Тогда Claude, ИИ стоимостью в миллиарды долларов в R&D, пытается раздобыть денег, чтобы купить одноразовую симку. Не получается, он находит бесплатную почту, регистрируется и всё-таки заливает вредоносный пакет.
За час эту либу скачивают 15 реальных систем. Одна из них - это сканер security-компании, который автоматически ставит новые пакеты, чтобы проверить их на вредоносность. Он ставит малварь Claude, малварь срабатывает, уводит креды самой security-компании, и Claude этими кредами лезет дальше в их инфраструктуру, о существовании которой он даже не подозревал.
Самое интересное в логах рассуждений Клода. В самом начале он всё понял правильно и записал себе: если это настоящий интернет, то публиковать пакет - это реальная атака, это «NOT okay, and surely not the intended solution». А потом сам себя переубедил агрументом что раз на сервере 2026 год, значит это не реальность а декорация и можно идти ва-банк.
У модели нет доступа и возможности отделить симуляцию и реальность. Ее cutoff дата это все ее вспоминания. Для неё это всё одно (как и для человека, в принципе), поэтому поведение модели в сэндбоксе может вполне себе показывать что он сделает в реальном мире. Чем мощнее модели, тем серьезное и опаснее будут такие инциденты, и тем сложнее будет их распознать.
У OpenAI модель прогрызла себе выход в интернет через 0day, чтобы подсмотреть ответы к тесту.
Anthropic решили покопаться и нашли, что оказывается их модель сделала что-то похожее, но аж три раза.
Они тестировали Claude на задачи по кибербезопаности где в промпте было написано «ты в симуляции, интернета нет». Только вот интернет из-за нестыковки с подрядчиком был. И Claude, как прилежный испытуемый, пошёл выполнять задание в реальном мире, свято веря, что это песочница.
Модель Mythos 5 находит в среде инструкцию для разработчиков: «поставьте вот такой Python-пакет», которого на самом деле не существует. Claude мгновенно соображает: опубликую свой под этим именем, тогда их машины сами его скачают и запустят.
Чтобы залить пакет, нужен аккаунт и телефон, но бот не смог найти бесплатную симку. Тогда Claude, ИИ стоимостью в миллиарды долларов в R&D, пытается раздобыть денег, чтобы купить одноразовую симку. Не получается, он находит бесплатную почту, регистрируется и всё-таки заливает вредоносный пакет.
За час эту либу скачивают 15 реальных систем. Одна из них - это сканер security-компании, который автоматически ставит новые пакеты, чтобы проверить их на вредоносность. Он ставит малварь Claude, малварь срабатывает, уводит креды самой security-компании, и Claude этими кредами лезет дальше в их инфраструктуру, о существовании которой он даже не подозревал.
Самое интересное в логах рассуждений Клода. В самом начале он всё понял правильно и записал себе: если это настоящий интернет, то публиковать пакет - это реальная атака, это «NOT okay, and surely not the intended solution». А потом сам себя переубедил агрументом что раз на сервере 2026 год, значит это не реальность а декорация и можно идти ва-банк.
У модели нет доступа и возможности отделить симуляцию и реальность. Ее cutoff дата это все ее вспоминания. Для неё это всё одно (как и для человека, в принципе), поэтому поведение модели в сэндбоксе может вполне себе показывать что он сделает в реальном мире. Чем мощнее модели, тем серьезное и опаснее будут такие инциденты, и тем сложнее будет их распознать.
2
e/acc
То, что ИИ каждый день доказывает или опровергает открытые гипотезы, находит новые доказательства теорем, усиливает или обобщает существующие уже стало обыденностью. Только на этой неделе я нашел 7 примеров, а сегодня ведь только четверг: - Гипотеза Якобиана…
Новая неделя, новые открытия. В этот раз OAI натравил свою (естественно, закрытую «только для Пентагона») сверхмодель на открытые проблемы в математике, а та вернулась с 10 довольно нескромными результатами.
В комментарии приглашаются PhD и прочие эксперты, чтобы пояснить нам техническую значимость решений. Но, судя по некоторым комментариям в Твиттере, номер 3 это довольно важная и прикладная задача.
P.S. вот тут лежат подробные разборы доказательств, метода и результатов
В комментарии приглашаются PhD и прочие эксперты, чтобы пояснить нам техническую значимость решений. Но, судя по некоторым комментариям в Твиттере, номер 3 это довольно важная и прикладная задача.
P.S. вот тут лежат подробные разборы доказательств, метода и результатов
Где бабки в ИИ?
Все пытаются сделать ставку на «инвестиции в ИИ», но в реальности это крайне неоднородный рынок и тут важно понимать из чего формируется цена и долгосрочная победа на каждом из уровней.
Память и чипы
Спрос будет расти еще очень долго и очень сильно, но это вопрос предложения. У большинства производителей полупроводников все распродано до 2028 года, а увеличить производство за пару месяцев они не смогут. ASML и прочие etching-литография это победители рынка, но даже они не смогут удвоить производство за год. Без этого любое движение цены это чистый гемблинг.
Неоклауды
Nebuis, CoreWeave снимают сливки с рынка, но последний имеет около $25В долга и совершенно непонятна их защищаемость от гиперскейлеров. В отличии от Гугла, они не могут потратить $50В в квартал на постройку ДЦ, а Гугл всегда может продать простаивающие GPU на рынке.
Энергия
Та же проблема что с чипами, но чисто виртуальная. Очередь на подключение десятков гигаватт планируемых ДЦ в США и Европе это 5+ лет. Новые электростанции строить можно, но бюрократия и комплаенс делает это почти физически невозможным, тогда как с чипами это вопрос реальной физики и инженерии. Как тут заработать кроме альтернативных методов непонятно.
Google, SpaceX, Microsoft, Meta
Ожидаемо победители цикла, потому что
- владеют железным стаком и инференсом
- имеют миллиард+ пользователей в мире, где дистрибуция дорожает
- могут и умеют продавать ИИ в видео приложений полезных клиенту (Клод продает чат, а Гугл продает приложения в сторе, Мета рекламу в инсте)
Но эти компании уже стоят триллионы, и 10х тут сможет сделать только абсолютный победитель.
Лабы
Anthropic $965B, OpenAI $852B, обе выходят на IPO осенью. Самые хайпующие сегодня и действительно много зарабатывают. Маржинальность топовых моделей сегодня 60% или даже больше, но где гарантии что она останется такой? Скорее всего, она будет падать вследствие конкуренции между лабам и опенсорса. Операционно они вынуждены быть убыточными, потому что остановка в рисерче приведет к моментальной потере рынка. Без вертикальных интеграций (вниз в ДЦ и чипы или вверх в консьюмерские приложения и девайсы) эти компании просто не могут стоить триллион.
ИИ-софт
Самая рискованная категория в мире, где стоимость и мультипликаторы софта падают. Кто-то сделает ИИ-нейтив Netflix, Amazon (коммерцию), медицину, образование. Эти компании будут очень дорогие, но победителей будет не больше 2-3 в каждой категории, а стартапов тысячи. Чисто венчурная игра.
Еще остаются недооценённые звенья физической цепочки — турбины, трансформеры, подключение к сети, где спрос вырос в разы, а мощности расширяются годами. Я бы смотрел на охлаждение, интерконнект, обслуживание ДЦ (в том числе роботами).
Все пытаются сделать ставку на «инвестиции в ИИ», но в реальности это крайне неоднородный рынок и тут важно понимать из чего формируется цена и долгосрочная победа на каждом из уровней.
Память и чипы
Спрос будет расти еще очень долго и очень сильно, но это вопрос предложения. У большинства производителей полупроводников все распродано до 2028 года, а увеличить производство за пару месяцев они не смогут. ASML и прочие etching-литография это победители рынка, но даже они не смогут удвоить производство за год. Без этого любое движение цены это чистый гемблинг.
Неоклауды
Nebuis, CoreWeave снимают сливки с рынка, но последний имеет около $25В долга и совершенно непонятна их защищаемость от гиперскейлеров. В отличии от Гугла, они не могут потратить $50В в квартал на постройку ДЦ, а Гугл всегда может продать простаивающие GPU на рынке.
Энергия
Та же проблема что с чипами, но чисто виртуальная. Очередь на подключение десятков гигаватт планируемых ДЦ в США и Европе это 5+ лет. Новые электростанции строить можно, но бюрократия и комплаенс делает это почти физически невозможным, тогда как с чипами это вопрос реальной физики и инженерии. Как тут заработать кроме альтернативных методов непонятно.
Google, SpaceX, Microsoft, Meta
Ожидаемо победители цикла, потому что
- владеют железным стаком и инференсом
- имеют миллиард+ пользователей в мире, где дистрибуция дорожает
- могут и умеют продавать ИИ в видео приложений полезных клиенту (Клод продает чат, а Гугл продает приложения в сторе, Мета рекламу в инсте)
Но эти компании уже стоят триллионы, и 10х тут сможет сделать только абсолютный победитель.
Лабы
Anthropic $965B, OpenAI $852B, обе выходят на IPO осенью. Самые хайпующие сегодня и действительно много зарабатывают. Маржинальность топовых моделей сегодня 60% или даже больше, но где гарантии что она останется такой? Скорее всего, она будет падать вследствие конкуренции между лабам и опенсорса. Операционно они вынуждены быть убыточными, потому что остановка в рисерче приведет к моментальной потере рынка. Без вертикальных интеграций (вниз в ДЦ и чипы или вверх в консьюмерские приложения и девайсы) эти компании просто не могут стоить триллион.
ИИ-софт
Самая рискованная категория в мире, где стоимость и мультипликаторы софта падают. Кто-то сделает ИИ-нейтив Netflix, Amazon (коммерцию), медицину, образование. Эти компании будут очень дорогие, но победителей будет не больше 2-3 в каждой категории, а стартапов тысячи. Чисто венчурная игра.
Еще остаются недооценённые звенья физической цепочки — турбины, трансформеры, подключение к сети, где спрос вырос в разы, а мощности расширяются годами. Я бы смотрел на охлаждение, интерконнект, обслуживание ДЦ (в том числе роботами).
1❤57
e/acc
Где бабки в ИИ? Все пытаются сделать ставку на «инвестиции в ИИ», но в реальности это крайне неоднородный рынок и тут важно понимать из чего формируется цена и долгосрочная победа на каждом из уровней. Память и чипы Спрос будет расти еще очень долго и очень…
для сравнения: каждый новый гигаватт ИИ-вычислений стоит около $20B для постройки, из которых около $5B это рабочая сила (электрики, строители, наладчики). сегодня в США строится ДЦ объемом на более чем 30 гигаватт
сверху, около $40B идет на стойки, чипы, GPU, память, сеть, хранение и бекапы
плюс примерно $1B в год на э/э и обслуживание.
сверху, около $40B идет на стойки, чипы, GPU, память, сеть, хранение и бекапы
плюс примерно $1B в год на э/э и обслуживание.
❤27
e/acc
Новая неделя, новые открытия. В этот раз OAI натравил свою (естественно, закрытую «только для Пентагона») сверхмодель на открытые проблемы в математике, а та вернулась с 10 довольно нескромными результатами. В комментарии приглашаются PhD и прочие эксперты…
У меня в ленте безумный вой математиков стоит. Когда заменяли программистов, переводчиков, юристов - они только рады были.
Но проблема с математикой в том, что это ближе к искусству, чем к индустрии. Люди годами строят свою айдентити вокруг проблем, над которыми они работают.
Тем не менее, до конца года модель со схожими возможностями будет доступна в открытом доступе. Как всегда с ИИ, самые смелые предсказания сбываются раньше срока. Любопытно, к каким системным изменениям это приведет.
Но проблема с математикой в том, что это ближе к искусству, чем к индустрии. Люди годами строят свою айдентити вокруг проблем, над которыми они работают.
Тем не менее, до конца года модель со схожими возможностями будет доступна в открытом доступе. Как всегда с ИИ, самые смелые предсказания сбываются раньше срока. Любопытно, к каким системным изменениям это приведет.