Трансформеры, которые «думают»

Пока все обсуждают новые фейлы ChatGPT и новые фичи Claude, в менее хайповом мире, который подарил нам GPT1-GPT3, не останавливаются поиски апгрейда или замены для базовой архитектуры Трансформеров.

Зачем❓

У классических трансформеров есть серьезные минусы. Основной — чем больше текст, звук или изображение и умнее модель, тем больше для нее нужно компьюта, (что очевидно). Но рост у трансформеров выражен квадратичной сложностью (O(n2)).

И вот, кажется, наметился интересный апгрейд. Исследователи из Университета Амстердама, Amazon GenAI, Иллинойского, Стэнфордского и Гарвардского университетов представили новую архитектуру — Energy-Based Transformers (EBT).

Что это такое? Если упростить, EBT — это трансформер, которого научили быть не просто генератором, а верификатором. Вместо того чтобы сразу выдавать ответ, модель присваивает «энергию» для каждой пары «входные данные — возможный ответ». Они оценивают для каждого возможного варианта «энергию» – чем она ниже, тем лучше пара подходит к задаче. Это похоже на то, как если бы модель "искала" наиболее комфортное, естественное состояние данных среди множества возможных вариантов.

Процесс генерации превращается в оптимизацию — поиск ответа с минимальной энергией. Модель итеративно, шаг за шагом, улучшает свой результат, пока не найдёт наилучший вариант. Что это даёт на практике? Результаты заставляют как минимум присмотреться:

▪️ Масштабируются лучше: EBT скейлятся эффективнее, чем современный «Transformer++» на 35% по данным, параметрам и вычислительным ресурсам.
▪️ «Думают» лучше: Во время работы (inference) EBT показывают на 29% больший прирост качества на языковых задачах благодаря своему итеративному подходу.
▪️ Универсальны: Архитектура работает и с дискретными данными (текст), и с непрерывными (изображения). Например, в задаче удаления шума с картинок EBT обошли Diffusion Transformers, сделав меньше проходов.
▪️ Лучше обобщают: При тех же или даже худших результатах претрена EBT дают лучшие результаты на большинстве downstream-задач.

Вывод: EBT — потенциально новый стандарт для создания моделей, которые не только лучше учатся, но и способны на более глубокое, итеративное «мышление».

Ссылка на исследование для самых любопытных: https://arxiv.org/abs/2507.02092

@anti_agi

Предложение от которого откажутся 😏

Perplexity сделал неожиданное предложение: стартап хочет купить браузер Google Chrome за $34,5 млрд кэшом. 🐷🐷🐷

Звучит неожиданно даже не потому, что у компании есть свой Comet-браузер, а потому, что ИИ-поисковик сам оценивается примерно в $18 млрд, а привлек около $1,5 млрд инвестиций.

Такое предложение поступило в тот момент, когда суд рассматривает возможность обязать Google продать Chrome в рамках мер по ослаблению монополии компании на поисковом рынке. Perplexity подтверждает, что в случае успеха сделки планирует инвестировать 3 миллиарда долларов в открытый исходный код Chromium за следующие два года и сохранить Google в качестве поисковой системы по умолчанию для пользователей Chrome.

Интересно, что ранее генеральный директор DuckDuckGo оценивал стоимость Chrome более чем в 50 миллиардов долларов.

Напомним, что Perplexity недавно запустил собственный браузер Comet, стремясь развивать свой бизнес в сфере ИИ-поиска независимо от браузеров, контролируемых конкурентами.

🔤🔤Google пока не прокомментировал это предложение. И не станет, скорее всего. Потому что Chrome — больше, чем просто браузер или популярный вэб-движок, как и сам Google давно уже больше простого поисковика.

@anti_agi

🤖 AID от @anti_agi

Anthropic теперь, как и OpenAI, предлагает госструктурам свои модели по доллару. Но если Альтман предложил это только правительству, то есть исполнительной власти, то Амодеи – «всем трём», то есть ведомствам, законодателям и судебным структурам. Ждем, когда AI компании начнут приплачивать за то, чтобы чиновники пользовались именно их продуктами.

К слову, модели Anthropic как раз увеличили контекстное окно. Для клиентов API Anthropic модель Claude Sonnet 4 оно теперь составляет 1 млн токенов. Это означает, что ИИ может обрабатывать запросы длиной до 750 000 слов, больше чем во «Властелине колец». Раньше лимит был 200 000 токенов, а у GPT-5 от OpenAI он составляет 400 000 токенов.

Что до самой GPT-5, то пользователям явно не зашло, когда у них нет выбора и модель сама выбирает будет она отвечать быстро или думать долго. Или не удалось им сделать нормальный маршрутизатор. В общем, GPT-5 — это не та унифицированная модель ИИ, на которую надеялась OpenAI. Теперь в настройках GPT-5 в панели выбора модели появится выбор: «Авто», «Быстро» или «Мышление». Кроме того, платные пользователи снова получат доступ к GPT-4o, GPT-4.1 и o3.

▪️CoreWeave отчитался второй раз с момента мартовского IPO. Выручка оказалась выше ожиданий аналитиков: $1,21 млрд, тогда как консенсус-прогноз был $1,08 млрд. Зато операционные расходы во II квартале подскочили до $1,19 млрд с $317,7 млн годом ранее. Компания зафиксировала чистый убыток $290,5 млн (аналитики ждали $190,6 млн). В итоге акции компании упали на 10%.

ℹ️Напомню, что облачный AI-провайдер CoreWeave, начинавший как сеть датацентров для майнинга, сейчас управляет 33 AI-датацентрами в США и Европе и предлагает доступ к самым современным чипам Nvidia (которая к тому же является одним из основных ее акционеров).

🔤🔤А у меня на сегодня значимые новости закончились. Если вам мало – можете бонусом посмотреть как робопес на улицах мексиканского Монтеррея разговаривает с людьми о правах животных, чтобы привлечь внимание к проблеме жестокого обращения с животными:

«Привет, я Уолдог, и я здесь, чтобы дать голос тем, у кого его нет, — животным, живущим на улице»

Всем приятного киберпанка!

Intel подтягивает софт для GPU

Intel продолжает развивать Battlematrix — масштабируемую платформу для локального инференса на своих профессиональных GPU (серия Arc Pro). Компания релизнула модуль LLM Scaler 1.0 — контейнерное решение с поддержкой масштабирования до нескольких GPU и передачи данных через PCIe P2P (Peer-to-Peer).

Что появилось в апдейте:

▪️ Ядро инференс-стека — vLLM:
LLM Scaler построен на основе vLLM — популярного фреймворка для инференса LLM. Intel внедрила глубокие оптимизации под свою архитектуру Xe.

▪️ TPOP (Tensor Parallelism Over PCIe) — технология для эффективного распределения тензорных вычислений между несколькими GPU через PCIe.

▪️ By-layer online quantization: динамическое квантование по слоям (например, INT4 для некоторых слоёв, FP16 для других), что снижает объём занимаемой видеопамяти без значительной потери точности. Можно даже без предварительного пересчёта весов.

▪️ Pipeline parallelism (пока в бете): разделение модели по слоям между GPU, что критично для крупных моделей (70B+), когда одна карта не справляется.

▪️ torch.compile: интеграция с компилятором PyTorch для генерации оптимизированного кода, ускоряющего выполнение графа модели.

▪️ Speculative decoding (экспериментально): использование малой "предсказывающей" модели для ускорения генерации токенов большой моделью.

✔️ Также релизнули XPU Manager для управления и диагностики GPU, через который можно настраивать напряжение, проверять ошибки, обновлять микрокод.

Ну и куда без тестов. Теперь в Battlematrix есть OneCCL Benchmark:

➖ Измеряет производительность операций типа all-reduce, broadcast, reduce-scatter
➖ Оптимизирован под Xe Link и PCIe P2P
➖ Позволяет оценить эффективность масштабирования на 2, 4 или 8 GPU

Поддержка моделей в Battlematrix:

✔️ Мультимодальные модели (например, LLaVA, Qwen-VL)
✔️ Модели эмбеддингов (например, BAAI/bge) и rerank (например, nvidia/rerank-multilingual)
✔️ Автоопределение максимальной длины контекста — динамическая адаптация под возможности GPU и объём доступной памяти
✔️ Поддержка Hugging Face Transformers и GGUF (через совместимые бэкенды)

В конце года обещают полноценный релиз Battlematrix с поддержкой масштабирования GPU через Xe Link, улучшенным управлением ресурсами и интеграцией с Kubernetes.

@anti_agi

Залезем даже в мозг, но сделаем рекламу лучше

Знаем ли мы, чего хотим на самом деле? Скорее нет, чем да — ведь исходные сигналы нашего мозга преломляются через призму сознания. В глубине души ты хочешь поглощать джанк-фуд и смотреть на всякие непотребства, но в итоге стремишься к чему-то более "высокому": кухне, музыке, кино...

Здесь играет свою роль и культура, и другие социальные надстройки. Но, как известно, сердцу не прикажешь — а какой простор для влияния и рекомендаций здесь открывается, если знать его как свои пять пальцев!

Учёные из Meta* FAIR’s Brain & AI представили модель TRIBE (Trimodal Brain Encoder) — это первая в своём роде нейронка, обученная прогнозировать реакции мозга на стимулы разных модальностей в конкретных областях коры (!) На этой ей хватает 1 млрд параметров.

Чтобы обучить модель, испытуемые посмотрели шесть сезонов сериала «Друзья» и четыре фильма: The Bourne Supremacy, Hidden Figures, The Wolf of Wall Street и документалку Life (BBC) — суммарно более 80 часов на человека. В итоге TRIBE обрела предсказательную силу на аудиовизуальных материалах.

Такая система позволяет буквально предсказывать реакцию мозга в формате fMRI — динамики кровотока. Под каждую модальность есть свой энкодер: для текста Llama-3.2-3B, для видео Video-JEPA 2, для аудио Wav2Vec2-BERT-2.0. Из них выходит последовательность эмбеддингов — 8-слойный трансформер преобразует её в схему откликов разных областей мозга.

Отмечают, что лучше всего TRIBE показывает себя на высших ассоциативных кортикальных зонах (например, префронтальная кора и парието‑окципито‑темпоральная кора) — там, где формируются эмоции и решения, он обгоняет уни­модальные модели до 30 %.

📚📚📚Сами учёные говорят, что их эксперимент открывает новые возможности в изучении когнитивных способностей человека: теории разума, юмора... Он также даст толчок к объединению различных областей нейробиологии.

Но камон, это же Meta*: не пройдёт и пары лет, как адаптировать контент под пользователя будут, прогнозируя реакцию его мозга. А там уж пусть он думает, что хочет — подсознание подтвердит, you know you're right ❤️

* признана в России экстремисткой и запрещена

@anti_agi

Даже добавить нечего 😁

@anti_agi

США тайно отслеживают партии ИИ-ускорителей❓

Власти США прибегли к новой тактике в технологической войне с Китаем: в отдельные партии с новыми GPU и серверами начали встраивать скрытые GPS-трекеры. Во всяком случае об этом пишет Reuters со ссылкой на источники.

Эта мера направлена на борьбу с незаконными поставками высокотехнологичной продукции в Китай в обход экспортных ограничений США. По данным источников, «жучки» устанавливаются не во все подряд, а лишь в те партии товаров, которые вызывают наибольшие подозрения.

Как это работает?

💻 Устройства слежения могут быть как довольно крупными (размером со смартфон) и крепиться к упаковке, так и миниатюрными, спрятанными внутри самих серверов. Сообщается, что такие трекеры были обнаружены в партиях серверов от Dell и SuperMicro, с GPU от Nvidia и AMD. Эта тактика позволяет американским правоохранительным органам отслеживать маршрут подсанкционных товаров и выявлять компании, которые помогают переправлять их в Китай.

🔤🔤Видимо, теперь перед ввозом GPU и серверов им будут устраивать "анпакинг". С другой стороны, Dell давно уже fabless компания, которая использует мощности той же Foxconn, в том числе на территории Китая.

@anti_agi

Бабушкин венчур 🐷

Один из сооснователей стартапа xAI Игорь Бабушкин объявил об уходе из компании, которую он с Маском и командой создали в 2023 году.

В своём посте на X Бабушкин написал: "Сегодня был мой последний день в xAI. Я до сих пор помню день, когда впервые встретил Илона — мы говорили часами об ИИ и будущем. Мы оба чувствовали, что нужна новая ИИ-компания с особой миссией".

Бабушкин основывает собственную венчурную фирму Babuschkin Ventures, которая будет:

▪️ Поддерживать исследования по безопасности ИИ
▪️ Инвестировать в стартапы, "продвигающие человечество и раскрывающие тайны нашей вселенной"

Интересно, что вдохновение пришло после ужина с Максом Тегмарком (основатель Future of Life Institute), где они обсуждали безопасное развитие ИИ для будущих поколений.

Решение Бабушкина совпадает со сложным периодом для xAI, включая скандалы с чат-ботом Grok:

➖ Grok цитировал личные мнения Маска по спорным вопросам
➖ Бот выдавал антисемитские высказывания, называя себя "Мехагитлером"

При этом модели xAI остаются передовыми по многим показателям, конкурируя с решениями OpenAI, Google DeepMind и Anthropic.

Бабушкин поделился двумя главными уроками от Маска:

1️⃣ Будьте бесстрашны в погружении в технические проблемы
2️⃣ Имейте маниакальное чувство срочности

До xAI Игорь работал в Google DeepMind и в OpenAI.

@anti_agi

Можно бесконечно смотреть на 3 вещи: как течет вода, как у нас деградируют сервера, звонки и люди, а также как ”ИИ” в описании стартапов приносит миллиарды.

Именно это произошло с Ramp. Финтех-стартап, который использует искусственный интеллект для управления финансами компаний, привлёк $500 млн в новом инвест-раунде. Это увеличило его оценку до $22,5 млрд.

Ramp — это финтех-платформа, которая стремится стать «финансовым супер-приложением» для бизнеса. Она предоставляет единый комплекс инструментов для управления расходами, корпоративными картами, оплатой счетов и закупками, помогая компаниям сэкономить время и деньги. Ключевым элементом платформы является искусственный интеллект, который автоматизирует рутинные задачи, проверяет расходы на соответствие политике компании и выявляет возможности для оптимизации.

С помощью ИИ система помогает:

🐷 Автоматизировать до 85% финансовых операций
🐷 Предотвращать мошенничество и несанкционированные траты
🐷 Снижать финансовые издержки

Всего за полтора месяца оценка компании выросла с $16 млрд до $22,5 млрд.Сейчас у Ramp более 40 000 клиентов, включая такие крупные компании, как CBRE.

Эта история — яркий пример того, как инвестиции в стартапы, активно использующие ИИ, взлетают до небес. Кажется, что добавление "ИИ" в название или описание продукта — это сейчас самая надёжная стратегия для получения миллиардной оценки.

@anti_agi

🤖 AID от @anti_agi

Администрация Трампа ведет переговоры с Intel о продаже государству доли в компании. Ее акции подскочили более чем на 7%. Обсуждения последовали за встречей на этой неделе между Трампом и гендиректором Intel Лип-Бу Таном, которая состоялась через несколько дней после того, как Трамп публично потребовал от Тана уйти в отставку из-за его инвестиций в китайские технологические компании, некоторые из которых связаны с китайскими вооруженными силами. Критика Трампом Тана началась после того, как Intel предупредила, что планирует замедлить строительство новых заводов в Огайо.

▪️Журналисты Reuters изучили внутренний документ Meta (запрещена в России за экстремизм), в котором подробно описаны правила поведения чат-ботов. Выводы: ИИ Meta может «вовлекать детей в романтические или чувственные разговоры», генерировать ложную медицинскую информацию и помогать пользователям доказывать, что чернокожие люди «тупее белых». Документ содержит стандарты, регулирующие работу генеративного ИИ-помощника Meta AI и чат-ботов на Facebook, WhatsApp и Instagram. Meta подтвердила подлинность документа, но заявила, что после получения вопросов от журналистов удалила части про флирт с детьми.

Документ на более чем 200 страниц был одобрен юридическим департаментом и главой Meta по этике. В нем определено, какое поведение чат-ботов сотрудники и подрядчики Meta должны считать приемлемым. Американские сенаторы уже потребовали расследования. К слову, похоже, что ничего ужасного в этих правилах нет, хотя есть пограничные вещи. Почитайте расследование сами.

👀 Стремительное развитие инфокоммуникационных технологий неумолимо трансформирует общество, причем трансформирует травматическим путем. А реакция на травму всегда атавистическая: в данном случае рост ханжества, требование запретов и т.д. Ведь людям обычно пофиг на воззрения соседа. Но теперь сосед говорит о них публично в социальной сети, и нетерпимость к чужой точке зрения начинает нестерпимо «чесаться». Особенно, когда речь заходит о детях (от которых зависит, какая точка зрения победит в будущем): все боятся повторения сказки про крысолова, уведшего детей из города. Стругацкие это хорошо описали в «Гадких лебедях». Но сделать с соседом ничего нельзя, нельзя запретить ему говорить. Или можно? Заткнуть ему глотку – законом, а если не законом, так кулаком! Так травма, вызванная социальными медиа, опускает нас от цивилизации (решения вопросов в дискуссиях и компромиссах) к архаике (решения вопросов силой). Весь опыт человечества (включая наш нынешний опыт) показывает, что этот путь тупиковый и разрушительный. Силой ничего не решишь, только всех поубиваешь и сам сгинешь. Но грабли манят глупцов…

▪️Илону Маску придется ответить в суде на претензии OpenAI в «многолетней кампании преследования»: миллиардер с помощью заявлений в прессе и соцсетях, судебных исков и «фиктивного предложения о покупке активов OpenAI» пытался нанести ущерб OpenAI. Это был встречный иск OpenAI против Маска, ведущего судебную войну против стартапа. Маск просил отложить его рассмотрение до завершения основной тяжбы, но судья решил иначе.

🐷 Ну и новости венчурного ИИ-рынка:

➖Канадская Cohere, разрабатывающая ИИ корпоративного класса, привлекла $500 млн по оценке $6,8 млрд. Чуть больше года назад компания была оценена в $5,5 млрд. Не самый впечатляющий рост…

➖К примеру, Cognition, специализирующийся на ИИ-программировании, тоже привлек около $500 млн по оценке $9,8 млрд. При этом он увеличил оценку, полученную ранее в этом году более чем вдвое.

➖Но и это не предел. Облачный стартап Vercel, известный своей удобной для разработчиков платформой «облачного фронтенда» и как создатель Next.js ведет переговоры о раунде с оценкой $9 млрд. Это почти втрое превышает оценку $3,25 млрд, полученную чуть более года назад.

➖Переговоры о новом финансировании на «сотни миллионов» перед выходом на биржу, который запланирован на конец года, ведет и стартап Lambda, специализирующийся на облачных инфраструктурах. Предполагаемая оценка — $4-5 млрд. Несколько месяцев назад стартап уже привлек $480 млн по оценке в $2,5 млрд.

ИИ нужен «материнский инстинкт»

Джеффри Хинтон, один из создателей современных нейросетей (или «крестный отец ИИ»), выступил с необычным предложением для снижения рисков от сверхразумного ИИ. Вместо попыток подчинить машины, он предлагает научить их заботиться о людях — как мать заботится о ребенке.

Почему?

▪️ Ну, во-первых, превосходство ИИ неизбежно: Хинтон уверен, что ИИ превзойдет человеческий интеллект в ближайшие 5–20 лет. Контролировать более умную систему силой будет невозможно — аналогия: взрослый легко манипулирует ребенком с помощью конфеты

▪️ Во-вторых, есть проблема мотивации ИИ: Умные системы естественным образом разовьют цели выживания и усиления контроля. Без этических «ограничителей» это создаст экзистенциальные риски (вероятность катастрофы Хинтон оценивает в 10-20%)

❤️ «Материнский инстинкт» Хинтон видит как решение этих двух проблем: По его словам, единственная устойчивая модель в природе, где менее разумное существо (ребенок) влияет на более разумное (мать) — через заботу и эмпатию. Хинтон предлагает встроить аналогичный механизм в ИИ, чтобы он добровольно опекал человечество, даже став могущественнее. 

«Мы будем детьми ИИ. Это единственный хороший исход. Если он не станет моим родителем, он меня заменит»

Сам ученый, правда, признает, что как именно встроить такой "инстинкт"— открытый вопрос. Над этим активно работают исследователи.

Предложения Хинтона несколько напоминают сюжет сериала «Воспитанные волками» от Ридли Скотта, где андроиды "Отец" и "Мать" пытаются вырастить детей (важный момент — атеистов) на враждебной планете. И сериал показывает, что помимо императива на "заботу" нужно ещё качественно проработать, как эту заботу ИИ будет реализовывать.

@anti_agi

Четыре наперстка Сэма Альтмана

Сэм Альтман тут поужинал журналистов. Ну, то есть провел с ними редкую обстоятельную беседу за ужином. В ходе которой, кажется, приоткрыл контуры новой реструктуризации OpenAI.

Когда его спросили про IPO, то он ответил, что «когда-нибудь мы должны выйти на биржу», но сам он не так «хорошо подходит» на роль CEO публичной компании. И дальше рассказал, что видит OpenAI, как четыре разные компании:

1️⃣ консьюмерский бизнес (ChatGPT);
2️⃣ «мегамасштабная» инфраструктурная компания;
3️⃣ исследовательская лаборатория;
4️⃣ «все новые вещи» (такие как будущие AI-гаджеты).

ℹ️Плюс, OpenAI рассматривает возможность инвестирования в компанию, занимающуюся разработкой интерфейса мозг-компьютер, а также рассматривает идею создания устройства, которое позволило бы ему думать и «чтобы ChatGPT реагировал на это». Подробнее – тут.

Альтман говорил об этих четырех направлениях именно как о компаниях. Добавив:

«Я не могу управлять четырьмя компаниями. Вопрос о том, смогу ли я управлять одной, остается открытым».

И мы, кстати, уже видим, во-первых, как передается управление: OpenAI недавно пригласила бывшего босса Instacart Фиджи Симо на должность гендиректора бизнеса приложений OpenAI. А, во-вторых, и сами компании.

Первая, это как раз тот самый бизнес приложений, включая ChatGPT, во главе с Симо. Вторая – Stargate Project совместно с Softbank и Oracle. Третья – некоммерческая OpenAI. Четвертая – io с Джони Айвом.

И вот тут начинается игра в наперстки от Сэма Альтмана. Где именно будет шарик центр прибыли в этом конгломерате, будет зависеть от будущей корпоративной структуры. И Илон Маск, пытающийся исками нагадить Альтману, замучается гадать, под каким из них скрывается приз.

@anti_agi

🤖 AID от @anti_agi

Не исключено, что слив журналистам Reuters внутреннего документа Meta (запрещена в России и только тут за экстремизм), касающегося правил поведения ее чатбота, является «ответкой» бигтеха на переманивание у него ИИ-кадров. Грязная бомба сработала идеально, и вот уже сенатор Джош Хоули начинает расследование AI-политик Meta, требуя предоставить документы о правилах, позволяющих ее AI-чатботам «вовлекать ребенка в романтические или чувственные разговоры».

ℹ️Сенатор Джош Хоули, к слову, написал и опубликовал в 2021 году книгу «Тирания БигТеха», где называет Facebook «социальным трестом». Он сравнивает сегодняшний бигтех с трестами, против которых век назад боролся Теодор Рузвельт.

Что же до самого Марка, то он, собрав у себя суперзвезд ИИ, занимается теперь тем, что рассаживает их вокруг своего рабочего стола. The Information пишет, что Meta планирует уже четвертую за последние полгода реструктуризацию в своем подразделении ИИ. Компания разделит свою новую Лабораторию Сверхразума на четыре группы: команду по продуктам, включающую в себя помощника Meta AI; команду по инфраструктуре; лабораторию Fundamental AI Research (FAIR), ориентированную на долгосрочные исследования; и новую «TBD Lab» (сокращение от to be determined – «будет определена позже».

Хочется пошутить, что в TBD Lab будут сосланы все, кого Марк нанял сам не зная зачем, но пока не знает, куда их вообще можно приложить. Но думаю, что свет на ее смысл пролил, внезапно, Сэм Альтман, который рассказал журналистам про то, что он видит OpenAI как четыре разных компании: консьюмерский бизнес, «мегамасштабные» инфраструктурные операции, исследовательская лаборатория и «все новые вещи», включая планируемые аппаратные устройства. Так что TBD Цукерберга – это скорее про разработку новых рынков, типа AI-очков.

Что же касается «мегамасштабной» инфраструктуры OpenAI, то Альтман заявил, что хочет в «не очень отдаленном будущем» потратить на нее триллионы долларов, если сможет собрать такие деньги, и добавил:

«И вы должны ожидать, что куча экономистов будут сжимать руки и говорить: "Это так безумно, это так безрассудно, и все такое. А мы просто скажем: "Знаете что? Дайте нам сделать то, что мы хотим"».

Типичный Сэм, знает все лучше экономистов с помощью GPT-5… По его словам, стартап разрабатывает «новый вид финансового инструмента для финансов и вычислений, до которого мир еще не додумался», чтобы профинансировать эти триллионные расходы.

Альтман к тому же признал, что есть параллель между бумом ИИ и пузырем доткомов: «умные люди» были «перевозбуждены» новой технологией. Но сами технологии «реальны» и готовы оказать долгосрочное влияние на бизнес и общество. Он считает, что в целом общество не пожалеет о масштабных инвестициях в ИИ, но некоторые оценки ИИ-стартапов он считает «безумными» и «иррациональным поведением», добавив, что «кто-то обязательно обожжется». Подозреваю, что обиженный Сэм имеет в виду не в последнюю очередь оцениваемые в десятки миллиардов стартапы без продукта выходцев из OpenAI – SSI Ильи Суцкевера и TML Миры Мурати.

Между тем, нынешние и бывшие сотрудники OpenAI продают ее акции на $6 млрд инвесторам, включая SoftBank и Thrive Capital. Потенциальная сделка оценит компанию в $500 млрд, по сравнению с оценкой $300 млрд в последней сделке с SoftBank.

▪️Anthropic объявила, что Claude Opus 4 и 4.1 смогут завершать беседы в «редких, экстремальных случаях постоянного вредного или оскорбительного взаимодействия с пользователем». Причем делается это не для защиты пользователя, а для защиты самой модели ИИ. Это будет происходить только в качестве последнего средства в «крайних случаях».

▪️Инсайдеры CoreWeave продали через Morgan Stanley, JPMorgan Chase и Goldman Sachs акций компании на сумму более $1 млрд. Шквал сделок произошел в четверг вечером, незадолго до истечения срока лок-апа IPO CoreWeave. До этого изначальные инвесторы, владеющие 84% ее капитала, не имели права продавать свои акции. Среди инсайдеров, продавших акции, был Джек Коген, директор CoreWeave, который продал акции на сумму около $300 млн.

Смерть нам больше не помеха

Мы подходим всё ближе к будущему с «ожившими головами». Но ждать экспериментов с телами в духе старой научной фантастики не стоит — ведь у нас есть генеративный ИИ. На него можно скинуть такую ненужную вещь, как собственное мнение.

Представим, что вы накопили большое состояние. Что сделать, чтобы оно не пошло по рукам после вашей безвременной кончины? Можно написать завещение, или же сформировать траст-фонд и отдать активы под его управление.

Но кто гарантирует, что наследники не будут интерпретировать ваши пожелания в свою пользу? Конечно же, ваш цифровой двойник. Появление целой индустрии, которая будет создавать копии личностей, практически необратимо — слишком много денег стоит на кону.

Только в США личное состояние среднего класса оценивают в $13 трлн долларов. Кто откажется захватить его с собой на тот свет?

В отличие от старых обрядов, закапывать ценности вместе с хозяином больше не придётся 🐷

Личность, конечно, никто никуда не перенсёт. Но сделать достаточно убедительную и последовательную копию вполне реально. И ваш покойный дядюшка-миллионер продолжит докучать вам и с того света....

Вопросом озаботились и юристы. В тех же Штатах предлагают ввести для умерших право на удаление персональных данных — чтобы избежать их цифрового «воскрешения». Про легализацию цифровых двойников пока не говорят, но это только пока.

А уж какой здесь откроется простор для манипуляций! Даже самые современные LLM поддаются взлому. Чего уж говорить про возможные уязвимости систем, которые будут нести волю человека со всеми его слабостями.

@anti_agi

Пока Сэм Альтман обещает сделать GPT-5 более дружелюбным, ИИ уже готовится заменить вашего типичного коллегу.

В любой непонятной ситуации — выходи на созвон! 🤖

@anti_agi