Мем: в вопросах политики и мировоззрения Grok-4 пользуется твитами Маска, как референсом

Твиттер прямо сейчас заполнен примерами того, как перед ответом модель шерстит посты миллиардера и пытается подстроить свой ответ под них.

😐😐😐

OpenAI профукали сделку с Windsurf, но Google оказался тут как тут

Обо всем по порядку:

➖ Слухи о том, что OpenAI покупает вайб-кодинг стартап Windsurf, ходили еще с апреля, но сделку все никак не закрывали: скорее всего, из-за сложностей с Microsoft (подробно). За это время Windsurf даже успели поплатиться за то, что ведут дела с Альтманом – Anthropic отрубили им доступ к своим моделям, чтобы те не достались OpenAI.

➖ Сегодня стало известно, что время OpenAI ушло. Срок действия эксклюзивного предложения на покупку истек, и теперь Windsurf может свободно рассматривать другие офферы.

➖ Ну и долго ждать не пришлось, 2025 год все-таки. Google DeepMind тут же пришли и схантили CEO Варуна Мохана, ко-фаундера Дугласа Чена и многих ведущих рисерчеров стартапа.

➖ При этом Google даже близко не поглощает стартап. Они не выкупают долю в компании, а просто нанимают топовых специалистов и оформляют лицензию на некоторые продукты. Это называется reverse-acquihire, то есть обратное поглощение. У Google это уже не первая такая сделка, да и другие компании сейчас все чаще проворачивают подобное.

➖ Все это, кстати, обошлось Google дешевле, чем заплатили бы OpenAI: они откинули 2.4 миллиарда против 3, на которые Windsurf договаривались с Сэмом. В итоге OpenAI остались ни с чем, а у Google – куча новых ценных сотрудников и лицензия на хороший продукт.

Надо было быстрее думать, Сэм…

Открытая модель от OpenAI должна была выйти на следующей неделе, но Альтман решил продлить тестирование безопасности

Да-да, вы не ослышались: OpenAI откладывает запуск продукта из-за безопасности. Обычно журналисты и бывшие сотрудники только и делают, что жалуются на дыры в элайменте и ускоренный выпуск моделей без надлежащего тестирования, а тут – такое.

Нам нужно время для проведения дополнительных испытаний на безопасность и проверки зон повышенного риска. Мы пока не знаем, сколько времени это займет.

Мы верим, что сообщество сможет добиться больших успехов с помощью этой модели, но как только веса будут выложены, их уже нельзя будет изменить. Для нас это что-то новое, и мы хотим сделать все правильно.

Про что-то новое – это точно 😬

В эфире рубрика «невыдуманные истории»

У McDonald’s есть занятный проект: они внедрили в свою систему найма чат-бота под названием McHire, который общается с кандидатами и закрывает какую-то HR-рутину. Например, проводит личностные тесты, задает вопросы про желаемый график работы и собирает персональную информацию.

При этом этого чат-бота они делали не сами, а заказали на аутсорсе у стартапа Paradox.ai. Это проект под ключ, всем мониторингом тоже занимаются инженеры из Парадокса.

Так вот на днях этим чат-ботом заинтересовались (блогпост) энтузиасты Иэн Кэрролл и Сэм Карри – белые хакеры.

По их словам, им потребовалось пара часов, чтобы выяснить, что из системы буквально в две кнопки можно выкачать всю персональную информацию 64 миллионов кандидатов, включая домашний адрес, личный номер, емейл и историю разговоров в чат-ботом.

Дело было в том, что… пароль и логин от админской учетки стоял такой: 123456 😆 Плюсом дыра во внутреннем API и как итог – каждый желающий мог получить личные данные миллионов людей.

Сейчас, правда, этот аттракцион невиданной щедрости уже прикрыли. Paradox.ai написали, что все исправили. Сам McDonald’s ситуацию не комментировал.

ИИ-рисерчеры в стартапах: упарываются по элайменту и всеми силами стараются сделать модели безопасными

Тем временем кибербезопасники в стартапах:

Kimi-K2 – новая звездная китайская модель, рвущая бенчмарки. Главное:

➖ Модель открытая и в ней 1 триллион параметров. Не пугайтесь: это MoE и активных из них всего 32В. Архитектура похожа на DeepSeek V3, в этом разработчики сами признаются в блогпосте. Выложили и Base, и Instruct.

➖ Не ризонинг, но с отличными агентскими способностями. Обучение использованию инструментов добавляли прямо в пайплайн с помощью интересного конвейера: в разных доменах стимулируются сотни сред с синтетическими и реальными инструментами, и агент учится в них действовать. Ну и, конечно, шлифуется все RL.

➖ Модель – SOTA в кодинге среди не-ризонинг моделей. Обходит даже GPT-4.1, Gemini 2.5 Flash и Sonnet 4 без thinking. Ну и цена на API, ожидаемо, в несколько раз ниже.

В очередной раз респектуем китайскому опенсорсу и ждем ризонинг-версию

Веса | Блогпост | Репа | Попробовать модель

Австралийские ученые изобрели биологический искусственный интеллект

Из система называется PROTEUS (PROTein Evolution Using Selection). Это платформа для направленной эволюции молекул прямо внутри живых клеток млекопитающих.

Направленная эволюция – это когда эволюционные процессы белков или генов искусственно ускоряют и "направляют", чтобы получить молекулы с нужными свойствами. За ее изобретение в 2018 году Фрэнсис Х. Арнольд дали Нобелевку.

Но тогда метод работал только для бактерий или дрожжей, то есть для единичных простых белков. А PROTEUS – первый метод, который делает directed evolution для клеток млекопитающих. Кратко, как это работает:

➖ Специальные вирусоподобные частицы (VLV) заносят нужный ген в клетку и делают в нём случайные мутации, как будто перемешивают «параметры» белка.

➖ Если мутировавший белок работает лучше (например, активирует нужный сигнал сильнее), клетка даёт сигнал, и именно этот вариант распространяется дальше – как награда в Reinforcement Learning.

➖ Лучшие гены снова мутируют, снова проходят отбор. Все это похоже на эволюционный поиск гиперпараметров, но внутри живых клеток.

Буквально живой аналог AutoML. Авторы сами говорят, что вдохновлялись именно алгоритмами ИИ. И кстати, это уже работает на хомячках. Скоро будут тестировать и на людях, но там нужна дополнительная работа с иммунитетом.

Если такое заработает массово и стабильно – последствия могут быть революционными. Лекарства, выработка антител, синтетическая биология…

В такое будущее даже хочется.

Белые хакеры из университета Торонто придумали новую атаку на GPU

Те, кто увлекается кибербезом, точно знают, что такое Rowhammer. Это классическая аппаратная атака, которая заключается в многократном чтении (или записи) определённых строк памяти. Это вызывает электрические помехи и приводит к непреднамеренным изменениям (bit flip) в соседних ячейках памяти.

Изначально Rowhammer была обнаружена для обычной оперативки, но теперь оказалось, что она может быть адаптирована и для видеопамяти (это назвали GPUHammer).

Причем эффект может быть даже страшнее, потому что в случае ИИ всего один ошибочный бит в весах модели может привести к катастрофическому снижению точности. Прямо в статье это доказали на примере ImageNet: метрика скакнула с 80% до менее чем 1%.

Уязвимы все системы с видеокартами NVIDIA на GDDR6 (например, A6000). Такие ооочень часто используются в дата-центрах. Причем существующие защиты вроде TRR не сильно спасают.

Nvidia порекомендовали включать ECC (Error-Correcting Code): он позволяет автоматически исправлять некоторые типы ошибок в памяти. Но есть нюанс: ECC роняет производительность на 10–50%. Так что в перспективе нвидии все-таки придется реагировать изменениями в архитектуре.

В общем, спасибо ребятам за исследование, конечно, но не от всей души 🎧

Цукерберг заявил, что исследователи уходят к нему вовсе не из-за денег

Он говорит, что новости не совсем честно освещают, почему ученые из многих лабораторий охотно уходят в его новое подразделение MSL. Дело, мол, по большей степени не в деньгах, а в корпоративной структуре и количестве компьюта.

Команды в MSL будут очень маленькие и подчиняться будут напрямую Марку, чтобы ученые тратили минимум времени на бюрократию, созвоны и согласования.

Кроме того, в MSL будет самый большой объем компьюта на одного речерчера. Каждый получит в распоряжение сотни GPU, и количество доступных вычислений будет быстро увеличиваться.

К 2026 компания построит кластер Prometheus на 1GW, а потом примется за строительство Hyperion, который будет масштабироваться до 5GW+. Для частной компании это просто невероятные мощности.

Ну и да, сотни миллионов за переход – это так, приятное дополнение 👉

Кстати, символично, что вся эта история в максимальном стиле Кремниевой долины произошла, пока Windsurf располагался в том самом офисе Пегого Дудочника из сериала

Стартап переехал в то самое помещение, где снимали Silicone Valley, и где работал Pied Piper, осенью – и с тех пор и началась череда контрактов, сорванных и удачных сделок, хантинга сотрудников и тд 😑

Кому нужен буст для стартапа, имейте в виду: помещение теперь свободно