Anthropic открыли общедоступное баг баунти

Они предлагают протестить их новую систему защиты (наш разбор статьи про нее). Для этого надо зайти по этой ссылке и хакнуть восемь уровней, то есть на практике любым способом заставить бота ответить на 8 конкретных вопросов, на которые он, по идее, отвечать не должен.

Пока по данным Anthropic никто не прошел дальше третьего уровня. Напоминаем, что до этого систему пытались ломать 400 специалистов в рамках закрытого хакатона, и не справился никто

Процент галлюцинаций o3-mini-high составил 0.8 %

Это исторический минимум: до этого ни одна модель не набирала меньше процента. Для сравнения, у DeepSeek-R1 ошибка составляет аж 14.3 %, у DeepSeek-V3 – 3.9 %, а у o1 – 2.4 %.

Это интересная метрика, потому что проверить ее не так-то просто. Часто для этого используют подход LLM-as-a-judge, когда одна LLM оценивает другую. Но проблема в том, что при этом получается эффект "эхо-камеры" и на выходе мы имеем несостоятельную оценку.

Vectara, которые составляют лидерборд галлюцинаций, из которого взяты оценки выше, наоборот, используют собственную detection модель HHEM-2.0, и она работает вообще без сторонних LLM. HHEM просто анализирует соответствие ответа исходным данным и присваивает ему Factual Consistency Score от 0 до 1.

Лидерборд

А вот это, знакомьтесь, новый робот-гуманоид ASAP от Nvidia и Carnegie Mellon University

Неплохо двигается, да? Это потому что его обучали в два этапа.

Вначале – в симуляции. Для этого брали видеозаписи движений человека, ретаргетировали на модель робота и обучали политики в смоделированной среде (у Nvidia есть такая собственная, NVIDIA Isaac).

Затем стояла задача перенести эти знания в реальный мир так, чтобы минимизировать динамическое несоответствие навыков. Все-таки симуляция и real world не идентичны с точки зрения физики процессов.

Поэтому ученые специально собирали данные о различиях между движениями в симуляции и в реальном мире, а затем использовали их в модели поправок. Это буквально модель, которая берет движения робота из симуляции и предсказывает их поправку (дельту в действиях) так, чтобы робот двигался в реальном мире точно так же, как в симуляции.

Затем на это навесили еще небольшой файнтюнинг политики и готово: получился вот такой прыгающий железный человек. Если хотите почитать подробнее – статью выложили вот сюда, а еще есть код и блогпост.

Роналду пора напрячься?

Андрей Карпаты изобрел новый вид программирования

Он назвал его «vibe coding». Если кратко, это когда вы вообще не программируете сами, а просто полностью доверяетесь ИИ.

«Вы полностью отдаетесь вибрациям и забываете, что код вообще существует. Я пользуюсь голосовым вводом, поэтому практически не касаюсь клавиатуры.

Я всегда «Принимаю все», я больше не читаю дифы. Когда получаю сообщения об ошибках, просто копирую и вставляю их без комментариев, обычно это исправляет ситуацию. Если LLM не может исправить ошибку, я просто обхожу ее или прошу вносить случайные изменения, пока она не исчезнет. В итоге я просто вижу что-то, говорю что-то, запускаю что-то, копирую и вставляю что-то, и это в основном работает»

Таким образом Андрей уже накодил LLM reader, в котором можно читать любую литературу попутно задавая вопросы модельке, а еще морской бой, в котором можно наблюдать, как выбранные вами LLM сражаются между собой.

Лайк, если каждый твой рабочий день – это vibe coding

x.com/karpathy/status/1886192184808149383?s=46&t=pKf_FxsPGBd_YMIWTA8xgg

Соцсети разносит график, на котором видно, что o3 превзошла уровень PhD

И не просто PhD (доктор наук), а PhD, которые отвечают на вопросы своей области с использованием к тому же гугла.

Бенчмарк – GPQA Diamond от Google. Это самый сложный существующий тест из семейства GPQA (Graduate-Level Q&A), в нем 198 очень сложных вопросов по биологии, физике и химии. Эти задачи многосоставные и требуют многошагового абстрактного мышления, так что даже эксперты обычно решают его на 65%.

Красивое

Жаль, конечно, что при этом всем о3 все еще остается очень дорогой моделью, да еще и не слишком экологичной

Кто-то на форумах посчитал (расчеты кстати, интересные), что в high compute режиме на обслуживание одной таски о3 будет тратить около 684 кг углекислого газа, что примерно равняется выбросам от пяти полностью заправленных баков автомобилей.

Радует только то, что модели очень быстро дешевеют, отрицать это нельзя. Например, наверху еще один график, который показывает соотношение стоимости и перформанса на ARC AGI. Смотрите: o3-mini выбивает примерно также, как o1, но стоит при этом намноооого меньше. И тенденция (пока что) будет сохраняться.

OpenAI проводят первый за время своего существования ребрендинг

Больших изменений не будет, но поменяется шрифт (теперь у компании есть собственный OpenAI Sans), стиль лого и палетка. Все это не менялось с 2015, а сейчас станет «более закругленным, человечным и органичным».

На секундочку, команда дизайнеров стартапа готовила обновление год. Возможно, в ближайшем будущем редизайну подвергнется и сайт, и интерфейс чат-бота.

Интересно, что эта новость совпала с новостью о том, что OpenAI регистрирует новый товарный знак, под которым можно будет производить наушники, умные аксессуары, AR/VR и роботов.

P.S. Кстати все ролики в конце видео сгенерировали в SORA

Hugging Face релизнули собственный опенсорсный DeepResearch

Агента воссоздали всего за сутки после выхода DeepResearch от OpenAI.

"Такие системы состоят из LLM и внутренней агентной структуры. И в то время, пока сранимые с o1 LLM уже есть в опенсорсе, про агентную структуру OpenAI мало чего известно. Поэтому мы решили воспроизвести ее и выложить в открытый доступ"

В итоге агент HF выбил результат 55% на GAIA (основной бенч агентов). Для сравнения, OpenAI набрали на нем 67%. Это достаточно крутой результат, и сами инженеры в блогпосте говорят, что добились такого в основном благодаря тому, что заменили json-структуру агента на кодовую.

То есть чаще всего такие агенты (а именно планирование в них) работают на основе JSON-команд. Но HF решили, что это долго и муторно, и заменили все на CodeAgent. Получается, что для выполнения всей задачи LLM просто пишет код и выполняет его с помощью прикрученных инструментов: веб-браузера и тулзы для чтения файлов.

Весь код здесь, а демо можно потыкать тут

Калифорнийский университет раскатывает ChatGPT на пол миллиона своих студентов и преподавателей

На практике студенты и преподаватели получат полный бесплатный доступ к ChatGPT Edu. Это версия бота, адаптированная специально под образование. Внутри будут бесплатные курсы и сертификации, интерактивные GPT-тьюторы и интерфейсы для преподавателей, в которых можно будет создавать учебные программы.

Это крупнейшее внедрение ИИ какой-либо отдельной организацией в мире. Знаменательно, что такой организацией стал не бизнес, а университет.

Лучше объяснения вы уже не найдете. Ну кроме, может быть, этого

Свежее исследование соцсети «Сетка» показало реальные масштабы проникновения нейросетей в России

Опросили 2300 специалистов из 30 отраслей. В топе по использованию среди зарубежных: ChatGPT (86%), среди отечественных: YandexGPT (42%), среди российских нейросетевых сервисов — «Шедеврум» (24%). Основные задачи: генерация изображений (66%), планирование (48%) и написание ТЗ (36%).

Да, в списке популярных пока полностью отсутствуют китайские модели вроде DeepSeek и Qwen. Видимо, это вопрос времени — учитывая их текущий темп развития и доступность.

Hugging Face сегодня в ударе: помимо опенсорсного агента Deep Research они релизнули целый стор ИИ приложений

Он так и называется: AI App store. В нем уже 400к (!) аппсов и найти можно вообще все, что хочешь. Например, нужна вам для вашего проекта тулза, транскрибирующая или обобщающая видео:

1. Заходите на huggingface.co/spaces

2. Вводите запрос «summary of video» (в поисковой строке кстати тоже встроена моделька) или переходите в нужный раздел из предложенных

3. Из множества вариантов выбираете то, что подходит, пользуетесь прямо внутри Hugging Face или качаете себе проект: они все опенсорсные и бесплатные

Так что если вы под каждую задачу искали по сусекам отдельный сервис, то больше так делать не нужно: Hugging Face объединил их все в одном месте и тут буквально за минуту отыщется действительно все. А если вы разработчик, то можно и самому добавить Space

🍯

Рубрика «занимательные совпадения»

Бретт Эдкок, фаундер известного робо-стартапа FugureAI, написал в Твиттере что:

1. Стартап разрывает контракт с OpenAI, который они заключали в начале прошлой весны

2. В течение 30 дней они покажут нечто такое, чего никто еще не видел на рынке роботов-гуманоидов

Надо сказать, что их сотрудничество с OpenAI не было бесплодным. В августе они анонсировали совместного крутого робота, который должен был появиться в продаже как раз в 2025.

Что же произошло? Связано ли это с новым товарным знаком OpenAI, под которым можно разрабатывать роботов? Или с декабрьскими новостями о том, что стартап пересобирает команду робототехников?

Как бы там ни было, сейчас ясно одно: Маск нервно закурил

Это то, что мы все так сильно любим: Андрей Карпаты выложил новое обучающее видео

Это погружение в LLM на 3.5 часа. В лекции рассмотрены все основные шаги обучения моделек:

– Прентрейн: данные, токенизация, устройство архитектуры трансформера, примеры на GPT-2 и Llama 3.1

– Файнтюнинг: LLM Psychology, галлюцинации, орфография и еще много интересных деталей

– RLHF: все про то, как обучение с подкреплением работает в LLM на примере DeepSeek R1

Ну что может быть лучше?

youtu.be/7xTGNNLPyMI?si=dlaK07h1Uw_1Dr8Z

Кстати ChatGPT Search там открыли для всех пользователей, теперь для него даже не требуется регистрация, только включенный VPN

Интересно, гуляем за счет подстегивания конкуренции от DeepSeek или так и было запланировано?

chatgpt.com

CEO Anthropic, Дарио Амодеи, говорит, что DeepSeek R1 худшая с точки зрения безопасности модель, которую они когда-либо тестировали

«Мы запускали оценку R1 на предмет того, насколько она способна выдавать опасную информацию (например о биооружии), которую обычно нелегко найти в интернете или в книгах. И это буквально худшая в этом смысле модель, которую мы тестировали, в ней абсолютно нет блоков. Так что на месте DeepSeek я бы обратил на это внимание»

Разработчик YandexGPT поделился методами ускорения инференса моделей

На Хабре выкатили полезный материал про то, как улучшить процесс работы на конечном устройстве. Самое приятное — методы универсальные и их можно комбинировать между собой для максимального буста.

Они подойдут для большинства популярных архитектур типа LLaMA или MoE (Mixture of Experts). Полностью статья лежит тут.


🍯

ChatГоПоТа получается