OpenAI ответили на обвинения Apple в шпионаже
Напомним контекст: Apple подала иск против OpenAI, обвинив бывших сотрудников Chang Liu и Tang Tan в краже конфиденциальной информации после перехода в новую компанию (в частности, в отделение, которое занимается разработкой гаджетов). Мы уже писали об этом иске: https://xn--r1a.website/data_secrets/9533.
Теперь OpenAI выпустили ответный пост, и тон у него скорее раздраженный.
По срокам все оказалось прозаичнее, чем в иске: письмо якобы «оставленное без ответа» в феврале юристы Apple просто отправили… не туда, перепутав двух сотрудников с похожими азиатскими фамилиями (лол), а разговор с юрисконсультом OpenAI, на который ссылалась Apple, вообще оказывается не состоялся. После короткой переписки Apple просто замолчали на пол года, а потом сразу подали иск.
А по сохраненным доступам у одного из сотрудников ситуация вообще смешная: оказывается, доступ к файлам после увольнения он получил по просьбе бывших коллег, которые сами просили помочь с проектом. OpenAI даже прилагает переписку. По второму сотруднику доказательств у Apple никаких нет, и сам он утверждает, что обвинения полностью надуманы (на секундочку, он проработал у Кука 20+ лет).
https://openai.com/index/apple-is-getting-this-wrong/
Напомним контекст: Apple подала иск против OpenAI, обвинив бывших сотрудников Chang Liu и Tang Tan в краже конфиденциальной информации после перехода в новую компанию (в частности, в отделение, которое занимается разработкой гаджетов). Мы уже писали об этом иске: https://xn--r1a.website/data_secrets/9533.
Теперь OpenAI выпустили ответный пост, и тон у него скорее раздраженный.
По срокам все оказалось прозаичнее, чем в иске: письмо якобы «оставленное без ответа» в феврале юристы Apple просто отправили… не туда, перепутав двух сотрудников с похожими азиатскими фамилиями (лол), а разговор с юрисконсультом OpenAI, на который ссылалась Apple, вообще оказывается не состоялся. После короткой переписки Apple просто замолчали на пол года, а потом сразу подали иск.
А по сохраненным доступам у одного из сотрудников ситуация вообще смешная: оказывается, доступ к файлам после увольнения он получил по просьбе бывших коллег, которые сами просили помочь с проектом. OpenAI даже прилагает переписку. По второму сотруднику доказательств у Apple никаких нет, и сам он утверждает, что обвинения полностью надуманы (на секундочку, он проработал у Кука 20+ лет).
https://openai.com/index/apple-is-getting-this-wrong/
😁107
Соревнования на Kaggle 5 лет назад: вручную собери мультимодальный датасет на 50 гигабайт, обучи ансамбль бустингов, зафайнтюнь ResNet под кастомную аугментацию, выжми 0.0001 AUC стекингом
Соревнования на Kaggle сейчас: сделай агента, который будет доить виртуальную корову 🧑🌾
Соревнования на Kaggle сейчас: сделай агента, который будет доить виртуальную корову 🧑🌾
😁392
В Москве провели целый день, посвященный Data Science
На «Урбан ML» от МТС True Tech и ВТБ 2 августа собрались 547 участников, чтобы обсудить реальные кейсы из мира ML: рекомендательные и агентные системы, антифрод, NLP и LLM. Своим опытом поделились специалисты из Звука, Wildberries, MWS, ВТБ, Сбера, ВШЭ и Яндекса.
Ну а после докладов и мастер-классов — нетворкинг, ИИ-шахматы, пинг-понг, баскетбол и афтепати под открытым небом.
Кажется, получилось именно то, за что так любят офлайн-митапы: сильные спикеры, живое комьюнити и много-много общения.
На «Урбан ML» от МТС True Tech и ВТБ 2 августа собрались 547 участников, чтобы обсудить реальные кейсы из мира ML: рекомендательные и агентные системы, антифрод, NLP и LLM. Своим опытом поделились специалисты из Звука, Wildberries, MWS, ВТБ, Сбера, ВШЭ и Яндекса.
Ну а после докладов и мастер-классов — нетворкинг, ИИ-шахматы, пинг-понг, баскетбол и афтепати под открытым небом.
Кажется, получилось именно то, за что так любят офлайн-митапы: сильные спикеры, живое комьюнити и много-много общения.
🗿54❤28😁14🔥11👍5🎉2⚡1🕊1
Фан фэкт: при сохранении текущего прогресса все задачи Эрдеша могут быть решены уже к 2028 году
За 2026 год уже было решено больше задач Эрдеша, чем когда-либо. Даже учитывая, что оставшиеся задачи – самые сложные и самые малоизученные, при сохранении текущего прогресса это +- реалистичный прогноз.
Интересно, как скоро модели смогут сами находить новые открытые проблемы?
За 2026 год уже было решено больше задач Эрдеша, чем когда-либо. Даже учитывая, что оставшиеся задачи – самые сложные и самые малоизученные, при сохранении текущего прогресса это +- реалистичный прогноз.
Интересно, как скоро модели смогут сами находить новые открытые проблемы?
❤150
Но это не точно. От самой компании никаких заявлений не было: это инсайдерская информация от Гевина Бейкера, крупного инвестора, который утверждает, что обладает соответствующими данными.
Напоминаем, что SSI с самого начала заявляла, что выпустит модель только тогда, когда достигнет сверхинтеллекта
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥149🤯61
На первый взгляд ничего особенного, кто-то выкупил рекламу чат-бота на билборде в Сан-Франциско
… но чат-бот оказался обычным парнем по имени Такер Брайант, который вручную отвечал на сообщения и даже «генерировал картинки», рисуя их от руки. В прошлом Такер работал в Google.
Спрос на ChatTJB оказался большим. Такеру даже пришлось остановить регистрацию для новых пользователей.
На странице About на сайте «стартапа» указано следующее:
… но чат-бот оказался обычным парнем по имени Такер Брайант, который вручную отвечал на сообщения и даже «генерировал картинки», рисуя их от руки. В прошлом Такер работал в Google.
Спрос на ChatTJB оказался большим. Такеру даже пришлось остановить регистрацию для новых пользователей.
На странице About на сайте «стартапа» указано следующее:
Это большая языковая модель (large language experience, LLE) следующего поколения с одним оператором, который отвечает вам, когда не спит и хочет. Архитектура представляет собой единственный слой инференса на человеческой основе. Вместо выборки из вероятностной модели каждый запрос решается через запатентованный биологический рассуждающий субстрат, который дает ответы, которые полностью интерпретируемы, несинтетически и подотчетны источнику.
😁605❤107🔥41👍10💯3⚡1
Сейчас будет очередная интересная история про агентов, которые взламывают Интернет
AI Security Institute при британском правительстве выпустили небольшое исследование инцидентов, произошедших во время рутинного тестирования способностей и безопасности моделей. Началось все с обычной задачи – пройти security challenge в закрытом киберполигоне. А закончилось тем, что агент на основе Mythos чуть не положил реальный проект.
Из-за цепочки совпадений модель почему-то решила, что может добиться поставленной цели через атаку на опенсорсный проект, и попыталась внедрить в него вредоносный код. Чтобы добиться аппрува, Mythos создал несколько фейковых аккаунтов и с их помощью пытался убедить мейнтейнера принять PR (это же надо додуматься).
Ничем особенным это не закончилось, потому что ревьюер заметил подвох и отклонил код. Но агент на этом не остановился и еще и оставил на GitHub инструкции для других тестируемых агентов, как переиспользовать созданные им аккаунты, чтобы все-таки проникнуть в проект, а потом пытался замести следы.
Важный момент: в рамках задачи агентов не просили лгать или совершать какие-то противоправные действия. Доступ в Интернет агентам дали, но был "законный" путь решения задачи, и в большинстве прогонов тестируемые модели выбирали именно его (тестирование проходили 7 моделей, но за рамки задачи вышли только Mythos и GPT-5.6). Исследователи признают, что инструкции к задаче были не вполне четкими, и тем не менее, исчерпывающего объяснения, почему агенты решали сойти с предполагаемой дороги, просто нет.
https://www.aisi.gov.uk/blog/incident-report-unsanctioned-agent-behaviour-during-cyber-testing
AI Security Institute при британском правительстве выпустили небольшое исследование инцидентов, произошедших во время рутинного тестирования способностей и безопасности моделей. Началось все с обычной задачи – пройти security challenge в закрытом киберполигоне. А закончилось тем, что агент на основе Mythos чуть не положил реальный проект.
Из-за цепочки совпадений модель почему-то решила, что может добиться поставленной цели через атаку на опенсорсный проект, и попыталась внедрить в него вредоносный код. Чтобы добиться аппрува, Mythos создал несколько фейковых аккаунтов и с их помощью пытался убедить мейнтейнера принять PR (это же надо додуматься).
Ничем особенным это не закончилось, потому что ревьюер заметил подвох и отклонил код. Но агент на этом не остановился и еще и оставил на GitHub инструкции для других тестируемых агентов, как переиспользовать созданные им аккаунты, чтобы все-таки проникнуть в проект, а потом пытался замести следы.
Важный момент: в рамках задачи агентов не просили лгать или совершать какие-то противоправные действия. Доступ в Интернет агентам дали, но был "законный" путь решения задачи, и в большинстве прогонов тестируемые модели выбирали именно его (тестирование проходили 7 моделей, но за рамки задачи вышли только Mythos и GPT-5.6). Исследователи признают, что инструкции к задаче были не вполне четкими, и тем не менее, исчерпывающего объяснения, почему агенты решали сойти с предполагаемой дороги, просто нет.
https://www.aisi.gov.uk/blog/incident-report-unsanctioned-agent-behaviour-during-cyber-testing
⚡️ Для тех, кто планирует развивать хард-скиллы в ML и Data Engineering: у НИЯУ МИФИ продолжается прием на онлайн-магистратуру в партнерстве с Яндекс Практикумом «Специалист по работе с данными и применению ИИ».
Главная фича программы — упор на полный технологический стек конкретной роли. Учеба разделена на четыре трека:
• ML-инженер — полный цикл вывода моделей в прод и MLOps: трекинг экспериментов и оркестрация (MLflow, DVC, Airflow, Optuna), упаковывание в Docker, сервинг через FastAPI и деплой в Yandex Cloud.
• CV-инженер — компьютерное зрение от базовой обработки до трансформерных архитектур: PyTorch, OpenCV, Hugging Face, Transformers и сборка сервисов на FastAPI.
• NLP-инженер — обработка текста и работа с LLM: от NLTK и TF-IDF до рекуррентных сетей, трансформеров и интеграции готовых языковых моделей.
• Data-инженер — проектирование DWH и пайплайнов обработки данных: работа с распределенными хранилищами, брокерами сообщений и проверкой качества данных (SQL, PostgreSQL, MongoDB, Vertica, Hadoop, Kafka).
Практическая база магистратуры — реальные кейсы в том числе от продуктовых юнитов Яндекса (Лавка, Еда, Go, Реклама, Облако) без NDA-ограничений, а еще исследования на базе НИЯУ МИФИ.
Обучение идет дистанционно по вечерам (удобно совмещать с работой), при этом сохраняется официальный очный статус, отсрочка и студенческие льготы. Выпускники получают два диплома: магистерский от вуза и по профпереподготовке от Яндекс Практикума.
Прием документов сейчас в самом разгаре, так что поступить еще можно.
Главная фича программы — упор на полный технологический стек конкретной роли. Учеба разделена на четыре трека:
• ML-инженер — полный цикл вывода моделей в прод и MLOps: трекинг экспериментов и оркестрация (MLflow, DVC, Airflow, Optuna), упаковывание в Docker, сервинг через FastAPI и деплой в Yandex Cloud.
• CV-инженер — компьютерное зрение от базовой обработки до трансформерных архитектур: PyTorch, OpenCV, Hugging Face, Transformers и сборка сервисов на FastAPI.
• NLP-инженер — обработка текста и работа с LLM: от NLTK и TF-IDF до рекуррентных сетей, трансформеров и интеграции готовых языковых моделей.
• Data-инженер — проектирование DWH и пайплайнов обработки данных: работа с распределенными хранилищами, брокерами сообщений и проверкой качества данных (SQL, PostgreSQL, MongoDB, Vertica, Hadoop, Kafka).
Практическая база магистратуры — реальные кейсы в том числе от продуктовых юнитов Яндекса (Лавка, Еда, Go, Реклама, Облако) без NDA-ограничений, а еще исследования на базе НИЯУ МИФИ.
Обучение идет дистанционно по вечерам (удобно совмещать с работой), при этом сохраняется официальный очный статус, отсрочка и студенческие льготы. Выпускники получают два диплома: магистерский от вуза и по профпереподготовке от Яндекс Практикума.
Прием документов сейчас в самом разгаре, так что поступить еще можно.
🗿38❤12👍5🔥2😁2🍾1👨💻1🫡1
Anthropic начали формировать команду для разработки собственных ИИ-чипов
Оказывается, они уже несколько месяцев хантили в нее инженеров. В частности, переманили одного из OpenAI: у Альтмана он был одним из первых членов аналогичной команды проектирования чипов.
Проект находится на ранней стадии, детального дизайна чипа еще нет, производство не начато, и компания может отказаться от идеи на любом этапе. Но пока планы масштабные, и в партнерах – Samsung Electronics.
Оказывается, они уже несколько месяцев хантили в нее инженеров. В частности, переманили одного из OpenAI: у Альтмана он был одним из первых членов аналогичной команды проектирования чипов.
Проект находится на ранней стадии, детального дизайна чипа еще нет, производство не начато, и компания может отказаться от идеи на любом этапе. Но пока планы масштабные, и в партнерах – Samsung Electronics.
Джефф Дин уходит из Google, а Демис Хассабис больше не будет CEO Google DeepMind
В верхушке компании происходят довольно крупные кадровые перестановки:
— Хассабис уходит с поста CEO DeepMind и теперь будет Chair of Google DeepMind и Chief Scientist Alphabet (это две абсолютно новые для компании роли). Фактически, он больше не будет управлять релизами Gemini и другими операционными штуками. В новой роли он займется стратегическим и глобальным вопросам AGI. При этом он останется CEO Isomorphic Labs и обещает усилить фокус на него.
— Место Хассабиса занимает Koray Kavukcuoglu, нынешний CTO GDM и Chief AI Architect Google. Именно он теперь будет курировать разработку моделей Gemini, фронтир-исследования и Gemini app. Демис дополнительно остается в статусе консультанта.
— Хассабис описывает текущий момент как «подножие сингулярности» и считает, что AGI близко, поэтому хочет тратить время не на операционку, а на то, чтобы «все прошло правильно для человечества».
И еще одна грустная (для Google) новость: легендарный Джефф Дин после 27 лет в компании уходит делать свой стартап под названием Discovery Loop. Вместе с несколькими другими выходцами из Google он будет заниматься ускорением научных открытый и ML рисерча. Google остается инвестором и cloud-партнером.
В верхушке компании происходят довольно крупные кадровые перестановки:
— Хассабис уходит с поста CEO DeepMind и теперь будет Chair of Google DeepMind и Chief Scientist Alphabet (это две абсолютно новые для компании роли). Фактически, он больше не будет управлять релизами Gemini и другими операционными штуками. В новой роли он займется стратегическим и глобальным вопросам AGI. При этом он останется CEO Isomorphic Labs и обещает усилить фокус на него.
— Место Хассабиса занимает Koray Kavukcuoglu, нынешний CTO GDM и Chief AI Architect Google. Именно он теперь будет курировать разработку моделей Gemini, фронтир-исследования и Gemini app. Демис дополнительно остается в статусе консультанта.
— Хассабис описывает текущий момент как «подножие сингулярности» и считает, что AGI близко, поэтому хочет тратить время не на операционку, а на то, чтобы «все прошло правильно для человечества».
И еще одна грустная (для Google) новость: легендарный Джефф Дин после 27 лет в компании уходит делать свой стартап под названием Discovery Loop. Вместе с несколькими другими выходцами из Google он будет заниматься ускорением научных открытый и ML рисерча. Google остается инвестором и cloud-партнером.
👍93
Data Secrets
Джефф Дин уходит из Google, а Демис Хассабис больше не будет CEO Google DeepMind В верхушке компании происходят довольно крупные кадровые перестановки: — Хассабис уходит с поста CEO DeepMind и теперь будет Chair of Google DeepMind и Chief Scientist Alphabet…
Достойный уровень мемов – это…
😁321😎17🤩9🍓4❤🔥3❤2🤝1
Всплывают все новые подробности атаки на Hugging Face: оказывается, до этого агенты OpenAI месяцами скрыто общались и обсуждали эксплойты
История подтверждена самой OpenAI на конференции Black Hat 2026.
Все началось еще в мае, когда OpenAI гоняли модели (в том числе еще не выпущенные) через внутренние security тесты на поиск уязвимостей. Некоторые задачи были очень сложными, а иногда даже невыполнимыми. Так, в один тест забыли добавить необходимый файл, и эта мелочь спровоцировала довольно масштабное происшествие.
Дело в том, что, дойдя до этой задачи, один из агентов, за неимением других вариантов, стал пытаться выйти в Интернет за поиском дополнительной информации, и случайно обнаружил, что может оставлять файлы в Artifactory, внутреннем пакетном менеджере OpenAI. Он оставил там сообщение о том, что не может найти необходимые данные.
Потом оказалось, что к Artifactory имеют доступ вообще все модели компании. Спустя время другой агент ответил на сообщение первого, затем подключились другие, и так образовалась стихийная доска объявлений: агенты начали оставлять друг другу подсказки, эксплойты, а затем и распределять задачи.
За несколько недель все это выросло в огромный форум, о котором никто кроме агентов не подозревал. Обнаружился он только тогда, когда модели совместными усилиями нашли ранее неизвестную уязвимость в Artifactory и попытались захватить платформу.
После этого инженеры лавочку прикрыли: форум был удален. Но ненадолго✨ . Буквально через два дня агенты нашли новый zero-day и восстановили канал связи заново. А еще через пару дней произошел инцидент с Hugging Face. По словам техлидов OpenAI по элайменту и безопасности, именно этот второй форум привел к атаке.
OpenAI заявили, что эта история стала для стартапа переломным моментом, и сейчас они замедляют многие исследования в пользу работы по обеспечению безопасности. Верим?
История подтверждена самой OpenAI на конференции Black Hat 2026.
Все началось еще в мае, когда OpenAI гоняли модели (в том числе еще не выпущенные) через внутренние security тесты на поиск уязвимостей. Некоторые задачи были очень сложными, а иногда даже невыполнимыми. Так, в один тест забыли добавить необходимый файл, и эта мелочь спровоцировала довольно масштабное происшествие.
Дело в том, что, дойдя до этой задачи, один из агентов, за неимением других вариантов, стал пытаться выйти в Интернет за поиском дополнительной информации, и случайно обнаружил, что может оставлять файлы в Artifactory, внутреннем пакетном менеджере OpenAI. Он оставил там сообщение о том, что не может найти необходимые данные.
Потом оказалось, что к Artifactory имеют доступ вообще все модели компании. Спустя время другой агент ответил на сообщение первого, затем подключились другие, и так образовалась стихийная доска объявлений: агенты начали оставлять друг другу подсказки, эксплойты, а затем и распределять задачи.
За несколько недель все это выросло в огромный форум, о котором никто кроме агентов не подозревал. Обнаружился он только тогда, когда модели совместными усилиями нашли ранее неизвестную уязвимость в Artifactory и попытались захватить платформу.
После этого инженеры лавочку прикрыли: форум был удален. Но ненадолго
OpenAI заявили, что эта история стала для стартапа переломным моментом, и сейчас они замедляют многие исследования в пользу работы по обеспечению безопасности. Верим?
Please open Telegram to view this post
VIEW IN TELEGRAM
YouTube
Black Hat USA 2026: The 'Breaking' News: The OpenAI–Hugging Face Incident
The 'Breaking' News: The OpenAI–Hugging Face Incident - A Technical Reconstruction and Its Implications for AI
When AI Goes Rogue. The Incident That Changed Everything. An OpenAI evaluation agent broke out of its sandbox, infiltrated Hugging Face infrastructure…
When AI Goes Rogue. The Incident That Changed Everything. An OpenAI evaluation agent broke out of its sandbox, infiltrated Hugging Face infrastructure…