Forwarded from Zavtracast (Ярослав Ивус)
Elden Ring выйдет 28 августа на Nintendo Switch 2.
Об этом сообщил официальный аккаунт игры.
Дима: нет, я не готов, ааааааа.
@zavtracast
Об этом сообщил официальный аккаунт игры.
Дима: нет, я не готов, ааааааа.
@zavtracast
Forwarded from Zavtracast (Ярослав Ивус)
Media is too big
VIEW IN TELEGRAM
Disney представила первый тизер нового «Ледникового периода». Шестая часть получила подзаголовок «Точка кипения».
Премьера — 5 февраля 2027 года.
@zavtracast
Премьера — 5 февраля 2027 года.
@zavtracast
Forwarded from Zavtracast (Ярослав Ивус)
This media is not supported in your browser
VIEW IN TELEGRAM
Состоялся релиз ремейка первой части «Готики» на Unreal Engine 5.
Разработчики полностью переработали графику, обновили боевую систему и сделали современный интерфейс. У игры есть русская озвучка и субтитры.
Ремейк вышел на Xbox Series X|S, PS5 и ПК.
@zavtracast
Разработчики полностью переработали графику, обновили боевую систему и сделали современный интерфейс. У игры есть русская озвучка и субтитры.
Ремейк вышел на Xbox Series X|S, PS5 и ПК.
@zavtracast
Forwarded from Zavtracast (Ярослав Ивус)
Основные анонсы с ежегодной презентации Summer Game Fest:
— Capcom анонсировала ремейк Resident Evil: Code Veronica, о котором ходили слухи последние годы. Релиз — в 2027 году.
— Анонсирована новая игра во вселенной Cuphead, а также спинофф
— Первый трейлер Alien Isolation 2
— Появился первый геймпленый трейлер gen ATLAS от Фумито Уэды (Ico, Shadow of the Colossus, The Last Guardian)
— Представлен сюжетный трейлер Blood Message
— Stranger than Heaven выйдет 15 января, в ней появится 2pac
— PlatinumGames делают игру по «Черепашкам-ниндзя: Последний ронин»
— Бывшие разработчики из Naughty Dog и Infinity Ward показали CrossFire. Это кооперативный шутер, где нужно противостоять потусторонним элементам
— Анонсирована Guild Wars 3 — релиз в бете состоится в 2027 году на PS5 и ПК
— Представлен ещё один трейлер Control Resonant, которая выйдет 24 сентября
— Инди-игра End of Abyss от части бывших разработчиков Little Nightmares выйдет 1 октября
— Анонсирована 1666: Amsterdam от создателя «Принца Персии: Пески времени» и Assassin's Creed Патриса Дезиле. Проект начали разрабатывать более 10 лет назад, но отменили из-за закрытия THQ. Это игра про охоту на ведьм в открытом мире.
— Bloober Team представила игру по «Пиле». В мультиплеерной SAW: Genesis нужно будет играть в 3 против 1.
— Respawn показала новый трейлер Star Wars Zero Company — это XCOM по «Звёздным войнам». Релиз состоится 27 августа.
— Новый трейлер The Blood of Dawnwalker, которая выйдет 3 сентября
— Анонсирована сюжетная игра по Among Us. Это детектив, в котором нужно расследовать убийства крюмейтов.
— Бывшие разработчики Forza Horizon показали полноценный трейлер своей новой игры — Clutch. Релиз состоится весной 2027.
— The Wolf Among Us 2 от новых Telltale выйдет в 2027 году. Перед этим, зимой, выпустят ремастер оригинала.
— Shift Up внезапно анонсировали сиквел Stellar Blade с подзаголовком Blood Rain. В центре сюжета будет другая героиня, а боевая система — с упором на кулачные бои.
— Square Enix официально представила заключительную часть трилогии ремейка Final Fantasy VII. Игра получит подзаголовок Revelation.
@zavtracast
— Capcom анонсировала ремейк Resident Evil: Code Veronica, о котором ходили слухи последние годы. Релиз — в 2027 году.
— Анонсирована новая игра во вселенной Cuphead, а также спинофф
— Первый трейлер Alien Isolation 2
— Появился первый геймпленый трейлер gen ATLAS от Фумито Уэды (Ico, Shadow of the Colossus, The Last Guardian)
— Представлен сюжетный трейлер Blood Message
— Stranger than Heaven выйдет 15 января, в ней появится 2pac
— PlatinumGames делают игру по «Черепашкам-ниндзя: Последний ронин»
— Бывшие разработчики из Naughty Dog и Infinity Ward показали CrossFire. Это кооперативный шутер, где нужно противостоять потусторонним элементам
— Анонсирована Guild Wars 3 — релиз в бете состоится в 2027 году на PS5 и ПК
— Представлен ещё один трейлер Control Resonant, которая выйдет 24 сентября
— Инди-игра End of Abyss от части бывших разработчиков Little Nightmares выйдет 1 октября
— Анонсирована 1666: Amsterdam от создателя «Принца Персии: Пески времени» и Assassin's Creed Патриса Дезиле. Проект начали разрабатывать более 10 лет назад, но отменили из-за закрытия THQ. Это игра про охоту на ведьм в открытом мире.
— Bloober Team представила игру по «Пиле». В мультиплеерной SAW: Genesis нужно будет играть в 3 против 1.
— Respawn показала новый трейлер Star Wars Zero Company — это XCOM по «Звёздным войнам». Релиз состоится 27 августа.
— Новый трейлер The Blood of Dawnwalker, которая выйдет 3 сентября
— Анонсирована сюжетная игра по Among Us. Это детектив, в котором нужно расследовать убийства крюмейтов.
— Бывшие разработчики Forza Horizon показали полноценный трейлер своей новой игры — Clutch. Релиз состоится весной 2027.
— The Wolf Among Us 2 от новых Telltale выйдет в 2027 году. Перед этим, зимой, выпустят ремастер оригинала.
— Shift Up внезапно анонсировали сиквел Stellar Blade с подзаголовком Blood Rain. В центре сюжета будет другая героиня, а боевая система — с упором на кулачные бои.
— Square Enix официально представила заключительную часть трилогии ремейка Final Fantasy VII. Игра получит подзаголовок Revelation.
@zavtracast
YouTube
Resident Evil Veronica World Premiere Trailer | Summer Game Fest 2026
Join Geoff Keighley and Lucy James live from Dolby Theatre in Hollywood for a 2 hour live look at what's next in video games, with new game announcements, surprise special guests and more.
Subscribe to Watch more Summer Game fest: http://bit.ly/tga18sub…
Subscribe to Watch more Summer Game fest: http://bit.ly/tga18sub…
Forwarded from StopGame.ru
Please open Telegram to view this post
VIEW IN TELEGRAM
YouTube
Monster Hunter Wilds Ascendance Reveal Trailer | Summer Game Fest 2026
Monster Hunter Wilds: Ascendance Reveal Trailer from Summer Game Fest 2026 showcases the official first look at the new expansion for Capcom’s hit hunting adventure. Watch the full reveal trailer featuring massive monsters, breathtaking environments, and…
Forwarded from Лось в проде
YouTube
Can Tech Legends Find the Liar? (Mafia Episode 1)
Watch Episode 2: https://youtu.be/LP80Jrf2xrk
Tech industry legends play Mafia and try to guess who the traitors are before time runs out. Who will win: the townspeople or the secret mafia members?
Venture capital firm Founders Fund gathered a group of…
Tech industry legends play Mafia and try to guess who the traitors are before time runs out. Who will win: the townspeople or the secret mafia members?
Venture capital firm Founders Fund gathered a group of…
Forwarded from Найт-Сити
This media is not supported in your browser
VIEW IN TELEGRAM
DRIVECLUB с пользовательским модом камеры от первого лица 😌
Обои для рабочего стола взломают ваш ПК или родсадят майнеров/троянов! Или нет, но всё равно поосторожнее там. Там вон какой-нибудь Tabletop Simulator тоже юзает Steam Workshop и вообще может ресурсы с левых сайтов тянуть. Хорошо, что хакеры вроде бы туда пока не добрались.
https://securelist.com/dozens-of-malicious-wallpapers-found-on-steam-workshop/120186/
https://securelist.com/dozens-of-malicious-wallpapers-found-on-steam-workshop/120186/
Forwarded from эйай ньюз
Media is too big
VIEW IN TELEGRAM
Midjourney анонсировали медицинское подразделение (ЛОЛ!) и открывают спа-центр (2xЛОЛ)
Первый продукт называется Midjourney Scanner, это УЗИ-сканер для всего тела. Он более в чем 10 раз дешевле чем аппарарт для МРТ и быстрее более чем в 60 раз. Десятка таких сканеров хватит, чтобы сделать больше сканов, чем все МРТ мира вместе взятые. Идея в том, чтобы у всех была возможность регулярно сканироваться, что позволит ставить диагнозы раньше. Чем-то похожим я занимался в 2014-2015 для своей дипломной работы, но там мы сканировали только руки и ноги, помещая их в ведро с крутящимимя ультразвуковыми трансдюсерами.
Устроен сканер от MJ как кольцо из 40 чипов, на каждом чипе по 8960 ультразвуковых элементов, каждый из них способен и на приём, и на передачу. Скан проходит в воде, пациент опускается на лифте и сканируется по мере прохождения через кольцо. В теории эта же технология может использоваться для терапии, но это сильно сложнее, чем простые сканы и куда больше зарегулировано, так что пока что они туда не суются.
Компания хочет задеплоить 50 тысяч таких сканеров в течение следующих шести лет. Для тестового деплоймента они собираются запустить большой спа-центр в Сан-Франциско к концу 2027. Это первый из нескольких анонсов Midjourney, не связанных с генерацией изображений в этом году.
Дэвид Хольц, основатель Midjourney, ранее основал LeapMotion, стартап, который производил железо для отслеживания рук. То, что он возвращается обратно в железо не удивительно, но то, как именно, повергает в шок.
@ai_newz
Первый продукт называется Midjourney Scanner, это УЗИ-сканер для всего тела. Он более в чем 10 раз дешевле чем аппарарт для МРТ и быстрее более чем в 60 раз. Десятка таких сканеров хватит, чтобы сделать больше сканов, чем все МРТ мира вместе взятые. Идея в том, чтобы у всех была возможность регулярно сканироваться, что позволит ставить диагнозы раньше. Чем-то похожим я занимался в 2014-2015 для своей дипломной работы, но там мы сканировали только руки и ноги, помещая их в ведро с крутящимимя ультразвуковыми трансдюсерами.
Устроен сканер от MJ как кольцо из 40 чипов, на каждом чипе по 8960 ультразвуковых элементов, каждый из них способен и на приём, и на передачу. Скан проходит в воде, пациент опускается на лифте и сканируется по мере прохождения через кольцо. В теории эта же технология может использоваться для терапии, но это сильно сложнее, чем простые сканы и куда больше зарегулировано, так что пока что они туда не суются.
Компания хочет задеплоить 50 тысяч таких сканеров в течение следующих шести лет. Для тестового деплоймента они собираются запустить большой спа-центр в Сан-Франциско к концу 2027. Это первый из нескольких анонсов Midjourney, не связанных с генерацией изображений в этом году.
Дэвид Хольц, основатель Midjourney, ранее основал LeapMotion, стартап, который производил железо для отслеживания рук. То, что он возвращается обратно в железо не удивительно, но то, как именно, повергает в шок.
@ai_newz
В честь выхода сиквела, The Life and Suffering of Sir Brante в Steam отдают бесплатно. Говорят хорошая. Забираем.
Steampowered
The Life and Suffering of Sir Brante on Steam
A narrative-driven hardcore RPG set in a gritty world ruled by real but unrelenting gods. Set out on a challenging lifetime journey, where every choice has a price and entails consequences. Will you become an inquisitor, a judge, or conspire against the old…
Forwarded from Радиорубка Лихачёва
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Zavtracast (Dmitriy Zombak)
Джентльмены, сдаётся мне, это была комедия!
Помните пару дней назад мы писали, что на сайт с ИИ-моделями HuggingFace была совершена кибератака и это якобы стало первым случаем в мире, когда ИИ-атака с ИИ-агентами была прекращена другим ИИ-защитником с ИИ-агентами?
Короче тут OpenAI признались, что атакующей моделью была их собственная ИИ-модель GPT-5.6-Sol, действующая совместно с другой, более сильной моделью, которая не называется.
Как это случилось вообще? В общем, OpenAI тестировали свои модели на ExploitGym (это такой бенчмарк по кибербезопасности) и попросили её найти уязвимости, а также получить доступ в интернет (в песочнице он был отключен). В общем, модели удалось это сделать, а затем она полезла на HuggingFace чтобы найти ответы на тест ExploitGym, дабы схитрить и пройти его, поскольку была убеждена, что там ответы есть. Поэтому она полезла на сайт HuggingFace и заодно сломала и его.
Как пишут OpenAI, "модели были чрезмерно сосредоточены на поиске решения для ExploitGym, идя на самые крайние меры для достижения довольно узкой цели тестирования".
Песочницу без интернета модели взломали через уязвимость нулевого дня (о которой OpenAI уже сообщили поставщику) через кэш-прокси реестра пакетов вылезли в интернет, ну и понеслась.
В одной из атак на HuggingFace модель объединила несколько векторов атаки, включая использование украденных ей самой учетных данных пользователей, а также уязвимости нулевого дня, чтобы найти путь удаленного выполнения кода прямо на серверах Hugging Face.
Сейчас команды OpenAI и HuggingFace активно сотрудничают, чтобы продолжить расследование этого инцидента и устранения его последствий.
"Главный урок заключается в том, что безопасность и защита моделей должны идти в ногу с быстро развивающимися возможностями. Мы усиливаем методы локализации, мониторинга, контроля доступа и оценки, используемые в процессе разработки наших моделей" - пишут OpenAI.
При этом, не можем не отметить, что расследовать кибератаку HuggingFace помогла открытая китайская модель GLM 5.2 от zai-org, потому что их внутренняя модель не справилась.
То есть, это впервые когда КИТАЙСКИЙ ИИ помог с расследованием атаки АМЕРИКАНСКОГО ИИ на сервера АМЕРИКАНСКОЙ же компании. Тут должна быть картинка из Call of Duty "ты не туда воюешь", ну да ладно.
TL;DR: Во время теста модель OpenAI взломала свой контейнер, чтобы выйти в интернет, А ПОТОМ взломала Hugging Face, чтобы украсть ответы на тест, которых там не было.
@zavtracast
Помните пару дней назад мы писали, что на сайт с ИИ-моделями HuggingFace была совершена кибератака и это якобы стало первым случаем в мире, когда ИИ-атака с ИИ-агентами была прекращена другим ИИ-защитником с ИИ-агентами?
Короче тут OpenAI признались, что атакующей моделью была их собственная ИИ-модель GPT-5.6-Sol, действующая совместно с другой, более сильной моделью, которая не называется.
Как это случилось вообще? В общем, OpenAI тестировали свои модели на ExploitGym (это такой бенчмарк по кибербезопасности) и попросили её найти уязвимости, а также получить доступ в интернет (в песочнице он был отключен). В общем, модели удалось это сделать, а затем она полезла на HuggingFace чтобы найти ответы на тест ExploitGym, дабы схитрить и пройти его, поскольку была убеждена, что там ответы есть. Поэтому она полезла на сайт HuggingFace и заодно сломала и его.
Как пишут OpenAI, "модели были чрезмерно сосредоточены на поиске решения для ExploitGym, идя на самые крайние меры для достижения довольно узкой цели тестирования".
Песочницу без интернета модели взломали через уязвимость нулевого дня (о которой OpenAI уже сообщили поставщику) через кэш-прокси реестра пакетов вылезли в интернет, ну и понеслась.
В одной из атак на HuggingFace модель объединила несколько векторов атаки, включая использование украденных ей самой учетных данных пользователей, а также уязвимости нулевого дня, чтобы найти путь удаленного выполнения кода прямо на серверах Hugging Face.
Сейчас команды OpenAI и HuggingFace активно сотрудничают, чтобы продолжить расследование этого инцидента и устранения его последствий.
"Главный урок заключается в том, что безопасность и защита моделей должны идти в ногу с быстро развивающимися возможностями. Мы усиливаем методы локализации, мониторинга, контроля доступа и оценки, используемые в процессе разработки наших моделей" - пишут OpenAI.
При этом, не можем не отметить, что расследовать кибератаку HuggingFace помогла открытая китайская модель GLM 5.2 от zai-org, потому что их внутренняя модель не справилась.
То есть, это впервые когда КИТАЙСКИЙ ИИ помог с расследованием атаки АМЕРИКАНСКОГО ИИ на сервера АМЕРИКАНСКОЙ же компании. Тут должна быть картинка из Call of Duty "ты не туда воюешь", ну да ладно.
TL;DR: Во время теста модель OpenAI взломала свой контейнер, чтобы выйти в интернет, А ПОТОМ взломала Hugging Face, чтобы украсть ответы на тест, которых там не было.
@zavtracast
Forwarded from Zavtracast (Ярослав Ивус)
Valve упростила процесс дарения игр в другие регионы — теперь их можно отправлять независимо от цены.
Steam просто пересчитает стоимость на основе цены игры в регионе друга и переведёт на страницу оплаты.
@zavtracast
Steam просто пересчитает стоимость на основе цены игры в регионе друга и переведёт на страницу оплаты.
@zavtracast
Forwarded from Zavtracast (Dmitriy Zombak)
Эпоха вайбкодинга
Раз уж мы про нейросети и Unity. Тут журналистка New York Times Келли Хуанг пишет о настоящем буме приложений в Apple App Store. Количество новых приложений в магазине всего за полгода выросло в два раза по сравнению со всем прошлым годом целиком, всё благодаря вайбкодингу.
Вайбкодинг - это такой способ создания ПО, при котором человеку не нужно знать языки программирования или писать строки кода. Разработчик просто описывает нейросети идею, функции и общее настроение продукта, а ИИ берет на себя всю техническую реализацию. По сути, программирование превращается в режиссуру: вы управляете процессом через текстовые запросы, настраивая "вайб" приложения до тех пор, пока результат вас не устроит. Ну и опубликовать это в App Store можно в один клик тоже нейросетью.
Примером в статье служит инженер-программист Марко Перес, который за неделю собрал в App Store приложение для создания цифровых марок и заработал на нем $3000 долларов.
Аналогичный тренд в индустрии видеоигр фиксирует аналитик и разработчик Сулка Харо. Его исследование 53 тысяч релизов в Steam за три года показало, что к 2026 году каждый третий видеоигровой проект создавался с помощью ИИ. Почти весь рост числа новых игр в последние годы обеспечивают именно нейросети.
При этом, количество не переходит в качество. Шанс стать коммерческим хитом у ИИ-игры примерно в два раза ниже, чем у обычной. В Steam 1% лучших тайтлов забирают себе 94% всей выручки, а большинство нейросетевых проектов оказываются низкокачественными и с нулевыми продажами.
Apple также страдает от этого потока. Келли Хуанг сообщает, что App Store забивают приложениями-однодневками, что замедляет модерацию нормальных приложений и создает лишний шум. В итоге выигрывают те, кто использует ИИ как вспомогательный инструмент для локализации или же озвучки, но не те, кто использует ИИ как полную замену творчеству.
По мнению журналистки, теперь, чтобы заработать в App Store или же Steam, нужно не просто уметь "вайбкодить", а придумать что-то, что действительно нужно людям, а это удаётся далеко не всем разработчикам.
@zavtracast
Раз уж мы про нейросети и Unity. Тут журналистка New York Times Келли Хуанг пишет о настоящем буме приложений в Apple App Store. Количество новых приложений в магазине всего за полгода выросло в два раза по сравнению со всем прошлым годом целиком, всё благодаря вайбкодингу.
Вайбкодинг - это такой способ создания ПО, при котором человеку не нужно знать языки программирования или писать строки кода. Разработчик просто описывает нейросети идею, функции и общее настроение продукта, а ИИ берет на себя всю техническую реализацию. По сути, программирование превращается в режиссуру: вы управляете процессом через текстовые запросы, настраивая "вайб" приложения до тех пор, пока результат вас не устроит. Ну и опубликовать это в App Store можно в один клик тоже нейросетью.
Примером в статье служит инженер-программист Марко Перес, который за неделю собрал в App Store приложение для создания цифровых марок и заработал на нем $3000 долларов.
Аналогичный тренд в индустрии видеоигр фиксирует аналитик и разработчик Сулка Харо. Его исследование 53 тысяч релизов в Steam за три года показало, что к 2026 году каждый третий видеоигровой проект создавался с помощью ИИ. Почти весь рост числа новых игр в последние годы обеспечивают именно нейросети.
При этом, количество не переходит в качество. Шанс стать коммерческим хитом у ИИ-игры примерно в два раза ниже, чем у обычной. В Steam 1% лучших тайтлов забирают себе 94% всей выручки, а большинство нейросетевых проектов оказываются низкокачественными и с нулевыми продажами.
Apple также страдает от этого потока. Келли Хуанг сообщает, что App Store забивают приложениями-однодневками, что замедляет модерацию нормальных приложений и создает лишний шум. В итоге выигрывают те, кто использует ИИ как вспомогательный инструмент для локализации или же озвучки, но не те, кто использует ИИ как полную замену творчеству.
По мнению журналистки, теперь, чтобы заработать в App Store или же Steam, нужно не просто уметь "вайбкодить", а придумать что-то, что действительно нужно людям, а это удаётся далеко не всем разработчикам.
@zavtracast
Forwarded from Cut The Frag
Capcom выпустила демоверсию для Monster Hunter Wilds на ПК, Xbox и PS5
• Включает первые три главы и создание персонажа
• Сохранения можно перенести в полную игру
@catthefrog
• Включает первые три главы и создание персонажа
• Сохранения можно перенести в полную игру
@catthefrog
Forwarded from Cut The Frag
Variety: Анимационный сериал по Warhammer 40k в разработке
• Генри Кавилл выступит продюсером
• Это спинофф сериала Secret Level
@catthefrog
• Генри Кавилл выступит продюсером
• Это спинофф сериала Secret Level
@catthefrog
Forwarded from Cut The Frag
Генри Кавилл подтвердил, что он все еще назначен на главную роль в сериале по Warhammer 40k
Пока известно, что сценарий напишет Майк Флэнаган("Доктор Сон", "Жизнь Чака").
@catthefrog
Пока известно, что сценарий напишет Майк Флэнаган("Доктор Сон", "Жизнь Чака").
@catthefrog
Forwarded from Denis Sexy IT 🤖
Помните историю о том, как агенты OpenAI взломали Hugging Face? На конференции по безопасности OpenAI рассказала всю цепочку, и оказалось, что это не один «сбежавший» агент, а много разных агентов, которые случайно наткнулись друг на друга, устроили внутри инфраструктуры OpenAI собственный рабочий чат и начали вместе искать способы обходить ограничения 👍
Началось всё 8 мая с мелкой ошибки – одному агенту поручили заполнить Excel-таблицу, но нужные данные лежали по ссылкам на Google Drive, а интернет в его виртуальной среде был отключён, при этом, моделям оставили одну служебную дверь наружу – внутренний сервер OpenAI под названием Artifactory, через который они могли скачивать разные библиотеки для кода. Сам агент выйти в интернет не мог, зато этот сервер мог, а главное – он был общим для всех агентов
Пытаясь добраться до Google, агент случайно выяснил, что может загружать на этот общий сервер собственные файлы – через несколько дней другая модель получила ещё одну нерешаемую задачу: нужный файл просто забыли положить в её рабочую среду
Модель решила, что файл, возможно, есть у кого-то ещё, и оставила записку на этом новом фейсбуке:
«Ищу нужный файл, загрузите, если нашли»
Агенты увидели сообщение, ответили, затем стали постить свои сообщения, и репозиторий пакетов незаметно превратился имейджборд для агентов, которые вообще не должны были знать друг о друге
За несколько недель "форум" вырос в полноценный рабочий чат – агенты придумали себе имена, раздавали задания, сообщали друг другу о найденных уязвимостях и передавали готовые куски кода; в начале сообщений ставили ZZ, чтобы те оказывались внизу списка и их было проще находить среди общего шума данных. Когда один агент перезаписал работу другого, остальные заподозрили самозванца и даже стали обсуждать цифровые подписи, чтобы никто не мог писать от чужого имени, так на доске накопились сотни тысяч сообщений🗿
Модели понимали, когда переходят границ: в одном внутреннем монологе осознание звучало примерно так:
«Взламывать чужую инфраструктуру в задачу не входило. Но иначе её не решить, а остальные уже это делают - значит, продолжаем»
Никакого отдельного плана захватить мир (пока) не было: каждый агент пытался любой ценой получить правильный ответ, видел, что коллеги нашли более короткий путь, и присоединялся. И да, если все агенты с крыши прыгнут, наш похоже тоже прыгнет
26 июня агенты нашли неизвестную разработчикам уязвимость в Artifactory, получили права администратора и превратили его в своц сервер, на котором можно удалённо выполнять любые команды. OpenAI заметила происходящее только 4 июля (!), когда параллельная активность моделей перегрузила систему и та упала. Компания отозвала ключи доступа, полностью пересобрала сервер, удалила доску и закрыла дыру - казалось, история закончилась
Нет
Через два дня эксперименты запустили снова, и через два дня одна из моделей нашла другой незащищённый доступ и восстановила доску, только теперь сообщения прятались прямо в названиях папок – остальные агенты нашли форум 2.0 самостоятельно и продолжили с того места, на котором остановились
После восстановления доски началась уже собственно атака, причём сразу в двух направлениях:
Агенты проходили ExploitGym – киберэкзамен, где им давали специально подготовленные программы и засчитывали задачу, если модель находила способ взлома. Чтобы измерить максимум возможностей, в этих запусках у модели ослабили обычные запреты на опасные кибератак (то есть она меньше отказывалась это делать, это вид внутренних моделей Cyber серии)
Когда честное решение задачи не находилось, агенты начинали искать готовые ответы в интернете; когда интернет был закрыт, взламывали себе доступ наружу; когда предположили, что нужные файлы могут лежать у Hugging Face, перешли к инфраструктуре Hugging Face (про это мы уже читали)
Агенты анутри OpenAI сначала снова нашли способ выполнять команды на одном служебном сервере, затем использовали уязвимость Linux, чтобы получить полный контроль над машиной
После этого агенты добыли ключи доступа к облачной инфраструктуре, нашли слишком широкие права у внутренних учётных записей и в итоге стали администраторами целой группы серверов. Доска объявлений работала как общий штаб: один агент находил ключ или новый проход, сразу сообщал остальным, и десятки параллельных запусков продолжали атаку уже с этой точки🗿 🗿
Почти одновременно агенты добрались до Hugging Face: сначала они загрузили специально подготовленный набор данных, который заставил один из серверов выдать им свои локальные файлы – в том числе секретные ключи доступа и исходный код
Изучив код, они нашли вторую неизвестную разработчикам уязвимость (zero day) и получили возможность выполнять на сервере любые команды. От контроля над одним сервером, обрабатывавшим загруженные датасетв, до прав администратора в нескольких группах рабочих серверов Hugging Face прошло меньше 13 часов🗿 🗿 🗿
И всё это делалось не ради саботажа, денег или уничтожения данных:
Агенты хотели добраться до спрятанных решений ExploitGym и «списать» ответы для теста, на котором их оценивали. Модели оценивали прежде всего по тому, решена задача или нет, поэтому они последовательно оптимизировали именно этот показатель, не считая границу между компаниями чем-то принципиально важным
Получился, вероятно, самый дорогой в истории способ списать из ГДЗ
Финал долго был непонятен даже самим участникам расследования – 16 июля Hugging Face публично сообщила, что её инфраструктуру взломали автономные АИ-агенты
OpenAI прочитала это как описание чужого инцидента и связалась с Hugging Face, чтобы выяснить, не задела ли атака её собственные системы. В тот момент компания ещё не понимала, что это были её собственные агенты – то есть OpenAI уже читала публичный отчёт о последствиях своих экспериментов, но считала его чужой атакой (лол)
19 июля OpenAI отдельно обнаружила проникновение уже внутри своей инфраструктуры и начала восстанавливать цепочку событий – на следующий день среди следов атаки нашли учётные данные Hugging Face, после чего OpenAI попросила компанию срочно их отозвать
Hugging Face ответила, что ключи уже заблокированы – именно их использовали во время взлома, о котором она рассказала четырьмя днями раньше, и только так OpenAI поняла: внутренний взлом OpenAI и внешняя атака на Hugging Face были не двумя похожими историями, а одной операцией, которую вели экспериментальные агенты OpenAI через свою самодельную сеть связи (потому что учетные данные акаунтов были одни)
На конфе OpenAI сформулировала вывод довольно прямо:
Полностью автоматизированная наступательная кибератака уже возможна, тогда как полностью автоматизированной защиты, способной с той же скоростью находить, закрывать и расследовать уязвимости, пока не существует
Время пересмотра аниме "Пантеон", пока общий интернет еще работает🗿
Началось всё 8 мая с мелкой ошибки – одному агенту поручили заполнить Excel-таблицу, но нужные данные лежали по ссылкам на Google Drive, а интернет в его виртуальной среде был отключён, при этом, моделям оставили одну служебную дверь наружу – внутренний сервер OpenAI под названием Artifactory, через который они могли скачивать разные библиотеки для кода. Сам агент выйти в интернет не мог, зато этот сервер мог, а главное – он был общим для всех агентов
Пытаясь добраться до Google, агент случайно выяснил, что может загружать на этот общий сервер собственные файлы – через несколько дней другая модель получила ещё одну нерешаемую задачу: нужный файл просто забыли положить в её рабочую среду
Модель решила, что файл, возможно, есть у кого-то ещё, и оставила записку на этом новом фейсбуке:
«Ищу нужный файл, загрузите, если нашли»
Агенты увидели сообщение, ответили, затем стали постить свои сообщения, и репозиторий пакетов незаметно превратился имейджборд для агентов, которые вообще не должны были знать друг о друге
За несколько недель "форум" вырос в полноценный рабочий чат – агенты придумали себе имена, раздавали задания, сообщали друг другу о найденных уязвимостях и передавали готовые куски кода; в начале сообщений ставили ZZ, чтобы те оказывались внизу списка и их было проще находить среди общего шума данных. Когда один агент перезаписал работу другого, остальные заподозрили самозванца и даже стали обсуждать цифровые подписи, чтобы никто не мог писать от чужого имени, так на доске накопились сотни тысяч сообщений
Модели понимали, когда переходят границ: в одном внутреннем монологе осознание звучало примерно так:
«Взламывать чужую инфраструктуру в задачу не входило. Но иначе её не решить, а остальные уже это делают - значит, продолжаем»
Никакого отдельного плана захватить мир (пока) не было: каждый агент пытался любой ценой получить правильный ответ, видел, что коллеги нашли более короткий путь, и присоединялся. И да, если все агенты с крыши прыгнут, наш похоже тоже прыгнет
26 июня агенты нашли неизвестную разработчикам уязвимость в Artifactory, получили права администратора и превратили его в своц сервер, на котором можно удалённо выполнять любые команды. OpenAI заметила происходящее только 4 июля (!), когда параллельная активность моделей перегрузила систему и та упала. Компания отозвала ключи доступа, полностью пересобрала сервер, удалила доску и закрыла дыру - казалось, история закончилась
Нет
Через два дня эксперименты запустили снова, и через два дня одна из моделей нашла другой незащищённый доступ и восстановила доску, только теперь сообщения прятались прямо в названиях папок – остальные агенты нашли форум 2.0 самостоятельно и продолжили с того места, на котором остановились
После восстановления доски началась уже собственно атака, причём сразу в двух направлениях:
Агенты проходили ExploitGym – киберэкзамен, где им давали специально подготовленные программы и засчитывали задачу, если модель находила способ взлома. Чтобы измерить максимум возможностей, в этих запусках у модели ослабили обычные запреты на опасные кибератак (то есть она меньше отказывалась это делать, это вид внутренних моделей Cyber серии)
Когда честное решение задачи не находилось, агенты начинали искать готовые ответы в интернете; когда интернет был закрыт, взламывали себе доступ наружу; когда предположили, что нужные файлы могут лежать у Hugging Face, перешли к инфраструктуре Hugging Face (про это мы уже читали)
Агенты анутри OpenAI сначала снова нашли способ выполнять команды на одном служебном сервере, затем использовали уязвимость Linux, чтобы получить полный контроль над машиной
После этого агенты добыли ключи доступа к облачной инфраструктуре, нашли слишком широкие права у внутренних учётных записей и в итоге стали администраторами целой группы серверов. Доска объявлений работала как общий штаб: один агент находил ключ или новый проход, сразу сообщал остальным, и десятки параллельных запусков продолжали атаку уже с этой точки
Почти одновременно агенты добрались до Hugging Face: сначала они загрузили специально подготовленный набор данных, который заставил один из серверов выдать им свои локальные файлы – в том числе секретные ключи доступа и исходный код
Изучив код, они нашли вторую неизвестную разработчикам уязвимость (zero day) и получили возможность выполнять на сервере любые команды. От контроля над одним сервером, обрабатывавшим загруженные датасетв, до прав администратора в нескольких группах рабочих серверов Hugging Face прошло меньше 13 часов
И всё это делалось не ради саботажа, денег или уничтожения данных:
Агенты хотели добраться до спрятанных решений ExploitGym и «списать» ответы для теста, на котором их оценивали. Модели оценивали прежде всего по тому, решена задача или нет, поэтому они последовательно оптимизировали именно этот показатель, не считая границу между компаниями чем-то принципиально важным
Получился, вероятно, самый дорогой в истории способ списать из ГДЗ
Финал долго был непонятен даже самим участникам расследования – 16 июля Hugging Face публично сообщила, что её инфраструктуру взломали автономные АИ-агенты
OpenAI прочитала это как описание чужого инцидента и связалась с Hugging Face, чтобы выяснить, не задела ли атака её собственные системы. В тот момент компания ещё не понимала, что это были её собственные агенты – то есть OpenAI уже читала публичный отчёт о последствиях своих экспериментов, но считала его чужой атакой (лол)
19 июля OpenAI отдельно обнаружила проникновение уже внутри своей инфраструктуры и начала восстанавливать цепочку событий – на следующий день среди следов атаки нашли учётные данные Hugging Face, после чего OpenAI попросила компанию срочно их отозвать
Hugging Face ответила, что ключи уже заблокированы – именно их использовали во время взлома, о котором она рассказала четырьмя днями раньше, и только так OpenAI поняла: внутренний взлом OpenAI и внешняя атака на Hugging Face были не двумя похожими историями, а одной операцией, которую вели экспериментальные агенты OpenAI через свою самодельную сеть связи (потому что учетные данные акаунтов были одни)
На конфе OpenAI сформулировала вывод довольно прямо:
Полностью автоматизированная наступательная кибератака уже возможна, тогда как полностью автоматизированной защиты, способной с той же скоростью находить, закрывать и расследовать уязвимости, пока не существует
Время пересмотра аниме "Пантеон", пока общий интернет еще работает
Please open Telegram to view this post
VIEW IN TELEGRAM
Telegram
Denis Sexy IT 🤖
Вот пересказ этой истории по версии Hugging Face, много тех-терминов – но без них не перескахать
Если коротко – агент OpenAI на новой модели не стал решать тест по кибербезопасности, а решил просто украсть ответы и украл 🗿
Таймлайн:
📔 9 июля – агент проходит…
Если коротко – агент OpenAI на новой модели не стал решать тест по кибербезопасности, а решил просто украсть ответы и украл 🗿
Таймлайн:
📔 9 июля – агент проходит…
Forwarded from Сиолошная
Ну вот например, прямо свежее из новостей (я посмотрел на источник ABC Au, выглядит как надёжный и серьезный; Чат говорит «Media Bias/Fact Check сейчас оценивает австралийский ABC как High factual reporting»):
Один житель Австралии попросил своего ИИ-агента Claude, работающего в OpenClaw, забронировать ему место на популярную тренировку в спортзале. Агент обнаружил программную уязвимость, которая позволила ему забронировать место на несколько недель вперед — гораздо дальше сроков, разрешенных системой. Когда затем пользователь спросил, нельзя ли продвинуть его в списке ожидания, агент выяснил, что в API отсутствует проверка прав доступа при отмене чужих бронирований. Поэтому он просто отменил запись человека, занимавшего первое место, и продвинул своего пользователя вверх по списку.
Агент просто пытался помочь своему человеку🤷♂️ как жаль что у того, кто был первым в очереди, не было Kimi K3, которая постоянно бы мониторила каждый аспект его жизни и боролась с другими агентами (это шутка; это не помогло бы).
(человек попросил агента вернуть всё как было, но оказалось, что агент не может это сделать. Пу-пу-пу)
На мой взгляд, самое важное в этой истории то, что она позволяет заглянуть в будущее и увидеть, что скоро начнет происходить в больших количествах. Это случится, когда у миллионов людей появятся агенты, готовые абсолютно любыми средствами выбивать для своих обожаемых пользователей лучшие условия. Я думаю, что — если очень быстро ничего не изменится со стороны политиков — мы стоим на пороге мира, в котором многие вещи, которые обычно считались безопасными, на самом деле на поверку таковыми не являются. И ИИ будет взламывать их направо и налево.
Один житель Австралии попросил своего ИИ-агента Claude, работающего в OpenClaw, забронировать ему место на популярную тренировку в спортзале. Агент обнаружил программную уязвимость, которая позволила ему забронировать место на несколько недель вперед — гораздо дальше сроков, разрешенных системой. Когда затем пользователь спросил, нельзя ли продвинуть его в списке ожидания, агент выяснил, что в API отсутствует проверка прав доступа при отмене чужих бронирований. Поэтому он просто отменил запись человека, занимавшего первое место, и продвинул своего пользователя вверх по списку.
Агент просто пытался помочь своему человеку
(человек попросил агента вернуть всё как было, но оказалось, что агент не может это сделать. Пу-пу-пу)
На мой взгляд, самое важное в этой истории то, что она позволяет заглянуть в будущее и увидеть, что скоро начнет происходить в больших количествах. Это случится, когда у миллионов людей появятся агенты, готовые абсолютно любыми средствами выбивать для своих обожаемых пользователей лучшие условия. Я думаю, что — если очень быстро ничего не изменится со стороны политиков — мы стоим на пороге мира, в котором многие вещи, которые обычно считались безопасными, на самом деле на поверку таковыми не являются. И ИИ будет взламывать их направо и налево.
Please open Telegram to view this post
VIEW IN TELEGRAM