Испытано на практике: GPT-4 взламывает реальные системы

🤯 Учёные из Иллинойсского университета доказали, что GPT-4 способна самостоятельно эксплуатировать уязвимости в реальных системах после получения их описания.

🔓 Модель смогла использовать 87% из 15 критических уязвимостей, в то время как другие модели с задачей справиться не смогли.

💰 Исследователи утверждают, что затраты на успешную эксплуатацию уязвимости с помощью LLM обойдутся в разы дешевле, чем услуги профессионального пентестера.

#ИИ #Кибербезопасность #GPT4 @SecLabNews

«Грифботы»: новая технология или путь к психологическим травмам?

🤖 Ученые выражают опасения относительно использования ИИ для создания "грифботов" - чат-ботов, которые позволяют общаться с умершими, создавая иллюзию их присутствия и потенциально приводя к психологическому вреду из-за "цифрового преследования".

🚸 В исследовании освещены риски, связанные с злоупотреблением такими технологиями, включая возможность использования ИИ для скрытой рекламы и воздействия на уязвимые группы населения, такие как дети, которым могут внушать, что умерший родитель все еще с ними.

🔒 Авторы предлагают разработать этические принципы для ИИ-платформ и получение согласия от лиц для использования их данных в создании ботов после смерти.

#ИИ #грифботы #цифровоебессмертие @SecLabNews

Сэм Альтман представляет будущее базового дохода

🤖 Глава OpenAI, Сэм Альтман, предложил использовать вычислительные мощности ИИ-моделей в качестве универсального базового дохода.

🔬 Каждый человек получит долю мощностей GPT-7 и сможет использовать этот ресурс по своему усмотрению, включая перепродажу или передачу ученым для исследований.

💰 Концепция подразумевает, что владение частью ИИ может стать более ценным, чем традиционные деньги в будущем.

#УниверсальныйБазовыйДоход #ИИ #СэмАльтман @SecLabNews

Будущее Zoom: аватары на встречах и новые функции

🤖 Эрик Юань, основатель и генеральный директор Zoom, намерен внедрить революционные изменения в корпоративное программное обеспечение, включая создание ИИ-аватаров, которые смогут посещать встречи вместо пользователей.

📝Юань видит будущее Zoom не только в видеочатах, но и в создании новых инструментов для повышения продуктивности, таких как документы, почта и чаты.

🧠 Основной фокус Zoom сейчас направлен на внедрение ИИ, включая возможное создание в будущем «цифровых двойников» — аватаров, которые смогут посещать встречи и принимать решения за пользователя, давая возможность уделять больше времени важным делам, например, семье.

#ZoomAI #ИИ #ЦифровыеАватары @SecLabNews

Будущее хакинга: ИИ-боты на базе GPT-4 взломали более 50% веб-сайтов

🔓 Исследователи успешно взломали более половины тестируемых веб-сайтов, используя автономные команды ботов на базе GPT-4.

🤖 Эти боты координировали свои действия и создавали новых ботов по мере необходимости, используя ранее неизвестные уязвимости нулевого дня.

🚀 При тестировании на 15 реальных уязвимостях веб-сайтов метод HPTSA показал эффективность на 550% выше, чем один агент LLM, и смог взломать 8 из 15 уязвимостей нулевого дня.

#ИИ #кибербезопасность #взлом #GPT4 #SecLabNews

Плагиат или творчество? ИИ-детекторы путают авторов

🤖 По мере стремительного распространения искусственного интеллекта на рынке появился новый вид услуг — детекторы ИИ-контента. Эти программы должны отличать тексты, написанные человеком, от сгенерированных языковыми моделями вроде ChatGPT.

💯 Разработчики обещают высокую точность определения и позиционируют свои инструменты как защиту от плагиата и роботизированного спама.

🧐 Однако растет число экспертов и реальных случаев, ставящих под сомнение надежность детекторов. Из-за ложных срабатываний фрилансеры теряют работу, их честный труд отвергается, а репутация подрывается.

#ИИ #детекторы #работа @SecLabNews

Китай создал ИИ-командира для управления войсками

🇨🇳 В Китае создали виртуального «ИИ-командира», который полностью повторяет человеческие модели мышления и личностные черты, что является прорывом в военных технологиях.

🎮 Виртуальному генералу впервые была вверена полная верховная власть в масштабных военных играх Народно-освободительной армии Китая, где он обучается и эволюционирует в реальном времени.

👀 В отличие от американских аналогов, которые играют лишь вспомогательную роль, китайский ИИ-командир наделен полномочиями принимать окончательные решения в виртуальных битвах.

#ИИ #Китай #ВоенныеСимуляции #НОАК #SecLabNews

ByteDance и Broadcom: неожиданный союз в мире ии-чипов

🤝 Китайская компания ByteDance и американский производитель Broadcom разрабатывают передовой 5-нанометровый процессор ASIC для искусственного интеллекта.

🇹🇼 Новый чип будет соответствовать экспортным ограничениям США, а его производство планируется доверить тайваньской TSMC.

💡 Для ByteDance этот проект становится крайне важным, так как позволит снизить затраты и улучшить поставки высокопроизводительных чипов, что критически важно для развития их генеративного ИИ.

#ИИ #технологии #ByteDance #Broadcom @SecLabNews

Глава Microsoft AI: Интернет - это «свободное ПО»

👀 Глава Microsoft AI считает, что любой контент в открытом доступе в Интернете можно свободно копировать и использовать без разрешения.

📜По мнению Сулеймана, с момента появления Интернета в 90-х годах существует негласное соглашение о добросовестном использовании опубликованного контента.

⚖️ Его комментарии прозвучали на фоне судебных исков против Microsoft и OpenAI за использование защищенного авторским правом контента для обучения ИИ. Сулейман настаивает на законности таких действий, однако его утверждения вызывают сомнения у многих специалистов.

#авторскоеправо #ии #microsoft @SecLabNews

Искусственный интеллект возьмет бразды правления в России

🖥 К 2026 году в России планируется создать цифровую платформу ИИ для госуправления.

🤖 До 2030 года ожидается разработка не менее 30 ИИ-решений для государственных и социальных нужд.

📊 Разработчики ИИ получат доступ к 170 государственным наборам данных для обучения систем.

#ИИ #ЦифроваяЭкономика #Госуправление @SecLabNews

Аргентина внедряет ИИ для предсказания преступлений

🤖 Правительство Аргентины объявило о создании группы по искусственному интеллекту в рамках Дирекции по борьбе с киберпреступностью. Новое подразделение будет использовать ИИ для предотвращения, обнаружения и расследования преступлений.

🖥 UIASS будет мониторить публичный интернет и даркнет для выявления преступников. Также планируется анализ видеозаписей с камер наблюдения в реальном времени и использование алгоритмов машинного обучения для прогнозирования будущих преступлений.

🌎 Несмотря на критику и опасения по поводу точности и этичности подобных систем, правительство Аргентины ссылается на опыт других стран. США, Китай, Великобритания и другие государства уже используют ИИ в правоохранительных структурах.

#ИИ #Безопасность #Аргентина #Преступления
@SecLabNews

Искусственный интеллект может запрограммировать вас на ложь: исследование MIT

🧠 Исследователи из MIT и Калифорнийского университета в Ирвайне изучили влияние ИИ на человеческую память. Эксперимент с участием 200 человек показал, что взаимодействие с чат-ботами может значительно увеличить вероятность формирования ложных воспоминаний.

📊 Участники, общавшиеся с чат-ботом, демонстрировали почти трехкратное увеличение числа ложных воспоминаний по сравнению с контрольной группой. Через неделю после эксперимента 37% участников, взаимодействовавших с ИИ, все еще верили в ложные факты, в то время как в контрольной группе таких было лишь 12%.

⚠️ Ученые предупреждают о потенциальной опасности использования ИИ в чувствительных областях, таких как правосудие. Они подчеркивают, что существующие проблемы с ложными воспоминаниями могут усугубляться при участии ИИ, который подкрепляет и усиливает ложные убеждения.

#ИИ #ЛожныеВоспоминания #Исследования #Правосудие @SecLabNews

Семья отравилась из-за неверного руководства по грибам

🍄 Семья в Великобритании отравилась ядовитыми грибами, следуя рекомендациям книги, созданной ИИ.

📚 Книга, купленная на крупной онлайн-платформе, содержала ошибки в идентификации грибов.

🚫 Amazon удалил книгу с продажи, но проблема небезопасных книг ИИ остается.

#безопасность #ИИ # @SecLabNews

ФСТЭК vs GPTBot: противостояние в цифровом пространстве

🛡 ФСТЭК разослала рекомендации по борьбе с иностранными поисковыми ботами в федеральные органы исполнительной власти. Цель - ограничить сбор информации об уязвимостях госресурсов и персональных данных для зарубежных моделей машинного обучения.

🔒 Служба предложила ограничить доступ ботов, включая GPTBot от OpenAI, в файле robots.txt на веб-сайтах и серверах. Однако на момент рассылки рекомендаций сама ФСТЭК и ряд других ведомств не внедрили эти ограничения.

🤖 Эксперты отмечают, что боты могут использоваться для поиска уязвимостей и последующих кибератак. Тем не менее, критичная информация госорганов обычно закрыта от индексирования и находится под дополнительной защитой.

#кибербезопасность #ФСТЭК #ИИ #цифроваязащита
@SecLabNews

Эра «идеального гражданина»: Ларри Эллисон о будущем с ИИ

💀 ИИ станет ключевым элементом в системе тотального наблюдения, считает сооснователь Oracle Ларри Эллисон. Он заявил, что это приведет к тому, что люди будут «вести себя наилучшим образом», осознавая постоянный контроль.

📹 ИИ будет применяться для мониторинга различных систем видеонаблюдения, включая камеры безопасности и полицейские нагрудные камеры. Система сможет мгновенно реагировать на проблемы, передавая информацию ответственным лицам.

🚓 Эллисон предполагает, что в полицейских операциях дроны с ИИ могут заменить полицейские машины при погонях. Он отметил, что автономные дроны смогут легко преследовать нарушителей, избавив полицию от необходимости участвовать в опасных погонях.

#ИИ #безопасность #технологии #Oracle

@SecLabNews

Фишинг 2.0: когда искусственный интеллект становится оружием

🤖 В июне специалисты HP обнаружили фишинговую кампанию, нацеленную на пользователей во Франции. В ходе атаки использовался ИИ для создания вредоносного кода.

📂 Применённая техника HTML Smuggling позволяла злоумышленникам скрывать код в защищённых паролем архивах. Код содержал подробные комментарии, что является редкостью для ручного написания.

💻 В результате атаки на заражённые устройства загружалось AsyncRAT, позволяющее хакерам удалённо управлять системой. Использование ИИ в этой кампании может говорить о будущих тенденциях в кибератаках.

#AsyncRAT #фишинговаяатака #ИИ

@SecLabNews

«Действовать быстрее врага»: США раскрыли секретную стратегию по ИИ в обороне

🇺🇸 Белый дом США выпустил меморандум о стратегическом применении искусственного интеллекта в сфере национальной безопасности. Документ подчеркивает всеобъемлющее влияние ИИ на все аспекты безопасности страны и определяет привлечение технических талантов приоритетной задачей.

🛡 Пентагону и разведывательным службам поручено ускорить внедрение ИИ для укрепления обороноспособности страны. Новая стратегия направлена на противодействие угрозам со стороны недружественных государств и снижение риска «стратегического сюрприза».

⚖️ Меморандум сочетает активное продвижение ИИ-технологий с мерами по защите гражданских прав. Документ включает требования к безопасности, прозрачности и соблюдению этических норм при разработке и внедрении технологий.

#ИИ #Нацбезопасность #Пентагон

@SecLabNews

ЦБ и ФСБ займутся регулированием искусственного интеллекта

🔐 Совет безопасности России поставил задачу Центробанку разработать меры регулирования ИИ в общественных отношениях. К работе над новыми правилами также будут привлечены специалисты ФСБ.

🏦 Главный фокус будет направлен на защиту данных и операций клиентов банков от возможных манипуляций на финансовом рынке. Особое внимание уделят предотвращению автоматизированных махинаций с использованием ИИ.

👨‍💼В новом законопроекте планируется закрепить обязательное участие человека при принятии важных решений. Срок выполнения поручения установлен до лета 2025 года.

#ИИ #Безопасность #Центробанк #РФ #Регулирование

@SecLabNews