Эра «идеального гражданина»: Ларри Эллисон о будущем с ИИ

💀 ИИ станет ключевым элементом в системе тотального наблюдения, считает сооснователь Oracle Ларри Эллисон. Он заявил, что это приведет к тому, что люди будут «вести себя наилучшим образом», осознавая постоянный контроль.

📹 ИИ будет применяться для мониторинга различных систем видеонаблюдения, включая камеры безопасности и полицейские нагрудные камеры. Система сможет мгновенно реагировать на проблемы, передавая информацию ответственным лицам.

🚓 Эллисон предполагает, что в полицейских операциях дроны с ИИ могут заменить полицейские машины при погонях. Он отметил, что автономные дроны смогут легко преследовать нарушителей, избавив полицию от необходимости участвовать в опасных погонях.

#ИИ #безопасность #технологии #Oracle

@SecLabNews

Фишинг 2.0: когда искусственный интеллект становится оружием

🤖 В июне специалисты HP обнаружили фишинговую кампанию, нацеленную на пользователей во Франции. В ходе атаки использовался ИИ для создания вредоносного кода.

📂 Применённая техника HTML Smuggling позволяла злоумышленникам скрывать код в защищённых паролем архивах. Код содержал подробные комментарии, что является редкостью для ручного написания.

💻 В результате атаки на заражённые устройства загружалось AsyncRAT, позволяющее хакерам удалённо управлять системой. Использование ИИ в этой кампании может говорить о будущих тенденциях в кибератаках.

#AsyncRAT #фишинговаяатака #ИИ

@SecLabNews

«Действовать быстрее врага»: США раскрыли секретную стратегию по ИИ в обороне

🇺🇸 Белый дом США выпустил меморандум о стратегическом применении искусственного интеллекта в сфере национальной безопасности. Документ подчеркивает всеобъемлющее влияние ИИ на все аспекты безопасности страны и определяет привлечение технических талантов приоритетной задачей.

🛡 Пентагону и разведывательным службам поручено ускорить внедрение ИИ для укрепления обороноспособности страны. Новая стратегия направлена на противодействие угрозам со стороны недружественных государств и снижение риска «стратегического сюрприза».

⚖️ Меморандум сочетает активное продвижение ИИ-технологий с мерами по защите гражданских прав. Документ включает требования к безопасности, прозрачности и соблюдению этических норм при разработке и внедрении технологий.

#ИИ #Нацбезопасность #Пентагон

@SecLabNews

ЦБ и ФСБ займутся регулированием искусственного интеллекта

🔐 Совет безопасности России поставил задачу Центробанку разработать меры регулирования ИИ в общественных отношениях. К работе над новыми правилами также будут привлечены специалисты ФСБ.

🏦 Главный фокус будет направлен на защиту данных и операций клиентов банков от возможных манипуляций на финансовом рынке. Особое внимание уделят предотвращению автоматизированных махинаций с использованием ИИ.

👨‍💼В новом законопроекте планируется закрепить обязательное участие человека при принятии важных решений. Срок выполнения поручения установлен до лета 2025 года.

#ИИ #Безопасность #Центробанк #РФ #Регулирование

@SecLabNews

ИИ против программистов: планы Meta на 2025 год

🤖 В подкасте The Joe Rogan Experience Марк Цукерберг сообщил о разработке ИИ для замены инженеров среднего звена. «Вероятно, в 2025 году у нас в Meta*, как и у других компаний, работающих в этом направлении, появится ИИ, который фактически сможет выполнять роль инженера среднего звена и писать код», — заявил он.

💰 Текущая средняя зарплата инженеров среднего звена в Meta составляет несколько сотен тысяч долларов в год. Хотя Цукерберг не говорит напрямую о сокращении персонала, его заявление намекает на возможные изменения для разработчиков.

👀 Глава Meta отметил, что в будущем большая часть кода будет создаваться ИИ-инженерами, а не людьми. При этом он подчеркнул, что новая технология скорее дополнит специалистов, позволив им заниматься «более смелыми задачами».

* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.

#Meta #ИИ #программисты #будущее

@SecLabNews

🕵‍♂️ Полиция Нидерландов тестирует «Особое мнение» на подростках

🎯 Алгоритм Preselect Recidive анализирует данные о подростках 12-18 лет и прогнозирует их криминальное будущее, ошибаясь в трети случаев.

👨‍👩‍👧‍👦 Система учитывает даже косвенные контакты с полицией, включая случаи, когда ребёнок был просто свидетелем преступления или его родственник имел проблемы с законом.

⚖️ От оценки алгоритма зависит судьба подростка: реабилитационная программа или уголовное преследование после первого нарушения.

Теперь подросткам придется отвечать не только за свои грехи, но и за всю родню до седьмого колена.

#ИИ #Полиция #ПраваДетей #Этика

@SecLabNews

🕵‍♂️ UI-TARS: искусственный интеллект с человеческой интуицией

🤖 ByteDance разработала новую ИИ-модель UI-TARS в двух версиях — с 7 и 72 миллиардами параметров. Система превзошла решения от OpenAI, Anthropic и Google, набрав рекордные 82.8% в тесте VisualWebBench.

👍 UI-TARS умеет работать на компьютерах, смартфонах и в браузере, понимая текст, изображения и действия пользователя. Система анализирует изменения между скриншотами и использует механизм самообучения для улучшения своих навыков.

🎖 В демонстрационном ролике система успешно нашла и забронировала билеты на рейс Delta Airlines, объясняя каждое своё действие. UI-TARS проявил гибкость при установке расширения autoDocstring в VS Code, успешно завершив задачу со второй попытки после анализа первой неудачи.

#ИИ #ByteDance #UITars

@SecLabNews

🕵‍♂️Техномагнат: обнищание из-за ИИ приведёт к раю

🎙 Марк Андриссен заявил, что ИИ неизбежно обрушит зарплаты людей, но это якобы приведёт к экономическому раю с бесплатными товарами и услугами.

💼 Сооснователь Andreessen Horowitz назвал противников автоматизации «ненавидящими Америку коммунистами», отвергая идею защиты рабочих мест.

⚙️ Его позиция отражает растущий тренд среди техномагнатов, которые видят в массовом замещении людей ИИ неизбежный этап прогресса.

Красивая сказка о всеобщем процветании разбивается о простой вопрос: как выживать людям между коллапсом зарплат и обещанным раем?

#ИИ #Автоматизация #БудущееРаботы #КремниеваяДолина

@SecLabNews

🕵‍♂️ Google больше не обещает не использовать ИИ для разработки оружия

🔄 Google внесла значительные изменения в свои принципы использования искусственного интеллекта. Компания удалила раздел, где ранее обещала не применять ИИ для разработки потенциально опасных технологий, включая оружие.

⚡️ Бывший сопредседатель команды по этике ИИ в Google Маргарет Митчелл выразила серьезную обеспокоенность этими изменениями. По её словам, это может означать, что компания теперь готова разрабатывать технологии, способные убивать людей.

📈 Изменение политики Google происходит на фоне общей тенденции среди технологических гигантов к пересмотру этических ограничений. Компания испытывает давление в гонке ИИ-разработок с момента выхода ChatGPT в 2022 году.

#Google #ИИ #этика #безопасность

@SecLabNews

Госданные для ИИ: Россия открывает доступ к размеченным датасетам

📊 Массовая разметка данных – государство подготовило десятки наборов размеченных данных, включая фото и видео с дронов и спутников. Они будут доступны бесплатно для обучения ИИ, но без персональной информации.

🛡 Госорганы и бизнес в игре – уже в феврале 2025 года разработчики ИИ смогут заключать соглашения на получение данных. Ожидается, что это ускорит импортозамещение в сфере ИИ.

⚖️ Риски под контролем? – власти обещают защиту от утечек и нецелевого использования. Однако остается вопрос: насколько прозрачным будет доступ к этим данным и не создаст ли это новый инструмент контроля?

#Госданные #ИИ #ИнформационнаяБезопасность

@SecLabNews

🕵‍♂️ LLMjacking: хакеры воруют доступ к мощным ИИ-моделям

😈 LLMjacking выходит на новый уровень
Киберпреступники массово взламывают API-ключи OpenAI, AWS, Azure и DeepSeek, чтобы бесплатно использовать дорогие ИИ-модели. Уже украдено более 55 ключей только для DeepSeek.

🕵️‍♂️ Даркнет забит «чёрными» сервисами
Взломанные API продаются на теневых площадках, а прокси-серверы позволяют скрывать следы атак. На одном прокси пользователи сожгли токенов на $50 000 всего за 4,5 дня.

💸 Новый «криптоджекинг»?
Жертвы атак получают гигантские счета за использование ИИ-моделей, как когда-то при скрытом майнинге. Claude 3 Opus «съел» почти $39 000 – и атаки только усиливаются.

#ИИ #LLMjacking #Кибератаки #DeepSeek

@SecLabNews

🕵‍♂️ИИ ускоряет разработку, но безопасность остается позади

💥 Искусственный интеллект ломает защиту
ИИ-программы создаются в разы быстрее, но их защита страдает. Аналитики Apiiro выяснили, что 10-кратный рост уязвимых API совпадает с массовым использованием ИИ в разработке. Программисты доверяют нейросетям, но они не учитывают корпоративные стандарты безопасности.

🔓 Дыры в коде, доступ к данным – открыт
За последние 6 месяцев в 3 раза увеличилось количество репозиториев, содержащих личные и платежные данные пользователей. Хакеры активно эксплуатируют незащищенные API: перехватывают сеансы, крадут учетные данные и внедряют вредоносный код прямо в корпоративные системы.

🛡 Безопасность не успевает за автоматизацией
ИИ генерирует код быстрее, чем специалисты могут его проверить. Эксперт тратит 4-5 часов на аудит, а нейросеть за это время создает десятки версий. Если не внедрять автоматические инструменты анализа и новые стандарты защиты, число критических уязвимостей будет расти в геометрической прогрессии.

#ИИ #Кибербезопасность #Хакеры

@SecLabNews

🕵‍♂️ Android станет умнее: Google внедрил ИИ для борьбы с телефонными аферами

🛡 Google разрабатывает новые инструменты защиты на базе ИИ для борьбы с телефонным мошенничеством на Android. Эти меры стали ответом на рост мошеннических кампаний, использующих ИИ, которые уже нанесли ущерб более 1 трлн долларов согласно данным Global Anti-Scam Alliance.

📱 Функция Scam Detection в Google Messages анализирует переписку с незнакомыми номерами, выявляя подозрительные шаблоны в SMS, MMS и RCS-сообщениях. Все данные обрабатываются локально на устройстве, что обеспечивает полную конфиденциальность пользовательской переписки.

📞 Защита от мошенничества при звонках анализирует разговоры в режиме реального времени и предупреждает пользователя об опасности. На устройствах Pixel 9 используется продвинутая модель Gemini Nano, показавшая наилучшие результаты в бета-тестировании.

#КиберБезопасность #АнтиМошенничество #Google #ИИ

@SecLabNews

От тысяч к десяткам тысяч: российский ИИ требует 70 000 видеокарт

🔋 К 2030 году мощность российских центров обработки данных для решения задач искусственного интеллекта должна составить более 70 000 в эквиваленте видеокарт Nvidia А100. Такой прогноз озвучил «Ведомостям» вице-президент «Ростелекома» Дарий Халитов, подчеркнув, что речь идёт о совокупной потребности во флопсах, которые могут быть реализованы на основе видеокарт различных производителей.

💰 За последние 10 лет лидеры российского рынка ИИ инвестировали не менее 650 млрд рублей, а к середине 2023 года 95% компаний уже внедрили ИИ-технологии в основные процессы. Объём российского рынка ИИ в 2024 году оценивается приблизительно в 780 млрд рублей при учёте роста не менее 30%, а в правительстве прогнозируют, что к 2025 году рынок достигнет 1 трлн рублей.

🖥 Текущее состояние используемых российскими ЦОДами карт составляет 3000-4000 «эквивалентных A100», что выглядит скромно на международном фоне — для сравнения, Tesla располагает примерно 350 000 карт H200. Крупнейшие российские технологические компании сейчас суммарно владеют около 10 000 высокопроизводительных видеокарт, а «Яндекс» по состоянию на конец 2021 года использовал 3500 карт А100 в своих трёх суперкомпьютерах.

#ИИ #ЦОДы #Ростелеком #ЦифроваяЭкономика

@SecLabNews

🕵‍♂️ ИИ сокращает рутину: российский бизнес может сэкономить 4 трлн рублей

🤖 По данным компании «Инфомаксимум», решения на базе искусственного интеллекта способны выполнять около 34% рутинных задач для трети офисных сотрудников России. Это позволит бизнесу сэкономить до 4,13 триллиона рублей в год при соответствующей автоматизации рабочих процессов.

⏱️ Внедрение ИИ ускорит выполнение задач и существенно повысит эффективность бизнес-процессов. Временные затраты на обработку рутинных операций могут снизиться вдвое, а количество ошибок и дублирующей работы уменьшится на 70%.

💰 Однако внедрение ИИ требует инвестиций: для малого бизнеса – от 1 млн рублей, для корпораций – десятки миллионов. Несмотря на значительные первоначальные вложения, окупаемость таких проектов ожидается в течение 1–3 лет.

#ИИ #бизнес #автоматизация #технологии

@SecLabLatNews

🕵‍♂️DeepSeek R1 научили писать кейлоггеры и шифровальщиков

💀 Исследователи Tenable изучили возможности нейросети DeepSeek R1 в создании вредоносного ПО. Результаты показали, что модель способна генерировать опасный код при обходе защитных механизмов. В эксперименте специалисты успешно создали кейлоггер и программу-вымогатель, хотя и с необходимостью ручной отладки.

⚠️ С развитием генеративного ИИ киберпреступники получают новые инструменты для автоматизации атак. Несмотря на защитные механизмы в популярных моделях, таких как ChatGPT и Gemini, появление открытого кода DeepSeek R1 открывает злоумышленникам новые возможности. Уже существуют специализированные языковые модели для хакеров — WormGPT, FraudGPT и GhostGPT, доступные по подписке.

🧪Эксперимент показал, что защиту DeepSeek R1 легко обойти, запросив код «в образовательных целях». После этого нейросеть предоставила пошаговые инструкции по созданию вредоносного ПО с использованием системных функций Windows. Хотя сгенерированный код содержал ошибки, требующие ручной корректировки, базовую функциональность для кибератак модель реализовала успешно.

#ИИ #Кибератаки #DeepSeekR1

@SecLabNews

🕵‍♂️«Людям хватит 2-3 рабочих дней» — Гейтс о революционном влиянии ИИ на будущее

🤓 Билл Гейтс поделился оптимистичным взглядом на развитие искусственного интеллекта в интервью Джимми Фэллону. Основатель Microsoft считает, что ИИ пройдет тот же путь, что и компьютеры: от дорогих и редких технологий до массовых и доступных каждому.

✍️По мнению Гейтса, благодаря ИИ качественная медицинская помощь и обучение станут «бесплатными и повсеместными». Это может решить системные проблемы нехватки врачей, учителей и специалистов по психическому здоровью, хотя многие критикуют эту позицию из-за текущего несовершенства ИИ-технологий.

⏰ В интервью Гейтс предположил, что искусственный интеллект может привести к переосмыслению концепции работы – возможно, люди будут работать всего 2-3 дня в неделю. На вопрос Фэллона о том, будут ли люди вообще нужны, Гейтс ответил: «Не для большинства задач».

#ии #БиллГейтс #будущеетехнологий #работабудущего

@SecLabNews

🕵‍♂️ ИИ против KYC: ChatGPT-4o создал паспорт, прошедший цифровую проверку

🛂 Борис Муселяк сгенерировал поддельный паспорт с помощью ChatGPT-4o всего за несколько минут и успешно прошёл цифровую проверку личности. Созданный документ оказался настолько правдоподобным, что вызвал бурную дискуссию среди специалистов по информационной безопасности.

📄Обычно нейросетевые подделки документов легко выявить из-за ошибок в формате, слабой типографики или нарушениях структуры машинно-считываемой зоны. В случае Муселяка подделка выглядела практически идентично настоящему паспорту, что позволило ей обойти простейшие процедуры KYC, применяемые некоторыми финтех-компаниями.

📶 Эксперты рекомендуют переходить на методы проверки с использованием NFC и электронных удостоверений личности. Примечательно, что спустя 16 часов после публикации ChatGPT уже отказывался генерировать поддельные документы, сославшись на правила безопасности.

#ИИ #ChatGPT #KYC #кибермошенничество

@SecLabNews

🤖 Google DeepMind: как уберечься от сверхразумного ИИ

🕵‍♂️ AGI может появиться к 2030-му, и DeepMind уже предлагает систему безопасности, если разумная машина решит действовать наперекор людям.

🔥 В новом докладе DeepMind указаны четыре риска AGI — от кибератак до незаметного подрыва цивилизации.

🛡 DeepMind предлагает учить ИИ «разучиваться» опасным навыкам и использовать перекрёстный контроль, чтобы не дать ему выйти из-под надзора.

#AGI #ИИ #DeepMind @SecLabNews