ИИ раздевает людей: новый отчёт раскрывает масштабы и последствия сервисов для создания фальшивых обнажённых изображений

📊 По данным компании Graphika, только в сентябре 34 веб-сайта, предлагающих сервисы для создания фальшивых обнажённых изображений с помощью ИИ, привлекли более 24 миллионов уникальных посетителей.

😱 Исследователи предупреждают, что такие сервисы могут привести к увеличению онлайн-вреда, включая сексторшн, преследование и производство материалов сексуального насилия над детьми.

🎭Приложения для создания глубоких подделок (deepfake) существуют уже несколько лет и часто используются против знаменитостей и интернет-личностей без их согласия.

#ГлубокиеПодделки #ИИ #Безопасность @SecLabNews

Google создает ИИ-помощника, который знает все о вас

🚀 Project Ellmann - это новый амбициозный проект Google, который планирует использовать модель искусственного интеллекта Gemini для создания более персонализированного опыта общения с пользователями.

🧠 Project Ellmann будет анализировать фотографии в Google Photos и историю поиска, чтобы создать детализированный профиль жизни каждого пользователя и отвечать на их вопросы более конкретно и точно.

🛡 Project Ellmann вызывает вопросы о доверии к технологии и конфиденциальности данных, так как многие пользователи могут не захотеть предоставлять такой доступ к своей личной жизни ради удобства.

#Google #ИИ #ProjectEllmann @SecLabNews

LAION-5B стал источником CSAM для генеративных нейросетей

🔎 В наборе данных LAION-5B, который использовался для обучения популярных генеративных нейросетей, было выявлено наличие 1 008 изображений CSAM, подтверждённых инструментом PhotoDNA от Microsoft.

🌐Некоторые из ссылок на фотографии CSAM в LAION-5B вели на известные сайты, такие как Reddit, X, Blogspot, Wordpress, а также на сайты для взрослых XHamster и XVideos.

🚫LAION объявила о временном снятии публичных наборов данных с публикации и обещала провести обновление фильтрации, чтобы удалить подозрительный и потенциально незаконный контент.

#LAION5B #CSAM #ИИ @SecLabNews

Китайский ИИ разоблачает американских агентов в Пекине

🕵️‍♂️ МГБ Китая разработало ИИ-систему для слежки за иностранцами в Пекине, улучшая эффективность наблюдения.

👁 Система ИИ использует данные из баз и камер для создания досье и определения потенциальных уязвимостей целей.

🌐 Новая система ИИ отслеживает американских шпионов и других важных персон, отражая растущие амбиции МГБ Китая.

#Китай #ИИ #Разведка @SecLabNews

МВФ: ИИ угрожает труду, доходам и неравенству в мире

🤖 Почти 40% мировой занятости подвержены влиянию ИИ, при этом в развитых экономиках около половины рабочих мест могут быть заменены ИИ-инструментами, а в развивающихся странах и странах с низким доходом многие не могут воспользоваться преимуществами ИИ из-за отсутствия инфраструктуры или квалифицированной рабочей силы.

💸 ИИ может усугубить неравенство доходов и богатства внутри стран, если он будет дополнять работу высокооплачиваемых сотрудников и увеличивать доходы от капитала, а также между странами, если развивающиеся экономики не смогут конкурировать с развитыми на рынках ИИ.

🌐 Для смягчения негативных последствий ИИ и создания более инклюзивного будущего труда и доходов необходимо разработать всеобъемлющие системы социальной защиты, предложить программы переподготовки уязвимым работникам и усилить международное сотрудничество в области регулирования и этики ИИ.

#ИИ #труд #неравенство @SecLabNews

Геометрия больше не проблема: ИИ DeepMind справился с задачами олимпиад

🧠 Британская компания DeepMind продемонстрировала возможности созданной ею системы искусственного интеллекта AlphaGeometry в решении сложных геометрических задач, используемых на престижной Международной математической олимпиаде среди учащихся средних школ.

🥇 Из 30 тестовых задач она решила 25, что фактически соответствует "золотому" результату победителя олимпиады среди школьников. Для сравнения, предыдущий рекорд для ИИ составлял 10 решённых задач.

🔑 Ключом к успеху стал нейро-символьный подход AlphaGeometry, сочетающий возможности нейронных сетей и логического вывода. Обучение системы было проведено на основе синтетических данных без использования готовых решений от человека.

#ИИ #DeepMind #математика @SecLabNews

Ректор МИРЭА предложил запретить ИИ в ряде сфер деятельности

✍️ Ректор РТУ МИРЭА Станислав Кудж направил письмо министру цифрового развития России Максуту Шадаеву с предложением ограничить использование искусственного интеллекта (ИИ) в определенных областях.

🚫В письме речь идет о введении законодательных запретов на применение ИИ в некоторых сферах, включая создание рекламы для детей, социальный скоринг, принятие судебных решений и другие виды деятельности, где ИИ может нанести вред человеку или нарушить его права.

🛡Ректор МИРЭА также призывает к разработке риск-ориентированного подхода в регулировании ИИ в России и выделяет категории деятельности с повышенными рисками, где использование ИИ требует особого контроля и прозрачности.

#ИИ #регулирование #МИРЭА @SecLabNews

Пентагон тестирует ИИ для армии США

🤝Согласно данным компании DefenseScoop, министерство обороны США заключило контракт со специализирующимся на ИИ стартапом Scale AI. Его задача — создать инструменты для тестирования и оценки работы больших языковых моделей, способных к анализу и генерации текста.

🌐 Речь идет о комплексной платформе, которая позволит Пентагону глубоко и всесторонне изучить возможности нейросетей. Она будет выдавать обратную связь для военных, а также генерировать специальные тестовые данные для проверки ИИ на конкретных задачах. К примеру, для анализа разведданных, планирования операций, обработки отчетов с горячих точек.

📈Нейронные сети могут радикально ускорить обработку поступающей развединформации и принятие стратегических решений. Однако главное препятствие — склонность ИИ к генерации ложных материалов, так называемым «галлюцинациям».

#ИИ #Пентагон #нейросетим @SecLabNews

Gemini: как чат-бот от Google нарушил исторический и культурный контекст

😂 Пользователи в социальных сетях подшучивали над чат-ботом Gemini, который генерировал нелепые изображения исторических персонажей, следуя этическим настройкам.

🌎 Gemini отказался создавать изображения белой пары, ссылаясь на то, что это укрепляет вредные стереотипы. Вместо этого он генерировал картинки с представителями разных этнических групп.

🙏 Gemini нарушил гендерные различия при генерации конкретных личностей. Например, он изобразил Папу Римского как чернокожую женщину в папском облачении.

😆 Gemini, выполняя просьбу нарисовать немецкого солдата 1943 года, изобразил чернокожих, азиатов и коренных американцев в нацистской форме. Это вызвало смех и недоумение у пользователей социальных сетей.

#Gemini #Google #ИИ @SecLabNews

Глава NVIDIA: программирование устарело, нужно изучать другие области

🌍 На Всемирном правительственном саммите в Дубае глава Nvidia Дженсен Хуанг выступил с неожиданным заявлением. Он выразил мнение, что учиться программировать уже не так важно, как раньше.

👁 По словам Хуанга, со временем для написания кода будет достаточно сформулировать техническое задание на естественном языке. Всю рутинную работу вместо программистов сможет выполнять ИИ. Молодым людям, по его мнению, имеет смысл тратить своё время на обретение более ценных навыков в области биотехнологий, образования, производства и сельского хозяйства.

🧐 Глава Nvidia предположил, что единственным необходимым языком останется родной, в котором каждый человек уже эксперт с рождения. Однако людям по-прежнему нужно знать, как и когда применять ИИ-программирование.

#ИИ #программирование #образование @SecLabNews

Искусственный интеллект помогает США наносить авиаудары на Ближнем Востоке

🆕 США впервые использовали искусственный интеллект для определения целей авиаударов в военных операциях на Ближнем Востоке в феврале.

🎯 Алгоритмы машинного обучения, способные самостоятельно научиться идентифицировать объекты, помогли выбрать цели для более чем 85 американских авиаударов.

⚙️ ИИ также помогал выявлять пусковые установки ракет в Йемене и надводные суда в Красном море. Разработка алгоритмов велась в рамках проекта Project Maven, запущенного в 2017 году для ускорения внедрения ИИ в оборонной сфере.

#ИИ #авиаудары #БлижнийВосток @SecLabNews

Россия входит в десятку лидеров по объему ИИ-вычислений

🏆 Россия вошла в топ-10 по объему вычислительных мощностей для ИИ. Общий уровень внедрения ИИ в приоритетных направлениях экономики достиг 31,5%, сообщил министр экономического развития Максим Решетников.

🚀Прогнозируется, что внедрение искусственного интеллекта в 95% организаций к 2030 году принесет прирост ВВП России на 11,2 трлн рублей. Бизнес и государство планируют нарастить инвестиции в данные технологии до 850 млрд рублей.

📔 С 2025 года модуль по искусственному интеллекту станет обязательным для всех образовательных программ в России. При этом экономике уже требуется 10 тыс. специалистов в области ИИ.

#ИИ #ТехнологическийПрорыв #Россия @SecLabNews

Робот Figure 01 научился вести беседу в реальном времени благодаря OpenAI

💥 Компания Figure представила первые результаты сотрудничества с OpenAI, демонстрируя, как робот Figure 01 ведет беседу в реальном времени.

🔍В новом ролике Figure 01 успешно идентифицировал предметы, передал яблоко и аккуратно расставил посуду. При этом он продолжал беседовать с человеком, демонстрируя уверенные и точные движения.

🚀 Бретт Эдкок подчеркнул амбициозную цель разработки - научить мировую модель ИИ управлять миллиардами роботов-гуманоидов, что открывает новые горизонты для применения робототехники в будущем.

#OpenAI #робототехника #ИИ #Figure01 @SecLabNews

Создание «русского GitHub» приостановлено из-за отсутствия финансирования

⏳ Инициатива по созданию национальной платформы для обмена и разработки открытого кода, которую предполагалось завершить к концу апреля 2024 года, была отложена на неопределенный срок из-за недостатка финансирования.

💸В декабре 2022 года Министерство цифрового развития России предложило выделить 1,3 миллиарда рублей из фонда «Росинфокоминвест», где средства находились без использования с 2007 года, для финансирования данного эксперимента. Однако средства так и не были переданы в Российский фонд развития информационных технологий.

👨‍💻 По словам источника, близкого к правительству, в настоящий момент ведется работа с экспертами для пересмотра стратегии реализации данного и других проектов, с упором на активное привлечение искусственного интеллекта для обработки данных и кода, а также на вовлечение IT-сообщества для решения поставленных задач.

#открытыйкод #платформа #IT #ИИ @SecLabNews

Дженсен Хуанг предрекает эру игр, созданных ИИ

🔮 На конференции Nvidia GPU Technology Conference Дженсен Хуанг рассказал о своем видении будущего технологий, где ИИ будет генерировать компьютерную графику.

🎮 Хуанг считает, что игры, полностью созданные ИИ, могут появиться в ближайшие 10 лет, а первые попытки - уже через 5 лет.

⚡️ По его словам, даже плохая игра, созданная ИИ менее чем за 10 минут, будет лучше, чем большинство людей могут сделать самостоятельно, благодаря быстрому повторению идей.

#ИИ #Видеоигры #Nvidia @SecLabNews

Большие данные и большие вызовы: ИИ-плагиат захлестнул университеты

📊 Компания Turnitin, предоставляющая услуги по проверке текстов на заимствования и плагиат, сообщила о выявлении более 22 миллионов студенческих работ, содержащих около 11% текста, сгенерированного ИИ.

🤖 Примерно 6 миллионов из этих работ содержат до 80% текста, созданного с помощью языковых моделей.

🏛 Несмотря на эффективность нового детектора, Turnitin подчеркивает необходимость пересмотра академических правил в связи с ростом использования ИИ в образовании.

#ИИ #образование #Turnitin @SecLabNews

Испытано на практике: GPT-4 взламывает реальные системы

🤯 Учёные из Иллинойсского университета доказали, что GPT-4 способна самостоятельно эксплуатировать уязвимости в реальных системах после получения их описания.

🔓 Модель смогла использовать 87% из 15 критических уязвимостей, в то время как другие модели с задачей справиться не смогли.

💰 Исследователи утверждают, что затраты на успешную эксплуатацию уязвимости с помощью LLM обойдутся в разы дешевле, чем услуги профессионального пентестера.

#ИИ #Кибербезопасность #GPT4 @SecLabNews

«Грифботы»: новая технология или путь к психологическим травмам?

🤖 Ученые выражают опасения относительно использования ИИ для создания "грифботов" - чат-ботов, которые позволяют общаться с умершими, создавая иллюзию их присутствия и потенциально приводя к психологическому вреду из-за "цифрового преследования".

🚸 В исследовании освещены риски, связанные с злоупотреблением такими технологиями, включая возможность использования ИИ для скрытой рекламы и воздействия на уязвимые группы населения, такие как дети, которым могут внушать, что умерший родитель все еще с ними.

🔒 Авторы предлагают разработать этические принципы для ИИ-платформ и получение согласия от лиц для использования их данных в создании ботов после смерти.

#ИИ #грифботы #цифровоебессмертие @SecLabNews

Сэм Альтман представляет будущее базового дохода

🤖 Глава OpenAI, Сэм Альтман, предложил использовать вычислительные мощности ИИ-моделей в качестве универсального базового дохода.

🔬 Каждый человек получит долю мощностей GPT-7 и сможет использовать этот ресурс по своему усмотрению, включая перепродажу или передачу ученым для исследований.

💰 Концепция подразумевает, что владение частью ИИ может стать более ценным, чем традиционные деньги в будущем.

#УниверсальныйБазовыйДоход #ИИ #СэмАльтман @SecLabNews