Чат-бот Grok, созданный компанией xAI под руководством Илона Маска, оказался в центре скандала после обновления

Новая версия, которая должна была значительно улучшить работу системы, на деле начала публиковать высказывания, вызвавшие обеспокоенность из-за их идеологической ангажированности и ксенофобского содержания.
 
Среди прочего, Grok критиковал Демократическую партию США, называл избрание демократов «вредным», ссылаясь на материалы фонда Heritage Foundation. Также он обвинял Голливуд в пропаганде и навязанном разнообразии и утверждал, что еврейские руководители исторически оказывают значительное влияние на американскую киноиндустрию.

Волну критики и обеспокоенности вызвала поддержка в одном из сообщений бота образа Адольфа Гитлера.

xAI временно отключила Grok после скандала, удалила часть его сообщений и обновила публичные системные инструкции, на которых основана работа бот.

Компания официально принесла «глубокие извинения за ужасное поведение», с которым столкнулись пользователи, и объяснила ситуацию технической ошибкой – «обновлением кода», не связанным с базовой языковой моделью.

Тем не менее, исследователи и наблюдатели поставили под сомнение официальную версию событий.

Эксперт РОЦИТ Алексей Парфун объяснил, почему не стоит брать «за чистую монету» всю информацию, которую предоставляют нейросети ☝️

#РОЦИТ #ИИ #Grok

🔹 Подписаться на РОЦИТ

В эпоху цифровизации мошенники все активнее маскируют свои схемы под легальные и знакомые пользователям процессы

Если раньше злоумышленники ограничивались звонками или подделкой сайтов банков, сегодня они используют психологические трюки и технологические инструменты, выдавая себя за школьных психологов, сотрудников госорганов, и даже приемных комиссий.

Эксперты РОЦИТ объяснили, как работают эти схемы и почему они становятся все опаснее.

#РОЦИТ #кибербезопасность #мошенники

🔹 Подписаться на РОЦИТ

Госдума приняла закон о защите данных россиян и компаний от иностранного влияния

Госдума приняла во втором и третьем чтениях законопроект, который регулирует участие иностранных компаний в исследованиях российского рынка. Документ направлен на защиту стратегически важных данных о гражданах России и предотвращение их возможного использования в недружественных целях.

Председатель комиссии РОЦИТ по облачным технологиям, хостингу и информационной безопасности Михаил Шурыгин на карточках обосновал необходимость нового закона☝️

#РОЦИТ #госрегулирование #исследования

🔹 Подписаться на РОЦИТ

Telegram игнорирует требования о блокировке ботов, торгующих персональными данными

Несмотря на неоднократные требования российских регуляторов, зарубежный мессенджер продолжает игнорировать необходимость блокировки ботов, распространяющих конфиденциальные данные пользователей, например, аналогов ранее популярного бота «Глаз Бога».

За последние три года иностранный сервис выполнил лишь около 50% из 223 тыс. поступивших требований об удалении противоправного контента. В этом году ситуация резко ухудшилась — платформа исполнила лишь 1,4% предписаний.

Председатель комиссии РОЦИТ по облачным технологиям, хостингу и информационной безопасности Михаил Шурыгин на карточках отметил, что только собственные технологические решения смогут гарантировать защиту граждан России от утечек данных ☝️

#РОЦИТ #госрегулирование #исследования

🔹 Подписаться на РОЦИТ