WSJ: Искусственный интеллект под партийным надзором Китая

Пекин, опасается, что ИИ может подорвать власть Коммунистической партии, поэтому предпринимает жёсткие меры по его контролю, несмотря на признание ИИ ключевым для экономического и военного будущего Китая.

Особую угрозу власти видят в чат-ботах, которые способны генерировать ответы, побуждающие пользователей сомневаться в партийном правлении. Поэтому в ноябре были официально закреплены правила, обязывающие обучать ИИ только на данных, очищенных от политически чувствительного контента, и проходить идеологическую проверку перед запуском.

Весь ИИ-контент должен быть промаркирован и поддаваться отслеживанию. Это позволяет властям быстро выявлять и наказывать распространителей нежелательной информации. За три месяца кампании было удалено 960 тыс. единиц “вредного” ИИ-контента, а сам ИИ включён в Национальный план реагирования на ЧС как потенциальная угроза наряду с эпидемиями и землетрясениями.

При этом власти стараются не перегнуть палку: чрезмерное регулирование может задушить инновации и оставить Китай позади США, где подход к ИИ более либеральный. Тем не менее, Си Цзиньпин публично предупреждал о “беспрецедентных рисках” ИИ, а его соратники сравнивали небезопасный ИИ с движением без тормозов.

Пока Китаю удаётся балансировать. Китайские ИИ-модели показывают высокие результаты в международных рейтингах, включая программирование, хотя и жёстко цензурируют ответы. Большинство американских ИИ-моделей в стране недоступны.

Эксперты отмечают, что китайский регуляторный подход делает чат-боты более безопасными по ряду параметров: с меньшим количеством насилия и порнографии. Однако при запросах на английском такие модели зачастую легче взломать, обходя встроенные фильтры.

Контроль начинается с данных: ИИ-компании обязаны проверять тысячи единиц обучающего контента, и источник допускается только если не менее 96% материалов признаны безопасными. Всего регламентом определён 31 риск, первый из которых - подстрекательство к подрыву государственной власти.

Хотя китайский интернет уже очищен Великим файрволом, но для конкурентоспособности компании используют и зарубежные источники, включая Wikipedia, где затрагиваются табуированные темы, такие как события на площади Тяньаньмэнь.

Разработчики ChatGLM, одной из ведущих китайских моделей, заявляют, что компании иногда решают эту проблему, фильтруя чувствительные ключевые слова и страницы по заранее составленному чёрному списку.

Однако у американских исследователей при загрузке китайских моделей в США значительная часть цензуры исчезла. То есть часть ограничений “вшита” в сами модели, но большая часть цензуры применяется уже после обучения.
Перед публичным релизом компании должны провести своим чат-ботам “политический экзамен”, и они должны отказаться отвечать минимум на 95% чувствительных вопросов, связанных с дестабилизацией власти.

Правила требуют тестирования чат-ботов с помощью 2 тыс. вопросов не реже одного раза в месяц. Подготовка к экзамену настолько сложна, что вокруг неё возник целый рынок агентств, помогающих ИИ-компаниям пройти проверку как при подготовке к экзамену SAT.

Государство может немедленно отключить программы, нарушающие правила. С апреля по июнь власти удалили 3,5 тыс. незаконных ИИ-продуктов.

Дополнительный уровень контроля - обязательная идентификация пользователей по телефону или удостоверению личности, а при попытке создать запрещённый контент данные передаются властям.

После лет осторожности в августе китайское правительство гораздо активнее поддержало ИИ, запустив инициативу “ИИ плюс”, которая предполагает внедрение технологии в 70% ключевых отраслей к 2027 году.

Благодаря Великому файрволу партия знает: если чат-бот сгенерирует угрозу для власти, она вряд ли получит широкое распространениев соцсетях.

🔜https://perforum.io/news/t/ai-and-daily-life