📌 Дарио Амодеи предложил политику регулирования ИИ

Сооснователь и руководитель Anthropic опубликовал эссе "Policy on the AI Exponential", в котором он сетует на то, что регулирование ИИ отстает от его фактического развития примерно на год.

С этим, по мнению Дарио, надо что-то делать и он предлагает изменения в 5 направлениях.

🟡Регулирование и безопасность

Амодеи предлагает перейти от прозрачности, за которую Anthropic всегда выступала, к контролю по аналогии с авиационным надзором.

Модели мощнее определённого порога должны проходить независимую проверку на кибербезопасность, биоугрозу, потерю контроля над системой и автоматизацию исследований. Государство должно иметь право блокировать опасные модели.

🟡Экономика

ИИ способен вызвать масштабное вытеснение работников. Амодеи считает потерю рабочих мест нежелательной.

Он предлагает точнее измерять последствия, стимулировать сохранение занятости (страхование зарплат, налоговые льготы работодателям), а при массовом проявлении - долгосрочную поддержку доходов людей, вплоть до безусловного базового дохода за счёт налогов.

🟡 Польза от ИИ

Здесь обратная проблема: регуляторы, рассчитанные на медленный темп, тормозят области, которые ИИ способен ускорить, прежде всего медицину.

Дарио предлагает заранее разработать стандарты, позволяющие признавать ИИ-методы (моделирование, синтетические контрольные группы) и быстрее одобрять лекарства, не снижая требований к безопасности.

🟡 Государство

ИИ в чужих руках может стать инструментом авторитаризма.

Поэтому нужны правила подотчётности для военного применения, запрет такого использования внутри США, закрытие лазейки с продажей пользовательских данных и право граждан на ИИ-помощь при действиях государства против них. Это касается и компаний, и властей.

🟡 Лидерство демократий

Тут ИИ сравнивается по значимости с ядерным оружием.

Амодеи призывает создать коалицию, делиться внутри неё цепочкой поставок чипов и закрывать к ней доступ соперникам (разумеется, Китаю), согласовывать подходы к рискам и распределению выгод.

Подводя итог, Амодеи называет текущий момент окном возможностей

Очевидные, по его словам, риски, ранние признаки экономических потрясений и общественное недовольство сделали политиков восприимчивее к упреждающим мерам.

Дарио отвергает мнение, что ИИ нужен лишь пиар, и считает тревогу людей обоснованной реакцией на реальные проблемы, надеясь что предложенные меры получат поддержку.

@ai_machinelearning_big_data

#news #ai #ml

✔️ Reuters пишет, что Amazon заранее предупредила администрацию Трампа о рисках вокруг новых моделей Anthropic.

По данным источника агентства, среди тех, кто поднимал вопрос перед высокопоставленными чиновниками, был CEO Amazon Энди Джесси. Внутри Amazon исследователи прогнали Fable 5 через серию промптов и якобы смогли добиться ответов с информацией, которая может помогать в кибератаках.

История важна не только из-за самой уязвимости. Она показывает, как быстро frontier-модели превращаются из продукта в объект национальной безопасности. Один крупный партнёр находит обход защиты, доносит это до Белого дома, а дальше вопрос уже не про релиз, а про экспортный контроль, доступ иностранцев и политическое давление на AI-лаборатории.

Для Anthropic это особенно болезненно, компания годами строила образ самой осторожной AI-лаборатории, но теперь именно её модели стали поводом для жёсткой реакции регуляторов.

reuters.com/business/retail-consumer/amazon-voiced-concerns-about-anthropic-ai-models-before-us-governments-crackdown-2026-06-13/