Основная задача документа — продемонстрировать, как администрация пошагово формирует устойчивые основы для достижения доминирования в эру ИИ. Тем самым внушить соперникам, что США уже не догнать.

1️⃣ Anthropic считает важным предоставлять ИИ разведывательным и оборонным сообществам США и их демократическим союзникам. Защита демократий, находящихся под атакой, таких как Украина и (через кибератаки) Тайвань, кажется особенно приоритетной, как и усиление демократий, чтобы они могли использовать свои разведслужбы для подрыва и ослабления автократий изнутри.

2️⃣ Я не до конца уверен в ядерном сдерживании против страны гениев в дата-центре: возможно, мощный ИИ сможет придумать способы обнаруживать и поражать ядерные подлодки, проводить операции влияния против операторов инфраструктуры ядерного оружия или использовать кибервозможности ИИ, чтобы нанести кибератаку по спутникам, используемым для обнаружения ядерных запусков.

3️⃣ Обычно у демократий есть предохранители, которые не дают их военному и разведывательному аппарату развернуться внутрь против собственного населения, но поскольку ИИ-инструменты требуют очень мало людей для эксплуатации, существует возможность обходить эти предохранители и нормы, которые их поддерживают. Также стоит отметить, что некоторые из этих предохранителей уже постепенно размываются в некоторых демократиях.

4️⃣ Рой из миллионов или миллиардов полностью автоматизированных вооружённых дронов, локально управляемых мощным ИИ и стратегически скоординированных по всему миру ещё более мощным ИИ, мог бы быть непобедимой армией, способной и победить любую армию в мире, и подавлять инакомыслие внутри страны, следуя за каждым гражданином. Развития в войне России и Украины должны предупредить нас о том, что дроновая война уже здесь (хотя пока не полностью автономная и в крошечной доле от того, что могло бы быть возможно с мощным ИИ).

5️⃣ Полная защита от биологических рисков может потребовать международной работы, даже с геополитическими противниками, но есть прецедент в виде договоров, запрещающих разработку биологического оружия. Я скептик относительно большинства видов международного сотрудничества по ИИ, но это может быть одной узкой областью, где есть некоторый шанс добиться глобального самоограничения. Даже диктатуры не хотят массовых биотеррористических атак.

В первую очередь нужно определить реальные потребности бизнеса. Мы часто видим, что существующие учебные программы создаются просто ради их существования. Поэтому мы начали с исследования. Наш менеджер проекта провел серию глубинных интервью с представителями разных бизнесов. На основе этих данных мы подбираем подходящие инструменты и методики.

Основная ошибка — это покупка популярной программы без учета своих потребностей. Компании не изучают демо-версию или не тестируют инструмент на малых данных. В результате они покупают то, что им не нужно, и страдают от этого.

На стыке с гуманитарными науками будут ценны эксперты с уникальными знаниями. Мы подошли к моменту, когда данные для обучения искусственного интеллекта закончились. Теперь важны высококачественные данные, которые люди генерируют в малых объемах. Для обучения больших моделей нужны эксперты из разных областей — от хирургов до юристов. Если ты востребованный специалист, твои знания останутся актуальными.

Образованные и талантливые специалисты работают не только за деньги. Им важна идея, ради которой они трудятся. Компании должны создавать что-то значимое и помогать людям. Также важна здоровая атмосфера внутри компании. Экспертам нужна возможность проявлять инициативу и быть услышанными.