🚨 «Играют в рулетку с нашими жизнями»: исследователь ушёл из Anthropic из-за гонки ИИ

Джейкоб Коксон покинул компанию и опубликовал большой тред о рисках самоулучшающегося ИИ.

🔬 Последние три года он занимался предобучением моделей в OpenAI и Anthropic. По его оценке, ни одна из компаний не проявляет достаточной осторожности.

⏳ Коксон утверждает, что среди разработчиков передовых моделей есть люди, которые всерьёз допускают катастрофические последствия, вплоть до гибели человечества, уже в ближайшие годы.

🏁 По его словам, в Anthropic понимают риски, но продолжают разработку из опасения, что менее ответственная лаборатория первой создаст сверхмощный ИИ.

⚙️ Главная тревога исследователя - рекурсивное самоулучшение: ИИ начинает ускорять создание собственных преемников, а людям становится всё сложнее контролировать этот процесс.

Коксон опасается потери контроля уже к концу 2027 года. Это его прогноз, а не установленный срок появления сверхразума.