Продолжу про Дарио Амадея (если все еще не поняли кто это, то это CEO и кофаундер Claude — аналога ChatGPT. Я вот между всеми нейронками выбираю именно Claude, потому что она имхо точнее и креативнее)

Как и обещал, разбираю его эссе Machines of Loving Grace:

• Название эссе — отсылка к одноименному стихотворению Ричарда Бротигана. Для 60-х такой вот соларпанк стишок нифигасебе.

• Антропики славятся тем, что говорят только про риски и безопасность, а не позитивные стороны. Дарио пишет, что это потому что 1) ИИ реально сильно изменит рынок 2) ИИ компании обычно пропагандисты, которые закрывают глаза на недостатки 3) ИИ компании ведут себя как мессии и пытаются спасти мир 4) вокруг этой темы часто создается научно-фантастический флер (AGI hype), что отталкивает от реального восприятия будущего

• Не смотря на это Дарио хочет рассмотреть радикально положительные стороны развития ИИ с его точки зрения (и мне нравится, что это он сделал вот так по-старинке в форме простыни текста). Для этого он выбрал несколько сфер, которые радикальнее всего изменятся

• Но сначала что подразумевается под мощным ИИ, который и всепоменяет: 1) умнее лауреата Нобелевской премии в сразу нескольких важных областях 2) имеет полноценный интерфейс, может выполнять все задачи с компьютером по анализу и созданию контента 3) он может "уходить" автономно думать и задавать вспомогательные вопросы 4) у него нет физического тела, но он может контролить роботов 5) ресурсы для обучения модели должны выдерживать миллион ее копий, который могут работать как не зависимо, так и вместе.

• Можно предположить, что после того, как ИИ получит все эти качества случится сингулярность и мы все сдохнем. Дарио отмечает, что существует множество ограничений в которые любой самый могущественный интеллект упрется (физические законы, человеческие законы(в том числе тупые), данные).

• Биология и здоровье. Многие биологи скептичны относительно ИИ, говоря о нем, как о инструменте для анализа, который сразу уткнется в ограничения. Длительности и сложности экспериментов и опять же данных. ИИ может лучше анализировать ваши данные, но он не может производить больше данных или улучшать их качество. Мусор на входе, мусор на выходе. Но Дарио заявляет, что если мы будем относится к мощному ИИ, как полноценному виртуальному помощнику, который ускорит ход открытый, то мы получим скачок. Таким образом прогресс может бысть "сжат" c 50-100, до 5-10 лет: лечение всех инфекционных заболеваний (универсальная вакцина), победа над раком, лечение генетических заболеваний, профилактика Альцгеймера, биологическая свобода над телом, увеличение длительности жизни вдвое.

• Нейронауки и разум. Несмотря на то, что биологические нейроны работают совсем по-другому, нежели виртуальные, базово у них одинаковые концепции. И за последние годы мы достигли понимания, как работают и обучаются такие сети. Некоторые прогнозы: мы сможем вылечить большинство ментальных болезней, реструктуризация мозга (например откатить мозг в более пластичное состояние и научить его по-другому), генетические фиксы, решение повседневных проблем, которые пока еще не являются таковыми (скрытые зависимости).

• Экономика и бедность. В решение socialist calculation debate Дарио не верит :) Некоторые оптимистичные выводы: распространение медицинских услуги на весь мир (лучше здоровье — лучше будут работать), стремительный экономический рост ввп в странах 3-его мира, улучшение в агрокультуре, снижение климатического кризиса. Ну и в целом насчет того, что технологии достанутся не только богатым Дарио не верит и говорит, что благодаря рыночку такого не произойдет, потому что он снижает со временем цены на технологии.

• Мир и политика. Тут он пишет о том, что ИИ должен развивать демократию и подрывать авторитарные режимы, аргументируя это тем, что люди хотят большего самовыражения, когда другие их потребности удовлетворены, а демократия, среди прочего, является формой самовыражения. И наоборот, авторитаризм процветает на страхе и обиде. Но т.к. в демократических странах несправедливость случается постоянно, то он еще хочет имплементировать ИИ в судебный процесс (не полностью заменить судей, но работать вместе)

• Работа и смысл. Ну и самый главный вопрос. Если ИИ будет все делать, в чем смысл людей? Не смотря на то, что ИИ будет все делать лучше, люди могут продолжать соревноваться между собой, развлекать себя и им будет ок. В конце концов, большинство людей ни в чем не являются лучшими в мире, и, похоже, это их особо не беспокоит. Но когда на поле выходит экономическая ценность, то краски сгущаются. Одна из областей, в которой люди, вероятно, сохранят относительное (или даже абсолютное) преимущество в течение значительного времени, — это физический мир. Однако в долгосрочной перспективе ИИ станет настолько эффективным и дешевым, что это больше не будет применяться. В этот момент наша нынешняя экономическая система больше не будет иметь смысла, и возникнет необходимость в более широком общественном разговоре о том, как должна быть организована экономика. Человечество преодолевало уже такие экономические сдвиги и придется преодолеть еще.

• В заключении Дарио пишет следующее: ... простые интуиции, если их довести до логического завершения, в конечном итоге приведут к верховенству закона, демократии и ценностям Просвещения. Если не неизбежно, то, по крайней мере, именно к этому человечество уже шло. ИИ просто предлагает возможность быстрее доставить нас туда — сделать логику более четкой, а пункт назначения — более ясным.

• Тем не менее, это вещь необыкновенной красоты. У нас есть возможность сыграть небольшую роль в том, чтобы это стало реальностью.

https://darioamodei.com/machines-of-loving-grace