А вы тоже хрустолог?

Хрустение суставами безусловно великий навык! Парням он обычно добавляет +1 к шарму. У девчонок суставы меньше и мне кажется они не так кайфуют. В отличие от других подобных приколов с телом, вроде например пукания, его можно использовать всегда и везде, пока какая-нибудь сильно раздражительная женщина в общественном месте не сделает тебе замечание. Потом обычно появляется человек, который ей объясняет, что это нормально и рассказывает историю про Дональда Унгера. Ну того самого врача, который 60 лет минимум дважды в день хрустел костяшками пальцев левой руки, не трогая правую и все с ним было заебись.

Этот навык у меня появился в средней школе. До этого я видел, как такое делают старшие, но у меня не получалось. Думал, что никогда не получится, когда в один прекрасный день я не надавил на кулак и не услышал, тот самый сладкий хлопок. Я понял, что время пришло! Потом я понажимал на другие пальцы. Было немного страшно, но получилось хлопнуть еще парочку. Годы практики и к концу школы у меня хрустели все суставчики на всех фалангах, включая пальцы ног. Кстати, обычно хрустят только 1-ми фалангами, забывая про 2 и 3. Прохрустевайте обязательно все!

В универе я научился одному из самых крутых хрустов — хруст шеей. Для этого надо немного наклонить шею и кулаком упершись в челюсть плавно разворачивать весь череп перпендикулярно позвоночнику. Это самый грозный хруст, который каждый хочет успеть сделать перед дракой. В обычное время бывает тоже сложно себя удержать от него. Мама у меня всегда вздрагивает.

Последний хруст, который я открыл года 2 назад — хруст ключицами. Для этого надо выгнуть спину, взять поочередно себя за запястье и тянуть руку вниз. Сначала очень необычные ощущения, но потом привыкаешь, как и к остальным.

Самый отвратный хруст — хруст коленками. Большие суставы страшновато хрустят, особенно неприятно, когда это незапланированно. Еще иногда бывает, что начинаешь хрустеть и не можешь остановится, такое бывает именно с ногами. Надо немного успокоиться, согнуть и упереть пальцы в другую ногу или пол и все проходит.

В общем, у меня всегда хорошо получалось хрустеть и я конечно же продолжаю над этим работать.

На прошлой неделе вышло пожалуй главное интервью в мире AI с командой Claude. Вот мои буллеты (5 ч вообще-то!):

• Первый раз увидел Дарио Амадея. Если Сэм Альтман более похож на скользкого Цукерберга, который никогда не скажет правду (его интервью у Лекса просто не возможно смотреть), то за Клод стоит энергичный задрот (в универе он занимался физикой кстати), который намного живее и трушнее, чем Альтман (по крайней мере так кажется).

• Интервью началось конечно же о насущном вопросе развития ИИ. Скептики сейчас говорят, что оно скоро упрется в стену. Компаниям конечно же выгодно вешать лапшу на уши и говорить, что все ок, главное не переставать скейлить (увеличения моделей, размеров датасетов и вычислительный мощностей для тренировок).

• Дарио говорит, что да скейлинг это единственный вариант, но добавляет, что ограничением развития нейронок станет отсутствие новых данных, а точнее качественных данных. Но может произойти и такое, что не смотря ни на что, развития остановится и придется придумывать новую архитектуру.

• На вопрос из реддита тупеют ли нейронки с выходом новой версии Дарио ответил, что нет. Мозги моделей остаются, но проблема всех больших ИИ компаниях в том, что они очень чувствительны к легким измениям в промтах, которые мы задаем. Никто не знает пока, как это исправлять.

• Первая главная угроза — использование ИИ в кибер, био, радиоктивных, ядерных интересах. Вторая — дать доступ и контроль моделям в критически важные сферы. Чтобы этого избежать в Claude есть система тестов и присвоения категории безопасности от 1 до 5. Нынешней модели присвоен статус 2, что говорит о определенной тупости, чтобы сулить какой-либо риск. А вот, когда модель достигнет 3 уровня, то к ней начнутся жесткие тесты по двум первым пунктам. Это может случится уже в следующим году!

• Дарио много лет проработал в Open AI. На вопрос почему он оттуда ушел, он ответил, что у него просто было видение, как сделать лучшую модель. Самое непродуктивное, что можно сделать — пытаться изменить видение другого.

• Самым важным навыков для ИИ ресерча Дарио назвал любознательность (open minded). Как он сказал у него просто научный мозг, который если видит переменные, то хочет их менять. Это самое простое, что можно делать, но очень мало кто осознает. Все мировые открытия построены на этом.

• Те кто говорит что суперинтеллект появится в ближайшее время не учитывают сложность человеческих систем. Но миллион раз оговариваясь, он говорит, что сверхИИ можно получить через 2-3 года.

• Из всех профессий под угрозой находятся програмисты, тк ИИ ближе всего к коду и языкам, умеет его писать, а значит запускать. К 2026-2027 нейронки могут решать большинство задач, учитывая что они будут прямолинейными. Программисты больше перейдут на архитектурный уровень.

• ИИ настолько классно работает, потому что его не кодят, а растят. ИИ — органическая штука, которую мы создали, но мы до конца не знаем, как она работает.

На последок у Дарио на сайте есть единственное эссе манифест Machines of Loving Grace, где можно прочитать его видение развитие ИИ и почему он так приоритезирует безопасность и этичность (мб разберу след постом, не успел осилить)

https://www.youtube.com/watch?v=ugvHCXCOmm4&feature=youtu.be

Продолжу про Дарио Амадея (если все еще не поняли кто это, то это CEO и кофаундер Claude — аналога ChatGPT. Я вот между всеми нейронками выбираю именно Claude, потому что она имхо точнее и креативнее)

Как и обещал, разбираю его эссе Machines of Loving Grace:

• Название эссе — отсылка к одноименному стихотворению Ричарда Бротигана. Для 60-х такой вот соларпанк стишок нифигасебе.

• Антропики славятся тем, что говорят только про риски и безопасность, а не позитивные стороны. Дарио пишет, что это потому что 1) ИИ реально сильно изменит рынок 2) ИИ компании обычно пропагандисты, которые закрывают глаза на недостатки 3) ИИ компании ведут себя как мессии и пытаются спасти мир 4) вокруг этой темы часто создается научно-фантастический флер (AGI hype), что отталкивает от реального восприятия будущего

• Не смотря на это Дарио хочет рассмотреть радикально положительные стороны развития ИИ с его точки зрения (и мне нравится, что это он сделал вот так по-старинке в форме простыни текста). Для этого он выбрал несколько сфер, которые радикальнее всего изменятся

• Но сначала что подразумевается под мощным ИИ, который и всепоменяет: 1) умнее лауреата Нобелевской премии в сразу нескольких важных областях 2) имеет полноценный интерфейс, может выполнять все задачи с компьютером по анализу и созданию контента 3) он может "уходить" автономно думать и задавать вспомогательные вопросы 4) у него нет физического тела, но он может контролить роботов 5) ресурсы для обучения модели должны выдерживать миллион ее копий, который могут работать как не зависимо, так и вместе.

• Можно предположить, что после того, как ИИ получит все эти качества случится сингулярность и мы все сдохнем. Дарио отмечает, что существует множество ограничений в которые любой самый могущественный интеллект упрется (физические законы, человеческие законы(в том числе тупые), данные).

• Биология и здоровье. Многие биологи скептичны относительно ИИ, говоря о нем, как о инструменте для анализа, который сразу уткнется в ограничения. Длительности и сложности экспериментов и опять же данных. ИИ может лучше анализировать ваши данные, но он не может производить больше данных или улучшать их качество. Мусор на входе, мусор на выходе. Но Дарио заявляет, что если мы будем относится к мощному ИИ, как полноценному виртуальному помощнику, который ускорит ход открытый, то мы получим скачок. Таким образом прогресс может бысть "сжат" c 50-100, до 5-10 лет: лечение всех инфекционных заболеваний (универсальная вакцина), победа над раком, лечение генетических заболеваний, профилактика Альцгеймера, биологическая свобода над телом, увеличение длительности жизни вдвое.

• Нейронауки и разум. Несмотря на то, что биологические нейроны работают совсем по-другому, нежели виртуальные, базово у них одинаковые концепции. И за последние годы мы достигли понимания, как работают и обучаются такие сети. Некоторые прогнозы: мы сможем вылечить большинство ментальных болезней, реструктуризация мозга (например откатить мозг в более пластичное состояние и научить его по-другому), генетические фиксы, решение повседневных проблем, которые пока еще не являются таковыми (скрытые зависимости).

• Экономика и бедность. В решение socialist calculation debate Дарио не верит :) Некоторые оптимистичные выводы: распространение медицинских услуги на весь мир (лучше здоровье — лучше будут работать), стремительный экономический рост ввп в странах 3-его мира, улучшение в агрокультуре, снижение климатического кризиса. Ну и в целом насчет того, что технологии достанутся не только богатым Дарио не верит и говорит, что благодаря рыночку такого не произойдет, потому что он снижает со временем цены на технологии.

• Мир и политика. Тут он пишет о том, что ИИ должен развивать демократию и подрывать авторитарные режимы, аргументируя это тем, что люди хотят большего самовыражения, когда другие их потребности удовлетворены, а демократия, среди прочего, является формой самовыражения. И наоборот, авторитаризм процветает на страхе и обиде. Но т.к. в демократических странах несправедливость случается постоянно, то он еще хочет имплементировать ИИ в судебный процесс (не полностью заменить судей, но работать вместе)

• Работа и смысл. Ну и самый главный вопрос. Если ИИ будет все делать, в чем смысл людей? Не смотря на то, что ИИ будет все делать лучше, люди могут продолжать соревноваться между собой, развлекать себя и им будет ок. В конце концов, большинство людей ни в чем не являются лучшими в мире, и, похоже, это их особо не беспокоит. Но когда на поле выходит экономическая ценность, то краски сгущаются. Одна из областей, в которой люди, вероятно, сохранят относительное (или даже абсолютное) преимущество в течение значительного времени, — это физический мир. Однако в долгосрочной перспективе ИИ станет настолько эффективным и дешевым, что это больше не будет применяться. В этот момент наша нынешняя экономическая система больше не будет иметь смысла, и возникнет необходимость в более широком общественном разговоре о том, как должна быть организована экономика. Человечество преодолевало уже такие экономические сдвиги и придется преодолеть еще.

• В заключении Дарио пишет следующее: ... простые интуиции, если их довести до логического завершения, в конечном итоге приведут к верховенству закона, демократии и ценностям Просвещения. Если не неизбежно, то, по крайней мере, именно к этому человечество уже шло. ИИ просто предлагает возможность быстрее доставить нас туда — сделать логику более четкой, а пункт назначения — более ясным.

• Тем не менее, это вещь необыкновенной красоты. У нас есть возможность сыграть небольшую роль в том, чтобы это стало реальностью.

https://darioamodei.com/machines-of-loving-grace