Приходите на конфу этой осенью, будет интересно!

Рефлексия о работе в OpenAI или как из хаоса и атомарных действий рождается великое.

Ex сотрудник Codex рассказывает о своем опыте работы в OpenAI.

Советую почитать самостоятельно, если уж английский не ваше - перевод тут.

Выделю то, что именно интересно мне, в основном, это процессы, за остальным вэлкам, опять же, в полную версию.

1. Наличие моно-репо разработки, отсутствие коммуникаций в почте. Да, ребята общаются через мессенджер - Slack. Имеется многоуровневая система доступов, особенно, к чатам с фин. информацией. В почте почти нет коммуникации, автор буквально получал около 10 писем за все время. На сладкое разработка в одном огромном монорепозитории.

2. Процессы под лозунгом "bias to action". Формирование групп и команд идет по интересам и сразу в бой. Зачастую, годные идеи и их реализации просто интегрируют в более масштабный флоу к основной ветке. Отсюда возможность создания параллельно нескольких групп, делающих одну фичу по-своему, далее побеждает "сильнейший". Также это дает возможность расти тем, кто делает интересное/полезное хорошо и быстро, даже без возможности нормальной презентации. Вокруг таких успешных групп быстро далее формируется core команда для доведения до ума решения. Обычно все крутые фичи рождаются в рамках "мелких" исследований, это в т.ч. порождает порой огромные распределенные кусочки, которые важно соединить воедино. Отсюда и важны руководители.

3. Руководители исследовательских групп – «мини CEO». В рамках работы, при создании трека важная максимальная самостоятельность и принятие рисков. Поэтому лиды групп становятся мини-CEO, которые видят весь ландшафт работ, в т.ч. в соседних командах. Отмечается важность иметь хороших research engineering manager и PMов. Причём люди, занимающие данные позиции обладают открытым и широким взглядом, создавая впечатление что уже видели все. Но эта черта не мешает поддерживать команды, мотивировать на успех и минимально вмешиваться в реализацию. Такие руководители поощряют креатив и т. п., а не микроменеджерят, помогая и нанять лучших людей под задачу или ротировать их, а также дать выч. ресурсы.

Как следствие из п. 1-3, компания довольно гибкая и быстро может менять направление исследований и разработок. Все что не интересно, решенное и устарело, скорее всего, делаться не будет. Также это не дает возможности быть инертными и четко двигаться по плану/стратегии в отличии от конкурентов в Google и др. Руководители вовлечены в работу и не ждут квартального планирования и планового перераспределения в штат, подтягивая опять же быстро нужных людей. Какой к чёрту план, когда вы на острие технологий и все меняется молниеносно.

4. Важность оптимизации GPU. Работа с оптимизацией латенси вплоть до времени отклика на генерацию первого токена. Отмечается, что ресурсы GPU для создания одной нишевой функции Codex были сопоставимы по затратам со всем пайпом сбора и чистки данных логов клиентов.

5. Не забываем о социальной ответственности. Большое внимание уделяется практическим угрозам (например, разжиганию вражды, злоупотреблению технологиями, манипуляциям общественным мнением, созданию биологического оружия, проблемам самолечения и атакам методом инъекций запросов), нежели абстрактным рискам вроде интеллектуального скачка или стремлениях машин к власти. Однако это вовсе не означает, что вопросами гипотетических рисков никто не занимается — такие специалисты действительно существуют.

Интересно? Читайте полную версию и черпайте интересные моменты для себя. Жду от вас комментарии, что отметили именно вы.

Upd. Мне напомнило это все, кстати, рассказ разработчиков ChatGPT, как они сделали это. Когда Сэм пришел и попросил перед очередным собранием инвесторов удивить его, команда достала из широких штанин, что они делали с GPT3.5 (или 3). И это было оно. Сама сказал, накинуть на это GUI и пустить на бой, ибо это вызывало шок, вострог и вау. Чуваки делали несколько месяцев экспы и никто их не хватился, до нужного момента. И вот такая исследовательская группа удивила. Вот так это и работает в такой архитектуре процессов.

Что же на самом деле было в статьей от Microsoft?

Когда все покекали, пришло время заменить редакторов и авторов и написать вам обзор при помощи LLM. Статья про анализ влияния искусственного интеллекта на занятость населения:

▌ Постановка задачи

Авторы исследуют влияние генеративного искусственного интеллекта на рабочие процессы различных профессий, определяя уровень применимости ИИ для конкретных видов профессиональной деятельности. Они используют анонимные беседы пользователей с системой
Microsoft Bing Copilot — общедоступным инструментом ИИ, применяемым на практике.

▌ Идея алгоритма

Основной метод исследования заключается в анализе больших объемов реальных взаимодействий между пользователями и ИИ-системами. Авторы классифицируют труд работников по видам действий, наиболее часто выполняемых совместно с ИИ. Затем, основываясь на измерениях успешности и распространенности каждой деятельности, вычисляется показатель применимости ИИ для разных профессиональных групп и как следствие - автоматизацию их труда. Эта же автоматизация и подразумевает замену функций работника на ИИ.

▌ Экспериментальная система дизайна

Эксперимент основан на обработке набора данных, состоящего из 200 тысяч бесед пользователей с ИИ-помощником Microsoft Bing Copilot. Эти данные позволяют определить частоту обращения к помощи ИИ в различных рабочих ситуациях, установить характер взаимодействия и оценить успех решения поставленных задач.

▌ Метрики оценки

Используются следующие показатели:

- Частота запросов определенной рабочей активности.
- Уровень успешности выполнения задач.
- Широта охвата различных занятий, связанных с использованием ИИ.
На основании этих показателей строится рейтинг профессий по уровню применимости ИИ ( и в т.ч. является прокси автозаменяемости).

▌ Основные выводы

Исследование выявило, что наибольший потенциал внедрения ИИ наблюдается среди интеллектуальных профессий («computer and mathematical», «office and administrative support»), а также у специалистов сферы продаж, чья работа связана с предоставлением и передачей информации. Важным открытием стало обнаружение корреляций между уровнем заработной платы, образованием и степенью применимости ИИ.

Кстати, в своем интервью, Дядя тоже говорил о том, что в первую очередь заменяют функции для интеллектуальных и высокооплачиваемых профессий: аналитика, моделирование, программирование и др.

Кроме того, авторы подчеркнули необходимость дальнейшего изучения долгосрочных последствий широкого распространения ИИ на рынок труда и качество жизни работников.

Таким образом, исследование представляет собой значимый вклад в понимание текущих тенденций и перспектив развития технологий ИИ в области занятости.


P.S. Ну что как вам замена автора канала на LLM (или совместное написание)?