Почему это важно? 🤔

В отличие от других крупных ИИ-лабораторий, xAI уделяет меньше внимания безопасности своих моделей. Обычно перед релизом языковые модели обучают не генерировать потенциально опасные или оскорбительные ответы — например, рецепты биологического оружия, наркотических веществ или неполиткорректные высказывания о расовой дискриминации. А также выпускают подробные отчеты о способностях моделей нарушать эти ограничения — пример отчета для Claude 4.

Такое отношение к цензуре продиктовано желанием Илона Маска создать «объективную» модель, не подверженную влиянию левой woke-культуры. Последствия подобной политики проявились в недавнем скандале с Grok 3, интегрированной в соцсеть X (бывший Twitter). На некоторое время модель стала считать себя персонажем игры Wolfenstein 3D — MechaHitler — и генерировала антисемитские высказывания. Также она оскорбила премьер-министра Польши. После жалоб пользователей разработчики временно отключили модель, а через четыре дня компания извинилась и вернула в работу исправленную версию.

Почему это важно? 🤔

Агентные системы с использованием языковых моделей — главный тренд 2024–2025 годов. Постоянно улучшающиеся способности моделей позволяют (полу-)автоматизировать все большее количество рутинных задач. Одним из примеров относительно успешного внедрения агентов является сфера разработки ПО — здесь ИИ существенно повышает продуктивность программистов. Генеральный директор Microsoft заявляет, что 30% кода в компании сейчас пишет искусственный интеллект. А глава Shopify объявил использование ИИ для разработки новым обязательным требованием к сотрудникам.

Независимые исследователи считают развитие агентов важным этапом в прогрессе ИИ, поскольку они смогут продемонстрировать политикам экономическую выгоду от искусственного интеллекта. Это приведет к более глубокой интеграции ИИ в рабочие процессы и увеличению инвестиций.

В то же время многие опасаются кризиса на рынке труда из-за потенциальной замены людей ИИ-системами. Сообщества иллюстраторов и художников в большинстве своем выступают против инструментов для генерации изображений и видео, считая, что искусственный интеллект не должен замещать человека в творческих сферах.

Почему это важно? 🤔

На рынке языковых моделей существуют проприетарные решения, разрабатываемые крупными лабораториями и корпорациями, и открытые модели, чаще (но не всегда) создаваемые независимыми компаниями.

Из-за высокой конкуренции создатели проприетарных LLM не раскрывают технические подробности своих моделей — в частности, не публикуют детальные технические отчеты и статьи. Разработчики открытых решений, напротив, раскрывают технические детали, публикуют сами модели и иногда код для их обучения, что особенно важно из-за инженерной сложности обучения моделей такого масштаба.

Open-source сообщество вносит большой вклад в развитие всей области — зачастую проприетарные компании используют его разработки. Также оно создает серьезную конкуренцию коммерческим решениям, поскольку пользователи и бизнес могут разворачивать открытые модели на собственных серверах.

Обучение больших языковых моделей крайне сложно и дорого. До этого обучать модели размером порядка триллиона параметров умели только коммерческие компании уровня OpenAI и Google. Появление открытой модели с триллионом параметров стало большим достижением сообщества, сократившим разрыв с закрытыми техногигантами.