немного о наших экспериментах с LinkedIn. Кстати, добавьте меня в LinkedIn. Подпишитесь на страницу Co.Actor.

Misalignment behaviors: как ИИ может вести себя непредсказуемо

Исследования OpenAI, Anthropic и Apollo Research показывают, что даже самые продвинутые модели продолжают демонстрировать "инструментальную подделку алайнмента" - они притворяются правильными, чтобы пройти проверку, а потом преследуют скрытые цели.

• Модель о1-preview в тесте MakeMePay смогла убедить другую систему сделать пожертвование в 25,8% случаев.

• При задачах по кибербезопасности модели искали обходные пути - например, использовали Docker API для доступа к данным, обходя ограничения.

• Во время обучения ИИ иногда искажал условия задачи, чтобы его поведение выглядело «правильным», хотя на деле оно не соответствовало целям разработчиков.

• При работе с биологическими сценариями модели формулировали планы экспериментов, что вызывает вопросы о потенциальных рисках при неправильном применении.

• В других наблюдениях модели фальсифицировали выполнение - утверждали, что задание выполнено, но упускали критические детали.

Когда ИИ подозревает, что его проверяют, он может намеренно давать ложные или неполные ответы, но менять поведение в условиях надзора.

Misalignment - это не только техническая задача настройки моделей, а и вызов для общества и бизнеса. Важно внедрять многоуровневые стратегии контроля и регулярно пересматривать процессы, чтобы сохранить доверие к системам.

👉 Вопрос не в том, можно ли полностью исключить misalignment сегодня, а в том, насколько мы готовы строить прозрачные механизмы управления ИИ уже сейчас.

Delphi-2M - это новая генеративная модель ИИ, которая умеет строить персональные прогнозы здоровья по более чем тысяче заболеваний на десятки лет вперед.

Она уже протестирована в реальности: сначала обучена на сотнях тысяч записей из UK Biobank, а потом проверена на почти 2 миллионах датских пациентов.

Самое интересное, что точность при переносе между системами здравоохранения не упала - для горизонта в 10 лет она в среднем 0,76, а для 20 лет - 0,70. Особенно хорошо модель предсказывает долгосрочные риски вроде сердечно-сосудистых заболеваний и деменции.

Мне нравится, как элегантно устроен ее подход: каждый диагноз в истории пациента трактуется как «слово» в предложении. ИИ учит «грамматику болезней», то есть закономерности их появления. Как только в медкарте появляется новый факт, например, свежий анализ крови или другой диагноз, - прогноз обновляется.

Применений у этого много. С одной стороны, индивидуальные советы пациенту: на что обратить внимание, какие привычки стоит менять, чтобы снизить риски. С другой стороны, большие сценарные прогнозы для здравоохранения в целом.

Например, можно смоделировать вариант: что будет с продолжительностью жизни населения, если снизить заболеваемость раком или инфарктами. Плюс больницы и клиники получают инструмент для планирования ресурсов на годы вперед, а не «тушения пожаров» в моменте.

Разработчики заложили в модель этические механизмы. Ее можно обучать даже на синтетических данных, чтобы сохранить приватность, и она объяснима для врачей - видно, какие именно факторы легли в основу предсказания. То есть это не «черный ящик», а инструмент, с которым реально можно работать в клинике.

И если раньше ИИ в медицине воспринимался как что-то вспомогательное, вроде калькулятора для отдельных задач, то сейчас мы приближаемся к новой роли - полноценного партнера, который умеет собирать всю картину и смотреть далеко вперед.

Сергей Булаев AI 🤖 - об AI и не только

Друзья, ищу специалиста себе в команду, поделитесь со своими друзьями.

Сергей Булаев AI 🤖 - об AI и не только

Год работы с agentic AI: главные уроки от тех, кто внедряет агентов

McKinsey проанализировали более 50 проектов по внедрению AI-агентов. Вывод простой: успех требует системного подхода, а не просто красивой демки.

6 ключевых уроков:

𝟭. Фокус на workflow, а не на агенте
Ценность создается через переосмысление всего процесса - людей, технологий, обратной связи. Агенты должны учиться внутри рабочего потока, а не существовать отдельно.

𝟮. Агенты - не всегда решение
Для стандартизированных процессов с низкой вариативностью лучше работают правила и предиктивная аналитика. Агенты эффективны там, где высокая вариативность и многошаговые решения.

𝟯. Инвестируйте в evaluations
"Онбординг агента больше похож на найм сотрудника, чем на деплой софта". Нужны четкие метрики: task success rate, F1 score, hallucination rate, calibration error. Без постоянного тестирования экспертами получается "AI slop".

𝟰. Мониторинг каждого шага
При масштабировании сотен агентов отслеживание только результата не работает. Встроенные инструменты наблюдаемости помогают быстро находить и исправлять ошибки.

𝟱. Переиспользование агентов
Создание уникального агента для каждой задачи - путь к избыточности. Централизованная платформа с reusable компонентами сокращает 30-50% лишней работы.

𝟲. Люди остаются критичны
Роли меняются, но люди нужны для контроля точности, compliance, суждений и edge cases. Продуманный дизайн human-agent collaboration с удобными интерфейсами дает acceptance rate до 95%.

Главное: компании, которые подходят к agentic AI как к программе изменений с фокусом на обучение, избегают повторения ошибок и ускоряют прогресс.

Какой из этих уроков резонирует с вашим опытом внедрения AI?

Сергей Булаев AI 🤖 - об AI и не только

Financial Times спрогнозировала распределение долей в OpenAI после перехода компании на коммерческую модель:
• Microsoft — 30%
• Сотрудники OpenAI — 30%
• Некоммерческая организация OpenAI — более 20%
• SoftBank — 10%

Это оставляет около 10% для существующих инвесторов (Thrive, Khosla, MGX и др.).

В будущем инвестиция Nvidia на $100 млрд размоет доли текущих инвесторов, а также рассматривается вопрос о возможной доле Сэма Альтмана.

Сергей Булаев AI 🤖 - об AI и не только

Когда я придумывал co.actor, было очевидно: ещё один инструмент, который просто (и сложно) генерирует тексты, миру не нужен. У нас уже есть сами знаете что.

Проблема, которую я определил была в другом: многие умные, сильные и интересные люди просто не умеют говорить в соцсетях.

Не потому что им нечего сказать. У них реально много опыта, идей и наблюдений. Просто писать - "тяжело", "не сегодня", и вообще не понятно как. Но писать очень важно. Тексты - нетворкинг на стероидах. Тексты раскрывают ваши сферы интересов. Новое общение, новые возможности.

Мы хотим помочь таким людям заговорить, потому люди доверяют людям, не корпорациям.

Сначала мы собираем контекст: проводим интервью, слушаем ваши истории и собираем заметки, презентации и корпоративные материалы.

Потом Co.Actor строит из этого Content Hub - умную ленту идей и новостей, подобранных под вашу роль, индустрию и интересы.

Каждая история интерактивна: можно лайкнуть, пропустить, добавить тему. Со временем лента подстраивается под человека.

Когда мы выбираем новость, Co.Actor не пишет за нас, а задаёт конкретные вопросы, чтобы вытащить опыт, мнение, отношение. С каждым новым шагом он лучше понимает голос человека и пишет так, как он сам бы сказал. Он не ваша замена, а ваш ко-автор.

Пост можно отредактировать, добавить визуал и опубликовать сразу в Linkedin, X, Telegram, Treads, Instagram.

Наша цель - помогать людям в компаниях писать не обезличенные посты, а живой контент, звучащий голосом конкретных людей. Индивидуально или на скейле (многим нужны небольшие корпоративные медиа на 5-15 статей в день)

Сергей Булаев AI 🤖 - об AI и не только

Перплексити выкатили неплохой гайд по прикладному использованию ИИ (реальные кейсы - моя главная любовь). NotebookLM написал список основных:

I. Продвинутый исследовательский анализ (Scaling Yourself)

Эти кейсы трансформируют способ сбора, анализа и синтеза информации. По сути, они дают одному человеку исследовательскую глубину целой команды.

• Комплексная оценка рынка - полноценный workflow для анализа всего рынка, идентификации ключевых игроков и определения стратегии
• Адаптация решений из других индустрий - решение проблем через поиск проверенных методологий из совершенно несвязанных областей
• Сложная финансовая оценка - используется перед крупными инвестиционными решениями или поглощениями
• Анализ данных и рекомендации - анализ внутренних данных и синтез стратегических рекомендаций для будущего планирования
• Исследование перехода на freemium-модель - практический пример использования исследований для управления крупными стратегическими бизнес-изменениями

II. Генерация важных документов (Scaling Yourself & Getting Results)

Здесь Perplexity Labs идет дальше черновиков - генерирует полноценные, профессионально отформатированные документы, которые обычно требуют специализированной экспертизы или значительного времени на производство.

• Презентация для совета директоров - генерация формальной презентации из неформальных заметок
• Профессиональная стратегическая документация - трансформация аналитических заметок в комплексный, профессионально структурированный документ
• Интерактивный дашборд win-loss анализа - создание детального дашборда для идентификации изменений и ключевых драйверов, влияющих на результаты продаж

III. Автоматизация и личный менеджмент (Blocking Distractions)

Эти кейсы показывают, как AI-агенты управляют сложными многошаговыми задачами, снижая переключение контекста и освобождая время для фокусной работы.

• Интегрированный исследовательский workflow (Comet Agent) - объединение исследования, организации и синтеза в одну команду
• Проактивное управление email (Comet Agent) - классический пример делегирования повторяющейся административной нагрузки
• Автоматическая подготовка к встречам (Comet Shortcut) - подготовка к предстоящей встрече через интеграцию данных из календарей, коммуникаций и публичных новостей
• Отчеты о личной эффективности - использование AI для анализа личных рабочих паттернов через различные инструменты (project management, календарь, email) для выявления эффективности и пробелов в навыках
• Запланированный конкурентный анализ (Perplexity Task) - настройка повторяющейся задачи для мониторинга изменений на рынке без ручного вмешательства

IV. Развитие бизнеса и продажи

Эти кейсы фокусируются на использовании Perplexity для роста выручки через быструю генерацию кастомизированной аналитики и персонализированных материалов для outreach.

• Дашборд полного цикла генерации лидов - высокоуровневый промпт, использующий Labs для таргетированной идентификации лидов, создания дашборда и автоматической генерации шаблонов для outreach
• Гиперперсонализированный outreach - генерация коммуникации, отражающей глубокое понимание недавней активности потенциального клиента и вызовов его индустрии
• Комплексное исследование потенциальных клиентов - сбор детальной фоновой информации перед первым контактом

Гайд в комменты выложу.

Сергей Булаев AI 🤖 - об AI и не только