Сегодня на ИТМ ИИ состоялся круглый стол, на котором выступил директор по развитию Webiomed Александр Гусев.

В своем докладе Александр рассказал об опыте внедрения СППВР для анализа ЭМК на основе искусственного интеллекта в субъектах РФ, об оценке эффективности технологии, представил обобщенный анализ реализованных командой Webiomed проектов, поделился выводами исходя из опыта применения решения в регионах.

Полностью сессию "Внедрение ИИ и СППВР в систему оказания медицинской помощи субъектов РФ. Практические аспекты. Технологии. Эффективность. ч.1." можно посмотреть здесь: https://vkvideo.ru/video-25135276_456239077?t=40m4s

В 2024 году лидерами среди поставщиков систем помощи в принятии врачебных решений на основе ИИ в сфере госзакупок в России называли 3 компании. Это «К-Скай» ( разработчик платформы Webiomed), «Платформа Третье мнение» и «Медицинские скрининг системы» ( Цельс). https://pharmmedprom.ru/news/mediki-nazvali-10-napravlenii-gde-nuzhni-izdeliya-s-ii/

🤖 Тема искусственного интеллекта и современных специализированных нейросетей является номером один на сегодняшний день.

И я рад, что в Петрозаводске живут и работают люди, которые находятся на острие прогресса, и которые могут об этом рассказать понятным живым языком.

👉 Смотрите и слушайте новый подкаст про ИИ в сфере медицины от карельской компании «К-Скай» с директором по развитию платформы прогнозной аналитики Webiomed Александром Гусевым. Александр Владимирович является кандидатом технических наук, ведущим Российским экспертом по цифровому здравоохранению и ИИ в здравоохранении, а также автором более 200 научных публикаций.

Этот подкаст приурочен ко Дню российской науки и организован совместно с федеральным проектом «Цифровая Россия».

Ссылка на HD-версию подкаста в VK Видео

#деньнауки #моялюбимаянаука #цифроваяроссия
#цифроваякарелия

Делимся презентациями наших докладов на ИТМ_ИИ_2025:

Запись выступлений можно посмотреть в VK видео: https://vkvideo.ru/@webiomed?_ads_group_id=77859052

Записи трансляции ИТМ_ИИ_2025 здесь: https://vkvideo.ru/@itmportal/uploaded

Скотт Готтлиб (Scott Gottlieb), бывший директор FDA (2017-2019) опубликовал в JAMA Health Forum заметку, в которой предложил исключить системы поддержки принятия врачебных решений (clinical decision support, CDS), интегрированные в электронные медицинские карты и использующие технологии искусственного интеллекта, из критериев отнесения к программным медицинским изделиям (Software as a medical device, SaMD).

Рассуждая о текущем регуляторном подходе и его изначальном замысле, Готтлиб говорит о том, что отнесение СППВР к медизделиям создает риски, что разработчики систем ведения ЭМК либо будут обманывать регулятора, притворяясь что внутри ЭМК нет никакой аналитической обработки данных, либо действительно будут блокировать встраивание ИИ-помощников в свои решения. В результате риск, что врачи не получат доступ к ценной аналитике медицинских данных и пропустят опасного пациента – выше, чем риски ошибки ИИ-решения.

Готтлиб формирует следующее предложение: «Если ИИ-инструменты предназначены для предоставления врачам дополнительной клинической информации, но при этом не предоставляют из себя автономные ИИ-агенты для вынесения решения о постановке диагноза или назначении лечения, они не должны подвергаться предварительной регистрации в качестве мед.изделия. FDA должно разрешить разработчикам выходить такие решения на рынок, если они соответствуют требованиям FDA в отношении разработки и проверке безопасности. FDA, опираясь на данные реальной клинической практики в рамках пострегистрационного мониторинга, может убедится, что они действительно повышают качество принятия медицинских решений. Технологии ИИ обладают врожденной способностью синтезировать сложную информацию и предоставлять расширенную аналитику и рекомендации, которые без использования ИИ останутся незамеченными врачами. Эта способность сама по себе не должна классифицировать их как медицинские изделия». https://jamanetwork.com/journals/jama-health-forum/fullarticle/2830189

Группа из 117 ученых из 50 стран мира, получившая название «Консорциум FUTURE-AI» (the FUTURE-AI Consortium), опубликовала в BMJ руководство по надежному и применимому искусственному интеллекту в здравоохранении (FUTURE-AI: international consensus guideline for trustworthy and deployable artificial intelligence in healthcare), состоящее из шести принципов:

F. Справедливость (Fairness). ИИ должен одинаково эффективно работать для всех категорий граждан и исключать дискриминацию или предвзятость. Поскольку на практике достичь этого сложно, разработчики должны постоянно выявлять предубеждения в ИИ-системах и оперативно устранять их, сводить их к минимуму в максимально возможной степени.

U. Универсальность (Universality). Инструмент ИИ должен быть доступен для широкого распространения за пределами контролируемой среды, в которой он был создан, должен сохранять корректность работы при обработке данных новых пациентов или применении в новых, ранее неизвестных ему, условиях (новых клиниках, регионах и тд).

T. Прослеживаемость (Traceability). ИИ-система должна содержать встроенные механизмы документирования и мониторинга работы на всех этапах жизненного цикла. Должна быть обеспечена прозрачность и подотчетность за счет сбора подробной информации о работе алгоритмов ИИ.

U. Удобство использования (Usability). Принцип удобства использования гласит, что конечные пользователи должны иметь возможность использовать инструмент искусственного интеллекта для эффективного и безопасного достижения клинических целей в реальной практике. Разработчики должны постоянно трудиться над выявлением и устранением ошибок, над поиском более простых для пользователя сценариев применения технологий ИИ. ИИ-системы должны улучшать эффективность работы врача и приводить к улучшению результатов лечения с минимизацией риска причинения вреда.

R. Надежность (Robustness). ИИ-системы должны быть готовы к обработке ранее неизвестных данных и других аномалий и изменений, характерных реальной клинической практики. Даже если ИИ-система встретила такие данные, это не должно приводить к ошибкам в работе или неверным рекомендациям.

E. Объяснимость (Explainability). Модели машинного обучения должны создаваться так, чтобы конечный пользователь мог понимать – почему модель пришла к тому или иному выводы, а также иметь информацию об ограничениях и реальных возможностей моделей – чтобы решить, можно ли доверять ИИ-системе.

Руководство охватывает весь жизненный цикл ИИ, от проектирования и разработки до проверки и развертывания, обеспечивая соответствие реальным потребностям и этическим требованиям. https://www.bmj.com/content/388/bmj-2024-081554

В отчете Американской медицинской ассоциации (AMA) отмечается растущий энтузиазм и интерес врачей к использованию искусственного интеллекта (ИИ).

Исследование AMA также показало, что 35% врачей больше воодушевлены, чем обеспокоены использованием искусственного интеллекта в здравоохранении, а 25% считают обратное (по сравнению с 30% и 29%, соответственно, в отчете AMA годом ранее).

68% врачей заявили, что на их рабочих местах уже используется искусственный интеллект, по сравнению с 38 процентами в отчете за предыдущий год.

https://www.medscape.com/viewarticle/doctors-warm-ai-future-healthcare-ama-survey-finds-2025a10003zm?form=fpf

В журнале Infectious Diseases and Therapy вышла статья о потенциале применения больших языковых моделей (LLM) в части назначения антибиотиков.

Основные выводы исследователей:

Технологии действительно обладают большим потенциалом для улучшения лечения инфекционных заболеваний, однако назначение антибиотиков на основе рекомендаций -моделей является довольно сложной задачей для врача и сопряжено с высоким риском ошибки.

Есть огромная разница между использованием для помощи в научной работе и написании статей и назначением антибиотиков в реальной клинической практике, где есть прямой риск причинить вред здоровью пациента из-за галлюцинаций моделей -модели склонны постоянно менять свои рекомендации даже на одни и те же запросы и ситуации, что делает мониторинг их безопасности довольно сложной технической задачей и только усугубляет применение LLM как системы поддержки принятия врачебных решений.

Авторы делают заключение о том, что применение LLM в подборе антибиотиков и лечении инфекционных заболеваний следует вести с крайней осторожностью и с контролируемым подходом. Применение технологий LLM "под капотом" СППВР является по мнению ученых - довольно рискованной затеей.

https://link.springer.com/article/10.1007/s40121-025-01114-5

В преддверии 23 февраля поздравили наших коллег мужчин с наступающим праздником😃

Пусть ваша жизнь будет наполнена смелыми победами, а работа приносит только радость и удовлетворение!

Вы — настоящая опора нашей команды!

Венчурное инвестирование по своей сути сопряжено с высоким риском. Типичная модель венчурного фонда основана на степенном законе и требует, чтобы один или два крупных успеха окупали десятки неудач. Этот закон, несомненно проявит себя и в сфере искусственного интеллекта.

Суммарно в ИИ-компании в 2024 г. было вложено порядка 110 млрд. долл., что составило рекордные 33% от вообще всего венчурного инвестирования во что бы то ни было. Эта цифра включает в себя масштабные раунды финансирования в OpenAI (6,6 млрд. долл.) и в Databricks (10 млрд. долл.).

Аналитики иронично пишут что теперь 1й вопрос инвестора является не «Как я могу на этом заработать», а «Как этот проект использует ИИ?». И если ответ «нет» - то похоже такой проект сразу и безоговорочно проигрывает любым другим предложениям «с ИИ».Основатели стартапов знают, что ИИ сейчас в моде, и находят способы внедрить его в свои продукты... независимо от того, какой была их первоначальная идея продукта.

https://sherwood.news/tech/ai-is-eating-the-startup-world/

Российский национальный исследовательский медицинский университет им. Н.И. Пирогова Минздрава России и компания «К-Скай», разработчик платформы прогнозной аналитики Webiomed, приступили к проведению совместной научно-исследовательской работы, направленной на создание новых продуктов и сервисов в области ИИ в медицине. Об этом на площадке ИТМ ИИ рассказала главный внештатный специалист Минздрава РФ по информационным системам в здравоохранении, руководитель Института цифровой трансформации медицины (ИЦТМ) Татьяна Зарубина.

Базой для совместных продуктов станет «Унифицированная национальная медицинская номенклатура» (УНМН), созданная Институтом цифровой трансформации медицины. Это онтологическая база данных, включающая сведения из отечественных и переведенных на русский язык метатезаурусов (около 4,5 млн. медицинских терминов из более чем 100 различных справочников), работа над которой стартовала три года назад.

“Началась совместная работа с фирмами, которые занимаются внедрением в стране разных систем, в том числе систем поддержки принятия врачебных решений. Мы это очень приветствуем, - прокомментировала Татьяна Васильевна. - С Webiomed мы работаем над рядом компонентов для СППВР, включая получение врачом контекстно-зависимых справок по выполнению требований клинических рекомендаций”.

По словам Зарубиной, в перспективе самой главной задачей является разработка одноплатформенных систем поддержки принятия врачебных решений.

В Великобритании громко заявили о запуске «крупнейшего в мире ИИ-проекта в сфере диагностики рака груди»

Искусственный интеллект будет использован для анализа двух третей из не менее 700 000 маммограмм, сделанных в Англии в течение следующих нескольких лет, чтобы проверить, может ли он так же точно и надежно интерпретировать результаты сканирования, как рентгенолог. В течение 2 лет будет осуществлено 2 параллельных потока. В рамках 1-ого будет выполнено 462 тыс. маммографий, каждая из которых будет проанализирована 1 раз врачом-радиологом, а второй раз – ИИ-алгоритмом. В рамках 2-ого потока будет выполнено 238 тыс. маммографий, которые будут оценены 2-мя врачами радиологами. Остальные 238 000 сканирований будут читаться обычным способом двумя рентгенологами, и два набора результатов будут сравниваться.

Стоит отметить, что в России все это случилось намного раньше - в рамках Московского эксперимента, который был запущен в 2020 г, а затем с 2023 г. активно внедряется в регионах – уже в рамках федеральной инициативы по обязательному применению медицинских изделий с технологиями ИИ, где анализ радиологических изображений является лидирующим сценарием для ИИ-продуктов.

https://www.theguardian.com/society/2025/feb/04/nhs-to-launch-worlds-biggest-trial-of-ai-breast-cancer-diagnosis

27-28 февраля участвуем в стратегической сессии; «Цифровая прокачка региона. Новосибирская область». Ключевая тема мероприятия - ПРИМЕНЕНИЕ AI В КЛЮЧЕВЫХ ОТРАСЛЯХ.

➡Коммерческий директор Webiomed Андрей Саликов выступит модератором круглого стола: "Здравоохранение+Социальная среда".

По итогам мероприятия будут разработаны проектные инициативы, которые станут частью программы развития ИИ в Новосибирской области и будут способствовать реализации национальных приоритетов по созданию благоприятной среды для внедрения и развития технологий искусственного интеллекта. https://digital-economy.timepad.ru/event/3246576/

Компания «Доктор на работе» опубликовала исследование про поведения врачей в интернете — Doctor Index®.В опросе были задействованы 103 специальности, 100% респондентов — верифицированные врачи.

Наиболее популярными электронными ресурсами врачи считают онлайн-конференции и профессиональные соцсети. Так ответили 67% опрошенных.

Кроме того, 56 % считают, что важно, чтобы материал по теме был подготовлен профильным специалистом или известным лидером мнения.

Врачи ставят на 1-е место из мессенджеров Telegram.

Более 30% опрошенных врачей уже используют в практике искусственный интеллект. Врачи считают, что самые полезные функции ИИ - это анализ медицинских данных и автоматизация рутинных задач.
Исследование здесь: https://client.doktornarabote.ru/doctor_index

Использование LLM для интерпретации ЭМК со стрельбой по воробьям из пушки сравнил директор по развитию платформы прогнозной аналитики Webiomed, эксперт по искусственному интеллекту ЦНИИОИЗ Минздрава России Александр Гусев, выступая в рамках конференции ИТМ ИИ. Он поделился опытом своей компании, на основании которого был сделан такой вывод.

“Наша команда разрабатывает платформу прогнозной аналитики WebioMed. Задача очень простая - анализ электронных медицинских карт с помощью технологии ИИ для того, чтобы выявлять пациентов высокого риска, пациентов с пропущенными заболеваниями. Оценку риска мы делаем для каждой нозологической группы отдельно, в том числе наркологических”, - рассказал Гусев.

В прошлом году компания получила от нескольких субъектов критику, которая сводилась к следующему: текущие на тот момент алгоритмы анализа и выявления пациентов высокого риска находили меньше таких пациентов, чем популяционно ожидалось. Возник вопрос: почему так?

Как оцениваются наркологические риски? Если пациент регулярно попадает в медорганизацию в состоянии алкогольного опьянения, или врач видит признаки, например, злоупотребления алкоголем, этого достаточно. Но извлечение этих признаков из ЭМК является довольно сложной технической задачей, заявил эксперт. Слова “злоупотребление алкоголем” крайне редко пишут в карте. Итог: на Ямале главный врач заглянула в свою ЭМК, нажала подсказку в СППВР и получила ответ, что у нее признаки злоупотребления алкоголем, хотя она ведет ЗОЖ.

Команда Webiomed тщательно проанализировала ситуацию, провела исследование и сделала вывод: нужно крайне аккуратно обращаться с LLM.

”Строго говоря, LLM не интерпретирует текст; она его генерирует. То есть эта модель учится не для того, чтобы все время повышать точность анализа. А для того, чтобы как можно лучше вас обманывать. Они будут создавать ответ так, чтобы вы не видели разницу между вашим ответом и ее ответом, а задача в медицине состоит не в этом”, - резюмировал Гусев.

По его словам, чтобы модель можно было потом применять в реальной клинической практике, нужно тщательно работать с настройками, настраивать температуру, управлять коридором контекста. И на это требуются часы, экспертные знания, что обходится недешево.

“LLM действительно перевернет нашу отрасль, но в ней много рисков. Так что мы для себя решили, что не надо из пушки стрелять по воробьям, и пока свернули тему, связанную с использованием LLM в интерпретации ЭМК”, - подытожил Гусев.