Для создания соответствующих ИИ-систем обязательным этапом является проведение машинного обучения, для которого нужны большие наборы данных.

Хотя ИИ-системы обучаются на обезличенных медицинских данных, тем не менее их сбор, подготовка и затем использование создают довольно серьезные риски, связанные с утечкой и раскрытием персональной информации.

Поэтому обеспечение надежных и доверенных мер обезличивания медицинских данных, исключающих какие-либо вероятности обратного их превращения из обезличенных в персональные данные – является крайне актуальной и очень непростой технической, организационной задачей.

Про важность надежной защиты данных и про подходы в обезличивании в нашем материале: https://webiomed.ru/blog/obezlichivanie-meditsinskikh-dannykh-vazhnost-i-podkhody/

Исследователи из Университета Пирея в Греции опубликовали исследование, где описываются многочисленные преимущества, которыми обладают ЭМК с интегрированным ИИ.

Изучив опубликованные данные, мы выделили 5 ключевых направлений для применения ИИ в медицинских картах.

https://webiomed.ru/blog/elektronnykh-medkart-s-ii/

6 февраля на площадке ИТМ ИИ пройдет тематический круглый стол, на котором выступит директор по развитию платформы прогнозной аналитики Webiomed, эксперт по искусственному интеллекту ЦНИИОИЗ Минздрава России Александр Владимирович Гусев. Он представит доклад «Практический опыт внедрения СППВР для анализа ЭМК на основе искусственного интеллекта в субъектах РФ. Эффективность».

В настоящее время платформа Webiomed используется в 41 субъекте. С системой поддержки принятия врачебных решений, являющейся основным прикладным продуктом платформы, работает свыше 50 тыс.

врачей. В докладе будет представлен обобщенный анализ реализованных командой Webiomed проектов. В частности, будет дано сравнение подключения к платформе по модели SaaS и установки в региональную инфраструктуру, сравнение режима интеграции с полным анализом ИЭМК и анализом только структурированных электронных медицинских документов (СЭМД). Разработчики платформы поделятся мнением относительно дальнейшего повышения эффективности применения технологий ИИ в практическом здравоохранении.

Сегодня на ИТМ ИИ состоялся круглый стол, на котором выступил директор по развитию Webiomed Александр Гусев.

В своем докладе Александр рассказал об опыте внедрения СППВР для анализа ЭМК на основе искусственного интеллекта в субъектах РФ, об оценке эффективности технологии, представил обобщенный анализ реализованных командой Webiomed проектов, поделился выводами исходя из опыта применения решения в регионах.

Полностью сессию "Внедрение ИИ и СППВР в систему оказания медицинской помощи субъектов РФ. Практические аспекты. Технологии. Эффективность. ч.1." можно посмотреть здесь: https://vkvideo.ru/video-25135276_456239077?t=40m4s

В 2024 году лидерами среди поставщиков систем помощи в принятии врачебных решений на основе ИИ в сфере госзакупок в России называли 3 компании. Это «К-Скай» ( разработчик платформы Webiomed), «Платформа Третье мнение» и «Медицинские скрининг системы» ( Цельс). https://pharmmedprom.ru/news/mediki-nazvali-10-napravlenii-gde-nuzhni-izdeliya-s-ii/

🤖 Тема искусственного интеллекта и современных специализированных нейросетей является номером один на сегодняшний день.

И я рад, что в Петрозаводске живут и работают люди, которые находятся на острие прогресса, и которые могут об этом рассказать понятным живым языком.

👉 Смотрите и слушайте новый подкаст про ИИ в сфере медицины от карельской компании «К-Скай» с директором по развитию платформы прогнозной аналитики Webiomed Александром Гусевым. Александр Владимирович является кандидатом технических наук, ведущим Российским экспертом по цифровому здравоохранению и ИИ в здравоохранении, а также автором более 200 научных публикаций.

Этот подкаст приурочен ко Дню российской науки и организован совместно с федеральным проектом «Цифровая Россия».

Ссылка на HD-версию подкаста в VK Видео

#деньнауки #моялюбимаянаука #цифроваяроссия
#цифроваякарелия

Делимся презентациями наших докладов на ИТМ_ИИ_2025:

Запись выступлений можно посмотреть в VK видео: https://vkvideo.ru/@webiomed?_ads_group_id=77859052

Записи трансляции ИТМ_ИИ_2025 здесь: https://vkvideo.ru/@itmportal/uploaded

Скотт Готтлиб (Scott Gottlieb), бывший директор FDA (2017-2019) опубликовал в JAMA Health Forum заметку, в которой предложил исключить системы поддержки принятия врачебных решений (clinical decision support, CDS), интегрированные в электронные медицинские карты и использующие технологии искусственного интеллекта, из критериев отнесения к программным медицинским изделиям (Software as a medical device, SaMD).

Рассуждая о текущем регуляторном подходе и его изначальном замысле, Готтлиб говорит о том, что отнесение СППВР к медизделиям создает риски, что разработчики систем ведения ЭМК либо будут обманывать регулятора, притворяясь что внутри ЭМК нет никакой аналитической обработки данных, либо действительно будут блокировать встраивание ИИ-помощников в свои решения. В результате риск, что врачи не получат доступ к ценной аналитике медицинских данных и пропустят опасного пациента – выше, чем риски ошибки ИИ-решения.

Готтлиб формирует следующее предложение: «Если ИИ-инструменты предназначены для предоставления врачам дополнительной клинической информации, но при этом не предоставляют из себя автономные ИИ-агенты для вынесения решения о постановке диагноза или назначении лечения, они не должны подвергаться предварительной регистрации в качестве мед.изделия. FDA должно разрешить разработчикам выходить такие решения на рынок, если они соответствуют требованиям FDA в отношении разработки и проверке безопасности. FDA, опираясь на данные реальной клинической практики в рамках пострегистрационного мониторинга, может убедится, что они действительно повышают качество принятия медицинских решений. Технологии ИИ обладают врожденной способностью синтезировать сложную информацию и предоставлять расширенную аналитику и рекомендации, которые без использования ИИ останутся незамеченными врачами. Эта способность сама по себе не должна классифицировать их как медицинские изделия». https://jamanetwork.com/journals/jama-health-forum/fullarticle/2830189

Группа из 117 ученых из 50 стран мира, получившая название «Консорциум FUTURE-AI» (the FUTURE-AI Consortium), опубликовала в BMJ руководство по надежному и применимому искусственному интеллекту в здравоохранении (FUTURE-AI: international consensus guideline for trustworthy and deployable artificial intelligence in healthcare), состоящее из шести принципов:

F. Справедливость (Fairness). ИИ должен одинаково эффективно работать для всех категорий граждан и исключать дискриминацию или предвзятость. Поскольку на практике достичь этого сложно, разработчики должны постоянно выявлять предубеждения в ИИ-системах и оперативно устранять их, сводить их к минимуму в максимально возможной степени.

U. Универсальность (Universality). Инструмент ИИ должен быть доступен для широкого распространения за пределами контролируемой среды, в которой он был создан, должен сохранять корректность работы при обработке данных новых пациентов или применении в новых, ранее неизвестных ему, условиях (новых клиниках, регионах и тд).

T. Прослеживаемость (Traceability). ИИ-система должна содержать встроенные механизмы документирования и мониторинга работы на всех этапах жизненного цикла. Должна быть обеспечена прозрачность и подотчетность за счет сбора подробной информации о работе алгоритмов ИИ.

U. Удобство использования (Usability). Принцип удобства использования гласит, что конечные пользователи должны иметь возможность использовать инструмент искусственного интеллекта для эффективного и безопасного достижения клинических целей в реальной практике. Разработчики должны постоянно трудиться над выявлением и устранением ошибок, над поиском более простых для пользователя сценариев применения технологий ИИ. ИИ-системы должны улучшать эффективность работы врача и приводить к улучшению результатов лечения с минимизацией риска причинения вреда.

R. Надежность (Robustness). ИИ-системы должны быть готовы к обработке ранее неизвестных данных и других аномалий и изменений, характерных реальной клинической практики. Даже если ИИ-система встретила такие данные, это не должно приводить к ошибкам в работе или неверным рекомендациям.

E. Объяснимость (Explainability). Модели машинного обучения должны создаваться так, чтобы конечный пользователь мог понимать – почему модель пришла к тому или иному выводы, а также иметь информацию об ограничениях и реальных возможностей моделей – чтобы решить, можно ли доверять ИИ-системе.

Руководство охватывает весь жизненный цикл ИИ, от проектирования и разработки до проверки и развертывания, обеспечивая соответствие реальным потребностям и этическим требованиям. https://www.bmj.com/content/388/bmj-2024-081554

В отчете Американской медицинской ассоциации (AMA) отмечается растущий энтузиазм и интерес врачей к использованию искусственного интеллекта (ИИ).

Исследование AMA также показало, что 35% врачей больше воодушевлены, чем обеспокоены использованием искусственного интеллекта в здравоохранении, а 25% считают обратное (по сравнению с 30% и 29%, соответственно, в отчете AMA годом ранее).

68% врачей заявили, что на их рабочих местах уже используется искусственный интеллект, по сравнению с 38 процентами в отчете за предыдущий год.

https://www.medscape.com/viewarticle/doctors-warm-ai-future-healthcare-ama-survey-finds-2025a10003zm?form=fpf

В журнале Infectious Diseases and Therapy вышла статья о потенциале применения больших языковых моделей (LLM) в части назначения антибиотиков.

Основные выводы исследователей:

Технологии действительно обладают большим потенциалом для улучшения лечения инфекционных заболеваний, однако назначение антибиотиков на основе рекомендаций -моделей является довольно сложной задачей для врача и сопряжено с высоким риском ошибки.

Есть огромная разница между использованием для помощи в научной работе и написании статей и назначением антибиотиков в реальной клинической практике, где есть прямой риск причинить вред здоровью пациента из-за галлюцинаций моделей -модели склонны постоянно менять свои рекомендации даже на одни и те же запросы и ситуации, что делает мониторинг их безопасности довольно сложной технической задачей и только усугубляет применение LLM как системы поддержки принятия врачебных решений.

Авторы делают заключение о том, что применение LLM в подборе антибиотиков и лечении инфекционных заболеваний следует вести с крайней осторожностью и с контролируемым подходом. Применение технологий LLM "под капотом" СППВР является по мнению ученых - довольно рискованной затеей.

https://link.springer.com/article/10.1007/s40121-025-01114-5

В преддверии 23 февраля поздравили наших коллег мужчин с наступающим праздником😃

Пусть ваша жизнь будет наполнена смелыми победами, а работа приносит только радость и удовлетворение!

Вы — настоящая опора нашей команды!

Венчурное инвестирование по своей сути сопряжено с высоким риском. Типичная модель венчурного фонда основана на степенном законе и требует, чтобы один или два крупных успеха окупали десятки неудач. Этот закон, несомненно проявит себя и в сфере искусственного интеллекта.

Суммарно в ИИ-компании в 2024 г. было вложено порядка 110 млрд. долл., что составило рекордные 33% от вообще всего венчурного инвестирования во что бы то ни было. Эта цифра включает в себя масштабные раунды финансирования в OpenAI (6,6 млрд. долл.) и в Databricks (10 млрд. долл.).

Аналитики иронично пишут что теперь 1й вопрос инвестора является не «Как я могу на этом заработать», а «Как этот проект использует ИИ?». И если ответ «нет» - то похоже такой проект сразу и безоговорочно проигрывает любым другим предложениям «с ИИ».Основатели стартапов знают, что ИИ сейчас в моде, и находят способы внедрить его в свои продукты... независимо от того, какой была их первоначальная идея продукта.

https://sherwood.news/tech/ai-is-eating-the-startup-world/

Российский национальный исследовательский медицинский университет им. Н.И. Пирогова Минздрава России и компания «К-Скай», разработчик платформы прогнозной аналитики Webiomed, приступили к проведению совместной научно-исследовательской работы, направленной на создание новых продуктов и сервисов в области ИИ в медицине. Об этом на площадке ИТМ ИИ рассказала главный внештатный специалист Минздрава РФ по информационным системам в здравоохранении, руководитель Института цифровой трансформации медицины (ИЦТМ) Татьяна Зарубина.

Базой для совместных продуктов станет «Унифицированная национальная медицинская номенклатура» (УНМН), созданная Институтом цифровой трансформации медицины. Это онтологическая база данных, включающая сведения из отечественных и переведенных на русский язык метатезаурусов (около 4,5 млн. медицинских терминов из более чем 100 различных справочников), работа над которой стартовала три года назад.

“Началась совместная работа с фирмами, которые занимаются внедрением в стране разных систем, в том числе систем поддержки принятия врачебных решений. Мы это очень приветствуем, - прокомментировала Татьяна Васильевна. - С Webiomed мы работаем над рядом компонентов для СППВР, включая получение врачом контекстно-зависимых справок по выполнению требований клинических рекомендаций”.

По словам Зарубиной, в перспективе самой главной задачей является разработка одноплатформенных систем поддержки принятия врачебных решений.