Колледж руководителей управления информацией в здравоохранении (the College of Healthcare Information Management Executives, CHIME) провел опрос 5 тыс. своих членов, работающих в системах здравоохранения 60 стран мира, о том какими правилами следует руководствоваться при внедрении технологий искусственного интеллекта.

Проанализировав мнения участников, были сформулированы следующие руководящие принципы:

✅Безопасность пациентов прежде всего. Использование ИИ в медицинских учреждениях требует дополнительного уровня знаний и внимания, поскольку на карту поставлены результаты лечения и жизни пациентов.

✅Приоритет – эффективности управления отраслью. Внедрение ИИ в клинические процессы требует больше времени и консерватизма.

✅Внедрение ИИ в административные процессы более перспективно – это можно сделать быстрее, с меньшим риском и большим эффектом.

✅Обязательный усиленный надзор за ИИ. По мере внедрения ИИ обостряются проблемы ответственности за возможные ошибки или дополнительный риск пациентам.

✅Научные исследования и публикации. Технологии ИИ развиваются очень быстро, а вот доказательств их клинической эффективности и безопасности недостаточно. Нужны публикации в рецензируемой научной литературе для формирования общепринятого понимания и согласованности относительно ИИ в медицине.

✅Устранение неравенства и предвзятости ИИ. Обучение и тестирование ИИ на качественных репрезентативных наборах данных должно быть непрерывным процессом.

✅Поддержка медицинских организаций. Не все клиники имеют достаточно ресурсов и компетенций для выбора и внедрения ИИ. Нужны усилия по их поддержке.

✅Конфиденциальность. Необходимо обратить внимание на риски ре-идентификации пациентов из обезличенных наборов данных, используемых для обучения и работы ИИ.

✅Кибербезопасность. Компании, собирающие данные для обучения и работы ИИ, должны быть вовлечены в ответственность в случае утечек или компрометации данных. Не только операторы медицинских данных должны быть озабочены и отвечать за информационную безопасность.

✅Развитие высокоскоростного доступа в сеть. Не везде каналы связи позволяют применять ИИ. Необходимо преодоление этого барьера, иначе возможности ИИ будут не использованы в полной мере.

✅Образование и кадры. Здравоохранение является лидирующей отраслью с точки зрения ИИ. В этой связи ей требуется постоянные усилия по подготовке профессиональных кадров и улучшению компетенций. Необходима поддержка компаний-разработчиков в части доступности профессионально подготовленных кадров.https://aiin.healthcare/topics/artificial-intelligence/10-aspects-healthcare-ai-which-attention-must-be-paid

Самые перспективные российские ИИ-компании по итогам анализа за несколько лет

Сравнение компаний по прозрачной системе критериев позволило выявить лидеров с точки зрения инвестиционной привлекательности.

Ими стали:
🟢Webiomed
🟢Цельс
🟢Платформа Третье Мнение.

Российские реалии сильно отличаются от западных тенденций, рынок развивается неровно, однако очевидно у продуктов, построенных на языковых моделях, есть большая перспектива.

👉🏻 Читайте подробнее о лидерах и аутсайдерах этого сегмента цифровой медицины в статье
https://evercare.ru/news/reyting-startapov-iskusstvennogo-intellekta-v-2024-godu

FDA вплотную приблизилось к отметке в 1 тыс. медицинских изделий с технологиями ИИ, одобренными для выпуска на рынок. Впервые такое решение было одобрено в 1996 г. Разработка и выпуск на рынок ИИ-систем шли медленно: за первые 20 лет на рынок было выпущено только 33 продукта. Экспоненциальный рост регистраций пришелся на 2016 г. с начиная с этого времени динамика выпуска только увеличивается. За 1ю половину 2024 г. на рынок было выпущено уже 107 ИИ-решений.

➡️ Радиология является безусловным лидером по регистрируемым медицинским изделиям с ИИ. На эту сферу приходится 76% всех выпущенных продуктов (723 решения). На втором месте находится кардиология (154 решений или 16%). На третьем – неврология (34 решения или 3,5%). Все остальные медицинские специальности и направления применения составляют порядка 10%.

➡️ На основании международных рекомендаций IMDRF, регистрации в качестве медицинских изделий подлежат только те ИИ-системы, которые предназначенные для применения медицинскими работниками и только при оказании медицинской помощи. Все остальные решения, включая ИИ для пациентов или решения административных задач, не подлежат независимым клиническим испытаниям и одобрению регулятора. В настоящее время насчитываются тысячи таких продуктов и их сегмент также очень активно растет и развивается.

➡️Трендом последнего времени является ужесточение политики FDA в части ИИ-решений.. В этой связи в апреле 2023 г. FDA выпустило проект руководства по представлению маркетинговых материалов для предопределенного плана контроля изменений медизделий с ИИ (Marketing Submission Recommendations for a Predetermined Change Control Plan for Artificial Intelligence/Machine Learning (AI/ML)-Enabled Device Software Functions).

➡️ В октябре 2023 г. FDA представило документ «Предопределенные планы контроля изменений для медицинских изделий с поддержкой машинного обучения: руководящие принципы» (Predetermined Change Control Plans for Machine Learning-Enabled Medical Devices: Guiding Principles). В этом регулятор определил критерии для пациентских приложений, в соответствии с которым может потребоваться надзор и предпродажную проверку (аналог нашей государственной регистрации).https://healthexec.com/topics/artificial-intelligence/fda-track-clear-1000-clinical-ai-algorithms-end-year

5 сентября на STARTUP VILLAGE 2024 , в формате паблик-тока (неформального интервью со спикерами) состоится дискуссия: "Здоровый искусственный интеллект. Новые горизонты и возможности развития".

Время: с 13.40 до 14.20

Модератор:
Камила Зарубина, управляющий директор, Центр биологических и медицинских технологий, Фонд «Сколково»

Спикеры:

✔️Антон Владзимирский, заместитель директора, ГБУЗ НКПЦ диагностики и телемедицины ДЗМ

✔️Вильгельм Вольман, руководитель отдела развития, Айра Лабс

✔️ Александр Гусев, директор по развитию Webiomed

Эксперты ответят на эти и другие вопросы: Какой эффект от внедрения систем ИИ возможен для разных акторов медицинской сферы? Какие задачи сегодня решает искусственный интеллект в отрасли? Как дешевле: с ИИ или без него? Возможно ли сформировать абсолютное доверие к новым ИИ-технологиям в медицинской отрасли?

регистрация на конференцию здесь: https://startupvillage.events.sk.ru/

Добавили в Webiomed новый сервис – Центр управления участком

➡️ Сервис позволяет контролировать эффективность работы участковой службы, включая достижение показателей по диспансерному наблюдению, пациентам высокого риска развития хронических неинфекционных заболеваний, числу пациентов с факторами риска и т.д.

➡️ Врач-терапевт может просмотреть список прикрепленных пациентов и проанализированных платформой, расчетные индексы полноты обследования качества электронной карты, зарегистрированные заболевания, риски, выявленные факторы риска, уровни внимания, диспансерного наблюдения.

➡️ По каждому участку медицинской организации, формируется отдельный дашборд, который обновляется автоматически

подробнее на нашем сайте: https://webiomed.ru/novosti/novyi-servis-tsentr-upravleniia-uchastkom/?utm_source=telegram&utm_medium=social&utm_campaign=webiomed

В Сколково, в рамках традиционного форума Startup Village эксперты обсудили настоящее и будущее искусственного интеллекта в медицине. В дискуссии принял участие Директор по развитию Webiomed Александр Гусев.

Участники дискуссии «Готовность Чувашии к старту национального проекта по цифровой трансформации – единая электронная медицина» обсудили применение цифровых сервисов для пациентов, в том числе для дистанционного мониторинга здоровья пациентов с социально-значимыми хроническими неинфекционными заболеваниями.

➡️ Коммерческий директор Webiomed Андрей Саликов рассказал об опыте внедрения искусственного интеллекта в региональное здравоохранение. Платформа Webiomed благодаря ИИ анализирует обезличенные электронные медицинские карты, формирует цифровой профиль, выявляет риски по возможным заболеваниям и создает персональные рекомендации, поддерживая принятие врачебных и управленческих решений. В данный проект уже включились 34 региона, включая Чувашию. А это 2,5 тысячи больниц и 50 тысяч медицинских работников.

➡️ Благодаря работе платформы, медработники смогли выявить новые клинические данные у 63% пациентов. Однако внедрение технологий ИИ требует качественных медицинских данный в электронной медицинской карте, а также постоянной доработки и обучения. Об этом ни в коем случае нельзя забывать. Также результаты анализа данных Webiomed требуют переосмысления нормативных требований и порядков клинических рекомендаций. https://www.med.cap.ru/press/2024/9/9/pri-praviljnoj-postanovke-zadachi-iskusstvennij-in2

Яндекс продаёт направление телемедицины, которое работает под брендом Яндекс Здоровье и помогает проводить онлайн-консультации с врачами, передает пресс-служба компании Яндекс. Развивать направление продолжит компания Genotek, специализирующаяся на генетических исследованиях и персонализированной медицине.

На рынке телемедицины, если говорить об общемировых тенденциях, наблюдается рост числа закрытий таких сервисов, говорит директор по развитию платформы Webiomed Александр Гусев. По его словам, финансовая модель этих сервисов фактически не предусматривает выход на безубыточность: "Они способны работать только в условиях притока "легких денег" от венчурных инвесторов".
https://www.kommersant.ru/doc/7159680

V ежегодная научно-практическая конференция с международным участием «Реальная клиническая практика. Возможное и реальное» пройдет в гибридном формате 19 сентября 2024 года в Москве

Директор по развитию Webiomed Александр Гусев примет участие в сессии : "Цифровая трансформация в медицинских исследованиях: возможности Data Science, ИИ и инженерные подходы в RWE" ( время проведения: 15:25-17:00). https://rutube.ru/video/ca81d8313c64ec6b2da8fc7ff1e33530/?t=0

Эксперты обсудят:

🔹Возможности сбора и обработки медицинских данных , в том числе для RWD/RWE

🔹Медицинские данные и ИИ: возможны ли "безопасные" отношения?

🔹Международные подходы в области обеспечения доступа к данным о здоровье и возможности для их адаптации в России;

🔹Оценка качества электронных медкарт как источника RWD;

🔹Является ли genAI триггером для очередного когнитивного перехода?

🔹Контроль аномалий данных в RWE|RWD-исследованиях

Подробнее о мероприятии и программа здесь: https://aston-health.com/rwd-rwe/

📌 В случае – если врачи не будут перепроверять ответы ИИ, в 7% консультаций возникает риск причинения серьезного вреда здоровью пациентов

В The New Your Times вышел материал журналистского расследования о ситуации вокруг приложения MyChart ( разработчик Epic). Это приложение/ специализированный мессенджер , который используется повсеместно в США для общения пациентов с их лечащими врачами.

В 2023 г. разработчик MyChat встроил в него ИИ-агента, который просматривал вопрос пациента, анализировал его прошлые обращения, а также записи из электронной медицинской карты, автоматически готовил ответ и выводил его на экран врачу, который должен был вначале проверить предложенный ИИ текст и только потом подтвердить его отправку. Более того, ИИ система могла искусственно созданной имитацией голоса врача прочитать сообщение пациенту.

Для работы ИИ использовался большая генеративная модель GPT-4. Около 15 тыс. врачей из более чем 150 медицинских центров стали использовать новую функцию.

➡️ В итоге выяснилось, что довольно часто врачи перестали проверять ответы ИИ и просто «на автомате» отправляли созданные сообщения своим пациентам. Те же в свою очередь, не имея специальных отметок о том – был ли ответ врача создан действительно им или это ответ ИИ, даже не подозревали – что на самом деле рекомендации даны не настоящим врачом и даже не проверены им, хотя текст был написан настолько хорошим языком, что отличить его от настоящей врачебной записи было просто невозможно.

➡️ В ходе специального тестирования обнаружилось, что из 116 подготовленных ИИ ответов – 7 содержали ошибки и неправильные советы. https://www.nytimes.com/2024/09/24/health/ai-patient-messages-mychart.html

Пострегистрационный мониторинг медицинских изделий с технологиями искусственного интеллекта является обязательной и важной мерой обеспечения доверия к ИИ-решениям, также служит целям контроля их безопасности.

Однако регуляторика в этой сфере довольно сложная и, кроме этого, она в последнее время пересматривается и уточняется. Поэтому мы решили систематизировать текущую систему пострегистрационного мониторинга медизделий с ИИ и рассказать об этом читателям нашего блога.

Все что нужно знать про пострегистрационный мониторинг мед. изделии с ИИ здесь:➡️ https://webiomed.ru/blog/monitoring-bezopasnosti-meditsinskikh-izdelii-ii/