Применение искусственного интеллекта (ИИ) в медицине – очень перспективно, с этим никто не спорит. Но его внедрение в эту сферу происходит непросто. Впервые в Парке науки ННГУ состоялся юридический лекторий, где обсуждалась тема «Искусственный интеллект и медицина: правовые риски». Своими соображениями по этому поводу поделилась  и.о. декана юридического факультета Университета Лобачевского, кандидат юридических наук, доцент Евгения Черных. 

Алгоритм или разум 

Искусственный интеллект – это одно из инновационных направлений в медицине. Но четкого законодательного определения, что это такое, пока нет. Если ИИ – это программное обеспечение, оно должно принимать решение не по заданному алгоритму, а уметь самообучаться, накапливать данные, чтобы решения с каждым разом принимались все более точные, рассуждает Евгения Черных.

Впервые о понятии ИИ заговорили в 80-е годы прошлого века. Американские ученые определили его, как область информатики, которая занимается разработкой интеллектуальных компьютерных систем, обладающих возможностями, которые мы традиционно связываем с человеческим разумом – это  понимание языка, обучение, способность рассуждать, решать проблемы и так далее.

На основе этого определения в мире строились правовые нормы. Законодательно в нашей стране закреплено, что «ИИ – комплекс  технологических решений, позволяющих имитировать когнетивные функции человека, включая самообучение и поиск решений без заранее заданного алгоритма». Этот алгоритм «придумывает» сам ИИ на основании имеющихся целей и задач. Результаты у ИИ должны быть сопоставимые как минимум с плодами интеллектуальной деятельности человека. 

Есть три уровня ИИ: высший, средний и первичный. Первоначальный уровень, это, когда программная цель задается самим человеком. 

Можно доверить диагностику

Внедрение ИИ в медицину отразится на всех. В каких областях можно его применять? 

Во-первых, он может использоваться для анализа изображений (УЗИ, КТ, МРТ), обобщения результатов анализов. В будущем программы ИИ будут ставить диагнозы. Пока машине это удается делать на уровне врача-троечника – люди пока умнее машин. 

Во-вторых, сегодня ИИ применяют для поддержания решений, принятых врачом, в приложениях для онлайн-консультаций (что сегодня распространено), для удаленного мониторинга и помощи пациентам. 

С помощью ИИ пациент получает возможность самостоятельного контроля за состоянием своего здоровья, медперсонал может опереться на него при  постановке диагноза. 

Кроме того, ИИ целесообразно использовать для решения административных вопросов руководством медорганизаций.  Например, программное обеспечение может отслеживать состояние больных, которые лечатся дома. Больной ежедневно описывает свое состояние, информация анализируется ИИ, а в случае, если больному стало хуже, больница получает сигнал о необходимости госпитализации этого человека. Подобная технология может заметно разгружать работу врачей, что очень актуально во время пандемии. 

Есть специальная медицинская техника, работающая на принципах ИИ. Например,   АlveCor – аппарат для самостоятельного снятия ЭКГ с функцией расшифровки, Sense.Iy – приложение, которое помогает отслеживать состояние здоровья. Mendel.ai – приложение для онкобольных. Оно предоставляет возможность узнать о вариантах лечения, и где его можно получить. В России им пользуются для подбора зарубежных клиник  для лечения детей. За рубежом применяется программное обеспечение MedyMatch. Медики скорой «вбивают» данные диагностики пациента, а ИИ выдает решение, какие препараты ввести больному пока его транспортируют в больницу. 

Угрозы и риски 

Сегодня законодательных актов, посвященных регламентации использования ИИ, практически нет. Есть Указ президента от 2019 года «О развитии искусственного интеллекта в РФ», в котором говорится, что ИИ может, в том числе, использоваться в медицине. Эта же мысль отражена в национальном проекте «Здравоохранение». 

Также есть несколько законных актов правительства, в том числе  распоряжение 

№ 2129-р от 19.08.2020 об утверждении «Концепции регулирования искусственного интеллекта и робототехники до 2024 года» и ГОСТ Р 59276-2020 «Системы искусственного интеллекта. Способы обеспечения доверия. Общие положения».   

Отсутствие четкого юридического определения что такое ИИ, ведет к непониманию сущности этого явления и у медицинской организации в лице конкретных врачей, и у контролирующих органов. Проблема гражданско-правового статуса ИИ также не решена. Непонятно, кто субъект, кто объект правоотношений, и это не способствует коммуникативному взаимодействию в праве. Кто в случае ошибки применения ИИ должен нести ответственность за причиненный вред?

В случае уравнивания естественного и искусственного интеллектов непонятно, за кем должно быть последнее слово – за врачом или за алгоритмом. 

Социологический опрос Академии юстиции показал, что только в 30 процентах случаев пациенты доверяют ИИ в постановке диагноза, а назначенным алгоритмом лечением готовы воспользоваться только 15 процентов опрошенных.  

Медики на данный момент доверяют ИИ еще меньше, все решения, выданные алгоритмом, обязательно перепроверяются. Врачи пока лишь  говорят о перспективах  использования ИИ для обобщения данных конкретного пациента. Ведь только полная информация о нем  помогает принимать более верные решения.  

Как считает эксперт, в медицинской среде и обществе присутствует инновационный и технологический нигилизм. У медиков применение ИИ вызывает протест из-за необходимости дополнительных перепроверок диагнозов, поставленных алгоритмом. 

Чтобы ИИ вызвал больше доверия и применялся более активно, нужно накапливать опыт положительных практических результатов его применения.   

Зарубежный опыт показывает, что не менее важно отслеживать отрицательный опыт использования ИИ. 

Главная угроза применения ИИ – вмешательство третьих лиц. Широко нашумевший случай произошел в США, когда пациенту, находящемуся в коме, подачу необходимого препарата регулировал ИИ, но вследствие перепрограммирования больной получил не то лекарство, и скончался. Также в числе угроз – киберпреступность, угрозы, связанные с утечкой персональных данных о здоровье пациента. 

Цитата 

«Искусственный интеллект – это будущее не только России, это будущее всего человечества. Здесь колоссальные возможности и трудно прогнозируемые сегодня угрозы. Тот, кто станет лидером в этой сфере, будут властелином мира».  Владимир Путин. 

Между тем 

Нижегородская область вошла в ТОП-10 регионов России по количеству онлайн-консультаций с врачами. В 2021 году жители нашего региона  в 4,7 раза чаще обращались к врачам удаленно, чем годом ранее. Общее число таких консультаций через медицинский онлайн-сервис СберЗдоровье в прошлом году превысило 13 тысяч. Чаще всего пользователи СберЗдоровья в 2021 году обращались онлайн к терапевту и педиатру. Это обусловлено тем, что при возникновении базовых вопросов о здоровье к этим врачам пациенты обращаются в первую очередь. Телемедицина в этом случае позволяет получить консультацию в течение нескольких минут с момента возникновения вопроса, в отличие от планирования визита в клинику. Среди узкоспециализированных врачей наибольшей популярностью пользовались гинекологи, дерматологи и неврологи. 

В тему

Нижегородская область уже в течение нескольких лет проводит планомерную политику по поддержке и развитию IT-бизнеса в регионе. 

Еще в 2020 году были приняты меры правительственной поддержки для IT-компаний, в том числе льготная система налогообложения. В регионе развернуты инструменты консультационной поддержки для получения грантов и субсидий на разработку и внедрение отечественных ИТ и ИИ-решений, ведется работа по усилению образовательных программ в IT-сфере и привлечению IT-компаний к процессу подготовки кадров для цифровой экономики. В 2021 году Нижний Новгород стал одним из восьми городов России, где появится IT-кампус «НЕЙМАРК».  Планируется, что к 2025 году он будет интегрирован в территорию квартала высоких технологий-1221 в историческом центре Нижнего Новгорода. 

2 марта президент РФ Владимир Путин подписал указ о мерах по обеспечению ускоренного развития отрасли информационных технологий в России. 

– Этот указ сегодня является своевременной и крайне необходимой мерой для предотвращения негативных явлений в отечественной IT-индустрии. Однако мы продолжаем оперативные консультации с представителями региональных компаний в сфере цифровой экономики для подготовки пакета предложений по дополнительной поддержке бизнеса, – отметил Евгений Федосеев, директор Центра ИИ «Горький».

Александра Махлина. Фото Александра Воложанина.