Искусство принимать решения. Об ИИ в медицине ― член-корреспондент РАН Валерия Грибова

Какими качествами естественного интеллекта должен обладать искусственный интеллект в медицине? Как происходит пополнение базы знаний и какие проблемы мешают внедрению ИИ в медицинскую практику? Об этом наш разговор с Валерией Викторовной Грибовой ― членом-корреспондентом РАН, доктором технических наук, заместителем директора по научной работе Института автоматики и процессов управления Дальневосточного отделения РАН.

― Для чего в первую очередь нужен искусственный интеллект в медицине?

― Мы рассматриваем его прежде всего как систему поддержки принятия врачебных решений ― не заменяющую врача, но помогающую ему сделать правильный выбор. Дело в том, что для принятия решений любому врачу необходимо учитывать огромное количество факторов: анамнез больного и его жалоб, возможные противопоказания к лечению, совместимость лекарственных препаратов и т.д. Человеческому мозгу объективно трудно справиться с таким объемом информации, и ошибки здесь неизбежны..

Искусственный интеллект в медицине ― это не замена врача, а его помощник, если хотите, интеллектуальный ассистент.

― Человек обладает такими способностями, как интеграция знаний, рефлексия, обучение и др. Какие из них в первую очередь необходимы для такого ассистента?

― Любая система ИИ имитирует способности естественного интеллекта: в основном те самые способности, которые вы перечислили; это в том числе умение рассуждать по аналогии, делать выводы на основе знаний, умение обучаться, аргументировать и объяснять свои решения и т.д. И, конечно, когда мы говорим о практической медицине, все эти способности естественного интеллекта должны быть присущи и системе искусственного интеллекта, чтобы наиболее полно и хорошо помогать врачу при принятии решений.

― Можно ли создать систему, интуитивно понятную любому врачу, или для работы с ИИ нужно проходить специальное обучение?

― В клинической практике уже существуют медицинские информационные системы, куда врачи вносят всю информацию о пациентах. Если системы поддержки принятия врачебных решений, основанные на ИИ, будут интегрированы с такими медицинскими информационными системами, то от врача, по сути, ничего особенного не потребуется. Процесс может выглядеть примерно так: врач в своем стандартном режиме вводит информацию в систему, которая далее выдает подсказки и советы; руководствуясь ими, врач принимает решение. При этом очень важно, чтобы такие системы могли обосновать то или иное свое решение, ведь ответственность за него в любом случае лежит на враче.

Система должна детально объяснять, почему был поставлен тот или иной диагноз, выбрано то или иное лечение.

― Тогда для такой системы принятия врачебных решений должны быть утверждены какая-то единая терминология, единые описательные стандарты?

― Да, конечно. Терминология составляет основу однозначной интерпретации всех наблюдений и назначений, поэтому медицинские справочники, безусловно, должны создаваться. За рубежом существуют различные медицинские терминологические справочники, которыми врачи пользуются в своей профессиональной деятельности. К сожалению, в России таких полноценных справочников нет, но процесс их разработки для различных разделов медицины уже начат. Мы ожидаем, что в конечном итоге такие полноценные справочники будут активно использоваться в медицинской практике. Действительно, все начинается с терминологии, а далее, используя ее, мы формируем базы знаний и данных, которые будут однозначно интерпретироваться всем медицинским сообществом. Это только вопрос времени.

― Программы ИИ, которые планируется внедрять в нашу медицинскую систему, должны быть самообучающимися? Как происходит пополнение базы знаний в такой программе?

― Все системы ИИ можно разделить на два больших класса. Системы, использующие большие данные, или так называемые дата-сеты, на текущий момент уже внедрены в медицинскую практику и используются для анализа медицинских изображений, благодаря чему удается установить, что перед нами: ковид, опухоль и т.д. Если же дело касается клинических данных, то есть жалоб, анамнеза, то здесь обучаться на имеющихся данных пока очень сложно. Данные, о которых я говорю, ― это истории болезней, и они действительно имеют очень низкое качество, и поэтому результат такого обучения будет достаточно слабым. Есть и другие подходы к созданию системы ИИ, основанной на знаниях. Первый ― когда правки в систему вносят эксперты, имеющие большой авторитет и уникальные знания.

Внося свои знания в систему, эксперт таким образом фактически тиражирует их, и это очень здорово. Кстати, если раньше врачи не столь охотно масштабировали свои знания, то сегодня ситуация изменилась и специалисты  все чаще делятся своим опытом.

Нередко врачи сами выходят на нас с предложением внести свои знания в систему. Еще один способ пополнения базы знаний ― клинические рекомендации, когда мы можем на основе анализа текстов создавать формализованные базы знаний, но и в этом случае требуется уровень эксперта, который мог бы уточнить эти знания.  Третий вариант пополнения базы знаний ― формирование знаний на основе обучающих выборов: так называемое индуктивное обобщение данных. Когда мы индуктивно обобщаем данные на основе обучающей выборки, то можем увидеть какие-то новые интересные и ранее неизвестные зависимости. Поэтому когда мы говорим о системах на основе базах знаний, то фактически используем три перечисленных выше подхода к их созданию, ключевой из которых, конечно, ― экспертное формирование при сопровождении базы знаний.

― Одна из основных функций ИИ в медицине ― это построение гипотез. Расскажите, пожалуйста, об этом подробнее.

― Да. Когда пациент приходит к врачу с несколькими жалобами, часто возникает вопрос: к какому разделу медицины относятся эти жалобы? Лежат ли они в компетенции эндокринолога, онколога или другого специалиста? Проанализировав эти жалобы, собрав информацию о больном, система искусственного интеллекта подскажет, о чем еще необходимо спросить у пациента, какие дополнительные лабораторные или инструментальные исследования провести, чтобы за меньшее число шагов поставить или, наоборот, опровергнуть диагноз, возникший из огромного множества гипотез. Чем меньше информации о больном мы имеем, тем большее количество гипотез получается на выходе, и задача врача заключается в том, чтобы при помощи ИИ сначала построить множество гипотез, а затем отобрать из них самые подходящие. На каждом интеллектуальном шаге работы врача система ИИ должна помочь ему принимать правильные решения и меньше ошибаться.

― Давайте поговорим об орфанных заболеваниях. Одиссея пациентов с редкими заболеваниями к своему истинному диагнозу представляет собой сложную извилистую дорогу, занимающую не менее шести-семи лет от начала жалоб. Искусственный интеллект как-то может быть полезен в решении этой проблемы?

― Диагностикой орфанных заболеваний мы занимаемся вместе с коллегами из Москвы под руководством профессора Б.А. Кобринского. Вы совершенно правильно сказали, что их диагностика очень сложна, ведь у врачей зачастую просто нет достаточного опыта встреч с такими заболеваниями ввиду их редкости. Получается, что обучаться здесь практически не на чем ― обучающих выборок попросту нет. Поэтому мы используем знания из медицинской литературы и рассуждения по аналогии (по прецедентам): когда нет достоверных знаний, но есть некие похожие случаи, для которых доказан такой диагноз. Мы можем найти похожую историю болезни, похожий случай, чтобы хоть как-то помочь врачу принять правильное решение.

― Валерия Викторовна, расскажите напоследок о том, как вы пришли в профессию?

― Не могу сказать, что с детства мечтала заниматься искусственным интеллектом. Я хотела программировать, мне это очень нравилось. Когда я по окончании Ленинградского политехнического института по специальности «прикладная математика» пришла работать в Институт автоматики и процессов управления ДВО РАН, меня определили в коллектив, который занимался ИИ. На тот момент я очень мало знала об этом направлении, но в процессе работы очень увлеклась им. Это буквально захватило меня. Я поняла, как это интересно, сложно, что за этим стоит будущее. В те годы это направление совсем не было популярным, зато сегодня об ИИ, пожалуй, не слышал только ленивый. Я рада, что наконец пришло время, когда все понимают важность и востребованность искусственного интеллекта. Занимаясь им, ты вынужден погружаться в разные области знаний, будь то медицина, робототехника, сельское хозяйство, производство и т.д., ― все это очень интересно. Таким образом ты вникаешь, пытаешься разобраться в каждой предметной области. И когда ты видишь, как система ИИ оживает, показывая очень нетривиальные результаты, это дает силы и энергию двигаться дальше.

Фотографии В.В. Грибовой в материале: из архива «Научной России».