Представляет ли искусственный интеллект (ИИ) возможность или угрозу для будущего медицины, какой мы ее знаем?

За последние пару десятилетий искусственный интеллект (ИИ), который можно было увидеть в научной фантастике, теперь можно найти практически во всех областях человеческой деятельности. ИИ отвечает за построение маршрута домой, предложенного вашим смартфоном, предлагая следующую песню для прослушивания и следующую рекламу для показа вам. ИИ уже улучшает уход за пациентами и снижает нагрузку на врачей. Определение ИИ постоянно меняется, потому что область компьютерных наук постоянно развивается. Теорема Теслера часто цитируется как «ИИ — это то, что еще не сделано». Программное обеспечение для цифровой диктовки [процесс, при котором компьютер «слушает» пользователя и преобразует его в текст] стало настолько рутинной технологией, что его часто не считают ИИ. Популярность нового термина машинного обучения выросла для описания процесса, в котором машина учится выполнять конкретную задачу, применяя алгоритмы к выборочным данным. Одним из наиболее многообещающих типов машинного обучения для медицинских областей является обучение с учителем, которое использует такие алгоритмы, как деревья решений, нейронные сети и машины опорных векторов, и применяет их к историческим размеченным данным для прогнозирования будущих событий. Вы уже будете использовать их, но, вероятно, не осознавая этого.

Изучение деревьев решений, особенно деревьев регрессии, знакомо большинству практикующих врачей. Примером дерева регрессии, выполненного врачом, может быть оценка CHA2DS2-VASc [doi: 10,1378/груди.09–1584]. Это инструмент клинического прогнозирования для оценки годового риска тромботического инсульта у пациентов с неревматической фибрилляцией предсердий и выявления лиц с низким риском, которым не требуется антитромботическая терапия. При наличии достаточно удобной электронной карты пациента CHA2DS2-VASc может быть рассчитан автоматически, а врачу может быть выведена подсказка с рекомендациями относительно соответствующего курса действий. Другим примером может служить инструмент клинического прогнозирования CURB-65 [doi: 10.1136/thorax.58.3.377]. CURB-65 утвержден для прогнозирования смертности от пневмонии, и это дерево регрессии, которому мы, врачи, следуем. CURB-65 использует физиологические переменные (возраст, частоту дыхания и т. д.) для расчета прогнозируемой смертности и помогает врачам определить, каких пациентов можно лечить амбулаторно, а каких пациентов выиграет госпитализация. Если бы компьютер мог «увидеть» консолидацию на рентгенограмме грудной клетки, то CURB-65 целиком мог бы быть выполнен компьютером.

Сверточные нейронные сети (CNN) стали отраслевым стандартом для распознавания визуальных объектов. Каждый уровень сети будет фокусироваться на отдельной части изображения и проводить оценку этой части, при этом прогрессивные слои обнаруживают все более мелкие элементы. Плотные CNN соединяют эти слои одновременно, чтобы предоставить агрегированное мнение о том, что показывает изображение — сродни обсуждению случая на собрании междисциплинарной команды. ChexNet (https://arxiv.org/pdf/1711.05225.pdf) представляет собой плотную CNN, которая принимает входные данные в виде рентгеновского изображения грудной клетки и выводит вероятность наличия пневмонии и наиболее вероятное местонахождение пневмонии. и другие патологии, обычно диагностируемые при рентгенографии органов грудной клетки. Когда ChexNet конкурировала с практикующими рентгенологами, ChexNet демонстрировала статистически значимый уровень точности, которого не хватало радиологам. Тем не менее, можно утверждать, что это было несправедливое сравнение, никакой клинической информации не было предоставлено ни ChexNet, ни рентгенологам, и, как мы все знаем, рекомендуется клиническая корреляция.

Алгоритмы машины опорных векторов (SVM) (www.robots.ox.ac.uk/~cvrg/bennett00duality.pdf) могут быть типом машинного обучения, наиболее далеким от любой врачебной практики. Алгоритмы SVM обучены разделению очень похожих точек данных с предположением, что возможность разделения очень похожих точек данных также делает алгоритм эффективным при разделении очень непохожих точек данных. Алгоритмы SVM полезны, когда большие наборы данных требуют разделения на отдельные подгруппы. Генетическое секвенирование цитологических образцов дает огромное количество данных, которые часто слишком обширны, слишком разнородны и слишком зашумлены, чтобы человек мог их просеять. Алгоритмы SVM показывают большие перспективы в геномике рака (doi: 10.2187/cgp.20063). Алгоритмы SVM используются для подтипирования рака, такого как лейкемия, прогнозирования резистентности к раку молочной железы и идентификации белков-мишеней для лекарств при всех типах рака.

Мы уже используем ИИ в медицине — это уже не научная фантастика, это научный факт. Однако мы не должны бояться, что наши рабочие места будут заменены, у нас нет реальной жизни, эквивалентной трикодеру из «Звездного пути», и мы также далеки от алгоритма ИИ, который мог бы конкурировать с алгоритмом экстренной медицинской голограммы из «Звездного пути: Вояджер». Будут ли пациенты довольны консультацией с компьютером, еще неизвестно. Сфера применения ИИ будет только расширяться, и наша роль как врачей заключается в том, чтобы он продолжал улучшать жизнь наших пациентов и качество оказываемой нами помощи. Мы должны гарантировать, что потенциальные опасности ИИ сведены к минимуму.

Одна из опасностей, связанных с ИИ, заключается не в выполняемых задачах, а в том, как мы создаем инструменты ИИ, которые используем. Партнерство между Google DeepMind и фондом Royal Free London NHS Foundation Trust преследовало благородную цель — создать приложение для клинического оповещения под названием Streams, чтобы выделять пациентов с риском острого повреждения почек (ОПП). ОПП обычно развивается в предшествующие дни до госпитализации и может возникать и в больнице, ОПП имеет значительное связанное с этим увеличение смертности (doi: 10.1159/000328075). Однако при разработке Streams возник ряд проблемных аспектов (doi:10,1007/s12553–017–0179–1). Цель Streams состояла в том, чтобы использовать данные анализов крови и клинической оценки для создания набора правил, позволяющих идентифицировать будущих пациентов с риском ОПП. Набор данных, предоставленный Royal Free для DeepMind, не был получен с явным согласием пациентов, аргумент заключался в том, что подразумеваемое согласие было предоставлено непосредственными отношениями ухода с пациентом. Набор данных был идентифицируемым пациентом, он включал пациентов, у которых были диагнозы, связанные с развивающееся ОПП (например, диабет), но также и те, у кого были совершенно не связанные диагнозы (например, ортопедические переломы). DeepMind получил набор данных, содержащий миллионы пациентов, которые прошли через двери Royal Free без согласия этих пациентов, без информирования этих пациентов и без одобрения исследований. Мы должны учиться на этих ошибках, мы должны обеспечить, чтобы создание ИИ осуществлялось с информированного согласия пациента и под надлежащим контролем.

Еще одна опасность, которую представляет ИИ, — это скрытность того, как они приходят к своим выводам. Представьте, если бы фармацевтическая компания вывела на рынок новое лекарство, но не опубликовала бы никакой информации о том, как оно работает или как оно было разработано. Проприетарные алгоритмы могут оставаться за закрытыми дверями, а создатели утверждают, что раскрытие внутренней работы может нанести ущерб коммерческим интересам создателя. Когда внутренняя работа алгоритма скрыта от глаз, невозможно критически оценить этот алгоритм. Когда алгоритм не может быть тщательно изучен, большая часть власти оказывается в руках нескольких ученых-компьютерщиков с минимальной ответственностью за принимаемые решения. Мы должны гарантировать, что весь ИИ, используемый в здравоохранении, соответствует определению с открытым исходным кодом (https://opensource.org/osd) и тем самым гарантировать, что используемые нами инструменты ИИ соответствуют тем же стандартам, которые мы ожидаем от лекарств, которые мы прописываем, и исследования, которые мы запрашиваем.