Но пока вовсе не для спасения жизней в операционной, а для гораздо более приземленных вещей: прогнозирование состояния пациентов, поиск больных из группы риска, а также автоматического выставления счетов и планирования расписания. То есть ИИ пока управляет не столько лечением, сколько логистикой медицины.
Но оказалось, что алгоритмы, предсказывающие траекторию здоровья пациентов (этим занимаются 92% моделей) или выявляющие группы высокого риска (79%), проходят «техосмотр» спустя рукава. Только 61% больниц вообще проверяют свои предсказательные модели на точность. А уж на предвзятость, то есть на способность одинаково хорошо работать для разных групп пациентов, их тестируют лишь 44% учреждений. Между тем, модельки по разному работают на разных группах пациентов: по возрасту, расе, социальному статусу или географии.
Как метко замечает ведущий автор исследования Пейдж Нонг, большая часть больниц покупает эти модели «с полки», словно консервы. Проблема в том, что ИИ, натренированный на данных благополучного академического медцентра, оказавшись в сельской больнице, начинает галлюцинировать в отношении рисков и смотреть на местных пациентов как на инопланетян.