Сейчас медики всё чаще советуются с ИИ, чтобы поставить диагноз или составить курс лечения. Однако при этом возможны ошибки, и эксперты напоминают, что в этом случае искусственный интеллект к ответственности за неверный диагноз не привлечь. Отвечать придётся врачам. Поэтому были разработаны правила, как правильно использовать ИИ в медицинской деятельности.

Врач должен понимать возможности нейросети, которую он намерен применить в работе. Например, система может подходить только для выявления диабета, значит, в других случаях использовать её не стоит. Также надо проверить, одобрено ли её применение медучреждением. Врач должен знать об используемой модели достаточно, чтобы пояснить пациенту, почему он работает именно с ней.

Если врач использует общедоступную нейросеть или систему, не одобренную руководством медучреждения, нельзя вводить в неё персональные данные - имя, заболевание и прочие сведения, по которым пациента могут идентифицировать посторонние лица.

Даже надёжная система может выдать неточные результаты, если введённые в неё сведения оказались искажёнными. Нужно обязательно убедиться в правильности внесённых в ИИ сведений, особенно если они копировались автоматически. Также врач должен проверить, не упустил ли искусственный интеллект какие-либо данные. Если полученные от него результаты противоречат интуиции и суждению врача, их необходимо перепроверить.

Хотя в Англии врачи не обязаны говорить больному о применении в лечении искусственного интеллекта, лучше рассказать ему об этом. Если больной попросит отказаться от использования ИИ, стоит подумать об альтернативе для поиска решения без применения искусственного интеллекта. Но если без него не обойтись, нужно объяснить это пациенту. Необходимо также иметь в виду, что врач может быть подвергнут критике за отказ от использования ИИ.

При использовании искусственного интеллекта врач должен обязательно указать в своих отчётах, где и как применялся ИИ. При этом нужно указывать наименование и прочие сведения об использованной нейросети.

При использовании ИИ врач обязан проверять любые полученные с его помощью результаты, особенно если они не совпадают с его мнением. Нужно помнить об ответственности за лечение больного и понимать, что конечной целью использования ИИ должно быть обеспечение лучшего и более безопасного ухода за пациентами.

За что врача могут критиковать при использовании ИИ?

По мнению экспертов BMJ, уже сейчас врачей могут критиковать по следующим причинам:

• использование неподходящей системы ИИ;
• неправильное использование подходящей системы ИИ;
• неиспользование системы ИИ, когда она должна была использоваться;
• непредоставление пациентам существенной информации об использовании ИИ или разумных альтернативах;
• использование системы ИИ, когда она не должна была использоваться.