Отдельные вопросы правового регулирования использования систем с искусственным интеллектом в медицине

Аннотация

The article is dedicated to the investigation of legal regulation concerning the use of artificial intelligence technologies in medicine. Special attention is given to issues of civil liability in the considered domain, imitation of cognitive function. It is noted that AI does not have the attributes of legal personality and no legal relationship arises between a patient and an AI system. In cases where generative AI is used in telemedicine, the patient must be informed about what or whom they are interacting with and have the opportunity to communicate with a doctor. Keywords: Artificial Intelligence, Medicine, Legal Regulation, Patient, Physician, Civil responsibility, imitation of cognitive function Введение. Безопасность и эффективность клинических решений, которые принимаются врачом с использованием новейших технологий, в конкретных об- стоятельствах имеют значение как непосредственно для пациента, так и для об- щества и государства в целом. Сегодня на помощь врачам приходят технологии, имитирующие когнитивные процессы человека, в частности автоматическое рас- познавание изображений на основе глубоко обученных компьютерных «нейрон- ных» сетей. Такие технологии дают возможность увеличить точность суждений в области диагностики, ускорить ее проведение, а в ряде случаев уменьшить сто- имость исследований. Тем не менее даже будучи обученными на миллионах при- меров «нейронные» сети не лишены недостатков в функции распознавания изоб- ражений, допускают ошибки в интерпретациях или выдают данные, которые, не подтверждаются данными обучения нейросети (так называемые «галлюцинации нейросети»). Основная часть. В 2023 году Росздравнадзор временно остановил приме- нение медицинской системы Botkin.AI – платформы для анализа медицинских снимков – на предмет злокачественных новообразований в связи с угрозой причи- нения вреда жизни и здоровью граждан [6]. В 2018 году программа Watson for Oncology стала назначать пациентам с онкологическими заболеваниями некор- ректные лекарства, прием которых мог угрожать здоровью [1]. К ряду вопросов, связанных с использованием систем искусственного интеллекта (далее – СИИ), в здравоохранении относят проблемы прозрачности, объяснимости и интерпрети- руемости алгоритмов, предвзятости [10], недостаточной для реальной клиниче- ской практики точности работы моделей, проблемы конфиденциальности [5, 13]. В таких обстоятельствах крайне важно создать правовые условия принятия решений врачом, которые: (1) максимально соответствовали бы интересам пациента; (2) обеспечивали юридическую безопасность врача; (3) не препятствовали разумному развитию технологий; (4) были экономически рациональными. Какие здесь можно предложить деонтологически обоснованные и одновре- менно прагматически обусловленные подходы к правовому регулированию при- нятия лечебных решений с использованием СИИ? Будучи ограниченными объе- мом настоящей публикации, мы остановимся всего на двух аспектах: Правовое регулирование цифровых технологий в здравоохранении (1) вопрос взаимодействия пациента, врача и СИИ; (2) вопрос гражданско-правовой ответственности в отношениях, в которых используется СИИ в сфере медицины. В настоящий момент уровень СИИ генеративного типа, имитирующий диа- лог, не позволяет обычным способом отличить человека от программы. Человеку важно знать, кто или что с ним взаимодействует для того, чтобы принимать осо- знанное решение о содержании или, в принципе, возможности продолжения вза- имодействия, в этой связи мы полагаем, что: 1. В ситуациях непосредственного взаимодействия пациента с приложени- ями (программами ЭВМ), как, например, в мобильных приложениях при оценке фотоизображений новообразований [7] или в сети «Интернет», пользователю-па- циенту должно быть очевидно, с кем он взаимодействует (СИИ, врач-эксперт, ме- дицинская организация, информационный посредник, агрегатор), кто оказывает услугу (разработчик, правообладатель ПО, агрегатор, медицинская организация или врач-эксперт), что это за услуга (неисключительное использование ПО, ин- формационная услуга, медицинская услуга, посредничество) и кто будет отвечать за ее недостатки. Нормативные требования о правосубъектности к таким лицам должны быть адресными и устанавливать соответствующие требования об инфор- мировании пользователя и его гарантиях качества услуги; 2. Пользователю-пациенту должно быть очевидно, с чем или кем он взаи- модействует в каждый момент времени с человеком или программой ЭВМ (ИИ, робот и т. д.). Это требование, на наш взгляд, касается не только медицинских си- стем СИИ, но и всех сценариев взаимодействия человека с информационными си- стемами. Рекомендации об этических аспектах искусственного интеллекта ЮНЕ- СКО 2021 г. [8] содержат аналогичный подход: «Государствам-членам следует обеспечивать пользователям возможность быстро понять, взаимодействуют ли они с живым существом или с ИИ-системой, имитирующей качества человека или животного, а также возможность пользователей отказаться от взаимодействия с ИИ-системой и попросить о в