О проблемах применения искусственного интеллекта через призму гражданского права

Аннотация

The purpose of the conducted scientific research is to characterize the main problems that may arise in practice with the active introduction of artificial intel- ligence into the life of society, considering the current norms of civil law. The author 126 Цифровые технологии в системе частно-правовых (цивилистических) отношений characterizes the possible directions of using modern artificial intelligence systems and algorithms. Focuses on the possibilities of financial management of losses in- curred by victims. Keywords: law, artificial intelligence, civil liability, guilt, damages, compensa- tion, insurance fund Введение. В настоящее время искусственный интеллект используется во многих сферах жизнедеятельности (здравоохранение, авиация, финансы и т. д.) и выполняет самые разнообразные виды деятельности (мониторинг, интеллекту- альный анализ данных, прогнозирование, анализ рынка и торговлю, распознава- ние изображений, разработку планов лечения и т. д.). В зависимости от этого ал- горитмы искусственного интеллекта могут реально наносить ущерб доходам, ак- тивам, репутации или даже физической неприкосновенности человека (напри- мер, при его использовании в хирургии или в самоуправляемых автомобилях). Цель статьи – дать характеристику основных проблем, которые могут возникать в практической плоскости при активном внедрении искусственного интеллекта в жизнедеятельность общества с учетом действующих норм гражданского права. Основная часть. Современные алгоритмы искусственного интеллекта не ограничиваются выполнением задач, основанных на предопределенных и посто- янных правилах. Они способны собирать данные (так называемый интеллекту- альный анализ данных) и самообучаться. В частности, алгоритмы могут автома- тически совершенствоваться на основе опыта и становиться способными делать прогнозы и принимать решения, на которые они явно не были запрограммирова- ны. Приложения, особенно те, которые относятся к так называемому глубокому обучению, могут находиться под наблюдением, частично под наблюдением или даже без присмотра людей. Распознавание изображений на основе глубокого обучения в настоящее время позволяет получать более точные результаты, чем при использовании человеком. В медицинской диагностике, например, искус- ственный интеллект позволяет выявлять опухоли с помощью компьютерной ин- терпретации медицинских изображений. Недавняя пандемия Covid-19 подтвер- дила, что искусственный интеллект может быть использован для контроля и вы- явления случаев пандемии, постановки диагнозов, а также разработки вакцин и лекарств [5; 8]. Кроме того, системы искусственного интеллекта обладают не только спо- собностью принимать решения. Будучи встроенными в физические системы, та- кие, как автомобили с автоматическим управлением, они могут влиять на реше- ния людей в реальном мире. Это поднимает вопросы о безопасности и о том, не превзойдет ли автономный искусственный интеллект в какой-то момент челове- ческий. С другой стороны, применение «традиционной» гражданской ответствен- ности к искусственному интеллекту может стать сдерживающим фактором для новых технологий, основанных на искусственном интеллекте, так как в этой си- туации представляется затруднительным решение вопроса о субъекте ответ- ственности [6]. Очевидно, что первым и наиболее важным критерием для уста- новления обязанности по выплате компенсации за ущерб является наличие вины. 127 Цифровые технологии в системе частно-правовых (цивилистических) отношений Такой подход к рассматриваемому вопросу отражен, например, в Принципах ев- ропейского деликтного права, разработанных Европейской группой по деликт- ному праву, особенно в том, что касается связи компенсации с обязательством возместить ущерб, который неизменно зависит исключительно от вины или «строгой ответственности» [3. С. 25, 145]. Тем не менее во многих случаях было бы бесполезно возлагать обязан- ность выплачивать соответствующие убытки или компенсацию на производите- лей и программистов: алгоритмы, по сути, могут вести себя совершенно незави- симо от инструкций, изначально предоставленных программистами, так что они могут допускать ошибки, несмотря на отсутствие недостатков в разработке или реализации. В связи с этим искусственный интеллект требует, чтобы законода- тельство в данной сфере развивалось, переходя от вопроса гражданской ответ- ственности к так называемому финансовому управлению убытками. Схемы возмещения ущерба «без вины виноватым» могли бы стать эффек- тивной стратегией регулирования, чтобы обеспечить такую эволюцию. Конечно, такие схемы должны применяться только в тех случаях, когда нет доказательств того, что производители или программисты действовали в условиях небрежно- сти, неосмотрительности, и их деятельность в достаточной степени соответство- вала научно обоснованным стандартам. Мы поддерживаем мнение о необходи- мости создания соответствующих страховых фондов для выплаты компенсаций пострадавшим [2; 7]. Такие инициативы периодически обсуждаются и в России, в частности, что касаетс