Морально-волевая дилемма для искусственного интеллекта: правовой аспект

Аннотация

The introduction of artificial intelligence, the emergence of social re- lations complicated by artificial intelligence, naturally raises the question of the need to transform law, its basic concepts. The most controversial issue is the concept of mo- rality and will, as applicable to artificial intelligence. The experiment «trolley prob- lem» is indicative for the interpretation of these concepts, it is the basis of the study presented in this article. As a result of the study, the authors conclude that artificial in- telligence has the potential to independently solve moral-volitional problems. Key words: artificial intelligence, will, morality, subject of law Введение. Искусственный интеллект, его модели и системы, стали участ- никами нашей каждодневной жизни, принимая в ней все более активное участие. Все это влечет несомненное осознание факта существования искусственного ин- теллекта в современной реальности, и его принятие или отрицание. Какое бы ни было мнение конкретного лица или группы лиц по этому вопросу, искусствен- ный интеллект получает все больше возможностей, больше правового регулиро- вания и больше места в правовой дискуссии. Важнейшей из таких дискуссий можно определить дискуссию о статусе искусственного интеллекта с позиции субъекта права, соотнесение с базовыми субъектами правовых отношений. Со- временные правовые концепции позволяют рассматривать искусственный интел- лект и как объект правоотношений, и как их субъекта или квазисубъекта. Остановимся на таких традиционных правовых понятиях как воля и мораль. 140 Цифровые технологии в системе частно-правовых (цивилистических) отношений Основная часть. Несколько отстраняясь от сформировавшейся правовой интерпретации данных понятий, обратим внимание на первоочередные, по нашему мнению, сущность и понимание морали и воли в разрезе проблемы ис- кусственного интеллекта. Вспомним про эксперимент «проблема вагонетки» и представим себя на месте человека у стрелки. Мы готовы принимать решение, основывая на соб- ственных моральных ценностях, выразить свою волю и получить соответствую- щие последствия, как морально-этические, так и юридические. Варианта пове- дения человека изначально в этой ситуации два: переключить стрелку, выбирая количество жертв, или уйти, не глядя на нее. Если принимаем решение стрелку переключить, то, какое количество жертв мы выбираем – одну или пять. Исходя из сформированной статистики этого эксперимента, преимущественно испытуе- мые выбирают одну жертву, делая выбор с позиции большего и меньшего блага для общества и для себя (один погибший лучше, чем много). Таким образом, формируется утилитарный или рациональный подход, который проявляет испы- туемый человек. И тем не менее исследования в эксперименте с вагонеткой продолжаются, и при изменении критериев жертв, происходит и изменение результатов экспе- римента. Выбор пола жертвы; единая или противоположная гендерность с ли- цом, принимающим решение; изменение числа жертв на обоих путях; появление дополнительных субъектов, которых надо толкнуть на рельсы, чтобы остановить вагонетку; все это приводит к тому, что рациональный или утилитарный подход срабатывает не всегда. В его действие вмешивается эмоциональная составляю- щая. При изменении условий моральной дилеммы, которую необходимо решить, наш мозг не всегда готов принимать решение исключительно рационально [1]. Человек, принимая решение, не всегда обосновывает его моральными ас- пектами, принимая своей волей аморальный по мнению общества выбор. И чем же будет отличаться от него в данной ситуации искусственный интеллект, кото- рый делает рациональный выбор? Если поставить у стрелки рядом с вагонеткой искусственный интеллект, какова будет правовая природа и особенности его мо- рально-волевой дилеммы? С позиции правовой мысли мораль можно интерпретировать как выра- женные во вне долженствования, реализованные в делах, поступках, соизмери- мых с установленными правилами, что воспринимается в качестве уровня, среза морально-нравственного состояния социума [5. С. 38–44]. Но мораль не является стагнационным понятием, не подвергающимся трансформации с течением времени. То, что было вполне моральным в прошлые времена сейчас признается абсолютно аморальным. Традиционным примером для такой ситуации является морально оправданное разделение общества на классы, сословия, признание рабства и т. д. Соответственно стоит однозначно утверждать, что трансформация общества, его уклада приводит и к изменению критериев тех моральных ценностей, которые положены в его основу. Причем моральные ценности, основанные на религиозных догмах, также могут транс- формироваться и изменяться под влиянием времени и изменений уклада обще- ственной жизни, и прочих условий. Все это позволяет сделать вывод, что уни- 141 Цифровые технологии в системе частно-правовых (цивилистических) отношений версальной, устойчивой морали просто не существует. Она проектируется на конкретное место, время, конкретное общество и конкретного человека. Основываясь на соответствующи