Искусственные моральные агенты:   анализ аргументов против

Аннотация

Artificial moral agents are robots that are able to make decisions based on moral reasoning and regulation. There are different ways of classifying artificial moral agents, in this article we will use the classification given by J. Moore. Mankind can no longer imagine itself without artificial systems, they are becoming more and more perfect, which raises the question of the ethicality of their actions. At the same time, the voices of those who see a threat in the emergence of artificial moral agents are becoming more and more vivid. The article discusses some of the arguments against 15 Специальные вопросы регулирования и охраны цифровых технологий Специальные вопросы регулирования и охраны цифровых технологий Special issues of regulation and protection of digital technologies Special issues of regulation and protection of digital technologies their creation, such as: the lack of a universal ethical theory, responsibility, loss of skills, and the existential argument. Keywords: Artificial moral agents, ethics, morality, regulation, responsibility, intelligent systems, robots Введение. Современность все больше наполняет окружающий нас мир ис- кусственными системами (далее – ИС), которые призваны выполнять различные задачи: от регуляции температуры в помещении до социальных роботов, созда- ваемых для заботы о тех, кто позаботиться о себе не в состоянии. Все это при- водит к необходимости вовлечения искусственных агентов в человеческий мир и сообщество. Для реализации этой цели мало только заданных алгоритмов, как недостаточно и только правового регулирования, поскольку оно выполняет только внешнюю задачу, в то время как нам необходимо ввести (встроить) определенный уровень ответственности и автономии для этих систем. Поэтому встает пробле- ма создания искусственных моральных агентов (далее – ИМА), которые были бы способны выполнять те же задачи, что и люди, отвечать за принимаемые решения, быть способными их объяснять и решать встающие перед ними дилеммы. Основная часть. Х. Сервантес, С. Лопез и соавторы указывают, что клю- чевым моментом является гармоничное сосуществование искусственных аген- тов с людьми и другими системами. То есть необходимо создать такую систему, которая могла бы если не стать равной человеку, то, по крайней мере, действо- вать в сложных ситуациях подобно людям. Однако это поднимает определенные проблемы. Как сделать так, чтобы искусственной системе была предоставлена ав- тономия для принятия собственных решений, в том числе восприятие, принятие решений, планирование и обучение. Для решения этого вводится понятие регу- лируемой автономии: это такая автономия, при которой механизмы, реализуемые в ИС, позволяют людям вмешиваться в работу ИС, если последние не способ- ны самостоятельно разрешить стоящие перед ними проблемы. В данном случае цель состоит в избегании неадекватного поведения ИС и сохранении глобально конт роль над ИС. В области машинной этики это означает наделение ИС этиче- скими механизмами, которые позволяют взаимодействовать с людьми и решать возникающ ие моральные дилеммы. При этом глобальная цель: наделить искусственные агенты этическим по- ведением, сделать так, чтобы они могли стать полноценной частью человечества [4]. В случае регулируемой автономии остается также проблема злонамеренного использования [1]. Вопрос об автономии ИС и ИМА является чрезвычайно сложным. Он также состоит в том, что мы подразумеваем под определением ИМА. В отличие от ука- занного выше представления о регулируемой автономии, П. Формоза и М. Райан считают, что ИМА – это роботы, способные участвовать в автономном моральном рассуждении без непосредственного участия со стороны человека в реальном вре- мени. Такая автономия приближается к человеческой как способности самостоя- тельно являться источником собственных решений и действий. ИМА направлены на выход за пределы рассуждений только о безопасности, которые превалируют 16 Специальные вопросы регулирования и охраны цифровых технологий Специальные вопросы регулирования и охраны цифровых технологий Special issues of regulation and protection of digital technologies Special issues of regulation and protection of digital technologies в дискурсе об ИС. Определить автономность робота можно как его способность следовать сложному алгоритму в ответ на поступающие данные извне, не зависи- мо от участия человека. Так, автономным не может считаться робот, не способный пройти определенный маршрут без помощи человека, а беспилотный автомобиль является примером робота, обладающего автономией. Поэтому ИМА наделяет- ся следующими качествами: интерактивность (восприятие окружающей среды), автономность (способность выносить этические суждения), адаптивность (спо- собность действовать на основании вынесенных этических суждений без участия со –стороны человека) [5]. В таком случае поднимается следующий вопрос: об устройстве такого искус- ственного агента. Аллен, Смит и Воллах предлагают устройство ИМА исходя из архитектуры построения: – Сверху вниз: этическая теори