Не только дипфейки: обязательная маркировка систем  и продуктов генеративного искусственного интеллекта  как часть этики его использования

Аннотация

The article explores the necessity of legal implementation of obligatory labeling of general artificial intelligence’s systems and products. The author provides an analysis of a sociological survey the goal of which was to study the opinion of those involved in the creative and cultural industries as well as those who consume their products. In conclusion, the author provides pros and cons of the implementation of this measure. Keywords: digital technologies, law, ethics of AI, generative AI, regulations of AI, deepfakes, risks of generative AI Рост использования систем искусственного интеллекта сегодня можно на- звать беспрецедентным, но вместе с ростом их использования растет и количество дискуссий о их негативном влиянии на те сферы, в которых они используются [6]. Отдельное место в этих дискуссиях занимает генеративный искусственный интеллект (далее – ГИИ), в число рисков применения которого входят засилие плагиаризма и систематическое нарушение авторских прав [7]. Более того, с развитием таких систем, как ChatGPT, Stable Diffusion, DreamStudio, DreamUp, 426 Специальные вопросы регулирования и охраны цифровых технологий Специальные вопросы регулирования и охраны цифровых технологий Special issues of regulation and protection of digital technologies Special issues of regulation and protection of digital technologies Midjourney и других ГИИ, все чаще вызывает обеспокоенность судьба творческой и культурной индустрий, само существование которых оказалось под угрозой. В частности, Комитет культуры, медиа и спорта Палаты общин Великобритании в одном из своих последних отчетов заостряет внимание на огромном потенциа- ле новых цифровых технологий, отмечая, что несмотря на очевидные плюсы их развития, они становятся причиной новых рисков и проблем, требующих своевре- менного урегулирования. При этом Комитет отметил как возможность негативного влияния абстрактности формулировок в мерах регулирования использования ГИИ на права и законные интересы представителей творческих профессий, выявленную в рамках проведенного им расследования, так и очевидность причинения вреда в случае, если данные пробелы в законодательстве не будут устранены. Комитет также подчеркивает, что стремительное развитие ГИИ усугубляет так называемый «кризис аутентичности», а именно – делает практически невозможным установить происхождение подлинность онлайн-контента, в то же время призывая к стимули- рованию использования новых технических средств в творческом секторе [5]. Собственное расследование провел и британский Комитет науки, инноваций и технологий, также придя к выводу о том, что использование ГИИ может оказывать негативное влияние на сферу труда, а также нарушать авторские и интеллектуаль- ные права [10]. С этими отчетами перекликаются как с требованиями, пожалуй, крупнейшей в истории Голливуда забастовки работников киноиндустрии [12], так и с коллективными исками [1, 3]. Американская гильдия авторов среди своих требований по защите будущего литературы и журналистики перечисляет получение разрешения на использование авторских материалов для обучения ГИИ, введение компенсации за такое использо- вание, а также обязательность маркировки работ и произведений сгенерированных ГИИ. Интерес представляет и предположение зарубежных адвокатов о возможности взыскания морального вреда за причинение моральных страданий путем обесценивая художественных произведений. Обратить внимание стоит и на Китай. Так, Й. Ван и Х. Лу, рассуждая о трансформациях, претерпеваемых творческой индустрией, говорят о необходимости реформирования существующего законодательства и ссы- лаются на судебную практику, существующую на сегодняшний день в Китайской Народной Республике, согласно которой, выбор и порядок действий человека, уча- ствующего в генерации произведения в определенных случаях приводят к тому, что сгенерированные результаты становятся объектом авторского права [11]. Отдельного упоминания заслуживает влияние использования ГИИ на средства массовой информации (далее – СМИ), а именно – на производство и потребление новостей, где возможно не только распространение опасной дезинформации, по- явление мошеннических СМИ, но и падение качества подачи новостного матери- ала [7]. В то же время, если мы обратимся к мнению представителей российских творческих и культурных индустрий, высказанному в рамках «Горький fest» ранее в этом году, то заметим, что большинство из них пока не рассматривает ГИИ как реальную угрозу существования их профессий в виду того что ГИИ, как и любое вспомогательное техническое средство, не обладает способностью мыслить и чув- ствовать, а значит – не является творцом в полном смысле этого слова [14]. 427 Специальные вопросы регулирования и охраны цифровых технологий Специальные вопросы регулирования и охраны цифровых технологий Special issues of regulation and protection of digital technologies Special issues of regulation and protection of digital technologies Решение части этих проблем недавно предложила компания Twilio, разра- ботавшая специаль