Галлюцинации искусственного интеллекта: новые правовые угрозы, возникающие в практике адвокатов и прокуроров, и их юридические последствия

Аннотация

Калит сўзлар: Ушбу мақола сунъий интеллект галлюцинацияларининг галлюцинация, табиати, уларнинг ҳуқуқий хавфлари, адвокат ва конфабуляция, прокурорларнинг иш фаолиятига таъсири, ривожланган катта тил моделлари давлатларнинг ҳуқуқни қўллаш амалиётида сунъий (LLM), чатботлар, интеллект томонидан яратилган нотўғри далиллар ва 1 PhD student, Law Enforcement Academy of the Republic of Uzbekistan Жамият ва инновациялар – Общество и инновации – Society and innovations Special Issue – 04 (2025) / ISSN 2181-1415 cунъий интеллект уларнинг суд жараёнларига таъсири бўйича реал мисоллар, воситасида яратилган халқаро тажрибалар асосида ахлоқий ва ҳуқуқий ҳужжатлар ёки ҳуқуқий муаммоларни минималлаштириш бўйича махсус ишчи маслаҳатлар, гуруҳларнинг тавсиялари, уларнинг олдини олиш бўйича ишончсиз, мавжуд бўлмаган ҳуқуқий жавобгарлик чегараларини аниқ белгилаш ва маълумотлар ва далиллар, ҳуқуқий механизмларни ишлаб чиқиш заруратини ёритишга махсус ишчи гуруҳлар. қаратилган. Галлюцинации искусственного интеллекта: новые правовые угрозы, возникающие в практике адвокатов и прокуроров, и их юридические последствия АННОТАЦИЯ Ключевые слова: Данная статья посвящена рассмотрению природы галлюцинация, галлюцинаций искусственного интеллекта, их правовых конфабуляция, рисков, влияния на деятельность адвокатов и прокуроров, а большие языковые также реальных примеров использования ложных модели (LLM), чат-боты, доказательств, созданных искусственным интеллектом, в документы или правоприменительной практике развитых стран и их влияния юридические на судебные процессы. В статье также освещаются консультации, рекомендации специальных рабочих групп по минимизации созданные с помощью этических и правовых проблем на основе международного искусственного интеллекта, опыта, подчеркивается необходимость четкого определения недостоверные, границ правовой ответственности и разработки правовых несуществующие данные механизмов для предотвращения подобных ситуаций. и факты, специальные рабочие группы. Ҳозирги мураккаб технологиялар даврида замонавий ҳуқуқ тизими сунъий интеллект технологияларининг фаол жорий этилиши натижасида тубдан ўзгариб бормоқда. Бироқ, ушбу технологиялар ҳуқуқий жараёнларга ижобий таъсир кўрсатиши, ҳуқуқни қўллаш амалиётида янги имкониятларни яратиш билан бир қаторда, кутилмаган хавф-хатарларни, мураккаб ҳуқуқий муаммоларни ҳам юзага келтирмоқда. Хусусан, сунъий интеллект тизимларининг галлюцинацияга мойиллиги, яъни ҳақиқатга мос келмайдиган, лекин ишончли кўринишга эга бўлган нотўғри, ўйлаб топилган маълумотларни генерация қилиш ҳолатлари адвокатлар ва прокурорлар фаолиятида сезиларли хавф келтириб чиқармоқда. Сунъий интеллект воситасида ишлаб чиқилган ҳужжатлар ёки ҳуқуқий маслаҳатлар нотўғри маълумотлар асосида шаклланганда, бу нафақат ҳуқуқий ноаниқликларга олиб келиши, балки ҳуқуқни муҳофаза қилувчи органларнинг иш юритувига ишончсиз далилларнинг кириб келишига, хато қарорлар қабул қилинишига, энг асосийси, фуқароларнинг ҳуқуқлари ва қонуний манфаатларининг бузилишига, шунингдек, давлат органларига нисбатан ишончсизлик руҳининг пайдо бўлишига сабаб бўлиши мумкин. Шу боис, мазкур мақолада сунъий интеллектнинг галлюцинациялари билан боғлиқ ҳуқуқий хавфлар чуқур таҳлил қилиниб, сунъий интеллект галлюцинациялари моҳияти ва ҳуқуқий оқибатлари, адвокат ва прокурорларнинг сунъий интеллект 21 Жамият ва инновациялар – Общество и инновации – Society and innovations Special Issue – 04 (2025) / ISSN 2181-1415 галлюцинацияларига дуч келиш эҳтимоли ва амалий фаолиятига таъсири, уларнинг олдини олиш бўйича ҳуқуқий жавобгарлик чегараларини аниқ белгилаш ва ҳуқуқий механизмларни ишлаб чиқиш заруратини ёритишга қаратилган. Маълумки, cунъий интеллект (СИ) cоҳасида “галлюцинация” ёки “сунъий интеллект галлюцинацияси”(баъзан тўқиб чиқариш, хотирада нотўғри боғланиш (конфабуляция) ёки хомҳаёл (delusion) деган маъноларни англатади.[1] Баъзи олимлар сунъий интеллект галлюцинацияларини, одатда, нотўғри тасаввурларни ўз ичига олган инсон психологиясидаги галлюцинациялар билан таққослайдилар. Бунга асосий омил сифатида, инсон психологиясидаги галлюцинация ˗ нотўғри идрок (перцепция) билан боғлиқ бўлиб, улар кўз олдида реал бўлмаган тасвирларни кўриши, товушлар ёки ҳисларни идрок қилиши мумкинлигини айтишади. Бироқ уларнинг орасида муҳим фундаментал фарқ мавжудлигини қуйидагича изоҳлайдилар: “Cунъий интеллект галлюцинацияси˗ идрок, сезги тажрибалари эмас, балки нотўғри ёки асоссиз ахборотни генерация қилиш натижасида яратилган, ҳақиқат сифатида тақдим этилаётган нотўғри ёки чалғитувчи маълумотларни ўз ичига олган жавоблар (конфабуляция) билан боғлиқ нотўғри хулосалар ҳисобланади”.[2] Ҳуқуқшунос олим М.М.Мамасиддиқовнинг илмий изланишларига кўра,[3] “алгоритмлар галлюцинацияси” (lot. hallucinatio- хомҳаёл, бемаъни, хато) мавжуд бўлмаган ёки сохта ҳуқуқий манбаларни таклиф қилиши, аввалги бир томонлама ёндашувларни такрорлаши ёки маълум тоифадаги шахсларни камситиш эҳтимоли мавжуд ҳодисадир. Шунингдек, катта тил моделлари (LLM) асосида ишлаб чиқилган