Вопрос совместимости искусственного интеллекта (ИИ) с правами человека не нов. ИИ — это не какая-то далёкая футуристическая концепция; оно уже органично вплетено в ткань нашей жизни, даже если многие до сих пор не подозревают о его повсеместном присутствии. Рассмотрим вездесущие файлы cookie, встречающиеся при просмотре веб-сайтов — инструменты сбора данных, используемые алгоритмами искусственного интеллекта для персонализации взаимодействия с пользователем. Таргетированная реклама, адаптированная к интересам отдельных потребителей, является еще одним примером работы ИИ. Хотя высокая производительность и эффективность ИИ, несомненно, приносят нам пользу, возникает важный вопрос: насколько законен этот процесс сбора данных?
Что происходит, когда ИИ собирает информацию, которую человек не хотел бы хранить вечно в базе данных? Является ли такая деятельность вторжением в частную жизнь, фундаментальное право человека? Ирония заключается в огромном количестве личных данных, которые мы с готовностью отдаем при использовании приложений и социальных сетей. Эти платформы, часто синхронизирующиеся друг с другом, свободно обмениваются этим кладезем информации. От подробностей о состоянии здоровья и семейного положения до политических взглядов и религиозных убеждений — мы неосознанно раскрываем обширное цифровое досье. Большинство интернет-пользователей, испытывающих нехватку времени, редко внимательно изучают условия соглашений, прежде чем нажать «Принять». Юмористический, но предостерегающий пример: в 2010 году магазин видеоигр GameStop включил в свое онлайн-пользовательское соглашение, казалось бы, безобидную строку, гласящую согласие «передать свою бессмертную душу в бесплатное пользование магазином». Однако в том же пункте предусмотрена возможность отказа через гиперссылку. Поразительно, но 88% пользователей неосознанно «продали свои души» — яркое свидетельство нашей коллективной тенденции нажимать кнопку «Принять» без должной осмотрительности. Этот инцидент вызывает вопрос: на что еще мы неосознанно соглашаемся и как это потенциально может быть использовано против нас?
ИИ, воспользовавшись этой невнимательностью, может легко нарушить границы конфиденциальности пользователей. Манипулирование данными происходит постоянно, когда мы синхронизируем учетные записи на разных устройствах, от базового компьютерного программного обеспечения до программ «умного дома». С каждым подключением пул данных, доступный ИИ, расширяется. Умные часы запрашивают данные о состоянии здоровья, веб-сайты выясняют семейное положение, и почти каждая платформа требует множество личных данных — полное имя, дату рождения, пол, адрес электронной почты, номер телефона, а иногда даже адрес проживания и паспортные данные. Даже удаление учетной записи не гарантирует полного удаления данных, в результате чего в информационном пространстве остается обширное цифровое досье.
Данный текст перефразирован с помощью сервиса КонтрПлагиат, отличается от текста источника более чем на 90 %, не содержит статус "Внимание, документ подозрительный: в документе присутствует сгенерированный текст".
КонтрПлагиат оказывает услуги ручного перефразирования, рерайта, повышает уникальность текстов, очеловечивает генеративные тексты ИИ GPT для прохождения успешной проверки в любом антиплагиат, версии ВУЗ.
В некоторых случаях ИИ может даже определить личные данные, такие как этническая принадлежность или политические взгляды, на основе данных о местонахождении и предпочтений пользователя. Опираясь на этот огромный массив информации, ИИ начинает диктовать, что нам подходит, и этот процесс может перерасти в форму социального угнетения. Мы невольно подчиняемся диктату ИИ, что приводит к потенциальным нарушениям прав человека.
Кажущаяся парадоксальной связь между ИИ и социальным угнетением требует более тщательного изучения. Хотя основная цель ИИ — рационализировать человеческую жизнь, его алгоритмическое создание «оптимальных» вариантов непреднамеренно ограничивает нашу свободу исследовать альтернативы. Отсутствие разнообразия в системах искусственного интеллекта становится серьезной проблемой.
Одним из рекламируемых преимуществ ИИ является его объективность. Однако мы должны помнить, что программисты-люди создают алгоритмы, на основе которых работает ИИ. Непреднамеренно или намеренно эти алгоритмы могут унаследовать человеческие предубеждения и дискриминационные тенденции. Вопреки представлению об ИИ как о независимом мыслителе, его решения являются всего лишь результатом вычислений, основанных на заранее запрограммированных шаблонах.
Пример этой предвзятости проявляется в рекомендациях о вакансиях, предоставляемых алгоритмами ИИ. Исследования показывают гендерное неравенство в этих предложениях, потенциально нарушающее принципы равных возможностей. Случаи с участием ИИ в судебных разбирательствах еще раз иллюстрируют этот риск. Использование ИИ статистических корреляций при принятии решений может привести к результатам, пронизанным расовыми, религиозными или социальными предрассудками. Классическим примером является корреляция между низким доходом и преступной деятельностью – закономерность, которую легко включить в систему принятия решений ИИ. Точно так же система искусственного интеллекта может принять ошибочную корреляцию «борода = мусульманин = угроза», что приведет к дискриминационным процедурам безопасности в аэропортах.
Технология распознавания лиц уже давно вызывает беспокойство в обществе. Растущая роль искусственного интеллекта в наблюдении, обыске и отслеживании вызывает этические проблемы. Многие рассматривают эту практику как неприемлемое вторжение в личную жизнь, поскольку все собранные данные накапливаются как «большие данные», что является еще одним источником беспокойства.
Лицо, как и голос, выходит за рамки простых личных данных; это становится биометрическими данными, совершенно другим уровнем идентификации, который несет в себе особый уровень риска. Номера телефонов, паспортные данные, адреса и имена можно изменить, но биометрические данные остаются неизменными. Передача такой информации ИИ ставит под угрозу анонимность. Единственный случай использования распознавания лиц для разблокировки телефона или активации камеры ноутбука передает данные в обширную базу данных, навсегда выходящую из-под контроля пользователя.
ИИ не только собирает и хранит информацию, он активно классифицирует, анализирует и присваивает рейтинги. Этот процесс разворачивается без явного согласия и не оставляет возможности для споров. Ярким примером служит китайская система социальных рейтингов: распознавание лиц превратилось в реального Большого Брата, а за мусор можно получить баллы. Эти точки диктуют доступ к привилегиям или ограничениям – система балансирует на грани утопического или антиутопического будущего.
В 2017 году нейронная сеть Стэнфордского университета, обученная распознавать сексуальную ориентацию, достигла тревожной точности в 80%, основываясь исключительно на чертах лица и эмоциональных сигналах. Это событие является ярким примером вопиющего вторжения в частную жизнь.
Несмотря на эти опасения, положительное влияние ИИ на общество нельзя полностью игнорировать. Поэтому для смягчения и предотвращения этих проблем необходима строгая комплексная проверка. Все заинтересованные стороны, участвующие в создании таких систем, должны отдавать приоритет неукоснительному уважению прав и свобод человека [6. С. 41–62].
В современном мире уважение прав других может показаться врожденным, обусловленным внутренними убеждениями или внешними правилами. Однако это не относится к ИИ. Попытки наделить ИИ человеческими качествами, несмотря на неустанные усилия экспертов, скорее всего, останутся бесплодными. Человечество с присущими ему эмоциями и переживаниями является неотъемлемой частью человеческого существования и не может быть воспроизведено искусственно. Следовательно, действия и решения ИИ неизбежно останутся безразличными как для отдельных людей, так и для общества в целом.
Общество процветает благодаря четко определенной правовой базе, которая способствует порядку и безопасности. Однако появление искусственного интеллекта (ИИ) привносит непредсказуемый элемент в эту тщательно построенную систему, что потенциально может привести к серьезным нарушениям.
Возникает вопрос: как можно регулировать ИИ, чтобы защитить человечество? Специалисты по ИИ предлагают встроить определенные ограничения в базовое программирование ИИ. Однако, если ИИ обладает способностью к обучению, как они утверждают, вполне возможно, что в конечном итоге он сможет обойти эти ограничения [1. С. 130–146].
Концепция юридической ответственности становится неприменимой к ИИ, поскольку ему не хватает способности осознавать вину за свои действия. Это полностью исключает важнейший элемент вины из уравнения.
Альтернативный подход предполагает привлечь производителя или оператора к ответственности за незаконную деятельность ИИ, и эта точка зрения одобрена Парламентской ассамблеей Совета Европы. В 2019 году группа европейских экспертов опубликовала знаковый доклад об ответственности за искусственный интеллект и новые технологии. В докладе подчеркивается острая необходимость разработки системы юридической ответственности за действия ИИ, даже устанавливая основную терминологию и основополагающие принципы для таких систем [7].
Наиболее логичным и комплексным решением для предотвращения потенциальных неправомерных действий ИИ представляется обязательное внедрение механизмов контроля со стороны человека. Другими словами, люди должны обладать правом и, что более важно, способностью отключать алгоритмы, переписывать функциональные возможности и проявлять необходимые навыки контроля. Однако даже при наличии таких гарантий сохраняется возможность нарушений, связанных с ИИ, что требует постоянного внимания к юридической ответственности.
Неизбежное отставание между законодательством и технологическим прогрессом создает серьезную проблему. Интеграция быстро развивающихся технологий в существующие правовые рамки оказывается чрезвычайно сложной задачей. Именно поэтому были созданы такие правовые режимы, как «регулятивные песочницы» – среды, в которых инновационные технологии могут быть протестированы, несмотря на существующие правовые ограничения. В 2020 году Михаил Мишустин утвердил перечень таких технологий для нормативной песочницы России, в который вошел искусственный интеллект (Постановление Правительства РФ от 28 октября 2020 года № 1750). Эти правовые режимы обычно применяются на срок до трех лет в определенных регионах, что позволяет разработчикам тестировать свои творения и демонстрировать эффективность своих инноваций, не сталкиваясь с юридическими ограничениями. Внедрение такой практики предлагает ценный инструмент для совершенствования законодательства, чтобы идти в ногу с технологическим прогрессом.
Правовое регулирование ИИ охватывает широкий спектр важнейших вопросов, в том числе:
- Конфиденциальность данных, полученных ИИ во время взаимодействия с пользователем.
- Управление большими данными, несмотря на действующее законодательство, такое как Федеральный закон от 27 июля 2006 г. № 152-ФЗ «О защите персональных данных». Быстрые темпы технологического прогресса требуют постоянных правовых корректировок, о чем свидетельствует почти двадцатилетний перерыв с момента принятия этого закона.
- Безопасность прав человека и ответственность за нарушения ИИ.
- Этические соображения внедрения ИИ. По мере того как общества развиваются и внедряют технологические достижения, использование ИИ проникает во все аспекты общественной жизни, включая правовые системы. Хотя использование искусственного интеллекта в законодательстве и связанных с ним процессах не является чем-то совершенно новым, его широкое внедрение остается предметом постоянных дебатов во многих странах.
При изучении международных случаев интеграции ИИ в правовые системы опыт Китая предлагает убедительную отправную точку. В течение довольно долгого времени Китай активно занимался внедрением искусственного интеллекта для оптимизации правоохранительной деятельности.
Ярким примером является проект «Умный суд», инициированный в 2015 году. Этот проект вращается вокруг консолидации информационных систем различных судов в единую базу данных, предоставляя судам беспрепятственный доступ к базам данных, поддерживаемым правоохранительными органами, такими как полиция и прокуратура [8. С. 60–62]. Проект направлен на централизацию существующих материалов, касающихся расследований, судебных процессов и других процессуальных проверок. Этот свободный доступ к базам данных значительно сократил время, необходимое судам для запроса таких материалов у полиции и прокуратуры.
С 2022 года китайские судьи обязаны консультироваться с системами искусственного интеллекта, хотя важно отметить, что концепция независимого принятия судебных решений с помощью искусственного интеллекта не обсуждается. В этом контексте ИИ выполняет определенный набор функций: проверку юридических цитат в документах на наличие и правильность исполнения, а также формирование соответствующего перечня нормативных актов (включая как законы, так и нормативные акты), применимых к тому или иному процессуальному действию. Эти нововведения в китайской правовой системе не подрывают основные правовые принципы, такие как объективность принятия решений и независимость судебной власти. Однако они вводят обязанность судей следить за системами искусственного интеллекта на предмет возможных ошибок в расчетах.
Между тем, Соединенные Штаты используют нейронные сети в несколько другом аспекте правовой системы – для сбора статистических данных. Эти данные впоследствии используются для создания профиля «криминального прошлого», а также социально-демографических характеристик человека.
Составление криминального прошлого имеет важное значение для создания полной картины человека – информации о прошлых судимостях, его участии в качестве обвиняемой стороны, подозреваемого, свидетеля и т. д. Социально-демографические характеристики, включающие такие факторы, как возраст, пол и статус занятости, имеют важное значение. затем правоохранительные органы с помощью искусственного интеллекта анализируют их вместе с криминальными историями, чтобы предсказать вероятность рецидива. Этот алгоритм идет еще дальше, предлагая потенциальные наказания, которые определяются не только тяжестью совершенного преступления, но также учитывают личностные особенности обвиняемого и любую историю предыдущих преступлений.
Однако, в отличие от китайской модели, использование систем искусственного интеллекта в правовой системе США не является обязательным; это остается на усмотрение судьи.
Возникает критический вопрос относительно объективности этого алгоритма. С одной стороны, участие ИИ облегчает учет всех смягчающих и отягчающих обстоятельств при вынесении приговора, потенциально исключая судебную предвзятость в отношении обвиняемого. С другой стороны, системы искусственного интеллекта не являются непогрешимыми, и данные, вводимые в них, не являются абсолютными. Э. А. Войниканис проливает свет на существенный недостаток подобных систем искусственного интеллекта – возможность присущей им дискриминации. Программа, анализируя вводные данные о национальности, может применять более жесткие наказания к афроамериканцам, а аналогично и к мусульманам на основании религиозной принадлежности [2. С. 586–589].
Использование ИИ в европейских странах, особенно в Германии, имеет некоторое сходство с китайским подходом к использованию ИИ для выдвижения обвинительных заключений на основе нормативных актов. Однако немецкая правовая система в настоящее время сосредоточена исключительно на обучении систем искусственного интеллекта, но еще не получила широкого внедрения.
Основная цель, поставленная немецкими судами, как подчеркивают ученые, разработавшие ИИ, заключается в том, чтобы алгоритм на основе имеющихся данных предлагал среднее наказание, адаптированное к каждому отдельному случаю. Первоначально их целевым применением является назначение штрафов [5. С. 74–79].
Несмотря на теоретическую элегантность вынесения приговоров, основанных на искусственном интеллекте, практические препятствия остаются. В то время как США представляют данные в удобном для использования формате, Германия сталкивается с трудоемкой задачей создания системы для извлечения данных из судебных приговоров.
Если переключить внимание на внутренний рынок, Россия выделяется в пятерке крупнейших инвесторов в развитие искусственного интеллекта. Указ Президента Российской Федерации от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации» определяет ИИ как совокупность технологических решений, способных моделировать когнитивные функции человека и наделенных самостоятельными возможностями. способности к обучению [3].
Мы полагаем, что немецкий подход может быть адаптирован для российской системы с некоторыми изменениями, в частности, с введением функции «пресечения незаконных мер». Первоначально систему можно было бы разработать таким образом, чтобы она представляла исключительно судебные прецеденты, основанные на конкретном рассматриваемом преступлении или правонарушении. Только тогда можно было бы создать алгоритм для генерации средних значений наказания.
С другой стороны, американская система требует создания «среднего профиля преступника». Последующий анализ позволил бы выявить характеристики правонарушителя, присутствующие в конкретной ситуации, с учетом местоположения, времени и других соответствующих факторов. Затем профиль человека будет сравниваться с этим статистическим портретом и назначаться более суровое наказание в зависимости от степени корреляции.
Таким образом, потенциальные области применения ИИ в российской правовой сфере весьма широки и включают в себя обеспечение соблюдения правил дорожного движения, системы распознавания лиц и даже составление процессуальных документов. Важно отметить, что подобные реализации ИИ пока не распространены повсеместно в России; в настоящее время они проходят проверку посредством юридических экспериментов в отдельных регионах.
Однако некоторые ученые предупреждают о потенциальной потере рабочих мест в правоохранительных органах из-за интеграции ИИ. И наоборот, другие юристы утверждают, что фундаментальные права и свободы человека могут быть гарантированы только в том случае, если правовая система признает концепцию «человека». Окончательное влияние ИИ на юристов остается непредсказуемым из-за продолжающегося развития информационных технологий. Базы данных расширяются, и из года в год создаются новые алгоритмы.
Критическое ограничение ИИ в правовом поле вытекает из самой его природы. Хотя машины могут анализировать и делать выводы, им не хватает человеческой способности к сочувствию и эмоциональной связи с жертвами, обвиняемыми и другими лицами, участвующими в судебном разбирательстве. Неспособность ИИ оценивать психологические состояния, мотивы и цели делает его неспособным по-настоящему понимать человеческое поведение. Компьютерам не хватает потребностей, эмоций и социальной ориентации, которые определяют человеческий интеллект.
Поскольку некоторые страны решаются на вынесение приговоров с помощью ИИ, законность таких решений и потенциальная ответственность выходят на первый план. Российская Федерация, учитывая перенимание практики, наблюдаемой в других странах, должна уделить приоритетное внимание законодательным мерам, определяющим допустимые и запрещенные виды использования ИИ. Установление ответственности людей за неправомерное использование таких систем имеет первостепенное значение.
Вот некоторые потенциальные ограничения, которые можно ввести, чтобы предотвратить выход решений ИИ из-под контроля и необоснованности:
- Использование вторичных алгоритмов – систем, созданных самим ИИ, – должно быть объявлено вне закона. По своей природе эти системы лишены первоначального человеческого контроля, что делает их действия непредсказуемыми.
- Должны быть созданы механизмы привлечения лиц к ответственности за незаконное манипулирование алгоритмами ИИ.
- Окончательные полномочия по принятию решений всегда должны оставаться в компетенции правоохранительных органов.
- Возможности самообучения в системах ИИ должны быть запрещены. Риск попадания в систему ложных данных требует проведения всего обучения под бдительным наблюдением квалифицированного специалиста.
- Любое решение, принятое ИИ, должно сопровождаться официальным юридическим документом, в котором излагается его обоснование.
Эти предлагаемые меры защиты ИИ должны функционировать как отказоустойчивые, гарантируя, что алгоритм останется под контролем человека. Лица, осуществляющие этот контроль, в свою очередь, должны обладать необходимыми юридическими и технологическими знаниями.
Однако предложенная концепция не лишена недостатков. Не каждый юрист может похвастаться опытом работы в сфере ИТ. Кроме того, внедрение системы контроля налагает на юристов дополнительную ответственность и увеличивает бюрократические препятствия. Это противоречит основной цели внедрения ИИ в правоохранительную деятельность – оптимизации.
Также важно признать, что не все правовые области подходят для интеграции ИИ. Потенциальные ошибки в системе могут привести к разрушительным последствиям для людей, на которых направлены ее решения.
Хотя некоторые авторы предлагают использовать алгоритмы ИИ для наложения штрафов, а не тюремного заключения, существует существенный контрапункт относительно необходимости и эффективности ИИ в правоохранительной деятельности. В основе этой дискуссии лежит важнейший вопрос обеспечения безопасности и установления ответственности в случае незаконного манипулирования алгоритмами ИИ со стороны третьих лиц.
Сотрудники правоохранительных органов должны уделять приоритетное внимание конфиденциальности данных, собираемых системами искусственного интеллекта. Сюда входят эмпирические данные, официальные данные, предоставленные отдельными лицами, и даже личная информация. Соображения безопасности в эпоху цифровых технологий имеют первостепенное значение, поскольку даже правительственные веб-сайты уязвимы для кибератак. Кроме того, необходимо поддерживать уважение к правам и свободам человека. Это включает в себя предоставление людям механизма, позволяющего оспаривать решения, принимаемые ИИ.
Федеральный закон от 27 июля 2006 г. № 152 «О персональных данных» подчеркивает необходимость обезличивания персональных данных, используемых ИИ для обработки информации. Однако в настоящее время этот процесс разрешен только в исследовательских целях, что фактически исключает его использование для непосредственного принятия решений [4].
Хотя границы для определенных прав установлены, неустанное развитие цифровых технологий требует быстрой разработки и принятия новых законов. Эти законы должны развиваться вместе с технологиями для защиты прав человека.
В не столь отдаленном будущем простое представление себя системе искусственного интеллекта может создать всеобъемлющее досье, охватывающее все: от полного имени, номера телефона и адреса проживания до эмоционального состояния, сексуальной ориентации и социального статуса. Хотя ИИ предлагает неоспоримые преимущества, возможность использования собранных данных в качестве оружия против отдельных лиц представляет собой серьезную угрозу. Общество сейчас сталкивается с критическим вопросом: готовы ли мы отказаться от некоторых наших прав ради обещания потенциально более комфортной и эффективной жизни? Искусственный интеллект, несомненно, расширяет наши возможности, но он также обладает способностью их ограничивать.