В дискуссии о потенциальных рисках, связанных с использованием технологий искусственного интеллекта (ИИ, GPT), исследователи традиционно выделяют угрозы личной и общественной безопасности, потенциальный вред жизни и здоровью, а также перспективу материального ущерба. Вероятно, к общественному риску можно отнести генеративные тексты, которые преследует любая система антиплагиат, навешивая статус - "Внимание, документ подозрительный: в документе присутствует сгенерированный текст".
Принятие подхода, основанного на оценке рисков (RBA) как на этапе разработки, так и на этапе применения систем ИИ, становится стратегической инициативой, направленной на смягчение этих выявленных рисков. Общая структура RBA включает систематическую систему управления рисками, охватывающую отдельные этапы выявления рисков, комплексную оценку рисков и последующую реализацию целевых мер по управлению рисками.
Основная цель данного исследования заключается в выявлении и выяснении взаимосвязанных факторов, которые оказывают влияние на определение уровней риска, присущих использованию систем искусственного интеллекта. Заслуживающим внимания законодательным событием в этом контексте является проект Постановления Европейского Союза под названием «О европейском подходе к искусственному интеллекту» [4], который классифицирует системы искусственного интеллекта на четыре отдельные группы в зависимости от предполагаемого уровня риска. К этим группам относятся системы искусственного интеллекта, характеризующиеся недопустимо высоким уровнем риска, в том числе занимающиеся манипулированием поведением человека и созданием социальных рейтингов. Кроме того, классификация распространяется на системы искусственного интеллекта высокого риска, такие как роботы, выполняющие функции хирургических ассистентов или участвующие в управлении и эксплуатации критической инфраструктуры. Кроме того, существуют системы искусственного интеллекта, отнесенные к категории обладающих ограниченным риском, примером которых являются чат-боты, виртуальные помощники и приложения для умного дома. Наконец, категория предназначена для систем искусственного интеллекта, которые считаются имеющими минимальный риск, включая такие приложения, как видеоигры и спам-фильтры.
Разработчики проекта Положения подчеркивают, что основными факторами, влияющими на оценку уровня риска, являются как величина потенциального вреда, так и масштабы его потенциального воздействия на неограниченное количество лиц. Хотя этот подход пользуется широкой поддержкой, мы полагаем, что определение уровней риска требует оценки вероятности материализации риска. Действительно, вероятность реализации риска зависит от множества факторов. В последующих разделах этой статьи мы углубимся в исследование того, как на уровень риска влияют такие факторы, как конкретный тип используемой технологии искусственного интеллекта, обширная сфера ее применения и положение вовлеченного разработчика. при его создании и внедрении.
Для облегчения оценки уровней риска, связанного с использованием технологий ИИ, в предложении предлагается использовать тройной корень риска — концептуальную основу, основанную на аналогах элементов, присущих классической философской модели познания, а именно «субъект — средство — объект». Этот целостный подход задуман как комплексный инструмент для оценки рисков в системах искусственного интеллекта, признающий сложное взаимодействие различных факторов, которые вносят свой вклад в сложную картину потенциальных рисков, связанных с развертыванием технологий искусственного интеллекта.
В контексте данного исследования представлена новая перспектива, смещающая акцент с традиционного субъекта познания на разработчика, который выступает независимым источником рисков в сфере технологий искусственного интеллекта (ИИ) или роботизированных систем. Одновременно происходит переопределение объекта знаний, охватывающего широкую область или сферу применения технологий искусственного интеллекта и робототехники. Эта обширная область охватывает различные сектора, включая, помимо прочего, здравоохранение, безопасность, производство, развлечения и образование. Защита важнейших благ для людей, таких как жизнь, здоровье и права собственности, зависит от конкретной области применения технологий искусственного интеллекта и робототехники. В качестве средства познания в этой парадигме выступает сама технология, характеризующаяся внутренним уровнем риска.
Рассматривая сложное взаимодействие факторов, влияющих на вероятность негативных последствий использования технологий ИИ, становится актуальным проанализировать тип технологии, сферу ее применения и статус разработчика. В статье «Подходы к гражданской ответственности разработчика технологий искусственного интеллекта: на основе классификации технологий» авторы предлагают комплексную классификацию технологий искусственного интеллекта, опираясь на различные критерии категоризации.
Первый критерий фокусируется на способности технологии автономно определять задачи и находить решения без вмешательства человека. В рамках этой концепции «слабый» или «пассивный» ИИ определяется как обладающий способностью выполнять заранее определенные задачи с ограничениями. Напротив, «сильный» или «активный» ИИ превосходит уровень человеческого интеллекта, демонстрируя способности решения проблем, аналогичные человеческому мозгу, при выполнении широкого спектра задач.
Второй критерий касается автономности технологий искусственного интеллекта, учитывая их способность функционировать без вмешательства человека. На одном конце спектра находится низкая автономность, когда системы искусственного интеллекта могут выполнять определенные программы и процедуры исключительно по команде пользователя. С другой стороны, высокая автономность означает способность выполнять назначенные программы и процедуры, не требуя активного участия пользователя. Эта детальная система классификации обеспечивает комплексную призму, позволяющую оценить разнообразный ландшафт технологий искусственного интеллекта, помогая понять их функциональные возможности и потенциальные риски, связанные с их внедрением.
Уместно отметить, что авторы в своей классификации технологий искусственного интеллекта (ИИ) условно разделяют их на две широкие категории, обозначающие низкую и высокую автономность. Однако в практических приложениях преобладает более тонкий подход, примером которого является автомобильная промышленность, где SAE International выделяет шесть различных уровней автономии, подчеркивая сложность и разнообразие в этом технологическом ландшафте.
Дальнейшая детализация обеспечивается за счет рассмотрения способности технологий ИИ осваивать новые функции без прямого вмешательства человека. В этом контексте самообучающийся ИИ выделяется своей способностью автономно приобретать новые навыки и способности, включая извлечение знаний и правил производства. Этот автономный процесс обучения выходит за рамки первоначального вмешательства разработчика, позволяя ИИ использовать полученную информацию во время последующего обучения или обновлений. Напротив, необучаемому ИИ не хватает внутренней способности приобретать новые навыки и способности без прямого вмешательства человека, что представляет собой отдельную категорию в спектре возможностей ИИ.
Четвертый критерий исследует универсальность ИИ, различая узкие и общие области применения. Узкий ИИ характеризуется заранее определенной и ограниченной сферой применения, тогда как общий ИИ действует без четко определенных границ, часто проявляясь как сложное объединение узких приложений ИИ.
Ключевым аспектом оценки технологий ИИ является наличие или отсутствие «черного ящика», подразумевающего включение программного и/или аппаратного обеспечения, предназначенного для записи информации о деятельности системы ИИ. Дихотомия здесь лежит между системами искусственного интеллекта, оснащенными черным ящиком, обеспечивающими прозрачность и отслеживаемость их операций, и системами, у которых этот компонент отсутствует, что вызывает вопросы о понятности их процессов принятия решений.
На нынешнем этапе развития технологий ИИ важнейшие критерии оценки потенциальной реализации рисков и негативных последствий вращаются вокруг таких ключевых характеристик, как автономность, способность к самообучению, универсальность и существование «черного ящика». Эти критерии отражают многогранный характер технологий искусственного интеллекта, подчеркивая необходимость всестороннего понимания их функциональных возможностей и потенциальных последствий.
В рамках данного исследования мы исключаем рассмотрение систем искусственного интеллекта (ИИ), которые представляют неприемлемо высокий уровень риска, поскольку очевидно, что на их производство и интеграцию в систему будут введены строгие правила, если не полный запрет. гражданского оборота, как это предложено в проекте Регламента ЕС.
Очевидно, что системы искусственного интеллекта, характеризующиеся способностью к самообучению, высокой автономностью, многофункциональностью и отсутствием «черного ящика», попадают в категорию систем высокого риска. Напротив, необученные системы ИИ с низкой автономностью, оснащенные «черным ящиком», относятся к категории систем ИИ с минимальным риском. Классификация систем ИИ как систем с ограниченным риском требует детального анализа, который можно осуществить с помощью матрицы, учитывающей возможные комбинации характеристик ИИ. Например, высокоавтономная, необучающаяся система, лишенная «черного ящика», может быть соответствующим образом классифицирована как система с ограниченным риском.
Интеграция систем искусственного интеллекта охватывает различные отрасли экономики, включая строительство, промышленность, транспорт, торговлю, сельское хозяйство, жилищно-коммунальное хозяйство, финансовые услуги, здравоохранение, образование и ряд других. Исследователи обычно называют области, критически важные для безопасности, такие как транспортная инфраструктура, сельское хозяйство, здравоохранение и образование, ключевыми областями, где внедрение ИИ имеет особое значение. Одновременно мы поддерживаем подход, который выступает за оценку не только сферы применения систем ИИ, но и уровня риска, связанного с конкретной деятельностью, в которой они используются.
Например, в секторе здравоохранения ИИ играет многогранную роль, помогая врачам в постановке диагноза, назначении лекарств и хирургических процедурах — деятельности, которая по своей сути связана с высоким риском. Одновременно ИИ используется для регистрации пациентов, обработки и анализа медицинских данных, а также автоматического оповещения медицинского персонала в соответствии с деятельностью, отнесенной к группе ограниченного риска. Такая детальная оценка подчеркивает важность контекстуализации оценки риска в рамках конкретной деятельности, осуществляемой в каждом секторе, обеспечивая более детальное понимание ландшафта рисков, связанных с использованием технологий искусственного интеллекта.
В сельскохозяйственном секторе системы искусственного интеллекта играют ключевую роль в сборе и анализе информации, связанной с качеством почвы, температурными условиями и условиями созревания семян. Кроме того, эти системы способствуют автоматизации различных сельскохозяйственных процессов, включая сбор урожая, борьбу с сорняками, поддержание температурного режима в теплицах и другие виды деятельности. Разумно отнести эти сферы сельскохозяйственной деятельности к группе ограниченного риска, учитывая присущую им зависимость от технологий искусственного интеллекта для оптимизации.
Транспортный сектор, который часто воспринимается как сфера высокого риска, требует детальной оценки, учитывающей конкретные виды деятельности, которые ИИ поддерживает в этом обширном секторе. Транспортная система включает в себя такие элементы инфраструктуры, как дороги, трубопроводы, аэропорты и железнодорожные станции, а также различные типы транспортных средств. Системы искусственного интеллекта играют важную роль в повышении безопасности и эффективности транспортных процессов, управлении пассажирскими и грузовыми потоками, а также предоставлении услуг по перевозке товаров и пассажиров. В этом контексте управление транспортной инфраструктурой может попасть в категорию высокого риска, а предоставление услуг может быть отнесено к категории ограниченного риска.
Решения, касающиеся критических областей или видов деятельности, в идеале должны быть поручены назначенному органу, например, регулирующим органам, контролирующим финансовые услуги в сфере финансов, или организациям, регулирующим медицинские услуги в секторе здравоохранения.
Дополнительным фактором, заслуживающим рассмотрения при оценке потенциальной реализации рисков и негативных последствий, является экономико-правовой статус застройщика. Экономическое и юридическое положение разработчика может существенно повлиять на картину рисков, связанных с внедрением технологий искусственного интеллекта.
Как отмечалось ранее, риск-ориентированный подход (ROP) представляет собой комплексную систему управления рисками, состоящую из трех основных этапов. На начальном этапе обязательным является выявление как внутренних, так и внешних рисков. Внешние риски, включающие в себя изменения экономической и политической ситуации, стихийные бедствия, экологические кризисы и т.д., находятся вне контроля отдельных компаний. И наоборот, внутренние риски, возникающие внутри конкретной компании, можно прогнозировать, оценивать и активно устранять для предотвращения их проявления. Такой многогранный подход к управлению рисками обеспечивает всестороннее понимание и смягчение потенциальных рисков в различных секторах, где технологии искусственного интеллекта находят применение.
Мы исходим из того, что стратегии, направленные на минимизацию внутренних рисков, охватывают различные аспекты, включая наличие человеческого капитала, производственного капитала, опыта реализации аналогичных проектов, наличие независимой внешней оценки посредством аудита, использование экономических методов обеспечения выполнения обязательств. Эти экономические методы могут включать такие соображения, как размер чистых активов, уставного капитала, годовой доход от реализации товаров, взносы в специальные фонды, а также другие поддающиеся количественной оценке показатели. Дополнительные параметры, такие как отсутствие судебных разбирательств и избежание налоговых санкций, способствуют надежности мер по снижению рисков. Кроме того, решающую роль в укреплении внутреннего управления рисками играет правовой статус компании, включающий организационно-правовую форму, состав учредителей, структуру собственности и другие соответствующие факторы. В конечном итоге государственные органы, осуществляющие надзор за конкретной экономической деятельностью, по своему усмотрению определяют дополнительные критерии снижения риска.
Установление нормативных требований к экономическому и правовому статусу разработчиков, занимающихся созданием ИИ-систем высокого риска, является обязательным. Эта нормативно-правовая база обеспечивает стандартизированный подход и подотчетность при разработке и внедрении передовых технологий искусственного интеллекта. И наоборот, использование систем искусственного интеллекта, попадающих в сферу минимального риска, находится в сфере гражданско-правового регулирования. При этом контрагент компании-застройщика берет на себя ответственность за самостоятельную оценку сопутствующих рисков и реализацию мер по их минимизации, отражая децентрализованный подход к управлению рисками.
При целостной оценке уровня риска, связанного с использованием ИИ, комплексное понимание возникает при рассмотрении взаимосвязанных факторов, включая тип технологии ИИ, сферу ее применения и статус разработчика. Решение этой многогранной задачи предполагает использование аналитических инструментов, таких как построение симплекса в трехмерном пространстве, а) или использование лепестковой гистограммы, б). Эти визуальные представления служат эффективными инструментами для выяснения сложных взаимосвязей между факторами риска.
Для эффективной классификации уровней риска предлагаемый подход предполагает разделение шкал оценки риска и установление отдельных категорий риска, от чрезвычайно высокого до низкого. Тогда уровень риска, связанного с конкретной технологией ИИ, можно определить областью, заключенной в симплекс, а) или треугольник. Для иллюстрации практического применения этой методологии представлен пример анализа рисков, демонстрирующий различные технологии искусственного интеллекта, используемые в различных областях приложений разработчиками с разным статусом. Эта эмпирическая демонстрация подчеркивает полезность и адаптируемость предлагаемой системы оценки рисков.
А. О. Алексеев, кандидат экономических наук, доцент, Пермский национальный исследовательский политехнический университет, начальник управления организации научных исследований
И. Е. Алексеева, кандидат экономических наук, доцент, Пермский национальный исследовательский политехнический университет
