За последний год искусственный интеллект прочно вошел в мировую прессу. Благодаря генеративным инструментам, таким как ChatGPT, компании разных отраслей осознали огромный потенциал искусственного интеллекта и начали применять его на практике.
Мы знаем, что ИИ сталкивается с проблемами - угрозой рабочим местам, потенциальным влиянием на кибербезопасность и кражу данных, а возможно, и угрозой выживанию человечества в целом. Однако мы не до конца понимаем все последствия. Например, в недавнем докладе Всемирного экономического форума говорится, что компании "в настоящее время могут недооценивать риски, связанные с искусственным интеллектом", и только 4% руководителей оценивают уровень риска как "значительный".
В мае компания OpenAI, оператор и исследовательская организация, создавшая ChatGPT, официально заявила, что конфиденциальность в этом сценарии не может быть гарантирована, поскольку данные загружаются в облако и могут быть доступны сотрудникам компании и другим лицам.
Это лишь один из многих примеров того, как в ближайшие месяцы компании будут закрывать дверь конюшни, когда лошадь уже убежала. Стремительное развитие этой технологии, огромный ажиотаж вокруг ее преобразующего потенциала и хорошо задокументированный эффект FOMO (Fear of Missing Out) привели к тому, что многие компании оказались не готовы к будущему.
Так в чем же заключаются опасности?
Первый шаг в управлении рисками ИИ - понять, что они собой представляют. Для предприятий они делятся на четыре категории:
Точность
Общая проблема генеративного ИИ на данном этапе заключается в том, что мы не всегда можем рассчитывать на точность его результатов. Любой, кто использовал ChatGPT или аналогичные инструменты для исследования или ответа на сложные вопросы, знает, что иногда они могут давать неверную информацию. Проверка фактов осложняется тем, что искусственный интеллект обычно не раскрывает источник информации. Ошибки или действия, основанные на ложной информации, могут легко нанести ущерб деятельности или репутации компании.
Угрозы безопасности
Эти угрозы носят как внутренний, так и внешний характер. Внутренние связаны с тем, что неосведомленные или недостаточно подготовленные пользователи могут слить конфиденциальную информацию компании или хранящуюся информацию о клиентах на платформы облачной генерации, такие как ChatGPT. Внешние угрозы связаны с тем, что генеративный искусственный интеллект позволяет хакерам использовать новые, изощренные формы социальной инженерии и фишинговых атак. В частности, генеративный искусственный интеллект используется для подделки голосовых сообщений от руководителей компаний, в которых сотрудников просят поделиться конфиденциальной информацией или раскрыть ее.
Предвзятость.
Тот факт, что системы ИИ хороши лишь настолько, насколько хороши данные, на которых они обучаются, вызывает серьезные опасения, что ИИ может влиять на необъективные результаты. Если сбор данных осуществляется необъективно (например, об определенных группах населения сообщается чаще или реже), это может привести к необъективным результатам, которые могут повлиять на принятие решений. Например, существует инструмент, который автоматически сканирует резюме кандидата и отбирает неподходящих кандидатов. Если этот инструмент не располагает достаточными данными об определенной группе соискателей, он не сможет точно оценить заявки на работу этой группы. Искусственный интеллект также может привести к неблагоприятным результатам и нанести репутационный ущерб, если он используется для ответа на запросы клиентов и для постпродажной поддержки.
Культура и доверие
Внедрение новых инструментов, технологий и процессов часто вызывает у сотрудников беспокойство. В случае с искусственным интеллектом и заменой человека это беспокойство, по понятным причинам, сильнее, чем обычно. Сотрудники могут опасаться, что системы искусственного интеллекта придут на их рабочие места и сделают их ненужными. Это может привести к беспокойству, недоверию и неудовлетворенности сотрудников. Они могут почувствовать, что их человеческие навыки менее ценны, что может привести к токсичности и увеличению текучести кадров на рабочем месте. Также могут возникнуть опасения, что некоторые системы искусственного интеллекта, например, используемые для мониторинга рабочих мест, предназначены для отслеживания или навязчивого контроля деятельности сотрудников.
Насколько компании готовы к этому?
Исследование, проведенное аналитической компанией Baker McKenzie, показало, что многие топ-менеджеры слишком самоуверенно оценивают готовность своих организаций к использованию ИИ. В частности, их беспокоят возможные последствия использования необъективных данных для принятия кадровых решений.
В отчете также предлагается рассмотреть вопрос о назначении главного специалиста по искусственному интеллекту (Chief Artificial Intelligence Officer, CIAO), который будет отвечать за оценку влияния и потенциала ИИ. До сих пор компании медленно двигались в этом направлении: только 41% компаний сообщили о наличии эксперта по ИИ на уровне совета директоров. Отметитм, очень немногие компании имеют специальную политику в отношении использования средств разработки ИИ. Зачастую в них отсутствуют рамки, обеспечивающие точность и надежность генерируемой ИИ информации, а также необъективность и прозрачность принимаемых им решений. Еще одним существенным недостатком многих организаций в плане готовности к использованию ИИ является то, что его влияние на культуру, удовлетворенность работой и доверие часто недооценивается.
Повышение готовности бизнеса
Для таких серьезных изменений в обществе, как ИИ, не существует быстрых решений, но любая стратегия должна включать разработку системы выявления и реагирования на рассмотренные здесь угрозы. Кроме того, следует обратить внимание на новые угрозы, возникающие по мере развития технологий.
Разумеется, отправной точкой должно стать назначение экспертов по ИИ на уровне совета директоров, например, CAIO или аналогичной должности. Этот человек должен не только устранять угрозы, но и обеспечивать выявление и использование возможностей. В его обязанности входит обеспечение информирования об ИИ на всех уровнях организации. Каждый сотрудник должен знать о рисках, связанных с точностью, необъективностью и безопасностью. Они также должны понимать, как ИИ влияет на их собственные функции и как он может дополнить их навыки, чтобы сделать их работу более эффективной и результативной. Компании должны стремиться к открытому и постоянному диалогу, включая разъяснение того, как ИИ повлияет на работу сотрудников, и обучение новым возможностям для тех, кто обладает навыками работы с ИИ.
В тех случаях, когда ИИ используется для сбора информации или принятия решений, необходимо разработать политику оценки точности и выявления областей деятельности, на которые может повлиять предвзятость ИИ. В частности, для организаций, использующих ИИ в больших масштабах, это может означать инвестирование в строгие системы тестирования и обеспечения качества.
Выявление и устранение киберугроз, связанных с ИИ, также будет все чаще становиться частью стратегии кибербезопасности организации. Речь может идти как о простом информировании сотрудников об угрозе фишинговых и социальных атак с использованием ИИ, так и о развертывании систем киберзащиты на базе ИИ для защиты от попыток взлома.
Наконец, компаниям следует участвовать в обсуждении с регулирующими органами и государственными учреждениями вопросов регулирования и законодательства в области ИИ. По мере развития технологии такие организации, как отраслевые органы и профсоюзы, будут участвовать в разработке и внедрении сводов правил, норм и стандартов. Организации, которые находятся на переднем крае использования технологии, должны вносить свой вклад и делиться своим опытом.
Не понимая этих угроз и не реагируя на них, любой человек или организация могут столкнуться с одним из самых серьезных рисков, связанных с искусственным интеллектом, - упустить его потенциал и отстать от более дальновидных конкурентов.
