Искусственный интеллект (ИИ) обладает способностью создавать все более похожие на человеческие тексты, изображения, музыку и видео. Были сообщения о том, что студенты использовали искусственный интеллект для мошенничества, и возникла целая индустрия по производству книг, написанных искусственным интеллектом и выдаваемых за свои собственные.
Однако известен и случай, когда преподаватель (явно некомпетентный) использовал ИИ для ложного "доказательства" того, что его студенты списывали, в результате чего все студенты не сдали экзамены.
Также недавно был случай, когда фотограф выиграл конкурс, представив на него не свои фотографии, а созданные искусственным интеллектом. В данном случае намерения фотографа были благими, и он вернул приз, когда его поведение стало достоянием гласности.
К счастью, существуют достаточно точные способы выявления работ, созданных искусственным интеллектом. В этой статье я расскажу о том, какие существуют инструменты, как они работают и почему они необходимы для обеспечения безопасности и защиты академической и художественной целостности.
Почему важно выявлять контент, созданный искусственным интеллектом?
Все более широкое распространение контента, создаваемого искусственным интеллектом, повышает вероятность того, что он может иметь вредные и опасные последствия. Ярким примером является феномен "глубоких подделок", когда реалистичные видеоизображения или реальные люди кажутся делающими или говорящими то, чего они никогда не делали. Это явление использовалось для фальсификации порнографических материалов без согласия и для вложения слов в уста политиков, в том числе Барака Обамы. На видео можно увидеть г-на Трампа (до его ареста) и Джо Байдена, поющего песню "Baby Shark" (которую он никогда не исполнял!).
Некоторые из этих действий могут показаться смешными, но если они затрагивают демократический процесс, то могут иметь пагубные последствия как для самих участников, так и для общества в целом.
Искусственный интеллект использовался для клонирования человеческого голоса в мошеннических целях. В одном случае с его помощью семью заставили поверить в то, что их дочь похитили с целью получения выкупа. В другом случае руководителя компании убедили перевести более 240 000 долларов США, когда низкий, фальшивый голос был принят за голос его начальника.
Если студенты будут использовать эту систему для списывания на экзаменах и сочинениях, это может подорвать целостность системы образования и репутацию школ и колледжей.
Все это указывает на важность принятия решительных контрмер по повышению осведомленности общественности о рисках, связанных с ИИ, и, по возможности, по их выявлению или даже предотвращению. Без этих мер ИИ может привести к широкому распространению дезинформации, манипуляций и причинению вреда. Что же можно сделать?
Методы обнаружения контента, созданного ИИ
К счастью, существует ряд методов обнаружения контента, созданного искусственным интеллектом.
Во-первых, существуют цифровые инструменты, использующие собственные алгоритмы ИИ для определения того, были ли текст, изображения или видео созданы с помощью ИИ.
В Интернете можно найти несколько свободно распространяемых детекторов ИИ-текста. ИИ-детектор контента заявляет об уровне достоверности 97,8% и может исследовать любой текст на наличие признаков того, что он написан не человеком. Для этого детектор обучается методам и моделям, используемым такими инструментами, как ChatGPT и другими большими языковыми моделями для генерации текста. Затем он сравнивает эту информацию с полученным текстом и пытается определить, является ли этот текст естественным человеческим или созданным искусственным интеллектом.
Это возможно потому, что содержание ИИ относительно предсказуемо для компьютера, поскольку основано на вероятности. Это означает, что понятие "недоумение" может быть использовано для определения того, использует ли текст высоковероятный язык. Если в тексте постоянно используется наиболее вероятный язык, то вероятность того, что он был создан ИИ, очень высока.
Если текст очень правдоподобен, его можно проверить с помощью нескольких детекторов ИИ. Другими полезными инструментами являются Writer AI Content Detector и Crossplag.
Для выявления фальшивого контента несколько компаний, в том числе Facebook и Microsoft, сотрудничают в рамках проекта Deepfake Detection Challenge. В рамках проекта регулярно публикуются наборы данных, которые могут быть использованы для обучения алгоритмов обнаружения. На портале Kaggle, посвященном науке о данных, пользователи соревнуются в поиске наиболее эффективных алгоритмов.
К борьбе с искусственным интеллектом подключились и военные организации, осознавшие, что видео и изображения, созданные искусственным интеллектом, могут представлять угрозу национальной безопасности. Агентство перспективных оборонных исследовательских проектов Министерства обороны США (DARPA) разработало инструменты для определения того, были ли изображения созданы или обработаны искусственным интеллектом. Один из таких инструментов называется MediFor и работает по принципу сравнения изображений, созданных искусственным интеллектом, с реальными изображениями с целью поиска характерных особенностей изображения.
Наконец, нельзя игнорировать роль человеческого мнения и критического мышления при распознавании контента с помощью искусственного интеллекта. У человека есть "интуиция", которая, хотя и не является безошибочной, может помочь определить подлинность. Критически оцените и примените то, что мы знаем: мог ли Джо Байден действительно создать видеоролик, на котором он поет с детенышем акулы? - Важно сделать это и не возлагать всю вину на машину.
Является ли будущее обнаружения искусственного интеллекта гонкой ИИ?
То, что мы наблюдаем сейчас, может быть лишь начальной стадией "гонки вооружений", поскольку ИИ становится все более эффективным в создании реалистичного контента, а разработчики средств обнаружения пытаются угнаться за ним.
Борьба будет вестись не только между технологами. По мере того как влияние на общество будет становиться все более очевидным, правительства и общественные организации поймут, что им предстоит сыграть важную роль в качестве законодателей, просветителей и хранителей "правды". Наша способность принимать взвешенные решения во всех областях жизни - от политики до науки - будет поставлена под угрозу, если станет ясно, что мы больше не можем доверять тому, что читаем, смотрим и слушаем.
Технологические решения, человеческая оценка, осознанный надзор и, при необходимости, нормативное и законодательное вмешательство будут нашей лучшей защитой от этих новых вызовов.
