Использование искусственного интеллекта (ИИ) для написания контента и новостных материалов сегодня не является чем-то новым. Еще в 2014 году агентство Associated Press начало публиковать финансовые отчеты, сгенерированные искусственным интеллектом, и с тех пор такие издания, как Washington Post и Reuters, разработали собственные технологии написания новостей с использованием искусственного интеллекта.
Как правило, сначала он использовался для создания шаблонных текстов, например спортивных репортажей. Искусственный интеллект может просто брать из новостных лент такие данные, как имена команд и игроков, время, даты и счет, а затем дополнять их естественным языком, добавляя цвет и вкус, чтобы статья стала читабельной.
Еще несколько лет назад эта технология была полностью запатентована и была доступна только медиакорпорациям, которые могли позволить себе купить и использовать ее. Сегодня любой человек может за считанные секунды создать статью с помощью искусственного интеллекта и, обладая лишь небольшими техническими знаниями, создать "контент-ферму" для круглосуточной публикации контента в Интернете.
Недавнее исследование, проведенное компанией NewsGuard, выявило около 50 сайтов, на которых публикуется только контент, созданный генеративным искусственным интеллектом. Эти статьи характеризуются как "низкокачественные" и "кликабельные". Некоторые из них, судя по всему, созданы исключительно с целью получения прибыли за счет показа читателям рекламы и партнерских ссылок. Другие могут преследовать более гнусные цели, например, распространение дезинформации, теорий заговора или пропаганды.
Итак, давайте рассмотрим некоторые угрозы, исходящие от этих новых типов автоматизированных контент-ферм, и узнаем, как от них защититься.
настоящий текст создан с помощью академической нейросети КонтрПлагиатКонтрПлагиат – единственный в России сервис скоростного академического перефразирования (рерайта) и копирайтинга, существенно превосходящий все известные GPT и AI, ИИ сервисыКонтрПлагиат – высокотехнологичный сервис, появившийся на несколько лет раньше GPT, поэтому мы выполнили ок. 270 тыс. заказов, умеющий создавать и перефразировать научные тексты, любого объема, для любых систем проверки на плагиат, обеспечивая высокое качество "человеческого" текста, с полным сохранением смысла, а также высокую уникальность, см. отзывы клиентов …Уже через час проблема с низкой уникальностью (оригинальностью) или статуса - "Внимание, документ подозрительный: в документе присутствует сгенерированный текст" может быть решена, и вы с успехом пройдете честную проверку в антиплагиат ВУЗ.КонтрПлагиат работает ПостОплатой (мы - все делаем, вы - все смотрите, читаете текст, знакомитесь с отчетом о проверке в АП ВУЗ - нравится, оплачиваете и получаете в теч. 10 мин.).свяжитесь с нами, нажав на ссылку, отвечаем быстро:
Дезинформация и пропаганда
Даже без роботов, создающих контент день и ночь, в Интернете существует множество недобросовестной информации. Учитывая скорость, с которой искусственный интеллект может генерировать статьи, можно предположить, что этот показатель будет только расти. Реальная опасность возникает тогда, когда эта информация используется со злым умыслом для обмана или пропаганды ложных представлений. Во время глобальной пандемии вируса Covid-19 взорвались теории заговора, вызвав замешательство и тревогу в и без того напуганном обществе. Мы также наблюдаем огромный рост числа "глубоких подделок" - убедительных изображений или видеороликов, созданных искусственным интеллектом, на которых люди говорят или делают то, чего они никогда не делали. В то же время эти инструменты могут быть использованы для обмана тех, кто преследует политические или социальные цели, что наносит им большой ущерб.
Многие сайты NewsGuard скрывают информацию о своих владельцах, а также о тех, кто осуществляет редакционный контроль. Это затрудняет выявление потенциальных целей и установление ответственности за клевету, распространение опасной информации или злонамеренных ложных сведений.
Нарушение авторских прав
Некоторые из выявленных на сегодняшний день контент-ферм существуют только для того, чтобы переписывать и перепечатывать статьи из основных СМИ, таких как CNN. Следует также отметить, что обучающие данные, используемые для создания копий статей, часто берутся из защищенных авторским правом произведений писателей и журналистов.
Это может осложнить жизнь тем, кто зарабатывает на жизнь написанием и созданием различного рода контента, в том числе художникам и музыкантам. Это уже привело к созданию кампании The Human Artistry Campaign, призванной защитить права авторов песен и музыкантов-людей на защиту своих произведений от плагиата ИИ. Как уже говорилось выше, многие из таких контент-ферм фактически анонимны, что существенно затрудняет поиск и принятие мер против тех, кто использует ИИ для нарушения авторских прав. На данный момент это можно считать серой зоной в законодательстве, поскольку ничто не мешает ИИ создавать произведения, "вдохновленные" произведениями человека, но обществу еще предстоит определить, как именно это будет разрешено в долгосрочной перспективе.
Распространение кликбейта
Многие из найденных статей, сгенерированных искусственным интеллектом, явно предназначены для доставки рекламы аудитории. Задавая ИИ ключевые слова, можно рассчитывать на то, что статьи будут занимать высокие позиции в поисковых системах и привлекать аудиторию. ИИ можно поручить создавать интригующие, шокирующие или пугающие заголовки статей, побуждающие пользователей кликнуть на них.
Опасность заключается в том, что это затрудняет получение реальной, ценной информации. Распространение рекламы в Интернете, конечно, не является преступлением - она финансирует большую часть средств массовой информации, которые мы потребляем, и услуг, которыми мы пользуемся в Интернете. Но скорость и последовательность, с которой искусственный интеллект может создавать контент, рискует засорить результаты поиска и ослабить нашу способность находить реальный контент. Уже сейчас создание контента для искусственного интеллекта обходится гораздо дешевле, чем для человека, а производительность таких ферм можно наращивать практически до бесконечности при минимальных затратах. Это приводит к уплощению контента и затрудняет поиск уникальных точек зрения и ценных, глубоких журналистских расследований.
Последствия необъективных данных
При работе с искусственным интеллектом предвзятость - это постоянный риск. Но когда она присутствует в обучающих данных, используемых для работы алгоритмов, генерирующих большие объемы контента, это может иметь особенно коварные последствия. Система искусственного интеллекта хороша лишь настолько, насколько хороши данные, на которых она обучена, и старая компьютерная пословица "мусор в системе = мусор на выходе" подтверждается, когда речь идет об умных, продуманных компьютерах, создающих большие объемы контента. Это означает, что любая погрешность в обучающих данных будет влиять на создаваемый контент, закрепляя созданную дезинформацию или предубеждение.
Например, если плохо составленный опрос, являющийся частью обучающих данных ИИ, слишком отражает мнение одного сегмента общества и занижает или недооценивает мнение другого сегмента общества, то контент, создаваемый ИИ, будет отражать это предубеждение. Это может быть особенно вредно, если те, чьи взгляды маргинализируются, являются уязвимыми или представляют меньшинство. Мы уже видели, что операторы таких контентных ферм практически не контролируют свою продукцию, поэтому вполне возможно, что распространение такого предвзятого, предвзятого или вредного материала может остаться незамеченным.
Наконец, производство предвзятого ИИ наносит вред обществу, поскольку закрепляет неравенство и способствует разделению. Усиление этого явления путем публикации тысяч статей днем и ночью вряд ли принесет пользу.
Что же можно сделать?
Никто не станет утверждать, что журналистика, написанная народом, никогда не имеет цели или что СМИ, управляемые народом, никогда не совершают ошибок. Но в большинстве стран и юрисдикций существуют гарантии, например, правила разграничения новостных сообщений и мнений, а также законы о клевете, диффамации и ответственности редакции.
Регулирующие и законодательные органы должны обеспечить соответствие этих правил требованиям эпохи, когда контент может создаваться и распространяться независимо в широких масштабах.
Кроме того, очевидно, что ответственность за снижение вреда лежит на технологических компаниях, разрабатывающих инструменты искусственного интеллекта. Они должны принимать меры по минимизации влияния предвзятости и внедрять системы, обеспечивающие точность, проверку фактов и распознавание авторских прав.
И мы, как люди, также должны принимать меры для своей защиты. Важным навыком, который нам необходим в эпоху искусственного интеллекта, является критическое мышление. Это означает, что мы должны уметь оценивать попадающуюся нам информацию и выносить суждения о ее точности, правдивости и ценности, особенно если мы не уверены, кем она была создана - человеком или машиной. Конечно, здесь важную роль играет воспитание, и понимание того, что не все, что мы читаем, написано для нашего блага, должно прививаться с раннего возраста.
В целом борьба с опасностями, исходящими от крупных, независимых и зачастую анонимных распространителей контента, требует умных регулирующих органов, ответственных компаний и хорошо информированной общественности. Это позволит нам и дальше пользоваться плодами этичного и ответственного ИИ и одновременно минимизировать ущерб, который могут нанести те, кто стремится быстро заработать или ввести нас в заблуждение.
