В мире
Rus.Delfi.lv
Социальные сети заполонила беспрецедентная волна дезинформации, созданной с помощью искусственного интеллекта, накануне ноябрьских промежуточных выборов в США . Эксперты предупреждают, что многие публикации, вероятно, "проходят сквозь фильтры незамеченными", сообщает The Guardian .
Пока десятки миллионов американцев готовятся отдать свои голоса, социальные сети сократили усилия по защите избирателей от лжи, призванной повлиять на результаты выборов.
После скандала вокруг Cambridge Analytica и последовавшей за ним критики Facebook крупнейшие социальные сети усилили работу подразделений, отвечающих за доверие и безопасность. Однако затем последовала ответная реакция правых сил, опасавшихся ограничений свободы слова. Она усилилась после приобретения Илоном Маском платформы X, ранее известной как Twitter, и победы Дональда Трампа на выборах 2024 года. В результате команды, отвечавшие за безопасность контента, значительно сократились.
Искусственный интеллект упростил проведение дезинформационных кампаний как никогда прежде. При этом платформы всё чаще полагаются на ИИ, а не на вмешательство людей, при модерации контента.
"Теперь можно организовать информационную операцию с качеством, которое в 2016 году было просто недостижимо, и сделать это за очень небольшие деньги", — заявила Фрэнсис Хауген, бывшая инженер по обработке данных Facebook.
По её словам, участники недобросовестных кампаний могут обходить правила модерации, просто немного изменяя публикации при каждом новом размещении. "Можно продолжать слегка корректировать публикацию, создавая её новые варианты, и некоторые из них всё равно пройдут", — объяснила Хауген.
Избирательные штабы в Пенсильвании, Техасе и других штатах пытаются реагировать на ложные сведения, которые появляются в интернете и быстро распространяются. Однако, в отличие от предыдущих выборов, они сталкиваются с новой проблемой: к кому теперь обращаться, когда выдумки и ложь набирают обороты?
Meta Platforms, которой принадлежат Facebook и Instagram, а также X не ответили на запросы о комментариях. YouTube, принадлежащий Google, заявил, что ко всем пользователям применяются одинаковые правила.
Ложь о кандидате в Сенат распространилась на испаноязычную аудиторию
Джеймс Таларико, перспективный кандидат от Демократической партии на выборах в Сенат от Техаса, в начале октября временно прекратил предвыборную кампанию, чтобы восстановиться после гриппа. Однако в социальных сетях распространялась другая, ложная версия его отсутствия: утверждалось, что политик проходит лечение в психиатрическом учреждении в штате Огайо.
Это утверждение полностью выдумал правый провокатор, опубликовавший смонтированную таким образом телефонную запись разговора с сотрудником больницы, чтобы ввести аудиторию в заблуждение. Избирательный штаб Таларико обнародовал записи камер наблюдения, на которых кандидат находится у себя дома в Техасе. Сам политик публично заявил, что никогда не был в Огайо.
Тем не менее ложь продолжала распространяться и подогреваться в течение нескольких дней.
Институт цифровой демократии Америки (Digital Democracy Institute of the Americas, DDIA) отслеживал распространение этой истории и то, как она менялась по мере того, как её подхватывали консервативные испаноязычные СМИ. Изначально вирусная публикация ложно утверждала, что Таларико госпитализирован в Огайо. В испаноязычных материалах это превратилось в утверждение, будто он пытался покончить с собой.
Этот случай "иллюстрирует постоянную проблему противодействия дезинформации на выборах", написали исследователи DDIA.
По мере распространения ложные сообщения меняются, поэтому первоначального опровержения недостаточно, чтобы опровергнуть все появляющиеся версии истории.
По словам Роберты Браги, основательницы и исполнительного директора DDIA, социальные сети применяют свои правила более последовательно к англоязычному контенту, чем к публикациям на других языках, включая испанский.
"У компаний гораздо меньше защитных механизмов для работы с испаноязычным контентом, особенно сейчас, когда они сократили собственные инвестиции в модерацию и перешли к моделям, основанным на участии сообщества, например к системе Community Notes. Теперь, когда для значительной части модерации они используют ИИ, ещё больше публикаций, вероятно, проходит сквозь фильтры незамеченными", — сказала Брага.
Республиканец Кен Пакстон, соперник Таларико в борьбе за место в Сенате от Техаса, также выпустил в начале этого года предвыборный ролик с видео, созданным с помощью ИИ. На нём Таларико, обучающийся на пресвитерианского священнослужителя, якобы переписывает Библию.
"Думаю, жители Техаса устали от подобной лжи в политике", — заявил Таларико NBC News в сентябре. "Эти предвыборные ролики с дипфейками, созданными с помощью ИИ, ничего не добавляют к общественной дискуссии. Они не помогают прояснить, какой выбор предстоит сделать избирателям".
Дезинформация распространяется при поддержке официальных источников
Раньше группы, занимавшиеся целенаправленными атаками в интернете и распространением предвыборной дезинформации, действовали на периферии политической жизни. Сегодня их сообщения могут получать дополнительное распространение благодаря официальным государственным структурам.
Когда в публикациях на X и правых блогах утверждалось, что задержанный в центральной Пенсильвании мигрант без документов работал на местах и агитировал за кандидатку от Демократической партии Джанелл Стелсон, её сотрудники бросились опровергать ложные заявления.
Однако в это же время заявление Министерства внутренней безопасности США (DHS) усилило распространение обвинений.
"Невероятно, что Джанелл Стелсон нанимает нелегального мигранта для работы в избирательной кампании в Конгресс, да ещё и извращенца, который обнажался на публике", — заявил Чарльз Уолл, заместитель директора Иммиграционной и таможенной полиции США (ICE).
Штаб Стелсон обнародовал документы, доказывающие, что мигрант Чимобиом Адедайо Игбоджекве не занимал оплачиваемую должность в её кампании, несмотря на то что в первоначальном полицейском протоколе говорилось, что он назвался сотрудником штаба. Таким образом, обвинение было опровергнуто документально.
Тем не менее штаб республиканца Скотта Перри, соперника Стелсон, продолжает выпускать рекламу с этим утверждением.
Штаб Стелсон направил СМИ письма с требованием прекратить распространение ложных заявлений. Журналист Fox News удалил публикацию об аресте Игбоджекве за непристойное поведение из своего аккаунта в X. Активисты организации Citizens for Responsibility and Ethics in Washington подали жалобу, обвинив DHS в нарушении закона Хэтча, ограничивающего политическую деятельность государственных служащих.
"Трамп дал ясно понять, что намерен вмешиваться в выборы", — заявила Нора Бенавидес, юрист по вопросам гражданских прав и свободы слова из некоммерческой организации Free Press, выступающей за независимость СМИ. По её словам, Трамп использовал различные федеральные ведомства, включая Почтовую службу США и Министерство внутренней безопасности.
Штаб Стелсон пока не подавал прямых жалоб в социальные сети — Facebook и X, YouTube и другие платформы. Однако представитель кампании заявил, что штаб "продолжает рассматривать все возможные юридические способы борьбы с ложными утверждениями в предвыборной рекламе Перри".
Что делают социальные сети для борьбы с дезинформацией
Крупнейшие социальные платформы установили правила, регулирующие использование ИИ для распространения ложной информации во время избирательных кампаний. Однако эти правила основаны на конкретных и довольно узких определениях нарушений.
Meta требует, чтобы рекламодатели раскрывали использование синтетических изображений и контента, созданного с помощью ИИ, в политической рекламе.
Компания также автоматически маркирует изображения, созданные ИИ, если обнаруживает соответствующие метаданные Coalition for Content Provenance and Authenticity (C2PA) — коалиции, занимающейся подтверждением происхождения и подлинности контента.
Кроме того, Meta запрещает публикации и рекламу, которые искажают информацию о датах и местах голосования, юридических требованиях к избирателям, а также содержат угрозы насилия.
Однако компания практически не занимается активной модерацией политических комментариев, за исключением ограничения рекомендаций незапрошенного политического контента. Согласно анализу организации Free Press, в 2023 году Meta ослабила действовавшие ранее ограничения, разрешив обсуждения легитимности прошлых избирательных циклов.
В 2023 году YouTube также прекратил удалять контент, в котором ложно утверждалось, что президентские выборы в США в 2020 году или на других предыдущих выборах сопровождались "масштабными фальсификациями, ошибками или сбоями". Компания объяснила это тем, что удаление таких материалов ограничивало политическую речь, хотя и помогало бороться с дезинформацией.
YouTube утверждает, что все пользователи, включая политиков и избирательные штабы, обязаны соблюдать одинаковые правила сообщества и имеют доступ к одним и тем же инструментам подачи жалоб.
При этом определение предвыборной дезинформации на платформе остаётся узким. Запрещается распространять ложные сведения о времени, месте и способах голосования, требованиях к избирателям, а также утверждения, способные существенно отбить у людей желание голосовать. Под запрет также подпадают заявления о том, что кандидат, включённый в бюллетень, не имеет права участвовать в выборах, призывы взламывать компьютеры на избирательных участках и подстрекательство к насилию в местах голосования.
"Мы также тщательно рассматриваем запросы государственных органов, чтобы определить, следует ли удалять контент, нарушающий закон или наши правила", — заявил представитель YouTube.
Google располагает системой распознавания изображений и позволяет общественным деятелям обращаться с просьбой удалить видео, в котором созданное с помощью ИИ изображение ложно приписывает им определённые слова или действия. Однако ложная информация, не подпадающая под эти ограничения, может продолжать распространяться без вмешательства платформы.
Вместо того чтобы полагаться на удаление публикаций, Google предпочитает продвигать авторитетные СМИ и избирательные комиссии в поисковой выдаче, а также показывать информационные панели с контекстом под видео, затрагивающими важные общественные вопросы.
X, ранее известная как Twitter, после приобретения Илоном Маском отказалась от внутренних проверок безопасности контента, заменив их краудсорсинговой системой Community Notes, в которой пользователи добавляют пояснения к публикациям. Правила платформы в отношении гражданской добросовестности запрещают ложную информацию о голосовании и схемы, направленные на подавление участия в выборах. X также заявляет, что ограничивает распространение синтетических материалов, предназначенных для введения аудитории в заблуждение. Однако эксперты считают, что без реального контроля за соблюдением этих правил они малоэффективны.
"Когда вы больше не можете сосредоточиться исключительно на самом контенте, потому что ИИ будет лишь немного менять его, пока публикация не пройдёт проверку, нужно сосредоточиться на системах распространения информации", — сказала Хауген.
"Каковы их предубеждения? Какие механизмы обратной связи и циклы распространения существуют? Как организовать обратную связь от сообщества таким образом, чтобы можно было замедлять распространение дезинформации?"
Читайте Delfi в Facebook , Instagram и Telegram !
