Компания OpenAI обнаружила пять значительных онлайн-кампаний, в которых генеративный ИИ применялся для манипулирования общественными мнениями и воздействия на мировую политику.
Согласно The New York Times, эти кампании включали Россию, Китай, Иран и Израиль, использовавшие передовые технологии для различных целей, от создания контента в социальных сетях до улучшения программного обеспечения.
Общие Сведения
В OpenAI отметили, что их инструменты были задействованы в кампаниях влияния, которые исследователи отслеживали в течение многих лет. Среди таких операций были российская операция Doppelganger и китайская операция Spamouflage.
Российская Кампания Doppelganger
Группа Doppelganger применяла разработки OpenAI чтобы создавать антиукраинские комментарии, размещенные на платформе Илона Маска X на нескольких языках, включая английский, французский, немецкий, итальянский и польский. Эти комментарии были предназначены для распространения дезинформации. Они должны били изменить общественное мнение в пользу Российской Федерации.
Использование Инструментов OpenAI
С помощью разработок стартапа OpenAI также осуществлялся перевод и редактирование различных статей, которые поддерживают Россию в конфликте с Украиной. Антиукраинские новости преобразовывались в посты на Facebook, что позволяло достигать более широкой аудитории и усиливать влияние кампании.
Неизвестная Российская Кампания
Помимо этого сервис OpenAI также нашел применение в одной российской онлайн-кампаниq, которая ранее была неизвестной. Она была нацелена на общество в Украине, Молдове, Прибалтике и Соединенных Штатах Америки. Распространение нарративов осуществлялось в экосистеме Telegram.
ИИ использовался для создания комментариев на русском и английском языках, обсуждающих войну в Украине, политическую ситуацию в Молдове и американскую политику. Кроме того, технологии OpenAI применялись для оптимизации программного кода, предназначенного для автоматической публикации информации в Telegram.
Китайская Кампания Spamouflage
Китай использовал технологии OpenAI для отладки кода, анализа социальных медиа и исследования актуальных событий. Эти инструменты также применялись для создания постов в социальных сетях, направленных против критиков китайского правительства.
Посты создавались с целью дискредитации оппонентов и пропаганды официальной позиции китайского правительства, что помогало укреплять их влияние как внутри страны, так и за её пределами.
Иранская Кампания
Иранская кампания, связанная с группой под названием Международный союз виртуальных медиа, использовала инструменты OpenAI для написания и перевода длинных статей и заголовков. Эти материалы распространяли проиранские, антиизраильские и антиамериканские взгляды в интернете.
Создание и перевод контента с использованием генеративного ИИ позволяли иранским кампаниям быстро реагировать на международные события и адаптировать свои сообщения для различных аудиторий.
Израильская Кампания Zeno Zeno
Израильская кампания, названная OpenAI как Zeno Zeno, была организована фирмой, занимающейся политическими кампаниями. Эта фирма использовала технологии OpenAI для создания фальшивых персонажей и биографий, чтобы заменять реальных людей в социальных сетях.
Основная цель состояла в публикации антиисламских сообщений в социальных сетях Израиля, Канады и США, что помогало формировать общественное мнение и продвигать определённые политические позиции.
Исследование OpenAI подчеркивает важность мониторинга и анализа использования генеративного ИИ в глобальных информационных кампаниях. Выявленные случаи показывают, как мощные технологии могут быть использованы для манипуляции общественным мнением и влияния на политические процессы по всему миру.
