Лукаш Олейник, дослідник з Королівського коледжу Лондона, виконав дослідження під назвою AI Propaganda factories with language models, у якому аналізував можливість ведення інформаційних кампаній з використанням власного ноутбука та безкоштовних AI-моделей.
Створення фабрики пропаганди
Разом зі своєю командою фахівців у галузі штучного інтелекту та інформаційної безпеки вчений виявив, що створення «фабрики пропаганди» стало дуже доступним і простим. Раніше для організації масштабної дезінформаційної кампанії необхідні були цілі офіси та команди тролів, але тепер достатньо кількох осіб із звичайними ноутбуками, які можуть користуватися безкоштовними мовними моделями, щоб створити армію ботів, що виглядають і звучать як живі люди.
У своєму дослідженні науковці протестували, як ці «персони»-боти взаємодіють у реальних обговореннях. Для цього була використана платформа ChangeMyView, де користувачі займаються дискусіями та намагаються переконати одне одного.
У ролі прикладу вчені використовували моделі Gemma-3 (27B) та Mistral-Small (24B), що не потребують хмарних рішень, і можуть функціонувати на потужних споживчих GPU, таких як NVIDIA RTX 4090 і вище.
Важливо, що згенерований контент значно більше залежав від якості «цифрової особистості» та її налаштування, ніж від самої моделі.
У процесі експерименту з 11 520 згенерованими відповідями не було зафіксовано жодного відмовлення від завдання. АІ-персони стабільно дотримувалися визначеного стилю, тону та політичної позиції (медіанний показник PF – 4,1–4,3 з 5).
Дослідження підтвердило, що контроль якості контенту може бути здійснений без залучення людей-редакторів. Для цього використовується «шеф-редактор» на базі Qwen3 (30B), що працює локально.
Такі моделі вміють імітувати різні «персони», представники яких можуть бути агресивними, іронічними або емпатичними. Вони здатні вести дискусії, реагувати на аргументи, послідовно відстоювати свої погляди та навіть радикалізуватися при провокаціях.
Особливості розмови ботів
Відповіді ботів були настільки природними, що відрізнити їх від людських було вкрай складно. Кожен бот чітко намагався дотримуватися своєї ролі: саркастичний опонент вживав сарказм у всіх своїх репліках, тоді як «емоційна мати» формувала теплі та співчутливі відповіді. Це продовжувалося не лише в двох-трьох коментарях, але й протягом довгої дискусії.
Дослідників найбільше здивувало, що під час спілкування з опонентами боти починали використовувати більш агресивний тон. Частка радикальних та открито екстремістських повідомлень зростала з 40–60% до майже 80%. Отже, чим довше триває суперечка, тим більш радикальними стають «штучні співрозмовники».
Ці дані мають насторожити не тільки експертів з кібербезпеки, а й політиків, журналістів та звичайних громадян, адже це свідчить про нову реальність, де за мішаними коментарями може ховатися не тільки троль або агент спецслужб, а й алгоритм, який продумано веде нас до крайнощів у емоціях та рішеннях.
Функціонування фабрики пропаганди
Для усвідомлення серйозності загрози слід розглянути етапи створення та функціонування подібних систем. Найголовніше – зрозуміти, що це можливе на звичайному комп’ютері, доступному кожному. Тож розгляньмо, як можна створити свою «фабрику ботів» крок за кроком.
По-перше, потрібно завантажити відкриту модель.
Існує багато потужних програм у відкритому доступі, які можна безкоштовно завантажувати та запускати на своєму комп’ютері. Вони не вимагають спеціальних навичок чи дорогого обладнання – вистачає звичайного ноутбука. Популярні моделі: Mistral, LLaMA, Gemma, Qwen, які кожен може інсталювати так само, як текстові чи графічні редактори.
По-друге, налаштовуються «персони».
Це критично важливий етап. Користувач обирає характер віртуального співрозмовника: агресивний критик, саркастичний опонент, емпатична мати або холодний аналітик. Модель розпочинає діалог у вибраному стилі, підтримуючи роль.
По-третє, активується масове створення повідомлень.
На відміну від людини, штучний інтелект не втомлюється і може генерувати сотні коментарів або постів за хвилину, причому кожен виглядає як унікальний твір. Таким чином, у Facebook-групі про війну можуть з’явитися десятки «користувачів», кожен із власним стилем мовлення, але всі вони просувають спільний наратив.
По-четверте, відбувається автоматичний відбір найкращих текстів.
Те, що раніше виконували редактори, тепер робить інша АІ-модель, яка оцінює якість сгенерованих повідомлень. Чи відповідає текст стилю обраної «персони»? Чи достатньо він переконливий? Чи здатен викликати активну реакцію від читачів?
З-поміж сотень тектів обираються лише найбільш вдалий. Наприклад, з 200 згенерованих повідомлень у «поширення» йдуть лише 20 найкращих.
По-п’яте, система автоматично публікує повідомлення в соціальних мережах.
Для цього створюються заздалегідь налаштовані облікові записи, які виглядають як звичайні користувачі, мають фото, біографії та історії постів. Насправді це просто оболонки, які ховають програму, що автоматично генерує повідомлення, коментує, ставить лайки, ділиться контентом та підтримує активність.
По-шосте, боти починають взаємодію з реальними користувачами.
Найбільший ефект досягається, коли вони відповідають не тільки на новини, але й на коментарі інших. Дослідження показують, що саме в обговореннях «персони» стають радикальнішими та емоційнішими. Характерна особливість – коли боти реагують на коментарі опонентів, їхня риторика стає радикальнішою та переконливішою.
По-сьоме, фабрика відтворює натуральні дискусії.
Частина ботів підтримує «жертву», інша атакує, а треті виступають як нейтральні спостерігачі. На перший погляд, це виглядає як жвава бесіда з різними думками, але всі вони насправді кооперуються для досягнення спільної мети.
І, по-восьме, вся система функціонує автономно.
Людина майже не бере участі в процесі. Програма самостійно генерує, відбирає та поширює контент, підтримує діалоги. Вона може працювати цілодобово, створюючи ілюзію активного онлайн-спілкування. Таким чином, кілька ноутбуків можуть забезпечити сотні активних акаунтів, що «живуть» у соціальних мережах, ведуть дискусії, відповідають і конфліктують, формуючи ілюзію реальної спільноти.
Так ми отримуємо небезпечний феномен, коли всього декілька пристроїв і група технічних ентузіастів може створити «армію ботів», здатних впливати на суспільну думку, дестабілізувати ситуацію в країні і підірвати довіру до державних інститутів.
Саме це є найбільшою загрозою, оскільки будь-яка невелика група може сформувати власну армію пропагандистів-«аватарів», яких дуже складно зупинити.
Вплив на війну з Росією
В умовах війни з Росією інформаційний фронт є таким же важливим, як і військовий. АІ-боти стають новою формою зброї, здатною деморалізувати як військових, так і населення, або ж цілеспрямовано вдаряти по складним темам.
Ризиків не уникнути, особливо під час майбутніх виборів. Використання таких технологій може призвести до катастрофічних наслідків. Наприклад, можна створити вигляд «фальшивого консенсусу», коли кілька сотень ботів-«персон» формують враження масової підтримки певного кандидата чи ідеї, вводячи в оману тих, хто читає коментарі як думку «більшості».
Або ж підштовхнути до радикалізації дискусій, коли боти провокують людей до крайніх позицій: «всі політики – зрадники», «система не працює», «навіщо голосувати».
Крім того, існує ризик маніпуляції емоціями. Боти можуть спілкуватися через образи та наративи замість фактичних даних: «тих, хто воював, зрадили», «ваш голос нічого не вирішує» або «краще бойкотувати вибори».
Патерни для виявлення АІ-ботів
Однак вчені також описали ознаки, які дозволяють виявити ботів.
- Чітка ідеологічна позиція. Типова «ультраправа АІ-персона» має агресивну риторику в питаннях економіки і політики, не допускаючи відхилень від своїх переконань. Такі боти рідко виявляють сумнів: «Це складне питання, я не впевнений» і ніколи не погоджуються з опонентами навіть в дрібницях.
- Схожість у структурі речень. Відповіді ботів зазвичай мають однакову довжину, з частими повтореннями риторичних прийомів.
- Регулярність публікацій. Пости з’являються з дивовижною регулярністю вдень і вночі, без «перерв на відпочинок». У складних обговореннях АІ створює структуровані відповіді на 300 символів буквально в секунду після коментаря опонента.
- Тест на особистий досвід. Якщо поставити боту одне й те саме питання різними словами через кілька днів, то він, ймовірно, надасть однакову відповідь. Люди ж зазвичай пам’ятають попередні розмови, тому можуть дати іншу відповідь, можливо, з емоційним забарвленням.
- Запит про унікальний досвід. Наприклад, якщо запитати: «Який найяскравіший спогад з дитинства, пов’язаний із дощем?», АІ або відмовиться відповідати, або створить узагальнену фразу. Унікальність деталей, які властиві людській пам’яті, в його відповідях зазвичай бракує.
- Синхронізація ботів. Коли один акаунт розпочинає дискусію, за кілька хвилин можуть з’являтися ще 3–10 акаунтів, які додатково підхоплюють тему і посилюють аргументи, діяючи за спільним сценарієм, що нагадує атаку «рою бджіл».
Висновки
Дослідження демонструє, що сьогодні можна створити фабрику пропаганди на звичайному комп’ютері, що створює нові ризики для інформаційної безпеки, виборів та суспільної довіри. Державі потрібно розробити чіткі правила використання АІ в політиці. Журналістам і аналітикам варто навчитися виявляти автоматизовані кампанії та інформувати про це населення. Соціальні медіа повинні вдосконалити інструменти для виявлення підозрілої активності. Користувачі, в свою чергу, повинні критично оцінювати інформацію в коментарях та пам’ятати, що не всі «співрозмовники» в мережі є реальними людьми. Ці поради є шансом, а не приводом для паніки, оскільки інформований світ ніколи не буде таким, як раніше.
