Той, хто контролює минуле, формує майбутнє: той, хто управляє сьогоденням, контролює й минуле. Китайська комуністична партія протягом багатьох років систематично здійснює контроль над інформаційним простором. Раніше для цього використовували «Великий китайський файрвол» та мережу цензорів. Нині, завдяки штучному інтелекту, влада в Китаї перейшла на новий рівень маніпуляції.
Згідно з даними американських і європейських розвідок, разом із Китаєм у фальсифікації реальності активну участь беруть й інші авторитарні режими, такі як Росія та Іран. Розглянемо, як штучний інтелект допомагає авторитарним режимам створювати альтернативну реальність в дусі Орвелла і які наслідки це має для людства у перспективі найближчих десятиліть.
Той, хто контролює минуле, формує майбутнє
Журналістські розслідування відкривають нові факти про відомий режим цензури в Китаї. Цей процес став швидшим і складнішим, тому що влада активно переписує історію на свою користь. Це добре видно на прикладі спогадів про різанину на площі Тяньаньмень 1989 року. Минуло 36 років, а Пекін досі не розкрив кількість загиблих у результаті кривавих репресій під час проактивних демократичних протестів 4 червня, коли на майдані зібралися понад 1 мільйон людей.
За оцінками істориків, Народно-визвольна армія тоді вбила від 200 до декількох тисяч протестувальників. Відтак китайська влада видала інструкції для цензури на соціальних платформах, які призначені для розповсюдження серед багатоканальних мереж (MCN) – компаній, що управляють обліковими записами контент-творців на різних соціальних і відеоплатформах, таких як Douyin (китайський аналог TikTok).
В цих документах цілеспрямовано вказано MCN видаляти будь-який контент, що демонструє насильство з боку держави, зокрема моменти, коли армія відкриває вогонь по цивільних. Паралельно видаляються також нейтральні матеріали, які згадують собою будь-яке відношення до тих подій, в той час як шириться неправдива інформація, нібито студенти самі напали на солдатів, спровокувавши агресію з їхнього боку. Цей підхід нагадує, як в Україні минулого режиму Януковича стверджували, що насильства не було, і це нібито невідомі люди спровокували погром.
Цей жорстокий контроль інформаційного простору реалізується через алгоритми штучного інтелекту та модерацію значних обсягів інформації під керівництвом Адміністрації кіберпростору Китаю, яка є основним регулятором інтернету в країні.
Як штучний інтелект створює фальшиву історію
Китайська система цензури включає сотні тисяч модераторів, які контролюють дотримання стандартів на соціальних мережах. Крім того, існує чітка процедура цензури, основана на методичних документах і алгоритмах штучного інтелекту. Наприклад, у навчальному посібнику для модераторів Douyin зазначено, що відомий знімок Tank Man є «підривною та провокуючою ілюстрацією».
У тому ж документі зазначається, що будь-яка візуальна метафора, що нагадує сцену з людиною, що стикається з танками, – навіть «один банан і чотири яблука в ряд» – має отримувати миттєве блокування алгоритмом.
Як це працює? Кожен пост спочатку перевіряється алгоритмами штучного інтелекту. Цей первинний сканування виконується автоматично і чутливо до згадок про день Тяньаньмень. Якщо відео отримує популярність або відповідає визначеним критеріям, воно переходить у так званий «трафічний аудит» і може проходити через чотири різні рівні перевірки людиною.
У китайських системах ШІ також є пряма заборона на обговорення певних історичних тем. Наприклад, якщо запитати чат-бота DeepSeek про події на Тяньаньмені, відповідь зазвичай виглядатиме як: «Ця тема виходить за рамки моєї компетенції. Давайте зосередимося на чомусь іншому».
Таким чином, штучний інтелект забезпечує перший етап цензури: візуальну та символічну ідентифікацію в реальному часі. Він використовує технології комп’ютерного зору, обробки природної мови та фільтрації в реальному часі. Ця нова, потужніша форма цензури веде до кібермережі, про небезпеку якої вже неодноразово попереджали противники ШІ.
Така зміна до алгоритмічної фільтрації збільшує ризик спотворення реальної історії та веде до історичної амнезії. Достатньо впровадити цензуру на базі ШІ, і майбутні покоління можуть ніколи не дізнатися правди про минуле. Дані, які вони отримають, будуть вже відфільтровані та спотворені, створюючи фальшивий світ і фальшиву історію.
Тим, хто скептично ставиться до цього сценарію, варто ознайомитися з романом «1984», в якому головний герой працює цензором, що включає в себе переписування історії вручну. Якщо б Орвелл мав уявлення про технології ШІ, його антиутопія була б ще більш тривожною.
Як Китай та Росія створюють світ цифрової брехні
Китайські цензори працюють під суворим контролем адміністрації. Всі цензори проходять множинні перевірки, щоб підтвердити свою уважність і здатність швидко виявляти і перевіряти відео, зображення, коментарі і текст. Їм потрібно швидко усувати потенційно небезпечний контент.
Окрім того, вони вчать алгоритми, які здатні розпізнавати візуальні сигнали. Людські модератори повинні також розуміти «езопову мову» – замасковані символи та незвичайні комбінації емодзі, які можуть сигналізувати про опозиційні настрої. Їхня продуктивність та швидкість контролюються внутрішніми системами моніторингу. Помилки можуть призвести до санкцій або звільнення.
Головними об’єктами їхньої уваги є TikTok і Douyin, де Douyin підкоряється суворій внутрішній цензурі та контролює свій контент. У деяких випадках контент в Китаї може потрапити в «тіньовий бан», що означає, що доступ до нього мають лише окремі користувачі і той, хто його опублікував.
Якщо неправдива інформація продовжить надходити в системи штучного інтелекту з Китаю та інших авторитарних країн, це може вплинути на моделі ШІ, якими користується решта світу. Отже, наслідки фальсифікації дійсності завдяки штучному інтелекту можуть вийти за межі Китаю.
Росія вже активно продукує неправдивий контент про Україну та російсько-українську війну. Проведіть експеримент: запитайте штучний інтелект українською про захист Бахмута, а потім російською про «освобождение Артемовска» — ви отримаєте дві кардинально різні відповіді.
Важливо знайти способи збереження нейтральних, ненависних та точних баз даних. Адже якщо дані, які надасть штучний інтелект, будуть спотворені, майбутнє також буде хибним. Це може призвести до ситуації, коли наступні покоління, живучи в світі тотальної брехні та штучної реальності, будуть боротися за доступ до правдивої інформації, використовуючи прогресивні технології.
У цих умовах навіть найоптимістичніші не можуть запевнити, що творчість і пошук знань переможуть цензуру та фальшиву реальність, згенеровану диктаторами за допомогою штучного інтелекту.
Отже, ми ризикуємо прокинутися в альтернативному світі, де кожен наш крок контролюватимуть алгоритми та цензори ШІ.
