Йоель Рот, який раніше очолював відділ довіри та безпеки у Twitter, а зараз працює в Match Group, висловлює стурбованість щодо майбутнього відкритого соціального вебу і його здатності протистояти дезінформації, спаму та іншому незаконному контенту, зокрема матеріалам, пов’язаним із сексуальним насильством над дітьми (CSAM). У недавньому інтерв’ю Рот звернув увагу на відсутність інструментів модерації, що доступні у федеративному веб-просторі — відкритому соціальному вебі, який включає такі додатки, як Mastodon, Threads, Pixelfed та інші, а також інші відкриті платформи, такі як Bluesky.
Він також згадав ключові моменти в історії довіри та безпеки Twitter, такі як рішення забанити президента Трампа, дезінформацію, що поширювалася російськими ботами, і те, як користувачі Twitter, включаючи генерального директора Джека Дорсі, стали жертвами ботів.
В подкасті revolution.social Рот звернув увагу на те, що зусилля з побудови більш демократично керованих онлайн-спільнот у відкритому соціальному вебі мають найменшу кількість ресурсів, коли справа доходить до інструментів модерації.
«Якщо подивитися на Mastodon, інші сервіси на базі протоколу ActivityPub, на Bluesky в його найраніші дні і потім на Threads, коли Meta почала їх розвивати, ми побачили, що багато з послуг, які найбільше спиралися на контроль спільноти, надавали своїм спільнотам найменше технічних інструментів для реалізації своїх політик», — сказав Рот.
Він також помітив значний «зворотний крок» у відкритому соціальному вебі щодо прозорості і легітимності рішень, які були в Twitter раніше. Хоча багато людей на той момент не погоджувалися з рішенням Twitter забанити Трампа, компанія пояснила свої причини для цього. Наразі ж постачальники соціальних мереж настільки стурбовані запобіганням маніпуляціям, що рідко пояснюють свої дії.
Тим часом на багатьох відкритих соціальних платформах користувачі не отримують повідомлення про заборонені пости, а їх пости просто зникають — навіть немає жодної ознаки того, що пост колись існував.
«Я не звинувачую стартапи в тому, що вони є стартапами, або нові програмні продукти в тому, що не мають усіх функцій, але якщо головна мета проєкту полягала в збільшенні демократичної легітимності управління, а те, що ми зробили, — це крок назад у управлінні, то чи це взагалі спрацювало?» — запитує Рот.
Економіка модерації
Він також підняв питання економіки модерації і те, як федеративний підхід поки що не був сталим у цьому відношенні.
Наприклад, організація IFTAS (Незалежна Федеративна Довіра та Безпека) працювала над створенням інструментів модерації для федеративного вебу, включаючи надання доступу до інструментів для боротьби з CSAM, але закрила багато своїх проєктів через брак грошей у 2025 році.
«Ми передбачали це два роки тому. IFTAS також це побачила. Усі, хто працює в цій сфері, в основному, волонтерять свій час і зусилля, і це не може тривати вічно, оскільки в якийсь момент у людей є сім’ї і потрібно оплачувати рахунки, а витрати на обробку зростають, якщо потрібно запускати моделі машинного навчання для виявлення певних типів поганого контенту», — пояснює він.
Bluesky, в свою чергу, вирішила найняти модераторів і залучити спеціалістів з безпеки, але обмежується модерацією лише свого додатку. Крім того, вони надають інструменти, які дозволяють людям налаштовувати власні переваги модерації.
«Вони виконують цю роботу на великій масштабі. Безумовно, є місце для покращень. Хотілося б бачити більше прозорості. Але, в основному, вони роблять правильні речі», — стверджує Рот. Однак, оскільки сервіс дедалі більше децентралізується, Bluesky стикнеться з питанням про те, коли він бере на себе відповідальність за захист індивіда на шкоду потребам спільноти.
Наприклад, в разі розкриття особистої інформації, можливо, хтось не побачить, що його особисті дані поширюються в Інтернеті через налаштування своїх інструментів модерації. Але все ще повинна бути чиємусь відповідальність забезпечити ці захисти, навіть якщо користувач не перебуває на основному додатку Bluesky.
Де провести межу в питанні конфіденційності
Ще одна проблема, яка стоїть перед федеративним вебом, полягає в тому, що рішення на користь конфіденційності може перешкоджати спробам модерації. Хоча Twitter намагався не зберігати особисті дані, які йому не потрібні, він все ж збирав, наприклад, IP-адресу користувача, інформацію про доступ до сервісу, ідентифікатори пристроїв та інше. Це допомагало компанії під час проведення судових аналізів, наприклад, стосовно російських тролів.
Адміністратори федеративного вебу, тим часом, можуть навіть не збирати необхідні журнали або не переглядати їх, якщо вважають це порушенням конфіденційності користувачів.
Але реальність така, що без даних важче визначити, хто насправді є ботом.
Рот навів кілька прикладів зі свого досвіду в Twitter, зазначивши, як стало модним відповідати «бот» на будь-кого, з ким не погоджувався користувач. Він розповів, що спочатку налаштував сповіщення і вручну переглядав всі ці пости, вивчаючи сотні випадків звинувачень у «ботності», і жоден з випадків не виявився правдивим. Навіть засновник Twitter і колишній генеральний директор Джек Дорсі став жертвою, перепощуючи пости від російського актора, який претендував на те, що він Крістал Джонсон, темношкіра жінка з Нью-Йорка.
«Генеральний директор компанії сподобався цей контент, розповсюдив його, і не мав жодної можливості дізнатися як користувач, що Крістал Джонсон насправді є російським тролем», — зізнається Рот.
Роль штучного інтелекту
Однією з актуальних тем обговорення стало те, як штучний інтелект змінює ситуацію. Рот згадав недавнє дослідження зі Стенфорду, яке показало, що в політичному контексті великі мовні моделі можуть бути навіть більш переконливими, ніж люди, якщо їх правильно налаштувати.
Це означає, що рішення, яке покладається лише на аналіз контенту, не є достатнім.
Натомість компаніям потрібно відслідковувати інші поведінкові сигнали — такі як створення кількох облікових записів, використання автоматизації для публікацій або розміщення постів у незвичайні часи доби, що відповідають різним часовим поясам, — пропонує він.
«Це поведінкові сигнали, які існують навіть у дійсно переконливому контенті. І я думаю, що з цього потрібно починати», — додав Рот. «Якщо ви починаєте лише з контенту, ви вступаєте в гонку озброєнь проти найсучасніших AI-моделей, і ви вже програли.»
