Йоель Рот, колишній керівник відділу довіри та безпеки Twitter, а нині в Match Group, висловлює свої занепокоєння щодо майбутнього відкритого соціального вебу та його здатності боротися з дезінформацією, спамом та іншими незаконними матеріалами, такими як дитяча сексуальна експлуатація. В нещодавньому інтерв’ю Рот відзначив брак інструментів модерації в федеративних платформах – відкритому соціальному вебі, який включає додатки, такі як Mastodon, Threads, Pixelfed і інші, а також інші відкриті платформи на кшталт Bluesky.
Він також згадував про важливі моменти в історії довіри та безпеки Twitter, зокрема про рішення заблокувати президента Трампа, розповсюдження дезінформації російськими ботами і те, як навіть самі користувачі Twitter, включно з генеральним директором Джеком Дорсі, ставали жертвами ботів.
На подкасті revolution.social, Рот звернув увагу на те, що зусилля зі створення більш демократично організованих онлайн-спільнот через відкритий соціальний веб зіштовхуються з недостатньою кількістю ресурсів для модерації.
«Дивлячись на Mastodon, інші служби, що ґрунтуються на протоколі ActivityPub, а також на ранні дні Bluesky, та на Threads, коли Meta почала їх розробляти, ми побачили, що багато платформ, які найбільше покладалися на контроль спільноти, надали своїм користувачам найменше технічних засобів для реалізації своїх політик», – сказав Рот.
Він також зазначив, що спостерігається “значне відкат” у питаннях прозорості та легітимності рішень, які раніше чітко дотримувалася Twitter. Хоча багато людей тоді могли не погоджуватися з рішенням Twitter заблокувати Трампа, компанія пояснила свої причини. Наразі постачальники соціальних медіа настільки стурбовані попередженням поганих акторів, що рідко пояснюють свої дії.
Між тим, на багатьох відкритих соціальних платформах користувачі не отримують повідомлень про заблоковані пости, і їхні публікації просто зникають, навіть не залишаючи слідів, що ці пости колись існували.
«Я не звинувачую стартапи за те, що вони є стартапами, або нові програми за дефіцит ідеальних функцій, але якщо мета проекту полягала в збільшенні демократичної легітимності управління, а те, що ми робимо, – це крок назад в управлінні, то чи спрацювало це взагалі?» – зауважує Рот.
Економіка модерації
Він також підняв питання економічних аспектів модерації і зазначив, що федеративний підхід поки що не забезпечив стійкості в цьому напрямку.
Наприклад, організація IFTAS (Незалежна федеративна довіра та безпека) працювала над створенням інструментів модерації для федеративного вебу, включаючи надання доступу до інструментів для боротьби з CSAM, але в 2025 році вона вичерпала свої кошти і була змушена закрити багато своїх проектів.
«Ми бачили це ще два роки тому. IFTAS це теж бачила. Всі, хто працював у цій сфері, в основному, волонтерять, а це має свої межі, адже в людей є родини і необхідність оплачувати рахунки, а витрати на обчислення зростають, якщо потрібно запускати моделі машинного навчання для виявлення певних видів поганого контенту», – пояснив він. «Це все стає надто витратним, й економіка цього федеративного підходу до довіри і безпеки так і не зійшлася в одне ціле. На мою думку, вона досі не зійшлася».
Bluesky, своєю чергою, обрала шлях найму модераторів і створення служби довіри та безпеки, але обмежується модерацією лише свого додатку. Крім того, вони надають інструменти, які дозволяють людям налаштовувати власні переваги модерації.
«Вони працюють у масштабах. Очевидно, є простір для вдосконалення. Я б хотів, щоб їхня діяльність була трохи більш прозорою. Але, в основному, вони роблять правильні речі», – додав Рот. Однак, у міру подальшої децентралізації, Bluesky постане перед питаннями про те, коли відповідальність лежить на захисті окремого користувача, а коли – на потребах спільноти.
Наприклад, у випадку з доxxінгом, можливе поширення особистої інформації про людину, яка не розуміє, що її дані потрапили в мережу, через конфігурацію її інструментів модерації. Але відповідальність за забезпечення таких захистів повинна залишатися за кимось, навіть якщо користувач не перебуває в головному додатку Bluesky.
Де провести межу на питанні конфіденційності
Ще однією проблемою, що стоїть перед федерацією, є те, що рішення на користь конфіденційності можуть перешкоджати спробам модерації. У той час як Twitter намагалася не зберігати особисті дані, які їй не потрібні, все ж таки компанія збирала такі дані, як IP-адреси користувачів, час доступу до сервісу, ідентифікатори пристроїв тощо. Ця інформація допомагала компанії під час судової експертизи в справах, пов’язаних з російськими тролями.
Адміністратори федеративних платформ, натомість, можуть не збирати необхідні логи або не переглядати їх, вважаючи, що це порушує конфіденційність користувачів.
Однак без даних важче визначити, хто дійсно є ботом.
Рот навів кілька прикладів зі свого досвіду в Twitter, зазначивши, що стало трендом відповідати “бот” кожному, з ким вони не погоджуються. Спочатку він налаштував сповіщення і вручну переглядав усі ці публікації, розглядаючи сотні звинувачень у “ботах”, і ніхто з них не був правий. Навіть співзасновник Twitter і колишній CEO Джек Дорсі став жертвою, ретвітнувши публікації російського актора, який видавав себе за Кристал Джонсон, чорношкіру жінку з Нью-Йорка.
«Генеральний директор компанії сподобався цей контент, розповсюдив його і не мав можливості дізнатися, що Кристал Джонсон насправді була російським тролем», – сказав Рот.
Роль штучного інтелекту
Однією з актуальних тем обговорення стало те, як штучний інтелект змінює ситуацію. Рот згадав нещодавнє дослідження з Стенфорда, яке показало, що в політичному контексті великі мовні моделі можуть бути більш переконливими, ніж люди, якщо вони правильно налаштовані.
Це означає, що рішення, яке покладається лише на аналіз контенту, недостатнє.
Замість цього компанії повинні стежити за іншими поведінковими сигналами – такими як створення декількох облікових записів, автоматизація публікацій або публікація в дивний час, що відповідає різним часовим зонам, – запропонував він.
«Це є поведінковими сигналами, які можна виявити навіть серед дуже переконливого контенту. І я вважаю, що з цього потрібно починати», – сказав Рот. «Якщо ви починаєте з контенту, ви вступаєте в гонку озброєнь з провідними моделями ШІ, і ви вже програли».
