Машинное обучение дало нам возможность предсказывать с достаточно большой точностью, кто станет жертвой нападок, ведь на самом деле тролли далеко не такие непредсказуемые, какими пытаются себя представить. Моя компания и другие крупные социальные медиаплатформы остро сознают, что им нужно аккуратно идти по узкой тропинке между регулированием пользовательского контента и холодной отрешенностью: именно этот показатель в наибольшей степени влияет на рыночную стоимость акций и тем самым является определяющим при принятии решений. Агрессивное вмешательство, особенно когда оно опирается на суждения, принимаемые человеком, подвергается критике со всех сторон, и всем компаниям приходится сталкиваться с обвинениями в цензуре. В конечном счете все подняли руки и отложили в сторону мудреные руководства по регулированию контента. У них нет ни умения, ни желания становиться арбитрами истины и порядочности для общества в целом. Как можно требовать от них решить проблему, с которой не могут справиться даже органы демократии?
Постепенно большинство компаний пришли к одному и тому же решению. Вместо того чтобы сосредоточиваться на оценке поведения ораторов, они потратили значительные силы на то, чтобы дать слушателям возможность самим ограждать себя. Алгоритмическое отделение законной (хотя и страстной) политической речи от целенаправленной травли
Новые защитные нейросети, представляемые на рынке как «доспехи», отслеживают эмоциональную реакцию каждого пользователя на полученный контент. Способные действовать в областях текстовой, аудио– и видеоинформации, а также искусственной и виртуальной реальности, «доспехи» самообучаются распознавать контент, вызывающий у пользователя сильную негативную реакцию, и отсеивать его, оставляя лишь нейтральный фон. По мере широкого распространения смешанной реальности и иммерсии лучшим способом использования «доспехов» становится ношение очков дополненной реальности, фильтрующих все источники зрительного восприятия. Троллинг, подобно вирусам и «червям» в прошлом, является проблемой технической – и вот теперь мы можем предложить техническое решение.
Для того чтобы получить самую надежную защиту, максимально учитывающую особенности конкретного пользователя, необходимо платить деньги. Социальные сети, которые также настраивают свои «доспехи», утверждают, что это позволяет им уйти от контроля за контентом, снимает с повестки дня необходимость решать, что неприемлемо на площадях виртуальных городов, освобождает всех от колпака цензуры в духе Большого Брата. И то, что идеалы этого заявления в поддержку свободы слова совпадают со стремлением извлекать максимальную прибыль, является чем-то само собой разумеющимся.
Я отправила брату и его семье лучшие, самые совершенные «доспехи», какие только можно купить.
ЭБИГЕЙЛ ФОРТ
Представьте себя на моем месте. Тело вашей дочери с помощью цифровых технологий встроено в откровенную порнографию, ее голос произносит слова ненависти, ее облик искажен немыслимой жестокостью. И все это произошло по вашей вине, вследствие того что вы не отдавали себе отчета в том, каким порочным может быть человеческое сердце. Могли бы вы остановиться? Могли бы остаться в стороне?
«Доспехи» сдерживали самое ужасное, а я продолжала выкладывать посты, поднимая свой голос против неудержимого потока лжи.
Предположение о том, что Хейли якобы не умерла, что она актриса, участвовавшая в правительственном заговоре, направленном на запрещение оружия, казалось настолько нелепым, что вроде бы даже не заслуживало ответа. Однако после того как мои «доспехи» начали фильтровать новостные сайты, оставляя на страницах пустые места, я поняла, что ложь спровоцировала серьезный конфликт. Уважаемые журналисты стали требовать от меня отчеты о том, как я потратила собранные для нас деньги, – и это при том, что мы не получили ни цента! Весь мир сошел с ума.
Я выложила фотографии тела Хейли, полагая, что в этом мире осталась хоть толика порядочности. Определенно, никто не станет оспаривать такие наглядные доказательства?
Стало только хуже.
Для безликой оравы интернета это превратилось в игру: посмотреть, кому удастся преодолеть мои «доспехи», кто сможет вонзить мне в глаз отравленное видео, которое заставит меня вздрогнуть и отшатнуться.
Тролли присылали мне сообщения якобы от других родителей, потерявших своих детей при терактах, а когда я заносила их в «белый» список, выплескивали на меня мерзкие видео. Они присылали мне ролики, посвященные памяти Хейли, которые, после того как их пропускали «доспехи», трансформировались в отвратительное порно. Они собирали деньги и нанимали курьеров и квадрокоптеры службы доставки, чтобы расставлять рядом с нашим домом доверительные маркеры, окружая меня порожденными дополненной реальностью призраками Хейли, корчащимися, хихикающими, стонущими, кричащими, ругающимися, издевающимися.
Хуже всего то, что они оживили изображения окровавленного тела Хейли под аккомпанемент бойкой музыки. Ее смерть стала смешным трендом, подобно «Песенке Хомяка»[20] моей молодости.
ГРЕГГ ФОРТ
Порой я гадаю, правильно ли мы понимаем, что такое свобода. Мы ценим «свободу что-то делать» гораздо больше «свободы от чего-то». Люди должны иметь свободу владеть оружием, поэтому единственное решение в том, чтобы учить детей прятаться в шкафах и носить в ранцах пуленепробиваемые пластины. Люди должны иметь свободу говорить и выкладывать в интернет все, что им вздумается, поэтому единственное решение в том, чтобы посоветовать их жертвам надевать «доспехи».
Эбигейл просто решила делать так, а мы с Эмили просто последовали за ней. Слишком поздно я стал упрашивать, умолять ее остановиться, отступиться. Мы могли бы продать наш дом и перебраться куда-нибудь подальше от соблазна схлестнуться в схватке с остальным человечеством, подальше от океана ненависти, в котором тонули.
Однако предложенные Сарой «доспехи» вселили в Эбигейл ложное ощущение безопасности, подтолкнули ее удвоить свои усилия в борьбе с троллями. «Я должна сражаться за свою дочь! – кричала она мне. – Я не могу допустить, чтобы ее память оскверняли!»
По мере того как тролли усиливали свой натиск, Сара присылала все новые и новые заплаты для «доспехов». Она добавляла такие слои, как «дополнительные средства борьбы», «самомодифицирующие распознаватели кодов» и «автовосстановители изображений».
Снова и снова «доспехи» держались какое-то недолгое время, после чего тролли находили способы их преодолеть. Свободный доступ к искусственному интеллекту означал, что им были известны все технологии, которыми пользовалась Сара, и у них имелись машины, которые также могли обучаться и настраиваться.