Погрязшие в диктатуре

Незаметно для нас интернет стал цензурируемым пространством. Все происходило постепенно, сначала незаметно, потом все активней.

Возьмем, к примеру, Яндекс. Этот патриотичный ответ Гуглу. Только это ни разу не ответ. Ведь Яндекс появился на год раньше, чем Google. Ну да это не важно. Рассмотрим один из самых успешных проектов Яндекса сейчас – Дзен. Чем же он отличается от других направлений работы компании. А тем, что у него не иностранного прообраза. Потому что между желанием делиться знаниями у западных граждан и наших гигантская разница. Они не умеют и не хотят, а у нас многие делают это отлично. Потихонечку Дзен оттягивает на себя аудиторию ЖЖ, а тот все больше маргинализируется. Ну и слава богу. Ведь 90% статей в Дзене имеют определенную структуру, созданную по определенным гайдлайнам, направленным на то, чтобы зашедший на страницу, как можно дольше с нее не уходил. Одна из главных проблем, что из-за стилистики написания, для того, чтобы понять, что статья не содержит нужной информации – зачастую приходится тратить на ее прочтение много времени. Всему причина – монетизация. После достижения определенной популярности своих текстов, блогер может начать получать доход с площадки. Причем существует несколько схем взаимодействия. Но все они завязаны на то, что посетитель статьи как можно дольше находился на странице и просмотрел как можно больше рекламы.

Не знаю, что сейчас выше – расходы Яндекс на авторов, или доходы от рекламы, размещаемой на площадке. Но интересно тут другое. Как Яндекс устанавливая условия монетизации, манипулирует стилем написания статей тысяч авторов (всего в проекте около 40 тысяч активных писателей). Каждый автор пишет так, чтобы на его статье задержались как можно дольше, но получается так, что достигается коммулятивный эффект. Яндекс получает клиента, который долго не уходит с ресурсов Дзена, так как ему предлагаются статьи с завлекательными заголовками.

Но как быть с ситуацией, когда посетитель Дзена кликнул на ссылку и оказался на статье, которая не соответствует его ожиданиям (слишком сложные лингвистические конструкции, ненормативная лексика, мало картинок, нецепляющий текст)? Ведь пользователь может закрыть страницу, то есть уйти из пространства Дзена. Тогда Яндекс недополучит денег за просмотр рекламы. Все схвачено. Борьба с инакомыслием идет по двум фронтам: унификация формы и содержания.
Чтобы унифицировать форму текста есть много статей «Как написать правильную статью», «Как правильно сделать макияж для видео», «Какие и как использовать иллюстрации для статей» и т.д. Кроме того, у Дзена есть механизм продвижения, когда статьи получающие много внимания читателей, активней предлагаются другим посетителям. Своеобразный рейтинг, когда в ленте статьи располагаются по принципу популярности. И это нельзя никак изменить. Просто нет такой настройки. Поэтому топ ленты всегда занимают статьи, написанные по гайдлайнам Дзена, заточенные под удержание внимания широкой аудитории. Никогда статья без картинок не попадет в рекомендуемые. Эдакий стилистический социализм, вроде бы у всех равные базовые возможности, но если автор захочет писать сложными предложениями, то добро пожаловать за железный занавес безызвестности.
Но это еще не все. Кроме пряника, с помощью которого Яндекс регулирует форму статей, с борьбе с инакомыслием используется кнут. И методов контроля много. Причем в первую очередь используется ИИ. Да-да, именно машина решает, что написанное вами – недостойно. Честно говоря, я даже в не мог представить, что в эпоху автоматизации первым делом, которое доверят ИИ будет контроль над знаниями.

Давайте посмотрим шире: уже сейчас ИИ Дзена решает, что разрешить, а что запретить к публикации. То есть ИИ решает, что прочитают люди. А, на секундочку, письменные источники информации – один из столпов человеческой цивилизации. Уже сейчас, человек, проводящий много времени в Дзене, подвергает свое сознание воздействую ИИ, который указывает что человеку стоит знать.

Да, якобы в Яндексе сидят умные программисты, которые дали ИИ Дзена хорошие правила, по которым, он отфильтровывает все плохое, и дает читать все хорошее. А давайте зададим вопрос Яндексу, каким законам подчиняется ИИ Дзена? И мы не сможем получить осмысленный ответ. Ведь это коммерческая тайна. То есть никто фактически не знает, по каким законам функционирует ИИ, отвечающий за то, какие знания получают люди? Что может быть более апокалиптично?
Кто может обещать, что в один ужасный день, Яндекс не посадит ИИ Дзена на управление поисковой выдачей? А тот решит, например, что человечеству не нужны знания, к примеру о том, что в атмосфере Венеры есть азот. И просто не будет предлагат статьи и сайты, содержащие эту информацию.

Как же работает ИИ Дзена на нашем примере.

Сначала статьи, в которых в принципе упоминается Венера он допускает к публикации, однако помечает их как «неблагонадежные». Такие статьи могут просмотреть только люди, которые конкретно ищут информацию о Венере. А если человек просто решил прочитать про планеты солнечной системы такую статью не увидит. Увидев это предупреждение, блогер методом тыка (мы же помним, что точные алгоритмы секретны) устанавливает, что статья попала в «допущенные к популяризации» после того, как он убрал слово «Венера». А популярность – это просмотры и доход. Вот так и работает мягкая цензура. Автор сам по собственной воле изменяет текст про астрономию так, что в нем есть планеты: Меркурий, Земля, Марс… но нет Венеры. И этот текст запускается в активную ротацию, так как он соответствует желанию ИИ. Естественно авторов, желающих, чтобы их статья была честной и правильной, гораздо меньше, чем тех, кто хочет популярности и денег. Ведь снимается с ротации не только статья, где есть упоминание про злосчастное небесное тело, но и весь пул статей автора. Поэтому количество статей без упоминания Венеры множится, а те, где есть упоминание об этой планете мало и их не показывают читателям. И люди перестают обладать знанием о Венере. И это решил ИИ Дзена сам. Может ли читатель повлиять на сложившуюся ситуацию? Нет. Но все под контролем, ведь в Яндексе сидят не дураки, и управляют происходящим. Давайте попробуем сообщить в Яндекс, что их ИИ взбесился и не пускают в ротацию статьи с упоминанием этой планеты. Но сотрудники техподдержки Яндекса не имеют доступа к информации, по какому критерию ИИ отправил вашу статью в безвестность. Они даже не видят и не могут сообщить, из-за какой конкретно статьи вы попали в опалу. Вам просто ИИ выдал метку «неблагонадежный» и техподдержка занята лишь тем, что говорит вам привести статьи в тот вид, который понравится ИИ Дзена. А людям, которые администрируют ИИ Дзена запрещено общаться с авторами. Скайнет уже существует, и уже неконтролируем. Как скоро он станет независим?

Второй уровень контроля вступает, когда автор в статье пишет не просто о планете Венера, но упоминает, что в ее атмосфере есть азот. Такая статья не будет опубликована на Дзене в принципе. На этом этапе контролем также занимается ИИ со всем вытекающими. Причем автор тут же помечается как «неблагонадежный», другие его статьи снимаются с ротации, монетизация останавливается.

Третий уровень контроля срабатывает, если автор достаточно хитер и формулирует содержание статьи так, что избегает упоминание Венеры, говоря: «в атмосфере второй от солнца планеты более 3 процентов 7 элемента таблицы Менделеева». Так как тут нет прямых «стоп слов», то ИИ может не среагировать сразу, однако все статьи упоминанием планет и Солнечной системы он помещает в серый список, решение по которому принимает уже сотрудник. И только в этом случае есть шанс, что он пропустит на публикацию такую статью.

Ничего не напоминает? А мне очень. Ровно так обстояло дело в СССР. Талант писателя определялся умением колебаться вместе с курсом Партии, а свобода писателя оппозиционного определялась мерой владения Эзоповым языком.

Но тогда нашими умами правили люди пусть и члены КПСС. А теперь бездушный ИИ. Это не просто опасная – это категорически опасная ситуация.

В итоге я вижу две опасности: с одной стороны Яндекс может управлять знаниями людей, с другой стороны ИИ Дзена может управлять знаниями людей. Это называется цензура и она должна быть запрещена. Да я хочу видеть на книжных развалах, как в начале 90-х и историю плотской любви доярки с рулоном рубероида, и поэзию Бродского, и мемуары Ленина. У этих книг должно быть равное право быть представленными моему вниманию. А уж я сам решу, что читать.

Яндекс, обрабатывающий более половины поисковых запросов на территории России, лишает меня этой свободы. Требую запретить частной компании ограничивать доступ к информации.

Интернет уже давно не WWW, а несколько точек распространения информации. Yandex, Google, Facebook, YouTube, Wikipedia именно они, а зачастую даже их ИИ определяют, что мы знаем! Будьте осторожны. Именно механизмы Facebook и Twitter привели к поражению Трампа на выборах в США! Думаете это не работает в России – вот две статьи, которые ИИ Дзена запретил к публикации: “Враги народа?” и “Фильм «Глубже!». Напишите, как вы думаете, за что?

Поддерживайте независимый интернет!

Leave a Reply

Your email address will not be published. Required fields are marked *