Наша повседневность немыслима без платформ — социальных сетей, агрегаторов такси, онлайн-доставки и всевозможных других сервисов. Но зарабатывать на платформах — значит играть по чужим правилам: ведь именно алгоритмы управляют нашим пользовательским опытом, регулируют наше поведение и оценивают, например, эффективность работников. Разбираемся, как пользователи бунтуют против ИИ и есть ли в этом сопротивлении смысл.
В 2010 году художник Джон Рафман создал видеоработу You, the World and I. В своем искусстве Рафман одним из первых стал использовать изображения улиц из Google Street View. Эта функция появилась картах от Google в 2007 году и представляла городские улицы в виде серии трехмерных панорам.
Рассказчик гуляет по цифровой копии небольшого городка в восточной Италии. Он ищет следы своей возлюбленной, таинственным образом исчезнувшей из его жизни. Оказывается, она в самом деле попала на камеры Google: зрители видят обнаженную женщину, которая стоит к ним спиной и смотрит на море. Это обнадеживает рассказчика, и он решает продолжить поиски. Но его ждет разочарование. Его возлюбленной больше нигде нет, а ее единственная фотография вскоре исчезает из Google Street View.
Сегодня мы живем в эпоху платформ — больше всего времени мы проводим в социальных медиа, контролируемых большими корпорациями. И работа Рафмана предвосхитила основные противоречия платформенного интернета.
Во-первых, платформы хранят наши данные, но зачастую мы даже не знаем, какие именно. Мы неизбежно оставляем цифровой след, даже не замечая этого. Соцсети знают о нас многое: где мы находимся, с кем больше общаемся и на какие мемы тратим больше времени. И мы даже не замечаем, когда наши данные собирают. Так же как таинственная женщина из видео Рафмана, по всей видимости, не заметила, что стала частью онлайн-панорамы.
Во-вторых, цифровой след принадлежит не тем, кто его оставил, а самим платформам. А они распоряжаются данными так, как захотят. Например, могут запросто удалить дорогой нам кусочек цифровой реальности.
То есть платформы могут вполне реальным образом влиять на жизни пользователей. Или, другими словами, имеют определенную власть над ними, пусть речь и не идет о полном контроле и подчинении.
Примеры скрытой силы платформ многочисленны. Самый безобидный пример: одним авторам цифрового контента алгоритмы персонализации помогают выйти в топы, а других отправляют в теневой бан. Еще алгоритмы влияют на общественное мнение, показывая пользователям в основном те посты, с которыми они уже и так согласны.
На платформах сегодня оказалось не только общение, но и труд. Работа таксистов и курьеров напрямую зависит от их политики: сервисы автоматически оценивают эффективность работников, а от этого зависит, сколько заказов они получат, как и то, сколько за них заплатят. Как отмечают исследователи цифрового труда из Колумбийского университета, сами работники часто считают решения алгоритмов произвольными. Им приходится подчиняться, но ИИ не объяснит, почему кто-то получает выгодные заказы, а кто-то — невыгодные.
{{slider-gallery}}
Алгоритмическая политика платформ далеко не всегда справедлива — по крайней мере, с точки зрения пользователей. Поэтому, как пишут социологи Тициано Бонини и Эмилиано Трере, пользователи придумывают способы обхода (или обмана) алгоритмов. И вы, скорее всего, с ними сталкивались. Исследователи уверены, что сопротивление алгоритмов — уже часть нашей повседневности.
В середине 1920-х поэты-сюрреалисты собирались в старом парижском особняке и изобретали новые стратегии совместного письма. Их художественные цели, как вспоминал основоположник сюрреализма Андре Бретон, были в то же время и целями политическими: сюрреалистская поэтика должна была бросить вызов не только буржуазному вкусу, но и буржуазному мировоззрению в целом.
Одна из сюрреалистских игр называлась «изысканный труп». Каждый из игроков должен был дополнить предложение одним словом, не видя предшествующего контекста. При этом все фразы строились по одной и той же синтаксической модели. Первая строчка, совместно написанная таким способом, и дала название игре: «изысканный труп будет пить молодое вино».
В сущности, эта сюрреалистская практика была первой коллективной алгоритмической игрой — еще до того, как появились компьютеры и первые программы. Целью сюрреалистов было расшатывание существующих языковых конвенций, а вместе с ними и конвенций поэтического восприятия. Но чтобы впустить в письмо элемент случайности, писать нужно было не поодиночке, а вместе — и одновременно следовать строго заданному алгоритму. Чтобы «труп» языка был по-настоящему «изысканным», случайность и правила должны работать бок о бок.
Сегодня игры с алгоритмами — это часть нашей повседневной жизни на социальных платформах. Новая валюта в платформенном обществе — видимость, как утверждают Бонини и Трере. При этом платформы зачастую следуют логике усиления существующих трендов: если пост сам по себе получает много внимания, то алгоритмы делают его еще более заметным.
Поэтому одна из тактик сопротивления алгоритмам — это сговориться и искусственно создать видимость популярности контента. В идеале это должно обмануть платформы — и они превратят локальную тенденцию в глобальную. Например, в 2018 году фанатам южнокорейской группы BTS удалось обмануть Spotify и сделать новый альбом группы еще популярнее. Фанаты группы из США создавали фейковые аккаунты в стриминге, а потом отдавали данные для входа пользователям из других стран. Те заходили в них через VPN, используя американские серверы, и слушали песни из нового альбома BTS. Только в одной из фанатских групп поддержки раздали больше 1 тыс. аккаунтов, но, похоже, это только вершина айсберга. Это сработало — он в самом деле вышел в американские топы.
{{slider-gallery}}
Еще один пример — банальный обмен лайками в Instagram*. Этим занимаются и инфлюенсеры, и простые пользователи, которые хотят, чтобы их посты получили больше видимости. Они находят друг друга и договариваются в специальных групповых чатах, которые стихийно самоорганизуются и так же быстро исчезают, пишет исследовательница медиа Виктория О’Меара. В таких группах действуют негласные правила: ее члены должны лайкать посты друг друга, даже если на самом деле они им не нравятся. А чтобы платформа не заподозрила накрутку, участники группы, как правило, отправляют ссылки друг другу по частям.
Пока что практики алгоритмического сопротивления больше напоминают старые добрые игры с алгоритмами — как у сюрреалистов. Но все становится серьезнее, когда пользователи борются не просто за внимание на платформе, но напрямую за прибыль.
Люди, ищущие работу на интернет-платформах, и так находятся в незавидном положении вечных фрилансеров: никто не оплатит им не только отпуск, но и больничный. А если на их прибыль влияют непредсказуемые алгоритмы, то все становится еще хуже.
Исследование журналистов из Rest of World, опирающееся на опрос 5 тыс. независимых работников из 15 стран Глобального Юга, показало: многие из них чувствуют тревогу и не могут быть уверены в завтрашнем дне. А еще многие профессии, которые сегодня зависят от платформ, не позволяют заработать даже прожиточный минимум. Например, работа курьером в Индонезии или Колумбии.
Поэтому для многих гиг-работников сопротивление алгоритмам — это не игра, а вопрос выживания. Но чтобы выработать рабочие тактики обмана платформ, им также приходится действовать сообща — вместе нащупывая слабости программы и обмениваясь опытом. Согласно Бонини и Трере, обмен опытом происходит, как правило, в стихийно возникающих чатах в WhatsApp. Например, в Китае таксисты договариваются не ездить в труднодоступные районы города, пока агрегатор не увеличит цену поездки; в ряде стран курьеры используют приложения-боты, которые бронируют за них самые удобные смены, как только они становятся доступными.
Разумеется, платформы регулярно обновляют правила модерации и пресекают обман. Но тогда работники совместно находят в них новые уязвимости.
{{slider-gallery}}
«Сопротивляться алгоритмам» звучит пафосно. Но на самом деле не стоит ни романтизировать сопротивление, ни недооценивать его. Тактики, позволяющие временно использовать власть платформ в свою пользу, не решают главной проблемы: наши данные все равно остаются в руках техногигантов и они делают с ними, что захотят. Проще говоря, внутреннее устройство платформ такими способами не изменить.
{{side_post1}}
Бонини и Трере проводят разницу между алгоритмической агентностью и сопротивлением. Обман алгоритмов для пользователей — это, на самом деле, способ обнаружить свое присутствие на платформе и утвердить себя не как пассивного потребителя, но как деятеля. Но чувствовать агентность и сопротивляться — это не одно и то же, как подчеркивают авторы, хотя иногда и сложно определить границу между ними. Сопротивление предполагает, что пользователь находится в угнетенной позиции — например, однозначно страдает от решений ИИ и хочет это изменить.
Сопротивление власти платформ позволяет улучшить положение пользователей здесь и сейчас. Оно схоже с концепцией рутинного сопротивления, разработанной антропологом Джеймсом Скоттом. Он изучал малайских крестьян, сопротивлявшихся эксплуатации со стороны государства в конце 1970-х. Их тактики не требовали сложной организации и подготовки. Это могло быть притворное невежество, позволявшее избегать ответственности; ложное согласие с власть имущими или просто бесконечные проволóчки.
Для того чтобы наступили полноценные изменения в нашей платформенной реальности, следует поменять даже не сами платформы, а корпоративные инфраструктуры, которые за ними стоят. Ведь, как утверждает антрополог Ник Сивер, сами алгоритмы социальных медиа — это не просто абстрактная технология. Напротив, это воплощение вполне конкретных отношений внутри больших технокорпораций и их внутренней политики.
Главный корпоративный принцип разработчиков платформ — извлечь из пользователей максимум когнитивных ресурсов. Ведь чем больше пользовательского внимания захватят платформы, тем больше прибыли они получат — и потому, что пользователи проведут в социальных сетях больше времени, и потому, что так они отдадут больше своих поведенческих данных. А данные — это новая валюта: они напрямую конвертируются в прибыль.
Алгоритмическое сопротивление поможет выжить в этой реальности, но не приведет к принципиальным изменениям.
Вероятнее всего, не придет к изменениям и другой способ сопротивления платформам, а именно отказ от использования сервисов, которые предлагают непрозрачные правила игры. Скажем, Telegram «честнее», чем Facebook*: в нем просто нет ленты, которой манипулируют алгоритмы. Сообщения от пользователей и посты в каналах просто появляются в хронологическом порядке. Или еще одна альтернатива, набирающая популярность, — Mastodon, или децентрализованный аналог X. Серверы в этой сети не контролируются какой-то одной компанией, а значит, не подчиняются общим правилам.
Единственная сложность в том, что зачастую невозможно полностью отключиться от привычной платформы, не потеряв часть контактов. А для тех, кто находит себе работу на платформах, это вопрос выживания — в непопулярном сервисе попросту не получится найти клиентов.
Стратегии сопротивления, которые освоили наиболее уязвимые работники, можно назвать платформенным активизмом. Но чтобы системно улучшить свое положение, им нужно дополнить его активизмом — технологическим и политическим. Платформа платформе рознь: какие-то из них более бережны к пользователям и честны с ними, а какие-то, наоборот, их эксплуатируют. Другими словами, изменения к лучшему возможны. Как сформулировал политический теоретик Лэнгдон Виннер, технические артефакты — это материализованный ответ на тот или иной общественный запрос. Похоже, что современные платформы этот запрос удовлетворяют, но лишь отчасти. Но в существующих технологических и корпоративных инфраструктурах нет ничего неизбежного: их можно изменить, если протест из локального превратится в глобальный и системный.
* Принадлежит корпорации Meta, признанной экстремистской и запрещенной в России.
.png)
Полина Садовникова и Мария Бессмертная воспользовались этим поводом, чтобы пересмотреть свои любимые вампирские саги в строго рабочее время. Пройдите его и узнайте, какой вы вампир.
.jpg)
