Цифровая красная линия - Digital redlining
| Часть серии по |
| Дискриминация |
|---|
 |
Цифровая «красная линия» - это практика создания и закрепления неравенства между и без того маргинализованными группами, в частности, за счет использования цифровых технологий, цифрового контента и Интернета. Концепцией цифровой красной черты является продолжением практики красной черты в жилищной дискриминации, историческая правовая практика в датируемых США и Канады в 1930 - е года , когда красные линии были нарисованы на картах для обозначения бедных и в первую очередь черных районов , которые были признаны непригодными для ссуд или дальнейшего развития, что привело к значительному экономическому неравенству между районами. Этот термин популяризировал доктор Крис Гиллиард, специалист по вопросам конфиденциальности, который определяет цифровое выделение как «создание и поддержание технических практик, политик, педагогических методов и инвестиционных решений, которые обеспечивают соблюдение границ классов и дискриминируют определенные группы».
Хотя цифровая « красная линия» связана с цифровым разрывом и такими методами, как веб-лайнинг и персонализация , она отличается от этих концепций как часть более крупных сложных системных проблем. Это может относиться к практике, которая создает неравенство в доступе к технологическим услугам в географических регионах, например, когда провайдеры интернет-услуг решают не обслуживать определенные географические районы, потому что они считаются не такими прибыльными и, таким образом, сокращают доступ к важнейшим услугам и гражданскому участию. Его также можно использовать для обозначения неравенства, вызванного политикой и практикой цифровых технологий. Например, с помощью этих методов неравенство достигается за счет разделения, которое создается с помощью алгоритмов, скрытых от пользователя технологии; Использование больших данных и аналитики позволяет применять более тонкую форму дискриминации, которая может быть нацелена на конкретные уязвимые группы населения. Эти алгоритмические средства становятся возможными благодаря использованию нерегулируемых технологий обработки данных, которые применяют оценку к людям, которые статистически классифицируют личностные черты или тенденции, которые похожи на кредитную оценку, но являются собственностью технологических компаний и не находятся под контролем извне.
Цифровая красная линия и география
В то время как корни «красной черты» лежат в исключении населения по географическому признаку, цифровая «красная линия» применяется как в географическом, так и в негеографическом контексте. Пример обоих контекстов можно найти в обвинениях, выдвинутых против Facebook 28 марта 2019 года Министерством жилищного строительства и городского развития США (HUD) . HUD обвинил Facebook в нарушении Закона о справедливых жилищных условиях 1968 года, «поощряя, разрешая и вызывая жилищную дискриминацию через рекламную платформу компании». HUD заявил, что Facebook позволяет рекламодателям «исключать людей, живущих в определенном районе, из просмотра рекламы, проводя красную линию вокруг этого района». Дискриминация, названная HUD, включала расистских, гомофобных, эйблистских и классических сторонников. Помимо этого примера географической цифровой красной линии, HUD также обвинил Facebook в использовании информации профиля и обозначений для исключения классов людей. В обвинении говорилось: «Facebook позволил рекламодателям исключить людей, которых Facebook классифицировал как родителей; не рожденных в Америке; не христиан; заинтересованных в доступности; интересующихся латиноамериканской культурой; или широкого круга других интересов, которые тесно связаны с Справедливым жилищным фондом. Классы, защищенные законом "Несколько средств массовой информации указали на собственную историю HUD в отношении дискриминации в жилищной сфере посредством внесения в красный список, принятия Закона о справедливом решении жилищных вопросов для борьбы с внесением в него красных списков и того, как цифровая платформа воспроизводила эту дискриминационную практику.
Цифровая красная линия в географическом контексте
Хотя цифровая красная линия относится к сложному и разнообразному набору практик, она чаще всего применяется к практикам с географическим измерением. Типичные примеры включают, когда интернет-провайдеры решают не обслуживать определенные географические районы, потому что эти районы считаются не столь прибыльными, что приводит к дискриминации в отношении сообществ с низкими доходами, что в результате сказывается на доступе к важнейшим услугам и гражданскому участию. AT&T столкнулась с особым вниманием к этой форме цифровой красной черты, сообщалось, что AT&T была классической в своих предложениях широкополосных интернет-услуг в более бедных областях.
Цифровая красная линия с географической привязкой также может применяться к цифровому контенту или к распространению товаров, продаваемых в Интернете. Было показано, что географически привязанные игры, такие как Pokémon Go , предлагают больше виртуальных остановок и наград в географических областях, которые менее разнообразны в этническом и расовом отношении. В 2016 году Amazon упрекали в том, что они не предлагали свою услугу доставки в тот же день Prime для многих сообществ, которые в основном были афроамериканцами и имели доходы ниже среднего по стране. Это может повлиять даже на такие службы, как электронная почта, поскольку многие администраторы электронной почты создают фильтры для пометки определенных сообщений электронной почты как спама на основе географического происхождения сообщения.
Цифровая красная линия вне географического контекста
Хотя часто сочетается с дискриминацией, которая попадает в географический контекст; не вся цифровая красная линия является географической. Цифровая «красная черта» также относится к случаям, когда уязвимые группы населения становятся целью или исключаются из определенного контента или доступа к Интернету, что наносит им вред. Было обнаружено, что профессиональные училища и общественные колледжи, в которых обычно обучается больше рабочий класс, блокируют доступ своих студентов к общедоступному интернет-контенту, в то время как элитные исследовательские учреждения этого не делают. Использование больших данных и аналитики позволяет применять более тонкую форму дискриминации, которая может быть нацелена на конкретные уязвимые группы населения. Например, Facebook критиковали за предоставление инструментов, позволяющих рекламодателям настраивать таргетинг рекламы по этническому признаку и полу, эффективно блокируя доступ меньшинств к конкретной рекламе жилья и работы. В октябре 2019 года против Facebook был подан крупный коллективный иск о дискриминации по признаку пола и возраста в финансовой рекламе. Широкий круг потребителей может быть особенно уязвим для цифровой красной черты, когда она используется вне географического контекста. Было показано, что помимо нацеливания на уязвимые группы населения на основе традиционных и юридически признанных классификаций, таких как раса, пол, возраст и т. слабоумие, или просто идентифицированные как импульсивные покупатели или доверчивые.
Различия в сроках
Различия между веблайнингом и цифровым красным списком
Ранее проводилось различие между сетью - процессом взимания с клиентов разных цен на основе информации профиля - и интернетом или цифровым красным списком, при этом цифровая красная линия была сосредоточена не на ценообразовании, а на доступе. Еще в 2002 году энциклопедия электронной коммерции Gale выдвинула это различие, которое более широко используется сегодня: веб-лайнинг - это широко распространенная и общепринятая (или, по крайней мере, допустимая) практика персонализации доступа к продуктам и услугам способами, невидимыми для пользователя; цифровая красная линия - это когда такие персонализированные схемы, основанные на данных, увековечивают традиционные преимущества привилегированной демографии. Поскольку веб-лайнинг стал более распространенным, этот термин вышел из употребления в пользу более общего термина персонализация.
Различия между цифровым разрывом и красной чертой
Ученые часто связывают « цифровой разрыв» с « красной чертой». На практике «цифровая пропасть» рассматривается как одно из ряда последствий «красной черты», а цифровая «красная линия» - это один из множества способов сохранения или увеличения разрыва.
Критика
В отчете 2001 г. была предпринята попытка выяснить, была ли причина разрыва в доступе к широкополосному Интернету для групп населения с низким доходом и меньшинств из-за отсутствия доступа или из-за других факторов. В отчете было обнаружено, что существует «мало свидетельств того, что цифровое выделение красной черты основано на доходе или концентрации чернокожих или латиноамериканцев», но было смешанное свидетельство красной черты, основанной на областях, в которых коренное американское или азиатское население было больше.