Нации во всем мире «скатываются в цифровую антиутопию», в которой искусственный интеллект и другие технологии используются для отслеживания, наблюдения и наказания самых бедных людей.
Филипп Алстон, докладчик ООН по вопросам нищеты, представил разрушительный отчет о том, как новые цифровые технологии меняют взаимодействие между правительствами и наиболее уязвимыми членами общества. В ходе процесса, который он называет развитием «цифровизации социальной помощи», миллиарды долларов государственных денег вкладываются в автоматизированные системы, которые радикально меняют характер социальной защиты.
Доклад Алстона о последствиях этого процесса для прав человека представлен Генеральной Ассамблее ООН накануне. В нем говорится, что ИИ имеет потенциал для кардинального улучшения жизни обездоленных сообществ, но предупреждает, что эта надежда теряется из-за постоянного стремления к сокращению расходов и «эффективности».
Крупным технологическим компаниям разрешается оставаться нерегулируемыми в «зонах, свободных от прав человека», бюджеты на социальное обеспечение сокращаются, вводятся новые штрафы для людей, которые могут быть неграмотными области цифровизации и интернета, или не имеют доступа к сети. В Великобритании, к примеру, 12 миллионов человек, или каждый пятый гражданин, не имеет необходимых навыков.
Алстон пишет, что «решающие решения о переходе в цифровую сферу были приняты министрами правительства без консультаций даже с должностными лицами департаментов, без каких-либо значительных политических дискуссий». В результате отсутствия подотчетности «в государственной социальной помощи используются цифровые технологии для выявления, преследования и наказания бенефициаров социальной помощи, особенно самых бедных и наиболее уязвимых».
Алстон, юрист из Нью-Йорка – жесткий критик неравенства в области прав человека. В июне 2018 года он вызвал серьёзное недовольство у администрации Трампа, сообщив, что она лишила миллионы людей налоговых льгот в угоду богатым. Затем он разозлил британское правительство своим ужасным докладом о бедности в Великобритании.
Теперь он может вызвать недовольство сразу нескольких правительств, которые сочтут его доклад неудобным. Он говорит, что нормальное положение дел, при котором правительства подотчетны своим гражданам, было перевернуто с ног на голову благодаря внедрению автоматизированного принятия решений и устранению человечности из систем социального обеспечения.
«В таком мире граждане становятся все более заметными для своих правительств, но не наоборот».
Отчет Алстона также направлен против техногигантов, которые, по его словам, действуют сами по себе. Цифровая революция позволила частному сектору присвоить огромные куски государственной власти почти без общественного обсуждения.
Он указывает на примеры компаний со всего мира, вовлеченных в системы социального обеспечения: дочерняя компания Net 1 Cash Paymaster Services вместе с MasterCard изначально были вовлечены в систему распределения социальных грантов в Южной Африке, которая вызывала озабоченность по поводу конфиденциальности из-за сбора биометрических данных. В Австралии Indue и Visa помогли внедрить безналичные дебетовые карты, а IBM заняла центральное место в многомиллионной системе Sams в Канаде, США, Германии и Новой Зеландии.
В докладе говорится, что во многих схемах роль и ответственность этих корпораций непрозрачны, что делает невозможным подотчетность обществу. «Горстка влиятельных руководителей заменяет правительства и законодателей при определении направлений, в которых будут двигаться общества» — пишет Алстон.
Заглядывая в будущее, докладчик ООН призывает к тому, чтобы Силиконовая долина была подотчетна государственным и общественным регуляторам. Саморегулирование, которое было разрешено в крупном технологическом секторе, особенно в основных секторах экономики, должно быть прекращено, и технологические компании должны быть «юридически обязаны соблюдать применимые стандарты в области прав человека».
Это включает в себя решение проблемы растущего использования сопоставления данных, которое используется для наказания и криминализации людей с низкими доходами, установление контроля над «усовершенствованными вариантами наблюдения, которые позволяют осуществлять круглосуточный мониторинг бенефициаров».
Доклад ООН был составлен на основе визитов Алстона в Великобританию, США и другие страны. В заключение он отмечает, что еще не поздно отказаться от одержимости слежки за бедняками.
Вместо того, чтобы причинять страдания миллионам, цифровые технологии могут быть использованы как сила добра. Они могут «обеспечить более высокий уровень жизни уязвимых и обездоленных, служить для разработки новых способов помощи. Это была бы настоящая цифровая революция в области соцзащиты».