Forwarded from The Idealist
The Guardian: цифровая антиутопия. Как компьютерные алгоритмы наказывают бедных
Что такое «цифровизация бедности» - новое модное понятие в речи прогрессивных политологов и политспикеров на Западе? Это когда размер социальной помощи, пособия по безработице, выплаты по уходу за ребёнком устанавливается индивидуально, с учётом многих факторов, причём оценку "нужды" и соответствующую выплату определяет автоматизированная система. В теории программа может максимально объективно и справедливо подойти к вопросу, но на практике такие решения могут оказаться весьма непрозрачными для конечных получателей подобной помощи. Кроме того, никакая автоматизация не является гарантией отсутствия ошибок, которые могут иметь самые печальные последствия.
«Мотка Манджи пришлось заплатить жизнью за компьютерный сбой, в ходе которого система не распознала его отпечаток большого пальца - ключ к Аадхаару. В результате ему прекратили выдавать продовольственные пайки, а 22 мая он упал возле своего дома и умер. Его семья убеждена, что Мотка умер от голода».
https://theidealist.ru/digitaldystopia/
#TheGuardian #технологии #общество #бедность #ии #компьютеры #социальнаяпомощь
Что такое «цифровизация бедности» - новое модное понятие в речи прогрессивных политологов и политспикеров на Западе? Это когда размер социальной помощи, пособия по безработице, выплаты по уходу за ребёнком устанавливается индивидуально, с учётом многих факторов, причём оценку "нужды" и соответствующую выплату определяет автоматизированная система. В теории программа может максимально объективно и справедливо подойти к вопросу, но на практике такие решения могут оказаться весьма непрозрачными для конечных получателей подобной помощи. Кроме того, никакая автоматизация не является гарантией отсутствия ошибок, которые могут иметь самые печальные последствия.
«Мотка Манджи пришлось заплатить жизнью за компьютерный сбой, в ходе которого система не распознала его отпечаток большого пальца - ключ к Аадхаару. В результате ему прекратили выдавать продовольственные пайки, а 22 мая он упал возле своего дома и умер. Его семья убеждена, что Мотка умер от голода».
https://theidealist.ru/digitaldystopia/
#TheGuardian #технологии #общество #бедность #ии #компьютеры #социальнаяпомощь
Forwarded from The Idealist
Aeon: у технологии распознавания лиц и френологии много общего
Распознавание лиц по праву можно считать уже технологией не будущего, но настоящего. В ближайшие 10 лет она будет буквально везде. Но наряду с очевидными плюсами за спиной этого эффективного инструмента скрывается зловещая тень лженаук прошлого: френологии и евгеники. Некоторые критики вообще ставят знак равенства по разрушительным последствиям между бесконтрольным распространением распознавания лиц и оборотом плутония. Конечно, камера на подъезде не убьёт вас радиацией, однако вы всё равно неиллюзорно рискуете вследствие ошибки машины оказаться, например, в списке потенциальных преступников. И дело не только в ошибках: сам подход мало того, что технологически несовершенен и научно не обоснован, так ещё и весьма неоднозначен с моральной точки зрения.
"В последние годы алгоритмы машинного обучения дают возможность правительствам и частным компаниям собирать все виды информации о внешнем виде людей. Несколько стартапов сегодня утверждают, что могут использовать искусственный интеллект (ИИ) для помощи в определении личностных качеств кандидатов на работу на основе их лиц. В Китае правительство первым использовало камеры наблюдения для выявления и отслеживания передвижений этнических меньшинств. Между тем некоторые школы используют камеры, которые отслеживают внимание детей во время уроков, засекая особенности движения лица и бровей. А несколько лет назад исследователи Сяолинь Ву и Си Чжан заявили, что разработали алгоритм идентификации преступников по форме лица, обеспечивающий точность 89,5%. Весьма напоминает идеи 19 века, в частности, работы итальянского криминолога Чезаре Ломброзо, который утверждал, что преступников можно распознать по скошенным, «звериным» лбам и ястребиным носам".
https://theidealist.ru/phrenology/
#Aeon #общество #технологии #ИИ #МашинноеОбучение #френология
Распознавание лиц по праву можно считать уже технологией не будущего, но настоящего. В ближайшие 10 лет она будет буквально везде. Но наряду с очевидными плюсами за спиной этого эффективного инструмента скрывается зловещая тень лженаук прошлого: френологии и евгеники. Некоторые критики вообще ставят знак равенства по разрушительным последствиям между бесконтрольным распространением распознавания лиц и оборотом плутония. Конечно, камера на подъезде не убьёт вас радиацией, однако вы всё равно неиллюзорно рискуете вследствие ошибки машины оказаться, например, в списке потенциальных преступников. И дело не только в ошибках: сам подход мало того, что технологически несовершенен и научно не обоснован, так ещё и весьма неоднозначен с моральной точки зрения.
"В последние годы алгоритмы машинного обучения дают возможность правительствам и частным компаниям собирать все виды информации о внешнем виде людей. Несколько стартапов сегодня утверждают, что могут использовать искусственный интеллект (ИИ) для помощи в определении личностных качеств кандидатов на работу на основе их лиц. В Китае правительство первым использовало камеры наблюдения для выявления и отслеживания передвижений этнических меньшинств. Между тем некоторые школы используют камеры, которые отслеживают внимание детей во время уроков, засекая особенности движения лица и бровей. А несколько лет назад исследователи Сяолинь Ву и Си Чжан заявили, что разработали алгоритм идентификации преступников по форме лица, обеспечивающий точность 89,5%. Весьма напоминает идеи 19 века, в частности, работы итальянского криминолога Чезаре Ломброзо, который утверждал, что преступников можно распознать по скошенным, «звериным» лбам и ястребиным носам".
https://theidealist.ru/phrenology/
#Aeon #общество #технологии #ИИ #МашинноеОбучение #френология