maybe_elf 14 апр 2021 в 12:02

Житель Детройта судится с полицией из-за ареста на основании данных системы распознавания лиц

2 мин

8.4K

Информационная безопасность*Обработка изображений*Машинное обучение*Искусственный интеллект

+22

Комментарии 53

Angmarets 14 апр 2021 в 12:07

Сама запись была некачественной, так как все произошло в темное время суток

Классика

Заголовок спойлера

methos2 14 апр 2021 в 12:42

недостатки системы, включая ее расовую предвзятость.

дожили…

sergeyns 14 апр 2021 в 12:52

Просто поговаривают что учебные датасеты не отражают реальное рассовое соотношение… Правда в разные регионах США оно разное

НЛО прилетело и опубликовало эту надпись здесь

wolfer 15 апр 2021 в 12:03

сначала нейросети научили рисовать, а теперь недоумевают от того, что они расовые теории строят =)

KivApple 15 апр 2021 в 12:31

Качество работы алгоритма машинного обучения напрямую зависит от разнообразия исходного датасета, на котором выполнялось обучение. Нейросеть натренированная преимущественно на белых лицах, будет чаще ошибаться при работе с чёрнокожими. В свою очередь, многие датасеты, используемые для обучения, имеют данный недостаток просто потому что в странах, где разрабатываются системы распознания лиц, чернокожее население является меньшинством и случайная выборка людей для создания датасета будет несбалансированной по этой причине.

НЛО прилетело и опубликовало эту надпись здесь

kSx 14 апр 2021 в 12:44

… все произошло в темное время суток. При этом подозреваемый был темнокожим...

… недостатки системы, включая ее расовую предвзятость.

Расовая предвзятость, — это когда на ночных фотках распознаются негры, даже если их там нет?)

НЛО прилетело и опубликовало эту надпись здесь

DSolodukhin 14 апр 2021 в 13:53

А должны распознаваться афроамериканцы?
Берешь фото, вроде афроамериканец, но нет, присмотрелся, всё таки негр.

НЛО прилетело и опубликовало эту надпись здесь

kSx 14 апр 2021 в 14:46

Это всё тяга к заимствованиям русского языка. Позаимствовали «негр», — придётся теперь делить последствия. В чешском, например, он просто чернох, — и ни у кого никаких вопросов.

A114n 14 апр 2021 в 15:09

Испанцам очень тяжело, наверное.

tommyangelo27 14 апр 2021 в 15:20

Недавно была история с Эдинсоном Кавани (уругваец, испаноязычный).

glestwid 14 апр 2021 в 19:12

Хотя именно хиспаникам вся эта история с пигментно-одаренными до одного места. Они сами в работорговле замешаны не были, предъявить им не выйдет, а в не самых спокойных уголках большого ЛА это еще кто кого порежет. У латиносов будет однозначно численный перевес.

geher 14 апр 2021 в 20:01

Они сами в работорговле замешаны не были

Вообще-то очень даже.были.
В испаноязычных странах темнокожих, чьи предки не по доброй воле приехали из Африки, очень много. Другой вопрос, что там не было столь жесткой сегрегации, как в США и Великобритании,. А та, что была, достаточно быстро почти сошла на нет, в отличии от тех же США, где неофициально кое-где она все еще имеет место.

glestwid 14 апр 2021 в 21:09

Ну, не думаю что миллионы чиканос из ЛА имеют какое-то отношение к владельцам плантаций тростника и фруктов. Они в смысле своего социального происхождения гораздо ближе к самим афроамериканцам.

geher 15 апр 2021 в 07:09

Во-первых, подавляющее большинство белого населения США не имеет никакого отношения к плантаторам и прочим рабовладельцам. Более того, среди них хватает потомков белых рабов.
Во-вторых, замешаны они в работорговле были ровно по тому же принципу, что и большая часть белого населения Америки. Они той же расы (в США они вполне проходят как белые) и являются в большинстве своем прямыми потомками белых колонизаторов из Европы. Коллективная ответственность в чистом видн, не отмажешься.

Stroy71 15 апр 2021 в 20:27

Вообще-то negro — черный на испанском языке.

НЛО прилетело и опубликовало эту надпись здесь

vmkazakoff 14 апр 2021 в 12:45

подозреваемый был темнокожим

недостатки системы, включая ее расовую предвзятость

А всё-таки пусть будет непредвзятой, ну правда! И гендерно нейтральной, а то ну как так то. Пусть по фото темнокожего мужчины находит блондинку, а то вообще этот ваш ИИ совсем распоясался!

Ommonick 14 апр 2021 в 13:37

недостатки статистики, включая ее расовую предвзятость*
fixed

BasilioCat 14 апр 2021 в 13:49

Были же сообщения о том, что полицейские управления отказываются от системы предсказания возможных нарушений, которая посылает патрули туда, где они в результате арестовывают больше негров, чем белых. Нарушая тем самым установленные социальные нормы соотношения цветных и белых преступников. Статистику портят, в общем, роботы эти.

ag3r 15 апр 2021 в 18:19

Если статистика говорит, что в районе А больше нарушений, чем в Б, то послав патрули туда вы зарегистрируете в А ещё больше нарушений. Обновляете данные алгоритма, и снова все в А, и там ещё больше нарушений. Возникает цикл с положительной обратной связью, который не разорвать. А вместо этого надо бы подумать о том, почему люди идут на преступления и как они вообще живут там на самом деле

НЛО прилетело и опубликовало эту надпись здесь

Ark1774 15 апр 2021 в 19:56

Собственно думать то особо нечего. Образование стоит дорого, дети учится не заинтересованы. Порочный круг.

НЛО прилетело и опубликовало эту надпись здесь

Ark1774 15 апр 2021 в 23:29

Люди с низким уровнем образования не могут найти работу и идут на преступления, их дети не могут/хотят получить образование, не могут получить работу и идут на преступления, их дети… круг замкнулся.

НЛО прилетело и опубликовало эту надпись здесь

Chamie 16 апр 2021 в 22:03

Образование стоит дороже для тех, кто меньше зарабатывает. Не в абсолютных долларах, разумеется.

НЛО прилетело и опубликовало эту надпись здесь

Chamie 20 апр 2021 в 02:46

Я отвечал конкретно на «стоит дорого для всех». Вы тут к чему-то неявно подводите, но не указываете, к чему. К тому, что в гетто ситуации лучше, чем у реднеков? А какой процент белых в США — реднеки?

НЛО прилетело и опубликовало эту надпись здесь

Chamie 20 апр 2021 в 23:52

Под «ситуацией» я подразумевал «ситуацию с доступностью образования», если что. И суть была в том, что чёрных реднеков (исторически так сложилось) практически не бывает. Т.ч. сравнивать нужно не на всю расу, а именно вот таки две общности — «жители чёрных гетто» против «реднеков».

НЛО прилетело и опубликовало эту надпись здесь

amarao 14 апр 2021 в 15:43

Нет, тут жалоба на другое. Система хорошо умеет различать белокожих и плохо различает (много ложных срабатываний) для темнокожих.

alliumnsk 15 апр 2021 в 12:15

Увы, это практически неустранимый недостаток, учитывая относительно бОльший уровень шумов на темных изображениях и бОльший вес бликов на изображениях темнокожих.

amarao 15 апр 2021 в 16:49

А белые сливаются с занавесками, небом и побелкой. Или нет? Насколько я понимаю, это вопрос настройки софта и железа. И был серьёзный скандал с плёнками для фотографий из-за того, что в них не "целились" в цвет тёмной кожи.

НЛО прилетело и опубликовало эту надпись здесь

ZlodeiBaal 14 апр 2021 в 14:16

Немножко классики

Заголовок спойлера

Альфонс Алле, «Битва негров в пещере ночью», 1882

Ну а в целом это то почему любую систему ComputerVision нужно использовать очень аккуратно/помня об ошибках. Ну и да. Ждем пока Сбербанк разрешит оплату лицами на кассах.

Ark1774 14 апр 2021 в 14:21

В банкоматах вроде бы уже сделали.

ainoneko 14 апр 2021 в 15:15

Немножко классики

Какой-то у вас «предвзятый датасет».
Надо бы добавить того же автора «Хлоротичные девицы идут к первому Причастию в снежную пору»" (1883) и «Уборка урожая помидоров на берегу Красного моря апоплексичными кардиналами» (1884).

НЛО прилетело и опубликовало эту надпись здесь

DigitalBerd 14 апр 2021 в 15:06

arrakisfremen 14 апр 2021 в 16:02

Я чёт сейчас не понял? Негры ещё и в отдельной базе находятся? Резервация для негров онлайн?

nikolayv81 14 апр 2021 в 17:21

Это чтобы ровно по 1/3(или 1/4 или...) из каждой базы :)

sw0rl0k 15 апр 2021 в 11:59

Во-первых, не меряйте ничего по голливудским кадрам хотя бы потому, что цвета голливудских фильмов намеренно искажены. Я вот снимаю иногда на киношную пленку kodak vision 3 и оранжевым негром меня не удивить.
Во-вторых, есть пруфы, что в штатах или где-то ещё используется система распознавания лиц на основе цвета кожи? Просто я видел несколько рабочих систем, две для коммерческого использования и одну для использования правоохранительными органами одной центрально-европейской страны. И все они оперировали параметрами лица (формы и расстояния), но никак не цветом кожи.