Беспилотные машины оказались «расистами»

Беспилотные машины оказались «расистами»

Как выяснилось, системы распознавания пешеходов испытывают трудности с идентификацией чернокожих людей.

Кирилл Малышев, 11 марта 2019
Фото с сайта urbanurban.ru

Алгоритмы, используемые системами автономного вождения, испытывают трудности с распознаванием чернокожих, что грозит серьезными происшествиями с участием беспилотных автомобилей. Их проблемы схожи с теми, что ранее неоднократно фиксировались у систем распознавания лиц. Об этом пишет портал popmech.ru.

Cпециалисты из Джорджии (США) исследовали восемь моделей искусственного интеллекта, каждая из которых обучалась по стандартному набору данных. Системы позволяют беспилотным автомобилям распознавать дорожные знаки, пешеходов и другие объекты уличной сети. Их протестировали с использованием изображений пешеходов, разделенных по шкале Фитцпатрика, которая используется для классификации цвета кожи человека. Шкала делит людей на шесть типов, где I — самый светлый цвет кожи, VI — самый темный.

Согласно результатам, модели демонстрировали «одинаково худшие характеристики», когда сталкивались с пешеходами трех самых темных оттенков кожи. В среднем точность моделей снизилась на 5% при рассмотрении группы, содержащей изображения пешеходов с более темным оттенком кожи. Стоит отметить, что алгоритм опирается только на те данные, которые присутствуют в имеющемся наборе изображений и фотографий, а потому не реагирует на те объекты, которых в выборке нет.

И это является проблемой, потому что в подобных базах светлокожих людей, как правило, значительно больше, чем чернокожих. Ученые разработали рекомендации, необходимые для предотвращения подобных казусов: нужно включать больше изображений темнокожих пешеходов в наборы данных, на которых тренируется искусственный интеллект, и тем самым повышать точность показателей определения этих изображений системами распознавания.

Если заметили в тексте опечатку, выделите фрагмент текста с ошибкой и нажмите Ctrl+Enter.

Комментарии

Аноним

Обьявления

Fiat Ducato

Дизель турбонаддув, 2.3 л., Механическая, 2010, 145 538 км, Москва

Nissan Almera

Бензиновый, 1.6 л., АКПП, 2006, 120 000 км, Москва

Volvo XC90

Бензин, 2.5 л., Автомат, 2007, 94 000 км, Москва

Отзывы

Hyundai Santa Fe 2008 г.в.

Купил и обслуживал у официального дилера, эксплуатация бережная, использовался в основном для поездок на работу. Комплектация GLS – климат-контроль, к…
Saab 900 1981 г.в.

Купил я этот агрегат не по большой любви, а из-за катастрофической нехватки денежных средств, но в процессе нашего общения загорелся полным его восста…
Volkswagen Polo 2010 г.в.

Покупкой машины я озадачился после удачной продажи своего 8-ми летнего фиата. Требования к машине были следующими: Автоматическая коробка, ABS, кондиц…

В тему