Рішення Google для випадкового алгоритмічного расизму: заборона горил

Після того, як Google піддався критиці в 2015 році для розпізнавання алгоритм, який автоматично позначені ціни чорні люди, як "горили", компанія обіцяла "термінових заходів", щоб запобігти повторення помилки.

Ця дія була просто заборонити Google фотографії з коли-небудь маркування будь-якого зображення як горили, шимпанзе, або мавпою – навіть ціни примати самі.

Це висновок, зроблений журналу Wired, який протестував більше 40 000 зображень тварин на службу. Фото точно зазначені зображення панд і пуделі, але незмінно повертається немає результатів для людиноподібних мавп і мавп – незважаючи на точно знайти бабуїни, гібони та орангутанги.

Google підтвердив, що терміни були видалені з пошуку і тегів зображень безпосередньо в результаті події 2015, сказав, що: "технології маркування зображення ще рано і, на жаль, далекі від ідеалу".

Горила сліпота зустрічається в інших місцях поперек платформи від Google: лінзи від Google, додаток камери, яка ідентифікує об'єкти на зображеннях, також відмовляються визнавати горил. Але помічник Google зможе правильно визначити приматів, як Google і "бізнес-бізнес" розпізнавання зображень Google віртуальний бачення.

Нездатність компанії розвивати більш стійкі виправити в наступні два роки свідчили про те, що технології машинного навчання, яка підтримує функцію розпізнавання зображень, досі зріє.

Такі технології часто описується як "чорний ящик", здатний виробляти потужні результати, але мало можливостей їх творців, щоб точно розуміти, як і чому вони приймають рішення вони.

Особливо це стосується першої хвилі систем розпізнавання образів, які Google фото стало частиною. У той же час, що був випущений продукт, на Flickr випустив аналогічну функцію, функцію автоматичної позначки – який має майже однаковий набір проблем.

Яху-належить платформа для обміну фотографіями позначені зображенням чорного людини як "мавпа", і фото концтабору Дахау як "турніка". Відповідь на Flickr був майже таким же, як Google: компанії, мабуть, прибрали слово "мавпа" зі свого лексикону позначки повністю. ІІ програми демонструють расові та гендерні забобони, дослідження показує,

Категория: Технологии