Амазонки розпізнавання помилково матчі 28 законодавців з фото, АСГС говорить

Технологія розпізнавання Амазонки особи помилково виявлено 28 членів Конгресу, як люди, які були заарештовані за злочини, за даними американського Союзу громадянських свобод (aclu).

АСГС випробування Північної Каліфорнії спірних програмного забезпечення Амазонки Rekognition також виявили, що люди кольори були непропорційно помилково в базі даних фотографії, викликають нові побоювання щодо расових забобонів і потенціал для зловживань з боку правоохоронних органів.

Звіт пішли викриття в травні, що Amazon вже маркетинг і продаж технології Rekognition поліцейських органів, провідних захисників приватного життя, щоб закликати генеральний директор Джефф Безос припинити надання продукту уряду.

"Наш тест підтверджує, що особа нагляду не є безпечним для використання урядом," Яків сніг, технологій і громадянським свободам адвоката у фундамент американського Союзу цивільних свобод Північній Каліфорнії, йдеться в повідомленні. “Обличчям відеоспостереження буде використовуватися для живлення дискримінаційних відеоспостереження та поліцейської діяльності, який націлений на кольорові громади, мігрантів та активістів. Коли розв'язав, що шкода не може бути скасовано." 'Катастрофа': Амазонки під обстрілом продаж програма розпізнавання осіб в поліцію Детальніше

АСГС використана така ж система розпізнавання осіб, що Amazon пропонує на суд громадськості, перевірка відповідностей між зображеннями облич. Група побудувала базу осіб та пошук інструменту, використовуючи 25 000 державних арешт фото, потім зіставили ці дані з публічних фотографій кожного члена Палати представників США та Сенату.

З 28 чоловік помилково тест американського Союзу цивільних свобод, 11 з них були людьми кольору, майже 40% з тих, хто неправильно підібрані, незважаючи на те, що люди кольори складають лише 20% з тих в Конгресі. Шість членів Конгресу групи чорношкірих були включені до помилкових матчів, включаючи лідера руху за громадянські права Джон Льюїс.

"Тест планшетів показує, без тіні сумніву, що багато хто з нас вже знають – це інструмент для розпізнавання Амазонки є дискримінаційним ... і, отже, небезпечно для демократії", - сказав Malkia Кирило, виконавчий директор Центру Медіа справедливості. "Вони повинні згорнути його негайно".

Амазонки захищали свою технологію в заяві, кажучи, що результати американського Союзу цивільних свобод може "ймовірно, буде поліпшено", якщо тест був збільшений поріг довіри", то ймовірність того, що Rekognition знайдено збіг. АСГС використовували 80% - вий поріг довіри, але Amazon йдеться в її заяві, "при використанні розпізнавання особи для діяльності правоохоронних органів, ми направляємо клієнтів для того щоб встановити поріг, принаймні 95% або вище".

Американський Союз захисту громадянських свобод, однак, зазначив, що він використовував налаштування за замовчуванням збігаються, що Amazon набір для Rekognition, і в даний час компанія посилається на 80% впевненість метрика для розпізнавання особи на власному сайті.

Відповідь Амазонки, здавалося, визнати, що його технології не буде добре працювати в стандартному режимі, Сноу сказав в інтерв'ю: "по суті, вони стверджують, що їх продукт не працює з коробки."

Він також зазначив, що не було ніяких доказів, Amazon був фактично направляючи поліції, щоб використовувати більш високий поріг, і що навіть якщо компанія робить ці рекомендації, немає ніяких гарантій, що поліція, використовуючи цей стандарт. Технологія дозволяє правоохоронним органам змінити свої пороги.

"Амазонки не в змозі взяти на себе відповідальність за Rekognition і як Rekognition розгортається в громадах," сказав Сноу, додавши, що Конгрес повинен ввести мораторій на використання державних засобів для розпізнавання. Microsoft називає для потенційних визнання правил техніки особи дали 'зловживання' Детальніше

Три члена Конгресу написав Безос в четвер з проханням надати йому копії будь-яких внутрішніх точність оцінок або упередженість, що Amazon виступила на Rekognition і списки поліції чи спецслужб, які використовують програмне забезпечення або були в контакті з компанією про можливість придбання.

У листі говорилося, що "ефективність і результативність технології ще не до кінця зрозуміли", і зазначив, що "ні Конгрес, ні законодавчі органи Штатів були прийняті закони, що прямо передбачають використання розпізнавання особи з підтримання правопорядку".

Дослідження показали, що технологія розпізнавання осіб не розпізнає чорношкірих, жінок і молодих людей більш високими темпами, ніж літніх білих чоловіків.

Якщо поліцейські використовують Амазонки технології у великих масштабах, "сотні тисяч людей стоять, щоб бути неправильно визначила", - сказав Кирил, відзначивши, що це вплине на "кольорові і особливо чорні люди, які вже зазнають дискримінації в нашої нинішньої американської системи підтримання правопорядку, які вже зіткнулися небезпечні взаємодії з поліцією".

"Поліція буде мати інструмент, щоб допомогти цій дискримінації", - продовжив Кирило, додавши, що Амазонка "грати в політику з життям людей".

Амазонки прес-секретар стверджував, що Rekognition корисних додатків, таких як "попередження торгівлі людьми" і "блокувати експлуатації дітей", додавши: "ми, як і раніше, ради того, як зображення і відео аналіз може бути рушійною силою добра у світі, в тому числі в державному секторі і правоохоронних органів".

Amazon ніяк не розкрита поліцейськими органами, що можуть використовувати програмне забезпечення та не відповідати на запитання про його партнерами правоохоронних органів у четвер.

Категория: Технологии