Дробовик оболонки: Гугл ІІ думає, що черепаха-це гвинтівка

Якщо це у формі черепахи, розміром з черепаху, і має купчастість черепаха, це, напевно, черепаха. Тому, коли штучний інтелект впевнено заявляє, що це пістолет, а не, щось пішло не так.

Але ось що Labsix дослідники з Массачусетського технологічного інституту вдалося обдурити розпізнавання об'єктів Google АІ, думаючи, вони відкрили в статті, опублікованій на цьому тижні.

Команда побудована на концепції, відомої як "змагальність зображення". Це картина, створена з нуля, щоб обдурити ІЇ у класифікації його як повністю відрізняється від того, що він показує, наприклад, зображення кошеня визнав, що з 99% впевненістю в миску гуакамоле.

Такі трюки працюють, обережно додаючи візуального шуму до зображення, так що пучок означають ІІ використовує, щоб визнати її зміст заплутатися, поки людину не помітять різниці ніякої.

Але поки є багато теоретичних робіт, що демонструють нападу можливі, фізичні демонстрації тієї ж технології, тонкий на землі. Часто, просто повертати зображення, возитися з колірний баланс, або злегка обрізати, може бути достатньо, щоб зіпсувати весь фокус.

Дослідники Массачусетського технологічного інституту підштовхують думка, ніж коли-небудь раніше, маніпулюючи не простий 2D зображення, але і текстуру поверхні 3D-друкованих черепаха. Отриманий візерунок ракушка виглядає дивно, але все ж цілком впізнаваний як черепаха – якщо Ви не об'єкт Гугла виявлення ІІ, в такому випадку ви на 90% впевнені, що це гвинтівка. Facebook Твіттер Пинтерест

Дослідники також 3D друкованих бейсбол з тупіт, і він з'явиться на Ай, як еспресо, з трохи меншим успіхом – ІІ зміг сказати, що це було іноді в бейсбол, хоча досі помилково вважають еспресо більшу частину часу.

"Наша робота показує, що змагальність приклади значно більших проблем в реальному світі, ніж вважалося раніше," дослідника написали. Як машинне зір розкочується більш широко, такі атаки можуть бути небезпечні.

Вже зараз дослідники вивчають можливість автоматичного виявлення зброї з зображень систем відеоспостереження. Черепаха, яка виглядає як гвинтівка така система може просто привести до помилкових спрацьовувань; гвинтівки, який виглядає як черепаха, проте, буде значно більш небезпечним.

Є ще питання для дослідників, щоб згладити. Найголовніше, що нинішній підхід до обдурювання машинне зір працює тільки на одній системі одночасно, і вимагає доступ до системи розробка моделей трюк. Черепаха, що дурнів в Google AI може не витягнути такий же атаку проти Facebook або Amazon, наприклад. Але деякі вчені вже встигли розробити більш прості атаки, які працюють проти невідомого призначення, з використанням методів, які мають спільних застосувань.

Компаній Ай відсіч. Як Facebook і Google опублікували дослідження, які показують, що вони шукають в самих прийомів, щоб знайти способи, щоб захистити свої власні системи. Живе моя давню мрію: покататися у самокерованої машині Google

Категория: Технологии