Я пацифіст, так чому б мені не підтримати кампанію, щоб зупинити роботів-вбивць?

Кампанія, щоб зупинити роботів-вбивць і закликав ООН заборонити розробку і використання автономного зброї: ті, які можуть ідентифікувати, відстежувати і атакувати цілі без значущого людського контролю. У понеділок, група випустила сенсаційний відео, підтримуються деякі видатні дослідники штучного інтелекту, що зображують похмуре майбутнє, в якому такі машини здичавів.

Я радий, що мої колеги витрачають свої зусилля, щоб забезпечити вигідну використання штучного інтелекту (ШІ) технології. Але я не переконаний в ефективності кампанії за символічний жест. Хоча я сильно ідентифікують себе як пацифіст, у мене є застереження про підписання запропонованого заборони. Я не самотній у цій ситуації. Комп'ютер говорить немає: чому створення справедливої призначення, підзвітність і прозорість має вирішальне значення Детальніше

Не тільки труднощі точного визначення, які саме заборони тягне за собою для держав, які хочуть слідувати йому – це заборона на автономію або інтелект? – Я задаюся питанням про можливість заборони стримувати зловживань з боку держави-ізгоя або недержавними суб'єктами. До такої міри, що заборони на звичайні і ядерні озброєння було ефективним, із-за значних природних бар'єрів для входу на ринок: сировина і обладнання, необхідне для виготовлення цієї зброї є важкодоступними, і відповідальність держави може контролювати їх значною мірою шляхом примусу і санкцій. На відміну від технології ШІ, який нібито дозволяє за зброю, що ця заборона спрямований на, вже цілком відкрито, а хтось може заперечити, чудово так. Зловживання таким чином може бути важко керувати в наказовому і заборони – як з кібер-війни, наприклад.

Розглянемо гіпотетичний "вбивця Дронов" зняті на відео, що супроводжує статті Гардіан на дзвінок для бана. Навіть сьогодні, технологія розпізнавання обличчя, мовляв, потрібні такі безпілотники можуть бути легко створені будь-яким користувачем, що має доступ до інтернету: кілька поруч-держава-оф-арт "попередньо навченої мережі" доступні з відкритим вихідним кодом. Речі стануть простіше, так як ми робимо подальший технічний прогрес.

Враховуючи ці значно більш низькі бар'єри для входу, навіть якщо ООН і ряду держав домовилися про введення заборони, це далеко від ясно, що це зупинить інших-вигнанця і недержавних суб'єктів-від закупівлі і впровадження такої технології для злочинних цілей. Це зведе подібні заборони в кращому випадку пірровою перемогою для прихильників світу, а в гіршому тягнуть за собою іронічне і побічний ефект, зв'язує руки "хороших акторів" за їх спинами, а робить мало, щоб зупинити поганих.

Як ШІ дослідник, я також стурбований sensationalisation все питання в рамках антиутопії – якщо висока вартість продукції – відео, таких як повідомили в "Гардіан" статтю. З допомогою "першокласна дівчинка"-стиль рекламні кампанії спрямовані на підтримання громадського побоювання з приводу технологій ШІ, мені здається, щоб бути більш вправи на розпалювання, а не для інформування громадськості. Це час для деяких сумбурно, демократичної дискусії про майбутнє ІІ Детальніше

Враховуючи ці побоювання з приводу ефективності ковдру заборони, я вважаю, що дослідники ШІ повинні думати про більш активної технічних рішень для поліпшення потенційних зловживань технологій ІІ. Як один маленький приклад з цієї альтернативної стратегії, ми провели семінар в університеті штату Арізона на початку березня 2017 року під назвою проблеми ІІ: передбачення і усунення несприятливих наслідків. У семінарі взяли участь багато провідні науковці, технологи та спеціалісти з етики, і ставив завдання придумувати захисні реакції для різних можливих зловживань технології ШІ, в тому числі смертельного автономного зброї.

Одного повторюється темою семінару стало використання технології ШІ як засобу захисту від несприятливих/зловмисне використання ІІ. Це може включати вивчення так званої "системи зберігачів Ай", що можемо забезпечити моніторинг і захисні реакції. Навіть якщо такі зусилля не вдається повністю вміст побічних ефектів, вони могли б принаймні краще інформувати державну політику з цих питань.

Повторю, я вважаю себе пацифістом, і завжди підтримували зусилля з контролю над озброєннями та припинення війн. Якби я вірив, що пропонований заборона буде діяти, а не просто символічним, і ця кампанія буде інформувати, а не розпалювати громадськість, я б з радістю підтримав його. Відмова від відповідальності: в інтересах повного розкриття, дозвольте мені заявити, що деякі з моїх фундаментальних досліджень (на людину-в курсі мА) підтримується Міністерством оборони США фінансових установ (наприклад, Бюро військово-морських досліджень). Проте, моє дослідження джерел фінансування не вплине на мої особисті міркування, і захист фінансових установ у США підтримки широкого спектру фундаментальних досліджень, у тому числі дослідники, які беруть участь у кампанії по забороні.

Суббаро Kambhampati є професором комп'ютерних наук в університеті штату Арізона і президент Асоціації з розвитку штучного інтелекту.

Категория: Технологии