Facebook може взятися за розум?

Опубликованно 14.07.2018 00:30

Технологічні компанії люблять говорити про величезний доброякісні зміни їх продукти принесе. Взяти Facebook, зі своєю місією, щоб "дати людям можливість створювати спільноти і наблизити світ разом". Або Google, яка хоче, щоб "організувати світову інформацію і зробити її універсально доступною і корисною". Microsoft сподівається розширити можливості кожної людини і кожної організації на планеті, щоб досягти більшого". Навіть snapchat, який відкриває свої корпоративні біо з уклінним стверджують, що "прив'язка Inc є фотоапаратом фірми", не можу не відзначити: "ми вносимо свій внесок у прогрес людства шляхом розширення можливостей людей, щоб виразити себе, жити в даний момент, пізнавати світ і весело провести час разом."

Такі заяви демонструють масштаб амбіцій, що є нормою серед найбільших компаній технології. Це рідко, проте, щоб знайти багато часу або зусиль, спрямованих на незаплановані наслідки в світі нових технологій.

Є винятки. Коли Google придбав Лондонський AI компанію DeepMind в 2014 році, однією з вимог засновників було створено комісії з етики, щоб переконатися, що будь-яке подальше використання технології регулюється суворими моральними принципами. Рік потому, Елон Маск виступив ініціатором створення А. і. дослідження групи OpenAI, висловившись за необхідність "просування цифрового інтелекту в бік, що швидше за все в інтересах людства в цілому, без необхідності генерувати фінансову віддачу".

Але іноді, виникають величезні потрясіння від продуктів і функцій, які не були призначені, щоб змінити хід світових подій. Прийняти рішення Facebook, а в 2017 році, щоб перевірити, чи є введення новин в окремому розділі з – тепер іронічно названий – стрічка новин дозволить збільшити залученість користувачів. При цьому у компанії може бути важко поранений незалежної медіа-екосистеми деяких країнах демократій, таких, як Камбоджа, в якому протестували функції.

Але це меркне в порівнянні з звинувачення в тому, що Facebook може випадково включили етнічну чистку меншини Rohingya в М'янмі. На платформі побачив вірусним поширенням "фейкових новин" і гіпер-партизанських громад, але без стабільного громадянського суспільства, щоб забезпечити урівноважує сила, підірвала країну в насильство.

Тепер Facebook намагається уникнути повторення такого роду подій, а також позбавитися від негативних новин, як Кембридж аналітика скандал, з створення "слідчого відділу" (та від), щоб спробувати і місце серйозні порушення його платформі, перш ніж вони відбудуться. Команда рекламно-викладацький склад, науковці, і колишні шпигуни, працюють з компанією "зазирнути в майбутнє і з'ясувати, що буде за рогом", директор ділової етики Facebook за Лінда Тальго сказав buzzfeed два тижні тому.

Людина читає "Пномпень пост", Камбоджа: зробив вирішення Facebook про своїх новин чинять вплив на незалежні ЗМІ в країні? Фото: Samrang Прінг/Рейтер

Але вам не потрібно сидіти всередині кавернозних Facebook в Менло-Парк офіс, щоб отримати уявлення про пожежі компанії доведеться боротися в найближчому майбутньому – або бомби з годинниковим механізмом і всі інші галузі, сидячи на, або. Тому я зібрав свою власну команду слідчих дій, від людей, які спостерігали галузі здалеку, і запитав їх, що вони попередження би в силіконову долину.

Дослідник безпеки Інті де Ceukelaire має рекордний для виявлення проблем, які пропустили Facebook. Минулого місяця він закликав компанію усунути витік даних, що побачив особисту інформацію від 120 мільйонів користувачів популярного додатка quiz (nametests.com) піддаються дії зловмисників. Він каже, що подібні проблеми залишаються на місці і в той час як компанія поспішає придушити погані актори, надто пересичена про своїх "партнерів".

"Facebook не тимчасово заблокований nametests.com поки проблема не була Виправлена, що зайняло близько двох місяців", - сказав він. Але "коли я почав конфіденційності квітня обізнаності дурнів кляп, він був заблокований протягом декількох годин, а пізніше всі домени, пов'язані зі мною отримав бан від Facebook." Крім того, він попереджає, що у деяких партнерів "мають особливі привілеї доступу до даних [що] допоможіть встановити монополію Facebook навіть більше: це не їм вирішувати, хто отримує доступ до даних, а хто ні".

Томас Хассон, головний аналітик Forrester, кинути мережа ширше, ніж просто питання безпеки, стверджуючи, що навіть з усією увагою цей сектор дає ІІ, він створює ризики. “Використання штучного інтелекту і можливість автоматизації процесів піднімуть багато етичних питань. Цифрові платформи, такі як Facebook або Google повинен переконатися, що вони уникають шкідливих упереджень і дискримінації. Ай-технології розпізнавання осіб або біометрії сприятиме подальшому збільшенню недоторканності приватного життя споживачів".

Стурбованість з приводу визнання особи поділяють Kaltheuner Фредерика конфіденційності International, який попереджає, що якщо компанії не турбуйтеся про наслідки технологій, вони схильні думати занадто малий. “Проблема в тому, що системи відображати ухил у даних товариствах. Повсюдне визнання особи призведе до масового вуличного спостереження, які будуть незрівнянно більше шкоди, люди, які щодня стикаються з проявами дискримінації. Громадянське суспільство і інші повинні продовжувати боротьбу з масовими розпізнавання систем, розгорнутих в камери відеоспостереження".

Для Kaltheuner, слон в кімнаті-це бізнес-модель галузі. “У нас є проблеми при експлуатації даних бізнес-моделі. Ми ретельно вибираємо наші слова тут – це не про те, що продукти і послуги потрібні дані функції. Проблема в тому, коли товари та послуги стають приводом для безпрецедентного інтелектуального аналізу даних".

Найбільший ризик для сектора, проте, ймовірно, саму проблему, що викликало нинішній напад Facebook по інтроспекції: довіра. "Ви не можете довіряти PR-група компанії, особливо якщо ця компанія не змогла захистити дані від мільйонів користувачів," де Ceukelaire сперечається. “Ми робимо кроки в правильному напрямку, але це давно назріло. Він повинен йти швидше, бути більш прозорою і менш пр скороговоркою. Це відноситься не тільки до Facebook, це відноситься до будь-якої великої технологічної компанії там".

Арал Балкан: "у мене немає бажання допомогти капіталістичній відеоспостереження поліпшити свої суспільні відносини.' Фотографія: Ларс Dareberg для опікуна

У більш стриманому тоні, Хассон Форрестер робить багато одній і тій же точці. "Враховуючи, Facebook або Google є цифрові платформи підключення споживачів і брендів, довіра клієнтів є основним фактором", - говорить він. "Це буде все складніше – не тільки з-за більш складних правових вимог, як GDPR [загальних правил щодо захисту даних]– а просто тому, що споживачі все більше вимагають, щоб бренди закону про цінності".

Довіра-це особливо важливий ресурс, тому що це також не вистачає у відносинах Facebook і Google з їх реальних клієнтів: рекламодавці, які складають переважну більшу частину своїх доходів. Facebook неодноразово був змушений вибачитися за завищуючи показники, які він звітує перед рекламодавцями, навіть як YouTube від Google зіткнувся з атаками рекламодавцям з питань безпеки (наприклад, як відомо, працює платна реклама за ісламську державу пропаганди). "У цьому зв'язку, Amazon, безумовно, знаходиться попереду Google або Facebook," Хассон нотатки.

Група розслідування, очевидно, хороший спосіб, щоб повернути довіру. Можливо, підозріло хороший спосіб. Арал Балкан, захисник приватного життя та кіборг правозахисник, відмовляється дати довіра "обмеження шкоди тощо вправа", що Facebook працює.

"Те, що ми маємо тут справу з птахофабрики для людини, який був публічно принижена, як він ставиться до своїх живими тваринами, управлінням внутрішнього аудиту, щоб уникнути майбутніх піар-катастрофи," Балкан говорить. Його запитали, що він виділив би, якби він опинився на тій же команди, він перебиває: “я б не на одного з тих команд, почнемо з того, як у мене немає бажання допомогти капіталістичній спостереження поліпшити свої суспільні відносини. У мене є всі наміри, з іншого боку, забезпечити його порушення, ефективно регулюється і допомагає створення етичної альтернативи."

Реальним заходом команди не буде проблем, вони помітять, однак, але в силу вони повинні змінити плани компанії, щоб уникнути цих мінних полях – навіть якщо несе вперед може бути найбільш вигідний курс дій. Якщо та від робить свою роботу добре, ми більше ніколи не чути про це. Для Facebook, Це може бути найкращий результат з усіх. Академічних ініціатив у вивченні ненавмисних наслідків технології

Центру досліджень науково-дослідного центру екзистенціального ризику в Crassh (Центр досліджень в області мистецтва, соціальних і гуманітарних наук) в Кембриджському університеті, присвячених "вивчення та мінімізації ризиків, які можуть призвести до зникнення людини або цивілізаційного краху".

Заснована в 2012 році Мартін Рис, королівський астроном; Ціна Х'ю, Бертраном Расселом професор філософії; і Яан Таллінн, со-засновник Skype.

Майбутнє людства InstituteFounded в 2005 році, науково-дослідний інститут Оксфордського університету спрямована на "принести інструменти математики, філософії, суспільних наук і науки, щоб спертися на великій картинці питання про людство і його перспективи".

Його засновник і директор, шведський філософ Нік Бостром, також призводить стратегічного дослідницького центру штучного інтелекту і є автором бестселера Нью-Йорк Таймс Суперінтелект: шляхи, небезпеки, стратегії.

Місія Берклі екзистенційний InitiativeBeri ризику", щоб поліпшити довгострокові перспективи людської цивілізації для виживання і процвітання". Створені в Берклі, штат Каліфорнія, це сприяє тому, що він називає "х-ризик екосистеми" - мережа аналітичних центрів, некомерційних організацій, окремих вчених і меценатів.

Дана стаття містить партнерські посилання, що означає, що ми можемо заробити невелику комісію, якщо читач натисне на них і робить покупку. Вся наша журналістика незалежної і жодним чином не впливає будь-яким рекламодавцем або комерційну ініціативу. Посилання працюють на Skimlinks. Натиснувши на партнерське посилання, ви визнаєте, що печиво Skimlinks буде встановлений. Додаткова інформація.

Категория: Технологии