Як Свинка Пеппа стала відео кошмар для дітей

Опубликованно 21.09.2018 14:21

У листопаді минулого року я прочитав статтю в Нью-Йорк Таймс про тривожних роликів, орієнтованих на дітей, які поширюються через YouTube. Батьки повідомили, що їх діти стикаються з стук-офф випуски своїх улюблених мультяшних героїв в ситуації насильства і смерті: Пеппа свині випиваючи відбілювач, або Міккі Мауса, якого збив автомобіль. Коротка погуглити деякі терміни, зазначені в статті виховуються не тільки багато більше рахунків небажаного контенту, постів в Facebook, потоки новин, та інших газет, а також тривожних наслідків. Раніше щасливим і добре вихованих дітей став боятися темряви, схильний до нападів плачу, або прояви агресії і говорили про собі шкодити – всі класичні симптоми зловживання. Але незважаючи на ці повідомлення, YouTube і його материнської компанії, як Google, мало було зроблено для їх вирішення. Крім того, мабуть, існує мало розуміння того, де ці ролики йшли, як вони були зроблені, або навіть чому вони існували в першу чергу.

Я письменник і художник, з акцентом на широкі культурні та соціальні наслідки нових технологій, і це, як більшість моїх нав'язливих ідей початку: все, що хвилює і копати глибше, з оглядкою на приховану інфраструктуру і приховані процеси. Це підхід, який раніше вів мене розслідувати система Великобританії перельоту депортації або його складні спостереження мережі доріг, і на цей раз він привів мене в дивні, сюрреалістичні, і часто тривожні глибинки Ютуб дитячі відео. І ці відео викликають занепокоєння на декількох рівнях. Як я проводив все більше і більше часу з ними, я занепокоїлася не тільки за своїм змістом, але до речі сама система, здавалося, відтворювати і посилювати свої найогидніші ексцеси, наживатися на дітях найгірші побоювання і зв'язувати їх в кошмар плейлисти, а сліпо нагородження їх творців для підвищення їх думку вважається навіть як відео, самі спустилися в безглуздій пародії і безглузді історії.

Для дорослих, це явна дивина багатьох відео, що здається більш тривожним, ніж насильство. Це те, що важче пояснити – і важче для людей, щоб зрозуміти – якщо ви не пориньте у відео, яке я б не рекомендував. Не просто стук-offs існує і провокації цілого класу безглуздим, алгоритм-контент; мільйони відео, які служать лише для того, щоб притягувати погляди і виробляти дохід, зліплений з потішки, огляди іграшок, і культурні непорозуміння. Деякі, здається, бути продуктом випадкових звання генератори, Інші – і багато інших – пов'язані з реальними людьми, включаючи маленьких дітей, розподілених по всій земній кулі, діючи з нескінченно божевільні вимоги Ютубі і рекомендації, алгоритми, навіть якщо немає сенсу, навіть якщо доведеться розтоптати себе повністю, щоб зробити це.

Сцена з Мінні Маус поперхнувся піца для їжі занадто багато. Фотографія: На YouTube

Коли я писав нарис про відео онлайн, реакція громадськості багато в чому відображала моє власне. З одного боку, люди були в жаху, коли дізналася, що такі відео існують, а з іншого, зовсім ошелешив масштабами і дивина, що вони знайшли. Поєднання відправлений у статті вірусний: це був загальний і читати онлайн мільйони разів, підібрав сайти і газети по всьому світу, і навіть в результаті питань, що задаються в Європейському парламенті. Нарешті, YouTube почав відповідати, незважаючи на свої зусилля, і результати були неоднозначними.

Початкова пропозиція ютубі полягала в тому, щоб обмежити рекламу на спірні матеріали, спрямовані на дітей, але його пропозиції не чесно вести свою власну платформу. Підраховано, що 400 годин відео завантажуються на сайт кожну хвилину. Поліції це на руку неможливо; замість цього, на YouTube покладається на слабку глядачів їзди офіційний коментар, який навряд чи підійде для перших людей, щоб дивитися цю гидоту ще маленькі діти, і шкоди вже завдано. YouTube також розхвалювали технологічної панацеєю машинного навчання як пріоритетне рішення, але в квітні він, нарешті, погодився з тим, що виділеного YouTube діти додаток буде перемикатися на зовсім людська модерація, фактично визнавши, що цей підхід не працював.

Як результат, багато відео були видалені з сайту, незліченна кількість все ще. У березні, провідний каталогизировал безліч насильницьких рахунків і показали, що можна перейти від популярних дитячих відео-алфавіт з Мінні фільм миша в 14 кроків, просто дотримуючись рекомендацій на YouTube. Станом на минулий тиждень, погуглити за назвою одного з нині зняли відео, згадані у статті Нью-Йорк Таймс ("Щенячий патруль діти роблять вигляд, що вмирають самогубство Аннабель під гіпнозом") дає посилання на майже однакових відео, розміщеного на сайті ("Щенячий патруль діти роблять вигляд, що вмирають монстр руки від дзеркала! Щенячий патруль цуценята збереження анімації для дітей"), в якому чарівні цуценята не потворний кліп-арт, монстр, маска для залякування один одного, перш ніж заманили на дах з привидами лялька. "Зберегти для дітей," повинен читати "безпечний для дітей"? У будь-якому випадку, це не так, і це очевидно, що просто граючи вжик-а-моль з пошуком умов і заборонили рахунку не збирається вирішувати складні проблеми авторських прав, алгоритмічні рекомендації, і дія грошових стимулів на мільярд-вид платформи без осмисленого людського контролю.

Ютубер Еллі Міллс, який опублікував кадри з самої середини тривожності фотографія атаки: на YouTube Еллі Міллс

Чи будуть ці відео є завідомо шкідливими, "просто" тролінг, або эмерджентного ефекту складних систем, не в цьому суть. Що нового в тому, що система, в якій такі розмножується насильство прямо перед нами, і явно замішані, якщо ми вибираємо, щоб побачити її такою, яка вона є. Я назвав, що оригінальне есе "щось не так в інтернеті", тому що мені здавалося, що й досі мені здається, що питання зроблені абсолютно очевидно, що скандал не обмежується утримання дитини, ні на YouTube. Першим серед них є, як систем алгоритмічного управління, а не веде нас у напрямку на сонячних пагорбах рівності та розширення прав і можливостей, постійно відтворювати і зміцнювати існуючі забобони, а пригнічує ці хоча б розуміння, і, таким чином, влада над, систем вони обплутані.

Взяти систему рекомендацій на YouTube для початківців, яка не робить різниці між фільмами Діснея і зернистою анімація готують бот ферми в Китаї. По суті, що, здавалося б, доброякісної "якщо вам подобається, що ви такий" механізм робить навчання дітей раннього віку – практично з народження – натиснути на першого, хто попадеться, незалежно від джерела. Це той же механізм, що бачить Facebook слайд підроблені оголошення, містять політичну рекламу та теорії змови для мільйонів невдоволених голосів, а результат – ще більш екстремальний контент і діляться думками – це те ж саме. Додайте абсолютної неможливості роботи, де ці відео приходять з (більшість анонімних рахунків з тисячами ледь диференційованої завантаження) і перегляду пливе за течією в море екзистенціальна невизначеність, яка починає відчувати неприємне знаком у світі, де непрозорим і непідзвітним систем все більше і більше контролювати критичні аспекти нашого повсякденного життя.

Ми бачили, як комп'ютерні програми, призначені для забезпечення збалансованого рекомендації вироків у судах США були більш схильні до помилки лейблу Black підсудних частіше рецидивістами – помилково позначивши їх майже в два рази швидше, що і для білих людей (45% проти 24%). Ми бачили, як алгоритмічні системи цільових чоловіки старше жінок на престижні посади в сфері зайнятості: в одному дослідженні, оголошення система Google показала найвищий високооплачувану роботу 1,852 рази для чоловіків — але тільки 318 разів до жіночої групи з такими ж перевагами. І ми також бачили, як важко оскаржити ці системи. Коли уряд Австралії запровадив "робо-борг", автоматизована заборгованості програми відновлення, це неправильно і незаконно порушує найбільш вразливих верств суспільства, які не мали можливості отримати підтримку чи пораду, щоб кинути виклик системі.

'Явна дивина багатьох відео на YouTube, здається, трохи чи не більше занепокоєння, ніж їх насильства'.

Протягом декількох місяців після першої запису про дивних проблеми відео на YouTube, я зустрів кілька чоловік з компанії, а також з інших платформ, які були опинилися в подібних вихорів. А найбільш благочинні, мало схоже на розуміння широкої структурні проблеми в суспільстві, які їх систем як прибуток, так і погіршити. Як і більшість людей, які працюють у великих технологічних компаній, вони думають, що ці проблеми можуть бути вирішені за допомогою застосування технології: краще алгоритми, більше поміркованості, важче машинобудування. Багато хто за межами тек міхур – особливо на Заході і у вищих доходами – просто шоковані, що нікому не дозволила б своїм дітям використовувати YouTube в першу чергу. Але ми не будемо виправляти ці проблеми перекладають на компанії, або переконуючи їх зробити краще, так як ми не дозволимо криза ожиріння з демонізації фастфуду, але і допомогти людям вибратися з убогості. Якщо YouTube є подолання розриву в догляді за дитиною, відповідь-збільшити фінансування по догляду за дітьми і навчання в цілому, не фіксуючи на YouTube. Скільки екранного часу-це надто багато для дітей? Це складно Детальніше

Що відбувається з дітьми на Ютубі, обвинуваченим у алгоритмічно розширені судових процесів, і для бідних боржників в Австралії, наближається для всіх нас. Всі наші робочі місця, системи життєзабезпечення і соціальні контракти є уразливими для автоматизації яка не значить насправді бути замінені роботами, але лише на милість. YouTube пропонує ще один корисний урок тут: тільки минулого тижня повідомлялося, що найуспішніший YouTube-це молоді зірки – "ютюберов", а потім і захоплюються мільйони своїх однолітків – горять і масово ламаються. Полігон журнал цитується, серед багатьох інших, приклади Рубен "Ель Рубиус" Гундерсена, третій найпопулярніший ютубер в світі з 30 мільйонів абонентів, які нещодавно вийшли в ефір, щоб поговорити зі своїм телеглядачам про страхи насувається зриву і його рішення зробити перерву з YouTube, і Еллі Міллс популярний ютубер з 1,2 мільйона передплатників, які опублікували кадри з самої середини панічна атака у відео під назвою згоріти в 19.

Ютуб зірка Рубен Гундерсена говорив про свого остраху зриву. Фото: Карлос Альварес/Getty Зображення

Це буде просто знущатися над цими молодими знаменитості, якби не той факт, що їх досвід-це просто самий харизматичний приклад алгоритмічної зайнятості, при яких багато інших вже праці. В особливості, врешті-решт, ті ж: довгі години без відпочинку, пільги та організаційна підтримка, і тиск, щоб працювати в темпі машини в системі, цілі та механізми неясні і постійно змінюються, і до якої її суб'єкти мають ніякої привабливості. (У гнітючому закрутки, багато з цих же країнах постраждали від зниження доходів безпосередньо пов'язана з спробами YouTube в demonetise "неналежний" контент для дітей – рішення однієї проблеми в системі лише посилює інші.)

Дивацтва Ютуб ВІДЕО, екстремізм Facebook і Twitter моби, приховані упередження алгоритмічних систем: всі вони мають одну загальну межу з самого інтернету, який полягає в тому, що кілька брудних винятків – ніхто спеціально їх таким чином. Це, мабуть, самий дивний і самий корисний урок ми можемо витягти з цих прикладів, якщо ми хочемо дізнатися все. Дивацтва і насильства, які вони виробляють, здається, знаходиться в прямій кореляції, як мало ми розуміємо їх роботу – і як багато від нас приховано, свідомо чи інакше, вимог ефективності і зручності використання, корпоративної та національної таємниці, і прозорі планети, що охоплює шкалу. Ми живемо у вік характеризується насильства і руйнування таких систем, від глобального капіталізму до балансу клімату. Є надія для тих, хто схильний його ексцеси з пелюшок, можливо, що вони стануть першим поколінням, здатним думати про глобальну складності у відносинах, які збільшують, а не зменшують, агентство всіх нас.

Джеймса Брайдла є автором нові Темні століття, (Версія ?16.99). Замовити копію за $ 14.44 йти guardianbookshop.com або зателефонуйте 0330 333 6846

Категория: Технологии