Dokazuje ‚Elsagate‘, že YouTube je příliš velký na to, aby jej bylo možné ovládat?
Skandál násilných a sexuálních videí zaměřených na děti odhaluje obtížnost spoléhat se na algoritmy
Catrinus Van Der Veen / AFP / Getty Images
V únoru YouTube oznámil dosáhlo ohromujícího milníku: návštěvníci nyní každý den zhltli video v hodnotě miliardy hodin.
Samotná velikost uživatelské základny platformy je stejně ohromující. Více než 1,5 miliardy lidí používá YouTube, říká Opatrovník Roger McNamee, což mu dává globální dosah srovnatelný s islámem.
Ale jak se říká, s velkou mocí přichází velká zodpovědnost a nedávný ElsaGate, skandál zahrnující znepokojivá videa zaměřená na děti, přivedl některé k úvahám, zda se YouTube nestal Frankensteinovým monstrem, které jeho tvůrci nemohou ovlivnit.
Co je ElsaGate?
Některé z nejoblíbenějších kanálů YouTube jsou zaměřeny na děti a jejich tvůrci se specializují na říkanky, barevné kreslené filmy a všemocná videa s rozbalováním hraček a získávají miliony odběratelů a miliardy zhlédnutí.
Ale je tu problém. YouTube je absolutně zaplaven extrémně násilnými, nevhodnými a sexuálně sugestivními videi zaměřenými na děti, říká Inquistr a tato videa si nacházejí cestu do seznamů automatického přehrávání vedle klipů vhodných pro věk.
Novinář James Bridle se ponořil do tohoto znepokojivého fenoménu nazvaného Elsagate podle oblíbené postavy Frozen, která se objevuje v mnoha videích, v článku s názvem Něco je špatně na internetu na Střední tento měsíc.
Zjistil, že když tvůrci obsahu pronásledují diváky, úspěšné - a původně neškodné - vzorce pro sbírání zhlédnutí se donekonečna opakují napříč sítí ve stále podivnějších a zkreslených rekombinacích.
Ve své nejextrémnější podobě mezi ně patří legie znepokojujících videí, která se zdají být vytvořena nebo v některých případech automaticky vytvořena v reakci na oblíbená klíčová slova. Často obsahují znepokojivá témata a sexuální nebo násilný obsah.
Například při hledání zubaře Peppa Pig se vrátí podomácku vyrobený klip, ve kterém je populární dětská postava mučena, než se promění v sérii robotů Iron Man a předvede tanec Learn Colors.
ElsaGate vyvolalo záplavu odezvy od znepokojených rodičů, médií a internetových detektivů, kteří se snaží zjistit, kdo nebo co vytváří tato znepokojivá videa a proč.
Stal se YouTube příliš velkým na to, aby jej bylo možné ovládat?
Jádrem ElsaGate a dalších kontroverzí ohledně obsahu YouTube, jako jsou videa propagující terorismus nebo násilí, je všemocnost algoritmů platformy.
Na rozdíl od toho, co se někteří rodiče mohou domnívat, obsah ve vyhrazené aplikaci YouTube Kids není kurátorován, ani není předem kontrolován lidmi. Místo toho se navrhovaná videa objeví v jeho seznamu automaticky přehrávaných automaticky na základě sdílených klíčových slov nebo podobných segmentů publika.
Samotná velikost katalogu YouTube přesahuje možnosti lidského dohledu. Obsah je na platformu nahrán ekvivalentem 400 hodin videa každou minutu, podle Statista .
Neuvěřitelný nárůst videí, která byla zjevně vytvořena jako odpověď na běžné vyhledávací dotazy, ukazuje, do jaké míry je YouTube v podstatě provozován stroji, říká Medium’s Bridle.
Na platformě, kde viditelnost obsahu – a tedy potenciál pro příjmy z reklamy – je řízena algoritmy, i když jste člověk, musíte se nakonec vydávat za stroj.
ElsaGate odhalila dlouhodobou pravdu o YouTube, kterou již nelze ignorovat, říká Polygon : filtry navržené k ochraně uživatelů všech věkových kategorií před rušivým, násilným nebo nezákonným obsahem nejsou k dispozici.
Algoritmy jsou roztrhány, analyzovány a vytlučeny tvůrci obsahu, lidskými nebo automatickými, kteří se stali zběhlými v hraní se systémem, aby se ujistili, že jejich výstup je vidět.
Ve zvláště notoricky známém příkladu se vtipálkům na nástěnce 4chan podařilo spojit pornografii do dětských pořadů a hrát algoritmus, aby zajistili, že videa budou zpeněžena a viděna, říká Polygon.
Dá se problém vyřešit?
YouTube se zavázal, že zasáhne proti moru nevhodných dětských videí, která proklouznou přes filtry ve své aplikaci Kids.
Juniper Downs, ředitel pro politiku, uvedl, že nový systém, který předchází odhalení ElsaGate, bude klasifikovat videa nahlášená uživateli jako věkově omezená, což je automaticky zabrání v přístupu do aplikace YouTube Kids.
Na širších úrovních existují náznaky, že YouTube posouvá svůj postoj ke správě obsahu směrem k praktickejšímu přístupu, což je způsobeno tlakem vlád, které se zabývají online extremismem.
Několik teroristických útoků v Evropě a USA spáchali jednotlivci, kteří se domnívali, že se částečně radikalizovali sledováním propagandistických videí na YouTube natočených skupinami, jako je Islámský stát a jejich sympatizanti.
Politici pohrozili, že zakročí proti technologickým firmám, které neposílí opatření na odstraňování videí s extremistickým obsahem. Zdá se, že Alphabet, mateřská společnost YouTube, bere hrozby vážně.
Dříve byla na YouTube povolena pobuřující náboženská nebo politická videa, pokud neporušovala pravidla webu týkající se grafického obsahu nebo nepropagovala násilí, ačkoli nesplňovala podmínky pro příjem z reklamy.
Potvrdil to mluvčí YouTube Reuters jejich zásady se změnily tak, že zakazují jakékoli video, které zobrazuje osoby nebo skupiny klasifikované jako teroristické, včetně materiálů, jako jsou přednášky náboráře z Al-Káidy Anwara al-Awlakiho.
Nicméně, i když YouTube vyvine nové strategie k odstranění mezer, důsledky ElsaGate zůstávají znepokojivé na hlubší úrovni, říká TechCrunch je Natasha Lomas.
Médium YouTube pobízí továrny na obsah, aby produkovaly potravu pro kliknutí, píše Lomas, čímž vystavuje generaci přílivové vlně popkulturní kaše založené spíše na klíčových slovech než na koherenci. Je těžké si představit, že by něco pozitivního pocházejícího z něčeho tak záměrně základního a krmícího ze dna bylo systematicky vhazováno před oči dětí.
