Vybrané články
z týdeníku The Economist

Jak smazat teroristu

Algoritmy, které mají likvidovat teroristickou propagandu na sociálních sítích, nechtěně ničí i důkazy o válečných zločinech.

Jak smazat teroristu
ilustrace Vojtěch Velický

„Ruce vzhůru! Ruce vzhůru!“ křičí ozbrojenec na zajatce s kápí na hlavě, který už má obě paže nad hlavou a přešlapuje, neboť zjevně neví, co by ještě měl udělat. Ozbrojenec svou oběť střelí, ta padne k zemi, načež ji zasype déšť kulek. „Svedl tě Satan,“ sdělí vrah mrtvému.

Donedávna by se o podobných brutálních činech nejspíš nikdo nedozvěděl. Jenže video, které tuto vraždu zachytilo, se v roce 2016 objevilo na facebooku. O rok později vydal Mezinárodní trestní tribunál (ICC) poprvé v dějinách zatykač, jenž se z velké části opíral o videa, která na sociálních sítích zveřejnili sami pachatelé válečných zločinů. Na jeho základě měl být zatčen libyjský vojenský velitel Mahmúd al-Warfallí. Je obviněný z toho, že právě on na zmíněném videu střílel, a navrch z dalších třiatřiceti vražd, k nimž došlo při v sedmi různých incidentech, jejichž videozáznam se objevil na facebooku. 

Přestože al-Warfallího teprve čeká soudní líčení před ICC v Haagu, zatykač vydaný na jeho hlavu představuje zásadní přelom. Poprvé v dějinách poslouží videa a fotografie zveřejněné na sociálních sítích nejen k tomu, aby přitáhla pozornost světa k válečným zločinům. Nyní může díky nim dosáhnout na pachatele spravedlnost. Odbornice na lidská práva z Leidenské univerzity Emma Irvingová napsala na blog: „Tohle je zlatý důl potenciálních důkazů.“ Ovšem využívání důkazů ze sociálních sítí s sebou nepřináší jen příslib spravedlnosti, ale také značné problémy.

Strach z deepfake

Zaprvé mají důkazy vyvěšené na sociálních sítích dost daleko k dokonalosti. Lidé natáčející zvěrstva často natáčet moc neumějí, nebo mohou být v dané věci zaujatí a natočit jenom něco. Žalobci a soudci se mohou bát, že je záznam zinscenovaný, upravený nebo připsaný někomu jinému. Tyto obavy budou sílit spolu s větší dostupností počítačů vybavených umělou inteligencí schopných vytvářet tzv. „deepfake“, případně velmi přesvědčivě podvržené audio- nebo videonahrávky.

Vzhledem k tomu, že je získávání důkazů ve válečných zónách velice obtížné a krajně nebezpečné, je možné, že žalobci nebudou mít k dispozici nic jiného než podobný záznam. Ten může přinejmenším poskytnout nová vodítka, případně potvrdit zprávy očitých svědků nebo jiné důkazy.

Bojovníci chvástající se na facebooku svými úspěchy mohou neúmyslně vyzradit, kde se právě nacházejí. A mohou žalobcům poskytnout také důkaz o zamýšleném činu. Podobná informace může žalobcům v případech válečných zločinů nashromáždit zlatý důkazní standard: kombinaci svědeckých, písemných a fyzických důkazů.

V roce 2018 podrobila BBC rozboru video kolující na sociálních sítích. Zachycovalo vojáky v Kamerunu, jak zavazují oči dvěma ženám a dětem a následně je střílejí. Přestože kamerunská vláda nejprve tvrdila, že video je podvrh, případně že k činu došlo jinde, nezávislí vyšetřovatelé BBC dokázali spojit hory v pozadí záznamu s mapami a satelitními snímky. Z rozboru stínů na zemi vyvodili, že k vraždám došlo v roce 2015. Při identifikaci vojáků, kteří se na činu podíleli, jim pomohlo, že zjistili, které složky kamerunské armády používají zbraně viditelné na záznamu. Zahanbená kamerunská vláda musela začít jednat a vyšetřování vedlo k obvinění sedmi vojáků. Čtyři z nich byli tento týden odsouzeni k desetiletému trestu odnětí svobody. 

Vymazaná spravedlnost

Ačkoliv žalobci a soudci zjišťují, jak užitečné mohou takové důkazy být, spousta z nich nenávratně mizí. Organizace Human Rights Watch se nedávno pokusila znovu nalézt důkazy, na něž se odvolávala ve svých zprávách z let 2007 až 2020 (drtivá většina z nich byla ovšem zveřejněna v posledních pěti letech). Zjistili, že 11 procent z nich zmizelo. Ostatní narážejí na stejný problém. Nezisková skupina Syrian Archive, která zaznamenává a analyzuje důkazy o syrských zvěrstvech, odhaduje, že 21 procent z téměř 1,75 milionu videí na YouTube, která do června 2020 katalogizovali, už není dostupných. Zmizelo také téměř 12 procent z milionu zaznamenaných tweetů.

Část obsahu smazali sami uživatelé, ale většinu odstranily internetové společnosti, jako je Facebook nebo Twitter. Občas mají k mazání otřesného obsahu dobré důvody. Chtějí chránit uživatele před snuff videi a extremistickou propagandou. Pod tlakem ze strany aktivistů a vlád mnoho firem přijalo přísná pravidla, která mají „moderovat“ zveřejňovaný obsah. Ale protože neexistují téměř žádná pravidla pro to, co se dál děje s obsahem, který sociální sítě odstraní, nemáme jistotu, že zůstane zachován pro případ, že by jej bylo později třeba použít při důkazním řízení.

Používání počítačových algoritmů k moderování obsahu celou situaci ještě zhoršuje. V roce 2017 se ukázalo, že nový algoritmus YouTube nedokáže rozlišit mezi materiály zveřejněnými Islámským státem oslavujícími vraždění a materiály, které vyvěsili lidskoprávní aktivisté, kteří zvěrstva IS dokumentovali. YouTube odstranil stovky tisíc záznamů týrání, k němuž docházelo v Sýrii. Mnoho z nich bylo po protestech veřejnosti obnoveno, ovšem novější algoritmy nyní mažou obsah ještě dřív, než se k divákům vůbec dostane. Devadesát tři procent obsahu, který Facebook mezi lednem a březnem odstranil kvůli porušení pravidel, vytipovaly automatické systémy, ne moderátoři z masa a kostí. Polovina byla smazána ještě dřív, než obsah vůbec někdo viděl. 

Skupiny hájící lidská práva argumentují, že by internetové platformy měly mít povinnost uchovávat smazaný obsah, případně jej předávat nezávislým archivům. Pokud by například Syrian Archive neuchoval kopie videí a tweetů zachycujících zločiny páchané v Sýrii, mnoho důkazů by bylo nenávratně ztraceno. A spolu s nimi i jakákoliv naděje, že se ti, kteří pořízením záznamu riskovali život, dočkají nějaké spravedlnosti.

© 2020 The Economist Newspaper Limited
All rights reserved. Publikováno na základě licence s The Economist, přeloženo týdeníkem Hrot.
Originální článek v angličtině najdete na www.economist.com.

Článek vyšel v tištěném vydání týdeníku Hrot. Předplatit si ho můžete ZDE.

 

Týdeník hrot

  • Řecká tragédie po česku
  • Proč jsou ženy nedoceněné
Objednat nyní