Organizace Human Rights Watch a právnicka fakulty Harvardovy univerzity publikovaly v dubnu 2025 rozsáhlou zprávu „A Hazard to Human Rights: Autonomous Weapons Systems and Digital Decision-Making“. Dokument navazuje na starší studii z roku 2014 a rozšiřuje analýzu o tři další oblasti lidských práv, kterých se má nasazení plně autonomních zbraní dotýkat.
Ve zprávě obě organizace dochází k závěru, že systémy schopné samostatně vybírat a zasahovat cíle na základě senzorických dat, nikoli lidského rozhodnutí, by porušovaly právo na život, právo na pokojné shromažďování, princip lidské důstojnosti, zákaz diskriminace, právo na soukromí a právo na právní ochranu.
Human Rights Watch je spoluzakladatelem kampaně Stop Killer Robots, sdružující 270 organizací občanské společnosti, jež usiluje o novou mezinárodní smlouvu zakazující autonomní zbraně bez lidské kontroly a cílení na lidi.
Co jsou autonomní zbraňové systémy
Podle definice použité ve zprávě jde o systémy, které po počátečním spuštění člověkem vybírají a napadají cíle na základě zpracování senzorických dat, tedy kamer, radarových odrazů, tepelných stop a dalších vstupů, již bez schválení či kontroly lidským operátorem. O tom, kdy, kde a proti komu bude síla použita, tak rozhoduje stroj, nikoli člověk.
Systémy s určitou mírou autonomie existují už řadu let. Patří mezi ně například bojové drony nebo třeba loitering munice. Podle autorů zprávy se ale technologický vývoj a vojenské investice nyní posouvají směrem k systémům, které by mohly fungovat zcela bez smysluplné lidské kontroly a zároveň by mohly cílit přímo na osoby (LAWS – Lethal Autonomous Weapons Systems).
Právo na život jako první bariéra
Ústředním argumentem zprávy je, že použití síly musí podle mezinárodního práva lidských práv splňovat tři kumulativní podmínky: nezbytnost, přiměřenost a použití smrtící síly jen jako krajní prostředek. Autoři tvrdí, že autonomní systémy by tyto podmínky nebyly schopny naplnit, protože jim chybí schopnost interpretovat jemné signály lidského chování, zvažovat proporcionalitu na základě kontextu a vyjednávat s cílem deeskalace situace dřív, než dojde k použití síly.
Analogický problém podle zprávy platí i pro ozbrojený konflikt, kde roli hraje mezinárodní humanitární právo a jeho zásady rozlišování a proporcionality. I zde autoři upozorňují na potíže při rozlišování bojovníků od civilistů, zejména když bojující strany nenosí uniformy nebo jiné viditelné znaky. Zpráva se v této souvislosti odkazuje i na takzvané systémy na podporu rozhodování (decision support systems), tedy nástroje, které již dnes v ozbrojených konfliktech pomáhají identifikovat cíle na základě dat, včetně lokalizace mobilních telefonů. Podle zprávy tyto nástroje ukazují stejné problémy s nespolehlivostí, jaké by měly čistě autonomní systémy.
Shromažďování a dohled nad demonstracemi
Druhou oblastí je právo na pokojné shromažďování, tedy práva relevantní zejména pro policejní zásahy. Zpráva upozorňuje, že hranice mezi pokojným a násilným shromážděním bývá často nejasná a že přítomnost jednotlivců s ochrannými prostředky, jako jsou plynové masky nebo helmy, automaticky neznamená násilný charakter akce. Podle autorů by autonomní systém nebyl schopen spolehlivě odlišit násilné účastníky od pokojných, případně rozlišit útočníka od osoby jednající v sebeobraně.
Zpráva rovněž poukazuje na odstrašující efekt (chilling effect), jaký by mohla mít pouhá existence či hrozba nasazení autonomních zbraní na ochotu lidí demonstrovat, zejména v rukou autoritářských vlád.
Lidská důstojnost a dehumanizace
Zpráva věnuje samostatnou kapitolu principu lidské důstojnosti, který podle autorů autonomní zbraně narušují bez ohledu na to, zda by teoreticky dosahovaly nízké chybovosti. Argumentace stojí na třech bodech: stroje nelze naprogramovat tak, aby chápaly hodnotu lidského života, postrádají empatii a soucit, jež u lidí vytvářejí přirozenou zábranu proti zabíjení, a proces výběru cíle založený na datových bodech cíle dehumanizuje již ve fázi vývoje systému, dlouho předtím, než dojde k samotnému útoku.
Zpráva cituje i prosincový projev papeže Františka z roku 2023 na téma umělé inteligence a míru, v němž zesnulý papež uvedl, že takové systémy nemohou být nikdy morálně odpovědnými subjekty, protože lidská schopnost mravního úsudku není redukovatelná na programování stroje.
Riziko diskriminace a rasismu
Podle zprávy by autonomní systémy využívající umělou inteligenci mohly reprodukovat a zesilovat existující předsudky, ať už kvůli zkreslení tvůrců systému, nebo kvůli nereprezentativním tréninkovým datům. Dokument cituje studie ukazující výrazně vyšší chybovost rozpoznávání obličejů u tmavší pleti a u žen, stejně jako problémy hlasových rozpoznávacích systémů u mluvčích s odlišnou barvou pleti. Podobná rizika autoři popisují u osob se zdravotním postižením, kde by asistenční pomůcky, jako je bílá hůl, mohly být systémem mylně vyhodnoceny jako zbraň.
Právo na soukromí a otázka odpovědnosti
Vývoj a trénink systémů založených na umělé inteligenci podle zprávy nevyhnutelně vyžaduje rozsáhlý sběr dat, často prostřednictvím hromadného sledování, což je v rozporu s právem na soukromí. Poslední z šesti zkoumaných práv, právo na nápravu, se pak týká otázky odpovědnosti systému. Zpráva zde popisuje takzvanou mezeru v odpovědnosti (accountability gap). U systémů typu „černé skříňky“ je obtížné přiřadit trestní nebo občanskoprávní odpovědnost operátorovi, programátorovi nebo výrobci.
Války a migrační krize
Zpráva vzniká v době, kdy vojenské investice do autonomních a poloautonomních systémů rostou napříč ozbrojenými silami a diskuse o regulaci zůstává na mezinárodní úrovni nedokončená. Vojenské a bezpečnostní kruhy v řadě zemí naopak argumentují, že přiměřeně regulované autonomní prvky mohou v některých situacích snížit riziko chyb způsobených únavou nebo stresem lidské obsluhy. Zpráva tento protiargument systematicky nerozebírá.
Zdroj: HRW/International Human Rights Clinic (Harvard Law School)
Autor/Licence fotografie: LAWS ilustrační obrázek, Filip Klasna, obrázek vytvořen pomocí umělé inteligence (Gemini), Creative Commons Attribution 4.0 International (CC BY 4.0)