Počítače | Soudy

Počítačový program pro identifikaci recidivistů rozhoduje stejně nepřesně jako naprostí laici

  • Americkým soudcům pomáhají při rozhodování o podmíněných trestech či propuštění na kauci počítačové programy, které mají u obžalovaných odhalit pravděpodobnost recidivy
  • Nejnovější analýzy prokázaly, že počítač rozhoduje stejně nepřesně jako laik disponující minimem základních informací o obviněném
  • K bělochům je počítač shovívavější, na černochy je naopak o poznání přísnější
Počítačový program pro identifikaci recidivistů rozhoduje stejně nepřesně jako naprostí laici

Komu dát podmínku a kdo si má jít sednout za mříže? Kdo bude propuštěný na kauci a kdo v žádném případě nesmí opustit vazební věznici, protože by s vysokou pravděpodobností spáchal další zločiny?

Podobné otázky řeší soudci kriminálních případů dnes a denně. Americké justici přitom pomáhá například počítačový program COMPAS čili Correctional Offender Management Profiling for Alternative Sanctions. Má napomoci k tomu, aby soudce zbytečně nedržel za mřížemi člověka, který prostě jenom „ustřelil“ a víckrát už se proti paragrafům neproviní. A také má předejít tomu, aby soudce pustil z kontroly v rukou justice profesionálního kriminálníka, který si svůj život bez zločinu nedokáže představit.

Už dříve dostávali soudci o obžalovaných rozličné údaje. Měli přehled nejen o jejich trestním rejstříku, ale také o financích, zaměstnání, rodinných poměrech, o okruhu přátel a známých a o dalších okolnostech. Soudce mohl tato data při rozhodování brát do úvahy, ale také nemusel. Časem převzaly vyhodnocování dat počítačové algoritmy, z nichž mnohé jsou patentované a soudy je získávají nákupem licencí.

Je takové „strojní“ rozhodování lepší než rozhodování člověka? Ledacos naznačovalo, že algoritmy jsou zatížené nemalou chybou. COMPAS byl například obviněn z rasismu, protože se zdál k obviněným bělochům podstatně shovívavější, než odpovídalo jejich následné kriminální činnosti.

Jak to tedy s COMPASem je?

Informatici Julia Dresselová a Hany Farid z Dartmouth College se rozhodli COMPAS prověřit. Shromáždili data o 10 000 obviněných, získali hodnocení jejich rizikovosti pomocí programu COMPAS a k tomu posháněli data o trestných činech, kterých se tento soubor obžalovaných dopustil v následujících dvou letech. Následně naverbovali čtyři stovky dobrovolníků, kteří neměli praxi v soudnictví, ani neměli nic společného s provozem programu COMPAS.

Každému dobrovolníkovi poskytla Dresselová s Faridem profily padesáti obviněných prezentované sedmi naprosto základními údaji, jako je pohlaví, věk nebo počet předchozích trestů. Dobrovolníci měli určit pravděpodobnost, s jakou se obžalovaný dopustí recidivy. Předpovědi dobrovolníků a algoritmu COMPAS vědci porovnali se skutečností.

Výsledky publikované v předním vědeckém časopise Science Advances jsou bezesporu zajímavé. Naprostí laici s minimem údajů o obžalovaných určili správně recidivu v 63 až 67 % případů. COMPAS byl úspěšný v 65 % případů. To není nijak omračující úspěšnost.

Zajímavá byla i zhruba třetina případů, kdy se dobrovolníci i počítač zmýlili. Jak lidé, tak algoritmus COMPAS byli náchylní držet za mřížemi černocha, který se během následného pobytu na svobodě už recidivy nedopustil. A naopak, jak laici, tak i počítač byli náchylní pustit bělocha, který následně spáchal zločin.

Obecně rozšířené povědomí napovídalo, že sofistikované počítačové systémy pro hodnocení rizikovosti obviněných jsou zatíženy o poznání menší chybou než lidský rozum podléhající emocím a předsudkům. Jenže právě sofistikovanost algoritmů se ukázala jako silně pochybná. Dresselová a Farid sestavili primitivní prográmek, který zohledňoval pouze stáří obviněných a počet trestů, jež měli za sebou. S jeho pomocí dosáhli úspěšnosti odhadu recidivy obžalovaných 67 %.

Odborníci považují výsledky studie Julie Dresselové a Hanyho Farida za alarmující, protože velmi podobné algoritmy používají banky při schvalování půjček a úvěrů, úřady jimi hodnotí učitele a uplatňují se dokonce i při rozhodování, zda zahájit vyšetřování případů, kdy je vzneseno obvinění ze zneužívání nezletilých. Také v těchto případech zřejmě algoritmy nepodávají nijak omračující výkony a mohou se dopouštět systematické diskriminace některých skupin obyvatel.

Zdroj: Science Advances

Diskuze (5) Další článek: Kdo ještě dneska hraje Minecraft? Kupodivu stále víc a víc lidí

Témata článku: Technika, Počítače, USA, Lidé, Soudy, Kriminalita, Finance, ZOH, Trestní rejstřík, Trestný čin, Černoch, Obžalovaný, Kriminální čin, Algoritmus, COMPAS, Malá chyba, Úvěr, Počítačový algoritmus, Rozhodování, Kriminální případ, Vysoká pravděpodobnost, Dartmouth, Půjčka, Nejnovější analýza, Následující rok, Počítače profesionální na Mall.cz


Určitě si přečtěte

Testy procesorů Intel Comet Lake pro desktopy jsou venku. Teď už je jasné, jakého dostaly Ryzeny soupeře

Testy procesorů Intel Comet Lake pro desktopy jsou venku. Teď už je jasné, jakého dostaly Ryzeny soupeře

** Embargo pro testy nových desktopových procesorů Comet Lake od Intelu skončilo ** Spousta recenzí a testů ukazuje výhody a nevýhody nových modelů ** Dokáží nové procesory konkurovat modelům od AMD?

Karel Javůrek | 47

Jak odposlouchávat sousedy: Bizarní Lamphone a další netušené techniky

Jak odposlouchávat sousedy: Bizarní Lamphone a další netušené techniky

** Lamphone je další bizarní technika odposlechu ** Zneužívá obyčejnou stropní lampu ** Podívejte se na další bizarní experimenty

Jakub Čížek | 16

Čím nahradit Total Commander: 11 správců souborů nejen pro profíky

Čím nahradit Total Commander: 11 správců souborů nejen pro profíky

** Total Commander je fernomén mezi správci souborů ** Našli jsme 11 povedených alternativ ** Zvládnou to samé a ke všemu jsou většinou zadarmo

Karel Kilián | 86

Apple vychrlil novinky: Nové operační systémy a příprava na vlastní procesory

Apple vychrlil novinky: Nové operační systémy a příprava na vlastní procesory

** Apple dnes představuje novinky ** Tradiční keynote v rámci konference WWDC probíhá jen online ** Nové operační systémy, ale i něco navíc

David Polesný | 108

Je to dobré, cetky z AliExpressu budou nejspíše relativně levné i v roce 2021

Je to dobré, cetky z AliExpressu budou nejspíše relativně levné i v roce 2021

** V roce 2021 začneme platit DPH i u laciného zboží z asijských e-shopů ** Daň ale budeme většinou platit už na e-shopech ** Nemusíte se bát zdlouhavého a drahého celního řízení

Jakub Čížek | 74