Už i samotné firmy začínají mít obavy, že systémy pro rozpoznávání tváří nejsou příliš etickou součástí jejich byznysu. Šéf IBM Arvind Krishna odeslal americkému Kongresu dopis, ve kterém popisuje, že společnost už nevidí smysl v dalším vývoji této technologie. Podle něj by měl vzniknout celonárodní dialog, jestli je vůbec správné, aby rozpoznávání tváří bylo používané v praxi, jelikož systémy jsou jednoduše zneužitelné.
Tak jako většina událostí z posledních dní, i dopis Krishny navazuje na aktuální celosvětové nepokoje proti policejní brutalitě. Šéf IBM totiž o technologii na rozpoznávání tváří říká, že v rukou bezpečnostních složek se může jednoduše zvrtnout, zmiňuje v té souvislosti rasové profilování.
„IBM je silně proti a nebude tolerovat použití jakékoli technologie, včetně technologie rozpoznávání obličeje nabízené jinými prodejci, pro masové monitorování, rasové profilování, porušování základních lidských práv a svobod nebo jakýkoli účel, který není v souladu s našimi hodnotami a transparentností. Věříme, že nyní nastal čas zahájit vnitrostátní dialog o tom, zda a jak by měly orgány činné v trestním řízení používat technologii pro rozpoznávání obličejů,“ stojí přímo v dopise.
Krisha následně říká, že pokud by technologie přece jen měla být použita, bude muset být zajištěno, že není proti nějaké skupině obyvatel zaujatá. Aktuálně se totiž o příliš velké přesnosti mluvit nedá a nejhorší je to právě u osob z etnických minorit. Nepříliš dobrou pověst v této oblasti má například systém Rekognition od Amazonu, který již několik policejních složek v USA testuje.
Technologie na rozpoznávání obličejů je ale obvyklá dobrá tak, jak je dobrý data set, ze kterého vychází. IBM se s tím snažil bojovat již v roce 2018, kdy zveřejnil volnou databázi snímků pro trénovací účely, která měla být právě lépe vyvážena. Hned po tom byl ovšem obviněn ze sdílení jiné databáze, kdy fotky vzal z Flickru, aniž by o tom osoby na nich věděly, takže kontroverze se nevyhnula ani jemu.
V každém případě důvod pro ukončení vývoje této technologie nemusí být pouze tak honosný, jako obavy o lidská práva. Jak konstatuje server TechCrunch, celá oblast je teprve v zárodku a není příliš výdělečná, protože není mnoho míst, kde lze systémy efektivně aplikovat. Je tu rovněž velká konkurence. Pro IBM to nikdy nebyl velký byznys a zastavením vývoje se dost možná zbaví černé díry na peníze. Oznámit toto rozhodnutí zrovna uprostřed rasových protestů pak může být způsob, jak si zajistit dobré PR.
