AI može predvidjeti rasu ljudi na osnovu rendgenskih snimaka, a znanstvenici su zabrinuti

Modeli dubokog učenja koji se temelje na umjetnoj inteligenciji mogu identificirati nečiju rasu samo na temelju njihovih X-zraka, otkrilo je novo istraživanje – nešto što bi bilo nemoguće ljudskom liječniku koji gleda iste slike.

Nalazi postavljaju neka zabrinjavajuća pitanja o ulozi umjetne inteligencije u medicinskoj dijagnozi, procjeni i liječenju: može li računalni softver nenamjerno primijeniti rasnu pristranost prilikom proučavanja slika poput ovih?

Nakon što je trenirao svoju umjetnu inteligenciju koristeći stotine tisuća postojećih rendgenskih slika označenih detaljima rase pacijenta, međunarodni tim zdravstvenih istraživača iz SAD-a, Kanade i Tajvana testirao je svoj sustav na rendgenskim slikama koje je imao računalni softver.

AI je mogao predvidjeti prijavljeni rasni identitet pacijenta na ovim slikama s iznenađujućom točnošću, čak i kada su snimci uzeti od ljudi iste dobi i istog spola. Sustav je dosegao razine od 90 posto s nekim skupinama slika.

Po svojoj prirodi, AI oponaša ljudsko razmišljanje kako bi brzo uočio obrasce u podacima. Ipak, to također znači da može nesvjesno podleći istim vrstama predrasuda. Što je još gore, njihova složenost otežava raspetljavanje predrasuda koje smo utkali u njih.

Znanstvenici trenutno nisu sigurni zašto je AI sustav tako dobar u prepoznavanju rase na slikama koje ne sadrže takve informacije, barem ne na površini. Čak i kada se daju ograničene informacije, uklanjanjem tragova o gustoći kostiju, na primjer, ili fokusiranjem na mali dio tijela, modeli su se i dalje iznenađujuće dobro snašli u pogađanju rase prijavljene u dosjeu.