Povežite se s nama

Znanost

AI može predvidjeti rasu ljudi na osnovu rendgenskih snimaka, a znanstvenici su zabrinuti

Objavljeno

-

Modeli dubokog učenja koji se temelje na umjetnoj inteligenciji mogu identificirati nečiju rasu samo na temelju njihovih X-zraka, otkrilo je novo istraživanje – nešto što bi bilo nemoguće ljudskom liječniku koji gleda iste slike.

Nalazi postavljaju neka zabrinjavajuća pitanja o ulozi umjetne inteligencije u medicinskoj dijagnozi, procjeni i liječenju: može li računalni softver nenamjerno primijeniti rasnu pristranost prilikom proučavanja slika poput ovih?

Advertisement

Nakon što je trenirao svoju umjetnu inteligenciju koristeći stotine tisuća postojećih rendgenskih slika označenih detaljima rase pacijenta, međunarodni tim zdravstvenih istraživača iz SAD-a, Kanade i Tajvana testirao je svoj sustav na rendgenskim slikama koje je imao računalni softver.

AI je mogao predvidjeti prijavljeni rasni identitet pacijenta na ovim slikama s iznenađujućom točnošću, čak i kada su snimci uzeti od ljudi iste dobi i istog spola. Sustav je dosegao razine od 90 posto s nekim skupinama slika.

Advertisement

Po svojoj prirodi, AI oponaša ljudsko razmišljanje kako bi brzo uočio obrasce u podacima. Ipak, to također znači da može nesvjesno podleći istim vrstama predrasuda. Što je još gore, njihova složenost otežava raspetljavanje predrasuda koje smo utkali u njih.

Znanstvenici trenutno nisu sigurni zašto je AI sustav tako dobar u prepoznavanju rase na slikama koje ne sadrže takve informacije, barem ne na površini. Čak i kada se daju ograničene informacije, uklanjanjem tragova o gustoći kostiju, na primjer, ili fokusiranjem na mali dio tijela, modeli su se i dalje iznenađujuće dobro snašli u pogađanju rase prijavljene u dosjeu.

Advertisement
Nastavi čitati
Advertisement
Advertisement

Urednikov izbor

Advertisement Cyberfolks web hosting

Najčitanije