Očekujte orwellovsku budućnost ako se AI ne bude kontrolirao

Umjetna inteligencija mogla bi dovesti do orwellovske budućnosti ako se zakoni za zaštitu javnosti uskoro ne usvoje, smatra predsjednik Microsofta Brad Smith.

Smith je dao komentare na BBC-jevu vijest “Panorama” 26. svibnja, tijekom epizode usredotočene na potencijalne opasnosti umjetne inteligencije (AI) i utrke između Sjedinjenih Država i Kine u razvoju tehnologije.

Upozorenje dolazi otprilike mjesec dana nakon što je Europska unija objavila nacrte propisa kojima se pokušava postaviti ograničenje načina na koji se AI može koristiti. Malo je sličnih napora u Sjedinjenim Državama, gdje se zakonodavstvo uglavnom usredotočilo na ograničavanje propisa i promicanje umjetne inteligencije u svrhe nacionalne sigurnosti.

“Stalno me podsjećaju na lekcije Georgea Orwella u njegovoj knjizi ‘1984’, rekao je Smith. “Temeljna priča bila je o vladi koja je mogla vidjeti sve što su svi radili i čuti sve što su svi govorili cijelo vrijeme. Pa, to se nije dogodilo 1984. godine, ali ako ne budemo pažljivi, to bi se moglo dogoditi 2024.”

Umjetna inteligencija je loše definiran pojam, ali općenito se odnosi na strojeve koji mogu automatski učiti ili rješavati probleme, a da ih čovjek ne usmjerava. Mnogi se programi AI danas oslanjaju na strojno učenje, skup računalnih metoda koji se koriste za prepoznavanje obrazaca u velikim količinama podataka, a zatim primjenjuju te lekcije na sljedeći krug podataka, teoretski postajući sve precizniji sa svakim prolazom.

Kina je već počela koristiti tehnologiju umjetne inteligencije i ona je već praktično u svakodnevnoj primjeni. Primjerice, prepoznavanje lica koristi se u nekim gradovima umjesto karata u autobusima i vlakovima. Ali to također znači da vlada ima pristup obilnim podacima o kretanju i interakciji građana, istražila je BBC-jeva “Panorama”.

Potencijalna regulativa EU-a o umjetnoj inteligenciji zabranit će sustave koji pokušavaju zaobići slobodu volje korisnika ili sustave koji omogućavaju bilo kakvu vrstu “socijalnog bodovanja” od strane vlade. Ostale vrste aplikacija smatraju se “visokorizičnim” i moraju udovoljavati zahtjevima transparentnosti, sigurnosti i nadzora kako bi se stavile na tržište. To uključuje stvari poput umjetne inteligencije za kritičnu infrastrukturu, provođenje zakona, kontrolu granica i biometrijsku identifikaciju, poput sustava za identifikaciju lica ili glasa.