Distopijski roman 1984. Georgea Orwella iz 1949. godine ukazao je na opasnosti od totalitarizma zbog represivnog načina reguliranja ljudskog ponašanja i gubitka individualne slobode. Danas sveprisutne nadzorne kamere s ugrađenom umjetnom inteligencijom prate naše kretanje u gotovo svim svjetskim gradovima.1 Doživljava li svijet povratak Orwellova “Velikog brata”? Što je umjetna inteligencija (AI – Artificial Intelligence) u odnosu na strojno učenje (Machine Learning)2 ? Koje su prednosti umjetne inteligencije i jesu li njezine prednosti sporne zbog opasnosti njezina monopola nad velikim bazama podataka (Big Data) i očiglednog nedostatka međunarodnih i državnih propisa i kontrola?
Što je “umjetna inteligencija” (AI)?
Umjetna inteligencija je računalna znanost koja stvara sustave koji oponašaju ljudsku inteligenciju. Sastoji se od dvije riječi: “umjetna” i “inteligencija”. Stoga je to tehnologija koja kreira i simulira “ljudsku inteligenciju”. Sustavi umjetne inteligencije nisu nužno unaprijed programirani, već su zasnovani na inteligentnim algoritmima (npr. a + b/y = c). Umjetna inteligencija se trenutačno koristi u mnogobrojnim aplikacijama poput “Siri” (asistent na Apple uređajima), Googleovog programa AlphaGo3, kao i u igri Go4 ili šahu (sjetimo se da je IBM-ovo računalo “Deep Blue” pobijedilo Garija Kasparova 1997. godine).
Strojno učenje (ML) u odnosu na umjetnu inteligenciju (AI)
Strojno učenje je podskup umjetne inteligencije koji stroju omogućuje učenje iz postojećih podataka bez dodatnog programiranja. Cilj je da strojevi “uče” iz podataka kako bi dali točne rezultate. Strojno učenje ima ograničen opseg i obavlja samo određene programirane zadatke.
Aplikacije strojnog učenja uključuju online sustave preporuka, kao npr. Google pretraživač.
Aktualne aplikacije umjetne inteligencije uključuju, osim gore navedenih, pozivne sustave korisničke podrške, ekspertne sustave (koji oponašaju ljude iz struke) i inteligentnu humanoidnu robotiku5.
Ukratko, umjetna inteligencija je grana računalne znanosti koja stvara inteligentne strojeve koji se ponašaju, misle i donose odluke nalik ljudskima. Umjetna inteligencija je prisutna kad god stroj “stekne” ljudske vještine, uključujući učenje, rezoniranje i rješavanje problema.
Prednosti umjetne inteligencije
Glavne prednosti su rasterećenje zaposlenika od mnogih jednostavnih, ali i složenih “ponavljajućih radnji” koje obično dovode do opadanja pažnje, zamora i pogrešaka. Umjetna inteligencija povećava učinkovitost zaposlenika, poboljšava radni proces, podiže produktivnost, smanjuje ljudske pogreške, povećava profitabilnost rutinskih poslova i štiti zdravlje radnika pri opasnim radovima.
Umjetna inteligencija također poboljšava donošenje odluka korištenjem kvalitetnih i raznovrsnih podataka. Očito je da to može dovesti do gašenja radnih mjesta, ali i stvaranja novih – što zahtijeva nove radne vještine i obuke. Kako pronaći ravnotežu između zatvaranja i otvaranja radnih mjesta, otvoreno je pitanje.
Rizici koje nosi umjetna inteligencija
Brojne su prednosti umjetne inteligencije – iako one blijede u usporedbi s rizicima invazije na individualnu privatnost i slobodu mišljenja. Stoga je Stephen Hawking, dobitnik Nobelove nagrade za fiziku, izjavio da bi utjecaj umjetne inteligencije mogao biti kataklizmičan ako ne bude etički strogo kontroliran i da bi “umjetna inteligencija mogla biti najgori događaj u povijesti naše civilizacije”6. Tajvanski računalni znanstvenik Kai-Fu Lee tvrdi da će umjetna inteligencija zamijeniti gotovo sve aktivnosti koje zahtijevaju više od pet sekundi razmišljanja − što bi moglo dovesti do golemog ukidanja rutinskih poslova, ali i istovremeno stvoriti snažnu potražnju za visokokvalificiranom radnom snagom. To bi moglo pogoršati već ionako velike nejednakosti u dohotku, unutar i između zemalja, podići socijalne tenzije, jer bi rastući udio dobiti nacionalnog dohotka bio koncentriraniji na jednom mjestu.
Značajni rizici uslijed neprovjerene i neregulirane umjetne inteligencije:
- gubitak radnih mjesta uzrokovan automatizacijom
- kršenje privatnosti
- stvaranje uvjerljivog krivotvorenog sadržaja (deep fakes)
- algoritamska pristranost zbog nekvalitetnih podataka
- socio-ekonomska nejednakost
- nepredvidljivost tržišta
- automatizacija oružja.
Narušavanje privatnosti i porezne oaze
Svjetske vlade i javnost trebali bi biti zabrinutiji nego što jesu zbog širenja umjetne inteligencije u sve digitaliziranijem svijetu. Mi, zapravo, ne znamo tko upravlja umjetnom inteligencijom i koja su pravila, ako ih uopće ima! Veliki tehnološki giganti, nazvani GAFA (Google (Alphabet), Amazon, Facebook (Meta) i Apple), jasno pišu vlastita pravila (npr. korištenjem poreznih oaza i “rupa” u zakonu). Problem je taj što su ti tehnološki divovi stvorili nešto što nisu u mogućnosti potpuno razumjeti ili kontrolirati. Da stvari budu još gore, posjeduju virtualni monopol na pristup podacima – a ti koji kontroliraju velike baze podataka imaju dosad neviđen utjecaj na naše živote.
Facebook, koji posjeduje i upravlja Instagramom, WhatsAppom i Messengerom, uzastopno je hakiran u travnju 2021. godine. Priznao je da je 533 milijuna (od 2,89 milijardi) osobnih podataka7 njegovih korisnika ukradeno još prije kolovoza 2019. godine i da su dostupni u javnoj bazi podataka! Facebook (odnosno sada Meta) neće obavijestiti pogođene korisnike o otkrivanju njihovih privatnih podataka. Ovaj incident uslijedio je nakon nagodbe od 5 milijardi dolara 2019. godine s američkom državnom agencijom za zaštitu potrošača (FTC) zbog kršenja sporazuma o zaštiti privatnosti korisnika. Da stvar bude još gora, u prosincu 2021. godine Facebook je objavio da su privatne nadzorne tvrtke možda špijunirale 50 000 njegovih korisnika; obaviješteni su bili samo oni za koje se vjerovalo da su bili meta. Sedam tvrtki “za unajmljivanje nadzora”, koje su provodile ove nedopuštene radnje, bile su zabranjene na Meta platformama.
I kao dodatak ovim Meta nevoljama, Frances Haugen (bivša Facebookova znanstvenica za podatke), svjedočeći pred Kongresom, optužila je Facebook da krije saznanja o zlostavljanju nekih tinejdžera koji su koristili Instagram i da je nepošten u svojoj borbi protiv mržnje i dezinformacija. Također je podigla tužbu u kojoj navodi da Facebookovo vlastito istraživanje pokazuje da pojačava mržnju, širi dezinformacije i političke nemire, a skriva ono što zna.8
Ukratko, Facebook – koji je minsko polje za korisničku povjerljivost i zaštitu socijalno-osjetljivih podataka – dosljedno bira “profit umjesto sigurnosti i povjerljivosti korisničkih podataka”. Ostali članovi GAFA-e također se suočavaju s pojačanim nadzorom uz mogućnost kazni i državnih mjera čija je svrha suzbijanje praksi koje se smatraju štetnima po tržišno natjecanje ili predstavljaju nepošten odnos prema potrošačima, što može uključivati novčane gubitke i do 15 % njihovih godišnjih prihoda.9
Umjetna inteligencija u sudnicama i svakodnevnom životu
Umjetna inteligencija se sve više koristi u procjeni ponavljajućih kaznenih djela, budući da je manji postotak stanovništva obično odgovoran za većinu kaznenih djela. Međutim, korišteni pravosudni algoritmi često se ne ispituju na specifičnim podskupinama, a manjine se tretiraju kao zaseban entitet; stoga se njihova točnost ne provjerava u odnosu na relevantnu populaciju. Ova pristranost može dovesti do kontinuirane diskriminacije manjina, održavajući tako njihov drugorazredni status. U Francuskoj postoji slična bojazan od uvođenja algoritma “DataJust” u sudnice 2020. godine. Dapače, ista bojazan zbog diskriminirajućih algoritama vrijedi i za niz drugih aktivnosti.
Stoga su zahtjevi za bankovne zajmove, životno i zdravstveno osiguranje te hipoteke sustavno predmet algoritamske provjere s nepravednim ishodom. S obzirom na ove nedosljednosti, sve se više koriste “anonimni životopisi” i audicije za orkestre iza zastora itd. – kako bi se osigurala objektivnost.
Ukratko, gore navedena pitanja koja se tiču umjetne inteligencije relevantna su ne samo za pravosudni sustav, društvene medije, zdravstvenu skrb, obrazovanje i korporativno upravljanje već i za niz drugih područja, kao što su rizici od “sustava automatiziranog oružja” i dominacije algoritamskog trgovanja na burzama. Zaključno, kao što je rekao Eric Schmidt, bivši glavni izvršni direktor Googlea: “Trebamo kontrolirati umjetnu inteligenciju prije nego što ona počne kontrolirati nas.” Trebamo raspravljati o korištenju umjetne inteligencije u svakodnevnom životu prije nego što tehnologija postane toliko brza i pametna da može odlučivati o stvarima koje utječu na sve nas – prije nego što uopće shvatimo da smo imali izbora!
1 London je imao najviše nadzornih kamera sa 68.4 kamera na tisuću stanovnika u 2019. godini; Pariz je bio 9. u Europi s 3.1 kamera na tisuću stanovnika. Pogledajte “10 najviše nadziranih europskih gradova”: https://www.worldatlas.com.
2 Strojno učenje je grana računalne znanosti i tehnologije koja se bavi automatskim izvođenjem zaključaka iz podataka bez eksplicitne instrukcije. Cilj strojnog učenja je stvaranje modela koji je u stanju naučiti iz primjera i koristiti ta znanja za predviđanje ishoda u novom skupu podataka. https://programiranje.com.hr/
3 AlphaGo je računalni program za igranje društvene igre Go. To je prvi računalni program koji je pobijedio profesionalnog Go igrača.
4 Go je kompleksna misaona igra na ploči za dva igrača, porijeklom iz Kine.
5 Humanoidni roboti su dizajnirani da izgledaju poput ljudi i da intuitivno surađuju, više o tome na linku: https://www.asme.org/topics-resources/content/10-humanoid-robots-of-2020.
6 Pogledajte Mike Douglas: “7 opasnih rizika od umjetne inteligencije; AI je hvaljena kao revolucionarna i ona koja mijenja svijet, ali također ima svoja ograničenja” 28/7/21. https://builtin.com/artificial-intelligence/risks-of-artificial-intelligence
7 Podaci su uključivali telefonske brojeve (osjetljive kao “univerzalni identifikatori”), imena, lokacije, e-mail adrese i korisničke profile. Pogledajte https://www.npr.org/ 2021/04/09.
8 Ove optužbe su potkrijepljene tisućama stranica interne istraživačke dokumentacije, više na https://accesswdun.com/article/2021/10/1044247.
9 Google je dobio novčanu kaznu 2017. u iznosu od 2,42 milijarde eura, koju su 2021. potvrdili sudovi Europske unije, jer je davao prednost vlastitoj usluzi za uspoređivanje proizvoda (Google Shopping) u odnosu na one konkurentske, a ne rezultatu koji je bolji u odnosu na druge.
Autor: James Chan-Lee
S engleskog prevela: Danijela Popović Šušić