Oprezno za primjenom vještačke inteligencije

Da postoje određene rezerve kada je u pitanju primjena vještačke inteligencije u finansijama, govori nam akcija jednog udruženja u Australiji. Niame, Financial Rights Legal Centre (FRLC) smatra da neadekvatno kontrolisana primjena vještačke inteligencije može dovesti do toga da se klijenti kompanija “profiliraju” radi profita i time se podvrgnu sve većoj diskriminaciji u cijenama.

U svom podnesku Ministarstvu za industriju, inovacije i nauku Australije, u javnoj raspravi o australijskom etičkom u vezi primjene vještačke inteligencije, ovaj centar navodi da ona već igra važnu ulogu u razvoju fintech-a i insurtech-a. U njemu se navodi da se vještačka inteligencija koristi za povezivanje ponašanja sa premijskim stopama, putem povezanih uređaja i telematike. Vještačka inteligencija se koristi i tokom procesa prodaje putem chatbota, obradi šteta i otkrivanju prevara u osiguranju.

FRLC govori kako bi daljnje razmatranje implementacije vještačke inteligencije trebalo ići pravcu razmatranja potencijalno loših ishoda, koji bi mogli dovesti do povećane ekonomske nejednakosti i finansijske isključenosti.

Profiliranje korisnika zarad veće zarade

FRLC je zabrinut da će porast prisustva vještačke inteligencije u fintechu dovesti do povećanog profiliranja potrošača zarad nerealnih profita. Taj proces može dovesti do povećanja broja ljudi koji se suočavaju sa finansijskim poteškoćama, kojima se nude neprikladni, ali za nosioce finansijskih usluga, visoko profitabilni proizvodi.

U sektoru osiguranja povećana je upotreba analize ˝big data˝ i automatizovane obrada podataka. Ovakvi i slični procesi, omogućuju osiguravačima da uz pomoć moćnih računarskih sistema, rizike mjere na mikro nivou. To će dovesti do toga da veći rizici mogu biti osigurani samo po nerealno visokim cijenama ili po lošijim uslovima.

Algoritmi koje koriste fintechs i insurtechs mogli bi uskratiti potrošačima pristup proizvodima i uslugama, upozorava FRLC. Korisnici bi takođe mogli ostati bez mogućnosti postavljanja pitanja ili ispravljanja netačnih podataka ili “temeljnih pretpostavki”. Naime, algoritamska pristranost ili diskriminacija, već je dobro dokumentovana. Njeno prisustvo je u prosecu kreiranja algoritma koji koriste recimo insurtechs proizvod ili usluga je, smatraju iz FRLC, neminovno. Svoje tvrdnje temelje na tome da sadržaj algoritma neizostavno odražava stavove ili vrijednosti onih koji su uključeni sam u proces kreiranja algoritma.

Primjena vještačke inteligencije u sadašnjim okvirima bi mogla dodatno izložiti finansijski sektor i njegove klijente cyber kriminalu. Naime, kako se “financijski identiteti” potrošača izgrađuju i pohranjuju, identiteti velikog dijela svjetske populacije bi bili ugroženi. Krađa identiteta u sajber orkuženju, omogućila bi nelegalnim korisnicima ovih podataka višestruke kriminalne aktivnosti na štetu korisnika finansijskih usluga.