Ključni podaci za van
- Tvrtke sve više koriste AI koja objašnjava kako postižu rezultate.
- LinkedIn je nedavno povećao svoj prihod od pretplata nakon što je koristio AI koji je predvidio klijente u riziku od otkazivanja i opisao kako je došao do svojih zaključaka.
- Savezna komisija za trgovinu rekla je da se umjetna inteligencija koja se ne može objasniti može istražiti.
Jedan od najpopularnijih novih trendova u softveru mogla bi biti umjetna inteligencija (AI) koja objašnjava kako postiže svoje rezultate.
Objašnjiva umjetna inteligencija se isplati jer softverske tvrtke pokušavaju učiniti umjetnu inteligenciju razumljivijom. LinkedIn je nedavno povećao prihod od pretplata nakon što je upotrijebio umjetnu inteligenciju koja je predvidjela klijente u opasnosti od otkazivanja i opisala kako je došla do svojih zaključaka.
"Objašnjiva umjetna inteligencija znači mogućnost vjerovati izlazu kao i razumijevanje kako je stroj dospio tamo", rekao je Travis Nixon, glavni izvršni direktor SynerAI-ja i šef znanosti o podacima, financijskih usluga u Microsoftu, za Lifewire u intervjuu e-poštom.
"'Kako?" pitanje je koje se postavlja mnogim sustavima umjetne inteligencije, posebno kada se donose odluke ili proizvode rezultati koji nisu idealni, " dodao je Nixon. "Od nepravednog tretiranja različitih rasa do zamjene ćelave glave s nogometnom loptom, moramo znati zašto sustavi umjetne inteligencije daju svoje rezultate. Jednom kada shvatimo 'kako', to navodi tvrtke i pojedince da odgovore 'što dalje?'."
Upoznavanje AI
AI se pokazao točnim i daje mnoge vrste predviđanja. Ali umjetna inteligencija često može objasniti kako je došla do svojih zaključaka.
I regulatori primjećuju problem objašnjivosti umjetne inteligencije. Savezna komisija za trgovinu rekla je da bi se AI koja se ne može objasniti mogla istražiti. EU razmatra usvajanje Zakona o umjetnoj inteligenciji, koji uključuje zahtjeve da korisnici mogu tumačiti predviđanja umjetne inteligencije.
Linkedin je među tvrtkama koje misle da objašnjiva umjetna inteligencija može pomoći u povećanju profita. Prije su se prodavači LinkedIna oslanjali na svoje znanje i provodili su ogromne količine vremena prebirući izvanmrežne podatke kako bi identificirali koji će računi vjerojatno nastaviti s poslovanjem i koji bi ih proizvodi mogli zanimati tijekom sljedeće obnove ugovora. Kako bi riješio problem, LinkedIn je pokrenuo program pod nazivom CrystalCandle koji uočava trendove i pomaže prodavačima.
U drugom primjeru, Nixon je rekao da je tijekom stvaranja modela postavljanja kvota za prodajno osoblje tvrtke, njegova tvrtka uspjela ugraditi objašnjivu umjetnu inteligenciju kako bi identificirala koje karakteristike ukazuju na uspješan novi prodajni angažman.
"S ovim rezultatom, uprava ove tvrtke mogla je prepoznati koje prodavače staviti na 'brzu stazu', a kojima je potrebna obuka, sve prije nego što su se pojavili veći problemi," dodao je.
Mnoge upotrebe za objašnjivu umjetnu inteligenciju
Objašnjiva umjetna inteligencija trenutno se koristi kao provjera crijeva za većinu znanstvenika koji se bave podacima, rekao je Nixon. Istraživači svoj model pokreću jednostavnim metodama, osiguravaju da ništa nije u redu, a zatim šalju model.
"To je djelomično zato što su mnoge organizacije za znanost o podacima optimizirale svoje sustave oko 'vrijednosti vremena' kao KPI-ja, što je dovelo do užurbanih procesa i nepotpunih modela, " dodao je Nixon.
Brinem se da bi povratni udar neodgovornih modela mogao ozbiljno unazaditi industriju umjetne inteligencije.
Ljudi često nisu uvjereni rezultatima koje umjetna inteligencija ne može objasniti. Raj Gupta, glavni inženjerski direktor u Cogitu, rekao je u e-poruci da je njegova tvrtka ispitala kupce i otkrila da bi gotovo polovica potrošača (43%) imala pozitivniju percepciju tvrtke i umjetne inteligencije da su tvrtke eksplicitnije o njihovoj upotrebi tehnologije.
I nisu samo financijski podaci ti koji dobivaju ruku pomoći od objašnjive umjetne inteligencije. Jedno područje koje ima koristi od novog pristupa su slikovni podaci, gdje je lako naznačiti koje dijelove slike algoritam smatra bitnim i gdje je čovjeku lako znati imaju li te informacije smisla, Samantha Kleinberg, izvanredna profesorica na Stevensu Institut za tehnologiju i stručnjak za objašnjivu umjetnu inteligenciju, rekao je Lifewire putem e-pošte.
"Puno je teže to učiniti s EKG-om ili podacima kontinuiranog mjerenja glukoze," dodao je Kleinberg.
Nixon je predvidio da će objašnjiva umjetna inteligencija biti temelj svakog sustava umjetne inteligencije u budućnosti. A bez objašnjive umjetne inteligencije, rezultati bi mogli biti strašni, rekao je.
"Nadam se da ćemo na ovom planu napredovati dovoljno da u godinama koje dolaze uzimamo objašnjivu umjetnu inteligenciju zdravo za gotovo i da se danas osvrnemo na to vrijeme iznenađeni da bi itko bio dovoljno lud da implementira modele koje ne razumije, " on je dodao."Ako ne dočekamo budućnost na ovaj način, brinem se da bi povratni udar neodgovornih modela mogao ozbiljno unazaditi AI industriju."
