Ključni podaci za van
- Programi umjetne inteligencije poput Cogita pokušavaju naučiti ljude empatiji u ophođenju s kupcima.
- Stručnjaci se ne slažu oko toga je li moguće da stroj podučava ljude empatiji ili jednostavno pronalazi podatkovne točke.
- Neki su stručnjaci također zabrinuti da bi podučavanje AI empatiji moglo lišiti čovječanstvo te emocije.
Zamislite da radite u pozivnom centru i korisnik zove. Javiš se i odmah stvari krenu loše. Mušterija je ljuta, a tenzije rastu.
Počinjete govoriti stvari koje biste kasnije mogli požaliti. Iznenada se na zaslonu vašeg računala pojavljuje poruka. "Empathy Cue - Razmislite o tome kako se klijent osjeća. Pokušajte se povezati."
Nije stvarna osoba ta koja vam govori što da radite. To je poruka iz Cogita, programa umjetne inteligencije osmišljenog da pomogne radnicima da suosjećaju s frustriranim pozivateljima i poboljša učinak. Cogito je jedan od sve većeg broja AI programa koji pokušavaju naučiti ljude empatiji.
Ovdje postoji očita ironija. Ljudski znanstvenici već desetljećima pokušavaju napraviti realističnija računala. Sada nam strojevi govore kako da se ponašamo. No može li nas softver doista naučiti kako da budemo empatičniji? To je problem koji bi mogao imati duboke implikacije jer umjetna inteligencija počinje prodirati u svakodnevni život.
AI oponaša ljudsko ponašanje
S tehničkog stajališta, jasno je da AI može pokupiti tragove o tome kako se ljudi osjećaju i pružiti povratne informacije.
"AI i sustavi strojnog učenja vrlo su dobri u pronalaženju obrazaca u podacima," Adam Poliak, postdoktorand računalnih znanosti na Barnard Collegeu, rekao je u intervjuu e-poštom.
"Ako umjetnoj inteligenciji damo mnogo primjera empatičnog teksta, umjetna inteligencija može otkriti obrasce i znakove koji izazivaju ili demonstriraju empatiju."
AI može biti programirana da razgradi neka ljudska ponašanja koja prate empatiju i podsjeća ljude da ih provode, ali to nije učenje empatije.
AI koja analizira ljudske reakcije može pomoći u premošćivanju rastućeg jaza između ljudi dok komuniciramo digitalno, rekao je Bret Greenstein, stručnjak za umjetnu inteligenciju u Cognizant Digital Business, u intervjuu e-poštom.
"Tijekom prošle godine, stvarno vrijeme, video, glas i slanje poruka rasli su brže nego što je itko mogao zamisliti, a s tim su došli i veliki izazovi u stvaranju istinski empatijskih odnosa bez stvarnog provođenja fizičkog vremena s ljudima," on dodano.
AI može pomoći u analizi i procjeni karakteristika poput tona i emocija u govoru, rekao je Greenstein. "Ovo može pomoći osobi koja prima komunikaciju da bolje razumije što se mislilo i pomaže osobi koja 'govori' pokazujući kako se poruke mogu protumačiti", dodao je.
Dok tvrtke žure zaraditi na softveru za obuku AI-a kao što je Cogito, pitanje može li AI naučiti ljude empatiji ostaje otvoreno. A odgovor može imati veze s filozofijom koliko i s tehnologijom.
Ilia Delio je teolog na Sveučilištu Villanova čiji je rad usredotočen na sjecište vjere i znanosti. Ona vjeruje da umjetna inteligencija može naučiti empatiju.
Delio je istaknuo da je tim s MIT-a napravio robote koji mogu oponašati ljudske emocije kao što su sreća, tuga i suosjećanje. "Dok su robotske emocije programirane, roboti mogu komunicirati s ljudima i tako uspostaviti ili ojačati neuronske obrasce", rekla je.
Može li stroj razumjeti empatiju?
Stručnjaci definiraju najmanje tri oblika empatije, a svi uključuju sposobnost razumijevanja i povezivanja s drugom osobom, rekla je Karla Erickson, sociologinja s Grinnell Collegea u Iowi i autorica knjige koja će uskoro biti objavljena, Messy Humans: A Sociology of Odnosi ljudi/stroja, koji istražuje naše odnose s tehnologijom.
"Povezivanje nije nešto što umjetna inteligencija može učiniti, a to je osnova za empatiju," rekao je Erickson u intervjuu e-poštom.
"AI može biti programiran da razgradi neka ljudska ponašanja koja prate empatiju i podsjeća ljude da ih provode, ali to nije podučavanje empatije. Povezanost, posebno u smislu empatije, zahtijevala bi od slušatelja da ima nužan kontekst za povezivanje - ovime mislim da 'život' umjetne inteligencije ne uključuje gubitak, čežnju, nadu, bol ili smrt."
Međutim, stručnjaci se sukobljavaju oko toga može li nas umjetna inteligencija naučiti kako suosjećati. Dio problema je u tome što se svi ne slažu oko toga što uopće znače "empatija" ili "AI". Izraz umjetna inteligencija često se koristi, ali to trenutno nije vrsta inteligencije koju smatramo ljudskom.
Ovo je čisti inženjerski rad i nemam iluziju da dotična umjetna inteligencija sama ima emocije ili da ih istinski razumije.
""Znaci empatije" nemaju nikakve veze s empatijom," Michael Spezio, profesor psihologije, neuroznanosti i znanosti o podacima na koledžu Scripps, rekao je u intervjuu e-poštom.
"To su znakovi glasova koje su ljudski ocjenjivači klasificirali kao glasove ljudi koji su razdraženi/iznervirani. Dakle, radi se samo o korištenju ljudske stručnosti u matematičkom modelu i tvrdnji da je model - izgrađen na ljudskoj stručnosti - inteligentan. Ovakvi ograničeni pristupi strojnog učenja često se hvale kao AI, a da nisu inteligentni."
Na Politehničkom institutu Rensselaer, laboratorij Selmera Bringsjorda gradi matematičke modele ljudskih emocija. Istraživanje je namijenjeno stvaranju umjetne inteligencije koja može postići visoke rezultate na testovima emocionalne inteligencije i primijeniti ih na ljude. Ali Bringsjord, stručnjak za umjetnu inteligenciju, kaže da je svako podučavanje koje umjetna inteligencija čini nenamjerno.
"Ali ovo je čisti inženjerski rad i nisam u iluziji da dotična umjetna inteligencija sama po sebi ima emocije ili da istinski razumije emocije", rekao je u intervjuu e-poštom.
Što bi moglo poći po zlu?
Dok tvrtke poput Cogita vide svijetlu budućnost AI obuke ljudi, drugi promatrači su oprezniji.
Supportiv, internetska usluga za mentalno zdravlje, koristi AI za usmjeravanje svakog korisnika, na temelju bilo koje pojedinačne misli koju izrazi, u stvarnom vremenu, u grupu za podršku specifične za temu koja se dinamički okuplja za korisnike sa sličnim problemima.
Svaka grupa ima "supermoćnog" ljudskog moderatora koji održava tekstualni chat sigurnim i bez trolova i može prikazati, opet putem umjetne inteligencije, relevantne resurse, preporuke i preporuke izravno u grupni razgovor. Koristeći AI, Supportiv obučava svoje moderatore da budu vješti u uočavanju intenziteta emocionalnih potreba.
"Empatija je mišić koji gradimo", rekla je Zara Dana, podatkovna znanstvenica u Supportivu, u intervjuu e-poštom.
"Ako počnemo koristiti štaku za hodanje, mišići će nam atrofirati. Ne mogu a da se ne zapitam, bi li se ovisna radnica osjećala samopouzdano ako sustav umjetne inteligencije jednog dana ne bude na mreži? Može li ona to učiniti učinkovito? Koji su dugoročni učinci na radnike? Kako bi se snalazili u složenim društvenim situacijama u kojima nema AI?"
Čak i ako korištenje umjetne inteligencije za učenje empatije funkcionira, što se događa kada se počnemo previše oslanjati na umjetnu inteligenciju za treniranje emocija? Jedna od mogućih mana je da se ljudi mogu više vezati za robote nego za druge ljudske osobe jer roboti ne mogu birati protiv njihovog programa, istaknuo je Delio.
"Ljudska sposobnost slobodne volje stavlja ljudsko djelovanje u dvosmisleniji položaj," rekao je Delio. "Osoba može biti suosjećajna jednog dana, a nemilosrdna sljedećeg dana; robot će ostati dosljedno suosjećajan ako nije obučen da čini drugačije."
Puno toga bi moglo poći po zlu ako AI nauči ljude kako se ponašati kao ljudi, kažu stručnjaci.
Evoluirali smo u društvene životinje, a naša empatija ključna je za našu sposobnost povezivanja s drugima i brige o kolektivima kojima pripadamo.
"Bez ljudskog nadzora, učenik bi mogao naučiti nešto potpuno ludo," rekao je Bringsjord.
"Ton i visina glasa samo su korelati ponašanja, bez ikakvog sadržaja. Mnogi bi moj glas dok predajem u učionici pročitali u dolarima u krafne… kao znak da sam uzrujan, dok u stvarnosti samo sam strastven i nimalo mi treba empatija."
Ako AI obuka ljudi procvjeta, mogli bismo se pouzdati u nju. A to nije nužno dobra stvar.
"Ova obuka obezvrjeđuje ljudske vještine, koje su značajne, i usmjerava pozornost na umjetnu inteligenciju kao da su oni ti koji imaju stručnost", rekao je Erickson."Evoluirali smo u društvene životinje, a naša empatija ključna je za našu sposobnost povezivanja s drugima i brige o zajednicama kojima pripadamo."
