Ključni podaci za van
- Algoritmi umjetne inteligencije i strojnog učenja promatraju ljudsko ponašanje i mogu naučiti njime manipulirati, kažu stručnjaci.
- Istraživači su nedavno stvorili način za pronalaženje i iskorištavanje ranjivosti u načinima na koje ljudi donose odluke pomoću umjetne inteligencije.
- Trenutno najsofisticiraniji algoritam društvenih medija je TikTok, kaže jedan promatrač.
Umjetna inteligencija (AI) i algoritmi strojnog učenja sve više uče kako utjecati na ponašanje korisnika, kažu stručnjaci.
Istraživači australske nacionalne znanstvene agencije nedavno su osmislili način za pronalaženje i iskorištavanje ranjivosti u načinima na koje ljudi donose odluke pomoću umjetne inteligencije. Najnovije istraživanje samo je jedno od vala sustava vođenih umjetnom inteligencijom dizajniranih za manipuliranje ljudskim odlučivanjem.
"Nema kraja mnogim načinima na koje umjetna inteligencija već utječe na ponašanje, " Kentaro Toyama, profesor na Fakultetu informacija Sveučilišta u Michiganu i autor knjige Geek Heresy: Rescuing Social Change from Cult of Technology, rekao je u intervjuu e-poštom.
"Zapravo, ako ste ikada pretraživali Google i pratili vezu, na vas je utjecao AI sustav koji je pogodio vaše interese i vratio rezultate za koje je mislio da su vam najrelevantniji."
AI protiv ljudi
U australskom istraživanju objavljenom u nedavnom radu, ljudski sudionici igrali su igre protiv računala u raznim eksperimentima. U prvom eksperimentu sudionici su kliknuli na crvene ili plave okvire kako bi osvojili novac.
AI je bio uspješan oko 70% vremena, naučivši sudionikove uzorke izbora i usmjeravajući ih prema određenom izboru.
U drugom eksperimentu, sudionici su gledali ekran i pritisnuli gumb kada im je prikazan određeni simbol, ili ga nisu pritisnuli kada im je ponuđen drugi. AI je naučio preurediti simbole, pa su sudionici napravili više pogrešaka.
Rezultat eksperimenata, zaključili su istraživači, bio je da je umjetna inteligencija učila iz odgovora sudionika. Stroj je zatim identificirao i ciljao ranjivosti u donošenju odluka ljudi. Zapravo, umjetna inteligencija bi mogla manipulirati sudionicima da poduzmu određene radnje.
Činjenica da AI ili strojno učenje mogu manipulirati ljudima ne bi trebala biti iznenađenje, kažu promatrači.
"AI utječe na naše ponašanje svaki dan," Tamara Schwartz, asistentica profesora kibernetičke sigurnosti i poslovne administracije na York College of Pennsylvania, rekla je u intervjuu e-poštom.
"Sve vrijeme slušamo o algoritmima u aplikacijama društvenih medija kao što su Facebook ili Twitter. Ti algoritmi usmjeravaju našu pozornost na srodne sadržaje i stvaraju efekt 'eho komore', što zauzvrat utječe na naše ponašanje."
TikTok gleda
Trenutno najsofisticiraniji algoritam društvenih medija je TikTok, rekao je Schwartz. Aplikacija analizira što vas zanima, koliko dugo nešto gledate i koliko brzo nešto preskačete, a zatim poboljšava svoju ponudu kako biste nastavili gledati.
"TikTok stvara mnogo veću ovisnost od drugih platformi zbog ovog AI algoritma, koji razumije što volite, kako učite i kako birate informacije", dodala je. "Znamo to jer je prosječno vrijeme koje korisnici provedu na TikToku 52 minute."
Manipulacija ljudskim ponašanjem od strane umjetne inteligencije mogla bi imati pozitivne koristi, ustvrdio je Chris Nicholson, izvršni direktor AI tvrtke Pathmind, u intervjuu putem e-pošte. Agencije za javno zdravstvo, na primjer, mogle bi koristiti AI kako bi potaknule ljude da donose bolje odluke.
"Međutim, društveni mediji, proizvođači videoigara, oglašivači i autoritarni režimi traže načine da potaknu ljude da donose odluke koje nisu u njihovom najboljem interesu, a to će im dati nove alate za to, " dodao je.
Etička pitanja AI koja utječe na ponašanje često su pitanja stupnja, rekao je Toyama. AI omogućuje fokusirano oglašavanje u kojem se mogu iskoristiti individualne preferencije i slabosti.
"Moguće je, na primjer, da AI sustav identificira ljude koji pokušavaju prestati pušiti i zapapri ih primamljivim reklamama za cigarete," dodao je.
Ne slažu se svi da je AI manipulacija ljudskim ponašanjem problematična. I klasična psihologija i umjetna inteligencija promatraju podatke, istaknuo je Jason J. Corso, direktor Stevens instituta za umjetnu inteligenciju, u intervjuu e-poštom.
"Ljudski znanstvenici vjerojatno su bolji u generaliziranju opažanja i destiliranju teorija ljudskog ponašanja koje bi mogle biti šire primjenjive, dok bi modeli umjetne inteligencije bili podložniji identificiranju nijansi specifičnih za problem," rekao je Corso.
"S etičke točke gledišta, ne vidim razliku između ovih."
