Ključni podaci za van
- Niz novih aplikacija možda će moći otkriti emocije učenika.
- Intel i proizvođač softvera za učionice Class navodno razvijaju softver koji će paziti na lica i govor tijela digitalnih učenika.
- Neki su stručnjaci zabrinuti da bi korištenje umjetne inteligencije za nadzor učenika moglo dovesti do narušavanja privatnosti.
Škole bi uskoro mogle koristiti umjetnu inteligenciju (AI) za praćenje emocionalnog stanja učenika.
Intel i proizvođač softvera za učionice Class razvijaju softver koji će paziti na lica i govor tijela digitalnih učenika. Sustav navodno može detektirati je li učenicima dosadno, rastreseni su ili su zbunjeni, ali neki su stručnjaci zabrinuti da bi softver mogao dovesti do invazije na privatnost.
"Takvi proizvodi za praćenje temeljeni na umjetnoj inteligenciji trebali bi biti transparentni o tome kako se ti podaci koriste", rekao je za Lifewire u e-poruci Michael Huth, suosnivač tvrtke Xayn i voditelj odjela za računalstvo na Imperial College London intervju. "Ako se koristi za praćenje angažmana u skupini studenata, gdje se angažman na individualnoj razini ne bilježi, to je nešto manje problematično iz perspektive privatnosti. Međutim, ako bi se bilo koji od ovih podataka koristio za utjecaj na ocjenjivanje studenata, može vidjeti sve vrste problema koji nastaju."
Bdinje nad studentima
Class i Intel su se udružili kako bi integrirali tehnologiju temeljenu na umjetnoj inteligenciji koja radi zajedno sa softverom za videokonferencije Zoom, izvijestio je Protocol. Softver se može koristiti za praćenje učenika, stoji u izvješću.
"Kroz naše partnerstvo s Intelom, moći ćemo unijeti nove, sveobuhvatne značajke u Classov softver koje pokreću funkcionalnosti potkrijepljene istraživanjima", navodi se na web stranici tvrtke. "Također ćemo raditi zajedno s Intelom kako bismo iskoristili resurse i pružili edukatorima i studentima vrijedne uvide, zajedničke studije slučaja, bijele knjige, webinare i još mnogo toga."
Intel je za Protocol rekao da je softver za učionicu u ranoj fazi i nema planova za slanje proizvoda na tržište.
Partnerstvo s tvrtkom Class nije jedina potencijalna suradnja između Intelovog softvera za čitanje emocija i drugih proizvođača. Internetska brošura tvrtke Intel reklamira novu elektroničku ploču pod nazivom Viewboard namijenjenu školama. Intelov softver "omogućuje da myViewboard procijeni i prikaže emocionalna stanja učenika kao neposrednu povratnu informaciju za edukatore", navodi se u brošuri.
Class je jedan od mnogih softverskih proizvoda koji navodno prate emocije učenika pomoću umjetne inteligencije. Tu je i 4Little Trees, platforma za učenje otkrivanja emocija koja je "virtualni asistent u nastavi [koji] bi vam pomogao odabirom najprikladnijih pitanja za vas ili bi vas izazvao kada je to potrebno", navodi se na web stranici tvrtke.
Ashish Fernando, izvršni direktor AI tvrtke iSchoolConnect, rekao je Lifewireu u intervjuu e-poštom da se AI može uvježbati da procjenjuje ljudsko ponašanje i značajke bez utjecaja subjektivnih predrasuda koje pojedinci imaju.
"AI može procijeniti znatno veći broj ljudskih ponašanja, uključujući mikro-izraze koje je lako propustiti, brzinom puno bržom od čovjeka," rekao je Fernando. "Tamo gdje su povratne informacije mogle trajati satima, umjetna inteligencija sada to može pružiti u roku od nekoliko minuta."
Zabrinutost u vezi s privatnošću
Upotreba umjetne inteligencije za nadzor ljudi raste. Snapchat ima AI tehnologiju koja procjenjuje emocionalnu razinu grupe ljudi na događaju uživo. Mad Street Den koristi AI računalnim vidom kako bi trgovcima pomogao da prepoznaju izraze lica i emocije potencijalnih kupaca. BrainQ koristi AI kako bi razumio kako putnici komuniciraju s autonomnim vozilima koja koriste. I tvrtke koriste AI za praćenje umora vozača.
"Ovo je odličan slučaj za sigurnost na cestama, ali postavlja pitanja koja se tiču prava na privatnost vozača u njihovim osobnim vozilima," rekao je Huth. "Hoće li se informacije o umoru dijeliti s osiguravajućim društvom ili proizvođačem automobila? Ili će samo upozoriti vozača da stane i odmori se? To je manji problem za komercijalne vozne parkove kao što su kamioni, dostavna vozila ili taksije."
Jedan problem je da informacije umjetne inteligencije, poput pokreta mišića za zaključivanje emocionalnog stanja, možda nisu pouzdane, rekao je Huth. "Ovo stvara dilemu, jer pouzdaniji AI može zahtijevati pristup još osjetljivijim podacima kao što su EEG signali," dodao je.
Studentima AI može biti koristan za praćenje usklađenosti tijekom online ispita kada nadzornik ne može biti fizički prisutan. Ali ova upotreba umjetne inteligencije za ovo je sporna, rekao je Huth, jer sustav pokušava utvrditi namjerava li učenik varati ili vara, a postoji stvarna mogućnost lažno pozitivnih rezultata koji rezultiraju neopravdanim kažnjavanjem učenika koji nisu učinili ništa loše.
"Svaka umjetna inteligencija koja se koristi u ovu svrhu trebala bi biti dovoljno robusna da se nosi s pauzama za toalet, nervoznim tikovima pojedinih učenika (kao što su nestalni pokreti očiju) i tako dalje," rekao je Huth.
