Ključni podaci za van
- Sustavi umjetne inteligencije koji nadziru dostavna vozila nepravedno kažnjavaju vozače Amazona, tvrdi novo izvješće.
- Sustav Amazon dio je rastućeg trenda tvrtki koje koriste tehnologiju za daljinski nadzor svojih poslodavaca.
-
Neki AI softver omogućuje poslodavcima kontinuirano praćenje ponašanja zaposlenika u pozadini i crtanje uzoraka u njihovom tijeku rada.
Poslodavci se sve više okreću softveru za daljinsko praćenje zaposlenika, što izaziva zabrinutost kod nekih zagovornika privatnosti.
Novo izvješće tvrdi da su kamere koje pokreće AI u Amazonovim dostavnim kombijima nepravedno kaznile vozače. U članku je utvrđeno da su vozači patili od pogrešnih upozorenja, netočnih tablica s rezultatima vozača, nepraktičnih pretpostavki o stanju u prometu i vozača koji su usvojili postupke za zaobilaženje tehnologije.
"Iako se umjetna inteligencija poboljšava, greške će se i dalje činiti", rekao je Raymond Ku, direktor Centra za pravo i politiku kiberprostora na Sveučilištu Case Western Reserve, u intervjuu e-poštom za Lifewire. "Pošteno radi, mislim da svi vjerujemo da netko tko je na bilo koji način kažnjen od strane AI treba biti svjestan te činjenice i dati mu priliku osporiti odluku."
Amazonove AI kamere
Amazon je rekao da je instalirao AI-pokretane kamere u svoja dostavna vozila kao sigurnosnu mjeru. Kamere su namijenjene praćenju kada vozači dostave izvode opasne manevre poput pretrčavanja znakova za zaustavljanje ili nedopuštenog polukružnog skretanja.
Kada kamere uoče moguće nesigurne "događaje" u vožnji, ti se slučajevi uračunavaju u rezultate rada radnika. Niži rezultati smanjuju šansu da vozači dobiju bonuse, dodatnu plaću i nagrade.
Ali vozači Amazona rekli su Motherboardu da su kažnjeni zbog nekih vozačkih navika koje se smatraju sigurnima ili su izvan njihove kontrole. Amazon nije odgovorio na zahtjev Lifewirea za komentar.
Ku je istaknuo da budući da su vozači pristali na snimanje, prema zakonu ne pate od invazije na privatnost.
"Međutim, to ne znači da bi prosječan radnik bio zadovoljan nadzorom ili da se ne bi bunio da može", dodao je. "Ovo je osobito istinito kada nadzor počne zadirati u tradicionalnije osobne prostore."
Izvješće postavlja šira pitanja o tome može li se podacima pristupiti i koristiti u tužbama ili od strane policije i saveznih dužnosnika, rekla je odvjetnica za privatnost podataka Bethany A. Corbin za Lifewire u intervjuu e-poštom. To bi također moglo utjecati na odgovornost, istaknula je.
"Na primjer, ako AI tehnologija kaže zaposleniku da ne gleda u bočna ogledala i zaposlenik doživi nesreću kao izravnu posljedicu tog savjeta, tko je kriv?" Corbin je dodao.
Rastući nadzor
Nadzor ne prestaje s Amazonom. Sve veći broj tvrtki koristi tehnologiju za nadzor svojih zaposlenika na daljinu, rekao je stručnjak za privatnost Chris Hauk u intervjuu za Lifewire e-poštom.
Na primjer, marketinška tvrtka za umjetnu inteligenciju Blackbelt koristi sustav praćenja vremena Allocate, omogućujući tvrtki da samostalno nadzire i prati računalne aktivnosti svojih zaposlenika. Microsoftov Workplace Analytics omogućit će poslodavcima da prate koliko vremena zaposlenik provodi na web stranicama, piše e-poštu i drugo tijekom radnog dana.
Walmart također radi na sustavu koji osluškuje zvuk šuštanja vrećica ili zvučne signale skenera za naplatu kako bi pratio metriku zaposlenika i osigurao da zaposlenici svoje zadatke obavljaju ispravno i učinkovito. Senzori čak mogu prisluškivati klijente dok razgovaraju dok su u redu i detektirati pozdravljaju li zaposlenici ispravno klijente ili ne.
Nadzor na radnom mjestu postaje sve rašireniji od početka pandemije, rekao je stručnjak za privatnost Pankaj Srivastava u intervjuu e-poštom za Lifewire.
"Većina ove tehnologije pozicionirana je kao 'poboljšanje produktivnosti', međutim, način na koji neki od ovih alata funkcioniraju sugerira veću toleranciju poslodavaca da prate svaku aktivnost svoje radne snage", dodao je. "Na primjer, praćenje koliko vremena zaposlenici provode na svakom zadatku, snimanje fotografije na daljinu čime se osigurava da su zaposlenici za svojim stolom, pa čak i praćenje posjećenih web stranica i snimanje poteza tipkovnice i kretanja miša zaposlenika."
Dok se AI poboljšava, pogreške će se i dalje činiti.
Neki AI softver omogućuje poslodavcima kontinuirano praćenje ponašanja zaposlenika u pozadini i crtanje obrazaca u njihovom tijeku rada, rekao je.
"Zaposlenik može biti otpušten na temelju svog personaliziranog izvješća o učinku u kojem se navodi da mu je trebalo nekoliko minuta više da dovrši zadatak nego inače", rekao je Srivastava.
"Zbogom, pauze za kupaonicu."
