Ključni podaci za van
- Stručnjaci za privatnost izražavaju zabrinutost zbog Facebookove upotrebe javnih Instagram fotografija za treniranje umjetne inteligencije.
- Program je naučen da prepoznaje slike prikazujući računalu preko 1 milijarde javnih fotografija.
- Instagramova pravila o privatnosti uključuju odjeljak koji korisnicima daje do znanja da se informacije mogu koristiti u istraživanju i razvoju.
Facebookova upotreba Instagram fotografija za treniranje umjetne inteligencije izaziva zabrinutost u vezi s privatnošću.
Div društvenih medija nedavno je objavio da je napravio softver koji može učiti iz onoga što gleda. Program je naučen prepoznavati slike pregledom preko 1 milijarde javnih fotografija. Stručnjaci kažu da bi korisnici trebali biti svjesni da Facebook koristi njihove slike.
"Sve je u poznavanju pristanka", rekao je James E. Lee, glavni operativni direktor Centra za resurse za krađu identiteta, u intervjuu e-poštom.
"Instagramova pravila o privatnosti - koja većina ljudi vjerojatno ne čita - jasno navode da tvrtka zadržava pravo korištenja fotografija koje objavite za istraživanje. Korisnici mogu uključiti/isključiti prepoznavanje lica u svojim postavkama privatnosti."
Bolji od ostalih
Facebookov program, pod nadimkom SEER za samonadzor, nadmašio je druge modele umjetne inteligencije (AI) u testu prepoznavanja objekata, tvrdi tvrtka. Program je postigao "rezultat točnosti klasifikacije" od 84.2% kada je podvrgnut testu koji provjerava može li AI program prepoznati što je na slici.
"Učinak SEER-a pokazuje da samonadzirano učenje može briljirati u zadacima računalnog vida u stvarnim postavkama", rekla je tvrtka u postu na blogu.
"Ovo je otkriće koje u konačnici otvara put za fleksibilnije, točnije i prilagodljivije modele računalnog vida u budućnosti."
Iako Facebookovi uvjeti i odredbe mogu dopustiti da iskoriste korisničke podatke na takav način, većina korisnika nije eksplicitno i aktivno svjesna da se njihovi podaci rudare u takve svrhe.
Ako se pokrene komercijalno, SEER bi pomogao identificirati objekte - ne ljude - bez programiranja da preko oznake zna što je na fotografiji, rekao je Lee. "To je učinkovitiji i brži način od trenutne metode koja zahtijeva ogromne skupove podataka da bi se objekt spojio s njegovim identitetom", dodao je.
"Uvijek postoji mogućnost zlouporabe, ali postoje i legitimne potencijalne koristi od ove vrste tehnologije."
Facebookov program mogao bi pomoći tvrtki da bolje kontrolira sadržaj koji krši njezina pravila, na primjer, ograničavajući neželjenu izloženost opscenim ili eksplicitnim slikama, rekla je Aimee O’Driscoll, istraživačica sigurnosti na stranici za privatnost Comparitech, u intervjuu e-poštom. Također se može koristiti za automatski opis slika, poboljšavajući korisničko iskustvo za osobe s oštećenjem vida.
Već ste pristali na ovaj program
Instagramova pravila o privatnosti uključuju odjeljak koji korisnicima daje do znanja da se informacije mogu koristiti u istraživanju i razvoju. "Tvrtka koristi svoju riznicu podataka za drugi dio svog poslovanja, slično načinu na koji koristi korisničke podatke za opskrbu svog oglašivačkog poslovanja", rekao je O’Driscoll.
"Unatoč tome, korisnici bi se i dalje mogli osjećati neugodno kada se njihove slike koriste na ovaj način."
Yashar Behzadi, glavni izvršni direktor Synthesis AI, tvrtke koja koristi umjetnu inteligenciju za računalni vid, rekao je da najnoviji Facebookov napredak u umjetnoj inteligenciji predstavlja "značajno poboljšanje" u mogućnostima računalnog vida.
"Korisnici vjerojatno mogu očekivati bolje označavanje slika i kontekstualno pretraživanje, dok će oglašivači imati koristi od preciznijeg ciljanja korisnika, " dodao je.
Ali Facebookov pristup iskorištavanja milijardi Instagram slika izaziva neke ozbiljne probleme u vezi s privatnošću i regulativom, rekao je Behzadi.
"Iako Facebookovi uvjeti i odredbe mogu dopustiti da iskoriste korisničke podatke na takav način, većina korisnika nije izričito i aktivno svjesna da se njihovi podaci rudare u takve svrhe," rekao je.
"Vjerujemo da bi tvrtke trebale biti otvorenije i transparentnije prema korisnicima, dopuštajući im potpunu kontrolu nad svojim podacima."
Mnoge druge tvrtke koristile su umjetnu inteligenciju za identifikaciju sadržaja slike, istaknuo je Bobby Gill, glavni izvršni direktor tvrtke Blue Label Labs koja se bavi razvojem aplikacija, u intervjuu e-poštom. "Međutim, zabrinjava činjenica da će se ovo gotovo sigurno koristiti za marketing", dodao je.
Novi program mogao bi izazvati potencijalne probleme u vezi s privatnošću, ovisno o tome kako Facebook planira koristiti sustav, rekao je Gill.
"Ovi bi podaci vjerojatno bili dostupni tehničkim trgovcima koji bi ih koristili za prepoznavanje određenih trendova na temelju različitih elemenata identificiranih na slici," rekao je.
"Na primjer, mogućnost izvlačenja informacija iz slika koje ljudi postavljaju dodaje još jednu dimenziju asocijativnim sustavima koji općenito koriste ponašanje za profiliranje i ciljanje pojedinaca. Moglo bi se saznati da svatko tko ima, recimo, žabe u 3- 7% njihovih slika vrlo je vjerojatno da će kupiti kućnu opremu za fitnes."
