Ključni podaci za van
- Deep Nostalgia novi je program koji vam omogućuje animiranje starih fotografija.
- Tehnologija pokazuje koliko je jednostavno stvoriti videozapise ljudi koji rade stvari koje zapravo nisu radili u stvarnom životu.
- Tehnologija dubokog lažiranja već je toliko sofisticirana da je teško reći je li video pravi ili računalno generiran, kaže jedan stručnjak.
Budite oprezni s novim softverom koji može stvoriti takozvane "deep fakeove", u kojima se mogu simulirati videozapisi stvarnih ljudi, upozoravaju stručnjaci.
Deep Nostalgia, koju je objavila tvrtka MyHeritage, u trendu je na društvenim mrežama, a korisnici reanimiraju sve, od poznatih skladatelja do mrtvih rođaka. Softver izaziva mješovite reakcije, neki su ljudi oduševljeni kreacijama, a drugi ih smatraju jezivima. Tehnologija pokazuje koliko je lako stvoriti videozapise ljudi koji rade stvari koje zapravo nisu radili u stvarnom životu.
"Deepfake tehnologija postaje sve sofisticiranija i opasnija," rekao je Aaron Lawson, pomoćnik direktora Laboratorija za tehnologiju govora i istraživanje (STAR) SRI Internationala, u intervjuu e-poštom. "To je djelomično zbog prirode umjetne inteligencije. Gdje 'tradicionalna' tehnologija zahtijeva ljudsko vrijeme i energiju za poboljšanje, AI može učiti od sebe.
"Ali sposobnost umjetne inteligencije da se sama razvija dvosjekli je mač", nastavio je Lawson. "Ako je umjetna inteligencija stvorena da radi nešto dobronamjerno, sjajno. Ali kada je umjetna inteligencija dizajnirana za nešto zlonamjerno poput dubinskih lažiranja, opasnost je bez presedana."
Softver oživljava fotografije
Genealoška web stranica MyHeritage predstavila je mehanizam za animaciju prošlog mjeseca. Tehnologija, poznata kao Deep Nostalgia, omogućuje korisnicima animiranje fotografija putem web stranice MyHeritage. Tvrtka D-ID dizajnirala je algoritme za MyHeritage koji digitalno rekreiraju kretanje ljudskih lica. Softver primjenjuje pokrete na fotografije i modificira izraze lica da se kreću kao što to obično rade ljudska lica, navodi se na web stranici MyHeritage.
Deep Nostalgia pokazuje da tehnologija dubokog lažiranja postaje sve dostupnija, rekao je Lior Shamir, profesor informatike na Državnom sveučilištu Kansas, u intervjuu e-poštom. Brzo napreduje i uklanja čak i suptilne razlike između lažnog i pravog videa i zvuka.
"Također je došlo do značajnog napretka prema dubokom lažiranju u stvarnom vremenu, što znači da se uvjerljivi duboki lažni videozapisi generiraju u vrijeme video komunikacije", rekao je Shamir."Na primjer, možete imati Zoom sastanak s određenom osobom, a pritom vidjeti i čuti glas potpuno druge osobe."
Također postoji sve veći broj dubinskih krivotvorina temeljenih na jeziku, rekao je u intervjuu e-poštom Jason Corso, direktor Stevens instituta za umjetnu inteligenciju pri Stevens Institute of Technology. "Generiranje cijelih odlomaka dubinskog lažnog teksta prema određenom planu prilično je teško, ali moderni napredak u dubokoj obradi prirodnog jezika to omogućuje", dodao je.
Kako otkriti dubinski lažnjak
Iako je tehnologija detekcije dubinskog lažiranja još uvijek u početnoj fazi, postoji nekoliko načina na koje je možete uočiti, rekao je Corso, počevši od usta.
"Varijabilnost u izgledu unutrašnjosti usta kada netko govori vrlo je velika, što otežava uvjerljivo animiranje", objasnio je Corso. “Može se, ali je teže od ostatka glave. Primijetite kako video zapisi Deep Nostalgia ne pokazuju sposobnost fotografije da kaže 'Volim te' ili neku drugu frazu tijekom stvaranja duboke lažne slike. To bi zahtijevalo otvaranje i zatvaranje usta, što je vrlo teško za stvaranje duboke laži."
Ghosting je još jedno darivanje, dodao je Corso. Ako vidite zamućenje oko rubova glave, to je rezultat "brzog kretanja ili ograničenih piksela dostupnih na izvornoj slici. Uho bi moglo djelomično nestati na trenutak ili bi kosa mogla postati mutna tamo gdje to ne biste očekivali," on rekao.
Također možete paziti na varijacije boja kada pokušavate uočiti duboko lažni video, kao što je oštra linija preko lica, s tamnijim bojama na jednoj i svjetlijim na drugoj strani.
"Računalni algoritmi često mogu detektirati ove obrasce izobličenja", rekao je Shamir. "Ali algoritmi dubokog lažiranja brzo napreduju. Neizbježno je da će biti potrebni strogi zakoni za zaštitu od dubokog lažiranja i štete koju lako mogu prouzročiti."
