Ključni podaci za van
- Čini se da je AI sustav nazvan DALL-E2 stvorio vlastiti sustav pisane komunikacije.
- Neki stručnjaci kažu da bi prividni jezik mogao biti samo besmislica.
- To je primjer koliko je teško protumačiti rezultate naprednih AI sustava.
Čini se da je umjetna inteligencija (AI) razvila vlastiti jezik, ali neki su stručnjaci skeptični prema toj tvrdnji.
OpenAI-jev AI sustav za pretvaranje teksta u sliku nazvan DALL-E2 izgleda da je stvorio vlastiti sustav pisane komunikacije. To je primjer koliko je teško protumačiti rezultate naprednih AI sustava.
"Zbog veličine i dubine velikih modela, vrlo je teško objasniti ponašanje modela," Teresa O'Neill, direktorica arhitekture rješenja za razumijevanje prirodnog jezika u iMeritu, rekla je za Lifewire u intervjuu e-poštom. "Ovo je jedan od temeljnih izazova, au nekim slučajevima i etička pitanja sa sve moćnijim modelima. Ako ne možemo objasniti zašto se ponašaju onako kako se ponašaju, možemo li predvidjeti njihovo ponašanje ili ga držati u skladu s našim normama i očekivanjima?"
AI Chatovi
Student informatike Giannis Daras nedavno je primijetio da bi sustav DALLE-2, koji stvara slike na temelju unosa teksta, vraćao besmislene riječi kao tekst pod određenim okolnostima.
"Poznato ograničenje DALLE-2 je to što se bori s tekstom," napisao je u radu objavljenom na poslužitelju za pretisak Arxiv. "Na primjer, tekstualne upute kao što su: 'Slika riječi avion' često dovode do generiranih slika koje prikazuju besmislice."
Ali, napisao je Daras, možda postoji metoda iza očitog brbljanja. "Otkrivamo da ovaj proizvedeni tekst nije nasumičan, već otkriva skriveni vokabular za koji se čini da je model razvio interno", nastavio je. "Na primjer, kada se hrani ovim besmislicama, model često proizvodi avione."
U svom tweetu, Daras je istaknuo da kada je DALLE-2 zamoljen da titluje razgovor između dva farmera, pokazao je kako razgovaraju, ali su oblačići bili ispunjeni nečim što je izgledalo kao besmislene riječi. Ali Daras je otkrio da se AI-ju čini da riječi imaju svoje značenje: farmeri su govorili o povrću i pticama.
Nicola Davolio, izvršni direktor tehnološke tvrtke Hupry, koja radi s umjetnom inteligencijom, objasnio je Lifewireu u intervjuu e-poštom da se jezik temelji na simbolima koje je sustav DALL-E2 naučio povezivati s određenim konceptima. Na primjer, simbol za "pas" može biti povezan sa slikom psa, dok simbol za "mačku" može biti povezan sa slikom mačke. DALL-E2 je stvorio svoj jezik jer mu omogućuje učinkovitiju komunikaciju s drugim AI sustavima.
Zagonetke poput očigledno skrivenog vokabulara DALL-E2 su zabavne za hrvanje, ali one također ističu teža pitanja…
"Jezik je sastavljen od simbola koji izgledaju kao egipatski hijeroglifi i ne čini se da ima neko specifično značenje", dodao je. "Simboli su ljudima vjerojatno besmisleni, ali imaju savršenog smisla za AI sustav budući da je uvježban na milijunima slika."
Istraživači vjeruju da je sustav umjetne inteligencije stvorio jezik kako bi bolje razumio odnose između slika i riječi, rekao je Davolio.
"Nisu sigurni zašto je AI sustav razvio svoj jezik, ali sumnjaju da to može imati veze s načinom na koji je učio stvarati slike", dodao je Davolio. “Moguće je da je AI sustav razvio svoj jezik kako bi komunikaciju između različitih dijelova mreže učinio učinkovitijom."
Misterije umjetne inteligencije
DALL-E2 nije jedini AI sustav koji je razvio svoj interni jezik, istaknuo je Davolio. U 2017. Googleov sustav AutoML stvorio je novi oblik neuronske arhitekture nazvan 'mreža dijete' nakon što je prepušten odlučivanju kako najbolje dovršiti određeni zadatak. Ovu podređenu mrežu njezini ljudski kreatori nisu mogli protumačiti.
"Ovi su primjeri samo nekoliko primjera u kojima su AI sustavi razvili načine obavljanja stvari koje ne možemo objasniti", rekao je Davolio. "To je fenomen u nastajanju koji je u jednakoj mjeri fascinantan i alarmantan. Kako sustavi umjetne inteligencije postaju sve složeniji i autonomniji, mogli bismo se sve više naći u poziciji da ne razumijemo kako funkcioniraju."
O'Neill je rekla da ne misli da DALL-E2 stvara vlastiti jezik. Umjesto toga, rekla je da je razlog za očitu lingvističku izmišljotinu vjerojatno malo prozaičniji.
"Jedno uvjerljivo objašnjenje je slučajna slučajnost - u ovako velikom modelu može se primijeniti dio Murphyjevog zakona: ako se nešto čudno može dogoditi, vjerojatno hoće", dodao je O'Neill. Druga mogućnost koju je predložio istraživački analitičar Benjamin Hilton u Twitter temi raspravljajući o Darasovim otkrićima je da oblik izraza "apoploe vesrreaitais" oponaša oblik latinskog imena za životinju. Dakle, sustav je iznjedrio novi poredak Aves, dodao je O'Neill.
"Zagonetke poput očigledno skrivenog vokabulara DALL-E2 su zabavne za hrvanje, ali one također ističu teža pitanja o riziku, pristranosti i etici u često nedokučivom ponašanju velikih modela," rekao je O'Neill.
