Facebook je rekao da testira tehnologiju moderiranja umjetne inteligencije u Grupama kako bi obuzdao sukobe u postovima i komentarima.
Novi alat koji pokreće umjetna inteligencija zove se Upozorenja o sukobu i namijenjen je pomoći administratorima grupa da imaju veću kontrolu nad svojim zajednicama. AI tehnologija će obavijestiti administratora ako uoči "konfliktne ili nezdrave razgovore" tako da administrator može brže poduzeti potrebne radnje.
Za prosječnog korisnika Facebooka, ovaj novi alat znači da ćete najvjerojatnije vidjeti manje prepirki i svađa unutar objava Grupa koje pratite, tako da će stvari općenito biti manje negativne.
Admini mogu koristiti alat za upozorenja o sukobima za stvaranje upozorenja kada korisnici komentiraju s određenim riječima ili frazama, a strojno učenje može uočiti te slučajeve kako bi upozorilo administratora kada se dogode. Alat također omogućuje administratorima da ograniče aktivnost za određene osobe i objave.
Facebook je za The Verge rekao da će strojno učenje koristiti "višestruke signale kao što su vrijeme odgovora i količina komentara kako bi se utvrdilo ima li angažman između korisnika ili bi mogao dovesti do negativnih interakcija."
Facebook već koristi AI alate za označavanje drugih vrsta sadržaja na svojoj platformi, uključujući govor mržnje. Prema Izvješću o provedbi standarda zajednice iz kolovoza 2020., Facebookov AI alat za govor mržnje bio je 95% točan, u usporedbi s 89% iz prvog kvartala 2020. Facebook je rekao da je povećao svoje akcije protiv sadržaja govora mržnje s 9,6 milijuna slučajeva u prvom kvartalu 2020. na 22,5 milijuna u drugom kvartalu.
Za prosječnog korisnika Facebooka, ovaj novi alat znači da ćete najvjerojatnije vidjeti manje prepirki i svađa unutar objava Grupa koje pratite
Društvena mreža također radi na tehnologiji umjetne inteligencije koja može "vidjeti" fotografije korištenjem sirovih podataka kako bi se omogućilo modelu da sam trenira - neovisno i bez upotrebe algoritma - dok gleda više slika. Projekt umjetne inteligencije, poznat kao SEER, mogao bi otvoriti put svestranijim, preciznijim i prilagodljivijim modelima računalne vizije, istovremeno donoseći bolje alate za pretraživanje i pristupačnost korisnicima društvenih medija.
