Ključni podaci za van
- ToxMod, tvrtke Modulate sa sjedištem u Bostonu, tvrdi da otkriva i djeluje protiv ometajućeg govora automatski, u stvarnom vremenu.
- Umjesto da bude ograničen jednostavnim jezikom, ToxMod koristi strojno učenje kako bi otkrio nematerijalne stvari poput emocija, glasnoće i ritma.
- ToxMod je trenutno dizajniran za korištenje sa sobama za chat unutar igre, ali nema razloga da ne dođe na vaš Twitch kanal.
Tvrtka sa sjedištem u Bostonu koristi strojno učenje za stvaranje onoga što naplaćuje kao prvu uslugu glasovnog moderiranja na svijetu, koja može uočiti razliku između onoga što je rečeno i onoga što to znači.
ToxMod je pokušaj rješavanja paradoksa moderiranja bilo kojeg otvorenog prostora na internetu; nema dovoljno ljudi koji bi mogli zadovoljiti potražnju, ali algoritmi, filtri i sustav izvješća ne razumiju nijanse.
S ToxModovom bazom podataka može pratiti čimbenike u govoru igrača poput emocija i glasnoće, što mu pomaže razlikovati trenutni propust i obrazac ponašanja. Nedavno je najavljeno kao dodatak 7v7 igri američkog nogometa Gridiron, trenutno u Steam Early Accessu.
"Svatko zna da su uznemiravanje, govor mržnje i toksičnost u glasovnom chatu i igranju golemi problem. To se općenito razumije", rekao je Carter Huffman, glavni tehnološki direktor i suosnivač Modulatea, na Googleovom sastanku s Lifewire. "Mogli bismo uzeti značajke koje smo izvlačili kroz ovaj niz sustava strojnog učenja i spojiti ih u sustav koji je uzeo u obzir svo to stručno znanje koje smo učili od zajednice."
Svi pozdravimo naše nove robote moderatore
Modulate radi na ToxModu od prošle jeseni i uključio ga je kao jednu od tri temeljne usluge tvrtke. Također nudi VoiceWear, prerušivač glasa koji pokreće strojno učenje, i VoiceVibe, agregatorsku uslugu koja korisnicima omogućuje da saznaju o čemu ljudi u njihovim zajednicama raspravljaju.
Kada je ToxMod pokrenut u chatu, može se programirati preko Modulateove administratorske ploče da poduzme razne automatske radnje, kao što je izdavanje upozorenja, isključivanje zvuka igrača ili pojedinačno podešavanje glasnoće.
Koristi sustav trijaže gdje njegova lokalna instanca prva poduzima radnju, prije provjere s Modulateovim poslužiteljima za potvrdu. Zatim konačno eskalira do točke u kojoj bi moglo zahtijevati ljudsku intervenciju. Prolazeći redom kroz svaku provjeru, koju Modulate naziva "trijažnim vratima", ideja je da ToxMod malom timu moderatora daje alate s kojima može učinkovito moderirati mnogo veću zajednicu.
"Tužna je istina da je svatko imao takvo iskustvo, pokušavajući koristiti glasovni chat na kojoj god platformi bili, i otkriti da je to, dječače, loša ideja," rekao je CEO Modulatea Mike Pappas u video poziv s Lifewireom. "Biti u mogućnosti ući i reći: 'Ovo nije Divlji zapad. Postoje pravila.' Mislim da je to jako važno."
Razbijanje sustava
Naravno, drugo ili treće pitanje o ToxModu je kako ga prekinuti.
S mnogim automatskim sustavima moderiranja, kao što su algoritmi koji upravljaju Twitterom, lako ih je igrati protiv ljudi koji vam se ne sviđaju. Samo masovno prijavite svoju metu s nekoliko naloga za lutke čarapa i sigurno će pojesti zabranu.
"Na osnovnoj razini, ToxMod se ne mora oslanjati na ta dodatna izvješća igrača, " rekao je Pappas. "Još uvijek može proizvesti čvrste procjene na koje prijestupe trebamo [obratiti] pozornost. Ne morate se brinuti o igračima koji pokušavaju igrati sa sustavom, jer se zapravo nema što igrati.
Svi znaju da su uznemiravanje, govor mržnje i toksičnost u glasovnom chatu i igranju golemi problem.
"Sve što imate kontrolu kao igrač je vaš vlastiti zvuk," nastavio je Pappas. "Najgora stvar koju možete učiniti je biti manje loša osoba kako vas ne bismo označili kao lošeg glumca, što bih rekao da je nešto blizu uspjeha misije."
Općenito, dakle, ideja iza ToxModa je aktivan pokušaj reklamacije. Mnogi su igrači u ovom trenutku doživjeli neki oblik uznemiravanja od strane nasumičnih stranaca u otvorenim glasovnim kanalima, u rasponu od nasumičnih uvreda do aktivnih prijetnji. Kao rezultat toga, igrači obično izbjegavaju glasovni chat općenito, radije se odriču njegove pogodnosti u zamjenu za vlastiti mir.
"Ono što očekujemo vidjeti [jest da loši glumci provode] puno manje vremena u glasovnom chatu prije nego što budu pronađeni i uklonjeni", rekao je Pappas."To ima više od običnog linearnog utjecaja. Kada svi vide glasovni chat kao sigurnije mjesto, više dobrih glumaca spremno je vratiti se glasovnom chatu i pokušati. Mislim da sve može krenuti u pozitivnom smjeru."
