Zamislite da pokušavate da razgovarate sa vašim prijateljima o vestima koje ste pročitali jutros, ali svaki put kada pođete nešto da kažete, neko vam drekne u lice, nazivajući vas pogrdnim imenima ili vas optužuje za neku tešku kriminalnu radnju. Najverovatnije biste ubrzo napustili tu konverzaciju. Nažalost, to se veoma često dešava pri online konverzaciji kada ljudi pokušavaju da diskutuju o idejama i stavovima, na svojim omiljenim sajtovima gde prate novosti. uglavnom možemo pronaći tekstove koji u svojim komentari sadrže niz negativnih komentara.
Ovaj problem ne utiče samo na online čitaoce. Novinske organizacije žele da podstaknu angažovanje i diskusije oko njihovog sadržaja, ali smatraju da je uklanjanje i traženje onih pogrdnih skup i dugotrajan posao. Kao rezultat toga, mnogi sajtovi su zatvorili komentare u potpunosti, ali kažu da im to rešenje ne odgovara. Mi smatramo da im tehnologija može pomoći da reše ovaj problem.
Skoro su Google i Jigsaw pokrenuli ”Perspective” – tehnologiju koja koristi mašinsko učenje da prepozna neprikladne i negativne komentare.
Kako ona funkcioniše?
”Perspective” sagledava i razmatra komentare i ocenjuje ih na osnovu toga, koliko su slični komentarima koje su ljudi deklasirali kao nekprikladni. Kako bi naučila da prepozna potencijalno neprikladan razgovor, ”Perspective” je uradila ispitivanje stotina hiljada komentara. Svaki put pronalaze nove primere potencijalno nedozvoljenih komentara, što olakšavala selekciju u budućnosti.
Administatori sajtova mogu da izaberu šta žele da rade sa infromacijama koje dobijaju od ove tehnologije. Mogu čak da dozvole svojim čitaocima da sami soritiraju komentare koji su po njima nepristojni, kako bi olakšali pronalaženje smislenih i kreativnih diskusija, koje su zatrpane, upravo tim komentarima.
Ova tehnologija se još uvek razvija. Jedna od glavnih prednosti kada je mašinsko učenje u pitanju jeste da iako su određeni modeli veoma kompleksni, mogu vremenom da se unaprede. Kada ”Perspective” bude u rukama vlasnika sajtova, biće izložena većem broju komentara, i moćiće jasnije da definiše, šta sve to čini jedan komentar toksičnim.
Dok ljudi iz Google-a i Jigsaw-a rade na unapređenju same tehnologije, takođe rade i na proširivanju njene upotrebne vrednosti. Za sada je kreirana tako da pronalazi negativne komentare na engleskom jeziku, uskoro će biti prilagođena i za ostale jezike, kao i da pronalazi komentare koji na primer nemaju veze sa određenom temom, odnosno koji su nebitni po određenu diskusiju.
