Znanstveni rad "Zlouporaba društvenih mreža u javnom poticanju na nasilje i mržnju i širenju lažnih vijesti", objavljen u Hrvatskom ljetopisu za kaznene znanosti i praksu (Vol. 25 No. 2, 2018.), autora Sunčane Roksandić Vidlička (Pravni fakultet, Sveučilište u Zagrebu), i Krešimira Mamića (Ravnateljstvo policije, Ministarstvo unutarnjih poslova), u dodatku naslova postavlja pitanje je li opravdana "potreba transplantiranja njemačkog Zakona o jačanju provedbe zakona na društvenim mrežama?". O toj aktualnoj temi, s posebnom naglaskom na stanju u RH vezano uz nove digitalne medije, razgovarali smo s doc. dr. sc. Sunčanom Roksandić Vidlička (PhD Freiburg), s Katedre za kazneno pravo Pravnog fakulteta Sveučilišta u Zagrebu.

Jesu li, i zašto, novi (relativno) mediji (WhatsApp i dr.) idealna platforma za širenje mržnje, je li to zbog njihove decentralizirane i anonimne strukture?

- Komunikacijske platforme za mobilne telefone, odnosno komunikacijske aplikacije koje pružaju mogućnost kriptirane individualne komunikacije između dva ili više sugovornika (tzv. chat aplikacije kao što su WhatsApp, Viber, Telegram i sl.), namijenjene su komunikaciji i razmjeni medijskih sadržaja između sugovornika. Mogućnost korištenja navedenih aplikacija i komunikacijskih platformi u svrhu širenja poruka mržnje svakako postoji.

Otkrivanje kaznenih djela počinjenih u komunikaciji na takvim platformama ovisi prije svega o savjesti sudionika razgovora, s obzirom na to da je komunikacija između sugovornika zatvorena, odnosno nedostupna drugim osobama izvan sudionika razgovora. Međutim, kako se ne radi o profilima društvenih mreža kojima može pristupiti neograničen broj osoba te na taj način biti izložen porukama koje se upućuju, nego je riječ o komunikacijskim kanalima kojima pristupaju isključivo osobe koje su na komunikaciju pozvane (komunikacija između dva korisnika ili komunikacija između sudionika grupnog razgovora), ne može se govoriti o platformi direktno pogodnoj za počinjenje javnog širenje mržnje u smislu odredaba članka 325 st.1 hrvatskog Kaznenog zakona (javno poticanje na nasilje i mržnju). S druge strane, sudska će praksa morati tumačiti što znači pojam - javno. Ako, recimo, u zatvorenoj grupi ima 200 sudionika, što to znači? Ako je pak grupa organizirana radi počinjenja kaznenog djela javnog poticanja na nasilje i mržnju, riječ je o zasebnoj kaznenoj odgovornosti opisanoj u stavku 2 članak 325 KZ-a. Kazneni zakon propisuje da se kažnjava organizator takve grupe, ili osoba koja ju vodi, ali i sudionik takvog udruženja.

Otvoreni profili društvenih mreža kojima može pristupiti bilo koji korisnik društvene mreže, u kontekstu javnog širenja mržnje predstavljaju daleko pogodnije sredstvo, dok gore navedene aplikacije ipak služe za komunikaciju sugovornika koji su u tu komunikaciju pozvani i koji su na to pristali. Jasno je, dakako, da takve aplikacije služe kao pogodan medij za organiziranje grupe radi počinjenja javnog poticanja na nasilje i mržnju (čl. 325 st.2 i 3. KZ-a). Osim toga, takva komunikacija može predstavljati u određenim okolnostima sigurnosni problem i može voditi, ako ničemu drugome, onda i poticanju na javno širenje mržnje. S druge strane, takva komunikacija unutar grupe može predstavljati sama za sebe, i neko drugo kazneno djelo, recimo uvredu ili prijetnju. Naravno, takva se komunikacija može koristi kao dokazno sredstvo ako su ispunjene pretpostavke.

Oni koji svoja razmišljanja obznanjuju na internetskim portalima i društvenim mrežama, pa i kad je grubi vokabular u pitanju, pozivaju se na slobodu govora. No, pod kojim uvjetima, recimo tako, sloboda govora postaje sloboda mržnje?

- Pravo na slobodu izražavanja jedno je od temeljnih ljudskih prava koje je zaštićeno ustavima brojnih država. Međutim, sloboda izražavanja nije apsolutno pravo, nego postoje ograničenja koja u cilju zaštite prava drugih moraju biti propisana kako se implementacijom navedenog prava ne bi narušila prava drugih osoba ili kršile propisane norme. Sloboda izražavanja svoju je značajnu primjenu doživjela širokom uporabom Interneta i društvenih mreža na kojima svaki

korisnik ima pravo izraziti svoje mišljenje, ali mora imati i obvezu preuzeti odgovornost, ako takvim izražavanjem povrijedi propisane norme. Internet, kao specifičan medij koji korisnicima nudi i anonimnost i pseudonimnost, može lako biti zloupotrijebljen za širenje mržnje. Trenutak u kojem sloboda govora može postati govor mržnje je, u formalnom smislu, ostvarenje obilježja kaznenog djela od strane korisnika Interneta koji izražava svoje misli, stavove ili uvjerenja. Drugim riječima, prelazak granice slobode govora i ulazak u područje govora mržnje zasigurno predstavlja javno i otvoreno izražavanje mržnje, nesnošljivosti, ili neprihvatljivosti drugih zbog njihovih određenih karakteristika. Međutim, zbog izostanka mehanizama učinkovite kontrole Interneta, što zbog pitanja tehničke izvedivosti, a što zbog pitanja zaštite sloboda korisnika, Internet postaje svojevrsna arena govora mržnje u kojoj korisnici u nekontroliranim uvjetima mogu iznositi svoje stavove kojima izravno i grubo vrijeđaju osjećaje drugih, a same platforme nisu odgovorne.

Trenutačno, mehanizmi kontrole govora mržnje ponajprije su sadržani u savjesti korisnika, a manje na strani normativnih ovlasti i izvršnih mogućnosti državnih tijela u kažnjavanju raznih platformi. Pojedinac, dakako, može biti pozvan na kaznenu odgovornost. Kodeksi ponašanja su zato iznimno važni za razvoj svijesti svakog pojedinca, ali i društvenih mreža. Kako kazneno pravo može i smije kazniti samo ona ponašanja koja su izrijekom zabranjena, bitno je da postoji regulacija odgovornosti društvenih mreža za sadržaj korisnika i da se jasno zna koje su obveze i granice za društvene mreže u kontroli sadržaja korisnika. Jednako tako postavlja se pitanje kada treba pokrenuti kazneno pravo za kažnjavanje društvenih mreža, a ne samo pojedinaca. U svakom slučaju, pojedinac bi trebao biti svjestan što znači diskriminacija i javno pozivanje na nasilje i mržnju, i to ono koje posebno izdvaja određenu skupinu ili pripadnika skupine zbog njihove rasne, vjerske, nacionalne ili etničke pripadnosti, podrijetla, boje kože, spola, spolnog opredjeljenja, rodnog identiteta, invaliditeta, ili kakvih drugih osobina.

S pravne strane gledajući - koje su i kakve implikacije govora mržnje, posebno govor mržnje online? Drugim riječima, može li netko biti osuđen i kažnjen, novčano i zatvorom, zbog toga što online upućuje poruke mržnje, nesnošljivosti, što vrijeđa i čak prijeti smrću...?

- Donošenjem Kaznenog zakona koji je stupio na snagu 1. siječnja 2013. godine, uvedeno je kazneno djelo Javno poticanje na nasilje i mržnju, kojim je u nacionalno zakonodavstvo

implementirana Okvirna odluka 2008/91/JHA o suzbijanju određenih oblika i načina izražavanja rasizma i ksenofobije putem kaznenog prava od 28. studenoga 2008. godine. Implementacijom odredaba Okvirne odluke kroz propisivanje kaznenog djela Javno poticanje na nasilje i mržnju, Republika Hrvatska je u nacionalno zakonodavstvo implementirala mehanizme koji su, između ostaloga, usmjereni na kažnjavanje govora mržnje. Na navedeni način područje govora mržnje uvjetno je regulirano, odnosno normativno je uređeno ponašanje koje predstavlja kazneno djelo. Za navedeno kazneno djelo, za pojedine pojavne oblike propisana je kazna zatvora do najviše pet godina, kao i kažnjivost pokušaja ovog kaznenog djela.

Kako sam već navela, samo organiziranje ili vođenje grupe od tri ili više osoba radi javnog poticanja na nasilje i mržnju kazneno je djelo koje se može kazniti kaznom zatvora do pet godina. Osoba koja pak sudjeluje u takvom udruženju može se kazniti kaznom zatvora do jedne godine. S druge strane, i druga kaznena djela mogu doći u primjenu ako je došlo do diskriminacije pojedinca, s obzirom na njegova svojstva, što se često zaboravlja.

Ulažu se golemi napori u stvaranju učinkovitog načina za kontrolu sadržaja koji se objavljuje na internetskim portalima, društvenim mrežama, platformama..., no za sada ne postoji alat (algoritam) koji će prepoznati i onda blokirati govor mržnje na Internetu. Facebook je to pokušao, no bilo je po tom pitanju problema. Navodi se i problem zlouporabe umjetne inteligencije?

- U cilju prevencije zlouporaba Interneta i društvenih mreža za širenje neprihvatljivih sadržaja velike internetske kompanije ulažu značajna sredstva kako bi se zaštitile od mogućih tužbi i dugotrajnih i skupih sudskih postupaka. Jedan od mehanizama koji je usvojen na EU Internet Forumu je i stvaranje tzv. baze podataka, hasheva. Hashevi predstavljaju dio metapodataka određenog medijskog sadržaja koji, nakon što se prijavi kao neprihvatljiv, ulazi u bazu podataka hasheva te se u slučaju pokušaja daljnjeg dijeljenja takvog sadržaja automatski detektira i uklanja. Osim navedenog, Internet kompanije, zahvaljujući zakonodavstvu pojedinih država koje je odgovornost za sadržaj prebacilo na same kompanije, svakodnevno ulažu značajne napore u izgradnju mehanizama automatske detekcije i uklanjanja sadržaja suprotnih propisanim normama. Algoritme stvaraju ljudi i kontroliraju ljudi tako da, osim što elektronska inteligencija postaje sve naprednija u kontroli sadržaja, postoji uvijek mogućnost (a i potreba) ljudske kontrole sadržaja koji su dvosmisleni, ironični i sarkastični. Ne moramo se bojati neadekvatnosti eletronske inteligencije, dapače, ali moramo prepoznati njezine nedostatke i raditi na njima.

Jasno je da korištenje umjetne inteligencije može biti i diskriminatorno, i zato će jako važna biti odredba članka 22 Opće uredbe o zaštiti podataka koja regulira automatizirano pojedinačno donošenje odluka. Da se radi o iznimno važnom području koje tek treba učinkovito regulirati, jer se svakodnevno tehnološki razvija, pokazuje i činjenica da je prije nekoliko dana Međunarodno udruženje kaznenih pravnika (International Association of Penal Law), upravo područje AI - Artificial intelligence, odredilo kao područje kojim će se intenzivno baviti ova ogranizacija u idućem petogodišnjem razdoblju. (D.J.)