UNIVERZA V MARIBORU FAKULTETA ZA ELEKTROTEHNIKO, RAČUNALNIŠTVO IN INFORMATIKO Katja Kosi SOVRAŽNI GOVOR NA DRUŽBENIH OMREŽJIH Diplomsko delo Maribor,

Transkripcija

1 UNIVERZA V MARIBORU FAKULTETA ZA ELEKTROTEHNIKO, RAČUNALNIŠTVO IN INFORMATIKO Katja Kosi SOVRAŽNI GOVOR NA DRUŽBENIH OMREŽJIH Diplomsko delo Maribor, september 2016

2 SOVRAŽNI GOVOR NA DRUŽBENIH OMREŽJIH Diplomsko delo Študent(ka): Študijski program: Smer: Mentor(ica): Lektor(ica): Katja Kosi univerzitetni študijski program Medijske komunikacije Vizualna komunikacija dr. Friderik Klampfer Bojana Samarin, prof. slov.

3

4 ZAHVALA Zahvaljujem se mentorju, prof. dr. Frideriku Klampferju, za vodenje in usmerjanje pri izdelavi diplomskega dela. Zahvala pa gre tudi mojim najbližjim, ki so mi v času študija pomagali in me neprestano spodbujali.

5 Sovražni govor na družbenih omrežjih Ključne besede: sovražni govor, družbena omrežja, splet UDK: : (043.2) Povzetek V diplomskem delu obravnavamo pojavljanje sovražnega govora na spletu, posebej pa se osredotočimo na družbena omrežja. Seznanimo se z opredelitvami sovražnega govora in predstavimo njegove negativne posledice. Pregledamo tudi pravne podlage v ZDA, Evropski uniji in Sloveniji za reguliranje sovražnega govora. Posebej predstavimo splet kot prostor za sovražni govor, njegove pojavne oblike in podamo možne odzive nanj. V empiričnem delu ugotavljamo zaznavanje sovražnega govora na spletu in družbenih omrežjih, zanimajo nas odzivi nanj ter mnenje glede pravice do svobode govora, ki bi jo s kaznovanjem morali omejiti.

6 Hate speech in social media Ključne besede: hate speech, social media, web UDK: : (043.2) Abstract In this thesis we are dealing with the emergence of hate speech on the Internet, specifically with hate speech in social media. We get acquainted with definitions of hate speech and introduce its negative consequences. We examine the legal basis for hate speech regulations in the USA, the European Union and Slovenia. We specifically introduce the web as a platform for hate speech and also introduce its forms and possible responses to it. In the empirical part we analyze the perception of hate speech on the internet and social media. We are interested in the reactions to it and opinions about the freedom of speech, which should be limited by punishing hate speech.

7 KAZALO VSEBINE 1 UVOD DEFINIRANJE IN OPREDELITEV SOVRAŽNEGA GOVORA Negativne posledice sovražnega govora SOVRAŽNI GOVOR IN SVOBODA GOVORA Sovražni govor v odnosu do svobode govora v ZDA Sovražni govor v odnosu do svobode govora v Evropski uniji Sovražni govor v odnosu do svobode govora v Sloveniji SOVRAŽNI GOVOR NA SPLETU Vrste in metode sovražnega govora na spletu Sovražno nastrojene spletne strani Blogi in spletni forumi Spletne igre Videoposnetki in glasba Družbena omrežja DRUŽBENA OMREŽJA IN SOVRAŽNI GOVOR Opredelitev družbenih omrežij Družbena omrežja kot sredstvo/medij za sovražni govor ODZIVANJE NA SOVRAŽNI GOVOR Možnosti odziva na sovražni govor na družbenih omrežjih Soočenje z argumenti v osebnem sporočilu ali komentarju Prijava z obstoječimi orodji na družbenih omrežjih Vložitev pobude Svetu za odziv na sovražni govor Uradna prijava ustreznim institucijam EMPIRIČNI DEL Metodologija raziskave Demografski podatki Analiza in rezultati raziskave Zaznavanje sovražnega govora na spletu Sovražni govor na družbenih omrežjih Pravica do svobode govora na družbenih omrežjih Ključne ugotovitve SKLEP VIRI... 39

8 KAZALO GRAFOV Graf 7.1: Spol anketirancev Graf 7.2: Starostna struktura anketirancev Graf 7.3: Dokončana izobrazba anketirancev Graf 7.4: Q1 (Ste kdaj zaznali uporabo sovražnega govora na spletu?) Graf 7.5: Q3 (Kako pogosto se po vašem mnenju sovražni govor pojavlja na spletu?) Graf 7.6: Q2 (Označite, na katerih spletnih mestih ste že kdaj zaznali sovražni govor.) Graf 7.7: Q4 (Katera družbena omrežja uporabljate?) Graf 7.8: Q5 (Ste na družbenih omrežjih, ki jih uporabljate, že zaznali sovražni govor?). 33 Graf 7.9: Q7 (Kako ste se odzvali na sovražni govor, ki ste ga zaznali na družbenem omrežju?) Graf 7.10: Q8 (Ste mnenja, da nam pravica do svobode izražanja dovoljuje vse vrste komunikacije na družbenih omrežjih, tudi uporabo sovražnega govora?) Graf 7.11: Q9 (Mislite, da bi pogostejše kaznovanje sovražnega govora na družbenih omrežjih ogrozilo in preveč posegalo v pravico do svobode govora?)... 35

9 KAZALO SLIK Slika 5.1: Primeri sovražnega govora na Facebooku... 23

10 1 UVOD Razširitev uporabe spleta in pojav družbenih omrežij sta komunikacijo popeljala na novi, drugačni nivo. Tehnologija, ki podpira elektronska komunikacijska orodja, nam omogoča komunikacijo, ki je v digitalni dobi bolj odprta in skorajda nima več meja. Vsak lahko z dostopom do interneta prosto komunicira, izraža svoje mnenje, deli svoje ideje, sodeluje v razpravah itd., in to s komerkoli na svetu. Omogočeno nam je, da se osebno ne izpostavljamo in ostanemo anonimni, prav anonimnost pa lahko spodbudi nekatere, da brez zadržkov z drugimi delijo vse svoje misli, tudi tiste bolj negativne narave. Vse te možnosti za odprto komunikacijo nam omogočajo lažje vključevanje v družbo, oblikovanje javnega mnenja in ne nazadnje uresničevanje demokratičnih načel, na katerih stoji naša družba. Lahko bi rekli, da gre v primeru družbenih omrežij za prenos družbe in komunikacije na splet. Na splet pa so se s komunikacijo prenesle ideje, načela, vrednote, ki veljajo v družbi, in pa tudi predsodki, stereotipi in druge negativne oblike komunikacije, med katere spada tudi sovražni govor. Sovražni govor na spletu doseže večje število ljudi, med katerimi so tisti, ki ga podpirajo, in oni, ki jih sovraštvo zadeva in prizadene. Zaradi škodljivih posledic, ki jih ima sovražni govor, pa naj gre za kaznivo ali bolj ohlapno obliko, so se v svetu začela pojavljati tudi vprašanja o regulaciji sovraštva na spletu. Demokratične družbe namreč temeljijo na pravici do svobode govora, ki pa bi jo morali v primeru kriminalizacije sovražnega govora omejiti. S sovražnim govorom na spletu se je v Sloveniji ukvarjalo veliko avtorjev, na katere se tudi mi navezujemo v diplomskem delu. Avtorji članka Vehovar, Motl, Mihelič, Berčič in Petrovič [29] so se ukvarjali z definiranjem sovražnega govora, kjer so ločili kaznivi sovražni govor od drugih spornih oblik komuniciranja. V svoji raziskavi, kjer so analizirali razumevanje sovražnega govora med slovenskimi uporabniki interneta, so ugotovili, da sporna komunikacija uporabnike zelo moti, pa tudi, da ti sovražni govor razumejo zelo ohlapno in vanj zajemajo tudi oblike zgolj neprimernega govora. Andrej Motl [15] pa se je v svojem diplomskem delu ukvarjal s sovražnim govorom na spletu, kjer je analiziral stališča uredništev slovenskih spletnih medijev glede omejevanja. Med drugim je ugotovil, da se sovražni govor v komentarjih novinarskih zapisov na spletnih medijih pojavlja v dokaj velikem obsegu.

11 Osnovni namen diplomskega dela je predstaviti koncept sovražnega govora na spletu in družbenih omrežjih, predstaviti oblike, v katerih se pojavlja, in možnosti odzivov, ki jih imajo uporabniki. Zanimalo pa nas bo tudi razmerje med pravico do svobode govora in sovražnim govorom ter zakonodaja, s katero v Evropi, ZDA in Sloveniji sankcionirajo sovražni govor. V empiričnem delu bomo ugotavljali zaznavanje sovražnega govora na spletu in družbenih omrežjih. Zanimalo nas bo, kako se uporabniki nanj odzivajo, ali ukrepajo proti njemu ali ne. Zanima pa nas tudi mnenje uporabnikov glede omejitev pravice do svobode govora, ki bi jih morali sprejeti, če bi v kazenskem zakoniku izrecno prepovedali sovražni govor. V ta namen smo si postavili tudi tri hipoteze, ki jih bomo s pomočjo spletne ankete sprejeli ali zavrnili: Hipoteza 1: Uporabniki zaznavajo pogosto pojavljanje sovražnega govora na spletu. Hipoteza 2: Uporabniki se na sovražni govor redko odzivajo z uradnimi regulativnimi ukrepi. Hipoteza 3: Uporabniki menijo, da poseganje v komunikacijo na družbenih omrežjih ogroža pravico do svobode govora. V uvodnem delu bomo naprej predstavili definicije sovražnega govora, kot ga dojemajo različni avtorji, in pregledali negativne posledice, ki jih prinaša. V drugem poglavju se bomo osredotočili na sovražni govor in njegov odnos s pravico do svobode govora. Ker v različnih državah veljajo različne predispozicije za obravnavo in kaznovanje sovražnega govora, bomo pregledali zakonske podlage za njegov pregon v Evropi, ZDA in Sloveniji. V tretjem delu bomo natančneje proučili sovražni govor, ki se pojavlja na spletu, in ga glede na različne pojavne oblike razvrstili v ločene kategorije. V četrtem poglavju se bomo posvetili osrednjemu delu diplomskega dela sovražnemu govoru na družbenih omrežjih, kjer bomo naprej natančneje definirali pojem družbeno omrežje in ga predstavili kot platformo za sovražni govor. V zadnjem delu teoretičnega dela bomo pregledali, kako se lahko kot uporabniki družbenih omrežij odzovemo na sovražni govor. Empirični del bo namenjen ugotavljanju zaznavanja sovražnega govora na spletu in v družbenih omrežjih ter odzivanju nanj. Zanimalo pa nas bo tudi mnenje anketirancev glede omejevanja svobode govora v primeru kaznovanja sovražnega govora na družbenih omrežjih.

12 2 DEFINIRANJE IN OPREDELITEV SOVRAŽNEGA GOVORA V literaturi lahko najdemo celo paleto različnih definicij sovražnega govora, nekatere izmed teh bomo navedli v nadaljevanju, a kljub temu ne bomo dobili dovolj natančne definicije tega pojma, potrebne za sistematično proučevanje tega pojava. V splošnem je sovražni govor definiran kot govor, ki napada, ogroža ali žali osebo ali skupino na podlagi njihove nacionalne pripadnosti, etične pripadnosti, barve, spola, spolne identitete, spolne orientiranosti ali invalidnosti [11]. Za razširitev osnovne obravnave sovražnega govora lahko povzamemo Raphael Cohen- Amalgorja [5], ki nam podaja naslednjo obsežno definicijo sovražnega govora:»sovražni govor je definiran kot pristransko motiviran, sovražen zlonameren govor, ki je namenjen osebi ali skupini ljudi, zaradi nekaterih njihovih dejanskih ali občutenih prirojenih lastnosti. Izraža diskriminatoren, zastrašujoč, neodobravajoč, antagonističen in /ali škodljiv odnos do tistih značilnosti, ki vključujejo spol, raso, vero, narodnost, nacionalno pripadnost, invalidnost ali spolno usmerjenost. Namen sovražnega govora je poškodovati, razčlovečiti, nadlegovati, ustrahovati, poniževati določene ciljne skupine in podpihovati neobčutljivost in brutalnost proti njim.«[24] Sovražni govor pa se lahko tudi pojavlja v različnih interpretativnih oblikah, saj nekateri pod izrazom sovražni govor razumejo vsak žaljiv oziroma nespodoben govor, ne glede na govorčev namen in stopnjo njegove nespodobnosti. Avtorja Lederer in Delgada zato sovražni govor opredeljujeta kot»mehanizem podrejanja, ki ustvarja atmosfero strahu, zastraševanja, nadlegovanja in diskriminacije in je običajno sestavljen iz kompleksnega niza dejanj, ki so lahko v fizični verbalni ali simbolični obliki.«z omenjeno opredelitvijo tako izključujeta tiste vrste govora, ki je zgolj neprimeren, nesprejemljiv, nespodoben in žaljiv in se ga lahko kot takega preganja le s civilno tožbo (npr. razžalitev) [15]. Avtorji Vehovar, Motl, Mihelič, Berčič in Petrovič [29], so primere sovražnega govora na spletu razčlenili na tri oblike sporne komunikacije: na neprimerni govor, nesprejemljivi govor in kaznivi sovražni govor. Največji delež predstavlja neprimerni govor, v okvir katerega spadajo predvsem kletvice, žalitve, vulgarizmi in druge oblike družbeno nespodobne, nezaželene rabe jezika. Na to področje država sicer nima vpliva, lahko pa se ta oblika komuniciranja omejuje interno, v okviru organizacij, kamor vstopamo prostovoljno (npr. šole, cerkve, javne ustanove, podjetja), s sprejetjem internih pravil zaželene komunikacije.

13 Navedeno velja tudi za spletna mesta, kjer ima lastnik pravico postavljati omejitve in pravila v okviru svojega virtualnega prostora. Pod najožji segment spornega komuniciranja, ki opredeljuje kazniv sovražni govor, spada javno spodbujanje sovraštva, nasilja ali nestrpnosti, ki se preganja po uradni dolžnosti [26]. Primere sporne oblike komuniciranja, ki jih lahko obravnavamo na osnovi neke druge pravne podlage, avtorji označujejo kot družbeno nesprejemljiv govor. Pri tem lahko gre za zaščito javnega interesa na specifičnih področjih (npr. medijska zakonodaja), večinoma pa gre za potencialne civilne tožbe na predlog prizadete stranke (npr. razžalitev). Omenjeni avtorji v svoji raziskavi [29], v kateri so raziskovali razumevanje sovražnega govora med slovenskimi uporabniki interneta, ugotavljajo, da sporna komunikacija uporabnike zelo moti, hkrati pa sovražni govor razumejo izredno ohlapno. Na eni strani ga večinoma ne prepoznajo, na drugi pa vanj vključujejo oblike spornega komuniciranja, ki jih kot kaznivi sovražni govor ni mogoče preganjati [29]. Waldron pa sovražni govor definira kot besede, ki so namerno zlorabljajoče in/ali žaljive, ponižujoče ter usmerjene proti pripadnikom ranljivih manjšin, namenjene podžiganju sovraštva proti njim. Sovražni govor je napad na temeljno dostojanstvo drugih članov družbe. Škoda, ki jo povzroča pa je kot»skupinsko obrekovanje«, ki je kaznivo dejanje. Trdi tudi, da je sovražni govor kaznivo dejanje, ki škodi ugledu. To pa je škoda, ki pomeni več kot zgolj prekršek ali kritiko, a hkrati vendar manj kot grožnja z nasiljem ali poskusom nasilnega dejanja [30]. V diplomskem delu bomo sovražni govor obravnavali kot dejanje, ki s pomočjo izraznih sredstev (slika, govorjena in pisana beseda, videoposnetek ) namensko žali, ponižuje, odraža sovražen odnos do pripadnikov družbenih skupin, na podlagi njihovih skupnih karakteristik, kot so etnična pripadnost, kultura, spol, telesni ali duševni hendikep, spolne preference ali socialni položaj. Avtorji, na katere se sklicujemo v diplomskem delu, imajo namreč različne subjektivne poglede na sovražni govor. Nekateri [29] izmed njih namreč ločujejo kaznivi sovražni govor od drugih nesprejemljivih oblik komunikacije. Spet drugi [12] vsako obliko, tudi milejše (npr. nesramnost), pojmujejo kot nedopustno obliko sovražnega govora.

14 2.1 Negativne posledice sovražnega govora Položaj ljudi v družbi je povezan s tem, kako so ti ljudje prikazani. Če so v družbi označeni z besedami, katerih namen je poniževanje, postavljanje v podrejeni položaj, označevanje za nečloveka oziroma tretjerazredno bitje, to vpliva na to, kako bodo ti ljudje živeli, kakšne možnosti bodo imeli, kakšna je njihova usoda, kako bodo z njimi ravnali drugi, in navsezadnje, kako bodo razumeli sebe. Lahko bi rekli, da ima lahkotno izrečena/napisana beseda vpliv na življenjski potek ljudi. Romi na primer težko najdejo zaposlitev, ker so delodajalci prepričani o njihovi tatinski in leni naravi [14]. Waldron [30] je razvil teorijo, da sovražni govor spodkopava javno dobro vključenosti in ogroža osebno dostojanstvo. Razlikujemo se namreč v naši etnični pripadnosti, zunanjem videzu, religiji in vsaka od teh različnih skupin bi morala sprejeti dejstvo, da družba ni namenjena samo njej, temveč vsem skupinam ljudi. To je javno dobro, ki ga naša družba spodbuja in h kateremu je zavezana. Sovražni govor pa to javno dobro spodkopava oz. otežuje skrb zanj, s tem pa ogroža tudi družbeni mir. Prav vsi bi namreč morali imeti možnost funkcionirati v vsakdanjem življenju brez sovražnih izrazov, nasilja, diskriminacije in izključenosti od drugih. S sovražnim govorom pa je ogroženo tudi osebno dostojanstvo, ki predstavlja naš družbeni položaj, temelj osnovnega ugleda, ki nam daje pravico do enake obravnave, kot so je deležni drugi. Dostojanstvo je namreč nekaj, na kar se lahko vedno zanesemo [30]. Sovražni govor pa lahko razumemo tudi kot obliko diskriminacije. Diskriminacija namreč zajema dejanja proti skupini ljudi in lahko temelji na starosti, religiji, rasi, zdravju in ostalih kazalnikih.[17] Amnesty International diskriminacijo pojmuje kor ravnanje, ki ogroža, omejuje ali onemogoča prizadevanje, uresničevanje ali uveljavljanje človekovih pravic in temeljnih svoboščin. Pojavi se takrat, ko so posamezniki ali skupine ljudi obravnavane manj ugodno kot druge osebe v primerljivem položaju zgolj zato, ker pripadajo, ali pa se zdi, da pripadajo določeni skupini ali kategoriji ljudi [7]. Pogosto je diskriminacija posledica stereotipov in predsodkov, ki jih imajo ljudje [7]. Stereotipi so skupna, posplošena, nepreverjena prepričanja o lastnostih članov različnih rasnih, etičnih ali verskih skupin, spola, spolne orientacije. Neupravičena, neargumentirana in nepreverjena stališča, v katera so vpletena še močna čustva in ki so odporna na spremembe, pa so predsodki. Predsodki ne temeljijo na izkušnjah, ampak so predsodba

15 izven dejanskih izkušenj. Tudi rasizem je tip predsodka, ki se uporablja za utemeljitev prepričanja, da je ena rasa nekako več vredna od druge. Na primer Ku Klux Klan je primer rasistične organizacije, katere člani verjamejo v večvrednost in prevlado bele rase, ta vera pa je spodbudila za več kot stoletje zločinov iz sovraštva in sovražnega govora [17]. Obstoječa mednarodna raziskava kaže, da ima sovražni govor škodljive posledice, ne glede na to, ali sodi med pravno sankcioniran ali pa zakonsko dovoljen sovražni govor. Raziskava kaže, da sovražni govor: vodi do socialne izključenosti in povečuje polarizacijo, ki razbija socialno kohezijo, odvrača od sodelovanja v našem demokratičnem sistemu, z drugimi besedami, člani ciljne skupine se izogibajo govorjenju, ko pričakujejo, da bodo razčlovečeni in nadlegovani, spodbuja predsodke, saj sovražni govor ni zgolj simptom predsodkov ima namreč tudi nalezljive posledice, ki vodijo do porasta sovražnega govora, vključuje tudi blatenje pripadnikov ciljnih skupin (npr. muslimanov ali judov), tudi v očeh naključnih bralcev in poslušalcev, ustvarja strah in globoko zaskrbljenost med člani ciljnih skupin, ljudem odvzema dostojanstvo z besedami, da niso enakopravni člani družbe [21].

16 3 SOVRAŽNI GOVOR IN SVOBODA GOVORA V javnosti razprave o sovražnem govoru odpirajo številne dileme. Ker bi s kriminalizacijo sovražnega govora posegli v z ustavo zajamčeno svobodo govora, se postavlja vprašanje, ali take posege dopustiti ali ne. Vsaka država ima svojo zakonsko opredelitev svobode govora, zato poznamo izjeme, pri katerih pride do odstopanj pri zagotavljanju absolutne pravice do svobodnega izražanja. Nekatere izmed teh nacionalnih izjem so namenjene preprečevanju sovražnega govora, obrekovanja, razžalitev in groženj. Nekatere pa so namenjene preprečevanju govora, ki je v drugih državah označen kot izražanje mnenja, čeprav je le-to neokusno, a vendar zakonito. 3.1 Sovražni govor v odnosu do svobode govora v ZDA Na začetku razprav o sovražnem govoru v ZDA so se sovražna poimenovanja nanašala le na raso, etnijo in religijo, sedaj pa vključujejo še druge zatirane skupine, kot so ženske, geji, lezbijke in hendikepirane osebe. V strokovni literaturi razlikujejo še med sovražnim govorom in zločini iz sovraštva. Zločini iz sovraštva, kamor spadajo na primer fizični napadi, poškodovanja, zažiganje in podobno, so tradicionalno zakonsko regulirani. V nasprotju s tem je sovražni govor redko predmet regulacije, saj spada na področje svobode govora, ki jo ščiti prvi amandma k ameriški ustavi. Zagovorniki svobode govora, ki nasprotujejo zakonskim omejitvam govora, pravijo, da ne glede na to, proti komu je sovraštvo usmerjeno in kako škodljivo je, ima vsako prepričanje zakonito in moralno pravico, da je slišano. Tako torej v ameriški zgodovini sicer obstaja nekaj primerov omejitev svobode govora, ko gre za sovražno propagando, vendar nimajo večjega vpliva na javnost [14]. V osemdesetih letih se je oblikovalo gibanje za enakost in spoštovanje raznolikosti, ki je bilo posledica pojavljanja rasnega nasilja, omejenega na sovražni govor, v prestižnih ameriških kampusih. Gibanje so sestavljali večinoma levo politični aktivisti in aktivistke ter pripadniki zatiranih skupin, med njimi tudi večja skupina profesorjev prava, ki so se borili proti absolutističnemu razumevanju ustavnih pravic, v kateri so videli poglavitno oviro za omejitev sovražnega govora [14]. Člani gibanja so sovražni govor opredeljevali kot napad in ogrožanje določenih skupin, kar pa po njihovem mnenju ne spada med govor v smislu prvega amandmaja ustave, saj ne gre za izražanje, ki je odprto za razprave, temveč gre za napad, katerega namen je razpravo

17 končati. Šlo naj bi za»borbene besede«ali besede, ki se uporabljajo kot orožje zoper nekoga, njihov namen pa je izzvati nasilno reakcijo. Besede torej niso samo izjave, ideje ali argumenti, temveč so družbena dejanja [14]. V ZDA sodeluje tudi skupina komunitaristov, ki se sicer ne zavzema za kazensko preganjanje sovražnega govora, pričakuje pa, da se bodo ljudje izogibali sovražnih besed iz odgovornosti do skupnosti [14]. Hkrati pa se je razvilo tudi gibanje nasprotnikov sankcioniranja sovražnega govora in pravil o obnašanju in govorjenju. Njihov glavni argument je, da bi s tem zmanjšali svobodo govora in omejili akademsko svobodo. Po njihovem pojmovanju osebna prizadetost ne more biti razlog za omejitev svobode govora, ker je prizadetost subjektivna kategorija in ker različne ljudi prizadenejo različni dogodki: patrioti so prizadeti zaradi zažiganja zastav, katoliki pa zaradi homoseksualnosti ali splava. Poleg tega je težko oceniti, katere so tiste besede, ki dejansko tvorijo sovražni govor, in kdo bo odločal o stopnji prizadetosti. Bolje je ohraniti svobodo govora, zatirane skupine pa pripravljati na to, da se naučijo obvladati in soočati se s sovraštvom, ki jih prizadene in rani.[14] V ameriški tradiciji varovanja svobode govora torej najdemo izjeme, kazenska zakonodaja pa vključuje preganjanje nekaterih oblik govora, in sicer podkupovanja, prevaro, klevetanje, pornografijo in spolno nadlegovanje. Kljub temu pa jim zaenkrat še ni uspelo omejiti rasističnega govora [14]. 3.2 Sovražni govor v odnosu do svobode govora v Evropski uniji Tudi v Evropi je svoboda govora visoko cenjena, tako kot v ZDA. Zagotavljajo jo mnogi dokumenti, med drugim tudi Evropska konvencija o človekovih pravicah (v nadaljevanju Konvencija). Prav tako tudi v evropski tradiciji svoboda govora zajema izgovorjene besede in druge vrste komunikacij, kot so mediji, umetniški izdelki in druge dejavnosti, ki izražajo neko obvestilo ali idejo. Za razliko od ameriške tradicije Evropska konvencija vsebuje tudi člene, ki svobodo govora omejujejo, te omejitve pa so podprte z razsodbami Evropske komisije za človekove pravice in Evropskega sodišča za človekove pravice [14]. Omejitve svobode govora morajo sicer biti urejene z zakoni, nanašajo pa se na naslednje namene: varovanje varnosti države in njene ozemeljske celovitosti, javna varnost, preprečevanje

18 neredov ali zločinov, zavarovanje ljudi, preprečitev razkritja zaupnih informacij ter varovanje avtoritete in nepristranskosti sodstva [14]. Svet Evrope je v zvezi s sovražnim govorom strog. Oznanil je, da rasizma ne jemlje kot mnenje, temveč kot kriminalno dejanje in se proti njemu namerava boriti. To stališče velja za vsak sovražni govor, ne le za rasistične opazke. Svet torej ni le proti rasizmu, temveč tudi proti razširjanju sovražnega govora, uperjenega proti nekaterim narodnostim, veram in socialnim skupinam. Problemi pa nastanejo pri udejanjanju svojega stališča. Svet je pripravil prvi mednarodni sporazum o kaznivih dejanjih, storjenih z računalniškimi omrežji, kot je internet, ali z njihovo pomočjo. Konvencija o kibernetski kriminaliteti je bila dana v podpis leta 2001 v Budimpešti in 26 držav jo je podpisalo že prvi dan. Slovenija jo je podpisala leta Treba je omeniti, da se konvencija sicer ne ukvarja s problematiko sovražnega govora, čeprav so obravnavali tudi to možnost. Namesto tega je komite strokovnjakov glede kriminalizacije rasističnih in ksenofobičnih dejanj, storjenih z uporabo računalniških omrežij, od Sveta dobil navodila, naj pripravi osnutek dodatnega protokola, ki bi naslavljal tudi ta problem. Svet je nato ugotovil, da je težava v tem, da protokol ne bo imel učinka, če se države ne bodo borile proti vsem rasističnim spletnim stranem [23]. 3.3 Sovražni govor v odnosu do svobode govora v Sloveniji V Sloveniji je sovražni govor posredno in neposredno reguliran v slovenski Ustavi in v kazenski zakonodaji. Ustava Republike Slovenije v 39. členu zagotavlja svobodo izražanja:»zagotovljena je svoboda izražanja misli, govora in javnega nastopanja, tiska in drugih oblik javnega obveščanja in izražanja. Vsakdo lahko svobodno zbira, sprejema in širi vesti in mnenja. Vsakdo ima pravico dobiti informacijo javnega značaja, za katero ima v zakonu utemeljen pravni interes, razen v primerih, ki jih določa zakon.«svobodo govora delno omeji v 63. členu, ki pravi naslednje:»protiustavno je vsakršno spodbujanje k narodni, rasni, verski ali drugi neenakopravnosti ter razpihovanje narodnega, rasnega, verskega ali drugega sovraštva in nestrpnosti. Protiustavno je vsakršno spodbujanje k nasilju in vojni.«[28].

19 Sovražni govor je reguliran tudi v kazenski zakonodaji. Kazenski zakonik RS (Ur. l. RS št. 22/2008) omejuje svobodo govora v naslednjih členih: 131. člen o kršitvi enakopravnosti (1) Kdor zaradi razlike v narodnosti, rasi, barvi, veroizpovedi, etnični pripadnosti, spolu, jeziku, političnem ali drugačnem prepričanju, spolni usmerjenosti, premoženjskem stanju, rojstvu, genetski dediščini, izobrazbi, družbenem položaju ali kakšni drugi okoliščini prikrajša koga za katero izmed človekovih pravic ali temeljnih svoboščin, ki so priznane od mednarodne skupnosti ali določene z ustavo ali zakonom, ali mu takšno pravico ali svoboščino omeji ali kdor na podlagi takšnega razlikovanja komu da kakšno posebno pravico ali ugodnost, se kaznuje z denarno kaznijo ali z zaporom do enega leta. (2) Enako se kaznuje, kdor preganja posameznika ali organizacijo zaradi zavzemanja za enakopravnost ljudi. (3) Če stori dejanje iz prvega ali drugega odstavka tega člena uradna oseba z zlorabo uradnega položaja ali uradnih pravic, se kaznuje z zaporom do treh let člen o javnem spodbujanju sovraštva, nasilja ali nestrpnosti (1) Kdor javno spodbuja ali razpihuje narodnostno, rasno, versko ali drugo sovraštvo, razdor ali nestrpnost, ali spodbuja k drugi neenakopravnosti zaradi telesnih ali duševnih pomanjkljivosti ali spolne usmerjenosti, se kaznuje z zaporom do dveh let. (2) Enako se kaznuje, kdor javno širi ideje o večvrednosti ene rase nad drugo ali daje kakršnokoli pomoč pri rasistični dejavnosti ali zanika, zmanjšuje pomen, odobrava, omalovažuje, smeši ali zagovarja genocid, holokavst, hudodelstvo zoper človečnost, vojno hudodelstvo, agresijo ali druga kazniva dejanja zoper človečnost. (3) Če je dejanje iz prejšnjih odstavkov storjeno z objavo v sredstvih javnega obveščanja, se kaznuje tudi urednik oziroma tisti, ki ga je nadomeščal, s kaznijo iz prvega ali drugega odstavka tega člena, razen če je šlo za prenos oddaje v živo in dejanj iz prejšnjih odstavkov ni mogel preprečiti.[29] Poleg teh členov je svoboda govora omejena tudi v primerih goljufije, izsiljevanja, razžalitve, obrekovanja in žaljive obdolžitve. V slovenski sodni praksi ni znan primer, ko bi bil kdo pravnomočno obsojen zaradi sovražnega govora zoper manjšinske skupine, čeprav je bilo podanih kar nekaj kazenskih ovadb. V preteklosti je znanih kar nekaj primerov, kjer je bilo

20 mogoče govoriti o sovražnem govoru, pa so se postopki zoper storilce končali že v predkazenskem postopku, ali pa je šlo za oprostilne sodbe. V zadnjem desetletju smo bili priča sovražnemu govoru, uperjenemu proti Romom, ljudem iz nekdanjih jugoslovanskih republik, istospolno usmerjenim, samskim ženskam in materam samohranilkam, invalidom, muslimanom in judom. Večina izmed teh pripadnikov je doživela tudi fizične napade, zato je pomembno, da sovražnega govora ne jemljemo le kot nedolžne besede, temveč kot družbena dejanja z otipljivimi učinki. V zadnjem času se žaljivo govori tudi o brezdomcih, ljudeh, ki prejemajo denarne dodatke, brezposelnih in beguncih, ki prihajajo z Bližnjega vzhoda proti Evropi [10]. Strokovnjaki s tega področja pa se glede morebitne kriminalizacije sovražnega govora precej razhajajo. Predstavili bomo nekaj argumentov, v katerih se kažejo nasprotja med zagovorniki in nasprotniki omejevanja. 1. Nekateri nasprotniki omejitev trdijo, da je sovraštvo manifestacija čustva strahu, ki ga ustvarja ekonomska negotovost, pomanjkanje izobrazbe, občutek nemoči in strah pred različnostmi. Vendar pa zagovorniki dokazujejo nasprotno, da sovraštvo spodbujajo in širijo tisti, ki imajo dostop do javnosti objavljajo v časopisih, nastopajo na televiziji in radiu in zato njihova beseda nekaj velja. Ti pa vsekakor niso brezposelni, neizobraženi in revni. 2. Nasprotniki omejitev trdijo, da s prepovedjo posameznih žaljivih besed še vedno ne bi preprečili skritih misli in strahov in da bi ti postali s prepovedjo kvečjemu še bolj intenzivni. S tem kaznovanje zatre le simptome, vzroki pa ostanejo nedotaknjeni, še več, zatrtje čustev ljudi frustrira in se prej ali slej sprosti, takrat pa so oblike nasilja lahko veliko hujše. Zagovorniki omejitve pa trdijo, da sovražni govor nima namena odpirati razprave, temveč jo končati. Kot druga dejanja nasilja je tudi sovražni govor uporaba moči, da bi si podredili druge. Omejevanje sovražnega govora je v resnici razumevanje med prav in narobe v tem pogledu ustvarjanje družbene norme. Ne gre torej za ustvarjanje tišine, temveč za jasno sporočilo, da sovražni govor nima legitimnosti, ta norma pa se uči podobno kot druge. 3. Nasprotniki omejitev menijo, da ima sovražni govor tudi pomembne družbene funkcije. Pomaga nam spregledati, da je nekaj narobe, pripomore k spremembam, s prepovedjo pa bi onemogočili tovrstne refleksije. S tem bi ustvarili iluzijo o dobri družbi. Zagovorniki pa odgovarjajo, da sovražni govor ni prostor refleksij, temveč ustvarja realnost. Ko tak postane govor legitimen, se začne množiti. Čedalje več je tudi skupin, proti katerim je uperjen, in manifestacije se iz govora prenesejo tudi na druge oblike nasilja. Gre za

21 podcenjevanje moči besede. Da bi eni lahko reflektirali, morajo drugi nositi posledice [14].

22 4 SOVRAŽNI GOVOR NA SPLETU V prejšnjem poglavju smo lahko videli, da imajo debate o omejitvah svobode govora že dolgo tradicijo. Razvoj novih tehnologij, kot je tudi internet, nam postavlja samo dodatna vprašanja v tej tematiki, medtem ko se glavni argumenti niso veliko spremenili. Trdimo lahko, da več kot je tehnoloških sprememb, več je tudi novih vprašanj v zvezi s svobodo govora. Koncept spleta kot medija brez regulacije je načeloma zelo privlačen. Splet vsebuje številne unikatne karakteristike in nam nudi vrsto različnih komunikacijskih možnosti: oseba z osebo, skupina s skupino, oseba s skupinami. Zagotavlja nam globalizem, anonimnost in hitro izvajanje kakršnekoli spletne aktivnosti. Gotovo je, da ima sovražni govor na spletu svoje korenine v predsodkih in stereotipih družbe, ki so obstajali že dolgo pred odkritjem spleta, vsekakor pa je ta dodal nekatere nove vidike na to temo. Internet je mednarodni sistem medsebojno povezanih računalnikov. Začel se je razvijati kot vojaški program ARPANET, v šestdesetih letih in do danes se je pretvoril v mrežo za civiliste, ki omogoča komunikacijo med več kot milijardo ljudi, saj splet trenutno uporablja več kot 3 milijarde ljudi, tj. 46 % celotne svetovne populacije. Omogoča tudi dostop do enormne količine informacij z vsega sveta, prav tako pa nam ponuja širok spekter komunikacijskih in informacijskih metod. Vse skupaj, s spletom (World Wide Web) na čelu, tvori edinstven medij, ki nima dejanske geografske lokacije, a vendar je na voljo vsem, ki imajo dostop do interneta. Vsaka oseba ali organizacija z računalnikom, priklopljenim na internet, lahko objavlja informacije.[23] Priložnosti, ki jih je začel ponujati ta novi medij, so hitro opazili tudi sovražni aktivisti. Med prvimi so bili ameriški neonacisti, ki so internet začeli uporabljati za svojo propagando v začetku 80. let. Pripravili so navodila, kako iskati in najti potencialne člane, kako pritegniti tiste, ki so zgolj radovedni, in kako s pomočjo interneta povečati svoj vpliv. Internet je torej začel zagotavljati edinstvena sredstva za širitev sovražne propagande. Izkazal se je namreč za relativno poceni in visoko učinkovito sredstvo za rasistične individualiste ali skupine, da so lahko delili svoje sovražne ideje najprej z večtisočglavo, danes pa celo večmilijonsko publiko [23]. Ponuja pa nam tudi priložnost za ustanavljanje skupin in forumov in s tem poenostavi komunikacijo ter omogoča doseči večje število ljudi, med katerimi so tako potencialni sledilci kot tudi žrtve. Vsebuje dodatne metode, s katerimi

23 nase privlači otroke in mladino, na primer z dostopno sovražno glasbo in igricami, ki jih je možno enostavno prenesti s spleta. 4.1 Vrste in metode sovražnega govora na spletu Sovražno nastrojene spletne strani Sovražno nastrojene spletne strani so namenjene spodbujanju ali napeljevanju k sovražnemu govoru proti določeni skupini ali skupinam. Med najbolj učinkovite strani štejemo tiste, ki uporabljajo vse razpoložljive metode elektronskih komunikacij. Tvorijo središča sovraštva v namen ustvarjanja skupnosti, ki širi določeno ideologijo, rekrutirajo nove člane in včasih čeprav ne nujno, spodbujajo zločine iz sovraštva [7]. Nove tehnologije so dale nova orodja v roke tistim, ki želijo širiti sovražna sporočila, in sovražne spletne strani danes v ta namen v popolnosti izkoriščajo bloge, socialna omrežja, videoposnetke in odprte forume. Mnoge oblike, ki jih bomo obravnavali v nadaljevanju, so skozi različne poti povezane druga z drugo in včasih tudi z glavno stranjo, kjer se podporniki in novinci lahko združijo [7]. Primer ene izmed takšnih sovražnih strani je Stormfront, ki je verjetno največji spletni forum, ki spodbuja rasizem in verjame v nadvlado bele rase. Spletno mesto Stormfront.org gostuje in vsebuje povezave do vsebin tako imenovanih»belih nacionalistov«in do rasističnih spletnih strani. Uporabljajo tudi elektronsko listo, ki omogoča komunikacijo med pripadniki. Na njej najdemo tudi povezave na YouTube videoposnetke s sovražno vsebino (glasba, govori vodij, pozivi k akciji) [7]. Najhujši primeri sovražnih spletnih strani so lahko odstranjeni s spleta bodisi zato, ker so v nasprotju z zakonodajo v državi, v kateri imajo sedež, ali pa z uspešnim lobiranjem pri ponudniku storitev. Spletna mesta, ki domujejo v ZDA, so še posebej dobro zaščitena in je postopek za njihovo odstranitev lahko dolgotrajen, če ne celo nemogoč. Drug problem je, da so sovražne skupine postale bolj zavedne v smislu potrebe po širjenju svoje ideologije in v ta namen uporabljajo termine, ki niso očitno rasistični. Jezik je tako pogosto bolj subtilen, sporočila so skrita pod številnimi primeri ali v ozkih statistikah, ki potrjujejo negativne stereotipe o določenih skupinah a zgolj zaradi odsotnosti drugih pomembnih informacij [7].

24 4.1.2 Blogi in spletni forumi Sovražni blogi predstavljajo obliko, s pomočjo katere lahko posamezniki delijo rasistično ali nesprejemljivo ideologije s širšo publiko. Na drugi strani pa lahko sovražni aktivisti dosežejo potencialne žrtve skozi komentarje na njihovih straneh. V nekaterih skupinah ali državah se je sovražno komentiranje izkazalo za priljubljeno obliko: komentarji so lahko anonimni, preprosto je ustvariti novo identiteto, vpliv na posameznika je takojšen in nekaj negativnih komentarjev lahko spodbudi ostale, da se pridružijo. Če so komentarji nemoderirani, ali če jih moderirajo posamezniki, ki podpirajo napade, bodo tisti člani, ki so pripravljeni ponuditi nasprotne komentarje, počasi zapustili spletno mesto. S tem pride do zapiranja razprave, ostanejo pa le vzajemne skupine, ki med seboj delijo in podpirajo negativne komentarje ali stereotipe [7]. Tudi v Sloveniji med spremljanjem spletnih vsebin večkrat naletimo na sovražne, neprimerne komentarje pod članki spletnih medijev. Primer slovenskega foruma je stran»nemejebat.com«, na katero je v preteklosti opozoril tudi varuh človekovih pravic. Celoten koncept te spletne strani napeljuje k sovražnemu govoru proti homoseksualcem, izbrisanim, tujcem, judom in drugim. Na tej strani se sovražni govor pojavlja redno, kot denimo:»jebem vam mater čefurjada pofukana!!spidite s Slovenije al pa bote jedl bejzbolke pa grizl robnike!!! Veleje bi pa najraj u luft poslau!!! Čefurji so: gay-i, nekropedofili, pušači pišulind, radi jih fafajo fotrim, pa radi pijejo mamino ščavnco! Da ne začnem kok majo radi iztrebke hišnih ljubljenčkov!!!«[3] Zadeve so se leta 2015 ob begunski krizi zaostrile do te mere, da so bili spletni mediji zaradi sovražnega, neprimernega komentiranja pod določenimi vsebinami prisiljeni onemogočiti komentiranje. V času begunskega vala se je namreč pod članki, napisanimi na to temo, pojavilo veliko sovražnih komentarjev, ki so bili usmerjeni proti migrantom. Med prvimi, ki so se odločili za tak drastični ukrep, je bil najbolj obiskan medijski portal v Sloveniji 24 ur, ki je pojasnil, da je bila ukinitev komentiranja edina ustrezna rešitev glede na to, da druge sankcije niso zadostovale, komentarjev, ki so ustrezali definiciji sovražnega govora, pa je kar mrgolelo [18].

25 4.1.3 Spletne igre Privlačni svet spletnih iger, v katerem uporabniki domujejo v navideznem paralelnem svetu, je lahko predstavljen, kot da nima vpliva na realne posameznike, in je zlasti učinkovit pri krepitvi stereotipov proti določenim skupinam, običajno skozi nasilje. Igre se vse bolj uporabljajo za širjenje mitov, grajenje predsodkov in ustvarjanje različnih skupnosti. Obstaja velika nevarnost, da poglobitev v take igre, od katerih so mnoge zelo prefinjene in uporabljajo kot sovražnike resnične družbene skupine, pomaga zabrisati razlikovanje med fantazijo in realnostjo. Dejstva, predstavljena v svetu igre, so lahko zelo verjetno prenesena tudi v resnični svet. Primer takšne igre, ki prenaša sovražna sporočila v realni svet, je igra Ethnic Cleansing, ki jo je ustvarila anti-semitska, rasistična sovražna skupina z namenom spodbujanja nasilja in genocida. Cilj te igre je ubiti čim več črncev, Latinoameričanov in Judov [7] Videoposnetki in glasba Videoposnetki in glasba so prav tako lahko uporabljeni za privabljanje novih podpornikov in pridobivanje dodatnih sredstev za rasistične skupine. Vsebine, ki jih ustvarijo tovrstne založbe, običajno vsebujejo tudi povezave do iger, videoposnetkov, forumov in ostalih spletnih strani, ki vsebujejo povezano vsebino. Sovražne strani pa po drugi strani vsebujejo povezave do strani založbe, ali do strani, kjer lahko preneseš omenjene vsebine. Čeprav ima YouTube pogoje, ki prepovedujejo objavljanje rasističnih ali nasilnih videoposnetkov, je vseeno mogoče enostavno objavljati tovrstne vsebine. K temu pripomorejo anonimnost tistih, ki objavljajo, pa tudi pomanjkanje interesa za uveljavljanje lastnih zahtev s strani YouTuba. Podobno velja tudi za druge strani, kjer lahko objavljamo lastne vsebine [7].

26 4.1.5 Družbena omrežja Večina družbenih omrežij ima določene pogoje, ki prepovedujejo rasizem, pozive k nasilju in ostale oblike diskriminatornih in zlorabljajočih vsebin. Vendar pa so zaradi enostavnosti, s katero te strani lahko nastavimo, in močne možnosti mreženja, ki jih te strani ponujajo, pogoji uporabe relativno neučinkoviti, če jih ne spremljamo dovolj skrbno. Facebook in ostala družbena omrežja so natrpana s stranmi uporabnikov, ki direktno ciljajo določene skupine, celo takšnimi, ki pozivajo k nasilju. Čeprav tovrstne strani teoretično lahko odstranimo, jih je običajno težko najti, saj so lahko dostopne samo prijateljem te strani. Tudi po tem, ko so na zahtevo drugih uporabnikov enkrat odstranjene, ni težko ponovno vzpostaviti nove strani z drugačnim uporabniškim imenom [7]. Ker so postala družbena omrežja v zadnjem času priljubljeno orodje za komunikacijo in javno širjenje lastnih mnenj, prepričanj in idej, se bomo v naslednjih poglavjih še posebej posvetili analizi tega okolja, ki je tudi osrednji predmet tega diplomskega dela [7].

27 5 DRUŽBENA OMREŽJA IN SOVRAŽNI GOVOR Družbena omrežja so postala priljubljen kanal komuniciranja in družbenega sodelovanja nasploh. Na tovrstnih straneh se tako udejstvujejo različni ljudje, z različnimi kulturnimi, socialnimi ozadji in pogledi na svet. Ker gre za prenos resničnih odnosov v digitalni svet, smo na družbenih omrežjih priča tudi negativnim odnosom in komunikaciji, ki je sicer prisotna v družbi. Mogoče je celo bolj izrazita in doseže večje število ljudi. Zaradi različnih terminov, ki se v praksi pogosto napačno uporabljajo za družbena omrežja, bomo najprej natančno definirali družbena omrežja in jih ločili od drugih oblik spletnih komunikacijskih storitev. 5.1 Opredelitev družbenih omrežij V medijskih vsebinah lahko zasledimo različne termine, ki se uporabljajo za družbena omrežja. Najpogosteje lahko zasledimo poimenovanje socialni mediji, ki pa je neustrezno in nenatančno, saj socialni mediji vključujejo tudi druge oblike spletnih storitev z družbenimi komponentami. Družbena omrežja so namreč specifičen tip socialnih medijskih storitev, ki jih ne smemo zamenjevati z drugimi oblikami socialnih medijev, kot so blogi, internetni forumi, wikiji, ljudski zaznamki, družbene novičarske strani (Diggit, Reddit itd.), strani za deljenje fotografij in videov (Flikr, Picasa, YouTube), spletne zmenkarije. Skratka, termin socialni mediji zajema vse oblike spletnega povezovanja in interakcije, medtem ko so družbena omrežja le tip socialnih medijev.[31] Najbolj znana družbena omrežja so Facebook, Myspace, Friendstar, Bebo, Orkut, hi5, Badoo, Linkdeln, Xing, Ryze itd. [31]. V primeru Twitterja, ki je v Sloveniji priljubljen kanal spletne komunikacije, si v stroki niso enotni, ali spada v družino družbenih omrežij, saj vsebuje prvine bloga. V tej nalogi ga bomo definirali kot družbeno omrežje, a zgolj zaradi vloge, ki jo ima v Sloveniji pri širjenju sovražnega govora. Boyd in Ellison na primer definirata družbena omrežja kot spletne storitve, ki posameznikom omogočajo izgradnjo javnega ali delno javnega profila znotraj omejenega sistema, oblikovanje seznama drugih uporabnikov, s katerimi želijo biti v stiku, in vpogled v lasten seznam stikov v okviru sistema družbenega omrežja [2].

28 Če smo bolj natančni, so družbena omrežja vrsta računalniško posredovanih skupnosti, kar pomeni, da interakcija med člani poteka preko računalnikov, povezanih z internetom. Medij, v katerem tovrstne skupnosti živijo, je splet, člani pa so tisti, ki ustvarjajo vsebino z izmenjavo sporočil, deljenjem slik, predajanjem spletnih povezav [31]. Storitve družbenega mreženja, kot je na primer Facebook, gostijo spletne strani, kjer se člani srečujejo in medsebojno komunicirajo. Zagotavljajo pa tudi digitalna orodja in lastnosti, ki dodatno obogatijo te interakcije. Tipično takšna omrežja s svojimi orodji članom omogočajo kreiranje in urejanje osebnega profila, iskanje prijateljev in znancev, pošiljanje in prejemanje sporočil, objavljanje fotografij in vrsto drugih možnosti. V večini primerov so družbena omrežja tudi brezplačna [31]. Družbena omrežja v bistvu redefinirajo skupnost in kaj pomeni biti del nje, saj obsegajo mnogo širši razpon odnosov kot izven njih. Skratka, ne obsegajo samo odnosov s svojo družino, prijatelji in sodelavci, temveč nam omogočajo dodajanje bivših sošolcev, oddaljenih sorodnikov in znancev. Pri tem tudi ni geografskih omejitev, kar pomeni, da je interakcija med različnimi časovnimi pasovi enaka, kot če bi živeli v istem naselju. Družbena omrežja pa spodbujajo tudi ustvarjanje popolnoma novih odnosov [31]. Velika prednost družbenih omrežij ni le, da omogočajo posameznikom spoznavati nove ljudi in pridobivati nove kontakte, temveč tudi, da uporabnikom omogočajo artikulacijo [2]. Vsi socialni mediji, tudi družbena, omrežja se namreč razlikujejo od tradicionalnih medijev (radio, TV, časopis itd.) v dveh značilnostih. Prva je, da so uporabniki tisti, ki ustvarjajo vsebino, druga pa je interaktivnost. Družbena omrežja nas pripeljejo do točke, ko nismo več pasivni uporabniki informacij, ampak nas spreminjajo v aktivne udeležence pri izmenjavi informacij. Rečemo lahko, da družbena omrežja izpolnjujejo dve osnovni človeški potrebi: biti povezan z ljudmi in biti slišan [31]. 5.2 Družbena omrežja kot sredstvo/medij za sovražni govor Družbena omrežja razumemo kot medij, ki spodbuja svobodo govora in izražanja. V splošnem velja, da je pojav družbenih omrežij ustvaril digitalno revolucijo z oblikovanjem in splošno razpoložljivostjo tehnologij, ki omogočajo enostavno izmenjavo informacij. Pomagajo nam pri seznanjanju z globalnimi vprašanji, za katera sicer morda ne bi nikoli slišali. Na primer arabska pomlad je prvi zagon pridobila na družbenih omrežjih, z zatiranimi državljani, ki so začeli opozarjati na krivice, ki jih je povzročal njihov režim. Mednarodne

29 organizacije in skupine civilne družbe uporabljajo družbena omrežja kot posredno orodje za širitev različnih sporočil med ljudmi. Bistveno pa je, da družbena omrežja omogočajo ljudem iz različnih koncev sveta, da se med seboj povežejo, delijo svoje ideje in odkrivajo nove možnosti [19]. Čeprav družbena omrežja kažejo vse te zgoraj naštete potenciale v smislu razširjanja mej komunikacije, pa lajšajo tudi razširjanje sovražnega jezika in izražanja, ki ga ohlapno imenujemo spletni sovražni govor [19]. Strani, kot sta Facebook ali Twitter, so odprte in javne in uporabniki lahko na njih svobodno izražajo svoja mnenja o politiki, rasi, veri in spolnosti. Ustanavljajo lahko tudi skupine in strani, v katerih se opredeljujejo za in proti. Vsakdo lahko torej ustvari tudi skupino, ki širi sovraštvo proti nekaterim religijam, spolnim preferencam, invalidom, in rasnim/etičnim skupinam. Zaradi svobode, ki nam jo družbena omrežja ponujajo v smislu komunikacije, lahko v praksi večkrat opazimo pojav, ko posamezniki družbena omrežja uporabljajo za izražanje svojih osebnih prepričanj, ki so potencialno žaljiva in sovražna do določenih ranljivih skupin. Na primer, v Sloveniji smo bili leta 2015, v času migrantske krize priča porastu sovražne, neprimerne komunikacije na omrežjih Facebook in Twitter. V tem času so se na omrežju Facebook oblikovale tudi skupine:»slovenija Zavaruj Meje«,»Radikalna Ljubljana«in»Slovenska milica«, v katerih so se pod pretvezo ohranjanja miru in lastne kulture širile skrajne oblike sovražnega govora, uperjenega zoper begunce z Bližnjega vzhoda. Obravnavani so bili skrajno ponižujoče kot kulturno in mentalno zaostali, celo kot divje živali, katerih cilj naj bi bil genocid nad evropskimi narodi. Z odrekanjem človeškosti in pripisovanjem zlih namenov se jih je radikalno potujčevalo, kar služi kot argument v podporo fizičnemu iztrebljanju beguncev. V teh skupinah so se našli komentarji, kot so:»upam, da stopijo na čim več min«, ali»treba bo poseči po strelnem orožju ker ostalo ne zaleže«. Te primere je obravnaval tudi Svet za odziv na sovražni govor, v nadaljevanju Svet [22]. Najbolj zaskrbljujoči vidik pojavnosti sovražnega govora na družbenih omrežjih je, da ga uporabljajo tudi politiki in druge pomembne javne osebnosti, ki imajo moč vplivati na javno debato. Javnim osebnostim na vplivnih položajih namreč sledi veliko ljudi, ki se včasih istovetijo s temi osebnostmi. S tem ko te osebe na družbenih omrežjih spodbujajo sovraštvo, na neki način legitimirajo družbeno nesprejemljivo vedenje in normalizirajo sovraštvo, s tem pa posredno spodbujajo tudi nasilje. Na primer, v Sloveniji je Svet za odziv na sovražni govor prejel prijavo zoper objave na javni Facebook strani politika Zmaga Jelinčiča Plemenitega:»Naši otroci ne morejo na morje, sodrgo bodo pa namestili na Debeli rtič. Za časa Tita so se tam zdravili otroci, zdaj se bodo trenirali potencialni teroristi.«

30 Omenjena objava je po mnenju Sveta uperjena proti beguncem kot družbeni manjšini, ki je postavljena v izrazito ranljiv položaj. Še več, Svet ugotavlja, da več objav na njegovi Facebook strani vsebuje elemente sovražnega govora, ki jih nekdanji poslanec zavestno uporablja kot sredstvo mobilizacije političnih podpornikov [22]. Omenjena izjava pa ustreza naši definiciji sovražnega govora zato, ker namerno, neupravičeno vzpostavlja sovražni odnos do pripadnikov marginalizirane ciljne skupine. S tem ko jih naziva z nazivom»sodrga«, namreč razširja sporočilo, da so to ničvredni ljudje, ki si ne zaslužijo normalnega življenja in je do njih treba imeti sovražen, zaničevalen odnos. Med drugim pa tudi s tem, ko pravi, da so potencialni teroristi, med ljudmi širi predstavo o beguncih kot varnostni grožnji, proti kateri se je treba boriti. Zaradi njegove prepoznavnosti taki zapisi še močneje širijo sporočila, da je begunce treba zavračati, jih obravnavati kot grožnjo, s tem pa jim posredno onemogoča normalno integracijo v novo, sčasoma čedalje bolj sovražno okolje. V tem času pa je Varuh človekovih pravic komentiral primer sovražnega govora tudi v novinarskih vrstah. Eden izmed novinarjev je na Twitterju namreč napisal:»beguncem bi dovolil približanje slovenski meji zgolj na 500 metrov, sicer bi jih postrelil«. Omenjena izjava po mnenju varuha nedvomno presega polje svobode izražanja in pomeni kršitev 63. člena ustave, v skladu s katerim je protiustavno kakršnokoli spodbujanje k nasilju [28]. Družbe, kot je na primer Facebook, pa že v svojih pogojih uporabe prepovedujejo uporabo omrežja zaradi širjenja sovražnega govora in ga definirajo kot direkten in resen napad na katerokoli ogroženo skupino ljudi zaradi njihove rase, narodnosti, religije, spola, spolne orientacije, invalidnosti ali bolezni. Iz te definicije pa izključujejo sicer žaljive vsebine, kot je na primer satira, ki po njihovi definiciji ni sovražna. V takih primerih je njihova politika odločanja poštena, premišljena in razširljiva. Ta način jim namreč omogoča še naprej braniti svobodo izražanja, na osnovi katere je Facebook tudi bil ustanovljen. Vendar se zavedajo, da njihovega boja za svobodo govora ne bi smeli razumeti kot licence za nadlegovanja, zlorabe, ustrahovanja in ogrožanja. V ta namen so pripravili vrsto ukrepov, ki jim bodo pomagali doseči ta cilj [10]. Zaradi naglega širjenja sovražnega govora na družbenih omrežjih je Evropska komisija letos skupaj z IT-družbami Facebook, Twitter in Microsoft predstavila kodeks ravnanja v zvezi z nezakonitim sovražnim govorom na spletu. S podpisom kodeksa se IT-družbe zavezujejo, da bo večina veljavnih prijavljenih primerov pregledana v 24 urah, ter da do takšnih vsebin ne bo mogoče dostopati oziroma da bodo odstranjene. Družbe naj bi si tudi prizadevale za okrepitev partnerstva z organizacijami civilne družbe, ki bodo pomagale

31 označiti vsebine, ki pozivajo k nasilju in sovraštvu. Kodeks torej predstavlja dodatne ukrepe proti sovražnemu govoru in hkrati ohranja odprto, svobodno komunikacijo [8]. Da je sovražni govor na spletu v Sloveniji precej razširjen, kažejo tudi poročila centra za varnejši internet, Spletno oko. Leta 2015 so namreč zabeležili 1153 prijav domnevno nezakonitega sovražnega govora in v 51 primerih ugotovili, da prijave vsebujejo elemente nezakonitosti, zato so jih v nadaljnjo obravnavo predali policiji. Zanimivo pa je dejstvo, da se je kar 57 odstotkov primerov domnevno nezakonitega sovražnega govora leta 2015 nahajalo prav na družbenih omrežjih, medtem ko je leta 2014 ta delež znašal zgolj 14 odstotkov [20]. Tudi Svet za odziv na sovražni govor je v prvem letu delovanja prejel okoli 50 pobud, ki so v večini bile povezane s sovražnim govorom do beguncev, migrantov in islamske vere, v času predreferendumske kampanje o zakonu o zakonski zvezi in družinskih razmerjih pa tudi do LGBT skupnosti. Po navedbah Sveta pa je ta neverjetne razsežnosti doživel prav na družbenih omrežjih, predvsem na Facebooku in Twitterju [27]. Kot primer tovrstnega razširjanja sovražnega govora na družbenih omrežjih lahko podamo skupino, ustvarjeno na Facebooku Slovenija, zavaruj meje. V tej skupini se pod pretvezo ohranjanja miru in lastne kulture širijo skrajne oblike sovražnega govora, uperjene predvsem proti beguncem z Bližnjega vzhoda. Zaskrbljujoče pa je dejstvo, da smo dne zabeležili kar podpornikov te skupine. Kot je razvidno iz spodnje slike zaslonskega posnetka s Facebooka, vidimo, da se pod objavami z begunsko tematiko pojavljajo komentarji, ki že tako ranljivo družbeno skupino obravnavajo skrajno ponižujoče. Komentarji odobravajo fizično iztrebljanje beguncev in to argumentirajo z njihovimi domnevno zlimi nameni. Ti primeri potrjujejo Waldronovo teorijo, da sovražni govor ogroža javno dobro vključenosti, saj ti komentatorji ne sprejemajo dejstva, da je kljub kulturnim razlikam družba namenjena vsem, s tem pa te ljudi vnaprej izključujejo iz skupnosti in jim odrekajo možnost za integracijo in normalno življenje. Poimenovanje beguncev z žaljivimi, ponižujočimi, živalskimi izrazi (npr. golazen) pa ogroža tudi osebno dostojanstvo tistih, ki jih zadeva, s tem pa spodkopava njihov načeloma enak družbeni položaj.

32 Slika 5.1: Primeri sovražnega govora na Facebooku Ni pa ta skupina edina v Sloveniji. Na Facebooku najdemo tudi skupino Radikalna Ljubljana z 2387 podporniki, ki z vizualnim gradivom in sporočili prav tako razširja sovraštvo ter zavrača idejo sobivanja, pa še vrsto drugih z več tisoč podporniki. Vse to priča, da se je sovraštvo na družbenih omrežjih razpaslo do te mere, da jih pristojni ne bi smeli več prezreti.

33 6 ODZIVANJE NA SOVRAŽNI GOVOR Sovražni govor najdemo v različnih pojavnih oblikah, od milejših, kot je nesramni govor, pa do zelo škodljivih, kot so grožnje zoper življenje, telo in premoženje. Čeprav je vsaka oblika nedopustna, pa odziv ne sme biti vedno enak, saj je vse odvisno od konteksta. Pri odločanju za pravilen odziv si lahko pomagamo z odgovori na vprašanja, komu je sovražni govor namenjen (skupini/posamezniku z manj ali več moči, konkretni osebi ), za kakšno obliko gre, oziroma kako škodljiv je, ali je bil objavljen z namenom, da koga prizadene, poniža ali ustvari do nekoga sovražno razpoloženje itd. Ne glede na vse to pa morajo odziv na opažen sovražni govor v osnovi vedno enak: sovražnega govora ne minimaliziramo in ga ne opravičujemo [12]. Sovražnega govora se zaradi različnih dejavnikov ne da popolnoma odpraviti ali preprečiti. Vsako omejevanje ali prepoved namreč trči ob ustavno in mednarodno pravico do svobode izražanja, ki ima pomembno vlogo v demokratičnih družbah [12]. Bolj ko je namreč družba naravnana demokratično, vključujoča in spodbuja enakost, manj restriktivnih posegov potrebuje za preprečevanja sovražnega govora. Cenzura torej ni edina možnost. Seveda to ne pomeni, da se k omejitvam izražanja in kaznovanju javnega spodbujanja sovraštva, nasilja ali nestrpnosti kot skrajnih pojavov sploh ne bi smeli zatekati, temveč bi morali ob teh ukrepih več napora vložiti v preventivne vzgojne in izobraževalne aktivnosti. Le kombinacija več dejavnikov namreč lahko učinkovito zajezi sovražni govor [12]. 6.1 Možnosti odziva na sovražni govor na družbenih omrežjih Kot soustvarjalci vsebin na družbenih omrežjih bi se morali na sovražni govor odzivati, saj z neodzivanjem dajemo vtis, da se strinjamo z zapisanim in na neki način legitimiramo sovražni govor. Odziv pa ne pomeni samo konkretnega odziva na določen pojav, temveč gre tudi za pomoč žrtvam sovražnega govora ter delo z njegovimi povzročitelji. Cilj odzivanja je, da dajemo podporo žrtvam pri premagovanju morebitnih posledic, povzročitelje pa soočimo z njihovimi stereotipi in predsodki ter s škodljivimi posledicami sovražnega govora. Povzročiteljem je treba dati jasno vedeti, da je sovražni govor škodljivo in v nekaterih primerih tudi kaznivo dejanje. Pri tem imamo več možnosti, katero bomo uporabili, je odvisno od vrste, škodljivosti in teže določene izjave. V naslednjem poglavju

34 bomo predstavili nekaj možnih ukrepov, ki so nam na voljo, če na družbenih omrežjih zasledimo izjavo, ki jo ocenjujemo kot sovražno Soočenje z argumenti v osebnem sporočilu ali komentarju V primeru, da zasledimo zapis, ki se nam zdi neprimeren, sovražen ali škodljiv, pa vendar ne gre za zelo hudo obliko sovraštva, ali pa gre za enkraten avtorjev spodrsljaj, lahko zaradi odprte komunikacije, ki nam jo ponujajo družbena omrežja, avtorja na spoštljiv način opozorimo na predsodke in stereotipne predstave, ki jih širi s sovražnim govorom, pa tudi na posledice takega početja. Na tak način v komentarju lahko odpremo debato, v kateri demitiziramo te predsodke in v zameno ponudimo dejstva. Tak pristop je priporočljiv, kadar ocenimo, da gre predvsem za neznanje in ne za željo po škodovanju žrtvam sovražnega govora. Tega seveda ni priporočljivo storiti, kadar gre za očitno provokacijo, ki se hrani z našimi odzivi. V primeru, da ne želimo javnega izpostavljanja, lahko avtorja v zasebnem sporočilu pozovemo, naj svoj zapis umakne in/ali spremeni svojo retoriko. Povzročitelji se pogosto sklicujejo na svobodo govora, tudi v sodnih postopkih zoper sovražni govor je eden izmed večjih izzivov tehtanje med svobodo govora in škodljivostjo oziroma nevarnostjo izrečenih besed. Zato moramo avtorjem posredovati tudi sporočilo, da je svoboda govora sicer pomembna, visoko cenjena pravica v demokratičnih družbah, da pa s seboj nosi tudi odgovornost. Treba jo je namreč omejiti, kadar se zlorablja v škodo družbi ali posameznikom [12] Prijava z obstoječimi orodji na družbenih omrežjih V svojih pravilnikih uporabe imajo družbena omrežja člene, ki prepovedujejo uporabo sovražnega govora in drugega škodljivega ravnanja, zato nam na svojih platformah ponujajo tudi enostavna orodja za prijavo po naših ocenah spornih vsebin. Npr. na Facebooku lahko tovrstno vsebino prijavimo s klikom na povezavo, ki se nahaja nad vsebino. Na podlagi take prijave administratorji pregledajo vsebino in tudi odstranijo tiste, ki ne sledijo njihovim pravilom uporabe. Pri tej prijavi ostanemo anonimni [9]. Tudi Twitter ima v svojih pravilih zapisano, da ni dovoljena sovražna vsebina, ki promovira nasilje, direktno napada ali ogroža ljudi na podlagi rase, nacionalnosti, kulture, spolne orientacije, spola, verske izpovedi, starosti, bolezni ali invalidnosti. Zato lahko tvite, za

35 katere menimo, da kršijo katero izmed pravil, prijavimo s klikom na povezavo za prijavo in označimo, da gre za žaljivo oziroma škodljivo vsebino. Tudi na Twitterju pregledajo prijavljeno vsebino in ukrepajo glede na vrsto in naravo objave. Sankcije segajo od blažjih, kot je opozorilo avtorju, pa do hujših, kot je trajen izbris računa [25] Vložitev pobude Svetu za odziv na sovražni govor V okviru projekta Z (od)govorom na sovražni govor so leta 2015 v Sloveniji ustanovili Svet za odziv na sovražni govor. S partnerji ga izvaja Mirovni inštitut, njegov namen pa je javno odzivanje na prijavljene primere sovražnega govora. Svet tako zbira pobude oziroma opozorila o primerih, ki se ljudem zdijo sporni in vredni javnega odziva, vključno s tistimi, ki niso kazensko pregonljivi. Po njihovem mnenju je namreč treba z javno in poglobljeno razpravo opozarjati predvsem na pojave diskriminatornega govora, ki manjšinam oziroma marginaliziranim skupinam zanika pravice ali jih obravnava na način, ki opravičuje njihov deprivilegirani položaj. Če torej zaznamo tovrstni govor na družbenih omrežjih ali kjerkoli na spletu, lahko Svetu pošljemo pobudo za obravnavo preko njihovega spletnega obrazca, na poštni naslov ali pa na elektronski naslov. Pobuda mora vsebovati točno navedbo primera, ki naj bi pomenil sovražni govor, sredstvo oziroma medij, v katerem se ta pojavlja, čas objave, osebo, ki ga je izražala, argumentacijo, zakaj naj bi šlo za sovražni govor, kontaktne podatke in gradivo, na osnovi katerega naj bi šlo v obravnavanem primeru za sovražni govor. Pobudo pa je treba vložiti takoj oziroma najpozneje v roku enega meseca po dogodku [22] Uradna prijava ustreznim institucijam V primeru, da na družbenem omrežju opazimo sovražni govor, ki je izredno škodljiv, poziva k nasilni akciji, je sovražen do določenih skupin in ga ni mogoče zaustaviti na katerega od zgoraj navedenih načinov, lahko le-tega prijavimo na prijavno točko Spletno oko, ki zbira anonimne prijave sovražnega govora in jih posreduje pooblaščenim organom pregona. Spletno oko se pri pregledu prijav opira na dva vira: 297. člen Kazenskega zakonika, ki prepoveduje javno spodbujanje sovraštva, nasilja ali nestrpnosti, in na Pravno stališče Vrhovnega državnega tožilstva o pregonu tega kaznivega dejanja. Pri presoji, ali je prijavljena vsebina domnevno nezakonita in kot taka zrela za nadaljnjo obravnavo v rokah

36 pristojnih organov, Spletno oko išče elemente, kot so: javnost dejanja, spodbujanje sovraštva ali nasilja, ali je izraženo zoper posebej navedene družbene skupine, ki jih kot deprivilegirane posebej varuje Ustava Republike Slovenije in članstvo, v katerih temelji izključno na osebni okoliščini posameznika, obstoj izvršitve oblike grožnje, zmerjanja ali žalitve, obstoj konkretne nevarnosti za javni red in mir. V Sloveniji so kriteriji za kaznivost spornih oblik komuniciranja postavljeni visoko, zato po poročanju Spletnega očesa le za majhen del prijav ugotavljajo, da ustrezajo merilom za kaznivi sovražni govor. Kljub temu pa se na spletu najde veliko neprimernega in spornega govora [4].

37 7 EMPIRIČNI DEL Glavni cilj empiričnega dela diplomske naloge, ki smo si ga zastavili v samem začetku, je ugotoviti zaznavanje, odnos in odzivnost na sovražni govor med uporabniki spleta in družbenih omrežij. Zanima nas torej, če in v kakšni meri uporabniki zaznavajo sovražni govor na spletu in družbenih omrežjih, na kak način in s katerimi ukrepi se nanj odzivajo. Zanima pa nas tudi njihovo mnenje glede pravice do svobode govora, ki je v primerih kaznovanja sovražnega govora omejena. V sklopu tega cilja smo si zastavili tudi tri hipoteze, ki jih bomo v nadaljevanju sprejeli ali zavrnili: Hipoteza 1: Uporabniki zaznavajo pogosto pojavljanje sovražnega govora na spletu. Hipoteza 2: Uporabniki se na sovražni govor redko odzivajo z uradnimi regulativnimi ukrepi. Hipoteza 3: Uporabniki menijo, da poseganje v komunikacijo na družbenih omrežjih ogroža pravico do svobode govora. 7.1 Metodologija raziskave Podatke za analizo smo zbrali s pomočjo spletne ankete, ki smo jo izdelali v namen raziskave v sklopu diplomskega dela. Anketa je aktivna od 12. avgusta 2016, podatke za analizo pa smo izvozili 17. avgusta Anketo smo promovirali s povezavo na družbenih omrežjih. V tem časovnem obdobju smo zabeležili 318 klikov na nagovor, od tega je 81 (25 %) respondentov kliknilo na anketo, izpolnjevati pa jo je začelo 77 (24 %). Na koncu smo zabeležili 77 (24 %) anketirancev, ki so delno izpolnili anketni vprašalnik, 70 (22 %), pa jih je anketo tudi v celoti zaključilo. S tem smo dobili 70 uporabnih enot in 7 delno uporabnih enot anketnega vprašalnika, kar skupaj predstavlja 25 % stopnjo odziva. Anketa je obsegala 12 vprašanj, od tega je bilo 6 vprašanj zaprtega tipa in 6 vprašanj pol odprtega tipa, od tega so tri vprašanja demografska, 1 vprašanje pa je bilo pogojno. Povprečni čas, ki so ga respondenti porabili za reševanje ankete, sta 2 minuti. Raziskava pa ima tudi določene omejitve, na katere je treba opozoriti. Ker smo uporabili spletno anketo in je ta bila izbirna, vzorec populacije ni ne naključen in ne dovolj velik, zato so rezultati ankete nereprezentativni. To pomeni, da pridobljenih podatkov ne moremo posploševati na celotno populacijo, temveč bomo svoje ugotovitve omejili na skupino anketirancev, ki so sodelovali v spletni anketi.

38 7.2 Demografski podatki Na vprašanje o spolu je odgovorilo 70 anketirancev, od tega 51 (73 %) žensk in 19 (27 %) moških. Sicer ima Slovenija dokaj enakomerno porazdeljeno razmerje med moškim in ženskim spolom, saj znaša po poročanju Statističnega urada RS iz aprila letos delež žensk 50,4 %, delež moških 49,6 % prebivalstva. Naš vzorec torej ni enakomerno porazdeljen. Graf 7.1: Spol anketirancev Največ respondentov ankete spada v starostno skupino od 21 do 40 let (68 %), sledita jim starostna skupina do 20 let (26 %) in skupina od 41 do 60 let (4 %), najmanj pa jih spada v starostno skupino 61 let in več (1 %). Takšno starostno strukturo lahko pripišemo dejstvu, da smo uporabili spletno anketo.

39 Graf 7.2: Starostna struktura anketirancev Tudi na vprašanje o najvišji doseženi izobrazbi je odgovorilo 70 oseb, od tega jih je kar 91 % zaključilo srednješolsko izobraževanje ali več, 9 % pa manj od srednje šole. Graf 7.3: Dokončana izobrazba anketirancev 7.3 Analiza in rezultati raziskave V analizi raziskave se bomo ukvarjali z vsemi anketnimi vprašanji, razdelili pa jih bomo v tri sklope. Vsak posamezni sklop pa se navezuje tudi na posamezno hipotezo, ki smo si jo zastavili na začetku diplomskega dela. V prvem sklopu bomo ugotavljali zaznavanje sovražnega govora na spletu med anketiranci. Skozi vprašanja Q1 (Ste kdaj zaznali uporabo sovražnega govora na spletu?) in Q3 (Kako pogosto se po vašem mnenju sovražni govor pojavlja na spletu) bomo ugotovili, ali so anketiranci že kdaj zaznali uporabo sovražnega govora in kako pogosto se po njihovem mnenju pojavlja. Z vprašanjem Q2 (Označite, na katerih spletnih mestih ste že zaznali sovražni govor.), pa bomo ugotavljali, na katerih spletnih mestih ga anketiranci najpogosteje

40 zaznavajo. V drugem sklopu bomo skozi vprašanja Q4 (Katera družbena omrežja uporabljate?), Q5 (Ste na družbenih omrežjih, ki jih uporabljate, že zaznali sovražni govor?) in Q6/Q7 (Kako bi/ste se odzvali na sovražni govor, ki bi ga zaznali na družbenem omrežju?), ugotavljali pojavljanje sovražnega govora na družbenem omrežju in odzivanje nanj. V zadnjem, tretjem sklopu bomo obravnavali vprašanji Q8 (Ste mnenja, da nam pravica do svobode izražanja dovoljuje vse vrste komunikacije na družbenih omrežjih, tudi uporabo sovražnega govora?) in Q9 (Mislite, da bi pogostejše kaznovanje sovražnega govora na družbenih omrežjih ogrozilo in preveč posegalo v pravico do svobode govora?). S tem bomo ugotavljali, kakšen odnos imajo anketiranci do omejitev pravice do svobode govora Zaznavanje sovražnega govora na spletu V kolikšni meri anketiranci zaznavajo pojavljanje sovražnega govora na spletu, smo ugotavljali s Q1 (Ste že kdaj zaznali sovražni govor na spletu?). Na vprašanje je odgovorilo 75 anketirancev, in zanimivo je, da jih je 96 % odgovorilo z da in samo 4 % z ne, kar kaže na visoko pojavnost sovražnega govora na spletu. Graf 7.4: Q1 (Ste kdaj zaznali uporabo sovražnega govora na spletu?) Tudi na vprašanje Q3 o pogostosti pojavljanja je 63 % vprašanih odgovorilo, da so mnenja, da se sovražni govor pogosto pojavlja na spletu, 31 % pa, da se pojavlja zelo pogosto. Samo 1 % anketiranih je bilo mnenja, da se sovražni govor na spletu ne pojavlja nikoli, 4 % pa, da se ta pojavlja redko.

41 Graf 7.5: Q3 (Kako pogosto se po vašem mnenju sovražni govor pojavlja na spletu?) Z vprašanjem Q2 smo želeli ugotoviti, na katerih spletnih mestih anketiranci zaznavajo največ sovražnega govora. Na vprašanje jih je odgovorilo 70, od tega jih največ (90 %) zaznalo sovražni govor na družbenih omrežjih, sledijo komentarji pod medijskimi vsebinami spletnih medijev (74 %), nato pa spletni forumi (66 %), videovsebine (40 %), spletni blog in računalniške igre (35 %). Graf 7.6: Q2 (Označite, na katerih spletnih mestih ste že kdaj zaznali sovražni govor.) Hipoteza 1 (Uporabniki zaznavajo pogosto pojavljanje sovražnega govora na spletu) je glede na zgornje rezultate potrjena Sovražni govor na družbenih omrežjih Pojavljanje in odzivanje na sovražni govor na družbenih omrežjih smo ugotavljali z vprašanji Q4 (Katera družbena omrežja uporabljate?), Q5 (Ste na družbenih omrežjih, ki jih

42 uporabljate, že zaznali sovražni govor?) in Q6/Q7 (Kako bi/ste se odzvali na sovražni govor, ki bi ga zaznali na družbenem omrežju?). Ugotovili smo, da vsi anketiranci uporabljajo družbeno omrežje Facebook, na drugem mestu je Twitter (20 %), sledita mu še Linkedln (19 %) in MySpace (1 %). Pri ostalih navedenih družbenih omrežjih pa smo zaznali ničelno uporabo. Graf 7.7: Q4 (Katera družbena omrežja uporabljate?) Na vprašanje Q5, s katerim smo ugotavljali, ali so uporabniki na družbenih omrežjih, na katerih sodelujejo, že zaznali sovražni govor, jih je 88 % odgovorilo z da in 12 % z ne. Graf 7.8: Q5 (Ste na družbenih omrežjih, ki jih uporabljate, že zaznali sovražni govor?)

43 S Q6/7 smo ugotavljali, ali se anketiranci odzivajo na sovražni govor in na kak način. Rezultati kažejo, da jih je 92 % sovražni govor ignoriralo in se nanj niso odzvali, 25 % je uporabilo obstoječa orodja za prijavo na družbenem omrežju, le eden izmed anketiranih pa je osebno opozoril avtorja na neupravičeno rabo sovražnega govora. Izmed devetih oseb, ki še niso zaznale sovražnega govora na družbenem omrežju, bi jih osem sovražni govor ignoriralo, ena pa bi uporabila orodje za prijavo na družbenem omrežju. Rezultati kažejo na potrditev hipoteze H2 (Uporabniki se na sovražni govor redko odzivajo z uradnimi regulativnimi ukrepi.), saj sta le dve osebi (3 %) že vložili uradno prijavo na Spletno Oko, ki zbira in ureja uradne prijave sovražnega govora na spletu. Graf 7.9: Q7 (Kako ste se odzvali na sovražni govor, ki ste ga zaznali na družbenem omrežju?) Pravica do svobode govora na družbenih omrežjih Z vprašanjema Q8 (Ste mnenja, da nam pravica do svobode izražanja dovoljuje vse vrste komunikacije na družbenih omrežjih, tudi uporabo sovražnega govora?) in Q9 (Mislite, da bi pogostejše kaznovanje sovražnega govora na družbenih omrežjih ogrozilo in preveč posegalo v pravico do svobode govora?), smo ugotavljali odnos anketirancev do omejitev pravice svobode govora na družbenih omrežjih. Rezultati so pokazali, da je 78 % anketirancev mnenja, da bi pravica do svobode govora v nekaterih primerih morala biti omejena in da nam ne dovoljuje vseh vrst komunikacije na družbenih omrežjih, kot je na primer sovražni govor. 22 % pa jih je mnenja, da nam pravica do svobode izražanja dovoljuje prav vse vrste komunikacije.

44 Graf 7.10: Q8 (Ste mnenja, da nam pravica do svobode izražanja dovoljuje vse vrste komunikacije na družbenih omrežjih, tudi uporabo sovražnega govora?) Na vprašanje Q9 je 58 % anketiranih odgovorilo, da pogostejše kaznovanje sovražnega govora na družbenih omrežjih ne bi preveč ogrožalo in posegalo v pravico do svobode govora. S temi rezultati hipoteze H3 (Uporabniki menijo, da poseganje v komunikacijo na družbenih omrežjih ogroža pravico do svobode govora.) ne moremo sprejeti ne zavrniti, kar kaže na to, da so mnenja glede upravičenosti posegov v svobodo govora deljena. Graf 7.11: Q9 (Mislite, da bi pogostejše kaznovanje sovražnega govora na družbenih omrežjih ogrozilo in preveč posegalo v pravico do svobode govora?) 7.4 Ključne ugotovitve Zaključimo lahko, da anketiranci na spletu zaznavajo veliko sovražnega govora, zaznalo ga je namreč že 95 % vprašanih. Največ ga je prav na družbenih omrežjih (90 %), veliko pa ga zaznavajo tudi v komentarjih na spletnih medijskih vsebinah in spletnih forumih. Definiranje sovražnega govora med anketiranimi je sicer lahko subjektivno, odvisno od percepcije, in v njihovo dojemanje sovražnega govora lahko spadajo tudi oblike komunikacije, ki so mogoče

45 le neprimerne in žaljive, a to ni problematično, ker se tudi mi v svojem diplomskem delu ne navezujemo na eno izmed definicij, temveč sovražni govor dojemamo v bolj splošni obliki. Glede na te podatke smo tudi sprejeli hipotezo H1 (Uporabniki zaznavajo pogosto pojavnost sovražnega govora na spletu.) Ugotovili smo tudi, da je med anketiranimi najbolj priljubljeno družbeno omrežje Facebook (100 %), sledijo mu Twitter (20 %), Linkedeln (19 %) in MySpace (1 %). Na teh omrežjih pa je kar 88 % anketiranih že zaznalo sovražni govor, kar podpira domnevo iz prvega sklopa, da je sovražni govor na spletu zelo razširjen. Kljub temu da ga uporabniki pogosto zaznavajo, pa se nanj redko odzivajo in ga v večini ignorirajo. Kar 92 % tistih, ki so ga že zaznali, in 90 % tistih, ki ga še niso zaznali, bi sovražni govor ignoriralo. Še največ (25 %) se jih je odzvalo tako, da so uporabili orodja za prijavo na družbenih omrežjih. Uradno prijavo na Spletno oko, ki zbira prijave in jih posreduje pristojnim organom, je že oddalo 3 % anketirancev, kar je zelo malo glede na veliko zaznavnost, ki smo jo ugotovili v prvem sklopu. S tem smo potrdili tudi hipotezo H2 (Uporabniki se na sovražni govor redko odzivajo z uradnimi regulativnimi ukrepi.) Ugotovili smo tudi, da večina (78 %) anketirancev meni, da pravica do svobode govora na družbenih omrežjih ni absolutna in bi v nekaterih primerih morala biti omejena. 58 % anketiranih je tudi mnenja, da pogostejše kaznovanje sovražnega govora na družbenih omrežjih ne bi preveč posegalo v pravico do svobode govora. Glede na rezultate lahko povzamemo, da večina anketirancev meni, da omejitve pravice do svobode govora in pogostejše kaznovanje sovražnega govora ne bi preveč posegalo v komunikacijo, kljub temu pa sami v večini ne ukrepajo proti njemu in ga ignorirajo. S temi rezultati raziskave smo tudi zavrnili hipotezo H3 (Uporabniki menijo, da poseganje v komunikacijo na družbenih omrežjih ogroža pravico do svobode govora.)

46 8 SKLEP V diplomskem delu smo se posvetili sovražnemu govoru, ki se med drugim pojavlja tudi na spletu in na družbenih omrežjih. Podali smo različne definicije in obravnave sovražnega govora. Ne glede na različne obravnave in oblike pa ima skrajno negativne posledice. Položaj ljudi v družbi je namreč povezan s tem, kako so ti prikazani oz. dojeti v javnosti. Med drugim sovražni govor vodi do socialne izključenosti, spodbuja predsodke, ustvarja strah, zaskrbljenost in ljudem odvzema dostojanstvo [21]. Pregledali smo tudi zakonske obravnave in podlage za kaznovanje sovražnega govora v ZDA, Evropi in Sloveniji. Pri vsakem poskusu omejevanja oziroma kaznovanja sovražnega govora v demokratičnih ureditvah namreč trčimo ob temeljno pravico do svobode govora in izražanja. V ZDA ima pravica do svobode govora izjemno vlogo, saj jo dojemajo kot absolutno in je v praksi sovražni govor redko predmet regulacije. Tudi v Evropi je pravica do svobode govora visoko cenjena, a v nasprotju z ZDA vsebuje tudi člene, ki svobodo govora omejujejo, te omejitve pa so podprte z razsodbami Evropske komisije za človekove pravice in Evropskega sodišča za človekove pravice. Tudi v Sloveniji pravica do svobode govora ni neomejena, sovražni govor pa je posredno in neposredno reguliran v slovenski ustavi in kazenski zakonodaji. Kljub temu pa v slovenski sodni praksi ni znan primer, ko bi bil kdo pravnomočno obsojen zaradi sovražnega govora [14]. Splet nam nudi vrsto različnih komunikacijskih možnosti in s tem zagotavlja tudi edinstvena sredstva za širjenje sovražnega govora. Pojavlja se v različnih oblikah, kot so sovražne spletne strani, spletni forumi in blogi, računalniške igre, videovsebine, glasba, komentarji v medijskih vsebinah in ne nazadnje na družbenih omrežjih [7]. Družbena omrežja nam namreč omogočajo prosto, interaktivno komunikacijo, to pa odpira vrata tudi k širjenju sovražnega jezika. Strani, kot sta Facebook in Twitter, so odprte in javne, kjer uporabniki lahko svobodno izražajo svoja osebna prepričanja, ki pa so lahko sovražna in žaljiva do določenih ranljivih skupin. Zadnji hujši primeri, ki smo jih spremljali v Sloveniji, so se na družbenih omrežjih pojavili leta 2015, v času begunske krize. V tem času je namreč prišlo do porasta sovražnega govora zoper begunce, na družbenih omrežjih pa so se oblikovale tudi skupine (npr. Slovenija zavaruj meje), v katerih so se širile skrajne oblike sovražnega govora. V empiričnem delu smo s pomočjo ankete ugotavljali zaznavanje sovražnega govora, odzivanje nanj, preverili pa smo tudi mnenja o tem, ali bi šlo v primeru kriminalizacije sovražnega govora za dopustno ali nedopustno omejevanje svobode govora. Treba je

47 ponovno poudariti, da zaradi nereprezentativnega vzorca rezultatov ne moremo posploševati na celotno populacijo. Ugotovili smo, da anketiranci zelo pogosto zaznavajo sovražni govor na spletu in družbenih omrežjih. Namreč kar 96 % vprašanih ga je že zaznalo na spletu in od tega 90 % tudi na družbenih omrežjih. Da ga zaznavajo zelo pogosto, je odgovorilo 63 %, 31 % pa, da pogosto. Rezultati so pokazali, da je sovražni govor močno prisoten v vsakodnevni spletni komunikaciji. A kljub temu se po podatkih, ki smo jih zbrali, anketiranci zelo redko odzivajo nanj. Kar 92 % vprašanih je namreč sovražni govor ignoriralo, 25 % jih je uporabilo orodje za prijavo na družbenem omrežju, le eden izmed njih pa je osebno opozoril avtorja. Tudi uradne prijave so zelo redke, saj je uradno prijavo na spletno oko podalo samo 3 % anketiranih. Ti rezultati kažejo na zelo nizko odzivnost, kar pa ni obetaven podatek, saj bi se kot soustvarjalci vsebin morali odzivati, v nasprotnem primeru namreč nastane vtis, da dajemo sovražnemu govoru domovinsko pravico. Ker je pravica do svobode govora temeljna pravica v naši družbi in so tudi družbena omrežja zgrajena na tem principu, zbuja njeno omejevanje v svetu upravičeno nelagodje. V naši raziskavi smo anketirance povprašali, ali nam pravica do svobode govora dovoljuje vse vrste komunikacije na družbenih omrežjih, tudi sovražni govor. Rezultati so pokazali, da kar 78 % anketiranih meni, da bi pravica do svobode govora v nekaterih primerih morala biti omejena. 58 % pa jih je menilo, da pogostejše kaznovanje sovražnega govora na družbenih omrežjih ne bi preveč posegalo v svobodo govora, kar kaže na to, da so anketiranci nekoliko neodločeni glede omejitev pravice do svobode govora. Sklenemo lahko, da sovražni govor težko konkretno definiramo in razložimo, še težje pa ga je omejiti in seveda kaznovati. Kljub temu pa glede na rezultate, ki smo jih pridobili, vemo, da je to pojav, ki ga zaradi njegove obširnosti ne gre zanemariti. Pravica do svobode govora bi se sicer morala ohranjati še naprej, ne bi pa se smela izkoriščati za opravičevanje dejanj, ki ponižujejo, ogrožajo in dehumanizirajo posamezne ciljne skupine, motivirajo pa jih izključno predsodki in stereotipna prepričanja. Uporabniki bi se morali pogumneje odzivati na sovraštvo, ki se širi po družbenih omrežjih, in s tem dati jasno vedeti, da sovraštvo tja ne sodi.

48 9 VIRI 1. Amnesty International Slovenije. Diskriminacija. Dostopno na: [ ]. 2. Beyond: When Public Figures Normalize Hate Dostopno na: [ ]. 3. Boyd, D. M., Ellison, N. B. Social Network Sites: Definition, History, and Scholarship. Journal of Computer-Mediated Communication, 13, (2008), Dostopno na: [ ]. 4. Center za varnejši internet. Spletno oko. Kako delujemo? Dostopno na: [ ]. 5. Cohen-Almagor, R. Speech, Media, and Ethics. The Limits of Free Expression. New York: Palgrave, Cortese, A., Opposing Hate Speech. Westport. Greenwood Publishing Group Inc, Dostopno na: +and+hate+speech&source=bl&ots=6_otzakvyh&sig=f1hl16xcrlcpw5gz33pobzk SD10&hl=sl&sa=X&ved=0ahUKEwiHvfS23pXNAhVCVxQKHcyBBX8Q6AEINzAE#v=o nepage&q=stereotypes%20and%20hate%20speech&f=false [ ]. 7. Council of Europe. Young People Combating Hate Speech On-Line: Mapping study on projets against hate speeh online. Strassbourg, Dostopno na: ects_against_hate_speech.pdf [ ]. 8. European Commision. European Commission and IT Companies announce Code of Conduct on illegal online hate speech (sporočilo za javnost) Dostopno na: [ ]. 9. Facebook središče za pomoč. How to Report Things. Dostopno na: [ ]. 10. Facebook. Controversial, Harmful and Hateful Speech on Facebook Dostopno na: [ ]. 11. Hate speech. Dictionary.com Unabridged. Random House, Inc. Dostopno na: [ ].

49 12. Hrovat, T. Kako se odzvati na sovražni govor na spletu?. Dan za spremembe, Dostopno na: ovor_na_spletu_dan_za_spremembe.pdf [ ]. 13. Kazenski zakonik Republike Slovenije Dostopno na: [ ]. 14. Leskošek, V. (ur.). Mi in oni: Nestrpnost na slovenskem. Ljubljana: Mirovni inštitut, Motl, A. Sovražni govor v slovenskih medijih na spletu. Diplomsko delo. Univerza v Ljubljani: Fakulteta za družbene vede, Nemejebat.com Dostopno na: [ ]. 17. OpentStax College. Introduction to Sociology. OpenStax College Dostopno na: [ ]. 18. Oštir, D. POJASNILO: Zakaj je komentiranje pri člankih o beguncih onemogočeno. 24ur.com. Ljubljana, Dostopno na: [ ]. 19. Perrera, C. Social Media and Hate Speech: Exploring Boundaries to Freedom of Expression. Academia: Dostopno na: undaries_to_freedom_of_expression [ ]. 20. Spletno Oko. Letno poročilo Spletno Oko Dostopno na: [ ]. 21. Sunniva, Ø., The Equality and Anti-Discrimination Ombud s Report: Hate Speech and Hate Crime. Oslo, Dostopno na: [ ]. 22. Svet za odziv na sovražni govor. 3. javni odziv Sveta za odziv na sovražni govor Dostopno na: [ ]. 23. Timofeeva, Y. A. Hate Speech Online: Restricted or Protected? Comparison of Regulations in the United States and German. Journal of Transnational Law & Policy 12 (2), Dostopno prek: 01.law.fsu.edu/journals/transnational/vol12_2/timofeeva.pdf [ ]. 24. Titley, G., Keen, E., László, F. Starting Points For Combating Hate Speech Online Three Studies about Online Hate Speech and Ways to Address it Dostopno na:

50 for_combating_hate_speech_online.pdf [ ]. 25. Twitter Help Center. Reporting abusive behavior. Dostopno na: [ ]. 26. Ustava Republike Slovenije Dostopno na: [ ]. 27. Varuh človekovih pravic. Na Svet za odziv na sovražni govor v letu dni okoli 50 prijav (sporočilo za javnost) Dostopno na: [ ]. 28. Varuh človekovih pravic. Varuh o pojavih nestrpnega govora o beguncih (sporočilo za javnost) Dostopno na: [ ]. 29. Vehovar, V., Motl, A., Mihelič, L., Berčič, B., Petrovčič, A. Zaznava sovražnega govora na slovenskem spletu. Safe.si, Dostopno na: zaznava_sovraznega_govora_na_slov enskem_spletu.pdf [ ]. 30. Waldron, J. The Harm in Hate Speech. Cambridge, Mass. & London: Harvard University Press, Waters, J. K. The Everything Guide to Social Media. Avon: Adams Media, a divison of F+W Media Inc., 2010.

51

52

53