В цифровата публична сфера борбата с ускорено и усилено разпространяващата се реч на омразата, подобно на тази с дезинформацията и пропагандата, поставя значителни предизвикателства. Разбирането на тези предизвикателства изисква продължително и задълбочено проучване на ключови фактори от различно естество - технологични, културни, политически, демографски и икономически, и прецизно измерване за по-дълъг период от време.

Това е сложно за осъществяване и поради трудността в извличането на необходимите данни, и поради твърде многото и комплексни повече или по-малко нестабилни взаимовръзки между много променливи. Този текст скицира част от предизвикателствата, някои от тенденциите и особеностите, като използва за отправна точка наскоро публикувано изследване на Агенцията на Европейския съюз за основните права и основни развития в правната рамка и мерките за противодействие на речта на омразата на Европейския съюз.

Изобилието от средства за комуникация между много участници от всяко място и по всяко време предоставя изключителни възможности на хората да се информират по всякакви теми, да изразяват мнение, да участват в обществения живот и в процеса на вземане на решения. Ерата на онлайн платформите, постоянната свързаност, незабавните съобщения и достъпа до множество информационни ресурси безспорно демократизира общуването и медийната екосистема. И това консенсусно се оценява като положително развитие, тъй като позволява на хората да поддържат близки контакти с приятелите и семейството си, което е особено важно в кризисни ситуации като пандемия или война.

Тези нови начини на комуникация позволяват на хората да допринасят за политическите дискусии и да изразяват по-лесно своите възгледи и дори могат да подкрепят политически движения срещу репресиите в тоталитарните държави - не на последно място и благодарение на доктрината за анонимността. Освен това цифровите следи от онлайн комуникацията, с все негативите, които това влече за неприкосновеността на личния живот, предлагат възможност да се изучи и разбере как хората общуват и се държат в различните онлайн пространства. За съжаление, както и при предишни драматични промени в начина, по който обществата функционират, всичко това има и отрицателни страни.

Едни и същи инструменти може да използват за гражданско участие - включително за насърчаването му, но и за незаконно влияние върху политическите нагласи на хората, особено красноречив пример за което беше случаят с "Кеймбридж Аналитика". Платформите могат да бъдат използвани за упражняване на основните комуникационни права на гражданите, но и за насаждане на омраза към политически опоненти и етнически малцинства.

Освен това омразата се изразява и пропагандира много по-лесно онлайн и може да допринесе за увеличаване на насилието офлайн. Изразяването на омраза онлайн може да е незаконно съгласно националните закони, но такива прояви са трудни за идентифициране и премахване. В някои държави то може да е и законно. Независимо от конкретния режим по отношение на езика на омразата и границите на свободата на изразяване, която не е абсолютна в никоя правна система, онлайн омразата има отрицателно въздействие и смразяващ ефект върху онези, срещу които е насочен.

Кризите са допълнително изпитание за обществата и техните демократични институции. Те могат да застрашават или да засилват общественото единство; да отслабват или да укрепват капацитета на правителствата и избраните органи да отговорят на опасенията на избирателите; да потиснат или да стимулират реакцията на гражданското общество към нови нужди и форми на маргинализация.

По отношение на дискриминацията, кризите могат да засилят омразата и речта на омразата, насочена към конкретни лица или групи, смятани за отговорни за кризисната ситуация, и още повече когато определена група има е посочена като заплаха или враг. Речта на омразата по време на криза може да се основава на съществуващи дискриминационни нагласи или разкази на омразата, но също така да предизвиква и да произтича от нови разкази, разпространявани в отговор на такива кризи.

Промените в начина, по който общуваме чрез онлайн услуги, създадоха значителни предизвикателства за доставчиците на услуги и създателите на политики. Самият обем на онлайн съдържанието го прави много трудно за наблюдение. Основните доставчици на услуги използват алгоритми, за да бъдат реципрочни и по-ефективни усилията им за справяне с вредното онлайн съдържание.

Алгоритмите се използват за класифициране на съдържанието и обозначаването му за потенциално изтриване или други действия. Те обаче се използват и за увеличаване на взаимодействието на потребителите със съдържание, като се използват множество различни сигнали, свързани с поведението и предпочитанията им. По този начин съдържание, което би могло да е на или отвъд границата на позволеното от самите платформи или незаконно, но привлича голямо внимание и се споделя интензивно (вирални публикации), може да се окаже усилено от алгоритмите, вместо да бъде потиснато или премахнато.

Омразата се изразява онлайн по най-различни начини, включително чрез широко разпространен кибертормоз, при който към хората се отправя не просто омраза, а директни или индиректни заплахи за различни форми на насилие.

Коментарите, които са обидни, заплашителни и оскърбителни, са основен проблем в интернет поначало и той е особено голям и тревожен, когато става дума за деца. Същевременно в контекста на езика на омразата и последиците от неконтролируемото му разпространение онлайн специално внимание трябва да се отделя на омразата, основаваща се на защитени характеристики, като тази, насочена към хора от африкански произход, роми и евреи.

Например средно 12% от ромите на възраст 16-24 години са били подложени на кибертормоз заради това, че са роми, в петте държави членки, изследвани през 2018 г. и 2019 г. за проучването на FRA за ромите и странстващите лица. Проучването обхваща Белгия, Франция, Ирландия, Нидерландия и Швеция. В Нидерландия един от всеки трима роми и синти на възраст 16-24 години съобщава, че през последните 5 години е преживял кибертормоз заради това, че е ром или странстващ.

Онлайн омразата обаче е проблем не само когато е насочена към отделни лица, но и когато се изразява по-общо - към отделна група. Според проучването на FRA от 2018 г. сред евреите в ЕС повечето евреи (80%) са се сблъсквали с антисемитски коментари онлайн поне от време на време и повечето от евреите смятат, че количеството на антисемитизма в интернет се увеличава.

Езикът на омразата, дори и в своята законна и защитена форма, може да допринесе за увеличаване на по-тежките форми на изказване и всъщност на действията срещу защитените групи. Такова съдържание, например усилването и затвърждаването на негативни стереотипи, все още вреди на целевите групи. То може също така да създаде атмосфера на омраза, която може да попречи на хората да се включат в онлайн разговори и по този начин да има смразяващ ефект върху свободата на изразяване.

Изследване на Агенцията на Европейския съюз за основните права (FRA), публикувано в края на ноември 2023 г., което обхваща съдържание, публикувано в четири социални медии на четири езика - български, немски, шведски и италиански - показва, че е лесно да се открие значително количество език на омраза, насочен към момичетата и жените и към хора от африкански произход, евреи и роми в онлайн платформите "Редит", X и "Ютюб" с избрани ключови думи, както и в "Телеграм" в избрани отворени групи.

Изследването анализира само публикации, които вече са преминали през собствените процеси на модериране на съдържанието на платформите. Поради това можеше да се очаква, че значителна част от съдържанието, което съдържа език на омраза, вече е било премахнато в съответствие с общите условия на платформите, включително забраната на речта на омразата и тормоза.

Изглежда, че тези процеси на модериране работят само до известна степен, отбелязват изследователите, което не е изненадващо и кореспондира с резултатите от много други проучвания през последната година - по същество, много публикации преминават през алгоритмична и/или човешка модерация, но още на прима виста или след по-задълбочен анализ се вижда, че са примери за език на омраза онлайн par excellance.

Анализираните "модерирани" публикации най-често включват обидни думи и изрази, често са свързани с очерняне и негативни стереотипи. По-рядко този тип публикации се оценяват като подбуждане към насилие, омраза или дискриминация, но този тип съдържание не само се публикува, но остава достъпно за потребителите на платформите, независимо от правилата и инструментите, които самите платформи са въвели и твърдят, че прилагат ефективно.

Почти половината от всички анализирани публикации, съдържащи омраза (47%), са класифицирани като тормоз, т.е. тормоз, който се възприема като насочен към едно или повече конкретни лица. Две трети (67%) от всички враждебни публикации, насочени към жени, отговарят на определението за тормоз (доколкото има еднозначно определение за всяка от тези категории).

Резултатите и изводите от това изследване с фокус върху данните за България са разгледани по-подробно в отделна публикация. В тази фокусът пада върху основните предизвикателства, правната рамка и възможните подходи.

Добре ли е човек да публикува негативни неща за хора от определена националност, стига да споделят същата националност? А какво става, ако млад човек, който споменава етническа група, използвайки расова обида, цитира текст на песен?", артикулира съществения въпрос относно оценяването на дадена реч като език на омраза според специфичния контекст Ричард Алън - вицепрезидент на "Мета" за публичната политика за региона на Европа, Близкия изток и Африка.

Остава въпросът: Изтрива ли се твърде много съдържание, като по този начин се намалява правото на хората на свобода на изразяване и правото им на информация? Или все още има твърде много незаконно и вредно съдържание онлайн, което насърчава омразата, дискриминацията и насилието, особено срещу уязвими групи?

ЕС и неговите държави членки трябва да държат компаниите отговорни в случаи на поведение, което нарушава основните права. Важно е да се отбележи, че, от една страна, правителствата могат да изискват от компаниите да премахват незаконно съдържание. Те обаче не могат да изискват от тях да премахват съдържание, което се смята за законно, въпреки че е потенциално вредно.

От друга страна, компаниите са свободни да премахват съдържание, за което са преценили, че не отговаря на техните общи условия, тоест не само незаконно, но и вредно съдържание, което е свързано както с безопасността и удовлетвореността на потребителите, така и с репутацията им от гледна точка на основния бизнес модел, използван от платформите - привличане на рекламодатели и приходи от реклами.

В показанията си пред Сената на САЩ през октомври 2020 г. Марк Зукърбърг изтъкна, че според докладите за прозрачност на компанията "Фейсбук" идентифицира проактивно около 94% от речта на омразата, която в крайна сметка е премахната. В показания пред Камарата няколко месеца по-късно Зукърбърг отговори по подобен начин на въпроси относно речта на омразата, като отново цитира доклад за прозрачност. В почти всеки тримесечен доклад за прозрачност "Фейсбук" обявява подобни проценти за ефективността на модерирането на речта на омразата.

Има два начина, по които речта на омразата може да бъде маркирана за преглед и евентуално за премахване.

Потребителите могат да докладват такъв тип съдържание ръчно или алгоритмите на платформата могат да го свалят автоматично. Алгоритмичното откриване е важно не само защото е по-ефективно, но и защото може да се извършва проактивно, още по време на публикуването на съдържанието, преди някой потребител да маркира речта на омразата и изобщо да бъде изложен на нея.

Числото 94 процента, което "Фейсбук" рекламира публично, е броят на свалените елементи с реч на омразата, които изкуственият интелект на "Фейсбук" е открил проактивно, разделен на общия брой свалени елементи с реч на омразата, х100.

Това, което има значение за обществото, е количеството реч на омразата, която не се премахва от платформата. Най-добрият начин за установяването на това количество е като се раздели общият брой установени случаи на реч на омразата (съдържание, което не е било премахнато автоматично и е станало публично достъпно) на броя на премахнатите публикации и елементи, съдържащи реч на омразата.

Въпросът за злоупотребата с инструменти за докладване, било то на език на омраза, на подвеждащо съдържание или на друг тип съдържание, което правилата за ползване на дадена платформа ограничава или забранява, заслужава отделен анализ. По същество твърде често тези инструменти биват използвани за активиране на рестриктивни мерки срещу потребители с цел заглушаването им.

На кръгла маса в София, проведена през юни 2023 г., представител на "Мета" заяви, че броят на докладванията не е фактор. Когато дадена публикация е маркирана като нарушаваща правилата на "Мета" относно речта на омразата, платформата може да направи преценка само въз основа на конкретния споделен текст или изображения - без да има необходимия контекст, което значително повишава риска от погрешна преценка (извадена от контекст).

Текущата дефиниция за реч на омразата на "Мета" е всяка реч, която "директно атакува хората въз основа на това, което е известно като техните "защитени характеристики" - раса, етническа принадлежност, национален произход, религиозна принадлежност, сексуална ориентация, пол, полова идентичност, сериозно увреждане или заболяване".

На много общо ниво речта на омразата може да се разбира като пропагандиране на омраза въз основа на определена характеристика. Тя обхваща всички публични прояви, които разпространяват, подбуждат, насърчават или оправдават омраза, дискриминация или враждебност към определена група. Разпространението ѝ допринася за нарастващия климат на нетърпимост към определени групи, което се изостря допълнително при умишлено, често популистко насаждане на страх и вменяване на вина от публични фигури, които се стремят към властта в периоди на криза.

Държавите са длъжни да защитават правата на човека - както офлайн, така и онлайн. В един от основните договори за правата на човека - Международния пакт за граждански и политически права - е залегнала защитата на свободата на словото (член 19) и се изисква забрана на всякаква пропаганда на национална, расова или религиозна омраза, която представлява подбуждане към дискриминация, враждебност или насилие (член 20, параграф 2).

Европейският съюз и неговите държави членки са длъжни да защитават основните права, както е записано в Хартата. Хартата обхваща правата, включени в Европейската конвенция за правата на човека (ЕКПЧ), към която са се присъединили всички държави - членки на ЕС, и следователно се прилага и в области извън правото на ЕС. Всяка основана на правата на човека оценка на онлайн съдържанието трябва да отчита защитата на свободата на изразяване срещу нарушаването на всяко друго право, като например правото на неприкосновеност на личния живот (членове 7 и 8 от Хартата) и правото на недискриминация (член 21 от Хартата).

Европейският съд по правата на човека посочва важната разлика между "съдържание, което обижда, шокира или смущава държавата или част от населението" и съдържание, което съдържа истинско и сериозно подстрекателство към насилие и омраза. Съдът ясно е посочил, че държавите могат да налагат санкции или да забраняват последното.

Както е посочено в информационния лист, изготвен от Европейския съд по правата на човека (ЕСПЧ), относно съдебната практика, свързана с речта на омразата:

Международните и регионалните инструменти в областта на правата на човека и съдилищата признават, че свободата на изразяване може да бъде ограничена, и подробно са описали различни тестове за оценка на това дали ограниченията са наистина приемливи при конкретни обстоятелства.

Въпреки че в националното законодателство на нито една от четирите държави членки, обхванати в изследването на FRA, не се съдържа конкретно определение за подбуждане към насилие и/или омраза, всички те криминализират подбуждането към насилие или омраза въз основа на раса, цвят на кожата, религия, произход или национален или етнически произход чрез транспониране на член 1, параграф 1, буква а) от Рамковото решение на Съвета от 2008 г. относно борбата с определени форми и прояви на расизъм и ксенофобия посредством наказателното право.

В член 1 от Рамковото решение се прави разграничение между видовете подбуждане (подбуждане към насилие или омраза) и публичното разпространение на материали, които представляват форма на подбуждане.

По подобен начин Международната конвенция за премахване на всички форми на расова дискриминация прави разграничение между разпространяване на идеи, основани на расово превъзходство или омраза, подбуждане към расова дискриминация и подбуждане към актове на насилие. Международният пакт за граждански и политически права прави разграничение между "подбуждане към дискриминация, враждебност или насилие".

Неотдавнашната препоръка на Съвета на Европа също разшири обхвата на онлайн омразата отвъд подстрекателството. В препоръката под реч на омразата се разбират "всички видове изразяване, които подбуждат, насърчават, разпространяват или оправдават насилие, омраза или дискриминация срещу лице или група лица, или които ги очернят, поради техните действителни или приписвани лични характеристики или статус, като раса, цвят на кожата, език, религия, националност, национален или етнически произход, възраст, увреждане, пол, полова идентичност и сексуална ориентация".

На 28 юни 2023 г. ЕС ратифицира Конвенцията на Съвета на Европа за превенция и борба с насилието над жени. Изискванията включват страните да насърчават сектора на ИКТ и медиите да прилагат политики, да определят насоки и да въведат стандарти за саморегулиране, които ще спомогнат за предотвратяване на насилието срещу жени. Понастоящем 37 държави са ратифицирали конвенцията, като ЕС е 38-ата страна, която я ратифицира. Въпреки присъединяването на ЕС пет държави - членки на ЕС, все още не са ратифицирали конвенцията: България, Чехия, Унгария, Литва и Словакия.

Във всички избрани държави членки, с изключение на България, се наблюдава и стремеж към правна рамка, в която платформите могат да бъдат държани отговорни за съдържанието, което хостват.

През 2016 г. Международният алианс за възпоменание на холокоста прие правно необвързваща работна дефиниция на антисемитизма, според която: Антисемитизмът е определено възприемане на евреите, което може да се изрази като омраза към евреите. Реторичните и физически прояви на антисемитизъм са насочени към евреи или неевреи и/или тяхната собственост, към институции на еврейската общност и религиозни съоръжения.

Европейската комисия, Европейският парламент, Съветът признават това определение като полезен насочващ инструмент за гражданското общество, правоприлагащите органи и образователните институции за ефективно разпознаване и борба с всички форми на антисемитизъм.

ЕС актуализира своите закони и прилага политики, насочени към борбата с незаконното съдържание онлайн, например чрез Кодекса за поведение на Европейската комисия за противодействие на незаконната реч на омразата онлайн, който е разгледан малко по-надолу. През ноември 2022 г. ЕС прие и Законодателния акт за цифровите услуги (ЗАЦУ), който адаптира и надгражда основополагащите правила за онлайн посредниците и платформите за ерата и предизвикателствата на глобалните цифрови "площади" и безпрецедентната мощ и влияние на технологичните гиганти като "Мета", "Гугъл", "Амазон" и "Епъп" наред с други.

Освен това ЗАЦУ налага изискване за много големите онлайн платформи - тези платформи или търсачки, които имат повече от 45 милиона потребители на месец в ЕС, да оценяват системните рискове, произтичащи от тяхната структура или функционирането на техните услуги (членове 34 и 35). Това включва рискове във връзка с основните права и насилието, основано на пола, проявяващо се онлайн. Те трябва също така да въведат разумни, пропорционални и ефективни мерки за намаляване на тези рискове.

Две от четирите анализирани в доклада на FRA платформи - X и "Ютюб" - се смятат за много големи онлайн платформи (МГОП) съгласно първата класификация на ЗАЦУ. Периодът на събиране на данни за изследването обаче предшества смяната на собствеността на X и последвалите драстични промени на всички нива на управление на платформата, в т.ч. брой служители и модератори, достъпност за изследователи и политика за ограничаване на определени видове съдържание.

През октомври т.г. много големите онлайн платформи и много големите онлайн търсачки публикуваха първите си доклади за прозрачност в съответствие и изпълнение на задължението, установено чл. 15, 24 и 42 от ЗАЦУ. Те предоставят данни за периода март - септември 2023 г.

Според тези доклади броят на модераторите на съдържание на български език във "Фейсбук" и "Инстаграм" на "Мета платформс" е 20 души (за всяка), в TikTok модерацията на български език е възложена на 69 души, докато в X има едва двама модератори на съдържание на български език. В същото време е важно да се вземе предвид, че броят на потребителите на X спрямо тези на "Фейсбук" в България е близо 10 пъти по-малък, което означава, че съотношението между брой потребители и брой модератори във "Фейсбук"/"Инстаграм" и X е приблизително еднакво.

Европейската комисия е разработила инструмент за доброволна борба с езика на омразата онлайн, а именно Кодекса за поведение за противодействие на незаконната реч на омразата онлайн. Кодексът за поведение е представен от Европейската комисия през 2016 г. и е подписан от редица големи онлайн платформи, като "Фейсбук", X и "Ютюб" наред с други. "Редит" и "Телеграм" - две от четирите платформи в обхвата на изследването на FRA, не се присъединиха към кодекса за поведение. Едната от тях - "Редит", отговаря на определението за много голяма онлайн платформа и попада в обхвата на специалните изисквания за тези платформи в ЗАЦУ. "Телеграм" обаче не е МГОП.

Фокусът на кодекса за поведение е незаконната реч на омразата въз основа на Рамковото решение на Съвета от 2008 г. относно борбата с определени форми и прояви на расизъм и ксенофобия посредством наказателното право, което определя общ за целия ЕС наказателноправен подход за противодействие на тежки прояви на расизъм или ксенофобия, поради което речта на омразата, основана на пола, не може да бъде сред най-значимите идентифицирани основания.

Националното законодателство, освен че прилага категориите, регулирани от правото на ЕС, може да играе важна роля при определянето на други форми на незаконна реч на омраза, които понастоящем не са обхванати от правото на ЕС. Националното законодателство на четирите държави членки, обхванати от настоящия доклад, не разглежда и не дефинира конкретно речта на омразата извън задълженията, определени в рамковото решение на Съвета.

Редица организации от цяла Европа сигнализират на платформите за предполагаеми незаконни материали, а компаниите са поели ангажимент да ги премахват своевременно. Изпълнението им се следи редовно и се изготвят доклади, в които се посочва колко незаконни материали са били премахнати. В кодекса за поведение се посочва, че по-голямата част от уведомленията се оценяват и евентуално се премахват в рамките на 24 часа.

Седмият мониторингов доклад от ноември 2022 г. показа, че средно 64,4% от материалите, за които е подаден сигнал, се оценяват в рамките на 24 часа, а 63,3% от съдържанието, за което е подаден сигнал, се изтрива от платформите им. Това представлява намаление в сравнение с предходните години, като през 2021 г. са били прегледани 81% от маркираното съдържание, а през 2020 г. - 90.4%

Съобщени основания за реч на омразата в седмия кръг на мониторинга за оценка включват:

България е представена в механизма по оценяване и отчитане (мониторинг) на платформите по кодекса от една-единствена организация - "Асоциация Интегро". Това е сдружение с нестопанска цел, създадено през 2002 г. от сливането на две местни ромски общности в обществена организация с цел подкрепа на ромските общности за подобряване на обществено икономическото им положение, социално включване и преодоляване на дискриминацията на общността.

Общо 33 организации на гражданското общество и 3 публични органа (във Франция и Испания) са докладвали за резултатите от обща извадка от 3634 уведомления от 21 държави членки (пълен списък). Организациите са уведомили ИТ компаниите само за съдържание, което отговаря на дефиницията за "незаконна реч на омразата" съгласно националните закони, транспониращи Рамковото решение на Съвета на ЕС (2008/913/ПВР) относно борбата с определени форми и прояви на расизъм и ксенофобия посредством наказателното право.

За целите на мониторинга уведомленията се подават или чрез каналите за докладване, достъпни за всички потребители, или чрез специални канали, достъпни само за т.нар. доверени сигнализатори/докладчици, каквато е "Асоциация Интегро".

Основни изводи от седмия мониторингов доклад от декември 2022 г. (осмият не е излязъл към датата на публикацията):

За разработването на ефективни отговори и смекчаване на въздействието на речта на омразата върху общества са необходими постоянно, систематично наблюдение и анализ на причините, проявите и последиците от това явление. От една страна, важно е да се разбере по-добре динамиката на речта на омразата, включително мотивите зад нейното разпространение. Това е особено важно в контекст на криза и страх. От друга, липсата на универсална дефиниция на речта на омразата затруднява изучаването на този феномен в глобален мащаб.

Допълнителни трудности включват разнообразието от национални закони, специфични местни и езикови особености и разнообразието от онлайн общности и форми на онлайн реч на омразата. Друго предизвикателство е, че жертвите може да не докладват редовно речта на омразата на съответните органи по различни причини, като се започне от липсата на осведоменост. Проучването на речта на омразата онлайн също се усложнява от непрозрачността на патентованите алгоритми, които са търговска тайна, и липсата на достъп до данни, съхранявани от частни компании.

ИТ компаниите трябва да могат да противодействат на разпространението на онлайн омраза в техните платформи, за да спазват международните закони за правата на човека, се отбелязва и в Стратегията и плана за действие на ООН относно речта на омразата. В тях са определени приоритетни области за борба с речта на омразата и няколко организации на ООН се занимават с разпознаване, наблюдение и анализ на тенденциите в речта на омразата.

Въпреки че компаниите за социални медии отчитат количеството маркирано и/или премахнато съдържание от техните платформи, тяхната ефективност от години е поставена и остава под въпрос. Прехвърлянето на идентифицирането и премахването на речта на омразата на автоматизирано откриване (вместо на човешка намеса) е скалируемо решение, но е свързано със значителен риск от грешки с преки и нежелани последици върху основните права на хората, които използват платформите, за да общуват, да се информират и да участват в обществения живот. Това подчертава необходимостта от повече прозрачност за това как се прилагат и оценяват политиките за реч на омразата.