Опубліковане в листопаді 2018 року дослідження Карстен Мюллер і Карло Шварца «Розпалювання полум'я ненависті: соціальні медіа та злочини на ґрунті ненависті», виявило співвідношення між використанням Facebook і насильством щодо біженців. Науковці дослідили 3335 анти-біженських постів у Німеччині протягом двох років і проаналізували спільноти, в яких такі напади відбувалися. В кожному окремому випадку Facebook-фактор постійно залишався незмінним. Дослідники дійшли висновку, що соціальні медіа можуть виступати в якості механізму пропаганди між висловлюваннями ненависті в Інтернеті і жорстокими злочинами в реальному житті. У зв’язку із шокуючим масштабом «мови ворожнечі» он-лайн просторі та її впливом на вчинення злочинів на ґрунті ненависті,  європейські країни разом із найбільшими платформами соціальних медіа намагаються приділяти більше зусиль протидії та викорененню «мови ворожнечі» в Інтернет-просторі.

В травні 2016 року Європейська Комісія спільно із найпотужнішими інтернет-компаніями у сфері соціальних медіа - YouTube, Microsoft, Twitter та Facebook, прийняли й підписали «Кодекс поведінки щодо протидії незаконному висловленню ненависті». Розроблені положення направлені на боротьбу із використанням та розповсюдженням «мови ворожнечі» шляхом підтримки користувачів, які надсилають інформацію про такі випадки, підтримки громадянського суспільства та співпраці із національними органами влади. Завдяки зусиллям Європейської Комісії, вказані компанії погодились покращити власні стандарти з метою полегшення процедур надсилання скарг та більшої прозорості своєї діяльності у сфері боротьби із «мовою ворожнечі». Також документ передбачає збалансований підхід до розподілу відповідальності між великими ІТ-компаніями, державою та громадянським секторам. Особлива роль у адвокаційних кампаніях, поширенні ідей недискримінації, поваги та толерантності покладається саме на громадські організації. В той же час, держави ЄС повинні якнайшвидше узгодити національне законодавство у сфері боротьби із розповсюдженням «мови ворожнечі» із Рамковим рішенням Ради ЄС 2008/913/JHA від 28 листопада 2008 року щодо боротьби з певними формами та виразами расизму та ксенофобії за допомогою кримінального права.

- запровадити чіткі та ефективні процедури для розгляду скарг щодо використання «мови ворожнечі» з можливістю видалення або обмеження доступу до такого контенту;

- розробити правила (норми) спільноти, в яких чітко окреслити заборону пропагування і  підбурювання до насильства та ненависті;

- створити спеціальні групи (команди) модераторів, які будуть переглядати скарги користувачів щодо використання «мови ворожнечі» відповідно до правил спільноти, а де це необхідно - національного законодавства;

- здійснювати перегляд більшості дійсних повідомлень про використання «мови ворожнечі» протягом менш ніж 24 годин, а також при необхідності видаляти або відключати доступ до такого контенту;

- ІТ-компанії мають навчати та підвищувати обізнаність своїх користувачів щодо недозволеного типу контенту (включно з системою відповідних сповіщень);

- з метою покращення ефективності взаємодії між державними органами та ІТ-компаніями, останні повинні надавати інформацію про процедури подання скарг (зокрема щодо скарг з приводу «мови ворожнечі»). Така співпраця дала б змогу правоохоронним органам додатково ознайомитися з методами розпізнавання та повідомлення компаній про використання «мови ворожнечі»;

- налагодити та посилити співпрацю з неурядовими організаціями (надавати чітку інформацію про окремі правила спільноти, публічно поширювати інформацію про партнерські НУО та за можливості надавати їм підтримку);

- регулярно проводити навчання своїх співробітників щодо сучасних суспільних подій та обмінюватись напрацюваннями щодо подальшого вдосконалення такої діяльності. Крім того, посилити співпрацю між собою та іншими платформами та ІТ компаніями, щоб підвищити ефективність обміну досвідом;

- здійснювати підтримку освітніх програм, які стимулюють критичне мислення.

Впроваджуючи прийняті стандарти щодо протидії «мові ворожнечі», компанії використовують різні підходи. Якщо Facebook використовує реактивну модель (реакція на повідомлення чи скаргу від користувача), то підхід YouTube є проактивним – компанія намагається видалити (обмежити доступ) до контенту ще до того, як його побачать користувачі. У боротьбі із «мовою ворожнечі» Facebook робить акцент на відповідальну журналістику та модерацію і видалення контенту у відповідності із міжнародними та національними стандартами. За інформацією, представленою на регіональній конференції «Подолання мови ворожнечі у медіа - роль регуляторних органів та суддівського корпусу» у листопаді 2018 році у Загребі, компанія планує збільшити свій штат модераторів до 20 000 працівників, основна задача яких буде боротьба із «мовою ворожнечі». В той же час, YouTube використовує штучний інтелект для розпізнавання та виявлення «мови ворожнечі». Незважаючи на такі зусилля з боку обох компаній, проблема розпізнавання «мови ворожнечі» є доволі складною та вимагає залучення все більше ресурсів. Використання працівників для ідентифікації «мови ворожнечі» вимагає розширення персоналу, в той час як можливості штучного інтелекту у розпізнаванні «мови ворожнечі» наразі залишаються низькими.

Обидві компанії надають можливості користувачеві повідомити про використання у контенті «мови ворожнечі». Розділ довідкової інформації Facebook містить сервіс – повідомити про проблему, одне із вкладень якого – образливий контент, також включає «мову ворожнечі» (на жаль, не містить україномовної версії). В YouTube-довідка також є розділ «Політика щодо ворожих висловлювань», який детально інформує користувача про можливості подання скарги на контент. Будь-який користувач може повідомити YouTube або Facebook, якщо вважає, що розміщений на їх сервісах контент містить «мову ворожнечі» та суперечить правилам компаній.

Відповідно до Суспільних норм, які викладені на сайті Facebook, «мова ворожнечі – це безпосередні напади на людей на підставі того, що ми називаємо захищеними від дискримінації ознаками: раса, етнічна приналежність, національне походження, релігійна приналежність, сексуальна орієнтація, каста, стать, гендер, гендерна ідентичність і серйозне захворювання або інвалідність». Крім того, окрема увага приділяється іммігрантам. Під нападками мається на увазі «агресивні або принижувати людську гідність висловлювання, твердження про неповноцінність або заклики до ізоляції або сегрегації». YouTube також забороняє контент, який пропагує застосування насильства або ненависть до окремих людей чи груп осіб. В той же час, перелік ознак таких груп є дещо розширеним у порівнянні із Facebook й окрім вищевказаних категорій також включає наступні ознаки: належність до жертв значних актів насильства та їхніх родичів, вік та статус учасника війни (загалом – 13 категорій, у Facebook 10 категорій).

Слід відмітити, що обидві компанії виділяють випадки, коли застосування «мови ворожнечі може бути виправданим. YouTube дозволяє контент із ворожими висловлюваннями, якщо він має освітню, документальну, наукову або мистецьку мету, але не є пропагандою таких висловлювань (наприклад, документальні фільми про групу ненависті або розвиток людства й еволюцію різних теорій). Правила Facebook також дозволяють використання «мови ворожнечі» у просвітницьких або освітніх цілях. Разом з тим, компанія включає й інші випадки – мотиваційні. Більш того, Facebook дозволяє використовувати гендерно-ексклюзивні терміни з метою контролю за членством у певних групах здоров’я або підтримки – наприклад, у групах грудного вигодовування немовлят. Крім того, правила компанії дозволяють гумор та суспільну критику на тему «мови ворожнечі», надаючи певну свободу та відповідальність за свої дії користувачам. В усіх випадках такого використання «мови ворожнечі», YouTube та Facebook вимагають чіткого пояснення мети такого застосування.  

Facebook та YouTube наводять приклади «мови ворожнечі» з метою більш ефективного розуміння з боку користувача: висловлювання щодо захищеної групи осіб з метою зобразити розумову неповноцінність («недорозвинений», «кретин», «тупий», «ідіот»; заяви про те, що «всі» (люди, об'єднані захищеною або частково захищеною характеристикою) - злочинці; заяви про те, що особа з указаними вище ознаками «не повинна вчитися в школі, оскільки вона взагалі не потребує освіти»; «Усі так звані жертви цієї події, пов’язаної з насильством, є акторами. Ніхто не постраждав, це просто фальшивка» та інші приклади. В той же час, Facebook дозволяє критику імміграційної політики і аргументи на користь обмеження цієї політики.

Окремої уваги заслуговує класифікація серйозності «мови ворожнечі», яка застосовується у Facebook та має три рівні:

1 рівень: будь-які ворожі висловлювання або висловлювання на підтримку насильства в письмовому або візуальному вигляді; принижуючі людську гідність висловлювання (наприклад, віднесення чи порівняння з комахами, тваринами, які в даній культурі вважаються істотами нижчими в інтелектуальному або фізичному плані, брудом, бактеріями, хворобами і екскрементами); висміювання поняття злочинів на ґрунті ненависті, випадків або жертв таких злочинів, навіть якщо на зображенні не фігурують реальні люди; принижуючі людську гідність порівняння в письмовому та візуальному вигляді.

2 рівень: твердження про неповноцінність або зображення, що мають на увазі фізичну, розумову або моральну ущербність людини або групи; висловлювання, які виражають презирство, або їх візуальні еквіваленти; висловлювання, які виражають огиду, або їх візуальні еквіваленти, лайки на адресу людини або групи людей, об'єднаних захищеної характеристикою.

3 рівень: заклики до ізоляції або сегрегації людини або групи людей на підставі вищевказаних характеристик.

Треба зазначити, що прийняття «Кодексу поведінки щодо протидії незаконному висловленню ненависті» стало позитивним кроком на шляху подолання проблеми «мови ворожнечі». Якщо у 2016 році, вищезазначені ІТ компанії видалили приблизно 28% контенту із ознаками «мови ворожнечі», то вже у 2018 році ці показники збільшились до майже 72%. У 2018 - 2019 роках, Instagram, Google+, Snapchat, Dailymotion and jeuxvideo.com заявили про своє бажання приєднатись до ініціативи та підписати «Кодекс поведінки щодо протидії незаконному висловленню ненависті».

Незважаючи на поширення проблеми «мови ворожнечі» у світі, її правове регулювання з боку міжнародних судових органів залишається доволі проблематичним. Для України найбільш актуальною залишається практика Європейського суду з прав людини (ЄСПЛ), яка відповідно до чинного законодавства є одним із джерел права. Основними викликами, які постають у справах, пов’язаних із використанням «мови ворожнечі» є відсутність загальновизнаної концепції щодо визначення «мови ворожнечі» та збереження балансу між «мовою ворожнечі» та свободою вираження поглядів.

Європейський суд з прав людини не має уніфікованого підходу у справах, пов’язаних із «мовою ворожнечі»:

В більшості випадків, справи щодо «мови ворожнечі» розглядаються ЄСПЛ через призму ст. ст. 10 («Свобода вираження поглядів») та ст. 17 («Заборона зловживання правами») ЄКПЛ. Тобто ЄСПЛ розглядає наскільки обмеження та санкції є необхідними в демократичному суспільстві, а також чи не є використання «мови ворожнечі» зловживанням правами з боку скаржника.

Розглянемо свіжу практику ЄСПЛ, коли скарги заявників були визнані неприйнятними з огляду на положення ст. ст. 10, 17 Конвенції:

Справа Roj TV A/S v. Данії (no. 24683/14). Справа стосувалася засудження компанії-заявника за терористичні злочини - пропагування Курдської робітничої партії через телевізійні програми, що транслювалися між 2006 і 2010 роками. Суд встановив, що телевізійна компанія не може скористатися захистом, передбаченим статтею 10, оскільки вона намагалася використати це право для цілей, які суперечили цінностям Конвенції. Це включало підбурювання до насильства та підтримку терористичної діяльності, що було порушенням статті 17 (заборона зловживання правами).

Справа M’Bala M’Bala проти Франції (no. 25239/13). Справа стосувалася засудження Dieudonné M'Bala M'Bala, коміка з політичною діяльністю, за публічні образи під час вистави, спрямовані на осіб єврейського походження або віри. На думку Суду, це не виступ, на який, навіть якщо він був сатиричним або провокаційним, поширювався на захист статті 10 (свобода вираження поглядів). Насправді, за обставин справи, це була демонстрація ненависті та антисемітизму та підтримка заперечення Голокосту.

Справа Williamson проти Німеччини (no. 64496/17). Заявник, єпископ і колишній член Товариства Святого Пія X, скаржився на своє кримінальне засудження за розпалювання ненависті до заперечення Голокосту на шведському телебаченні. Суд визнав заяву неприйнятною як явно необґрунтовану.

Окремої уваги в контексті боротьби із «мовою ворожнечі» заслуговує справа Delfi AS проти Естонії (no. 64569/09).  У 2015 році Суд постановив, що  у вказаній справі не було порушення ЄСПЛ. Естонія мала право визнати інтернет-видання відповідальним за наклепи на підставі коментарів, розміщених у розділі «Коментарі» до статей зазначеного видання.

В той же час, в своїй практиці Суд дуже уважно ставиться до захисту свободи вираження поглядів й зазначає, що в деяких випадках притягнення до відповідальності за використання «мови ворожнечі» може становити порушення прав людини.

Gündüz проти Туреччини (no. 35071/97). Заявник був самопроголошеним членом ісламістської секти, засудженим за відкрите підбурювання населення до ненависті та ворожнечі на основі розрізнення, заснованого на релігії або конфесії. Суд постановив, що мало місце порушення статті 10 Конвенції (свобода вираження поглядів) і вирішив, що зауваження заявника не можна розглядати як заклик до насильства або як «мову ворожнечі» на основі релігійної нетерпимості. Сам факт захисту шаріату, не закликаючи до насильства, не можна вважати «мовою ворожнечі».

Окремої уваги в контексті збройного конфлікту в Україні заслуговує справа Stomakhin проти Росії (n no. 52273/07). Заявник, громадянин Росії Борис Стомахін був редактором, видавцем і розповсюджувачем щомісячного інформаційного бюлетеня між 2000 і 2004 роками, який стосувався головним чином війни в Чечні, яка тривала в той час. У листопаді 2006 року російський суд визнав, що він звертався до екстремістських дій і виправдовував та прославляв терористичні акти чеченців. Він також закликав до насильства проти російського народу і стверджував, що православна віра була нижчою. Його засудили на п'ять років ув'язнення і на три роки заборонили займатися журналістською діяльністю.

Суд вирішив, що доречно розглядати справу лише за статтею 10 ЄКПЛ. Заяви, зроблені паном Стомахіним, було розділено на три групи. Перша група виправдовувала тероризм, ображала російських військовослужбовців у тій мірі, в якій вони могли стати мішенями для реального нападу, і прославляла чеченських лідерів у контексті схвалення насильства. Отже, ці заяви вийшли за межі допустимої критики, і Суд визнав, що їхня оцінка російськими судами була пропорційна. Крім того, деякі критичні зауваження пана Стомахіна на адресу православних віруючих та етнічних росіян викликали ненависть і ворожнечу, а тому міркування національних судів були "релевантними і достатніми". Проте російські суди були надто суворі в інших аспектах. Зокрема, деякі заяви про війну не вийшли за межі прийнятних меж критики, які були широкими, коли мова йшла про критику дій уряду. Національні суди також розглядали інші заяви щодо російських військовослужбовців поза контекстом: пан Стомахін критикував в сильних виразах виправдання російського офіцера за задушення чеченської жінки, а не закликав до будь-яких злочинних дій або розпалювання ненависті до всіх солдатів.

ЄСПЛ підкреслив важливість обережного підходу з боку держав, коли мова йде про визначення масштабів злочинів «мови ворожнечі». Держави повинні суворо тлумачити законодавство, щоб уникнути надмірного втручання під виглядом боротьби із «мовою ворожнечі», особливо коли йдеться про критику влади чи їхньої політики. Нарешті, Суд дійшов висновку, що підстави зазначені російськими судами для покарання, призначеного пану Стомахіну, обмежені його особистістю та соціальною небезпекою, яку він представляв. Таким чином, покарання не було пропорційним до легітимних цілей, таких як захист прав інших, національна безпека або запобігання безладдям і злочинам. ЄСПЛ присудив компенсацію заявнику у розмірі 12 500 євро. У березні 2011 року пана Стомахіна було звільнено з колонії після повного відбуття призначеного покарання.