Publikace detail

Beyond trolling: Fine-grained detection of antisocial behavior in social media during the pandemic

Autoři: Asante Andrew | Hájek Petr

Rok: 2025

Druh publikace: článek v odborném periodiku

Název zdroje: Information

Název nakladatele: International Information Institute

Místo vydání: Tokyo

Strana od-do: '173'

Tituly:

Jazyk	Název	Abstrakt	Klíčová slova
cze	Více než jen trolling: detailní detekce antisociálního chování na sociálních médiích během pandemie	Antisociální chování (ASB), včetně trollingu a agrese, narušuje konstruktivní diskurz a má tendenci eskalovat v obdobích společenského napětí, jako byla pandemie COVID-19. Cílem této studie bylo analyzovat antisociální chování na sociálních médiích během pandemie COVID-19 s využitím nově anotovaného datového souboru a moderních transformerových modelů pro detekci a klasifikaci kategorií ASB. Konkrétně se studie zaměřila na ASB v referenčním (gold-standard) korpusu tweetů shromážděných v Ghaně během 21denního lockdownu. Každý tweet byl pečlivě anotován do kategorií ASB nebo jako ne-ASB, což umožnilo komplexní analýzu online chování. Použili jsme tři špičkové transformerové jazykové modely (BERT, RoBERTa a ELECTRA) a porovnali jejich výkonnost s tradičními modely strojového učení. Výsledky ukazují, že přístupy založené na transformerech výrazně překonaly základní modely a dosáhly vysoké přesnosti detekce jak v binárních, tak ve vícetřídních klasifikačních úlohách. Model RoBERTa vynikal v binární detekci ASB, kde dosáhl přesnosti 95,59 % a F1-skóre 94,99 %, zatímco BERT dosáhl nejlepších výsledků ve vícetřídní klasifikaci s přesností 94,38 % a F1-skóre 93,92 %. Trolling se ukázal jako nejrozšířenější forma antisociálního chování, což odráží polarizující povahu online interakcí během lockdownu. Studie zdůrazňuje potenciál transformerových modelů při detekci různorodých forem online chování a poukazuje na společenské dopady antisociálního chování v krizových situacích. Zjištění poskytují základ pro zlepšení nástrojů moderace obsahu a podporu zdravějších online prostředí.	antisociální chování; detekce; velký jazykový model; transformátorový model; COVID-19; více tříd; trolling; agresivita; nepřátelství
eng	Beyond trolling: Fine-grained detection of antisocial behavior in social media during the pandemic	Antisocial behavior (ASB), including trolling and aggression, undermines constructive discourse and escalates during periods of societal stress, such as the COVID-19 pandemic. This study aimed to examine ASB on social media during the COVID-19 pandemic by leveraging a novel annotated dataset and state-of-the-art transformer models for detection and classification of ASB categories. Specifically, this study examined ASB within a gold-standard corpus of tweets collected from Ghana during a 21-day lockdown. Each tweet was meticulously annotated into ASB categories or non-ASB, enabling a comprehensive analysis of online behaviors. We employed three state-of-the-art transformer-based language models (BERT, RoBERTa, and ELECTRA) and compared their performance against traditional machine learning models. The results demonstrate that the transformer-based approaches substantially outperformed the baseline models, achieving a high detection accuracy across both binary and multiclass classification tasks. RoBERTa excelled in binary ASB detection, attaining a 95.59% accuracy and an F1-score of 94.99%, while BERT led in multiclass classification, with a 94.38% accuracy and an F1-score of 93.92%. Trolling emerged as the most prevalent ASB type, reflecting the polarizing nature of online interactions during the lockdown. This study highlights the potential of transformer-based models in detecting diverse online behaviors and emphasizes the societal implications of ASB during crises. The findings provide a foundation for enhancing moderation tools and fostering healthier online environments.	antisocial behavior; detection; large language model; transformer model; COVID-19; multiclass; trolling; aggression; hostility

Vyhledávání

Přihlášení pro studenty

Přihlášení pro zaměstnance

Publikace detail

Ústavy

Pracoviště

Jak nás najdete?

Služby

Často hledáte