Login for students

Login for employees

Publication detail

Beyond trolling: Fine-grained detection of antisocial behavior in social media during the pandemic
Year: 2025
Type of publication: článek v odborném periodiku
Name of source: Information
Publisher name: International Information Institute
Place: Tokyo
Page from-to: '173'
Titles:
Language Name Abstract Keywords
cze Více než jen trolling: detailní detekce antisociálního chování na sociálních médiích během pandemie Antisociální chování (ASB), včetně trollingu a agrese, narušuje konstruktivní diskurz a má tendenci eskalovat v obdobích společenského napětí, jako byla pandemie COVID-19. Cílem této studie bylo analyzovat antisociální chování na sociálních médiích během pandemie COVID-19 s využitím nově anotovaného datového souboru a moderních transformerových modelů pro detekci a klasifikaci kategorií ASB. Konkrétně se studie zaměřila na ASB v referenčním (gold-standard) korpusu tweetů shromážděných v Ghaně během 21denního lockdownu. Každý tweet byl pečlivě anotován do kategorií ASB nebo jako ne-ASB, což umožnilo komplexní analýzu online chování. Použili jsme tři špičkové transformerové jazykové modely (BERT, RoBERTa a ELECTRA) a porovnali jejich výkonnost s tradičními modely strojového učení. Výsledky ukazují, že přístupy založené na transformerech výrazně překonaly základní modely a dosáhly vysoké přesnosti detekce jak v binárních, tak ve vícetřídních klasifikačních úlohách. Model RoBERTa vynikal v binární detekci ASB, kde dosáhl přesnosti 95,59 % a F1-skóre 94,99 %, zatímco BERT dosáhl nejlepších výsledků ve vícetřídní klasifikaci s přesností 94,38 % a F1-skóre 93,92 %. Trolling se ukázal jako nejrozšířenější forma antisociálního chování, což odráží polarizující povahu online interakcí během lockdownu. Studie zdůrazňuje potenciál transformerových modelů při detekci různorodých forem online chování a poukazuje na společenské dopady antisociálního chování v krizových situacích. Zjištění poskytují základ pro zlepšení nástrojů moderace obsahu a podporu zdravějších online prostředí. antisociální chování; detekce; velký jazykový model; transformátorový model; COVID-19; více tříd; trolling; agresivita; nepřátelství
eng Beyond trolling: Fine-grained detection of antisocial behavior in social media during the pandemic Antisocial behavior (ASB), including trolling and aggression, undermines constructive discourse and escalates during periods of societal stress, such as the COVID-19 pandemic. This study aimed to examine ASB on social media during the COVID-19 pandemic by leveraging a novel annotated dataset and state-of-the-art transformer models for detection and classification of ASB categories. Specifically, this study examined ASB within a gold-standard corpus of tweets collected from Ghana during a 21-day lockdown. Each tweet was meticulously annotated into ASB categories or non-ASB, enabling a comprehensive analysis of online behaviors. We employed three state-of-the-art transformer-based language models (BERT, RoBERTa, and ELECTRA) and compared their performance against traditional machine learning models. The results demonstrate that the transformer-based approaches substantially outperformed the baseline models, achieving a high detection accuracy across both binary and multiclass classification tasks. RoBERTa excelled in binary ASB detection, attaining a 95.59% accuracy and an F1-score of 94.99%, while BERT led in multiclass classification, with a 94.38% accuracy and an F1-score of 93.92%. Trolling emerged as the most prevalent ASB type, reflecting the polarizing nature of online interactions during the lockdown. This study highlights the potential of transformer-based models in detecting diverse online behaviors and emphasizes the societal implications of ASB during crises. The findings provide a foundation for enhancing moderation tools and fostering healthier online environments. antisocial behavior; detection; large language model; transformer model; COVID-19; multiclass; trolling; aggression; hostility

Map

en.mapy.cz

Services

Popular Links

© 2023 University of Pardubice, Studentská 95, 532 10 Pardubice 2
Phone: +420 466 036 111, 466 036 112, 466 036 113
Webmaster, RSS
Data box ID: f5vj9hu
Accessibility Statement
CC BY-NC-ND 4.0Creative CommonsAttributionNonCommercialNoDerivatives