Famiglie e studenti

Come identificare gli atti di cyberbullismo in rete

di Marco Consoli

Individuare un atto di cyberbullismo non è semplice: le comunicazioni tra carnefici e vittime di solito avvengono su canali chiusi o criptati come Whatsapp, Telegram o Facebook Messenger. Per questo EIT Digital, organizzazione che promuove l'innovazione digitale in Europa, ha avviato il progetto Creep, che anziché andare a scovare il singolo episodio, mira a rilevare geograficamente il fenomeno. “Lo scopo è aiutare gli educatori nelle scuole ad avere maggiore consapevolezza di quanto accade nel luogo in cui si trovano, individuando fenomeni che altrimenti rimarrebbero sommersi, almeno finché non sfociano in eclatanti casi di cronaca”, spiega Enrico Maria Piras, sociologo a capo del progetto per conto di Fondazione Bruno Kessler, uno dei partner al lavoro insieme all'italiana Expert System, il centro di ricerca francese INRIA, la startup tedesca NeuroNation e l'Università di Trento. La legge contro il cyberbullismo approvata la scorsa estate prevede infatti che nelle scuole siano individuati docenti referenti per le iniziative di prevenzione del fenomeno. Persone dunque che potrebbero trovare un aiuto proprio da questa iniziativa.

Creep è una soluzione composta da due strumenti: il primo è un software che esegue sul web analisi di profili Instagram, cercando nel testo mediante l'intelligenza artificiale, parole chiave che evidenzino casi di bullismo, e che in secondo luogo fa analisi dei profili per capire chi sono le persone più esposte, per aspetti come l'omofobia, l'aspetto fisico, l'appartenenza religiosa o etnica e altri ancora. “Ci siamo concentrati su Instagram”, spiega Piras “perché è risultato il social su cui si registra la più alta percentuale di casi di bullismo nella fascia di età tra i 13 e 16 anni. Ma nel frattempo stiamo lavorando per integrare altri social emergenti molto usati dai ragazzi, come ThisCrush e Musical.ly”. Il secondo strumento è un chatbot, che può essere integrato in programmi di messaggistica istantanea, in app create ad hoc o in servizi disponibili sul web, in grado di supportare in una prima fase il lavoro svolto altrimenti da operatori umani: facendo una serie di domande ai ragazzi è in grado non solo di profilare dal punto di vista psicologico le potenziali vittime, ma anche di capire quali azioni di cyberbullismo sono state compiute ai loro danni. “Lo scopo”, spiega Piras “è quello di fornire un sistema di prima assistenza a chi subisce o assiste a episodi di cyberbullismo, con una serie di indicazioni su cosa fare o non fare, e a chi rivolgersi per chiedere aiuto”.

La sperimentazione è già partita in alcune scuole medie trentine, con lo scopo di affinare le tecnologie, permettendo ad esempio al software di scremare tra veri episodi di violenza e comportamenti che rientrano nella categoria dello scherzo. “La ricerca è solo all'inizio”, spiega Piras “tanto è vero che stiamo studiando per il futuro l'ipotesi di usare la stilometria, per permettere al programma di evidenziare i tratti ricorrenti con cui si esprimono le persone”. L'utilizzo dell'intelligenza artificiale per arginare l'antica piaga del bullismo, che grazie a web e smartphone è diventata pervasiva, è la strada più battuta anche dalle corporation che in alcuni casi con i loro social forniscono il veicolo per gli atti violenti: Google ha lanciato Perspective, un API a disposizione degli sviluppatori per bloccare commenti “tossici”, mentre Facebook per ora ha lanciato una piattaforma di prevenzione online, ma ha integrato sulla sua controllata Instagram il software di machine learning DeepText, che analizza e rimuove su richiesta dell'utente i commenti offensivi. A credere che questa sia la strada giusta è anche IBM, che ha integrato il suo software Watson su Identity Guard, programma fornito ai genitori per monitorare i social media dei figli e avvertirli in caso di episodi sospetti.

L'idea non è molto distante da Keepers, programma per smartphone in arrivo da Israele che permette agli adulti di individuare conversazioni malsane svolte dai propri figli sui social. Il fenomeno è in tale ascesa nel mondo e in Italia (dove nel 2017 ci sono state 354 denunce alla Polizia), che ormai si trovano numerose app dedicate all'argomento: da Stop!, strumento con cui i ragazzi possono condividere con i genitori schermate del proprio smartphone per capire se si è sottoposti ad atti violenti e difendersi, a Giovani ambasciatori contro il bullismo, che informa sul fenomeno, a Youpol che consente di segnalare anche in forma anonima episodi di cui si è stati vittime o testimoni, fino a ReThink, che agisce dalla parte dei bulli, riconoscendo parole offensive digitate sullo smartphone e invitando a riflettere prima di inviarle.


© RIPRODUZIONE RISERVATA