Hatescan: AI för att känna igen toxiskt språk
Teknikerna kan användas för moderering av kommentarsfält men det kan också användas för att uppmärksamma skribenter på att kommentarer kan uppfattas som toxiska.
IVAs 100-lista 2023
Även om internet och digitala kommunikations erbjuder fantastiska möjligheter för alla att kommunicera när som helst och var som helst så finns det också baksidor. Ett exempel är när kommunikationen blir infekterad av toxiskt eller kränkande språk.
Eftersom det är omöjligt att manuellt övervaka allt som sägs på nätet behövs det tekniker som kan identifiera toxiskt språk automatiskt. Det finns idag ett flertal tekniker för att känna igen toxiskt språk på engelska men det saknas idag på många andra språk.
Inom ramen för ett flertal forskningsprojekt har vi utvecklat Hatescan - en AI modell som kan känna igen toxiskt språk på svenska. Hatescan har använts i ett flertal studier och används idag för att känna igen toxiskt språk i chattar.
Användningsområdena är många, exempelvis kan teknikerna användas för moderering av kommentarsfält men det kan också användas för att uppmärksamma skribenter på att kommentarer kan uppfattas som toxiska.
