Lisa Kaati tar emot i foajén i det stora avlånga huset i Kista norr om Stockholm, där data- och systemvetenskap vid Stockholms universitet har sina lokaler. Här undervisar och forskar hon i cybersäkerhet. En del av det handlar om så kallat toxiskt språk på internet. En term som används för att beskriva kommunikation som förgiftar samtalsklimatet i sociala medier. Det kan vara hets mot folkgrupp och förtal men också andra former av kränkningar, som nedsättande tilltal, integritetskränkningar eller respektlöshet, förklarar Lisa Kaati.
– Det är sådant som gör att folk inte vill vara en del av diskussionerna. I politiska diskussioner, till exempel, kan det vara ett ganska hårt samtalsklimat, men det vi analyserar är när man gör personangrepp eller pratar om irrelevanta saker, exempelvis nedsättande kommentarer om intellektuell förmåga eller utseende, när det egentligen borde handla om vad personen gör i sitt yrkesutövande.
I en annan del av sin forskning försöker hon identifiera risk- eller varningssignaler hos personer som är benägna att begå våldshandlingar.
– Då analyserar vi inte toxiskt språk utan försöker identifiera konkreta hot eller att någon beskriver en planerad våldshandling. Vi analyserar också psykologiska faktorer hos individer. Ger den här personen uttryck för en upplevd orättvisa?
Flera varningssignaler kan tillsammans tyda på en ökad risk att en person faktiskt kommer att begå en våldshandling, säger Lisa Kaati och tillägger att det är många som har fult språk på nätet men långt ifrån alla som är beredda att begå våldsbrott.
Lisa Kaatis forskarbana tog sin början med doktorandstudier i teoretisk datavetenskap vid Uppsala universitet. Som nydisputerad sökte och fick hon en forskartjänst på Totalförsvarets forskningsinstitut, FOI. Hon pekar ut genom fönstret där hennes tidigare arbetsplats skymtar bara ett par hundra meter bort.
– Jag tyckte det lät spännande. Jag har nog alltid varit lite intresserad av att jobba statligt och att få hjälpa till att skapa en säkrare och bättre värld. Det är någon slags drivkraft hos mig.
Kort efter att hon börjat på FOI inträffade terrorattacken på Utøya i Norge. Det talades mycket om hur man skulle kunna förhindra att något liknande händer igen.
– Då började jag forska om att försöka identifiera potentiella våldsverkare genom att samla olika spår som människor lämnar efter sig på nätet. Det var ganska nytt att man letade efter sådana saker på internet på den tiden.
Det arbetet fortsatte hon med under sina 14 år på FOI. Som datavetare utvecklade hon verktyg för att stötta analytiker i deras arbete att sortera bland den enorma mängden information.
– Det går inte att sitta och läsa allt som skrivs på nätet manuellt, vi behöver gallra. Datorerna kan aldrig ersätta människor och deras analytiska förmåga, men vi kan hjälpa till att sortera fram det som människor behöver läsa och förstå.
Lisa Kaati …
… är docent och universitetslektor i cybersäkerhet vid institutionen för data- och systemvetenskap vid Stockholms universitet. Hon är inriktad på att analysera förekomsten och innehållet i våldsbejakande extremistiska budskap på internet, att utveckla teknik och metod för att göra hot- och riskbedömningar i digitala miljöer samt att upptäcka hat och hot. I hennes undervisning får studenterna bland annat analysera verklig data som ofta kan bestå av extremt hatiskt språk.
Hon beskriver arbetet som ”extremt tvärvetenskapligt”. Bland annat samarbetar hon med psykologer, statsvetare och kriminologer. Hennes egen roll är att skapa tekniker som analyserar stora mängder data för att identifiera olika typer av signaler. Och hon säger att hon är ganska ensam om sin infallsvinkel på det arbetet.
– Det finns några forskare i olika länder som gör liknande saker, fast kanske på lite andra sätt. Men det är inte så många som kommer från mitt område, datavetenskapen. Det här är ju snarare ett problem som folk från samhällsvetenskapliga ämnen jobbar med. Så på det sättet har jag nog en lite annan approach. Jag har min utgångspunkt i tekniken. Jag behöver inte använda andras tekniker för att analysera, jag kan utveckla mina egna.
På FOI drev Lisa Kaati en forskningsgrupp som till stor del arbetade med olika regeringsuppdrag. Det gällde bland annat studier av våldsbejakande extremism och hat och hot på nätet. Det arbetet gjorde att Lisa Kaati själv blev föremål för just hat- och hotfulla kommentarer i olika forum på internet. Hon visar en bild med en handfull citat hon fått riktade mot sig.
”Den blonderade och pantade feministhäxan”, ”Hon är en judevurmande vänsterextremist” och ”Varför uttalar hon sig? Hon är ju svagbegåvad” lyder några av kommentarerna.
Det personligt riktade hatet beskriver hon som det svåraste med sitt jobb.
– Under vissa perioder av mitt liv så har jag faktiskt tyckt att det har varit väldigt jobbigt när folk kommenterar mig. Att jag är en ”forskare” inom citationstecken eller att jag är inkvoterad, eller kommentarer om min mans ursprung och religion. Jag har blivit kallad för en Jihad Jane som försöker islamisera Försvarsmakten.
Hon berättar att hon periodvis varit rädd för att svara i telefon, framför allt när hon jobbade på FOI.
– Nu ses jag nog mer som en forskarmupp bland alla andra. Mina åsikter är mina egna. Men när jag jobbade på FOI, fastän jag upplevde att jag hade samma roll som jag har nu, så var det ändå andra människor som såg mig som en representant för regeringen eller Försvarsmakten. Även om det inte är så bara för att man är en forskare på FOI.
Trots att Lisa Kaati har agerat rådgivare åt politiker som behöver hantera näthat har hon inte känt sig säker på hur hon ska göra när det drabbat henne själv.
– Jag och mina kollegor har varit noga med att stötta varandra, så att ingen behöver sitta ensam och läsa allt som skrivs om en själv.
För tre år sedan bytte Lisa Kaati FOI mot Stockholms universitet. En stor omställning var att gå från en ren forskningstjänst till att nu undervisa på 70 procent av tiden.
– Det är jätteroligt. Jag har dessutom haft lyxen att få skapa egna kurser som ligger nära min forskning om hur man bedriver underrättelseanalys på nätet och analyserar stora mängder data.
Hon beskriver universitetsarbetet som friare, något hon först upplevde som jobbigt.
– På FOI upplevde jag att cheferna ville ha koll och se till att alla var på plats på kontoret. När jag kom till universitetet så var det en jättestor omställning för mig att ingen egentligen brydde sig om när eller var jag gör mitt arbete, bara det blir gjort.
Som lärare möter hon även utmaningar i form av kulturkrockar. Hon berättar att hon haft studenter från andra länder som inte vet vem Hitler var.
– Hur ska jag förklara antisemitiska stereotyper för någon som inte har en aning om andra världskriget eller Hitler?
Första gången det hände blev hon förvånad och visste inte i vilken ände hon skulle börja förklara.
– Det började med att vi tittade på antisemitiska stereotyper. Så hade vi en massa bilder som studenterna skulle resonera om. Unga i Europa i dag har så bra koll på vad man får och inte får säga och hur man ska uttrycka sig. Studenter från andra delar av världen kunde säga ”det är en farbror på bilden”, fast det var en av de mest kända antisemitiska stereotyperna som man tycker att alla borde känna till.
Lisa Kaati har fortfarande svårt att förklara sådana här saker som vi i Sverige tar för självklara, men säger att det är nyttigt för henne.
– Det gör att man förstår att världen ser så himla olika ut.
Under sommaren var Lisa Kaati på ett utbyte vid Boston University där hon inlett ett samarbete med en amerikansk forskare. I USA är hotbedömningar ett större område än i Sverige och det finns fler analytiker som arbetar med att försöka identifiera och bedöma individer som har en ökad risk för att begå våldsdåd.
– Målet med projektet som vi arbetade med är att försöka separera de som hotar från de som faktiskt utgör ett hot. Vi hämtade texter från olika internetforum med extremt hotfulla texter som analytiker i USA fick läsa och göra bedömningar av genom att svara på frågor om huruvida det är en person som bör utredas vidare eller bara någon som pratar.
Samarbetet har hittills lett till två gemensamma artiklar och ett samarbete med FBI.
– FBI:s Behavior Analysis Unit är samma enhet som ofta porträtteras i tv-serier där man jagar massmördare och seriemördare, vilket gör det lite extra spännande att samarbeta med dem. Deras analytiker är ledande inom hotbedömningar, och nu ska de tillsammans med oss analysera och bedöma texterna.
Hur går det då med drömmen att bidra till ett bättre samhälle? Har hon uppfyllt den?
– Mitt stora problem när jag jobbade på FOI var att hur mycket bra saker vi än gjorde så kunde polismyndigheterna (i Sverige och utomlands, reds anm) inte ta emot programvara som var en forskningsprototyp. De behöver köpa ett färdigt verktyg. Så för några år sedan startade jag och några av mina kollegor ett företag där vi nu försöker produktifiera många av de saker som vi har utvecklat i vår forskning med förhoppningen att någon faktiskt ska kunna använda det.
Lisa Kaati berättar att företaget i dagsläget har flest kunder i USA, framför allt skolor och polismyndigheter som använder verktyget.
– Vi fick hjälp av inkubationscentret vid Uppsala universitet där min kollega arbetar och vi har även varit med i ett acceleratorprogram. Så vi har fått stöd och hjälp hela vägen.
På IVA:s 100-lista
Lisa Kaati har utvecklat programvaran Hatescan som känner igen toxiskt språk på svenska. 2023 var Hatescan med på Kungl. Ingenjörsvetenskapsakademien, IVA:s, 100-lista över ”aktuell forskning med potential att skapa nytta”. Verktyget vidareutvecklas numera i företaget Mind Intelligence Lab som Lisa Kaati driver tillsammans med forskarkollegor vid sidan av sitt arbete vid Stockholms universitet.
I sin forskning är Lisa Kaati just nu involverad i ett projekt tillsammans med Jämställdhetsmyndigheten för att kartlägga sidor som marknadsför sexuella tjänster på internet. Bland annat analyserar de recensioner som skrivs av sexköpare och profiler för de aktörer som säljer sexuella tjänster.
– Egentligen skulle man kunna säga att min forskning handlar om internets alla mörka sidor. Allting som är dåligt med internet tycker jag är intressant att studera.
Hur står du ut med allt mörker och hat?
– Man vänjer sig med tiden. När jag började på FOI var ett av mina första projekt att analysera IS-propaganda. Då frågade sig många varför människor från hela Europa valde att ansluta sig till ett kalifat.
Hon gick med på att studera texterna, men inte bilderna där människor utsattes för våld, då skulle hon inte ha kunnat sova efteråt, säger hon. Efter ett tag kändes bilderna inte lika svåra att hantera, men filmerna vägrade hon fortfarande att se.
– Några år senare var inte heller filmerna något problem. Man blir helt enkelt avtrubbad med tiden.
En drivkraft i det här sammanhanget är att arbetet behöver göras.
– Jag tänker så här: Om inte vi gör det, vem ska göra det då? Det är oerhört viktigt att genomföra kartläggningar för att öka vår kunskap om olika fenomen.
