Kategorier
Nyheter

Justitieministeriet har robot som spionerar på allt finländare skriver online – påstås besitta intelligens

Genom att använda en robot som påstås besitta artificiell intelligens övervakar Justitieministeriet allt som finländare skriver och säger på internet för att identifiera vad de kallar ”hatretorik”. Justitieministeriet meddelar att den intelligenta maskinen identifierat över 300 000 yttranden som innehåller hatretorik, varav en fjärdedel ansågs innehålla hat mot muslimer.

Ministeriet meddelar också att de märkt 10 individer som ansvariga för 11% av alla hatiska yttranden i Finland, men skriver inte vilka åtgärder de tänker vidta mot de 10 individerna. Särskilt har Justitieministeriet identifierat en Twitter-användare, som de kallar ”den ivrigaste hatretorikskribenten på sociala medier”.

Det privata finska företaget Utopia Analytics har utfört uppdraget för Justitieministeriet. Företaget anlitas också av makthavare i Storbritannien för att identifiera och eliminera olagliga nyheter och olagliga yttranden.

Någon verklig artificiell intelligens finns givetvis inte hos företaget Utopia Analytics – istället rör det sig om en algoritm som är programmerad att identifiera skrivelser som liknar texter deras anställda matat in som exempel på vad de själva anser vara hatretorik.

 

Alla texter med ordet ”ryss” räknas som hatretorik

I Justitieministeriet rapport framkommer det också att ingen hänsyn har tagits till i vilket sorts sammanhang ”hatretoriken” identifierats, samt att Utopia Analytics på förhand bestämt vilka nyckelord som skulle ingå för att en skrivelse skulle identifieras som hatretorik – bland annat frasen ”pride week”.

”I den slutliga uppsättning som identifierades som hatpropaganda av artificiell intelligens var 66 % av meddelandena ursprungligen från ordlistorna”, står det att läsa i rapporten.

Längre fram i rapporten blir det tydligt att den så kallade ”artificiella intelligensen” inte är mer än en simpel bluff som Utopia Analytics använt för att lura Justitieministeriet. I själva verket har det mest varit fråga om att kategoriskt markera varje text där vissa ord förekommer som ”hatretorik”:

”Texter som innehöll vissa särskilt nedsättande ord tolkades kategoriskt som hatretorik. Det rörde sig bland annat om nedsättande ord som hänvisar till etnisk bakgrund, till exempel nekkeri, jutku, ählämi och ord som hänvisar till kön eller sexuell läggning, till exempel huora, hintti, hinttari.”

Texter med helt vanliga etnicitets-ord som ”zigenare” och ”ryss” markerades också som hatretorik av företaget i varje text de förekom.

 

Fosterlandskärlek och religion räknas som hat av ministeriet

Justitieministeriet önskade att alla inlägg med ”för mycket” nationalism eller religiositet också skulle bestämmas vara hatretorik. Man beklagar sig också i rapporten över att de spionfirmor ministeriet anlitat för att övervaka allt finländare skriver inte har kunnat få tillgång till finländarnas meddelanden på slutna Facebook-grupper, dating-sidor, slutna forum samt deras WhatsApp-konversationer.

Websidor som Justitieministeriet särskilt intresserat sig för privata forum som Ylilauta och Hommaforum, där de skriver att 97% av all hatretorik förekom. Spionfirmorna som anlitats hade ideologer som satt på arbetstid för att läsa allt nytt som skrevs där:

”Det går långsamt att samla in meddelanden för hand och det var inte möjligt att samla in alla meddelanden under den undersökta perioden inom ramen för detta projekt. Handplockning är dock det enda sättet att följa webbplatsernas användarvillkor.”

Totalt kördes 12 miljoner finskspråkiga textinlägg genom algoritmerna.

Individerna som står bakom företaget Utopia Analytics presenterar i offentligheten Mari-Sanna Paukkeri som företagets verkställande direktör. Hon är också författare till rapporten.

– Forskarna bestämde vad som räknas som hatretorik och materialet matades till den artificiella intelligensen, säger hon till Yle.

På bilden: T-X till vänster, Paukkeri till höger