Rasism och sexism i bibliotekens discoverysystem

Matthew Reidsma (2019). Masked by Trust: Bias in Library Discovery. Library Juice Press.

Det är svårt att överskatta betydelsen av sökmotorer för vår webbupplevelse. Vi använder Google för att söka information, hitta till närmaste restaurang och söka efter söta djurbilder. Sökmotorer har samma betydelse för akademin. Forskare och studenter använder Google för att söka efter böcker, hitta artiklar och annat källmaterial. Men som Rasmus Fleischer påpekade redan 2013, så tänker vi sällan på sökmotorns förmedlande roll mellan forskaren och det som forskaren vill undersöka.1

Omslag Masked by Trust bias in library discovery

De senaste åren har forskningsvärldens beroende av sökmotorer fördjupats. Det gäller inte minst efter att de flesta universitetsbibliotek i Sverige har förändrat sina digitala kataloger och köpt in sökmotorer, som på ett enkelt och smidigt vis ger tillgång till bibliotekets alla resurser. Tidigare var man tvungen att söka efter böcker och artiklar i en rad olika databaser, men nu kan man ta del av allt genom sökmotorn. De fyra mest använda sökmotorerna, eller ”discoverysystemen”, som finns tillgängliga på marknaden för universitet och högskolor är Summon, Primo, WorldCat Discovery och EBSCO Discovery Service (EDS).

Om du, likt jag, har använt universitetsbibliotekens söktjänster ett oräkneligt antal gånger utan att fundera särskilt mycket på att det är en inköpt sökmotor du använder, så är det en del av poängen med hur de är utformade. Man känner igen sig. Under det senaste decenniet, skriver Fleischer, har den tomma sökrutan utkristalliserat sig som ett universellt gränssnitt.2 Det är en utveckling som har drivits på av nätgiganten Google. Faktum är att Summon modellerades för att efterlikna och konkurrera med Google. År 2010 sa Jane Burke, dåvarande vicepresident för ProQuest (ett företag som 2015 köpte Ex Libris, som administrerar Summon), att discoverysystemen stod för ”the ’Googlisation’ of the library’s collection”.

Att discoverysystemen använder samma enkla gränssnitt som Google, skänker dem en aura av objektivitet och neutralitet. De senaste åren har Google förvisso skärskådats på ett välbehövligt vis. Det finns få bibliotekarier som inte har hört talas om filterbubblor, sponsrade länkar och algoritmisk bias. Vi som bibliotekarier hänvisar därför gärna våra låntagare till bibliotekens egna söktjänster, som om de till skillnad från Google erbjuder en objektiv och neutral bild.

Men det finns skäl att ifrågasätta den praktiken. Discoverysystemen lider nämligen av många av samma problem som Google. Jag tar en titt på Uppsala universitetsbiblioteks söksystem – som tidigare student vid universitet ligger det nära till hands. Uppsala universitetsbibliotek (UUB) har använt Summon sedan 2013. Jag genomför två sökningar i den digitala katalogen. Jag skriver in ”muslims are” och får genast upp ett förslag för hur söktermen ska slutföras: ”muslims are terrorists”. Sedan skriver jag in ”women are” och bland förslag som ”women are better leaders” och ”women are overworked at home” syns förslag som ”women are emotional” och ”women are persons”. Sökmotorns autosuggest-funktion föreslår alltså att muslimer är terrorister och att kvinnor är känslosamma och ”personer”? Det kan inte bara vara jag som anser att det inte är en sökmotors uppgift att förstärka fördomsfulla bilder av muslimer och kvinnor. Vad är det som pågår här?

Det är ingen tillfällighet att jag valde att söka på ”muslims are” och ”women are” för att se vad autosuggest-funktionen föreslog. Just de här exemplen tar Matthew Reidsma, bibliotekarie vid Grand Valley State University Libraries, upp i sin nyutkomna bok Masked by Trust: Bias in Library Discovery, där han dels visar hur Summon och andra discoverysystem emellanåt ger sexistiska och rasistiska sökresultat, dels försöker förklara varför. Precis som Google använder Summon algoritmer som bestämmer vilka sökresultat som ska visas och i vilken ordning. Exakt hur algoritmerna ser ut är en väl bevarad affärshemlighet, men genom att studera sökresultaten går det att studera hur algoritmerna fungerar. Det är vad Reidsma gör i boken. Han ägnar mest tid åt att granska Summons funktion ”topic explorer”, som vid sidan av sökresultaten erbjuder en faktaruta med information från Wikipedia. Eftersom funktionen väljer ut en enda Wikipedia-artikel är det en utmärkt plats för att hitta dolda fördomar och bias.

Vissa av Reidsmas upptäckter är hårresande. En sökning på ”muslim terrorist in the united states” föreslog Wikipedia-artikeln om ”Islam in the United States”, vilket sammankopplar terrorism med islam. Och en sökning på ”transgender” gav som första sökresultat en artikel från en juridisk tidskrift med likbilder av ett manligt mordoffer klädd som en kvinna. Som om en person som identifierar sig som transgender är en man som klär sig i kvinnliga kläder. Många av Reidsmas upptäckter har i efterhand korrigerats av Ex Libris (men uppenbarligen inte autosuggest-förslagen ovan om muslimska terrorister och känslosamma kvinnor), men det vore, skriver Reidsma, ett misstag att tro att det bara handlar om enskilda fall. Problemet går mycket djupare än så.

Det finns visserligen skillnader mellan kommersiella söktjänster som Google och discoverysystem. Som bekant är Google i grunden ett annonsföretag. All sökhistorik lagras och analyseras för att erbjuda personaliserad reklam och anpassade sökresultat. Ett discoverysystem är däremot inte beroende av reklam utan av intäkter från prenumeranter, ofta stora universitet, som betalar för tjänsten. En sökning på ”bibeln” i UUB:s söksystem ger inte olika resultat för olika användare baserat på deras tidigare sökresultat eller geografiska position. Det spelar ingen roll om jag tidigare har sökt på Helge Fossmo eller befinner mig i Knutby. Jag får upp samma sökresultat som alla andra användare. Däremot finns det i många discoverysystem vissa funktioner för personalisering och dessutom finns det ett stort kommersiellt intresse i all den sökhistorik som utförs av miljontals forskare och studenter, och som i dagsläget sparas i gigantiska och växande databaser.

Här är det läge att understryka att de sexistiska och rasistiska sökresultaten med största sannolikhet inte är avsiktliga. Discoverysystemens syfte är att ge relevanta och precisa sökresultat. Ändå blir det ibland fel. Det är oerhört allvarligt, för som Reidsma skriver har sådana sökresultat faktiska konsekvenser för marginaliserade grupper och människor i samhället.

Så vems är felet? Vem eller vad ska man klandra? Reidsma varnar för att hitta enkla syndabockar. Problemet är inte bara algoritmerna, eller den grupp programmerare som jobbar med koden, eller deras utbildning som ofta saknar etikkurser. Det stora problemet är inte heller affärsmodellen hos stora företag.

Rather, the problems can be found only by examining the embedded, historical context in which business practices, engineering education and the lack of diversity, systematic rasism and sexism embedded in information classification systems, designs based on prejudiced stereotypes, and a culture that glorifies efficiency above all else.

Med andra ord, vi borde inte förvånas över att algoritmer skapade i en kultur där strukturell sexism och rasism fortfarande existerar, också leder till sexistiska och rasistiska sökresultat. Och vi borde inte heller förvånas över att en ingenjörsvärld som endast har en hammare ser alla problem som en spik. 

Vi får vad vi frågar efter. Och därför måste vi fråga efter någonting annat. I bokens sista kapitel skissar Reidsma en väg framåt. Det första vi måste göra är att sluta lita på algoritmer. De är skapade av människor och har aldrig varit och kommer aldrig att vara ”objektiva”. Och vi måste allmänt bli mer skeptiska gentemot söksystem och sökresultat. Det duger inte att måla upp bilden av ett ondskefullt Google i kontrast till det pålitliga biblioteket. 

Vi måste också, enligt Reidsma, sluta betrakta teknologi som ett verktyg. Eller, rättare sagt, sluta betrakta teknologi som enbart ett verktyg. Den här delen av Reidsmas bok är strikt talat inte nödvändig för att hans poäng ska gå fram, men i några tänkvärda passager skriver han att en viss teknologi, oavsett om det gäller en hammare eller en sökmotor, alltid ingår i ett socialt och kulturellt sammanhang. Det är först när vi släpper bilden av teknologi-som-verktyg som vi på riktigt kan förstå hur teknologi både är formad av och formar vår bild av världen. Det är först då vi kan släppa den ingenjörsaktiga bilden av hur algoritmer ska utformas och som bevisligen, om och om igen, leder till så olyckliga resultat. 

Fotnoter

  1. Rasmus Fleischer (2013). Tapirskrift, s. 53
  2. Rasmus Fleischer (2013). Tapirskrift, s. 53

Johannes Soldal

Prenumerera

Få nästa nummer av bis i brevlådan! En prenumeration kostar från 160 kronor för fyra nummer och du kan betala enkelt med swish.

Angående händelserna i Sölvesborg

Sen valet och Sverigedemokraternas maktövertagande har det varit stridigheter i Sölvesborgs kommun angående biblioteksverksamheten. Nu har en opolitiskt tillsatt chef fått lämna sitt arbete. Vad handlar det om?

På 90-talet kom det nationalistiska och högerextrema partiet Nationella fronten (som numera kallar sig Nationell samling) till makten i sydfranska kommunen Orange. Snart krävde det politiska styret att tjänstemännen skulle begära godkännande för sina bokinköp till biblioteket, för att balansera samlingarnas politiska och ideologiska innehåll. Böcker om rasism stoppades från inköp, liksom böcker som ansågs för kosmopolitiska. Man sade upp prenumerationer på tidningar och tidskrifter som inte föll partiet i smaken. Biblioteket i Orange tvingades vidare att ta emot böcker som politikerna valt ut (varav vissa var historierevisionistiska kring Förintelsen och Frankrikes roll under andra världskriget) samtidigt som man tillsatte ny bibliotekspersonal som var medlemmar i Nationella fronten eller hade en bakgrund inom den extrema högern. 1

Ungefär samtidigt som Nationella fronten tog makten i Orange växte ett liknande parti sig starkt i en annan del av Europa. Bland partiets grundare fanns många personer som var aktiva inom rasistiska och högerextrema organisationer. Jag menar förstås Sverigedemokraterna. Precis som Nationella fronten kan man spåra SD:s rötter ända tillbaka till andra världskriget – en av de äldre grundarna hade under andra världskriget ingått som frivillig i Tredje rikets elitarmé Waffen-SS. 2

Sverigedemokraterna och biblioteken

Man kan beskriva framväxandet av vårt moderna biblioteksväsende som arbetarrörelsens och den liberala rörelsens gemensamma projekt. Att alla människor är lika mycket värda och att alla ska ha fri tillgång till kultur, kunskap och information har klangbotten i liberalism såväl som socialism. Den nationalism och högerextremism som SD hämtar sitt ideologiska stoff från vänder sig mot detta. Det är tydligt att partiet tycker att vissa har mer rätt till folkbibliotekens verksamhet än andra. 

I Orange genomförde Nationella fronten så aggressiva förändringar inom biblioteken att resultaten blev förödande. Med det politiska läget i Sverige idag så är det intressant att gå tillbaka och läsa vad som egentligen hände där. Det framgår att man använde biblioteken för att tjäna sina egna syften. Så vad vill SD med biblioteken? Partiet anser att kulturen ska vara nationen till gagn och stärka den gemensamma identiteten. Därför ska irreguljära migranter inte ha tillgång till biblioteken. Därför ska böcker på andra språk än svenska inte prioriteras. Därför vill man rensa biblioteken för uttryck som man tycker är ideologiskt misshagliga (som Prideskyltningar). Därför får opolitiskt tillsatta tjänstepersoner lämna sin post när de inte vill genomföra partiets politik.

Konflikterna i Sölvesborg åskådliggör väl skillnaderna i hur man ser på bibliotekens verksamhet. Av partierna i Sveriges riksdag idag så är det SD som för den radikala bibliotekspolitiken.

Fotnoter

  1. Dittmer, Rebecka (2008), Pluralism eller propaganda? En ideologianalys av franska Front nationals folkbibliotekspolitik och debatten kring denna. Borås:Högskolan i Borås.
  2. Info om Sverigedemokraternas bakgrund finns bland annat hos Expo: https://expo.se/fakta/wiki/sverigedemokraterna-sd (Läst 20190812)

Tobias Willstedt

Nedkortad och omarbetad version av längre text i bis #3 2019