Uppsala universitetsbibliotek stänger av autosuggest-funktionen

Lärosätesbibliotekens sökmaskiner, dyra investeringar som är rika på ”smarta” algoritmer, ordnar forskares, studenters och andra kunskapstörstandes träffar enligt komplexa beräkningar. Trots deras neutrala skepnad blir det ibland tydligt att de också innehåller – och befäster – fördomar, rasism och sexism. Efter en artikel i ett tidigare nummer av bis valde Uppsala universitetsbibliotek att stänga av autosuggest-funktionen i söksystemet Summon.

I min recension av boken Masked by Trust: Bias in Library Discovery i bis 3/2019 uppmärksammades att samma dolda rasism och sexism som finns i söksystemen på många amerikanska universitetsbibliotek också finns på svenska universitetsbibliotek. Boken är skriven av bibliotekarien och webbutvecklaren Matthew Reidsma och handlar om så kallade discoverysystem. Enkelt sammanfattat är discoverysystem inköpta söksystem för universitet och högskolor, varav de största är Summon, Primo, WorldCat Discovery och EBSCO Discovery Service (EDS).

Jag skrev in ”muslims are” och fick upp ett förslag för hur söktermen bör slutföras: ”muslims are terrorists”.

Uppsala universitetsbibliotek (UUB) har använt discoverysystemet Summon sedan 2013 och jag genomförde två sökningar i deras digitala katalog. Jag skrev in ”muslims are” och fick upp ett förslag för hur söktermen bör slutföras: ”muslims are terrorists”. Sedan skrev jag in ”women are” och bland förslag som ”women are better leaders” och ”women are overworked at home” ck jag förslag som ”women are emotional” och ”women are persons”. Sökmotorns autosuggest-funktion föreslog alltså att muslimer är terrorister och att kvinnor är känslosamma och ”personer”. Hur kan det här komma sig?

Discoverysystemet Summon är modellerat efter Googles sökmotor, och precis som Google använder Summon algoritmer för att ge användaren autosuggest-förslag. Det går kort sammanfattat till så att en AI matas med tidigare användares sökhistorik – vilket i bästa fall ger relevanta autosuggest-förslag, men som i värsta fall riskerar att reproducera rasistiska och sexistiska föreställningar, som i exemplen ovan.

Jag hör av mig till UUB för att beskriva mina upptäckter och för att fråga om de har stött på liknande exempel. Efter ett par mejl fram och tillbaka kommer jag i kontakt med Bodil Wik, systembibliotekarie vid UUB. Hon nämner att de sedan två år tillbaka har stängt av Summons funktion ”topic explorer”, på grund av ”en hel del underliga resultat”. Topic explorer-funktionen fungerar som så att sökordet eller sökorden kopplas till en Wikipedia-artikel vars innehåll syns i en faktaruta. Faktarutan ger användaren mer information om ett ämnesområde som hen eventuellt är intresserad av, men det är också den funktion som Reidsma i sin bok pekar ut som mest problematisk. Enligt Bodil Wik var problemen särskilt kopplade till vilka svenska Wikipedia- sidor som valdes ut:

Exempelvis en sökning på engelska termen ”medicine” via svenska gränssnittet gav resultatet ”schamanism” i svenska Wikipedia. I engelska gränssnittet kom ”Medicine” som uppslagsord i engelska Wikipedia så det sker extra konstigheter i språkhanteringen här.

Varken Reidsma, UUB, du eller jag har tillgång till information om hur discoverysystemens algoritmer fungerar på ”insidan”. Men en anledning till att just Topic explorer-funktionen fungerar så dåligt är förmodligen att den väljer ut en enda Wikipediaartikel, utifrån tusentals möjliga, och låter den indikera ett sammanhang med sökningen. Risken för bias är överhängande.

Ett par veckor in i mejlkonversationen skriver Bodil Wik att UUB efter att ha läst recensionen bestämt sig för att tills vidare stänga av även autosuggest-funktionen. På frågan hur UUB kommer att gå vidare svarar Bodil att de kommer att ”samla ihop dessa olika fynd och skicka [dem] vidare till ExLibris och höra efter vad de säger”. ¹ Till sist lovar de att läsa boken och tackar för tipset.

Johannes Soldal

Fotnoter

1) Sedan ProQuests förvärv av ExLibris 2015 är det ExLibris som administrerar discoverystemet Summon.

Bli medlem

Gillar du det vi gör? Stötta BiS genom att bli medlem! Ett medlemskap kostar från 125 kronor och du kan betala enkelt med Swish.