Etikettarkiv: Masked by trust: bias in library discovery

Uppsala universitetsbibliotek stänger av autosuggest-funktionen

Lärosätesbibliotekens sökmaskiner, dyra investeringar som är rika på ”smarta” algoritmer, ordnar forskares, studenters och andra kunskapstörstandes träffar enligt komplexa beräkningar. Trots deras neutrala skepnad blir det ibland tydligt att de också innehåller – och befäster – fördomar, rasism och sexism. Efter en artikel i ett tidigare nummer av bis valde Uppsala universitetsbibliotek att stänga av autosuggest-funktionen i söksystemet Summon.

Uppsala Universitetsbibliotek Carolina Rediviva
Dr. Mirko Junge / CC BY-SA (https://creativecommons.org/licenses/by-sa/3.0)

I min recension av boken Masked by Trust: Bias in Library Discovery i bis 3/2019 uppmärksammades att samma dolda rasism och sexism som finns i söksystemen på många amerikanska universitetsbibliotek också finns på svenska universitetsbibliotek. Boken är skriven av bibliotekarien och webbutvecklaren Matthew Reidsma och handlar om så kallade discoverysystem. Enkelt sammanfattat är discoverysystem inköpta söksystem för universitet och högskolor, varav de största är Summon, Primo, WorldCat Discovery och EBSCO Discovery Service (EDS).

Jag skrev in ”muslims are” och fick upp ett förslag för hur söktermen bör slutföras: ”muslims are terrorists”.

Uppsala universitetsbibliotek (UUB) har använt discoverysystemet Summon sedan 2013 och jag genomförde två sökningar i deras digitala katalog. Jag skrev in ”muslims are” och fick upp ett förslag för hur söktermen bör slutföras: ”muslims are terrorists”. Sedan skrev jag in ”women are” och bland förslag som ”women are better leaders” och ”women are overworked at home” ck jag förslag som ”women are emotional” och ”women are persons”. Sökmotorns autosuggest-funktion föreslog alltså att muslimer är terrorister och att kvinnor är känslosamma och ”personer”. Hur kan det här komma sig?

Discoverysystemet Summon är modellerat efter Googles sökmotor, och precis som Google använder Summon algoritmer för att ge användaren autosuggest-förslag. Det går kort sammanfattat till så att en AI matas med tidigare användares sökhistorik – vilket i bästa fall ger relevanta autosuggest-förslag, men som i värsta fall riskerar att reproducera rasistiska och sexistiska föreställningar, som i exemplen ovan.

Jag hör av mig till UUB för att beskriva mina upptäckter och för att fråga om de har stött på liknande exempel. Efter ett par mejl fram och tillbaka kommer jag i kontakt med Bodil Wik, systembibliotekarie vid UUB. Hon nämner att de sedan två år tillbaka har stängt av Summons funktion ”topic explorer”, på grund av ”en hel del underliga resultat”. Topic explorer-funktionen fungerar som så att sökordet eller sökorden kopplas till en Wikipedia-artikel vars innehåll syns i en faktaruta. Faktarutan ger användaren mer information om ett ämnesområde som hen eventuellt är intresserad av, men det är också den funktion som Reidsma i sin bok pekar ut som mest problematisk. Enligt Bodil Wik var problemen särskilt kopplade till vilka svenska Wikipedia- sidor som valdes ut:

Exempelvis en sökning på engelska termen ”medicine” via svenska gränssnittet gav resultatet ”schamanism” i svenska Wikipedia. I engelska gränssnittet kom ”Medicine” som uppslagsord i engelska Wikipedia så det sker extra konstigheter i språkhanteringen här.

Varken Reidsma, UUB, du eller jag har tillgång till information om hur discoverysystemens algoritmer fungerar på ”insidan”. Men en anledning till att just Topic explorer-funktionen fungerar så dåligt är förmodligen att den väljer ut en enda Wikipediaartikel, utifrån tusentals möjliga, och låter den indikera ett sammanhang med sökningen. Risken för bias är överhängande.

Ett par veckor in i mejlkonversationen skriver Bodil Wik att UUB efter att ha läst recensionen bestämt sig för att tills vidare stänga av även autosuggest-funktionen. På frågan hur UUB kommer att gå vidare svarar Bodil att de kommer att ”samla ihop dessa olika fynd och skicka [dem] vidare till ExLibris och höra efter vad de säger”. 1 Till sist lovar de att läsa boken och tackar för tipset.

Johannes Soldal

Fotnoter

1) Sedan ProQuests förvärv av ExLibris 2015 är det ExLibris som administrerar discoverystemet Summon.

Prenumerera

Få nästa nummer av bis i brevlådan! En prenumeration kostar från 160 kronor för fyra nummer och du kan betala enkelt med swish.

Missa inte nästa nummer av bis med tema rasism och dekolonisering!

IMG_0580

Foto: Karin Råghall

Nästa nummer av bis innehåller i vanlig ordning spännande material om bibliotek, kultur och samhälle. Denna gång ägnar vi särskild uppmärksamhet åt rasism och dekolonisering.

Ur innehållet:

  • “Det handlar om otroligt mycket mer än litteratur på samiska språk”
    Enligt flera rapporter är folkbibliotekens arbete med urfolket samerna otillräckligt. Nu ska Lycksele bibliotek ta tag i frågan.
  • “This is a project with no end”
    Hur kan biblioteken bidra till att dekolonisera universitetsutbildningarna? Karin Råghall har ställt några frågor till en engelsk grupp bibliotekarier som försöker göra just detta.
  • Svenskarnas bibliotek
    Idag är Sverigedemokraterna det dominerande partiet i ett antal kommuner. bis har granskat ett antal program, motioner, uttalanden och beslut som partiet ligger bakom för att undersöka hur Sverigedemokraterna vill påverka biblioteken.
  • “Det bidde en tumme”
    Det slutgiltiga utkastet till Nationell biblioteksstrategi har gått på remiss. Vad är bra, vad är mindre bra och vad saknas?
  • MIK omstrukturerar medvetandet
    Tobias Nordberg reflekterar över MIK, medvetande och litteraciteter. 
  • Recensioner
    Recensioner av Struktur men hur? och Masked by trust: bias in library discovery.
  • Fler texter, krönikor och nyheter!

Bli medlem eller prenumerant redan idag för att få nästa nummer i brevlådan! En prenumeration kostar 160 kronor för fyra nummer och du kan betala enkelt med swish.

Redaktionen