Det finns inga neutrala algoritmer

Umoja Noble, Safiya (2018). Algorithms of Oppression: How Search Engines reinforces racism. New York: New York University Press.

algorithms of opressionI Algorithms of Oppression skriver Safiya Umoja Noble om hur sökmotorer inte ger objektiva hämtningar opåverkade av människans föreställningar. Utgångspunkten är att de algoritmer som styr sökmotorerna inte är godartat konstruerade. Algoritmerna är skrivna och modererade av programmerare, människor med egna fördomar och subjektiva världsbilder, som ibland försöker uppmuntra en viss synvinkel, och ibland omedvetet speglar sin egen version av verkligheten i sina skapelser.

Vi vet att algoritmer numera är en betydelsefull infrastruktur för att vårt samhälle ska fungera. Nobles utgångspunkt är att internet och sökmotorer blivit allt mer viktiga komponenter i vår vardag till den grad att teknologin för många av oss är en förlängning av våra sinnen och oss själva. Vi bär smartphones med stor datorkraft i våra händer och genom Googles och andra företags sökmotorer finns all världens information att hämta när som helst. Hur dessa tjänster är programmerade påverkar oss och vårt sätt att se världen. Algoritmer har alltså makt över oss.

Författaren använder sig av exemplet Google för sin undersökning, och Noble visar att företagets algoritmer utgår från den vita manliga blicken. 2010 Googlade Safiya Noble orden ”black girls.” Till hennes förskräckelse hämtade Google mestadels pornografiska resultat. En sökning på “nigger house” visade Vita huset (det var vid denna tiden USA hade fått sin första svarta president: Barak Obama). De otrevliga resultaten från sökningarna är betydligt mindre framträdande om man göra samma sökning idag men Noble argumenterar för och hittar exempel på att Googles sökalgoritmer fortfarande reproducerar obehagliga föreställningar om ras och kön.

Algorithms of Oppression är en välskriven bok om ämnen som borde angå oss alla, nämligen rasistiska och sexistiska strukturer i samhället. Noble menar att Google inte kan två sina händer angående de resultat sökmotorn hämtar. De bär ett ansvar över sökresultaten, som inte är rent datorgenererade och inte heller neutrala eller objektiva. Här blir jag lite undrande eftersom Noble är väldigt bra på att visa exempel på när sökmotorerna har hämtat rasistiska och sexistiska resultat men mindre bra på att visa hur Google gör för att värdera de olika sökträffarna. Varför kommer de pornografiska resultaten längst upp? Är det algoritmerna i sig som är konstruerade till att vara rasistiska eller speglar de bara den vita och patriarkala hegemonin i samhället, som en kamera som återger motivet? Jag tror inte personligen på något sådant som etisk teknologi i kapitalismen men jag tycker att Algorithms of Oppression kunde grävt djupare i hur hämtningarna går till. Samtidigt så är en av Nobles viktigaste poänger relevant oavsett – vi borde kunna utkräva ansvar när vi ser att en sökmotor förstärker rasistiska och sexistiska föreställningar. Och hon visar också på hur Googles hämtningar har förändrats till det bättre när problem har påtalat, vilket demonstrerar vikten av att faktiskt protestera.

Som svensk läsare så måste jag konstatera att den utgår från en väldigt amerikansk kontext. Google är ett internationellt företag och internet är ett globalt fenomen. De exempel och de resonemang Noble för är hämtade i USA:s samhälle och historia och det hade tillfört min läsning av boken mycket att få ett internationellt perspektiv på Google och de strukturer som Googles algoritmer representerar.

En sak är säker: boken inspirerar till reflektion över det folkbildande arbete biblioteken utför för att främja information literacy och digital delaktighet. Noble lyfter viktiga perspektiv om förtryckande strukturer som biblioteksarbetare har all anledning att lära sig mer om.

Tobias Willstedt

Läs mer

Ett svar till “Det finns inga neutrala algoritmer

  1. Ping: Nu kan du läsa bis 2018:03 digitalt! | BiS

Kommentera

Fyll i dina uppgifter nedan eller klicka på en ikon för att logga in:

WordPress.com Logo

Du kommenterar med ditt WordPress.com-konto. Logga ut /  Ändra )

Google+-foto

Du kommenterar med ditt Google+-konto. Logga ut /  Ändra )

Twitter-bild

Du kommenterar med ditt Twitter-konto. Logga ut /  Ändra )

Facebook-foto

Du kommenterar med ditt Facebook-konto. Logga ut /  Ändra )

Ansluter till %s

This site uses Akismet to reduce spam. Learn how your comment data is processed.