De mythe van technologische neutraliteit
Technologie is nooit neutraal. De vraag is altijd: voor wie is het ontworpen?
De mythe van technologische neutraliteit
Technologie is nooit neutraal. De vraag is altijd: voor wie is het ontworpen?
Langdon Winner stelde in 1980 de vraag die het techno-optimisme van zijn tijd ondergroef: hebben artefacten politiek? Zijn antwoord was ja. Hij gebruikte het voorbeeld van de viaducten op Long Island, ontworpen door Robert Moses met een doorrijhoogte die te laag was voor bussen. Het effect was dat de stranden van Long Island onbereikbaar werden voor mensen die afhankelijk waren van openbaar vervoer, overwegend arme en Afro-Amerikaanse New Yorkers. Het viaduct was geen neutrale infrastructuur. Het was een politieke keuze, gegoten in beton.
Safiya Umoja Noble actualiseerde dit argument in Algorithms of Oppression voor het digitale tijdperk. Ze liet zien hoe de zoekresultaten van Google voor termen als "black girls" systematisch resultaten opleverden die racisme en seksisme reproduceerden. Niet omdat Google racistisch geprogrammeerd was, maar omdat het algoritme de bestaande patronen in de data reflecteerde en versterkte. Het systeem was technisch neutraal in de zin dat het deed wat het ontworpen was te doen. Het was politiek allesbehalve neutraal in zijn effecten.
De claim van technologische neutraliteit is een van de hardnekkigste mythes van onze tijd. Ze wordt ingezet door elk techbedrijf dat verantwoordelijkheid wil ontwijken: wij bouwen het gereedschap, hoe het gebruikt wordt is niet onze keuze. Maar die claim gaat voorbij aan het feit dat elk ontwerp keuzes bevat. Welke data wordt verzameld en welke niet. Welke interface wordt getoond en welke verborgen. Welke standaardinstellingen worden gekozen en welke alternatieven.
Elke standaardinstelling is een machtsbeslissing. Opt-in versus opt-out bij privacy-instellingen is het verschil tussen een systeem dat de gebruiker beschermt en een systeem dat de gebruiker exploiteert. Dat is geen technisch detail. Dat is politiek.
Voor iedereen die technologie gebruikt, wat iedereen is, begint de respons bij dezelfde vraag: voor wie is dit ontworpen? Niet wie het mag gebruiken, maar wiens belangen het dient. Als het antwoord niet onmiddellijk duidelijk is, is dat zelf het antwoord.
Bronnen: Langdon Winner, "Do Artifacts Have Politics?" in Daedalus (1980); Safiya Umoja Noble, Algorithms of Oppression: How Search Engines Reinforce Racism (NYU Press, 2018).
Bron: Langdon Winner, Do Artifacts Have Politics? (Daedalus, 1980); Safiya Umoja Noble, Algorithms of Oppression (NYU Press, 2018)