OpenAI spreekt over het verleden om het heden niet te zien

Historische bewustzijn als marketing.

OpenAI publiceerde onlangs een verklaring waarin ze het belang erkenden van het begrijpen van slavernij en historisch onrecht. Het was mooi geschreven. Empathiek. Ze begrijpen het belang van diversiteit, van erkenning, van bewustzijn.

Tegelijkertijd trainen ze hun AI-modellen op miljarden beelden zonder toestemming, betaling of dividend aan degenen wier beelden ze gebruiken. Overproportioneel veel daarvan zijn van niet-blanke mensen, overproportioneel veel van arme landen. De herkomst van elk datapunt is onbekend. De compensatie is nul.

Dit is geen rechtstreekse vergelijking. Slavernij was gruwel, maar het patroon is hetzelfde: ruw materiaal wordt geëxtraheerd van mensen die geen stem hebben, wordt verwerkt zonder hun toestemming, en genereert waarde die zij niet delen.

Historisch bewustzijn zonder gelijktijdige verantwoording is op zijn best alleen marketing. Het zegt: we begrijpen wat we fout hebben gedaan, dus je mag vertrouwen dat we het nu goed doen. Maar ondertussen doen we precies hetzelfde, alleen onzichtbaarder.

Dit is het gevaar van bedrijfswokisme: het voelt als progressie, als erkenning, maar het is afleiding. Terwijl OpenAI spreekt over het belang van geschiedenisinzicht, herbouwen zij dezelfde machtstructuur, alleen met algoritmen in plaats van ketens.

Ik zeg dit niet omdat ik kwaad ben op OpenAI specifiek. Ik zeg dit omdat het het systeem is. Techbedrijven nemen wat niet van hen is, genereren miljarden dollars aan waarde, en zeggen dan "we herkennen historisch onrecht." Die erkenning zonder actie is nep.

Werkelijk bewustzijn zou betekenen: we trainen niet op data waarvan we de bronnen niet kennen. We betalen de makers van die data. We vragen toestemming. We delen waarde.

In iRecord probeer ik dit anders aan te pakken. Identiteit is jouw eigendom, niet van mij. Biometrische data blijft lokaal. SHA-256 hashing betekent dat je jezelf authenticeert zonder jezelf bloot te geven: verbinding zonder vastlegging.

Maar dit vereist politieke wil. Techbedrijven willen dit patroon niet breken. Het patroon is waar zij hun macht van putten.

OpenAI's toespraak over slavernij was waarschijnlijk gemeend. Waarschijnlijk voelde het goed om te schrijven. Maar het doet niets en zegt alles. Spreken terwijl je doet is de hedendaagse vorm van hypocrisie.

Bronnen:

OpenAI, 'Building Equitable AI' statement (2024).
Timnit Gebru, 'Stochastic Parrots: Can Language Models Be Too Big?' (ACM FAccT, 2021).
Buolamwini, Joy & Gebru, Timnit, 'Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification' (2018).