Zo moet de federale regering digitaal racisme aanpakken

Dit rapport analyseert vijf thema’s rond digitaal racisme, en formuleert in de eerste plaats beleidsaanbevelingen aan de federale overheid. Maar het is ook interessant voor middenveldorganisaties, onderzoeksinstellingen en lokale overheden die meer willen weten over digitaal racisme en mogelijke beleidsmaatregelen.

1. De AI Act en de ‘Digital Omnibus’

Op Europees niveau domineert administratieve vereenvoudiging de beleidsagenda, ook op vlak van wetgeving inzake de digitale ruimte. In de praktijk is deze beleidsprioriteit vaak een vorm van deregulering, waarbij grote (technologie)bedrijven lobbyen om regelgeving af te zwakken. Zo is de AI Act, nog voor deze volledig van kracht is geworden, afgezwakt en aangepast met de AI Omnibus-wetgeving. Verzwakte regelgeving kan de bescherming tegen racisme, discriminatie en mensenrechtenschendingen aantasten.

België heeft de verantwoordelijkheid om, ook binnen een veranderende Europese politieke context, vast te houden aan een wetgevend kader inzake AI dat de mensenrechten voorop stelt. Kif Kif vraagt onder andere om zo snel mogelijk officieel een AI-toezichthouder aan te stellen, om te investeren in de capaciteiten en samenwerkingsverbanden van de toezichthoudende instellingen, en een AI-register in te voeren voor overheden.

2. Online haat en anonimiteit

Online haat is een ernstig probleem voor gemarginaliseerde groepen. In de huidige beleidsvisie en wetsvoorstellen wordt de online anonimiteit van belagers aangeduid als een oorzaak. De federale regering stelt vervolgens voor om die anonimiteit op te heffen als oplossing. Maar (online) anonimiteit is een fundamenteel onderdeel van het recht op vrije meningsuiting, dat belangrijke bescherming biedt aan burgers, inclusief aan gemarginaliseerde groepen. Tegelijkertijd is online haat een complex fenomeen dat ook door andere factoren wordt veroorzaakt, zoals de politieke context en de algoritmes en moderatiekeuzes van socialemediabedrijven. 

Kif Kif beveelt aan om anonimiteit te waarborgen als democratisch grondrecht. Ook bevelen we aan om gerechtelijke ondersteuning van slachtoffers toegankelijker te maken, de huidige wetgeving, met name de Digital Services Act, strikter te handhaven, artikel 150 van de grondwet aan te passen, haatzaaiende politici verantwoordelijk te houden voor de gevolgen van hun haatcampagnes, en in te zetten op preventie.

3. Online censuur van dissidente stemmen

Een aanzienlijk deel van het publieke debat verloopt via sociale media. De algoritmes van sociale media en contentmoderatie op die platformen bepalen de manier waarop stemmen binnen dit debat aan bod komen. Vooral progressieve dissidente stemmen worden regelmatig gecensureerd op sociale media: hun content wordt zonder goede reden onzichtbaar gemaakt, of hun accounts worden geblokkeerd.

Kif Kif beveelt aan om via de Digital Services Act te blijven inzetten op verhoogde transparantie inzake de algoritmische aanbevelingssystemen en de rechten van gebruikers af te dwingen. 

4. Militarisering van artificiële intelligentie

In een context van toenemende geopolitieke spanningen worden artificiële intelligentie en andere datagedreven technologieën zeer invloedrijk inzake nationale veiligheid en bij internationale conflicten. Er is een dubbele dynamiek ontstaan, waarbij civiele technologie wordt toegepast in militaire ruimtes, en militaire technologie in civiele ruimtes. Deze dynamiek vormt een gevaar voor de mensenrechten en de principes van antiracisme en non-discriminatie.

Kif Kif beveelt aan om bedrijven en technologieën die incompatibel zijn met mensenrechten te weren uit overheidsopdrachten en het gebruik ervan te verbieden. Ook bevelen we aan om een duidelijk juridisch kader te ontwikkelen dat de ontwikkeling en inzet van artificiële intelligentie en andere datagedreven technologieën binnen militaire toepassingen en het domein van nationale veiligheid reguleert, met aandacht voor de overgang van de civiele naar de militaire ruimte. De mensenrechten moeten daarbij vooropgesteld worden.

5. Big Tech en een rechtvaardige digitale wereld

Vandaag de dag is de digitale wereld grotendeels in handen van enkele grote, voornamelijk Amerikaanse, technologiebedrijven, ook wel bekend onder de naam 'Big Tech'. De enorme concentratie van macht en rijkdom in dit kleine aantal bedrijven is een bedreiging voor de democratie en mensenrechten. Beleid moet zich richten op zowel het aanpakken van de marktmacht van Big Tech, als op het ondersteunen van alternatieven die het algemeen belang vooropstellen.

Kif Kif beveelt aan om op zowel Belgisch als Europees niveau bestaande beleidskaders inzake antimonopoliewetgeving strikt te handhaven, om op Europees niveau aanpassingen te vragen aan de Cloud and AI Development Act, om Big Tech te belasten op basis van digitale activiteit in België, om een proces te starten om af te stappen van diensten van Big Tech binnen overheidsdiensten, en om alternatieve digitale technologieën te ondersteunen.

Om digitaal racisme tegen te gaan is een sterk en ambitieus beleid nodig: Europees moeten de DSA en DMA strikt worden gehandhaafd en mensenrechten vooropgesteld worden, terwijl België zelf lacunes kan opvullen met verschillende maatregelen, zoals een transparantieregister voor AI gebruikt door overheden, een verbod op biometrische massasurveillance en een wetgevend kader voor civiele AI in militaire contexten. Op termijn moeten structurele maatregelen de macht van Big Tech inperken, om zo een democratische en inclusieve digitale ruimte mogelijk te maken.