Aanpak van discriminatie door kunstmatige intelligentie (Vooruit)

Samenvatting

Hoewel Vooruit racistische bias en discriminatie door artificiële intelligentie (AI) niet expliciet benoemt, bevat het programma wel het pleidooi voor een strenge regulering van AI op Europees niveau. Dit omdat ‘de toepassing ervan ook oneerlijk of onrechtvaardig kan zijn’.

  • “Een doorgedreven controledrang overschaduwt de positieve kanten van AI.” (p. 17).
  • “Artificiële intelligentie biedt grote kansen om onze welvaart en welzijn te verbeteren, maar er zijn risico’s. Daarom moet er een dwingend ethisch en juridisch kader komen voor de omgang met AI. AI moet ingezet worden met respect voor de menselijke waardigheid, autonomie, diversiteit en privacy.” (p. 18).
  • “We zetten de stappen naar een strengere regulering van AI op Europees niveau verder.” (p. 247)

Impactanalyse

Om te voorkomen dat kunstmatige intelligentie bestaande vooroordelen versterkt en op grote schaal tot discriminatie leidt, is transparante en zorgvuldige training van AI- systemen essentieel. Hiervoor is een duidelijk juridisch kader nodig. Vooruit pleit voor zo’n juridisch kader, maar vermeldt daarbij geen expliciete focus op het voorkomen van het reproduceren van racistische bias.

Ook vermeldt het partijprogramma van Vooruit niets over transparante training van AI-systemen. Zonder die transparantie is adequaat toezicht echter onmogelijk.

Relevante passages uit het partijprogramma van Vooruit

p. 17: Bovendien wordt AI vaak op een destructieve manier ingezet. Er is een grote focus op automatisering ten koste van de creatie van nieuwe taken voor werknemers. Bovendien is de verkoop van AI-monitoringssoftware sinds COVID geëxplodeerd. Een doorgedreven controledrang overschaduwt de positieve kanten van AI. Door deze nieuwe technieken van geautomatiseerd management wordt het volledige doen en laten van werknemers tot in het kleinste detail be.nvloed. De technologische revolutie leidt dus tot fundamentele vragen over welvaartsverdeling en de organisatie van werk.

p. 18: Artificiële intelligentie biedt grote kansen om onze welvaart en welzijn te verbeteren, maar er zijn risico’s. Daarom moet er een dwingend ethisch en juridisch kader komen voor de omgang met AI. AI moet ingezet worden met respect voor de menselijke waardigheid, autonomie, diversiteit en privacy

p. 71: Uit onderzoek blijkt dat de uitkomst van de middelentoets voor de toekenning van leefloon bij 40% van de aanvragen correct voorspeld kan worden door een computeralgoritme. Door dit algoritme verder te testen en te verfijnen tot een performante tool, kan de werklast voor maatschappelijk werkers sterk worden verminderd en de focus sneller gaan naar rechtenuitputting, zelfredzaamheid, activering en het verder onderzoeken van de leefomstandigheden van de cliënt. Het gebruik van algoritmen is hierbij slechts een middel. Toekenning van leefloon of steunmaatregelen blijft een menselijk beslissingsproces.

p. 99: We stimuleren het gebruik van nieuwe technologie.n en dataverzameling en -deling zoals smartwatches, gezondheidsapps en artifici.le intelligentie. We ondersteunen gezondheidswerkers én burgers in het ontwikkelen van digitale gezondheidsvaardigheden. Op die manier kunnen patiënten beter worden opgevolgd, ook van op afstand.

p. 175: We maken controle op gsm-gebruik achter het stuur via onbemande camera’s mogelijk.

p. 247: Artificiële intelligentie (AI) is niet meer uit onze samenleving weg te denken. Ze biedt enorme kansen, maar de toepassing ervan kan ook oneerlijk of onrechtvaardig zijn. Bovendien heeft AI ook een ecologische en sociaal-economische kostprijs. We zetten de stappen naar een strengere regulering van AI op Europees niveau verder. We voeren een heffing in op het gebruik van auteursrechtelijk beschermde content door AI-bedrijven, naar analogie met de reprografierechten. We verplichten een label voor content die gegenereerd is met AI. We voeren een verbod in op het opeisen van auteursrechten op content die geheel of gedeeltelijk gegenereerd is met AI. Zo komt de winst uit technologische gegenereerde content ook en vooral onze echte creatieve makers ten goede.