Steun ons en help Nederland vooruit

donderdag 12 november 2020

Beslissen algoritmes over ons?

Binnen gemeenten worden steeds meer beslissingen genomen door geautomatiseerde systemen die gebruik maken van algoritmen. Maar is een beslissing gemaakt door een dergelijk systeem wel eerlijk?

De overheid heeft de verantwoordelijkheid om uit te leggen welke keuzes gemaakt worden en op basis van welke informatie een beslissing genomen wordt. Dat betekent dat de algoritmes die gebruikt worden eerlijk en transparant moeten zijn. Algoritmes kunnen grote invloed hebben op bewoners: bijvoorbeeld als aan de hand van een algoritme het recht op een uitkering wordt bepaald of als fraude wordt opgespoord. Het is niet altijd duidelijk welke afwegingen er precies gemaakt zijn. Overheden dreigen afhankelijk te worden van een beperkt aantal technologiebedrijven die op grote schaal algoritmes kunnen ontwikkelen. Daardoor krijgen die bedrijven een steeds grotere machtspositie.

Over hoe dat in de praktijk kan werken maakte Nieuwsuur onlangs een verdiepende rapportage. Als u hier of op het plaatje klikt kunt u hem zien. Binnen D66 is het gebruik van algoritmes een onderwerp van gesprek (zie Algoritmes en lokale overheden van de voor Mr. Hans van Mierlo Stichting voor meer verdieping) en dat is voor diverse fracties in het land reden om deze kwestie aan de orde te stellen.

D66 Wijchen wil inzicht in het gebruik van algoritmes in de gemeente Wijchen en stelt daarom schriftelijke vragen aan het college met als doel dit inzichtelijk te krijgen. Daarnaast wil D66 Wijchen een register waarin de gemeente haar technische toepassingen omschrijft en toelicht.


Algoritmes en het gebruik daarvan binnen de gemeente

Schriftelijke vraag van de fractie D66 Wijchen, d.d. 02-11-2020

Aanleiding:

Een algoritme is in de kern een reeks instructies die stapsgewijs wordt uitgevoerd om een probleem op te lossen. Hoe complexer het algoritme, hoe lastiger het is om te begrijpen hoe het precies werkt. Algoritmes zijn op zichzelf niet eerlijk of oneerlijk. Ze kunnen echter wel eerlijk of oneerlijk worden gemaakt en/of ingezet. Deze eerlijkheid hangt af van de waarden die centraal worden gesteld. Daarom is een door waarden gedreven denken noodzakelijk om de eerlijkheid van een algoritme te bepalen. Gemeenten maken volop gebruik van algoritmes. Dit biedt kansen, maar brengt ook risico’s met zich mee. Waarden als gelijkheid, vrijheid en rechtsstatelijkheid kunnen in het gedrang komen. Zo kunnen ze de (onbewuste) vooroordelen van mensen weerspiegelen, wat kan leiden tot discriminerende besluiten. Algoritmes kunnen bijdragen aan het vergroten van bestaande ongelijkheden en het beperken van de keuzevrijheid van mensen. Een door waarden gedreven denken is noodzakelijk om de eerlijkheid van een algoritme te bepalen. Dit kan niet zonder te weten waar en hoe ze nu worden toegepast. De weg naar verandering ligt in het democratische proces. Het is aan de politiek om ervoor te zorgen dat technologische ontwikkelingen de maatschappij dienen en niet andersom.

Vragen:

  1. Maakt de gemeente gebruik van algoritmes die zijn getraind door middel van (un)supervised learning, zijn die ingebouwd in applicaties waarvan de gemeente gebruikmaakt of geeft zij hiertoe opdracht aan andere organisaties?
    – Zo ja, ter beantwoording van welke vraagstukken gebruikt zij deze algoritmes? Is het opstellen van (risico)profielen van mensen hier onderdeel van?
    – Hoe zijn deze algoritmes tot stand gekomen?
    – Welke (persoons)gegevens worden door de gemeente gebruikt voor het trainen en testen van deze algoritmes? Welke (persoons)gegevens worden door de gemeente gebruikt voor de implementatie van deze algoritmes?
    Beschrijf per algoritme welk soort het betreſt en voor welk vraagstuk zij dient. Beschrijf vervolgens het proces van het algoritme vanaf de dataverzameling, de dataverwerking en codering/omvorming de data-analyse, de uitkomst, decodering en de vervolgacties. Wat voor data zijn er verzameld en hoe zijn deze verzameld? Welke variabelen worden meegenomen in het model en welke niet? Hoe ziet de output eruit (bijvoorbeeld de kans per individu)? Hoe wordt besloten welke variabelen wel/niet mee worden genomen?
  2. Is de gemeente bereid om een openbaar register te publiceren waarin zij haar algoritmische toepassingen omschrijft en toelicht?
  3. Is de gemeente zich bewust van de risico’s van onethisch gebruik van algoritmes, zoals discriminatie, stigmatisering, het beperken van persoonlijke vrijheden zoals zelfbeschikking en het in stand houden of versterken van ongelijkheid? Welke maatregelen neemt de gemeente om risico’s te vermijden en potentiële negatieve gevolgen tegen te gaan?
  4. Is de gemeente zich bewust van de (onbewuste) keuzes in het proces van het gebruik van algoritmes die onethisch gebruik van algoritmes in de hand werken? Zo ja, waaruit blijkt dit?
  5. Neemt de gemeente ethische aspecten van algoritmes mee in inkoopvoorwaarden met leveranciers? Zo ja, welke voorwaarden zijn dit?
  6. Heeft de gemeente een ethische commissie, met als voorbeeld de gemeente Enschede, aangesteld die zich ontfermt over of er wel of niet ethisch gebruik wordt gemaakt van algoritmes door de gemeente? Zo nee, ziet de gemeente het nut in van een dergelijke commissie en overweegt zij om deze aan te stellen?
  7. Is de gemeente bereid om een (jaarlijkse) audit uit te voeren ter controle van de algoritmische toepassingen van de gemeente?
  8. Heeft de gemeente advies ingewonnen over het implementeren van algoritmes bij een onafhankelijke organisatie? Zo ja, welke organisatie is dit? Heeft deze organisatie ook geëvalueerd of het algoritme voldoet aan de eisen van de Algemene Verordening Gegevensbescherming (AVG) en de Algemene Wet Gelijke Behandeling (AWGB)?
  9. Wordt er door de Functionaris Gegevensbescherming (FG) naast privacy ook naar andere ethische aspecten gekeken, zoals gelijke behandeling en transparantie? Zo ja, hoe worden deze geborgd en bij wie ligt de verantwoordelijkheid? Is de gemeente bereid om hiervoor een aparte functionaris aan te stellen?

Maikel Lukkezen