Data en ethiek

Jos Maessen,  programmamanager datagedreven werken, gemeente Rotterdam.

Column in inGovernment juni 2018

De afgelopen maand heeft de discussie over data en ethiek behoorlijk wat brandstof gekregen. Ik bespreek hier vier voorbeelden.

Allereerst Facebook natuurlijk. De verkoop van gegevens van particulieren aan een bedrijf wat dat gebruikt om analyses te maken teneinde mensen te kunnen manipuleren bij hun stemkeuze. Dat hebben ze niet in de gaten en zo worden verkiezingen beïnvloed. Facebook heeft, net zoals in voorgaande gevallen, geen maatschappelijke verantwoordelijkheid genomen in deze discussie .

Een tweede interessante uiting vind ik een artikel van Tim O’Reilly een invloedrijk denker in Silicon Valley die zegt dat het onterecht is om Facebook met een sigarettenfabrikant te vergelijken (beide zouden verslaving in de hand werken) Facebook reageert weliswaar niet ontkennend op de aantijgingen maar, zo stelt O’Reilly, zolang in onze economie de misleiding en manipulatie van consumenten de hoeksteen van het verdienmodel zijn, zal dit gedrag doorgaan. De echte verandering moet dus op een dieper niveau van ons economisch model plaatsvinden.

Een derde thema is China waarin men ondertussen zover is met gezichtsherkenning, het lezen van berichten op sociale media en het leggen van verbanden tussen diverse registraties dat mensen via een sociaal kredietsysteem worden beloond en bestraft voor hun gedrag. Dit leidt tot een dusdanig diepgaande beïnvloeding van individuen dat liefhebbers van series als Black Mirror of films dan wel boeken als The Circle nu zelf deze ervaringen life kunnen meemaken.

Een vierde element zijn de diverse artikelen in Nederland die ingaan op de mogelijkheden om op basis van data voorspellende modellen toe te passen op gedrag. Daarbij worden er vragen gesteld over de relatie overheid-burger. Gaan we burgers afrekenen op gedrag dat voorspeld wordt? En hoe ver gaan we hier dan in? Men voelt daarbij een ongemakkelijkheid die nog niet eerder -bijvoorbeeld bij etnisch profileren of fraude-analyses van de Belastingdienst (die vanuit dezelfde principes van informatiegestuurd werken opereert) – zo sterk geuit werd.

De overeenkomst tussen deze vrij willekeurige reeks van voorbeelden is dat er een discussie op gang komt over de spanning tussen technologische mogelijkheden en de vraag wat voor samenleving we eigenlijk willen. En daarmee staat ethiek (waarden en normen) weer centraal in het maatschappelijke en politieke debat – wat ook nodig is. Ontwikkelingen via data maken grootschalige veranderingen in onze samenleving mogelijk. En deze transformatie zal ook echt gaan gebeuren. Het wordt hoog tijd dus om na te gaan wat wij een rechtvaardige samenleving vinden in een tijdperk van grote, haast onvoorstelbare, technologische mogelijkheden.

Een gedachte over “Data en ethiek

  1. Mooi artikel, leuke voorbeelden.

    Hans Teuben
    [cid:image001.png@01D16272.68F31550]
    Director Strategy & Innovation
    Smart Cities, Public Sector
    Deloitte Consulting
    Gustav Mahlerlaan 2970, 1081 LA Amsterdam
    Mobile: +31(0)6 2039 7270
    Fax: +31 (0)88 288 9709 | Assistant: +31 (0)88 288 5958

    Like

Geef een reactie

Vul je gegevens in of klik op een icoon om in te loggen.

WordPress.com logo

Je reageert onder je WordPress.com account. Log uit /  Bijwerken )

Google photo

Je reageert onder je Google account. Log uit /  Bijwerken )

Twitter-afbeelding

Je reageert onder je Twitter account. Log uit /  Bijwerken )

Facebook foto

Je reageert onder je Facebook account. Log uit /  Bijwerken )

Verbinden met %s