#4 Techniekethiek

Welke ethische dilemma's spelen er in de datagedreven wereld? En hoe kunnen bedrijven daar verantwoord mee omgaan? In 4TU.techtalk #4 gaan Karin Bos van Achmea en Philip Brey van de Universiteit Twente daarover met elkaar in gesprek.
4TU Delft
4TU Eindhoven
4TU Twente
4TU Wageningen
Tekst: Nienke Beintema | Fotografie: Dieuwertje Bravenboer

Laveren tussen de ethische valkuilen van de datagedreven wereld

4TU.techtalks | Er gaat geen dag voorbij of nieuwe technologieën zien het licht. Van robotica tot precisiemedicijnen en van IT tot klimaattechnologie: veel van de innovaties op deze terreinen brengen grote veranderingen teweeg in hoe we leven en met elkaar omgaan. Daar zitten veel voordelen aan, maar ook risico’s. Verzekeraar Achmea wil zich daar verantwoord op voorbereiden en krijgt daarbij hulp vanuit 4TU. 

"Je wilt bepaalde risico’s uitsluiten. En je wilt aan preventie doen. Maar welke data mag je daarvoor gebruiken? En hoe ver mag je daarin gaan?"
Karin Bos, Achmea

Niemand kan ertegen zijn: nieuwe technologieën moeten duurzaam zijn, democratisch en rechtvaardig. Ze moeten de gebruikers autonomie bieden, en veiligheid en privacy. Maar wat houden die waarden eigenlijk in? Zijn ze universeel, of voor verschillende interpretaties vatbaar? Wie bepaalt eigenlijk wat er wel en niet mag, wie besluit er over risico's bij technologische ontwerpen? En hoe worden onze normen en waarden zélf beïnvloed door technologische ontwikkelingen?

Het zijn allemaal extreem complexe vragen die niemand een-twee-drie kan beantwoorden. Toch is het nodig dat mensen daarover nadenken en debatteren, om gezamenlijk te komen tot kaders voor nieuwe ontwikkelingen. Steeds vaker praten niet alleen technologen en bestuurders daarover mee, maar ook ethici en filosofen. Die zijn getraind in het kijken voorbij de grenzen van vakgebieden, bedrijfssectoren, culturen en generaties.

“De wereld is nu zo totaal anders dan pakweg 20 jaar geleden”, zegt Philip Brey, hoogleraar filosofie en ethiek aan de Universiteit Twente. “Aan de basis van veel ontwikkelingen ligt wat we nu ‘big data’ noemen: enorme hoeveelheden gegevens. Voor veel organisaties zijn die heel belangrijk geworden. Ze halen er allerlei waardevolle informatie uit. Tegelijkertijd zitten daar veel complexe kanten aan. Technologische, maar zeker ook maatschappelijk-ethische.”

“Wij zijn nu bezig met een transitie naar een ‘digitale en data-gedreven verzekeraar’”, vertelt Karin Bos, Directeur Schade Particulieren bij Achmea. “We vinden het heel belangrijk dat we ons niet laten leiden door de technologische push, maar dat we ook de controle houden, en weten wat dit allemaal betekent. Daarom hebben we in 2019 de hulp ingeroepen van de Universiteit Twente.”


Wie is wie?

Philip Brey (1966), filosoof van opleiding, is hoogleraar filosofie en ethiek aan de Universiteit Twente. Hij is daarnaast voorzitter van de International Society for Ethics and Information Technology (INSEIT). Van 2013 tot 2018 was hij wetenschappelijk directeur van 4TU.Ethics (zie kader). Sinds januari 2020 leidt hij het NWO-Zwaartekrachtprogramma Ethics of Socially Disruptive Technologies (zie kader).

Karin Bos (1969) is Directeur Schade Particulier bij verzekeringsbedrijf Achmea. Na haar studie accountancy vervulde ze eerst diverse bestuursfuncties bij KPMG en ABN AMRO Bank. Daarna werd ze financieel directeur van het IT-bedrijf bij Achmea, een functie waarin ze naar eigen zeggen de liefde voor technologie opvatte. Die zet ze nu in om een transitie in te zetten richting ‘digitaal en data-gedreven verzekeren’.

Hoe ziet die samenwerking eruit?
Philip: “Wij ontwikkelen nu een module ‘Data Ethics’ voor de verzekeringsbranche. Daar is een grote vraag naar; niet alleen bij Achmea en andere verzekeraars, maar ook bijvoorbeeld bij de Belastingdienst. Wij hebben het geluk dat we daarvoor kunnen putten uit de opbrengsten van zowel het 4TU.Ethics Centre als het NWO-Zwaartekrachtprogramma. Daarin werken de sterkste onderzoekers met elkaar samen. Heel mooi dat wij die opbrengsten op deze manier naar de praktijk kunnen laten vloeien.”

Karin: “Bij de transitie binnen ons bedrijf richten wij ons op vier overkoepelende thema’s: Data Science, Data en Ethiek, Business IT en Security. Voor het onderdeel ethiek kloppen we aan bij Philip en zijn collega’s. Dat is echt een onderwerp waar je experts voor nodig hebt.”

Wat voor ethiek speelt er dan in de verzekeringsbranche?
Karin: “Ons businessmodel, maar ook ons bestaansrecht, rust op het voorspellen van risico’s. Het wezen van verzekeren is dat je een risico samen draagt. Daaraan ligt solidariteit ten grondslag. Dat werkt alleen als je de belangen goed afweegt. Je wilt risico’s wel verzekerbaar houden. Dankzij toenemende hoeveelheden data kunnen wij de risico’s steeds preciezer berekenen en beprijzen. Je wilt bepaalde risico’s uitsluiten. En je wilt aan preventie doen. Maar welke data mag je daarvoor gebruiken? En hoe ver mag je daarin gaan?”

"Hoe kun je als bedrijf je maatschappelijke verantwoordelijkheid nemen, maar tegelijkertijd geld verdienen? Dat is een interessant spanningsveld."
Philip Brey, Universiteit Twente

Kun je een voorbeeld geven van de complexiteit?
Karin: “Neem nu je autoverzekering. Je betaalt minder premie als je minder vaak schade hebt. Met nieuwe technologie gaat dat verder. Als je met behulp van bijvoorbeeld een app of een dongel in de auto aantoont dat je netjes autorijdt, betaal je minder premie. Daarvoor moet je data delen met je verzekeraar. Dat klinkt logisch, maar je moet zorgen dat klanten niet gedwongen worden altijd maar al hun data te delen, voor allerlei verzekeringen. Waar leg je de grens? Zodra je gaat differentiëren tussen klanten, dan botst dat met het principe dat je samen de risico’s deelt.”

Philip: “De verzekeringsbranche is ethisch heel interessant. Het gaat erom: hoe ga je collectief om met individuele risico’s? Het gaat vaak om grote financiële belangen van de verzekerde partij. Op zichzelf zijn verzekeringen een heel mooie toevoeging aan de maatschappij, maar het is belangrijk dat ze wel rechtvaardig zijn. Ze moeten wel de autonomie, integriteit en privacy van de klanten waarborgen. Als je als bedrijf volledige kennis zou hebben van je klanten, dus precies zou weten wie wanneer ziek gaat worden of hoeveel ongelukken gaat krijgen, dan zou je allerlei groepen willen uitsluiten van een verzekering. Dat kan dus niet. Hoe kun je als bedrijf je maatschappelijke verantwoordelijkheid nemen, maar tegelijkertijd geld verdienen? Dat is een interessant spanningsveld.”

Is dat nu goed geregeld?
Karin: “We hebben steeds meer data, dus gaan steeds meer differentiëren. Achmea is meer dan tweehonderd jaar geleden ontstaan, toen een kleine groep boeren in het Friese Achlum het risico op een hooibrand deelde. De boeren kenden elkaar, ze spraken elkaar aan op hun verantwoordelijkheden. Ze deden hun uiterste best om brand te voorkomen, maar als er dan toch bij iemand brand uitbrak, dan deelden ze de kosten van de schade. Nu speelt die solidariteit een stuk verder van je bed. Mensen voelen zich soms minder verantwoordelijk om schade te voorkomen. Maar ook aan de andere kant gaat het soms mis. Door verharding van de concurrentie onder autoverzekeraars, onder meer door prijsvergelijkingssites, kunnen de premies omlaag kelderen. Een mogelijk gevolg is dat die bedrijven onvoldoende geld binnenkrijgen om te kunnen uitkeren bij schade. Er ontstaat dan bijvoorbeeld een perverse prikkel om extreem op de kleine lettertjes te gaan letten. Dus je wilt ergens in het midden gaan zitten. Je wilt een product aanbieden dat fair is voor beide partijen.”

Philip: “Wat Karin hier laat zien is dat ethische dilemma’s vaak ook economische, maatschappelijke of organisatorische dilemma’s zijn.”

"Als je ergens gaat zoeken, zeker met artificial intelligence, dan vind je altijd wel wat. Daarom moet er altijd een menselijke controlestap in zitten."
Karin Bos

Hoe ga je daar dan mee om?
Philip: “Op een heel elementaire manier: door het bespreekbaar te maken. Door je normen en waarden vast te leggen. Dat kun je heel systematisch doen, en dan heel systematisch naar een oplossing toe werken. Dus het herkennen, analyseren en bespreken van een dilemma, om vervolgens samen te werken aan een gerichte oplossing die ook de economische en maatschappelijke en al die andere aspecten meeneemt.”

Zijn daar protocollen voor?
Philip: “Ja, maar die verschillen per branche en per onderwerp. In veel branches heb je ethische richtlijnen of codes, die je een denkrichting geven. Dat is nog een vrij grof stuk gereedschap. Daarnaast zijn er methoden voor systematische, ethische analyse, met specialistische instrumenten per context.”

Karin: “Onze branche is op die manier al behoorlijk gereguleerd. Veel ervan is ook in de wet vastgelegd. Voordat een nieuw product bijvoorbeeld goedkeuring kan krijgen, moeten we aantonen dat we een evenwichtige belangenafweging hebben gemaakt. Daar zijn handvatten voor : welke indicatoren je kunt gebruiken om de belangen van alle betrokken partijen af te wegen. En het einde is nog niet in zicht: hoe meer data we hebben, hoe belangrijker dit wordt.” 

Hoe helpt de samenwerking met de universiteit daarbij?
Philip: “Wij hebben in de loop der jaren al veel kennis vergaard over zaken als big data en artificial intelligence en hoe je daarmee kunt omgaan. Die kennis proberen wij te verwerken in onze modules voor de verzekeringsbranche en de Belastingdienst. Mensen denken daarbij vaak allereerst aan privacy, maar dat is lang niet het enige ethische aspect. Rechtvaardigheid is ook een hele belangrijke. Hoe voorkom je dat je bepaalde groepen onrechtvaardig behandelt? Dat speelt nu bijvoorbeeld heel duidelijk bij de Toeslagenaffaire.”

Karin: “Wij hebben bijvoorbeeld ook te maken met fraude. Je gaat dan natuurlijk zoeken naar patronen die daarop kunnen duiden. Maar als je ergens gaat zoeken, zeker met artificial intelligence, dan vind je altijd wel wat. Daarom moet er altijd een menselijke controlestap in zitten. En moet je de menselijke maat in het oog houden. Wij hebben bijvoorbeeld een Pechvogeltraject, voor mensen die bovengemiddeld veel schade claimen. Daarbij kijken we per persoon: hoe kan het dat deze persoon zo veel schade heeft, en kunnen wij helpen die te voorkomen? Dat is een heel andere benadering dan automatisch uitgaan van fraude.”

Philip: “Ik zit even te lachen omdat ik zelf een tijdje zo’n veelclaimer was. Ik had een paar keer achter elkaar pech met huizen en inboedels, en toen kreeg ik ook nog te maken met de vuurwerkramp. Maar goed. Excessen zoals de Toeslagenaffaire…. Alles begint met bewustwording. Mensen moeten systematisch blijven stilstaan bij de vraag: wat doen we, en wat kan daarbij misgaan?”

Philip, jullie brengen dus kennis bij die bedrijven. Halen jullie bij hen ook iets op?
Philip: “Achmea is een heel prettige samenwerkingspartner. Ze hebben daar al veel nagedacht, veel casussen vergaard. Die zijn heel nuttig voor hun eigen ontwikkeling, maar ook voor ons onderzoek. We krijgen daardoor uniek inzicht in de vraagstukken in die branche. Wij zijn constant op zoek naar die link met de praktijk. We willen niet vanuit onze ivoren toren allerlei mooie theorieën bedenken, maar iets ontwikkelen waar de praktijk ook echt iets aan heeft.”

Karin: “Voor ons is het voordeel dat we naar buiten blijven kijken, ook over de grenzen van onze branche heen.”

Philip: “Het voordeel van deze samenwerking is dat wij daarmee ook kunnen onderzoeken hoe onze basisbegrippen worden uitgedaagd door nieuwe technologieën. Bijvoorbeeld ‘de mens’, ‘privacy’, ‘rechtvaardigheid’, ‘natuurlijkheid’. Wat is dat eigenlijk? Nieuwe technologie kan ons begrip daarvan veranderen. Privacy betekent nu echt iets heel anders dan honderd jaar geleden. Op diezelfde manier kun je je afvragen of het begrip ‘risico’ niet ook verandert.”

Karin: “Wij hadden daar laatst nog een interessante discussie over. Zouden we ook niet een cyberverzekering voor consumenten moeten aanbieden? Dat je als klant wordt geholpen als al jouw data opeens op straat liggen?”

Philip: “Een heel interessante vraag. Vijftig jaar geleden waren we nog een industriële samenleving, nu een informatiesamenleving. Daar horen heel andere risico’s bij. De risico’s zijn steeds minder materieel, steeds meer informationeel. Daar moet je dus ook ethisch gezien anders mee omgaan.”

Karin: “Tegelijkertijd: het lopen van risico is van alle tijden. De mate van risico is ook een kwestie van perceptie. Er zijn nu minder inbraken en auto-ongelukken dan een paar decennia geleden, maar er zijn nieuwe risico’s voor in de plaats gekomen.”

"Context, motivatie, complexe oorzaak-gevolgrelaties: daar kan big data allemaal niet mee omgaan. Dat zullen ménsen moeten blijven doen."
Philip Brey

De trend is wel dat jullie, dankzij big data, risico’s steeds fijnmaziger kunnen voorspellen.
Karin: “Dat klopt. De vraag is dus hoe ver je daarin wilt gaan. Profileren op basis van gedrag is toegestaan. Maar als je niet uitkijkt, krijg je dan toch groepen die onverzekerbaar zijn, en die eruit rollen als je data gaat analyseren. Daar komt weer die menselijke maat om de hoek kijken.”

Philip: “Context, motivatie, complexe oorzaak-gevolgrelaties: daar kan big data allemaal niet mee omgaan. Dat zullen ménsen moeten blijven doen. Tegelijkertijd: mensen kunnen net zo erg zijn als machines. Dat zagen we bij de Toeslagenaffaire.”

Karin: “Het blijft een kwestie van de menselijke maat en solidariteit. En nog één ding: we hebben het nu wel steeds over de schaduwzijde van big data, en de ethische dilemma’s. Maar laten we vooral niet vergeten dat er ook pósitieve kanten aanzitten. Dankzij big data kunnen we klanten juist ook maatwerk bieden en helpen schade te voorkomen.”

4TU.Centre for Ethics and Technology

Het 4TU.Centre for Ethics and Technology richt zich op onderzoek, onderwijs en informatieuitwisseling over de ethische kanten van technologische ontwikkelingen. Onderzoek richt zich bijvoorbeeld op duurzame ethiek voor toekomstige energiesystemen, verantwoording voor en gebruik van geavanceerde medische beelden, en ethische aspecten van biosecurity. De werkterreinen omvatten onder meer informatie- en communicatietechnologie, biomedische, milieu- en nanotechnologie, industrieel ontwerp, architectuur en stadsplanning, en neuro- en cognitieve technologie.

Het centrum treedt actief in contact met bijvoorbeeld media, ngo’s, beleidsmakers, bedrijven en het brede publiek om ethische aspecten van technologie op de agenda te zetten.

NWO-Zwaartekrachtprogramma Ethics of Socially Disruptive Technologies

Topwetenschappers op het gebied van ethiek en filosofie kregen in 2019 een NWO-Zwaartekrachtsubsidie toegekend van in totaal 17,9 miljoen euro voor onderzoek naar ethische kanten van nieuwe technologieën. Het programma, dat een looptijd heeft van tien jaar, is een samenwerking van onderzoekers van de Universiteit Twente, TU Delft, TU Eindhoven en Universiteit Utrecht, waarin ook Wageningen University & Research, Universiteit Leiden en Universitair Medisch Centrum Utrecht deelnemen.

De onderzoekers gaan aloude filosofische kernbegrippen herzien, zoals autonomie, rechtvaardigheid en verantwoordelijkheid, die door technologische ontwikkelingen worden uitgedaagd. Dat moet leiden tot een vernieuwende blik en meer grip op de grote veranderingen die nieuwe technologieën teweeg kunnen brengen op het gebied van bijvoorbeeld kunstmatige intelligentie, synthetische biologie en klimaattechnologie.

Tekst: Nienke Beintema | Fotografie: Dieuwertje Bravenboer

Laveren tussen de ethische valkuilen van de datagedreven wereld

4TU.techtalks | Er gaat geen dag voorbij of nieuwe technologieën zien het licht. Van robotica tot precisiemedicijnen en van IT tot klimaattechnologie: veel van de innovaties op deze terreinen brengen grote veranderingen teweeg in hoe we leven en met elkaar omgaan. Daar zitten veel voordelen aan, maar ook risico’s. Verzekeraar Achmea wil zich daar verantwoord op voorbereiden en krijgt daarbij hulp vanuit 4TU. 

"Je wilt bepaalde risico’s uitsluiten. En je wilt aan preventie doen. Maar welke data mag je daarvoor gebruiken? En hoe ver mag je daarin gaan?"
Karin Bos, Achmea

Niemand kan ertegen zijn: nieuwe technologieën moeten duurzaam zijn, democratisch en rechtvaardig. Ze moeten de gebruikers autonomie bieden, en veiligheid en privacy. Maar wat houden die waarden eigenlijk in? Zijn ze universeel, of voor verschillende interpretaties vatbaar? Wie bepaalt eigenlijk wat er wel en niet mag, wie besluit er over risico's bij technologische ontwerpen? En hoe worden onze normen en waarden zélf beïnvloed door technologische ontwikkelingen?

Het zijn allemaal extreem complexe vragen die niemand een-twee-drie kan beantwoorden. Toch is het nodig dat mensen daarover nadenken en debatteren, om gezamenlijk te komen tot kaders voor nieuwe ontwikkelingen. Steeds vaker praten niet alleen technologen en bestuurders daarover mee, maar ook ethici en filosofen. Die zijn getraind in het kijken voorbij de grenzen van vakgebieden, bedrijfssectoren, culturen en generaties.

“De wereld is nu zo totaal anders dan pakweg 20 jaar geleden”, zegt Philip Brey, hoogleraar filosofie en ethiek aan de Universiteit Twente. “Aan de basis van veel ontwikkelingen ligt wat we nu ‘big data’ noemen: enorme hoeveelheden gegevens. Voor veel organisaties zijn die heel belangrijk geworden. Ze halen er allerlei waardevolle informatie uit. Tegelijkertijd zitten daar veel complexe kanten aan. Technologische, maar zeker ook maatschappelijk-ethische.”

“Wij zijn nu bezig met een transitie naar een ‘digitale en data-gedreven verzekeraar’”, vertelt Karin Bos, Directeur Schade Particulieren bij Achmea. “We vinden het heel belangrijk dat we ons niet laten leiden door de technologische push, maar dat we ook de controle houden, en weten wat dit allemaal betekent. Daarom hebben we in 2019 de hulp ingeroepen van de Universiteit Twente.”


Wie is wie?

Philip Brey (1966), filosoof van opleiding, is hoogleraar filosofie en ethiek aan de Universiteit Twente. Hij is daarnaast voorzitter van de International Society for Ethics and Information Technology (INSEIT). Van 2013 tot 2018 was hij wetenschappelijk directeur van 4TU.Ethics (zie kader). Sinds januari 2020 leidt hij het NWO-Zwaartekrachtprogramma Ethics of Socially Disruptive Technologies (zie kader).

Karin Bos (1969) is Directeur Schade Particulier bij verzekeringsbedrijf Achmea. Na haar studie accountancy vervulde ze eerst diverse bestuursfuncties bij KPMG en ABN AMRO Bank. Daarna werd ze financieel directeur van het IT-bedrijf bij Achmea, een functie waarin ze naar eigen zeggen de liefde voor technologie opvatte. Die zet ze nu in om een transitie in te zetten richting ‘digitaal en data-gedreven verzekeren’.

Hoe ziet die samenwerking eruit?
Philip: “Wij ontwikkelen nu een module ‘Data Ethics’ voor de verzekeringsbranche. Daar is een grote vraag naar; niet alleen bij Achmea en andere verzekeraars, maar ook bijvoorbeeld bij de Belastingdienst. Wij hebben het geluk dat we daarvoor kunnen putten uit de opbrengsten van zowel het 4TU.Ethics Centre als het NWO-Zwaartekrachtprogramma. Daarin werken de sterkste onderzoekers met elkaar samen. Heel mooi dat wij die opbrengsten op deze manier naar de praktijk kunnen laten vloeien.”

Karin: “Bij de transitie binnen ons bedrijf richten wij ons op vier overkoepelende thema’s: Data Science, Data en Ethiek, Business IT en Security. Voor het onderdeel ethiek kloppen we aan bij Philip en zijn collega’s. Dat is echt een onderwerp waar je experts voor nodig hebt.”

Wat voor ethiek speelt er dan in de verzekeringsbranche?
Karin: “Ons businessmodel, maar ook ons bestaansrecht, rust op het voorspellen van risico’s. Het wezen van verzekeren is dat je een risico samen draagt. Daaraan ligt solidariteit ten grondslag. Dat werkt alleen als je de belangen goed afweegt. Je wilt risico’s wel verzekerbaar houden. Dankzij toenemende hoeveelheden data kunnen wij de risico’s steeds preciezer berekenen en beprijzen. Je wilt bepaalde risico’s uitsluiten. En je wilt aan preventie doen. Maar welke data mag je daarvoor gebruiken? En hoe ver mag je daarin gaan?”

"Hoe kun je als bedrijf je maatschappelijke verantwoordelijkheid nemen, maar tegelijkertijd geld verdienen? Dat is een interessant spanningsveld."
Philip Brey, Universiteit Twente

Kun je een voorbeeld geven van de complexiteit?
Karin: “Neem nu je autoverzekering. Je betaalt minder premie als je minder vaak schade hebt. Met nieuwe technologie gaat dat verder. Als je met behulp van bijvoorbeeld een app of een dongel in de auto aantoont dat je netjes autorijdt, betaal je minder premie. Daarvoor moet je data delen met je verzekeraar. Dat klinkt logisch, maar je moet zorgen dat klanten niet gedwongen worden altijd maar al hun data te delen, voor allerlei verzekeringen. Waar leg je de grens? Zodra je gaat differentiëren tussen klanten, dan botst dat met het principe dat je samen de risico’s deelt.”

Philip: “De verzekeringsbranche is ethisch heel interessant. Het gaat erom: hoe ga je collectief om met individuele risico’s? Het gaat vaak om grote financiële belangen van de verzekerde partij. Op zichzelf zijn verzekeringen een heel mooie toevoeging aan de maatschappij, maar het is belangrijk dat ze wel rechtvaardig zijn. Ze moeten wel de autonomie, integriteit en privacy van de klanten waarborgen. Als je als bedrijf volledige kennis zou hebben van je klanten, dus precies zou weten wie wanneer ziek gaat worden of hoeveel ongelukken gaat krijgen, dan zou je allerlei groepen willen uitsluiten van een verzekering. Dat kan dus niet. Hoe kun je als bedrijf je maatschappelijke verantwoordelijkheid nemen, maar tegelijkertijd geld verdienen? Dat is een interessant spanningsveld.”

Is dat nu goed geregeld?
Karin: “We hebben steeds meer data, dus gaan steeds meer differentiëren. Achmea is meer dan tweehonderd jaar geleden ontstaan, toen een kleine groep boeren in het Friese Achlum het risico op een hooibrand deelde. De boeren kenden elkaar, ze spraken elkaar aan op hun verantwoordelijkheden. Ze deden hun uiterste best om brand te voorkomen, maar als er dan toch bij iemand brand uitbrak, dan deelden ze de kosten van de schade. Nu speelt die solidariteit een stuk verder van je bed. Mensen voelen zich soms minder verantwoordelijk om schade te voorkomen. Maar ook aan de andere kant gaat het soms mis. Door verharding van de concurrentie onder autoverzekeraars, onder meer door prijsvergelijkingssites, kunnen de premies omlaag kelderen. Een mogelijk gevolg is dat die bedrijven onvoldoende geld binnenkrijgen om te kunnen uitkeren bij schade. Er ontstaat dan bijvoorbeeld een perverse prikkel om extreem op de kleine lettertjes te gaan letten. Dus je wilt ergens in het midden gaan zitten. Je wilt een product aanbieden dat fair is voor beide partijen.”

Philip: “Wat Karin hier laat zien is dat ethische dilemma’s vaak ook economische, maatschappelijke of organisatorische dilemma’s zijn.”

"Als je ergens gaat zoeken, zeker met artificial intelligence, dan vind je altijd wel wat. Daarom moet er altijd een menselijke controlestap in zitten."
Karin Bos

Hoe ga je daar dan mee om?
Philip: “Op een heel elementaire manier: door het bespreekbaar te maken. Door je normen en waarden vast te leggen. Dat kun je heel systematisch doen, en dan heel systematisch naar een oplossing toe werken. Dus het herkennen, analyseren en bespreken van een dilemma, om vervolgens samen te werken aan een gerichte oplossing die ook de economische en maatschappelijke en al die andere aspecten meeneemt.”

Zijn daar protocollen voor?
Philip: “Ja, maar die verschillen per branche en per onderwerp. In veel branches heb je ethische richtlijnen of codes, die je een denkrichting geven. Dat is nog een vrij grof stuk gereedschap. Daarnaast zijn er methoden voor systematische, ethische analyse, met specialistische instrumenten per context.”

Karin: “Onze branche is op die manier al behoorlijk gereguleerd. Veel ervan is ook in de wet vastgelegd. Voordat een nieuw product bijvoorbeeld goedkeuring kan krijgen, moeten we aantonen dat we een evenwichtige belangenafweging hebben gemaakt. Daar zijn handvatten voor : welke indicatoren je kunt gebruiken om de belangen van alle betrokken partijen af te wegen. En het einde is nog niet in zicht: hoe meer data we hebben, hoe belangrijker dit wordt.” 

Hoe helpt de samenwerking met de universiteit daarbij?
Philip: “Wij hebben in de loop der jaren al veel kennis vergaard over zaken als big data en artificial intelligence en hoe je daarmee kunt omgaan. Die kennis proberen wij te verwerken in onze modules voor de verzekeringsbranche en de Belastingdienst. Mensen denken daarbij vaak allereerst aan privacy, maar dat is lang niet het enige ethische aspect. Rechtvaardigheid is ook een hele belangrijke. Hoe voorkom je dat je bepaalde groepen onrechtvaardig behandelt? Dat speelt nu bijvoorbeeld heel duidelijk bij de Toeslagenaffaire.”

Karin: “Wij hebben bijvoorbeeld ook te maken met fraude. Je gaat dan natuurlijk zoeken naar patronen die daarop kunnen duiden. Maar als je ergens gaat zoeken, zeker met artificial intelligence, dan vind je altijd wel wat. Daarom moet er altijd een menselijke controlestap in zitten. En moet je de menselijke maat in het oog houden. Wij hebben bijvoorbeeld een Pechvogeltraject, voor mensen die bovengemiddeld veel schade claimen. Daarbij kijken we per persoon: hoe kan het dat deze persoon zo veel schade heeft, en kunnen wij helpen die te voorkomen? Dat is een heel andere benadering dan automatisch uitgaan van fraude.”

Philip: “Ik zit even te lachen omdat ik zelf een tijdje zo’n veelclaimer was. Ik had een paar keer achter elkaar pech met huizen en inboedels, en toen kreeg ik ook nog te maken met de vuurwerkramp. Maar goed. Excessen zoals de Toeslagenaffaire…. Alles begint met bewustwording. Mensen moeten systematisch blijven stilstaan bij de vraag: wat doen we, en wat kan daarbij misgaan?”

Philip, jullie brengen dus kennis bij die bedrijven. Halen jullie bij hen ook iets op?
Philip: “Achmea is een heel prettige samenwerkingspartner. Ze hebben daar al veel nagedacht, veel casussen vergaard. Die zijn heel nuttig voor hun eigen ontwikkeling, maar ook voor ons onderzoek. We krijgen daardoor uniek inzicht in de vraagstukken in die branche. Wij zijn constant op zoek naar die link met de praktijk. We willen niet vanuit onze ivoren toren allerlei mooie theorieën bedenken, maar iets ontwikkelen waar de praktijk ook echt iets aan heeft.”

Karin: “Voor ons is het voordeel dat we naar buiten blijven kijken, ook over de grenzen van onze branche heen.”

Philip: “Het voordeel van deze samenwerking is dat wij daarmee ook kunnen onderzoeken hoe onze basisbegrippen worden uitgedaagd door nieuwe technologieën. Bijvoorbeeld ‘de mens’, ‘privacy’, ‘rechtvaardigheid’, ‘natuurlijkheid’. Wat is dat eigenlijk? Nieuwe technologie kan ons begrip daarvan veranderen. Privacy betekent nu echt iets heel anders dan honderd jaar geleden. Op diezelfde manier kun je je afvragen of het begrip ‘risico’ niet ook verandert.”

Karin: “Wij hadden daar laatst nog een interessante discussie over. Zouden we ook niet een cyberverzekering voor consumenten moeten aanbieden? Dat je als klant wordt geholpen als al jouw data opeens op straat liggen?”

Philip: “Een heel interessante vraag. Vijftig jaar geleden waren we nog een industriële samenleving, nu een informatiesamenleving. Daar horen heel andere risico’s bij. De risico’s zijn steeds minder materieel, steeds meer informationeel. Daar moet je dus ook ethisch gezien anders mee omgaan.”

Karin: “Tegelijkertijd: het lopen van risico is van alle tijden. De mate van risico is ook een kwestie van perceptie. Er zijn nu minder inbraken en auto-ongelukken dan een paar decennia geleden, maar er zijn nieuwe risico’s voor in de plaats gekomen.”

"Context, motivatie, complexe oorzaak-gevolgrelaties: daar kan big data allemaal niet mee omgaan. Dat zullen ménsen moeten blijven doen."
Philip Brey

De trend is wel dat jullie, dankzij big data, risico’s steeds fijnmaziger kunnen voorspellen.
Karin: “Dat klopt. De vraag is dus hoe ver je daarin wilt gaan. Profileren op basis van gedrag is toegestaan. Maar als je niet uitkijkt, krijg je dan toch groepen die onverzekerbaar zijn, en die eruit rollen als je data gaat analyseren. Daar komt weer die menselijke maat om de hoek kijken.”

Philip: “Context, motivatie, complexe oorzaak-gevolgrelaties: daar kan big data allemaal niet mee omgaan. Dat zullen ménsen moeten blijven doen. Tegelijkertijd: mensen kunnen net zo erg zijn als machines. Dat zagen we bij de Toeslagenaffaire.”

Karin: “Het blijft een kwestie van de menselijke maat en solidariteit. En nog één ding: we hebben het nu wel steeds over de schaduwzijde van big data, en de ethische dilemma’s. Maar laten we vooral niet vergeten dat er ook pósitieve kanten aanzitten. Dankzij big data kunnen we klanten juist ook maatwerk bieden en helpen schade te voorkomen.”

4TU.Centre for Ethics and Technology

Het 4TU.Centre for Ethics and Technology richt zich op onderzoek, onderwijs en informatieuitwisseling over de ethische kanten van technologische ontwikkelingen. Onderzoek richt zich bijvoorbeeld op duurzame ethiek voor toekomstige energiesystemen, verantwoording voor en gebruik van geavanceerde medische beelden, en ethische aspecten van biosecurity. De werkterreinen omvatten onder meer informatie- en communicatietechnologie, biomedische, milieu- en nanotechnologie, industrieel ontwerp, architectuur en stadsplanning, en neuro- en cognitieve technologie.

Het centrum treedt actief in contact met bijvoorbeeld media, ngo’s, beleidsmakers, bedrijven en het brede publiek om ethische aspecten van technologie op de agenda te zetten.

NWO-Zwaartekrachtprogramma Ethics of Socially Disruptive Technologies

Topwetenschappers op het gebied van ethiek en filosofie kregen in 2019 een NWO-Zwaartekrachtsubsidie toegekend van in totaal 17,9 miljoen euro voor onderzoek naar ethische kanten van nieuwe technologieën. Het programma, dat een looptijd heeft van tien jaar, is een samenwerking van onderzoekers van de Universiteit Twente, TU Delft, TU Eindhoven en Universiteit Utrecht, waarin ook Wageningen University & Research, Universiteit Leiden en Universitair Medisch Centrum Utrecht deelnemen.

De onderzoekers gaan aloude filosofische kernbegrippen herzien, zoals autonomie, rechtvaardigheid en verantwoordelijkheid, die door technologische ontwikkelingen worden uitgedaagd. Dat moet leiden tot een vernieuwende blik en meer grip op de grote veranderingen die nieuwe technologieën teweeg kunnen brengen op het gebied van bijvoorbeeld kunstmatige intelligentie, synthetische biologie en klimaattechnologie.

#4 Techniekethiek

Tekst: Nienke Beintema | Fotografie: Dieuwertje Bravenboer

Laveren tussen de ethische valkuilen van de datagedreven wereld

4TU.techtalks | Er gaat geen dag voorbij of nieuwe technologieën zien het licht. Van robotica tot precisiemedicijnen en van IT tot klimaattechnologie: veel van de innovaties op deze terreinen brengen grote veranderingen teweeg in hoe we leven en met elkaar omgaan. Daar zitten veel voordelen aan, maar ook risico’s. Verzekeraar Achmea wil zich daar verantwoord op voorbereiden en krijgt daarbij hulp vanuit 4TU. 

"Je wilt bepaalde risico’s uitsluiten. En je wilt aan preventie doen. Maar welke data mag je daarvoor gebruiken? En hoe ver mag je daarin gaan?"
Karin Bos, Achmea

Niemand kan ertegen zijn: nieuwe technologieën moeten duurzaam zijn, democratisch en rechtvaardig. Ze moeten de gebruikers autonomie bieden, en veiligheid en privacy. Maar wat houden die waarden eigenlijk in? Zijn ze universeel, of voor verschillende interpretaties vatbaar? Wie bepaalt eigenlijk wat er wel en niet mag, wie besluit er over risico's bij technologische ontwerpen? En hoe worden onze normen en waarden zélf beïnvloed door technologische ontwikkelingen?

Het zijn allemaal extreem complexe vragen die niemand een-twee-drie kan beantwoorden. Toch is het nodig dat mensen daarover nadenken en debatteren, om gezamenlijk te komen tot kaders voor nieuwe ontwikkelingen. Steeds vaker praten niet alleen technologen en bestuurders daarover mee, maar ook ethici en filosofen. Die zijn getraind in het kijken voorbij de grenzen van vakgebieden, bedrijfssectoren, culturen en generaties.

“De wereld is nu zo totaal anders dan pakweg 20 jaar geleden”, zegt Philip Brey, hoogleraar filosofie en ethiek aan de Universiteit Twente. “Aan de basis van veel ontwikkelingen ligt wat we nu ‘big data’ noemen: enorme hoeveelheden gegevens. Voor veel organisaties zijn die heel belangrijk geworden. Ze halen er allerlei waardevolle informatie uit. Tegelijkertijd zitten daar veel complexe kanten aan. Technologische, maar zeker ook maatschappelijk-ethische.”

“Wij zijn nu bezig met een transitie naar een ‘digitale en data-gedreven verzekeraar’”, vertelt Karin Bos, Directeur Schade Particulieren bij Achmea. “We vinden het heel belangrijk dat we ons niet laten leiden door de technologische push, maar dat we ook de controle houden, en weten wat dit allemaal betekent. Daarom hebben we in 2019 de hulp ingeroepen van de Universiteit Twente.”


Wie is wie?

Philip Brey (1966), filosoof van opleiding, is hoogleraar filosofie en ethiek aan de Universiteit Twente. Hij is daarnaast voorzitter van de International Society for Ethics and Information Technology (INSEIT). Van 2013 tot 2018 was hij wetenschappelijk directeur van 4TU.Ethics (zie kader). Sinds januari 2020 leidt hij het NWO-Zwaartekrachtprogramma Ethics of Socially Disruptive Technologies (zie kader).

Karin Bos (1969) is Directeur Schade Particulier bij verzekeringsbedrijf Achmea. Na haar studie accountancy vervulde ze eerst diverse bestuursfuncties bij KPMG en ABN AMRO Bank. Daarna werd ze financieel directeur van het IT-bedrijf bij Achmea, een functie waarin ze naar eigen zeggen de liefde voor technologie opvatte. Die zet ze nu in om een transitie in te zetten richting ‘digitaal en data-gedreven verzekeren’.

Hoe ziet die samenwerking eruit?
Philip: “Wij ontwikkelen nu een module ‘Data Ethics’ voor de verzekeringsbranche. Daar is een grote vraag naar; niet alleen bij Achmea en andere verzekeraars, maar ook bijvoorbeeld bij de Belastingdienst. Wij hebben het geluk dat we daarvoor kunnen putten uit de opbrengsten van zowel het 4TU.Ethics Centre als het NWO-Zwaartekrachtprogramma. Daarin werken de sterkste onderzoekers met elkaar samen. Heel mooi dat wij die opbrengsten op deze manier naar de praktijk kunnen laten vloeien.”

Karin: “Bij de transitie binnen ons bedrijf richten wij ons op vier overkoepelende thema’s: Data Science, Data en Ethiek, Business IT en Security. Voor het onderdeel ethiek kloppen we aan bij Philip en zijn collega’s. Dat is echt een onderwerp waar je experts voor nodig hebt.”

Wat voor ethiek speelt er dan in de verzekeringsbranche?
Karin: “Ons businessmodel, maar ook ons bestaansrecht, rust op het voorspellen van risico’s. Het wezen van verzekeren is dat je een risico samen draagt. Daaraan ligt solidariteit ten grondslag. Dat werkt alleen als je de belangen goed afweegt. Je wilt risico’s wel verzekerbaar houden. Dankzij toenemende hoeveelheden data kunnen wij de risico’s steeds preciezer berekenen en beprijzen. Je wilt bepaalde risico’s uitsluiten. En je wilt aan preventie doen. Maar welke data mag je daarvoor gebruiken? En hoe ver mag je daarin gaan?”

"Hoe kun je als bedrijf je maatschappelijke verantwoordelijkheid nemen, maar tegelijkertijd geld verdienen? Dat is een interessant spanningsveld."
Philip Brey, Universiteit Twente

Kun je een voorbeeld geven van de complexiteit?
Karin: “Neem nu je autoverzekering. Je betaalt minder premie als je minder vaak schade hebt. Met nieuwe technologie gaat dat verder. Als je met behulp van bijvoorbeeld een app of een dongel in de auto aantoont dat je netjes autorijdt, betaal je minder premie. Daarvoor moet je data delen met je verzekeraar. Dat klinkt logisch, maar je moet zorgen dat klanten niet gedwongen worden altijd maar al hun data te delen, voor allerlei verzekeringen. Waar leg je de grens? Zodra je gaat differentiëren tussen klanten, dan botst dat met het principe dat je samen de risico’s deelt.”

Philip: “De verzekeringsbranche is ethisch heel interessant. Het gaat erom: hoe ga je collectief om met individuele risico’s? Het gaat vaak om grote financiële belangen van de verzekerde partij. Op zichzelf zijn verzekeringen een heel mooie toevoeging aan de maatschappij, maar het is belangrijk dat ze wel rechtvaardig zijn. Ze moeten wel de autonomie, integriteit en privacy van de klanten waarborgen. Als je als bedrijf volledige kennis zou hebben van je klanten, dus precies zou weten wie wanneer ziek gaat worden of hoeveel ongelukken gaat krijgen, dan zou je allerlei groepen willen uitsluiten van een verzekering. Dat kan dus niet. Hoe kun je als bedrijf je maatschappelijke verantwoordelijkheid nemen, maar tegelijkertijd geld verdienen? Dat is een interessant spanningsveld.”

Is dat nu goed geregeld?
Karin: “We hebben steeds meer data, dus gaan steeds meer differentiëren. Achmea is meer dan tweehonderd jaar geleden ontstaan, toen een kleine groep boeren in het Friese Achlum het risico op een hooibrand deelde. De boeren kenden elkaar, ze spraken elkaar aan op hun verantwoordelijkheden. Ze deden hun uiterste best om brand te voorkomen, maar als er dan toch bij iemand brand uitbrak, dan deelden ze de kosten van de schade. Nu speelt die solidariteit een stuk verder van je bed. Mensen voelen zich soms minder verantwoordelijk om schade te voorkomen. Maar ook aan de andere kant gaat het soms mis. Door verharding van de concurrentie onder autoverzekeraars, onder meer door prijsvergelijkingssites, kunnen de premies omlaag kelderen. Een mogelijk gevolg is dat die bedrijven onvoldoende geld binnenkrijgen om te kunnen uitkeren bij schade. Er ontstaat dan bijvoorbeeld een perverse prikkel om extreem op de kleine lettertjes te gaan letten. Dus je wilt ergens in het midden gaan zitten. Je wilt een product aanbieden dat fair is voor beide partijen.”

Philip: “Wat Karin hier laat zien is dat ethische dilemma’s vaak ook economische, maatschappelijke of organisatorische dilemma’s zijn.”

"Als je ergens gaat zoeken, zeker met artificial intelligence, dan vind je altijd wel wat. Daarom moet er altijd een menselijke controlestap in zitten."
Karin Bos

Hoe ga je daar dan mee om?
Philip: “Op een heel elementaire manier: door het bespreekbaar te maken. Door je normen en waarden vast te leggen. Dat kun je heel systematisch doen, en dan heel systematisch naar een oplossing toe werken. Dus het herkennen, analyseren en bespreken van een dilemma, om vervolgens samen te werken aan een gerichte oplossing die ook de economische en maatschappelijke en al die andere aspecten meeneemt.”

Zijn daar protocollen voor?
Philip: “Ja, maar die verschillen per branche en per onderwerp. In veel branches heb je ethische richtlijnen of codes, die je een denkrichting geven. Dat is nog een vrij grof stuk gereedschap. Daarnaast zijn er methoden voor systematische, ethische analyse, met specialistische instrumenten per context.”

Karin: “Onze branche is op die manier al behoorlijk gereguleerd. Veel ervan is ook in de wet vastgelegd. Voordat een nieuw product bijvoorbeeld goedkeuring kan krijgen, moeten we aantonen dat we een evenwichtige belangenafweging hebben gemaakt. Daar zijn handvatten voor : welke indicatoren je kunt gebruiken om de belangen van alle betrokken partijen af te wegen. En het einde is nog niet in zicht: hoe meer data we hebben, hoe belangrijker dit wordt.” 

Hoe helpt de samenwerking met de universiteit daarbij?
Philip: “Wij hebben in de loop der jaren al veel kennis vergaard over zaken als big data en artificial intelligence en hoe je daarmee kunt omgaan. Die kennis proberen wij te verwerken in onze modules voor de verzekeringsbranche en de Belastingdienst. Mensen denken daarbij vaak allereerst aan privacy, maar dat is lang niet het enige ethische aspect. Rechtvaardigheid is ook een hele belangrijke. Hoe voorkom je dat je bepaalde groepen onrechtvaardig behandelt? Dat speelt nu bijvoorbeeld heel duidelijk bij de Toeslagenaffaire.”

Karin: “Wij hebben bijvoorbeeld ook te maken met fraude. Je gaat dan natuurlijk zoeken naar patronen die daarop kunnen duiden. Maar als je ergens gaat zoeken, zeker met artificial intelligence, dan vind je altijd wel wat. Daarom moet er altijd een menselijke controlestap in zitten. En moet je de menselijke maat in het oog houden. Wij hebben bijvoorbeeld een Pechvogeltraject, voor mensen die bovengemiddeld veel schade claimen. Daarbij kijken we per persoon: hoe kan het dat deze persoon zo veel schade heeft, en kunnen wij helpen die te voorkomen? Dat is een heel andere benadering dan automatisch uitgaan van fraude.”

Philip: “Ik zit even te lachen omdat ik zelf een tijdje zo’n veelclaimer was. Ik had een paar keer achter elkaar pech met huizen en inboedels, en toen kreeg ik ook nog te maken met de vuurwerkramp. Maar goed. Excessen zoals de Toeslagenaffaire…. Alles begint met bewustwording. Mensen moeten systematisch blijven stilstaan bij de vraag: wat doen we, en wat kan daarbij misgaan?”

Philip, jullie brengen dus kennis bij die bedrijven. Halen jullie bij hen ook iets op?
Philip: “Achmea is een heel prettige samenwerkingspartner. Ze hebben daar al veel nagedacht, veel casussen vergaard. Die zijn heel nuttig voor hun eigen ontwikkeling, maar ook voor ons onderzoek. We krijgen daardoor uniek inzicht in de vraagstukken in die branche. Wij zijn constant op zoek naar die link met de praktijk. We willen niet vanuit onze ivoren toren allerlei mooie theorieën bedenken, maar iets ontwikkelen waar de praktijk ook echt iets aan heeft.”

Karin: “Voor ons is het voordeel dat we naar buiten blijven kijken, ook over de grenzen van onze branche heen.”

Philip: “Het voordeel van deze samenwerking is dat wij daarmee ook kunnen onderzoeken hoe onze basisbegrippen worden uitgedaagd door nieuwe technologieën. Bijvoorbeeld ‘de mens’, ‘privacy’, ‘rechtvaardigheid’, ‘natuurlijkheid’. Wat is dat eigenlijk? Nieuwe technologie kan ons begrip daarvan veranderen. Privacy betekent nu echt iets heel anders dan honderd jaar geleden. Op diezelfde manier kun je je afvragen of het begrip ‘risico’ niet ook verandert.”

Karin: “Wij hadden daar laatst nog een interessante discussie over. Zouden we ook niet een cyberverzekering voor consumenten moeten aanbieden? Dat je als klant wordt geholpen als al jouw data opeens op straat liggen?”

Philip: “Een heel interessante vraag. Vijftig jaar geleden waren we nog een industriële samenleving, nu een informatiesamenleving. Daar horen heel andere risico’s bij. De risico’s zijn steeds minder materieel, steeds meer informationeel. Daar moet je dus ook ethisch gezien anders mee omgaan.”

Karin: “Tegelijkertijd: het lopen van risico is van alle tijden. De mate van risico is ook een kwestie van perceptie. Er zijn nu minder inbraken en auto-ongelukken dan een paar decennia geleden, maar er zijn nieuwe risico’s voor in de plaats gekomen.”

"Context, motivatie, complexe oorzaak-gevolgrelaties: daar kan big data allemaal niet mee omgaan. Dat zullen ménsen moeten blijven doen."
Philip Brey

De trend is wel dat jullie, dankzij big data, risico’s steeds fijnmaziger kunnen voorspellen.
Karin: “Dat klopt. De vraag is dus hoe ver je daarin wilt gaan. Profileren op basis van gedrag is toegestaan. Maar als je niet uitkijkt, krijg je dan toch groepen die onverzekerbaar zijn, en die eruit rollen als je data gaat analyseren. Daar komt weer die menselijke maat om de hoek kijken.”

Philip: “Context, motivatie, complexe oorzaak-gevolgrelaties: daar kan big data allemaal niet mee omgaan. Dat zullen ménsen moeten blijven doen. Tegelijkertijd: mensen kunnen net zo erg zijn als machines. Dat zagen we bij de Toeslagenaffaire.”

Karin: “Het blijft een kwestie van de menselijke maat en solidariteit. En nog één ding: we hebben het nu wel steeds over de schaduwzijde van big data, en de ethische dilemma’s. Maar laten we vooral niet vergeten dat er ook pósitieve kanten aanzitten. Dankzij big data kunnen we klanten juist ook maatwerk bieden en helpen schade te voorkomen.”

4TU.Centre for Ethics and Technology

Het 4TU.Centre for Ethics and Technology richt zich op onderzoek, onderwijs en informatieuitwisseling over de ethische kanten van technologische ontwikkelingen. Onderzoek richt zich bijvoorbeeld op duurzame ethiek voor toekomstige energiesystemen, verantwoording voor en gebruik van geavanceerde medische beelden, en ethische aspecten van biosecurity. De werkterreinen omvatten onder meer informatie- en communicatietechnologie, biomedische, milieu- en nanotechnologie, industrieel ontwerp, architectuur en stadsplanning, en neuro- en cognitieve technologie.

Het centrum treedt actief in contact met bijvoorbeeld media, ngo’s, beleidsmakers, bedrijven en het brede publiek om ethische aspecten van technologie op de agenda te zetten.

NWO-Zwaartekrachtprogramma Ethics of Socially Disruptive Technologies

Topwetenschappers op het gebied van ethiek en filosofie kregen in 2019 een NWO-Zwaartekrachtsubsidie toegekend van in totaal 17,9 miljoen euro voor onderzoek naar ethische kanten van nieuwe technologieën. Het programma, dat een looptijd heeft van tien jaar, is een samenwerking van onderzoekers van de Universiteit Twente, TU Delft, TU Eindhoven en Universiteit Utrecht, waarin ook Wageningen University & Research, Universiteit Leiden en Universitair Medisch Centrum Utrecht deelnemen.

De onderzoekers gaan aloude filosofische kernbegrippen herzien, zoals autonomie, rechtvaardigheid en verantwoordelijkheid, die door technologische ontwikkelingen worden uitgedaagd. Dat moet leiden tot een vernieuwende blik en meer grip op de grote veranderingen die nieuwe technologieën teweeg kunnen brengen op het gebied van bijvoorbeeld kunstmatige intelligentie, synthetische biologie en klimaattechnologie.

Tekst: Nienke Beintema | Fotografie: Dieuwertje Bravenboer

Laveren tussen de ethische valkuilen van de datagedreven wereld

4TU.techtalks | Er gaat geen dag voorbij of nieuwe technologieën zien het licht. Van robotica tot precisiemedicijnen en van IT tot klimaattechnologie: veel van de innovaties op deze terreinen brengen grote veranderingen teweeg in hoe we leven en met elkaar omgaan. Daar zitten veel voordelen aan, maar ook risico’s. Verzekeraar Achmea wil zich daar verantwoord op voorbereiden en krijgt daarbij hulp vanuit 4TU. 

"Je wilt bepaalde risico’s uitsluiten. En je wilt aan preventie doen. Maar welke data mag je daarvoor gebruiken? En hoe ver mag je daarin gaan?"
Karin Bos, Achmea

Niemand kan ertegen zijn: nieuwe technologieën moeten duurzaam zijn, democratisch en rechtvaardig. Ze moeten de gebruikers autonomie bieden, en veiligheid en privacy. Maar wat houden die waarden eigenlijk in? Zijn ze universeel, of voor verschillende interpretaties vatbaar? Wie bepaalt eigenlijk wat er wel en niet mag, wie besluit er over risico's bij technologische ontwerpen? En hoe worden onze normen en waarden zélf beïnvloed door technologische ontwikkelingen?

Het zijn allemaal extreem complexe vragen die niemand een-twee-drie kan beantwoorden. Toch is het nodig dat mensen daarover nadenken en debatteren, om gezamenlijk te komen tot kaders voor nieuwe ontwikkelingen. Steeds vaker praten niet alleen technologen en bestuurders daarover mee, maar ook ethici en filosofen. Die zijn getraind in het kijken voorbij de grenzen van vakgebieden, bedrijfssectoren, culturen en generaties.

“De wereld is nu zo totaal anders dan pakweg 20 jaar geleden”, zegt Philip Brey, hoogleraar filosofie en ethiek aan de Universiteit Twente. “Aan de basis van veel ontwikkelingen ligt wat we nu ‘big data’ noemen: enorme hoeveelheden gegevens. Voor veel organisaties zijn die heel belangrijk geworden. Ze halen er allerlei waardevolle informatie uit. Tegelijkertijd zitten daar veel complexe kanten aan. Technologische, maar zeker ook maatschappelijk-ethische.”

“Wij zijn nu bezig met een transitie naar een ‘digitale en data-gedreven verzekeraar’”, vertelt Karin Bos, Directeur Schade Particulieren bij Achmea. “We vinden het heel belangrijk dat we ons niet laten leiden door de technologische push, maar dat we ook de controle houden, en weten wat dit allemaal betekent. Daarom hebben we in 2019 de hulp ingeroepen van de Universiteit Twente.”


Wie is wie?

Philip Brey (1966), filosoof van opleiding, is hoogleraar filosofie en ethiek aan de Universiteit Twente. Hij is daarnaast voorzitter van de International Society for Ethics and Information Technology (INSEIT). Van 2013 tot 2018 was hij wetenschappelijk directeur van 4TU.Ethics (zie kader). Sinds januari 2020 leidt hij het NWO-Zwaartekrachtprogramma Ethics of Socially Disruptive Technologies (zie kader).

Karin Bos (1969) is Directeur Schade Particulier bij verzekeringsbedrijf Achmea. Na haar studie accountancy vervulde ze eerst diverse bestuursfuncties bij KPMG en ABN AMRO Bank. Daarna werd ze financieel directeur van het IT-bedrijf bij Achmea, een functie waarin ze naar eigen zeggen de liefde voor technologie opvatte. Die zet ze nu in om een transitie in te zetten richting ‘digitaal en data-gedreven verzekeren’.

Hoe ziet die samenwerking eruit?
Philip: “Wij ontwikkelen nu een module ‘Data Ethics’ voor de verzekeringsbranche. Daar is een grote vraag naar; niet alleen bij Achmea en andere verzekeraars, maar ook bijvoorbeeld bij de Belastingdienst. Wij hebben het geluk dat we daarvoor kunnen putten uit de opbrengsten van zowel het 4TU.Ethics Centre als het NWO-Zwaartekrachtprogramma. Daarin werken de sterkste onderzoekers met elkaar samen. Heel mooi dat wij die opbrengsten op deze manier naar de praktijk kunnen laten vloeien.”

Karin: “Bij de transitie binnen ons bedrijf richten wij ons op vier overkoepelende thema’s: Data Science, Data en Ethiek, Business IT en Security. Voor het onderdeel ethiek kloppen we aan bij Philip en zijn collega’s. Dat is echt een onderwerp waar je experts voor nodig hebt.”

Wat voor ethiek speelt er dan in de verzekeringsbranche?
Karin: “Ons businessmodel, maar ook ons bestaansrecht, rust op het voorspellen van risico’s. Het wezen van verzekeren is dat je een risico samen draagt. Daaraan ligt solidariteit ten grondslag. Dat werkt alleen als je de belangen goed afweegt. Je wilt risico’s wel verzekerbaar houden. Dankzij toenemende hoeveelheden data kunnen wij de risico’s steeds preciezer berekenen en beprijzen. Je wilt bepaalde risico’s uitsluiten. En je wilt aan preventie doen. Maar welke data mag je daarvoor gebruiken? En hoe ver mag je daarin gaan?”

"Hoe kun je als bedrijf je maatschappelijke verantwoordelijkheid nemen, maar tegelijkertijd geld verdienen? Dat is een interessant spanningsveld."
Philip Brey, Universiteit Twente

Kun je een voorbeeld geven van de complexiteit?
Karin: “Neem nu je autoverzekering. Je betaalt minder premie als je minder vaak schade hebt. Met nieuwe technologie gaat dat verder. Als je met behulp van bijvoorbeeld een app of een dongel in de auto aantoont dat je netjes autorijdt, betaal je minder premie. Daarvoor moet je data delen met je verzekeraar. Dat klinkt logisch, maar je moet zorgen dat klanten niet gedwongen worden altijd maar al hun data te delen, voor allerlei verzekeringen. Waar leg je de grens? Zodra je gaat differentiëren tussen klanten, dan botst dat met het principe dat je samen de risico’s deelt.”

Philip: “De verzekeringsbranche is ethisch heel interessant. Het gaat erom: hoe ga je collectief om met individuele risico’s? Het gaat vaak om grote financiële belangen van de verzekerde partij. Op zichzelf zijn verzekeringen een heel mooie toevoeging aan de maatschappij, maar het is belangrijk dat ze wel rechtvaardig zijn. Ze moeten wel de autonomie, integriteit en privacy van de klanten waarborgen. Als je als bedrijf volledige kennis zou hebben van je klanten, dus precies zou weten wie wanneer ziek gaat worden of hoeveel ongelukken gaat krijgen, dan zou je allerlei groepen willen uitsluiten van een verzekering. Dat kan dus niet. Hoe kun je als bedrijf je maatschappelijke verantwoordelijkheid nemen, maar tegelijkertijd geld verdienen? Dat is een interessant spanningsveld.”

Is dat nu goed geregeld?
Karin: “We hebben steeds meer data, dus gaan steeds meer differentiëren. Achmea is meer dan tweehonderd jaar geleden ontstaan, toen een kleine groep boeren in het Friese Achlum het risico op een hooibrand deelde. De boeren kenden elkaar, ze spraken elkaar aan op hun verantwoordelijkheden. Ze deden hun uiterste best om brand te voorkomen, maar als er dan toch bij iemand brand uitbrak, dan deelden ze de kosten van de schade. Nu speelt die solidariteit een stuk verder van je bed. Mensen voelen zich soms minder verantwoordelijk om schade te voorkomen. Maar ook aan de andere kant gaat het soms mis. Door verharding van de concurrentie onder autoverzekeraars, onder meer door prijsvergelijkingssites, kunnen de premies omlaag kelderen. Een mogelijk gevolg is dat die bedrijven onvoldoende geld binnenkrijgen om te kunnen uitkeren bij schade. Er ontstaat dan bijvoorbeeld een perverse prikkel om extreem op de kleine lettertjes te gaan letten. Dus je wilt ergens in het midden gaan zitten. Je wilt een product aanbieden dat fair is voor beide partijen.”

Philip: “Wat Karin hier laat zien is dat ethische dilemma’s vaak ook economische, maatschappelijke of organisatorische dilemma’s zijn.”

"Als je ergens gaat zoeken, zeker met artificial intelligence, dan vind je altijd wel wat. Daarom moet er altijd een menselijke controlestap in zitten."
Karin Bos

Hoe ga je daar dan mee om?
Philip: “Op een heel elementaire manier: door het bespreekbaar te maken. Door je normen en waarden vast te leggen. Dat kun je heel systematisch doen, en dan heel systematisch naar een oplossing toe werken. Dus het herkennen, analyseren en bespreken van een dilemma, om vervolgens samen te werken aan een gerichte oplossing die ook de economische en maatschappelijke en al die andere aspecten meeneemt.”

Zijn daar protocollen voor?
Philip: “Ja, maar die verschillen per branche en per onderwerp. In veel branches heb je ethische richtlijnen of codes, die je een denkrichting geven. Dat is nog een vrij grof stuk gereedschap. Daarnaast zijn er methoden voor systematische, ethische analyse, met specialistische instrumenten per context.”

Karin: “Onze branche is op die manier al behoorlijk gereguleerd. Veel ervan is ook in de wet vastgelegd. Voordat een nieuw product bijvoorbeeld goedkeuring kan krijgen, moeten we aantonen dat we een evenwichtige belangenafweging hebben gemaakt. Daar zijn handvatten voor : welke indicatoren je kunt gebruiken om de belangen van alle betrokken partijen af te wegen. En het einde is nog niet in zicht: hoe meer data we hebben, hoe belangrijker dit wordt.” 

Hoe helpt de samenwerking met de universiteit daarbij?
Philip: “Wij hebben in de loop der jaren al veel kennis vergaard over zaken als big data en artificial intelligence en hoe je daarmee kunt omgaan. Die kennis proberen wij te verwerken in onze modules voor de verzekeringsbranche en de Belastingdienst. Mensen denken daarbij vaak allereerst aan privacy, maar dat is lang niet het enige ethische aspect. Rechtvaardigheid is ook een hele belangrijke. Hoe voorkom je dat je bepaalde groepen onrechtvaardig behandelt? Dat speelt nu bijvoorbeeld heel duidelijk bij de Toeslagenaffaire.”

Karin: “Wij hebben bijvoorbeeld ook te maken met fraude. Je gaat dan natuurlijk zoeken naar patronen die daarop kunnen duiden. Maar als je ergens gaat zoeken, zeker met artificial intelligence, dan vind je altijd wel wat. Daarom moet er altijd een menselijke controlestap in zitten. En moet je de menselijke maat in het oog houden. Wij hebben bijvoorbeeld een Pechvogeltraject, voor mensen die bovengemiddeld veel schade claimen. Daarbij kijken we per persoon: hoe kan het dat deze persoon zo veel schade heeft, en kunnen wij helpen die te voorkomen? Dat is een heel andere benadering dan automatisch uitgaan van fraude.”

Philip: “Ik zit even te lachen omdat ik zelf een tijdje zo’n veelclaimer was. Ik had een paar keer achter elkaar pech met huizen en inboedels, en toen kreeg ik ook nog te maken met de vuurwerkramp. Maar goed. Excessen zoals de Toeslagenaffaire…. Alles begint met bewustwording. Mensen moeten systematisch blijven stilstaan bij de vraag: wat doen we, en wat kan daarbij misgaan?”

Philip, jullie brengen dus kennis bij die bedrijven. Halen jullie bij hen ook iets op?
Philip: “Achmea is een heel prettige samenwerkingspartner. Ze hebben daar al veel nagedacht, veel casussen vergaard. Die zijn heel nuttig voor hun eigen ontwikkeling, maar ook voor ons onderzoek. We krijgen daardoor uniek inzicht in de vraagstukken in die branche. Wij zijn constant op zoek naar die link met de praktijk. We willen niet vanuit onze ivoren toren allerlei mooie theorieën bedenken, maar iets ontwikkelen waar de praktijk ook echt iets aan heeft.”

Karin: “Voor ons is het voordeel dat we naar buiten blijven kijken, ook over de grenzen van onze branche heen.”

Philip: “Het voordeel van deze samenwerking is dat wij daarmee ook kunnen onderzoeken hoe onze basisbegrippen worden uitgedaagd door nieuwe technologieën. Bijvoorbeeld ‘de mens’, ‘privacy’, ‘rechtvaardigheid’, ‘natuurlijkheid’. Wat is dat eigenlijk? Nieuwe technologie kan ons begrip daarvan veranderen. Privacy betekent nu echt iets heel anders dan honderd jaar geleden. Op diezelfde manier kun je je afvragen of het begrip ‘risico’ niet ook verandert.”

Karin: “Wij hadden daar laatst nog een interessante discussie over. Zouden we ook niet een cyberverzekering voor consumenten moeten aanbieden? Dat je als klant wordt geholpen als al jouw data opeens op straat liggen?”

Philip: “Een heel interessante vraag. Vijftig jaar geleden waren we nog een industriële samenleving, nu een informatiesamenleving. Daar horen heel andere risico’s bij. De risico’s zijn steeds minder materieel, steeds meer informationeel. Daar moet je dus ook ethisch gezien anders mee omgaan.”

Karin: “Tegelijkertijd: het lopen van risico is van alle tijden. De mate van risico is ook een kwestie van perceptie. Er zijn nu minder inbraken en auto-ongelukken dan een paar decennia geleden, maar er zijn nieuwe risico’s voor in de plaats gekomen.”

"Context, motivatie, complexe oorzaak-gevolgrelaties: daar kan big data allemaal niet mee omgaan. Dat zullen ménsen moeten blijven doen."
Philip Brey

De trend is wel dat jullie, dankzij big data, risico’s steeds fijnmaziger kunnen voorspellen.
Karin: “Dat klopt. De vraag is dus hoe ver je daarin wilt gaan. Profileren op basis van gedrag is toegestaan. Maar als je niet uitkijkt, krijg je dan toch groepen die onverzekerbaar zijn, en die eruit rollen als je data gaat analyseren. Daar komt weer die menselijke maat om de hoek kijken.”

Philip: “Context, motivatie, complexe oorzaak-gevolgrelaties: daar kan big data allemaal niet mee omgaan. Dat zullen ménsen moeten blijven doen. Tegelijkertijd: mensen kunnen net zo erg zijn als machines. Dat zagen we bij de Toeslagenaffaire.”

Karin: “Het blijft een kwestie van de menselijke maat en solidariteit. En nog één ding: we hebben het nu wel steeds over de schaduwzijde van big data, en de ethische dilemma’s. Maar laten we vooral niet vergeten dat er ook pósitieve kanten aanzitten. Dankzij big data kunnen we klanten juist ook maatwerk bieden en helpen schade te voorkomen.”

4TU.Centre for Ethics and Technology

Het 4TU.Centre for Ethics and Technology richt zich op onderzoek, onderwijs en informatieuitwisseling over de ethische kanten van technologische ontwikkelingen. Onderzoek richt zich bijvoorbeeld op duurzame ethiek voor toekomstige energiesystemen, verantwoording voor en gebruik van geavanceerde medische beelden, en ethische aspecten van biosecurity. De werkterreinen omvatten onder meer informatie- en communicatietechnologie, biomedische, milieu- en nanotechnologie, industrieel ontwerp, architectuur en stadsplanning, en neuro- en cognitieve technologie.

Het centrum treedt actief in contact met bijvoorbeeld media, ngo’s, beleidsmakers, bedrijven en het brede publiek om ethische aspecten van technologie op de agenda te zetten.

NWO-Zwaartekrachtprogramma Ethics of Socially Disruptive Technologies

Topwetenschappers op het gebied van ethiek en filosofie kregen in 2019 een NWO-Zwaartekrachtsubsidie toegekend van in totaal 17,9 miljoen euro voor onderzoek naar ethische kanten van nieuwe technologieën. Het programma, dat een looptijd heeft van tien jaar, is een samenwerking van onderzoekers van de Universiteit Twente, TU Delft, TU Eindhoven en Universiteit Utrecht, waarin ook Wageningen University & Research, Universiteit Leiden en Universitair Medisch Centrum Utrecht deelnemen.

De onderzoekers gaan aloude filosofische kernbegrippen herzien, zoals autonomie, rechtvaardigheid en verantwoordelijkheid, die door technologische ontwikkelingen worden uitgedaagd. Dat moet leiden tot een vernieuwende blik en meer grip op de grote veranderingen die nieuwe technologieën teweeg kunnen brengen op het gebied van bijvoorbeeld kunstmatige intelligentie, synthetische biologie en klimaattechnologie.