Technologie ethiek: definitie & 6 voorbeelden

Technologie ethiek. Wat is de definitie? Wat zijn ethische dilemma’s in technologie? Hoe beïnvloedt technologie onze moraliteit? Wat zijn voorbeelden, impact op maatschappij en risico’s? Alles over de ethiek van technologie, zoals in de gezondheidszorg en genetica. Inclusief video interview met Prof. Verbeek en presentatie.

Technologie-ethiek uitleg

Op mijn Engelse YouTube-kanaal maakte ik deze video over dit onderwerp:

Wat is de definitie van technologie ethiek?

Definitie

Wat is ethiek? Volgens het centrum van Ethiek en Gezondheid is de definitie: ‘Ethiek is nadenken over goed handelen’ [link onderin]. In relatie met technologie, is de eerste reactie vaak dat ethiek is bedoeld zodat techniek niet op ongewenste manieren in de leefwereld van de mens treedt.

Een samenleving zonder ethiek is verdoemd.

Gerd Leonhard, auteur

Nadenken over de impact van technologie wordt steeds belangrijker. Futuroloog Gerd Leonhard schrijft bijvoorbeeld: ‘Het gevaar is dat technologische vooruitgang de menselijke waarden opzij schuift. Technologie heeft namelijk geen ethiek. Een samenleving zonder ethiek is verdoemd.’

Nadenken over ethiek

De impact van technologie wordt namelijk steeds groter. Zo heeft technologie invloed op sociale relaties. Neem een simpel voorbeeld zoals de social media. Dit heeft positieve gevolgen op het aantal sociale relaties (kwantiteit), maar gemiddeld een negatieve impact op de kwaliteit van sociale relaties.

Andere gevolgen zijn dat we een deel van onze vrijheid bewust of onbewust opgeven aan technologie. Neem een navigatie-app op de smartphone. Adviseert deze je als je de weg zoekt of volg je de aanwijzingen blindelings?

Peter-Paul Verbeek

Professor Verbeek is was hoogleraar Wijsbegeerte aan de Universiteit Twente [link onderin]. Zijn specialiteit is de verwevenheid van mens en techniek en de plaats van ethiek hierin.

In 2014 schreef hij het boek ‘Op de vleugels van Icarus’ [link onderin]. Rond eind 2017 raakte ik steeds meer geïnteresseerd in de ethische aspecten en consequenties van technologie. Voor dit artikel heb ik het boek van professor Verbeek vaak gebruikt.

Wat is bio-ethiek? Waarom is dit anders dan technologie-ethiek?

Bio-ethiek

In de zomer van 2019 volgde ik de opleiding bio-ethiek bij de Università Europea di Roma (Italië) en de UNESCO Chair in Bioethics and Human Rights [link onderin]. Ten opzichte van technologie ethiek richt bio-ethiek zich op de morele vraagstukken en implicaties van biotechnologie.

Naast bio-ethiek zijn medische ethiek en neuro-ethiek andere stromingen waarmee ik in aanraking ben gekomen. Zo had ik het met professor Maartje Schermer van het Erasmus Medisch Centrum in Rotterdam over het onderscheid tussen bio-ethiek en medische ethiek [link onderin].

Een aantal bepalende momenten in de geschiedenis van de bio-ethiek:

• In 1927 gebruikt Fritz Jahr voor het eerst de term, waarbij hij dit baseerde op het gedachtengoed van Immanuel Kant;
• In 1970 definieerde de Amerikaanse biochemicus Van Rensselaer-Potter voor het eerst de term bio-ethiek;
• In 1971 richtte de Nederlander Andre Hellegers het Center for Bioethics van het Kennedy Institute aan de Georgetown University op;
• In 1976 starte Edmond Pellegrino, toenmalig directeur van het Kennedy Institute, het tijdschrift Journal of Medicine and Philosophy [link onderin]. Hij richtte later ook het Centre for Clinical Bioethics op.
• In 2010 publiceerde Tom Beachamp, die werkzaam was bij het Kennedy Institute, het boek The Oxford Handbook of Business Ethics [link onderin]. Dit boek wordt gezien als de bijbel van de bioethiek.

In Nederland hebben bio-ethici zich verenigd in de Nederlandse Vereniging voor Bio-ethiek (NVBe) [link onderin].

Video bio-ethiek

Op YouTube publiceerde ik deze video over bio-ethiek:

In dit deel beschrijf ik dat technologie niet los staat van ons als mens en geef ik een paar voorbeelden dat technologie ook moraliteit in zichzelf heeft gematerialiseerd.

Gevolgen technologie

Één van de belangrijkste stellingen is dat de invloed van technologie op ons bestaan als mens er altijd is geweest. Of we dat nu willen of niet. Technologie is vaak een medium tussen de gebruiker en de omgeving.

Bijvoorbeeld: een verrekijker om een beeld van veraf beter te zien, een mobiele telefoon om met andere mensen te communiceren, en oordopjes om je oren te beschermen tegen harde geluiden.

De Franse socioloog en filosoof Bruno Latour stelt dat ’technologie de mediator is die actief de werkelijkheid mede vormgeeft.’ Neem een technologie zoals internet. Als je naar informatie op zoek gaat op internet door Google een zoekopdracht te geven, dan geeft Google de werkelijkheid die jij ervaart mede vorm. Technologie in zichzelf heeft geen ethiek. Cynisch gesteld: technologie zoals kunstmatige intelligentie gebruikt ethiek, normen en waarden alleen om meer over de mens te leren.

Technologie geeft de werkelijkheid mede vorm.

Bruno Latour, filosoof

Mijn verwachting is dat dit gaat toenemen, omdat technologie steeds meer alomvattend en invasief wordt. Neem ‘virtual reality’, een uitstekend voorbeeld hoe technologie een steeds grotere rol krijgt in het vormgeven van de werkelijkheid.

In zijn boek geeft Verbeek aan dat het ook geen zin heeft om ethiek te beschouwen als het beschermen van de lijn tussen mens en technologie. De reden daarvoor is dat de mens en technologie zijn verweven. Technologie verbieden kan niet. Het is gelijk aan dingen als taal, zuurstof en zwaartekracht.

Moraliteit technologie

Ontwerpers van technologie materialiseren de moraliteit. Ontwerpers in deze zin kunnen bedrijven, overheden of individuele innovators zijn. Dit is een delicate balans tussen vrijheid en betutteling. In elk ontwerp zit namelijk impliciet of expliciet een visie op wat goed leven is.

Neem de Google Glass, een experimentele bril van Google waarmee de gebruiker extra informatie kan zien. Als ik met andere personen ben, kunnen anderen dan zien dat ik de bril gebruik? Dit is één voorbeeld waarin een bedrijf zoals Google moraliteit in technologie kan bouwen, bijvoorbeeld door een LED lampje aan de voorkant van de bril te plaatsen waarmee je kan zien of de bril aan of uit staat.

Een probleem daarbij is dat ontwerpers niet altijd goed kunnen inschatten hoe hun technologie uiteindelijk wordt gebruikt en wat andere effecten zijn. Een aantal voorbeelden daarvan zijn:

1. Telefoon
2. Typemachine
3. Auto

#1 De eerste prototype van de telefoon is ontwikkeld om slechthorenden te helpen te horen. Hieraan gerelateerd: SMS was bedoeld voor servicemonteurs om te communiceren.

#2 De typemachine was bedacht als machine of slechtzienden te helpen met schrijven.

#3 Dit vond ik zelf helemaal bizar. De eerste auto’s werden gebruikt voor sport en medische doeleinden (!?). Patiënten gingen achterin de auto zitten en werden rondgereden. Het idee was dat ze dan in ijle lucht zaten, wat heilzaam zou zijn voor hun longen.

Adversarial Design

Een leuk voorbeeld is het zogenaamde ‘adversarial design’. Dit gaat om het maken van ontwerpen die ervoor zorgen dat gebruikers bewust omgaan met technologie en juist niet om alle ongemakken weg te nemen. Hiervan geeft Carl DiSavo een paar voorbeelden, zoals een browser extensie die de prijzen in Amazon omzetten naar de hoeveelheid olie, paraplus met licht waardoor surveillance camera’s je niet meer kunnen herkennen of de Natural Fuse. Het laatste is een systeem waarbij het energieverbruik in huis kan aflezen aan een plant. Als je teveel verbruikt en daarmee CO2 verbrandt, dan gaat je plant dood.

In dit deel schrijf ik over een paar dilemma’s die ontstaan door de introductie van technologie.

Ethische dilemma’s technologie (3x)

Afgezien van het feit dat technologie toch anders wordt gebruikt dan bedoeld is, kan technologie ook op andere aspecten een (onbedoelde) invloed hebben. Dit zijn een aantal voorbeelden:

1. Anticonceptiepil
2. Spaarlamp
3. DBS

#1 De introductie van de anticonceptiepil betekende een doorbraak in de acceptatie van homoseksualiteit in de maatschappij. Door de pil werd seks namelijk los gezien van voortplanting.

#2 Bij de introductie van de spaarlamp werd verwacht dat deze zou leiden tot minder elektriciteitsgebruik. Het bleek echter dat mensen de spaarlampen op veel meer plekken gingen gebruiken, waardoor het elektriciteitsgebruik per saldo wel toenam.

#3 Deep Brain Stimulation (DBS) is een technologie waarbij Parkinson patiënten door een elektrode in de hersenen van hun symptomen af komen. In het tijdschrift voor geneeskunde stond een casus van een patiënt die door deze behandeling van zijn symptomen afkwam, maar ook ineens een andere persoonlijkheid kreeg [link onderin]. Hij ging dure dingen kopen, ging vreemd en zijn vrienden herkenden hem niet terug.

Impact maatschappij

De voorbeelden hierboven laat zien wat de impact van technologie op de individuen en de maatschappij kan zijn. Soms duurt het even voor de maatschappij om zichzelf aan te passen op nieuwe ontwikkelingen, zoals met autorijden (#1) en smartphones (#2).

#1 In de eerste jaren dat auto’s rondreden, nam het aantal verkeersdoden per jaar toe. Tot het moment dat autofabrikanten technologie gingen ontwikkelen om het autorijden veiliger te maken. Denk aan autogordels, airbags en ABS (automatische remsystemen). Daarnaast ging de overheid ook wetten en regels maken (zoals alcohol in het verkeer) en infrastructuur veranderen (zoals rotondes).

#2 In de eerste jaren dat de mobiele telefoon op de markt kwam, had iedereen de ringtone aan staan. Na een tijdje werd dat niet meer sociaal geaccepteerd en werd het normaal om de telefoon op trilstand te laten staan.

En toch…

Dit zijn interessante voorbeelden, maar in de tsunami van technologie die er nu aan komt zoals genetische modificatie met CRISPR/cas9, kunstmatige intelligentie en neurotechnologie, grijpen we nog directer, sneller en invasief in op ons eigen leven, die van de maatschappij en van de wereld.

In dit deel schrijf ik over twee voorbeelden uit de biotechnologie. Deze twee cases zijn daarmee illustratief voor zowel technologie ethiek als bio-ethiek.

Ectogenesis

Een boeiend voorbeeld die veel oproer veroorzaakt is ectogenesis. Dit staat voor de ontwikkeling van een technologie waarbij een foetus zich buiten het lichaam van een vrouw kan ontwikkelen tot een baby. Volgens futurist Gerd Leonhard is dit wellicht mogelijk binnen 20 jaar.

Dit is minder ingrijpend voor de moeder, efficiënter en waarschijnlijk goedkoper. Maar moeten we op basis van die argumenten besluiten om dit dan maar te doen? Wat doet dit met de emotionele groei van het kind of de band tussen moeder en kind?

Hersenen kweken

Een tweede voorbeeld die veel ethische vragen oproept zijn mini organen, de zogeheten organoids. Dit is een techniek waarbij in een laboratorium kleine organen worden nagemaakt. Zo wordt getest of bepaalde geneesmiddelen wel bij een patiënt werken of worden ze gebruikt in plaats van proeven bij dieren.

In Nature publiceerde een groep wetenschappers een artikel om het publiek op de hoogte te brengen van een bijzondere soort mini organen, namelijk hersenen [link onderin]. Deze mini hersenen worden door wetenschappers gebruikt om aandoeningen zoals autisme en schizofrenie te bestuderen. In een artikel in De Groene Amsterdammer wordt Jeantine Lunshof (MIT Media Lab in Boston) hierover geïnterviewd. Zij zegt: ‘Het publiek moet hiervan weten voordat er allerlei toepassingen komen. Het kweken van hersenachtige structuren roept namelijk nogal wat vragen op. Kunnen die ook denken? Is daar zoiets als bewustzijn? Kunnen we ooit op deze manier reserve hersenen maken?’

Het kweken van mini hersenen roept nogal wat vragen op.

Jeantine Lunshof (MIT Media Lab)

De wetenschap gaat namelijk door. Zo is een organoid gemaakt van een meisje met een genetische afwijking. Die afwijking kon goed door de wetenschappers worden bestudeerd door deze techniek, maar de organoid dacht natuurlijk niet zoals dat meisje. Een ander voorbeeld is dat wetenschappers een groep varkens hadden onthoofd en de hersenen van deze dieren voor 36 uur in leven konden houden [link onderin].

Terecht zegt Jeantine Lunshof dan ook: ‘Het zou kunnen dat dit soort technologieën na verloop van tijd onze definities van leven en dood en van bewustzijn gaan veranderen’.

In dit deel schrijf ik over mogelijke oplossingen en deel ik mijn conclusie

Oplossing

In zijn boek haalt Verbeek de Griekse oudheid aan als mogelijke oplossingsrichting. De woorden ‘hybris’ (overmoed) en ‘hybride’ (mens + technologie) lijken volgens hem niet voor niets zoveel op elkaar. De oude Grieken hadden al door dat het gebruik van technologie door de mens een risico met zich meebrengt. Het risico is dat de mens roekeloos wordt en er teveel macht mee wil uitoefenen.

Een oplossing waar ik ook veel voor voel, slaat terug op de titel van zijn boek ‘Op de vleugels van Icarus’. Vader Daedalus maakte voor zijn zoon Icarus vleugels van veren en was, om van het eiland Kreta te ontsnappen. Hij waarschuwde zijn zoon: ‘Vlieg niet te laag, want dan worden de veren nat door het zeewater. Vlieg niet te hoog, want dan verbranden de veren door de zon.’

Dit is een manier om naar de toepassing van technologie te kijken. Ga niet overmoedig en roekeloos alles proberen, maar blijf ook niet te conservatief waarbij je de vooruitgang niet kan gebruiken voor hele mooie dingen. Zoals het genezen van ziektes (met neurotechnologie), het oplossen van het voedselprobleem (door genetische modificatie) of het verder ontwikkelen van de mensheid (door kunstmatige intelligentie).

Ethiek programmeren

Auteur Kevin Kelly verwacht dat technologie en met name kunstmatige intelligentie ons als mensheid dwingt om beter over ethiek na te denken. We worden namelijk gedwongen om dit soort vraagstukken in zelflerende systemen te programmeren.

Ondernemer en futurist Nell Watson brengt dit in de praktijk. Zij sprak ik op de Brave New World conference 2017 in Leiden. Zij werkt aan een database van ethische vraagstukken om daarmee kunstmatige intelligentie systemen te kunnen trainen. Volgens haar is de wijze waarop we computers trainen om foto’s van katten te onderscheiden van andere dieren, bruikbaar om kunstmatige intelligentie te leren wat ethisch is en wat niet.

Conclusie

Hierom moeten we blijven experimenteren en daarna discussiëren over de gevolgen. Niet alleen wetenschappers, maar ook psychologen, antropologen, sociologen en experts uit andere domeinen. Dit was ook de oproep die professor Gary Marcus (Universiteit van New York) deed op de World AI Summit 2017 in Amsterdam waar ik hem sprak. Dit ging dan specifiek over kunstmatige intelligentie. In aanvulling op zijn opmerking: volgens mij geldt dit voor alle technologieën en moeten niet alleen experts hun mening geven, maar iedereen die wil meepraten.

Dit is iets wat de Amerikaanse filosoof John Dewey aan het begin van de 20e eeuw al stelde. Volgens hem is het belangrijk om je te realiseren dat theorieën en aannames niet vaststaand zijn, maar dat je ze moet blijven testen aan de realiteit.

Als menselijk proefkonijn doe ik hier graag aan mee. Want dat is de kern van technologie ethiek. Hoe verhogen we de kwaliteit van leven met technologie? Want om het nog maar eens te herhalen: technologie maakt deel uit van ons als mens, of we dat nu willen of niet.

In een wereld van neurotechnologie, genetische modificatie, kunstmatige intelligentie, biohacking en human enhancement gaat dit alleen nog meer toenemen: we gaan onszelf als mens wijzigen en upgraden met hardware en wetware. Hierin gaan we fouten maken, maar mijn overtuiging is dat we uiteindelijk als mens en mensheid er beter van gaan worden.

Maar dan moeten we het wel slim doen.

Tot slot: in dit deel staat aanvullende informatie over het onderwerp, gerelateerde artikelen en een bronnenlijst met links waarnaar ik refereer in dit artikel.

Video’s & interviews

Op congres TBX 2022 nam ik deel aan een panel over IT ethiek met Jason Hart van Rapid 7 en dr. Stefan Buijsman van de TU Delft.

Op de Jonge Ambtenaren Dag 2021 was ik te gast in de Collegetour onder leiding van Marcel Bamberg om over dit onderwerp te vertellen. Bekijk de webinar:

Ik interviewde professor Peter-Paul Verbeek over ethiek en technologie na een bijeenkomst van de Raad voor Volksgezondheid en Samenleving.

Annelien Bredenoord is was hoogleraar Ethiek van Biomedische Innovatie aan het Universitair Medisch Centrum in Utrecht. Ze heeft diverse nevenfuncties, waaronder het lidmaatschap van de Eerste Kamer namens D66. Voor mijn podcast interviewde ik haar over ethiek en met name bio-ethiek.

Mindmap

Om alle verschillende concepten en ideeën met elkaar in verband te brengen, heb ik een mindmap gemaakt. Deze werk ik regelmatig bij.

Eerder schreef ik deze artikelen over dit onderwerp:

• Invloed technologie op mens
• Wat is neurotechnologie?
• Wat is kunstmatige intelligentie?

Deze podcasts heb ik zelf gemaakt over dit onderwerp. Je kan je ook abonneren via iOS (iPhone), Spotify of Youtube en via een podcast-app naar deze afleveringen luisteren. Deze aflevering gaat over technologie- en bio-ethiek vanaf minuut 13.10.

Andere relevante interviews zijn o.a. met Katleen Gabriels over kunstmatige intelligentie en technologie ethiek, met professor Annelien Bredenoord over de ethiek van biomedische technologie en met professor Maartje Schermer over medische ethiek.

Dit zijn externe links over technologie ethiek:

• Boek Op de Vleugels van Icarus
• Website professor Verbeek
• Website Centrum voor Ethiek en Gezondheid
• Website Natural Fuse
• Artikel over casus DBS
• Artikel Nature over mini hersenen
• Artikel over hersenen varkens die in leven werden gehouden

Dit zijn de externe links over bio-ethiek:

• Cursus bio-ethiek die ik heb gevolgd
• Profiel Fritz Jahr
• Profiel André Hellegers
• Profiel Tom Beauchamp
• Website The Journal of Medicine and Philosophy
• Profiel Edmund Pellegrino
• Website Center for Clinical Bioethics
• Boek The Oxford Handbook of Bioethics
• Website NVBe

PS. Wil je me inhuren voor een lezing over workshop over dit onderwerp? Doe dan een boekingsaanvraag!

Denk jij veel na over technologie- of bio-ethiek? Wat zijn voor jou belangrijke inzichten of vragen? Laat een reactie achter!