Ik was blij verrast met deze cursus en wat ik ervan geleerd heb. Daarom geef ik in dit blog een korte samenvatting van de inhoud en de gedachten die bij mij en mijn goede vriend opkwamen. Ter leering ende vermaeck.
TL;DR
Technologie vormt de relatie die wij hebben met de wereld doordat technologie van invloed is op de manier waarop wij de wereld om ons heen interpreteren en hoe wij in de wereld staan (technologie is een ‘mediator’)
Via technologie hebben we verschillende soorten relaties met de wereld, van relaties waarbij de mens één is met technologie tot relaties waarbij technologie één is met de wereld en alle vormen van relaties daartussen.
- Als we interactie tussen mensen en de wereld, via technologie, op een zinvolle manier willen vormgeven, dan kunnen we dat doen door te kijken naar de locus, soort en het domein van de interactie.
AI is bij uitstek een technologie die zal veranderen hoe wij als mensen beslissingen nemen en verantwoordelijkheid nemen voor de gevolgen daarvan. AI maakt relaties tussen mensen en technologie mogelijk die voorheen alleen mogelijk waren tussen mensen onderling, zoals interactie en samenwerking.
Een concrete manier om ethiek in technologie toe te passen is met de guidance ethics approach
Klassieke technologie-filosofie
Technologie-filosofie is niet nieuw. Ten tijde van Charlie Chaplin werd hiervoor de basis gelegd door Karl Jaspers en Martin Heidegger. Jaspers nam de mens als uitgangspunt en zag technologie als een neutraal instrument om je authentieke ik te verwezenlijken. Terwijl Heidegger technologie als uitgangspunt nam. Volgens Heidegger is de interpretatie van de wereld om ons heen afhankelijk van cultuur, tijdsgeest en de relatie die we, via technologie, met de wereld hebben. In de tijd waarin we nu leven zien we de wereld dankzij technologie vooral als maakbaar.
Heidegger’s gedachten zijn van de filosofische stroming die we kennen als Fenomenologie die uitgaat van de directe en intuïtieve ervaring van fenomenen waarbij centraal staat dat het denken of de ervaring altijd gericht is op iets (intentionaliteit). Mensen, in tegenstelling tot de wereld, kennen intenties, vrijheid en verantwoordelijkheid.
De relatie tussen mensen en de wereld kent twee dimensies:
De manier waarop de wereld er is voor de mens – interpretatie van de werkelijkheid (Heidegger)
De manier waarop de mens plaats heeft in de wereld (Jaspers)
Uit de (post-)fenomenologische stroming is mediation theorie onstaan dat een analytisch raamwerk biedt voor de rol van technologie in het menselijk bestaan en de maatschappij. Het idee is dat technologie, in het gebruik ervan, vorm geeft aan de relatie tussen mens en wereld. Technologie is dus een ‘mediator’ – Mediation Theory – Peter-Paul Verbeek (ppverbeek.org)
Mens-Technologie-Wereld relaties
De mens kan via technologie een aantal verschillende relaties hebben met de wereld:
- (i / technology) -> world waarbij technologie één wordt met het menselijk lichaam (fusie), zoals bij een hersenimplantaat
- (human – technology) -> world waarbij technologie en mens een eenheid vormen (belichaming) die gericht is op de wereld, zoals bij het praten door een telefoon
- human -> (technology – world) waarbij technologie de wereld representeert en de mens die informatie interpreteert (verklarend), zoals bij een MRI scan die hersenactiviteit weergeeft
- human -> technology (world) waarbij de mens interactie heeft met technologie, maar de wereld op de achtergrond blijft, zoals bij het gebruik van een pinautomaat
human (technology / world) waarbij technologie context is voor ervaringen en handelingen, zoals bij notificaties van mobiele telefoons
(i <-> technology / world) waarbij technologie één is met de wereld, waarbij de mens niet alleen reageert op de wereld, maar de wereld ook op de mens, zoals IoT toepassingen
(i-technology) -> world -> (technology-world) waarbij door augmented reality een extra laag wordt toegevoegd aan onze beleving, zoals met Google glasses
Deze relaties kunnen we gebruiken om technologie te classificeren. Zoals bijvoorbeeld voice assistant technologie:
De voice assistant reageert op onze commando’s en geeft informatie op een bepaalde manier terug (verklarend)
- We interacteren ook met de voice assistant, bijvoorbeeld door het voeren van een gesprek (alteritei)
En de voice assistant kan actief zijn op de achtergrond, zelfs als we ons daar niet van bewust zijn (achtergrond)
Welke categorieën gaan er in de komende jaren nog onstaan? Worden we één met technologie én de wereld om ons heen? Wordt virtual reality de nieuwe werkelijkheid en leven we straks in een metaverse? En welke relaties willen we eigenlijk met technologie? Bijvoorbeeld met een AI of voice assistant? Moeten we bijvoorbeeld altijd weten dat we met een computer praten?
Moraliteit in technologie
Technologie is dus van invloed op onze relatie met de wereld en ons eigen handelen. Ethiek gaat over moraal; handelingen die als correct en wenselijk worden gezien. Je zou dus kunnen zeggen dat morele handelingen en beslissingen tot stand komen in de interactie met technologie.
Als ontwerpers van technologie invulling geven aan die interactie, dan is dat een vorm van ethiek, niet in woorden maar met dingen. Zelfs als je als ontwerper van technologie niet bewust bezig bent met de morele kant van je werk, dan zal de technologie toch een rol spelen in de interactie en zo vormgeven aan de acties en beleving van mensen. Ieder ontwerp, of je nu wil of niet, heeft impact op menselijk gedrag.
De vraag is hoe we hier mee om willen gaan. Wie gaat erover? En welk gedrag willen we sturen? En in welke richting?
In het boek Nudge (Thaler, Sunstein 2008) pleiten Richard Thaler en Cass Sunstein voor het ontwerpen van technologie zodat het ons op een positieve manier beïnvloed, zonder controle van ons af te nemen. Een nudge is een klein zetje in de goede richting.
Als we keuze maken dan zijn er twee systemen aan het werk in ons brein; een automatisch systeem en een reflecterend systeem. De meeste keuzes worden gemaakt door ons automatisch systeem, zonder expliciete reflectie. Ons automatisch systeem wordt voor een groot deel beïnvloed door onze omgeving. Als we die omgeving beter vormgeven dan kunnen we ons automatisch systeem beter laten werken. Thaler en Sustein noemen dit choice architecture – het ontwerpen van keuzemomenten.
Als we interactie tussen mensen en de wereld, via technologie, op een zinvolle manier willen vormgeven, dan kunnen we dat doen door te kijken naar de locus, soort en het domein van de interactie.
De locus is waar de technologie interactie heeft met de mens; fysiek, cognitief of contextueel. Een fysieke relatie met de wereld, informatie om beslissingen en handelingen op te baseren of infrastructuur die indirect van invloed is op handelingen en beslissingen.
Het soort interactie is de manier waarop technologie ons beïnvloed (de kracht en zichtbaarheid ervan). Worden we gedwongen, overtuigd, verleidt of wordt er voor ons besloten?
Tot slot is de vraag op welk aspect van het menszijn de interactie beïnvloed. Zijn dat onze handelingen of perceptie van de wereld om ons heen? En geldt dat voor het individu of voor onze maatschappelijke sociale omgangsvormen?
Ethiek en AI
AI is bij uitstek een technologie die zal veranderen hoe wij als mensen beslissingen nemen en verantwoordelijkheid nemen voor de gevolgen daarvan. AI maakt relaties tussen mensen en technologie mogelijk die voorheen alleen mogelijk waren tussen mensen onderling, zoals interactie en samenwerking.
De meeste mensen staan niet dagelijks in contact met AI – althans niet met de algoritmes, data sets en systemen. Maar wel met de toepassing ervan in bijvoorbeeld de zorg, waarin algoritmes artsen ondersteunen bij diagnoses. Of bij het gebruik van Spotify waar je keuze (en smaak?) voor muziek wordt beïnvloed. AI speelt ook een grote rol in sport, waar data analyse wordt toegepast voor het inzetten van talent en in het onderwijs waar data analyse inzicht geeft in het effect van onderwijs. Maar ook in human resources, waar AI wordt ingezet om de beste kandidaten te vinden.
Om te begrijpen wat de impact is van AI op onze samenleving, moeten we ons niet richten op de manier waarop AI het van ons overneemt, maar op de manier waarop AI vorm geeft aan de relaties tussen ons en de wereld. AI vervangt geen artsen, juristen of onderwijzers, maar heeft invloed op de manier waarop we zorg, recht en onderwijs inrichten. AI beïnvloed de interpretatie, handelingen en beslissingen van artsen, juristen en onderwijzers als individu. En daarmee de manier waarop we zorg, recht en onderwijs zien op maatschappelijk niveau.
Voordat AI een beslissing neemt, zijn er al veel beslissingen aan voorafgegaan. Expliciet of impliciet. Wat is de intentie van het systeem? Wie bepaald wat acceptabele foutmarges zijn? Op wiens normen en waarden is het systeem gebaseerd? Wie worden er beïnvloed? Hoe kunnen we controleren of het systeem nauwkeurig en eerlijk is? Hoe kan iemand bezwaar maken tegen een beslissing? Hoe is het gebruik van het systeem ontworpen? En wat als we ons bedenken over de normen en waarden die ten grondslag liggen aan het systeem?
Er zijn daarom veel ethische richtlijnen voor het gebruik van AI. De meeste van deze richtlijnen hebben betrekking op het vermijden van bias (vooringenomenheid), uitlegbaarheid van beslissingen, transparantie over de gebruikte data(sets) en verantwoordelijkheid. Maar veel van deze richtlijnen zijn vrijblijvend en geven niet altijd aan hoe ze toegepast moeten worden of door wie.
https://www.rathenau.nl/en/digitale-samenleving/valued-work
Ethiek toepassen
Een manier om ethiek in technologie toe te passen is met de guidance ethics approach (of aanpak begeleidingsethiek). Met deze aanpak complementeert ethiek een technologie in alle fasen van de levenscyclus. De impact van technologie op individuen en de maatschappij wordt geanticipeerd om vervolgens oplossingen te vinden om die normen en waarden te koppelen aan verantwoord ontwerp van de technologie, de omgeving en empowerment van de gebruikers.
Deze aanpak heeft drie typische kenmerken:
Ethiek van binnenuit met een focus op complementeren in plaats van beoordelen
Positieve ethiek; geen focus op het stellen van grenzen en benadrukken wat we niet willen, maar focus op het ontwerpen van de condities die leiden tot de dingen die we wel willen (normen en waarden in onze samenleving)
Een bottom up aanpak van ethiek in plaats van top down; niet alleen een beoordeling door ethiek experts
Meer informatie over deze aanpak vind je op het platform voor de informatiesamenleving:
Verder lezen
Als je dit een interessant onderwerp vindt, dan zijn dit een aantal aanraders om verder te lezen.
Leave a Reply