Asimov, ethiek en kwaliteitsnormen

De wetten van Asimov bieden bovenal een basis voor discussie

Door – Sjoerd Wierenga

Asimov

Deze Zorgloze Zondag beginnen we met iets waar elke geïnteresseerde in kunstmatige intelligentie en robotica wel een mening over heeft, te weten de drie wetten van de Amerikaanse sciencefiction auteur Isaac Asimov:

  1. Een robot mag een mens geen letsel toebrengen of, door niet te handelen, toestaan dat een mens letsel oploopt.
  2. Een robot moet bevelen uitvoeren die hem door de mens worden opgedragen, tenzij dit in strijd is met de eerste wet.
  3. Een robot moet zijn eigen bestaan beschermen, tenzij dit in strijd is met de eerste of tweede wet.

De wetten an sich zijn leuk, interessant om te lezen en voor velen te simplistisch. Zo is er inmiddels een ‘nulde’ wet toegevoegd waarin de bescherming van de mensheid in zijn geheel wordt opgenomen. Opmerkelijk is ook dat de wetten het toestaan dat een robot zichzelf in een ravijn stort als een mens daar de opdracht toe geeft. Om deze vorm van kapitaalvernietiging te voorkomen is er een mooi onderzoek gaande waarin robots wordt geleerd om opdrachten van mensen te negeren. Klinkt als een slecht plan? Voordat u antwoord geeft, kijk eerst even dit filmpje.

Ethiek

Bovenal dienen de wetten als het vertrekpunt voor vele en belangrijke ethische discussies. Want als we het uitgangspunt nemen dat robotica in de toekomst (hoe ver of nabij dat ook mag zijn) in staat is om mensen thuis bij te staan in hun dagelijks leven, dan is het noodzakelijk dat we nadenken over ethiek en normen. Ook voor de zorgsector is dit een enorm relevant thema. Want plaats bijvoorbeeld het niet-reanimerenbeleid in het licht van de wetten van Asimov en er ontstaat al snel een conflict op meerdere niveaus.

Want plaats bijvoorbeeld het niet-reanimerenbeleid in het licht van de wetten van Asimov en er ontstaat al snel een conflict op meerdere niveaus.

Naast het feit dat er in casu een overweging plaats moet vinden tussen het gehoorzamen van een bevel (niet reanimeren) en het toestaan dat een mens letsel oploopt, is het begrip ‘mens’ an sich al ingewikkeld. Want ziet een robot nog een mens als het hart is gestopt met kloppen en de hersenactiviteit onmeetbaar is? Of dit het geval is zal afhangen van vele factoren. Waaronder factoren die het technische aspect overstijgen en raken aan menselijke, mogelijk zelfs spirituele, overtuigingen. Ingewikkeld!

Kwaliteitsnormen

Een ander aspect dat ik aan de discussie toe wil voegen is de ontwikkeling van kwaliteitsnormen. Waar we met regelmaat zien dat wet- en regelgeving, normering en standaardisering achterlopen op de werkelijkheid van technologie, pogen internationale werkgroepen dit ten aanzien van de ontwikkeling van care- en servicerobots om te draaien. Gezien de verwachte impact en de context waarin de robotica gaat handelen (bij en met kwetsbare ouderen) een belangrijk streven, waar velen zich achter zullen scharen. Het is enorm interessante materie, maar voor deze zondagse rubriek houden we het kort (het is immers weekend).

We sluiten af met de stelling dat normering bij care- en servicerobots hand-in-hand gaat met een discussie die de technologie overstijgt. Een discussie over de menselijke aspecten die we terug willen (of moeten) zien in robotica. U kunt zich deze zondag vast op de discussie voorbereiden door zich af te vragen: wat vind ik er eigenlijk van?

Wat vind ik er eigenlijk van?