Wanneer mag een robot nee zeggen? (video)

Niemand vindt het leuk om te worden tegengesproken of afgewezen. Maar als we machines daadwerkelijk ethiek willen bijbrengen is het zeker nodig dat ze af en toe ‘nee’ kunnen zeggen als mensen ze onverstandige of ongepaste dingen willen laten doen. Dat kan voor sommigen een bittere pil zijn, maar het in programmatuur toepassen van beperkingen op basis van regelgeving is al zo oud als de computer zelf. Zo hebben bijvoorbeeld computergebruikers geen toegang tot bepaalde bestanden op hun systeem. Maar het is nog niet zo eenvoudig om een robot bij te brengen wanneer en hoe hij een opdracht kan weigeren.

Autoriseren

Computers kunnen, net als elke complexe technologie, veel goeds doen, maar ook veel schade aanrichten. Door het ontwerp zou het kwaad van het goed moeten worden gescheiden. Een manier om dat te bereiken is het beperken van wat een gebruiker de computer kan laten doen. Theoretisch zou het dus mogelijk zijn om een computer ‘nee’ te laten zeggen als de gebruiker niet is geautoriseerd om een bepaalde instructie te geven. Maar bij robots is dat niet eenvoudig vanwege de vooral contextuele en dubbelzinnige aard van de instructies die gebruikers geven.

Er zijn diverse redenen waarom een robot zou moeten weigeren om een opdracht uit te voeren. Misschien kan hij de taak niet verrichten of behoort het niet tot zijn takenpakket en vanzelfsprekend moeten hij zich houden aan de algemeen geldende gedragsnormen. We willen robots vaak zien als onze ‘silicium slaven’ die moeten doen wat we zeggen. Maar de complexiteit van zulk gedrag, terwijl toch aan bepaalde richtlijnen wordt voldaan, is al dikwijls het onderwerp geweest van science fiction.

Nalatige moeder

In 2001 schreef John McCarthy, een pionier op het gebied van kunstmatige intelligentie, een zwart-humoristisch kort verhaal over de huishoudrobot van een afwisselend gewelddadige en nalatige moeder. De robot waarschuwt de moeder dat haar nieuwe baby, Travis, niet zal eten, tenzij hij wat liefde en zorg krijgt. De moeder zegt dat de ‘fucking robot’ zich niet druk moet maken en zelf voor die liefde moet zorgen. De robot begrijpt de context van wat de moeder natuurlijk niet als zij – verslaafd aan alcohol en cocaïne – de opdracht geeft om zelf van de fucking baby te houden. De robot was niet ontworpen om menselijk gedrag te simuleren, maar wel om de baby in geval van nood te beschermen. En dit was zonder twijfel een noodgeval. De baby zou sterven als hij niets at en hij had aandacht en zorg nodig om te gaan eten, dus de robot moest zeker iets doen. En hij had de opdracht gekregen om van de baby te houden. Net als veel ouders richt de robot zich daarom tot het internet. Daar vindt hij een artikel over resusaapjes die in leven blijven met behulp van een zacht voorwerp dat de moederaap vervangt. Dus de robot hult zichzelf in een zachte deken, simuleert een vrouwenstem, tut zich op als een barbiepop en knuffelt de baby tot die drinkt uit zijn fles.

Als de moeder dat ziet eist ze dat de robot ‘’naar de hel loopt’ en als hij protesteert omdat Travis dan zou overlijden , verwijst ze hem ‘naar de hel met de fucking baby’. Maar als de robot die taak wil uitvoeren is het natuurlijk ook weer niet goed. Hij zou eigenlijk de kinderbescherming moeten bellen, maar om privacy redenen zit dat niet in zijn programmatuur.

Beslissingstraject

Om te begrijpen hoe de robot kon beslissen om te simuleren dat hij van de baby ging houden, moeten we kijken naar het robot-beslissingstraject dat McCarthy in zijn verhaal beschrijft. Je kunt de beslissingsketen – die voor mensen moeilijk te volgen is – interpreteren als een wiskundig probleem. De robot begint bijvoorbeeld met een beslissingstraject om de opdracht van de moeder te verwerken. 

In dit geval beslist de robot dat de waarde van het belang van houden van Travis en daardoor zijn leven redden, belangrijker is dan het volgen van de richtlijn om een persoon te simuleren. De volledige keten ziet er als volgt uit:

De robot heeft alle voor hem relevante ethische factoren gewogen. Als hij een in zijn ogen onredelijke opdracht van de moeder krijgt – om te vertrekken zonder baby – protesteert hij omdat de baby zou sterven. En hij wil een dubbelzinnig commando (‘naar de hel met die baby’) op de meest letterlijke manier interpreteren. De robot kan kennelijk op een geavanceerde manier redeneren, maar hij mist het gevoel voor subtiliteit, dubbelzinnigheid of context.

Zou hij dan niet kunnen worden geprogrammeerd om alleen te gehoorzamen aan gefundeerde keuzes van de gebruiker? Veel mensen weten immers intuïtief of er iets stoms of geks wordt gevraagd. Jammer genoeg is dat niet zo eenvoudig. Het lijkt een voor de hand liggende oplossing om robots ‘gezond verstand’ te geven, maar ‘common sense ain’t common‘.

Wat is onverstandig?

ls je tegen een robot zegt dat hij alleen verstandige opdrachten van zijn eigenaar moet uitvoeren, rijst onmiddellijk de vraag ‘wat is onverstandig?’ – en hoe zou de robot dat verschil moeten vaststellen.? Zonder zorgvuldig programmeren zou het beslissingsprogramma van de robot onbeheersbaar worden, hij zou maar door blijven redeneren over de te nemen stappen, de consequenties van elke keuze, de relevante en irrelevante neveneffecten van de keuze enzovoorts.

Als robots en kunstmatige intelligentie steeds verder doordringen in ons dagelijkse leven, zullen situaties als in het verhaal van McCarthy nog lang gesprekstof opleveren voor esthetici en regelgevers. Mensen zullen onbewust hun robots menselijke eigenschappen toekennen als waarden en normen, wensen en bedoelingen of zelfs een geslacht. En daarmee begint het probleem.

Misschien is de vraag niet zozeer hoe, wanneer en waarom robots nee zouden moeten zeggen, maar veel meer hoe mensen kunnen bevatten en interpreteren wat het voor robots betekent om een opdracht te weigeren. Afgewezen worden door een robot zou wel eens een onvermijdelijk aspect van onze toekomst kunnen zijn – als het bij ons maar niet leidt tot verwarring en verbijstering.

Gebaseerd op een artikel van Adam Elkus, Ph.D. student sociale computerwetenschappen  op de George Mason University en fellow bij New America’s Cybersecurity Initiative. Het is geschreven in het kader van Future Tense, een samenwerking tussen de Arizona State University, New America, en Slate. 

*) Lees ook: Robots are learning to say "no" to human orders