Hoe controleer je of een AI-systeem niet alleen technisch goed functioneert, maar ook rekening houdt met privacy, veiligheid en andere maatschappelijke belangen? TNO ontwikkelt methoden waarmee zulke waarden kunnen worden vertaald naar concrete ontwerpkeuzes. Het meetinstrument is gericht op inzichtelijk maken in hoeverre AI-systemen zich in de praktijk aan vooraf vastgestelde waarden houden.

Als organisaties kunstmatige intelligentie gebruiken om beslissingen te ondersteunen of processen te automatiseren, kunnen verschillende belangen met elkaar botsen. Een AI-systeem dat onderhoud aan wegen voorspelt, kan bijvoorbeeld nauwkeuriger worden wanneer het meer gegevens verzamelt. Tegelijkertijd kan het gebruik van locatiegegevens de privacy van weggebruikers aantasten.
Volgens TNO is het daarom onvoldoende om bij de ontwikkeling van AI alleen algemene uitgangspunten zoals transparantie en veiligheid vast te leggen. Deze moeten ook worden vertaald naar technische eisen die tijdens de werking van het systeem gecontroleerd kunnen worden.
Morele afwegingen
Om dit mogelijk te maken, ontwikkelt TNO de Moral Model-architectuur. Deze helpt ontwikkelaars om maatschappelijke waarden op te nemen in het ontwerp van AI-systemen. Dat maakt onderscheid tussen het modelleren van de gevolgen van beslissingen, het beoordelen van die gevolgen aan de hand van waarden, de besluitvorming binnen het AI-systeem en de interactie met gebruikers. Hierdoor kunnen ontwikkelaars beter analyseren hoe technische keuzes doorwerken en wordt er duidelijker welke afwegingen een AI-systeem maakt wanneer belangen met elkaar conflicteren.
Index
Een tweede ontwikkeling is de ethical adherence index. Dit meetinstrument beoordeelt ‘in hoeverre het gedrag van een AI-systeem overeenkomt met vooraf vastgestelde waarden’. De index verandert afhankelijk van de gevolgen van systeemgedrag. Wanneer beslissingen bijdragen aan de gewenste waarden, stijgt de score. Als het systeem daarvan afwijkt, daalt deze.
Dat moet vooral nuttig zijn bij autonome systemen die opereren in veranderlijke of onvoorspelbare omstandigheden. Een AI-model kan bijvoorbeeld aanvankelijk betrouwbare voorspellingen doen, maar na verloop van tijd minder goed functioneren doordat de omstandigheden veranderen. TNO wil met de index dergelijke afwijkingen zichtbaar maken, zodat organisaties tijdig kunnen ingrijpen.
Monitoring
Naast de meetindex ontwikkelt TNO een monitoringproces waarin technische meetgegevens worden gecombineerd met kwalitatieve informatie, zoals ervaringen van gebruikers. Bij het eerder genoemd systeem voor voorspellend wegenonderhoud kunnen bijvoorbeeld verkeersintensiteit, slijtagegegevens en ervaringen van weggebruikers worden meegenomen. Een weinig gebruikte weg kan voor hulpdiensten of bewoners immers belangrijker zijn dan de verkeerscijfers doen vermoeden. Door dergelijke informatie te combineren, kunnen organisaties beoordelen of het AI-systeem nog steeds de juiste belangen dient.
Met de ontwikkelde methoden wil TNO verder gaan dan bestaande raamwerken die zich vooral richten op het identificeren van waarden of het afwerken van controlelijsten. Volgens TNO ‘kunnen niet alle belangen altijd tegelijkertijd worden behartigd’. Wel moeten organisaties inzicht hebben in de gemaakte afwegingen en kunnen vaststellen wanneer bijsturing noodzakelijk is.
Uitgelichte vacatures
- Engineer Meet- & Regeltechniek
Bedrijf: PWN - PA-systeem- en securityspecialist
Bedrijf: PWN - Flow Measurement Engineer
Bedrijf: VSL - Wetenschapper Elektriciteit
Bedrijf: VSL - Technisch specialist leidingen & technieken
Bedrijf: PWN - Monteur Hightech Machinebouw (medior)
Bedrijf: Trymax





