17 feb. 1999
2 minuten
Het is nog lang niet zover dat machines slimmer zijn dan mensen, maar experts op het gebied van kunstmatige intelligentie bereiden zich al voor op het ergste. AI-experts van over de hele wereld ondertekenden een open brief die werd gepubliceerd door het Future of Life Institute en waarin een pleidooi wordt gehouden voor veilige en zorgvuldige communicatie en coördinatie op dit gebied, om te zorgen dat het niet uit de (mensen)hand loopt.
Tot de ondertekenaars behoren de oprichters van het Britse AI-bedrijf Deep Mind, dat in januari 2014 is overgenomen door Google. Ook MIT-professoren, wetenschappers van het Watson supercomputerteam van IBM en experts van Microsoft Research ondertekenden, samen met vele anderen, de brief (lees hem hier).
"Succes in de zoektocht naar kunstmatige intelligentie biedt ongeëvenaarde mogelijkheden voor de mensheid. Het is daarom zinvol om te onderzoeken hoe deze voordelen kunnen worden gemaximaliseerd, zonder in valkuilen te lopen", zegt de brief. Bij de brief hoort een researchdocument dat schetst waar die valkuilen liggen en wat er moet worden gedaan om veilig verder te kunnen werken aan AI.
Het Future of Life Institute maakt zich in eerste instantie vooral zorgen over de ethiek van machines en zelfrijdende auto’s, Zullen onze voertuigen in staat zijn om risico’s te minimaliseren zonder dat de bestuurder daarbij om het leven komt? En ook autonome wapensystemen horen bij die zorgelijke toepassingen.
De onderzoekers willen een akelige, door computers beheerste samenleving niet beschouwen als pure fantasie, Zij willen zich richten op de mogelijkheid dat een intelligentie die groter is dan de onze zich tegen zijn programmering begint te verzetten.
Het Future of Life Institute is een researchorganisatie van uitsluitend vrijwilligers die zich bezighouden met het schatten van de risico’s van door mensen gemaakte intelligentie die zich mogelijk exponentieel ontwikkelt. Het instituut is opgericht door veel gelauwerde wiskundigen en computerwetenschappers, aangevoerd door Jaan Tallinn, medeoprichter van Skype, en MIT-professor Max Tegmark.
Elon Musk, CEO van SpaceX en Tesla CEO en lid van de wetenschappelijke adviesraad van het instituut heeft zich de afgelopen jaren uitgesproken over de ontwikkeling van AI. Hij noemde het in een MIT-presentatie in oktober vorig jaar het "dagvaarden van de duivel" en zegt dat dit vakgebied gevaarlijker kan zijn dan kernwapens.
Ook de beroemde natuurkundige Stephen Hawking is huiverig voor AI. "Je kunt je een technologie voorstellen die slimmer is dan de financiële markten, inventiever dan menselijke onderzoekers en manipulatiever dan menselijke leiders. Die technologie kan wapens ontwikkelen die wij niet eens kunnen begrijpen."
De impact van AI op de korte termijn hangt af van degenen die de technologie beheersen, maar op de langere termijn gaat het erom of Ai überhaupt kan worden beheerst, zo stellen de wetenschappers.
Anderen lazen ook
