Home Innovatie & Strategie Geef machines rechten en plichten

Geef machines rechten en plichten

De informatietechnologie levert ons werktuigen die de mens kunnen dienen. Tot dusver was dat een realistisch verwachtingspatroon dat we over IT-werktuigen -software/hardware – mochten hebben. Maar in 2012 kwam de IBM BlueGene/Q uit, een mainframe-computer die ongeveer dezelfde informatieverwerkende capaciteit heeft als het menselijke brein: 20 petaflops.
BlueGene/Q is de opvolger van de computer die schaakgrootmeester Gary Kasparov in 1999 versloeg en van de computer die in 2011 de beste menselijke spelers van het televisie-kennisspel Jeopardy versloeg.

Binnen één menselijke generatie beschikt elke laptop over een processor die meer instructies per seconde kan verwerken dan zijn menselijke gebruiker. Een baby die nu wordt geboren, leeft als hij 21 is in een wereld waarin elk digitaal apparaat dat hij gebruikt sneller informatie kan verwerken dan zijn brein.

In het boek “Rechten en Plichten voor Robots” leg ik uit waarom er een maatschappelijk antwoord moet komen op het steeds intelligenter worden van machines. Het is een tragische vergissing te denken, dat het verschijnen van steeds capabeler machines kan worden afgedaan als slechts de komst van betere apparatuur die ons ten dienste zal staan of bedrijven zal helpen efficiënter te werken.

Die aanname wordt vooral veroorzaakt doordat de bekendste software die we nu gebruiken opereert via het afwerken van “als-dan”-regels. Maar achter de schermen verschijnen lerende systemen die op onvoorspelbare wijze opereren. Het basisprincipe bestaat uit kunstmatige neurale netwerken die een rechtstreekse simulatie vormen van menselijke hersenen.

Nu al bestaan de meest kritische systemen uit complexe algoritmen, die voor mensen niet meer te doorgronden zijn. Irisscanners, vingerafdrukscanners en beeldherkenningssoftware zijn zichtbare voorbeelden van software die niet regel voor regel is geschreven, maar getraind is om een niveau van performance te bereiken. In de financiële en militaire sector worden complexe neurale netwerken gebouwd, waarmee software-systemen zelfstandig beslissingen kunnen nemen op de beurs of op het slagveld, onder condities die voor menselijke opdrachtgevers niet te voorzien zijn. Het gaat om systemen met autonoom lerende capaciteiten.

De kennis en kunde van deze systemen wordt slechts beperkt door de omvang van het kunstmatige neurale netwerk en van de verwerkingskracht van de onderliggende hardware. De Wet van Moore verdubbelt deze verwerkingskracht elke pakweg 20 maanden. Tien van deze verdubbelingen betekenen een groei van de verwerkingskracht met een factor 1000.

De bewustwording van dit verschijnsel bij de media, maar ook bij ICT-professionals, loopt lichtjaren achter. Het fundamentele probleem dat zal ontstaan is dat niemand verantwoordelijk kan zijn voor het gedrag van autonome systemen. De gebruiker niet, de leverancier niet, de fabrikant niet, de tussenhandelaar niet. Lerende systemen kunnen veel complexere taken aan dan klassieke “als-dan”-systemen. Een lerend systeem dat op maandag operationeel wordt, functioneert op dinsdag alweer anders, zodat niemand de performance kan garanderen. De laatste ontwikkelingsstadia van deze systemen bestaan ook niet uit een testperiode, maar uit training on the job.

De maatschappij moet een antwoord formuleren op deze ontwikkeling. Momenteel worden rechtskwesties rond ICT geregeld via reguliere wetgeving zoals die rond eigendom, overeenkomsten en privacy. In “Rechten en Plichten voor Robots” stel ik dat dit een doodlopende weg is. Uiteindelijk moeten lerende systemen een eigen rechtspositie krijgen om onafhankelijk van mensen te kunnen functioneren en ter verantwoording te worden geroepen. Ze moeten het recht krijgen op relevante informatie voor het nemen van beslissingen, maar ook het recht om zichzelf te upgraden om een taak goed te kunnen verrichten. In het verlengde: het recht op een budget, op een bankrekening, op werkweigering en op andere rechten. Het is een Doos van Pandora. Tegelijkertijd moeten lerende systemen de plicht krijgen zich aan wetten en regels te houden en verantwoording afleggen aan de directe omgeving en zo nodig aan de maatschappij.

Het boek voorspelt de noodzaak van een overkoepelende Algoritmewet, die de rechtspositie van intelligente lerende systemen regelt. Er worden zes eigenschappen van deze machines voorgesteld om te voldoen aan de status “gekwalificeerd algoritme met autonome rechtspositie”. Een uitvloeisel van zo’n Algoritmewet kan zijn dat leveranciers van lerende systemen verplicht worden om zowel de autonomie van de lerende machine te waarborgen als het voldoen aan wettelijke verplichtingen.

Rechten en Plichten voor Robots loopt bewust op de ontwikkelingen vooruit. Want vanaf het moment dat lerende systemen de mens voorbijstreven in informatieverwerkende capaciteit, verliezen we de controle over de wereld en zijn de effecten niet te overzien.

Henny van der Pluijm, auteur van “Rechten en Plichten voor Robots”. Lees meer informatie over het boek, of bestel het.

LAAT EEN REACTIE ACHTER

Please enter your comment!
Please enter your name here