De science fiction schrijver Isaac Asimov bedacht een drietal wetten om de macht van robots in te kunnen dammen. Zijn wetten zijn een wonder van vernuft en eenvoud en luiden als volgt: Een robot mag een mens geen kwaad doen of door onachtzaamheid een mens schade berokkenen - Een robot moet een bevel van een mens gehoorzamen, tenzij dat in strijd is met de eerste wet - Een robot moet zijn bestaan beschermen, zolang dat niet in strijd is met de eerste of de tweede wet.
In de NRC van dit weekend een heerlijk artikel van hoogleraar theoretische astrofysica, Vincent Icke over de toekomstige rol van robotica in het leven van mensen. Icke denkt dat het wel mee zal vallen met die bedreiging van het menselijk leven door robots. Natuurlijk ziet ook hij het risico van dom of kwaadwillig gebruik van robots door slecht volk. Maar het enige echte probleem met machines of computers, intelligent of niet, is de mens, aldus Icke.
Wij doen onszelf nu al de das om door nagenoeg vrijwillig of op zijn zachtst gezegd naïef onze privacy op te geven. Big data, search engines, veiligheidsdiensten, niets van onze gedragingen ontgaat hen die macht over ons hebben. En bedenk daarbij, zegt Icke terecht, dat dat gebeurt met computers die zo dom zijn als het achtereind van een varken.
De kans dat computers ons mensen af zullen schaffen acht Icke nagenoeg nihil. Maar computers zullen straks meer kunnen dan volledige gezichtsherkenning of het plaatsen van vals bewijsmateriaal door geheime diensten; computers zullen straks ook volledige taalbeheersing kennen en dan hebben de veiligheidsdiensten helemaal niemand meer nodig om ons af te luisteren. Dan heeft Orwell het juist gezien, iets later dan aanvankelijk gedacht maar niet minder waar.
Prachtig zijn de laatste zinnen van het artikel van Icke: "Een zuiver intelligente computer heeft geen geloof, hoop of liefde. Hij zal daaruit de logische conclusie trekken dat het leven geen zin heeft, en zichzelf terstond opheffen. Daarna kunnen de restanten van de mensheid uit hun holen kruipen en fijn doorgaan met hun geknoei, totdat over vijf miljard jaar de zon ontploft. Dat geeft ons ruim de tijd om de wetten van Asimov in onze eigen ethiek op te nemen, voordat we voorgoed verdwijnen".
Geen opmerkingen:
Een reactie posten