Skepsis is een stichting voor wetenschappelijk onderzoek van paranormale verschijnselen. De stichting houdt zich vooral bezig met kritisch onderzoek naar beweringen die op basis van de huidige stand van de wetenschappelijke kennis hetzij uiterst onwaarschijnlijk zijn, hetzij met deze kennis in tegenspraak zijn. De stichting brengt een uiterst interessant magazine uit, SKEPTER, driemaandelijks. In het jongste nummer werd ik vooral getroffen door een artikel over longtermism. Longtermism is een filosofische stroming die zegt dat we ons bij onze beslissingen hoe onze samenleving in te richten vooral moeten laten leiden door de vraag: wat betekent dit beleid voor de biljoenen mensen die nog geboren gaan worden? Ervoor zorgen dat toekomstige wereldburgers een waardig bestaan krijgen zou daarom de hoogste morele prioriteit moeten krijgen.
De Britse filosoof Nick Bostrom waarschuwde al dat AI op een dag zou kunnen besluiten dat alle grondstoffen in de wereld alleen nog maar ingezet mogen worden om paperclips te maken. Er zou niet veel van de mensheid overblijven. Wanneer is het verantwoord om nu al iets te doen aan een vage dreiging als AI, stelt Skepter-redacteur Ronald Veldhuizen? Daar heb je kansberekening voor nodig: de waarde van het bestaande leven versus de mogelijke waarde van toekomstig leven. Maar dan is, alleen al getalsmatig, het bestaande leven altijd in het nadeel.
Bovendien, zo vraag ik me af, betekent dat longtermism dat je AI niets in de weg moet leggen en juist wel? Denk maar aan die paperclipmachine. En daar komt nog iets anders bij: het is bepaald niet alleen AI dat nu al ingrijpt in het toekomstig leven. Hetzelfde geldt natuurlijk ook voor het militair-industrieel complex en voor climate change. Ik vind dat we onszelf overvragen als we nu al rekening moeten houden met mogelijke wereldburgers over duizend jaar. Goed rentmeesterschap betekent dat wij ons realiseren dat wij de aarde niet bezitten maar lenen van onze kinderen en kleinkinderen. Moreel handelen betekent in dat geval dat wij ervoor moeten zorgen dat de wereld die we na laten aan onze kinderen en kleinkinderen in alle opzichten veilig en duurzaam is. Met die opgave hebben we het al moeilijk genoeg. Wij kunnen onmogelijk inschatten of ons handelen van vandaag over duizend jaar inderdaad de best denkbare opties heeft opgeleverd.
Vooralsnog ben ik blij dat de EU als eerste met duidelijke regelgeving ten aanzien van AI is gekomen. Het is de vraag of die regelgeving toereikend en voldoende is. Maar het is in ieder geval een eerste stap. Het is extreem zorgwekkend om toe te moeten kijken terwijl een handjevol extreem grote bedrijven langzaam maar zeker alle macht naar zich toetrekt.
Geen opmerkingen:
Een reactie posten