Twee dagen geleden postte ik een video waarin de Amerikaanse directeur van The Institute for the Study of Energy & Our Future (SEOF) Nate Hagens de Duits-Amerikaanse computerwetenschapper en medeoprichter van EleutherAI en eigenaar van de startup Narrowpath.co Connor Leahy interviewt. Het gesprek duurt een uur en drie kwartier dus de kans dat u ernaar gekeken hebt is nagenoeg verwaarloosbaar. Toch zou u er de tijd voor moeten nemen, zeker als u wilt weten wat ons in de nabije toekomst te wachten staat. Een waarschuwing vooraf: Connor Leahy heeft geen vrolijke boodschap, sterker nog, dit is een extreem verontrustend gesprek, dystoptisch. Maar u mag uw ogen er niet voor sluiten.
Leahy schetst hoe AI vermoedelijk al heel snel tot AGI zal leiden, Artificial General Intelligence. Deze ontwikkeling is al in een dermate vergevorderd stadium dat hier geen halt aan kan worden toegeroepen. Maar de volgende stap is Artificial Super Intelligence (ASI) en die laatste generatie kunstmatige intelligentie zal vrijwel zeker leiden tot het uitsterven van de menselijke soort. Maar ook de huidige ontwikkeling van AI baart al genoeg zorgen: AI levert vaak onjuiste output op, het zorgt voor een enorm verlies van werkgelegenheid en daarmee ook verlies van menselijkheid en onze menselijke identiteit. Behalve aan sociale media raakt de mens al snel verslaafd aan AI. Leahy spreekt in dit verband van algoritmische kanker. Op de vraag van Nate Hagens of er dan ook een algoritmische chemotherapie is antwoord Leahy bevestigend: regulering, regulering en regulering.
Leahy bepleit het zonder meer verbieden van ASI omdat daarmee de mensheid alle zeggenschap over zichzelf uit handen wordt genomen. We zullen niets meer in te brengen hebben en de kans op uitsterven is meer dan realistisch. Zoals een Britse wetenschapper uitdrukte: de regulering rondom een broodje kaas is uitgebreider en sterker dan de regulering van AI.
Leahy spreekt gemakkelijk en vooral heldere taal. Hij weet goed uit te leggen wat AI is, doet en kan doen en is buitengewoon goed gedocumenteerd. Hij onderbouwt zijn uitspraken, die misschien verregaand lijken maar helaas, zo is althans mijn mening, exact aangeven welke gigantische risico's wij als mensheid momenteel lopen. Dat hij zich verre houdt van politieke uitspraken kan ik op zich wel begrijpen, voor je het weet ben je definitief ingedeeld bij een kamp en is het gedaan met je effectiviteit. Maar met zijn pleidooi voor regulering kunnen we er natuurlijk niet omheen dat de huidige Amerikaanse president helemaal niets van regulering moet hebben en er nadrukkelijk voor koos om de Amerikaanse AI-ondernemers alle ruimte en bewegingsvrijheid te gunnen.
Zelf schreef ik een essay over AI onder de titel AI, brenger van geluk of een Trojaans paard? U vindt de beide teksten op deze link, vergeet vooral de bijlage niet, die is misschien wel het meest onthullend. Ik dacht dat ik al pessimistisch was maar Leahy laat mij zien dat ik nog te voorzichtig was in mijn karakterisering van de risico's van AI.
Geen opmerkingen:
Een reactie posten