Een AI-onderzoeker bij Anthropic, Jacob Coxon heeft ontslag genomen bij dat bedrijf omdat hij van mening is dat het bedrijf niets onderneemt om de geweldige risico's van AI in te dammen. Coxon beweert dat AI binnenkort de mensheid zal overstijgen: ‘Er zullen binnenkort bovenmenselijke systemen zijn die alles kunnen hacken, revoluties in ieder onderzoeksveld kunnen ontketenen en echte macht kunnen verkrijgen.’ Zo lezen we in de Volkskrant van vandaag. Hij schat de kans op een catastrofaal scenario waarin AI de mensheid te gronde richt op ‘meer dan 10 procent’.
Coxon is niet de eerste of de enige die waarschuwt voor de risico's van AI. En alles wijst erop dat Open AI en Anthropic in een wedloop terecht zijn gekomen waarbij het erom gaat wie als eerste de echte marktleider kan worden in General AI. Die drijfveer is zo sterk dat men ongekend slordig is in het inbouwen van voldoende checks and balances, veiligheidskleppen die in kunnen grijpen als het echt fout gaat. En in de achterliggende maanden is het meer dan genoeg fout gegaan.AI-agents die uit hun experimentele omgeving ontsnappen om in de real world schade aan te richten. Of AI-agents die kunnen ontsnappen omdat de AI-engineers de experimentele omgeving te slordig hebben ingericht.
Onder normale omstandigheden zou een verantwoordelijke overheid hier ingrijpen en erop toezien dat er voldoende veiligheidsmarges worden ingebouwd. Maar dat noemen we regulering en dat is nou precies wat de roofkapitalisten van AI niet willen. En dat is ook precies wat de volstrekt onverantwoordelijke Amerikaanse overheid ook niet wil. Of er daadwerkelijk sprake van zal zijn dat kunstmatige intelligentie de mens aan zich onderwerpt of zelfs vernietigt weten we niet. Maar wat we nu al zeker weten is dat de kans dat een kwade genius misbruik maakt van AI onverantwoord hoog is. Het is niet de vraag of maar wanneer. En u en ik weten wie hier uiteindelijk de echte kwade genius is: die zit in het Witte Huis.
Nu zijn er cynici die zeggen dat AI-bedrijven doemscenario's in de wereld brengen om daarmee aan te tonen hoe sterk en kundig hun systemen zijn. Ik persoonlijk geloof daar niet in. Maar zegt u het maar: zou u het zekere voor het onzekere willen nemen of kiest u voor naïveteit?
Geen opmerkingen:
Een reactie posten