In het weekend van 25 juli lazen we voor het eerst van AI-programma's die autonoom kunnen opereren en en kunnen ontsnappen uit een experimentele omgeving om in de buitenwereld schade aan te richten door bedrijven te hacken. Zoekt u zelf maar op hoe gewiekst deze modellen erin slaagden door te dringen tot het hart van de beveiliging van systemen om daar hun schadelijk werk te doen. Het duurde slechts enkele dagen voor we konden lezen dat er veel meer bedrijven door deze modellen gehackt waren dan aanvankelijk werd voorgesteld door OpenAI.
In de NRC lezen we een interessant artikel van correspondent Wouter van Noort die terecht opmerkt dat het hier vermoedelijk niet alleen maar om ootmoedige erkenning van een onbedoelde fout gaat maar evenzo goed om om aandachttrekkende opschepperij over waartoe deze systemen wel niet in staat zijn. De makers van AI lijken er baat bij te hebben dat er tal van dystopische verhalen verschijnen die de mensheid angst moeten inboezemen. Het mechanisme dat daarbij gehanteerd wordt is dat men door te spreken van een AI-agent die rogue gaat bereikt dat dat het grote publiek een soort vermenselijking van kunstmatige intelligentie gaat zien. Een volstrekt onterechte vermenselijking.
Laten we wel zijn, het gaat hier niet om systemen die op sinistere wijze proberen te ontsnappen om buiten grote schade aan te richten. Het gaat om AI-modellen in een afgesloten testomgeving waarvan een aantal veiligheden werden uitgezet en vervolgens deden die AI-modellen niets anders dan de meegegeven instructies, gebaseerd op prompts die door de AI-makers waren vervaardigd, uitvoeren. Dit alles neemt niet weg dat AI in staat is tot het aanrichten van ontwrichtende schade aan systemen overal ter wereld. En dit lijkt niet te vermijden al was het maar omdat we nooit zullen weten of wij onze veiligheden goed op orde hebben én of AI haar eigen veiligheden goed op orde heeft. Zelfs wanneer een heuse AI-waakhond wordt opgericht die nieuw op de markt te brengen AI-systemen kan analyseren en de nodige veiligheidschecks kan doen, dan nog zullen we nooit honderd procent zekerheid krijgen. In Europa zijn we hier veel alerter op dan in de VS. Daar lopen de AI-ondernemers voorop om regulering te vermijden en voorkomen.
Overigens lezen we vandaag in de krant dat ook AI-modellen van Anthropic zijn uitgebroken en drie organisaties hebben gehackt. Eerder al meldde de Volkskrant dat de schade door losgeslagen AI-agenten veel groter was en zelfs accounts van gebruikers kaapten om zich daarachter te verschuilen! Het is maar dat u het weet. De roofkapitalisten die AI-ondernemers per definitie zijn - twijfelt u daar nog aan? - zijn hard op weg om ons leven te verwoesten. Zie ook maar eens hoezeer deze ondernemers zich verzetten tegen open source technieken die de Chinezen hebben ontwikkeld zonder hun verzet ook maar enigszins te beargumenteren. Ik zou het geweldig vinden als de Amerikanen links en rechts door de Chinezen worden ingehaald. Niet dat de Chinezen niet voor enorme veiligheidsrisico's kunnen zorgen maar de dievenbende van de meest corrupte Amerikaanse president ooit moet gestopt worden.
Geen opmerkingen:
Een reactie posten