De beursgang van AI is een moreel vraagstuk, geen zakelijke propositie

U heeft het vast ook gelezen: Anthropic gaat met haar AI producten naar de beurs. En oinder het mom van maximale transparantie schetst de voorman van dit bedrijf, Dario Amodei, hoezeer AI ons leven in de nabije toekomst kan bedreigen. Om daarna vol op het orgel te gaan over de vermeende voordelen van AI. Maar die voordelen zie ik zo ook wel. Mij gaat het er vooral om wat de AI-bedrijven doen om maximale veiligheden in te bouwen. Daartoe dient er een internationale waakhond te komen, dat zou mij al heel wat meer vertrouwen inboezemen. Maar dat is nu precies wat de Amerikanen niet willen. Daarover sraks. Eerst maar eens de Volkskrant geraadpleegd over de risico'sa van AI zoals geschetst door Amodei zelf: 

Een van die risico’s is dat Anthropic de controle verliest over zijn AI-agenten, waarschuwt het bedrijf. Er bestaat bijvoorbeeld een kans dat Anthropics taalmodellen in de toekomst ‘gedrag gericht op zelfbehoud’ gaan vertonen, en via chantage, manipulatie en andere judasstreken zullen proberen te voorkomen dat mensen de stekker uit hun systemen trekken. 
Een ander gevaar is dat ‘autoritaire regeringen AI kunnen gebruiken om een geavanceerde surveillancestaat te creëren’. AI kan leiden tot een ‘concentratie van macht en rijkdom – zowel binnen als tussen landen – die het vertrouwen ondermijnt, de samenleving schaadt en de geopolitieke orde destabiliseert’.
Ook zou Claude ‘kwaadaardige actoren’ van dienst kunnen zijn in hun pogingen om ‘chemische, biologische of andere gevaarlijke wapens te ontwikkelen’.
Het is niet de eerste keer dat de familie Amodei met apocalyptische vergezichten strooit, iets waar ook hun grote rivaal Sam Altman van OpenAI een handje van heeft. Zo speculeerden zij de voorbije jaren al over een toekomst waarin zwermen AI-agenten het internet kapen, onze bankrekeningen leegplunderen en onze immuunsystemen verwoesten met antibiotica-resistente spiegelbacterien. 

Maar nu de vraag hoe diezelfde Amodei denkt over een internationale waakhond. De eerlijkheid gebiedt op te merken dat hij een afwijkend standpunt inneemt ten opzichte van bijvoorbeeld Sam Altman. Hij vindt dat bedrijven niet uitsluitend op hun eigen veiligheidsbeloften mogen worden vertrouwd. Ook is hij van mening dat er externe beoordelaars, wettelijke verplichtingen en overheidsbevoegdheden om riskante modellen tegen te houden moeten komen. En tot slot stelt hij dat aangekondigde maatregelen nog geen bewijs zijn dat onafhankelijk toezicht in de praktijk altijd voldoende toegang, middelen en beslissingsmacht heeft. 

In ons kapitalistisch systeem is het volkomen logisch dat Amodei naar de beurs gaat. Er zijn genoeg personen, bedrijven en instanties die heilig (willen) geloven in de beloftes van AI en die zich niet laten afschrikken door de potentiële risico's. In die zin vind ik de door Amodei gekozen strategie wel sterk. De vraag of je de ontwikkeling van potentieel levensgevaarlijke AI moet laten afhangen van de bereidheid tot investeren, is echter eerst en vooral een morele vraag. AI vraagt om geld, heel veel geld, net zoals AI ook om energie vraagt, heel veel energie. Ik persoonlijk zou mijn geld niet in AI willen stoppen. Niet omdat ik niet in de voordelen zou geloven maar vooral omdat ik de risico's en dreigingen onaanvaardbaar hoog vind.

Wat een genoegen om naar Bertrand Russell te luisteren

 

Nam u de moeite om het filmpje uit mijn vorige post te bekijken? Moet u echt doen. Een buitengewoon innemende man, met een altoos ondeugende blik in de ogen. Een man ook met een buitengewoon ontwikkeld intellect. Russell leefde ook in een zeer interessante tijd van 1872 tot 1970. Hij maakte twee wereldoorlogen mee en verwijt de Europeaan vooral dat hij in 1914 voor oorlog koos. Een volkomen absurde en vermijdbare keuze, aldus Russell. Hadden de Europeanen toen hun verstand gebruikt dan zou er nooit een Tweede Wereldoorlog zijn gekomen. Ik denk dat hij daarin gelijk heeft.

Wil de mens zich daadwerkelijk kunnen aanpassen aan de industriële revolutie die zich nu over ons voltrekt, dan zijn er drie zaken noodzakelijk, aldus Russell. Er moet een wereldregering komen, we moeten streven naar economische gelijkheid en we moeten de wereldbevolking op het huidige niveau (1952) stationair houden.

De belangrijkste taak van de wereldregering moet zijn het voorkomen en vermijden van oorlogen. Als eer geen oorlogen mer kunnen ontstaan ligt de weg naar bevrijding van de mens open en vrij. Zodra we toestaan dat er oorlogen gevoerd worden zullen er technologieën voor massamoord worden ontwikkeld en dat is een doodlopende weg voor de mensheid.

In 1952 was de levensstandaard in Europa en de VS aanzienlijk hoger dan in de rest van de wereld. Het streven moet zijn om die ongelijkheid zoveel mogelijk te egaliseren. Je kunt zeggen dat dat wereldwijd wellicht grotendeels geslaagd is, zeker voor wat betreft het Aziatisch continent. Afrika ligt helaas nog op aanzienlijke achterstand. Daardoor zal er jaloezie tussen de volkeren ontstaan, aldus Russell en als gevolg daarvan zal er veel internationale onrust ontstaan.

Wat betreft de wereldbevolking: in 1952 bedroeg die circa 2,6 miljard en vandaag ligt het niveau op 8,2 miljard. Bijna een verdrievoudiging en dat kun je met de beste wil van de wereld niet stationair noemen. Russell realiseerde zich dat de voetafdruk van de mens zo groot was dat we met die 2,6 miljard aardbewoners onze limiet wel hadden bereikt.

Ja, er is hoop antwoordde Bertrand Russell in 1952. Of hij vandaag nog steeds dat antwoord zou geven waag ik te betwijfelen. Het ziet er  niet goed uit, the odds are against us!  

 

 

End Time Fascism

kk

 

Piers Morgan meent het gevaar van Peter Thiel en andere tech bros te moeten bagatelliseren. Intellectueel is hij niet opgewassen tegen Naomi Klein. Bekijk dit interview eens en neem haar serieus, deze Naomi Klein die samen met Astra Taylor een extreem verontrustend boek over 'end time fascists' schreef. Ik kom er later op terug. 

 

 

Breekt er nu echt een politieke lente aan in Servië?

 

De studenten van Belgrado zijn erin geslaagd Vucic in de jongste verkiezingen te verslaan. Het werd tijd na veertien jaar repressie en corruptie. Een kort overzicht van de wandaden van Vucic die onder Milosevic al minister was:

• Het zich toe-eigenen van de belangrijkste media in het land, kranten en  tv zenders. 
• Talloze lastercampagnes tegen politieke tegenstanders.
• Censuur en persbreidel.
• Enorme corruptie.
• De ramp in Novi Sad waar een stationsdak instortte. 
• Knokploegen en sabotage.
• Het verhinderen van legitieme protestdemonstraties.
• Geweld tegen minderheden.
• Stembusfraude.
• Economische chantage.
• Ruslandvriend en extreem nationalistisch.

Het is een zegen dat dit politieke onkruid (to put it mildly) eindelijk verdwijnt. Of daarmee in Servië nu een andere wind gaat waaien, we moeten het afwachten. De studenten zijn van goede wil maar het zijn geen politici. Ze zijn niet door de wol geverfd en hebben geen enkele ervaring in het politieke spel. Hebben ze een serieus plan met hun land en hun volk? Hebben ze capabele mensen die als bestuurder kunnen optreden? En Servië heeft al decennia lang geen echte ervaring met een heuse democratie. Maar al te lang zijn de Serviërs bereid gebleken achter allerlei nationalistisch tuig aan te lopen en maar al te gretig lieten ze zich verleiden tot moslimhaat en dubieus optreden tijdens de Balkanoorlog in de jaren negentig. Willen de Serviërs wel een heuse democratie of blijven ze liever de steile nationalisten die bereid waren de Balkan in de fik te steken? 

Wat Bertrand Russell al in 1970 begreep

 

Op dit moment lees ik Antizionisme van Benjamin Moser, een razend interessant boek over het kwaad dat door zionisten en zionisme is aangericht. Zelf heb ik lange tijd gedacht dat het streven van het zionisme naar een eigen joodse staat niet zo heel erg vreemd was, zeker niet na de holocaust. Maar het boek van Moser heeft me duidelijk laten zien dat ik de geschiedenis te licht beoordeelde. Het jodendom is een geloofsgemeenschap, het is nadrukkelijk geen ras en geen volk, alle verhalen over de diaspora ten spijt.

Op het boek van Moser kom ik later terug. Al in 2025 kwam ik in deze kolommen te spreken over Bertrand Russell en dan meer specifiek over zijn beroemde brief uit 1970 over Israël en het zionisme.
Op 3 februari 1970 werd deze brief voorgelezen op een internationale conferentie in Caïro, een dag na het overlijden van deze grote Britse wiskundige en filosoof. Hieronder vindt u de volledige tekst van deze indringende en indrukwekkende brief. Deze brief had ook gisteren geschreven kunnen worden want ze heeft, helaas, niets aan actualiteit ingeboet. Wie de Israëlische verkiezingen ook gaat winnen en ik voorspel dat Netanyahu gewoon aan de macht blijft, het maakt weinig uit. Ook Eisenkot zal de Palestijnen geen verlichting brengen en de etnische zuiveringen op de Westelijke Jordaanoever zullen gewoon doorgaan. Ach, beklagenswaardig volk van Israël!

The latest phase of the undeclared war in the Middle East is based upon a profound miscalculation. The bombing raids deep into Egyptian territory will not persuade the civilian population to surrender but will stiffen their resolve to resist. This is the lesson of all aerial bombardment. The Vietnamese who have endured years of American heavy bombing have responded not by capitulation but by shooting down more enemy aircraft. In 1940 my own fellow countrymen resisted Hitler’s bombing raids with unprecedented unity and determination. For this reason, the present Israeli attacks will fail in their essential purpose, but at the same time they must be condemned vigorously throughout the world. The development of the crisis in the Middle East is both dangerous and instructive. For over 20 years Israel has expanded by force of arms. After every stage in this expansion Israel has appealed to “reason” and has suggested “negotiations”. This is the traditional role of the imperial power because it wishes to consolidate with the least difficulty what it has already taken by violence. Every new conquest becomes the new basis of the proposed negotiation from strength, which ignores the injustice of the previous aggression.

The aggression committed by Israel must be condemned, not only because no state has the right to annexe foreign territory, but because every expansion is an experiment to discover how much more aggression the world will tolerate. The refugees who surround Palestine in their hundreds of thousands were described recently by the Washington journalist I.F. Stone as “the moral millstone around the neck of world Jewry.” Many of the refugees are now well into the third decade of their precarious existence in temporary settlements.

The tragedy of the people of Palestine is that their country was “given” by a foreign Power to another people for the creation of a new State. The result was that many hundreds of thousands of innocent people were made permanently homeless. With every new conflict their number have increased. How much longer is the world willing to endure this spectacle of wanton cruelty? It is abundantly clear that the refugees have every right to the homeland from which they were driven, and the denial of this right is at the heart of the continuing conflict. No people anywhere in the world would accept being expelled in masse from their own country; how can anyone require the people of Palestine to accept a punishment which nobody else would tolerate? A permanent just settlement of the refugees in their homeland is an essential ingredient of any genuine settlement in the Middle East.

We are frequently told that we must sympathize with Israel because of the suffering of the Jews in Europe at the hands of the Nazis. I see in this suggestion no reason to perpetuate any suffering. What Israel is doing today cannot be condoned, and to invoke the horrors of the past to justify those of the present is gross hypocrisy. Not only does Israel condemn a vast number of refugees to misery, not only are many Arabs under occupation condemned to military rule; but also Israel condemns the Arab nations only recently emerging from colonial status, to continued impoverishment as military demands take precedence over national development.

All who want to see an end to bloodshed in the Middle East must ensure that any settlement does not contain the seeds of future conflict. Justice requires that the first step towards a settlement must be an Israeli withdrawal from all the territories occupied in June 1967. A new world campaign is needed to help bring justice to the long–suffering people of the Middle East.

 

Wat wil extreem rechts?

 

Mensen zijn door de eeuwen heen zeer ontvankelijk gebleken voor xenofobie. Voor alle dingen die fout gaan zoekt de mens het liefste een zondebok, een scapegoat, Sündenbock, un bouc émissaire, chivo expiatorio. De bekendste zondebok is natuurlijk de jood. Die heeft door alle eeuwen heen de grootste offers moeten brengen, het meest geleden onder deze pathologische angst voor wat vreemd is. Hier te lande zeggen we graag: wat de boer niet kent dat vreet hij niet. Steeds nadrukkelijker krijg ik het gevoel dat die xenofobie de meest menselijke karaktertrek is, belangrijker nog dan de liefde van een ouder voor zijn kind.

Dit redeloze gevoel, want meer is het niet, is in het geheel niet ontvankelijk voor wat we 'de werkelijkheid' noemen. Hier regeert de onderbuik. Een correspondentievriend zei me onlangs dat mijn kille cijfers (die aantoonden dat zijn gevoel nergens op sloeg) totaal niet relevant waren. Het ging er slechts om dat hij iets op een bepaalde wijze ervoer en hij voelde er niets voor zich te laten corrigeren door wat waarneembaar en beredeneerbaar een heel andere richting insloeg. 

Wat echter steeds meer doorsijpelt in die zo menselijke vreemdelingenhaat is de gedachte dat de ene mens superieur is aan de andere. Die xenofobie gaat gepaard aan een heel ander, sinisterder gevoel: de witte superioriteit, white supremacy. Steeds meer mensen praten hier steeds nadrukkelijker en steeds minder besmuikt hardop over. We kennen inmiddels vele pleitbezorgers van de gedachte dat witte mensen intelligenter zijn dan zwarte mensen, zoals Jared Taylor, Nick Bostrom, Nicolas Wade en Nathan Cofnas. Maar ook hier kennen we een lange geschiedenis, David Hume, Immanuel Kant en Georg Wilhelm Friedrich Hegel meenden ook al dat de zwarte mens in intelligentie achterbleef bij de witte mens. Enige wetenschappelijk bewijs voor deze aanname is evenwel nooit geleverd.

Bas Heijne, uitmuntend essayist en redacteur bij de NRC, schreef een uitstekend artikel in zijn krant dit weekend. De titel van zijn artikel geeft mijns inziens precies weer hoe we de werkelijkheid van vandaag moeten duiden: extreem rechts is uit op macht en vernedering. Sociale rechtvaardigheid interesseert hen niet. Gooi de zwarte eruit en alles wordt beter, zo luidt hun adagio. Zij geloven niet in de democratie omdat er dan krachten boven kunnen komen drijven die tot hen onwelgevallig beleid kan leiden en dat is wel het ergste dat hen kan overkomen. De kracht van de democratie is nu juist dat degene die tot een willekeurige minderheid behoort niet uitgegumd of verwijderd wordt. Maar de rechts-extremist meent dat de wil van de meerderheid dient te geschieden. De stem van het volk dient niet alleen gehoord maar coûte que coûte uitgevoerd te worden. En het volk, dat zijn wij, schreeuwt de rechts-extremist.

Waar de rechts-extremist met zijn roep om een sterke man echter niet over nadenkt is het volgende. Hoe weet hij zeker dat die sterke man, waar zij om roepen, altijd bereid zal zijn zíjn wil uit te voeren? Ligt het niet veel meer voor de hand dat de sterke man zijn heil zal zoeken bij de grootste ondernemers en bij het leger? De sterke man zal een onweerstaanbare behoefte hebben om zijn machtsbasis te verdedigen en dus dient hij zijn achterban, de naar zijn onderbuik luisterende rechts-extremist, te beheersen en onder de duim te houden. Is dat dan de positie die de rechts-extremist als het hoogste goed beschouwt?: liggend op zijn rug, spartelend met benen en armen en zich realiserend dat hij niets maar dan ook niets te vertellen heeft? De rechts-extremist is de geknechte mens, tandenknarsend en wenend, zich voor zijn kop slaand dat hij ooit de verkeerde afslag nam, iedereen met zich meesleurend. 

Wat is het ergste kwaad? Trump en Netanyahu steken elkaar naar de kroon

 

Ik wil al dagen schrijven over het verraad van Trump dat ongekend is in de geschiedenis van de mensheid. Vergelijkbaar met het Verdrag van München waarbij Chamberlain en Frankrijk accepteerden dat de Duitsers Sudetenland annexeerden. Of met de conferentie van Jalta waarbij Stalin, Churchill en Roosevelt de naoorlogse structuur van Europa bedisselden. Persoonlijk vind ik het verraad van Trump minstens even smerig en abject maar misschien wordt mijn oordeel enigszins vertroebeld doordat ik getuige ben van het verraad van Trump.

Dan hebben we opnieuw te maken met Netanyahu die nu de hele Westelijke Jordaanoever schoon wil vegen nadat twee Palestijnen twee joden vermoordden. ‘We gaan het succesvolle offensieve model toepassen dat we in de stedelijke vluchtelingenkampen hebben geïmplementeerd’, meldt Netanyahu in de videoboodschap, aldus de Volkskrant. 

In mijn ogen is Trump een nog grotere misdadiger dan Netanyahu. Vooral omdat hij probeert samen met Xi Jinping en Poetin de wereldmacht te verdelen. Ik beweer hier al jarenlang dat ik ervan overtuigd ben dat Poetin Trump op een of andere manier bij de ballen heeft. Hij  moet iets van hem weten waarvan Trump liever niet heeft dat u en ik dat ook te weten komen. Het is de enige samenzweringstheorie waar ik geloof aan hecht. 

Ik heb geen woorden meer om het kwaad dat 'Trump' heet te kenschetsen. Ik kan ook geen superlatieven meer bedenken. Ze lijken allemaal tekort te schieten. En in de VS is er niets of niemand dat Trump ervan kan weerhouden met zijn misdadig karakter de wereldorde voorgoed te veranderen. De internationale orde is voorgoed veranderd en de menselijke geschiedenis is in een afschuwwekkende richting geduwd door extreem misdadige karakters als Trump, Netanyahu en Poetin. Vindt u het naïef van mij dat ik Xi Jinping vooralsnog als de meest beschaafde van de drie beschouw?