Op december 2022 berichtte ik over ChatGPT, met het nodige enthousiasme. Ofschoon ik daar niets op af wil dingen, is er wel degelijk aanleiding tot enige voorzichtigheid of misschien zelfs scepsis. De oprichters van destijds, Elon Musk (Tesla), Sam Altman (AirBNB), Peter Thiel (PayPal) en anderen, presenteerden OpenAI als een laboratorium voor AI zonder winstoogmerk. Als je iedereen in staat stelt gebruik te maken van AI kan een supermacht daar geen misbruik van maken, zo was de gedachte.
Maar de oprichters hebben de potentiële waarde van ChatGGTP ingezien en hebben de non-profitstructuur inmiddels opgegeven. De non-profitorganisatie ging een commercieel bedrijf aansturen. De werkelijke macht ligt bij Microsoft. Duidelijk is dat de software en de modellen niet toegankelijk zijn voor onderzoek of hergebruik. De systemen (Large Language Models, LLM's) zijn zo groot geworden dat wetenschappers er niet meer mee uit de voeten kunnen. Een database van miljoenen teksten of meer is te groot om te controleren op onjuistheden en vooroordelen, schrijft Colin van Heezik in de NRC van 2 januari dit jaar.
Het achterliggende doel van OpenAI is om als eerste AGI (Artificial General Intelligence) te realiseren, AI dat dezelfde taken kan uitvoeren als een menselijk brein. De investeerders die in dit soort systemen investeren doen dit vanuit een wat zij Effective Altruism (EA) noemen. Het klinkt zo edelmoedig maar er gaan grote gevaren achter schuil. En los daarvan blijkt de ecologische voetafdruk van LLM's enorm groot te zijn, ze slurpen energie.
Voor deze post baseerde ik mij vooral op het artikel Wat is er open aan OpenAI? van Colin van Heezik in de NRC van 2 januari 2023. Voor alle duidelijkheid: ik ben nog steeds enthousiast over ChatGTP. Het is een niet te stuiten ontwikkeling met enorme technische potenties. Maar ook met dito risico's op grote gevaren en ongelukken. Bedenk bovendien dat ChatGTP nu nog gratis toegankelijk is maar heel snel achter een betaalmuur zal verdwijnen. Dan is het uit met de pret.
Geen opmerkingen:
Een reactie posten