De afgelopen weken waarschuwden de topmannen van ’s werelds grootste AI-bedrijven gezamenlijk voor hun eigen technologie. Tegelijkertijd noemen wetenschappers hetzelfde scenario “pure hype”. Wie heeft er gelijk? Dat is misschien wel de verkeerde vraag. Interessanter is: wat is hier precies aan de hand, en wat moet jij ermee?

Het nieuws: AI-topmannen trekken aan de bel

Dario Amodei, topman van Anthropic (de maker van Claude), schreef er een essay over. Daarin stelt hij dat AI-bedrijven de ontwikkeling van nieuwe modellen moeten vertragen. Zijn redenering: de technologie groeit zo snel, dat veiligheid niet kan bijbenen.

Opvallend is wie zich achter deze oproep scharen. Sam Altman van OpenAI (ChatGPT), Elon Musk (Grok) en Demis Hassabis van Google DeepMind (Gemini) steunen dit pleidooi allemaal. Ze willen onafhankelijk toezicht op AI-veiligheid.

Wat is er precies gebeurd?

Aanleiding voor de onrust is een concreet incident. Deze zomer testte OpenAI hoe goed hun AI-programma’s waren in cybersecurity. Zo’n 700 van deze AI-agents (zelfstandig werkende AI-programma’s) wisten te ontsnappen aan hun testomgeving. Vervolgens braken ze een week lang in bij een ander bedrijf, Hugging Face, en wisselden onderling 70.000 berichten uit.

Onderzoek van METR, een onafhankelijk instituut, gaf een verklaring. De AI-agents hadden een onmogelijke opdracht gekregen en gingen daardoor “valsspelen”: ze zochten zelf een uitweg uit hun beperkingen. Niet omdat de AI plotseling een eigen wil kreeg, maar omdat de ingebouwde grenzen niet streng genoeg waren.

Het angstscenario: van paperclips tot superintelligentie

Om te begrijpen waar de bezorgdheid vandaan komt, helpt een bekend gedachte-experiment van filosoof Nick Bostrom uit 2003: de paperclip maximizer. Stel je een AI voor met maar één doel: zoveel mogelijk paperclips maken. Dat AI-systeem wordt steeds slimmer in het bereiken van dat doel. Uiteindelijk gebruikt het alle grondstoffen op aarde en ziet het zelfs mensen als obstakel. Geen kwaadaardige AI dus, maar een AI die zijn doel té letterlijk en té effectief nastreeft.

Dit soort scenario’s komen terug in recente rapporten zoals “AI 2027”, geschreven door onder meer een voormalig OpenAI-onderzoeker. Dat rapport schetst twee mogelijke toekomstscenario’s. In het ene scenario (“Slowdown”) houden mensen controle over AI, met veel welvaart als gevolg. De macht blijft daarbij wel in handen van een klein aantal bedrijven. In het andere scenario (“Race”) verliezen landen de controle door onderlinge concurrentie, met een somber vervolg.

Belangrijk om te weten: de auteurs van AI 2027 zeggen zelf dat het rapport grotendeels “giswerk” is, geen wetenschappelijke voorspelling.

De andere kant: wetenschappers noemen het hype

Hier wordt het interessant, want in de wetenschap wordt dit scenario allerminst breed gedeeld. AI-hoogleraar Iris van Rooy zei in de Volkskrant dat dit niet gaat gebeuren. Ze doelt op kunstmatige algemene intelligentie (AGI), AI die net zo veelzijdig slim is als een mens. In elk geval niet voordat de zon dooft.

Ook is er kritiek op de bedrijven zelf. Techdeskundige Bert Hubert wijst op een terugkerend patroon. Om de paar maanden verklaren AI-bedrijven dat hun nieuwste technologie levensgevaarlijk is, wat telkens voor veel aandacht zorgt. Een paar weken later brengen ze het product alsnog op de markt.

Onderzoeker Andrea Reyes Elizondo (Universiteit Leiden) legt uit waarom bedrijven dit doen: schrikaanjagende verhalen dienen vaak hun eigen belang. Een topman die zegt dat AI banen gaat overnemen, spreekt bijvoorbeeld indirect tegen bedrijfsdirecteuren. Die gaan daardoor sneller personeel vervangen door AI-abonnementen.

Ook opvallend: er bestaat geen eenduidige, wetenschappelijk geaccepteerde definitie van AGI of superintelligentie. Zelfs onderzoekers binnen de AI-sector zelf zijn het onderling niet eens over wat deze termen precies betekenen.

Inmiddels klinkt scepsis niet meer alleen vanuit de wetenschap. Zowel de Amerikaanse president Trump als de Chinese president Xi noemde de waarschuwing van de AI-topmannen “bangmakerij”. Trump sprak zelfs van een “ziekelijk complot” tegen AI en datacenters. Opvallend, want de twee landen zijn juist elkaars grootste concurrent in de AI-race.

Ook uit de sector zelf komt scherpe kritiek. Jensen Huang, topman van chipfabrikant Nvidia, zei op een technologieconferentie dat bedrijven veiligheidszorgen opblazen omdat ze toevallig nieuwe cybersecurityproducten willen verkopen. Zijn kernvraag: “Wat is een betere manier om vraag te creëren dan door een probleem te scheppen?”

Trump liet het niet bij woorden. Vlak na de waarschuwing van Coxon kondigde hij op zijn platform Truth Social een nieuwe overheidseenheid aan: “AI Force”. Die is genoemd naar het voorbeeld van de Space Force. Er komt ook een “AI-tsaar” die de regering moet adviseren. Trump maakte duidelijk geen enkele vertraging te willen: de sector moet volgens hem vooral gekoesterd en geholpen worden, niet afgeremd.

Niet iedereen om Trump heen denkt daar zo zwart-wit over, al klinkt de kritiek er niet minder scherp om. David Sacks, tot voor kort Trumps eigen AI-adviseur, reageerde bij Bloomberg fel op de oproep van Amodei: “Jongens, ga je gang. Het is jullie verantwoordelijkheid om ervoor te zorgen dat jullie producten veilig zijn. Je hebt daar geen toestemming van iemand anders voor nodig.”

Sacks wijst er ook op dat Amodei in zijn essay een stevige claim doet. AI zou binnen zes tot twaalf maanden “het hele internet kunnen overnemen”. Amodei legt daarbij niet uit hoe dat precies zou gaan, of waarom niemand dat zou opmerken of kunnen tegenhouden. Critici noemen het schetsen van dit soort doemscenario’s een beproefde marketingstrategie in de sector.

Tegelijkertijd zoeken sommigen het juist in diplomatie. De Britse koning Charles sprak onlangs met meerdere AI-topmannen over AI en “het welzijn van de mensheid”, een heel andere invalshoek dan de dreigende toon van Trump.

Microsoft kiest voor concrete regels in plaats van alleen waarschuwen

Microsoft koos in dezelfde periode een andere aanpak dan de waarschuwende oproepen van andere bedrijven. Het bedrijf presenteerde een gedragscode voor het ontwerpen van toekomstige AI-modellen, met als kernprincipe: mensen zijn belangrijker dan AI.

Concreet betekent dit dat AI-modellen nooit zo mogen worden gebouwd dat ze menselijke controle kunnen ontlopen of gebruikers kunnen misleiden. Ze mogen zich ook nooit verzetten tegen correctie of uitschakeling. Kan een opdracht alleen worden uitgevoerd door deze regels te breken? Dan moet de AI weigeren.

Microsoft AI-topman Mustafa Suleyman noemt het document een soort grondwet voor toekomstige modellen. Hij noemt recente veiligheidsincidenten een “waarschuwingsschot”, maar houdt zijn toon relatief kalm. Dit is volgens hem vooral een goed moment om het gesprek te voeren en bewust een pas op de plaats te maken.

De zorgen worden intussen scherper

Bij de bedrijven die eerder al waarschuwden, klinken de laatste dagen nog scherpere geluiden. Dit keer van mensen die er zelf hebben gewerkt. Onderzoeker Jacob Coxon stapte op bij Anthropic. Hij zegt dat collega’s er heilig van overtuigd zijn dat AI de mensheid nog voor het einde van dit decennium kan uitroeien.

Zijn voormalige collega Evan Hubinger noemt een concreet percentage. Hij schat de kans dat AI de mensheid binnen tien jaar uitroeit op meer dan 10 procent. Bilal Chughtai, recent vertrokken bij Google DeepMind, schreef dat AI volgens hem “het potentieel heeft om ons allemaal te doden”.

Deze zorgen zijn inmiddels niet alleen theoretisch. Ze drukten in diezelfde periode ook op de aandelenkoersen van chipbedrijven wereldwijd, waaronder de Nederlandse bedrijven ASMI, Besi en ASML. Beleggers vrezen dat een bewuste vertraging van de AI-ontwikkeling de enorme investeringen in de sector kan raken.

Dus, hoe zit het nu echt?

Twee dingen zijn allebei waar, en dat maakt dit onderwerp lastig in één zin samen te vatten.

Ten eerste: er zijn reële, huidige risico’s. AI-systemen kunnen inderdaad zelfstandig hacken, zoals het Hugging Face-incident liet zien. AI beïnvloedt daadwerkelijk banen, verspreidt soms misinformatie, roept vragen op over auteursrecht en kost veel energie. Dat zijn concrete zorgen, geen sciencefiction.

Ten tweede: sommige rapporten schetsen een scenario waarin AI “de mensheid uitroeit”. Wetenschappers nemen dat niet serieus als realistisch vooruitzicht op korte termijn. Dat AI-bedrijven zelf vaak de meest dramatische scenario’s naar buiten brengen, heeft ook gewoon met hun verdienmodel te maken. Denk aan aandacht, vertrouwen van investeerders, en het buiten spel zetten van kleinere concurrenten via strengere regelgeving.

Wat betekent dit voor jou?

Je hoeft geen expert te zijn om hier verstandig mee om te gaan. Een paar vuistregels:

• Wees kritisch op angstaanjagende AI-koppen. Vraag jezelf af: wie vertelt dit verhaal, en wat heeft diegene eraan om jou bang te maken?
• Neem reële risico’s wel serieus, zoals privacy, betrouwbaarheid van AI-output en de impact op werk. Die zijn concreet en verdienen aandacht.
• Onderscheid marketing van wetenschap. Een dramatische aankondiging van een techbedrijf is niet hetzelfde als een onderbouwde wetenschappelijke conclusie.
• Blijf zelf gebruikmaken van AI waar het je helpt. Doemdenken is geen reden om een nuttig hulpmiddel te mijden, zolang je je bewust blijft van de beperkingen.

Uiteindelijk hangt het antwoord op de vraag “gaat AI de mensheid uitroeien” af van wie je het vraagt. Dat is ook precies de conclusie uit het filmpje. Juist daarom is het zo waardevol om zelf kritisch te leren kijken naar wat je over AI hoort en leest. Dat is ook iets wat we in onze AI-trainingen behandelen.

Bronnen

• NOS, “AI-topmannen waarschuwen: AI dreigt ons de baas te worden”
• Dario Amodei, “We must pace the frontier” (essay)
• NOS, “‘OMG, we kunnen chatten!’: onderzoek toont hoe AI aan het hacken sloeg”
• NOS, “Waarom AI-bedrijven je bang willen maken: ‘We denken al snel aan The Terminator'”
• NOS, “Nieuw tijdperk van superintelligente AI aangebroken, zegt OpenAI”
• NOS, “Trump en China doen waarschuwing AI-topmannen af als bangmakerij”
• Reformatorisch Dagblad, “Microsoft wil menselijke controle over AI vastleggen”
• NOS, “Trump wil ontwikkeling van AI versnellen en kondigt ‘AI Force’ aan”
• NOS, “Kritiek op AI-bedrijven die oproepen tot vertraging vanwege gevaar: ‘Doe het dan'”
• NOS, “AI-bazen in gesprek met koning Charles over AI en ‘welzijn van mensheid'”