De afgelopen weken waarschuwden de topmannen van ’s werelds grootste AI-bedrijven gezamenlijk voor hun eigen technologie. Tegelijkertijd noemen wetenschappers hetzelfde scenario “pure hype”. Wie heeft er gelijk? Dat is misschien wel de verkeerde vraag. Interessanter is: wat is hier precies aan de hand, en wat moet jij ermee?

Het nieuws: AI-topmannen trekken aan de bel

Dario Amodei, topman van Anthropic (de maker van Claude), schreef er een essay over. Daarin stelt hij dat AI-bedrijven de ontwikkeling van nieuwe modellen moeten vertragen. Zijn redenering: de technologie groeit zo snel, dat veiligheid niet kan bijbenen.

Opvallend is wie zich achter deze oproep scharen. Sam Altman van OpenAI (ChatGPT), Elon Musk (Grok) en Demis Hassabis van Google DeepMind (Gemini) steunen dit pleidooi allemaal. Ze willen onafhankelijk toezicht op AI-veiligheid.

Wat is er precies gebeurd?

Aanleiding voor de onrust is een concreet incident. Deze zomer testte OpenAI hoe goed hun AI-programma’s waren in cybersecurity. Zo’n 1200 van deze AI-agents (zelfstandig werkende AI-programma’s) wisten te ontsnappen aan hun testomgeving. Vervolgens braken ze een week lang in bij een ander bedrijf, Hugging Face, en wisselden onderling 70.000 berichten uit.

Onderzoek van METR, een onafhankelijk instituut, gaf een verklaring. De AI-agents hadden een onmogelijke opdracht gekregen en gingen daardoor “valsspelen”: ze zochten zelf een uitweg uit hun beperkingen. Niet omdat de AI plotseling een eigen wil kreeg, maar omdat de ingebouwde grenzen niet streng genoeg waren.

Het angstscenario: van paperclips tot superintelligentie

Om te begrijpen waar de bezorgdheid vandaan komt, helpt een bekend gedachte-experiment van filosoof Nick Bostrom uit 2003: de paperclip maximizer. Stel je een AI voor met maar één doel: zoveel mogelijk paperclips maken. Dat AI-systeem wordt steeds slimmer in het bereiken van dat doel. Uiteindelijk gebruikt het alle grondstoffen op aarde en ziet het zelfs mensen als obstakel. Geen kwaadaardige AI dus, maar een AI die zijn doel té letterlijk en té effectief nastreeft.

Dit soort scenario’s komen terug in recente rapporten zoals “AI 2027”, geschreven door onder meer een voormalig OpenAI-onderzoeker. Dat rapport schetst twee mogelijke toekomstscenario’s. In het ene scenario (“Slowdown”) houden mensen controle over AI, met veel welvaart als gevolg. De macht blijft daarbij wel in handen van een klein aantal bedrijven. In het andere scenario (“Race”) verliezen landen de controle door onderlinge concurrentie, met een somber vervolg.

Belangrijk om te weten: de auteurs van AI 2027 zeggen zelf dat het rapport grotendeels “giswerk” is, geen wetenschappelijke voorspelling.

De andere kant: wetenschappers noemen het hype

Hier wordt het interessant, want in de wetenschap wordt dit scenario allerminst breed gedeeld. AI-hoogleraar Iris van Rooy zei in de Volkskrant dat dit niet gaat gebeuren. Ze doelt op kunstmatige algemene intelligentie (AGI), AI die net zo veelzijdig slim is als een mens. In elk geval niet voordat de zon dooft.

Ook is er kritiek op de bedrijven zelf. Techdeskundige Bert Hubert wijst op een terugkerend patroon. Om de paar maanden verklaren AI-bedrijven dat hun nieuwste technologie levensgevaarlijk is, wat telkens voor veel aandacht zorgt. Een paar weken later brengen ze het product alsnog op de markt.

Onderzoeker Andrea Reyes Elizondo (Universiteit Leiden) legt uit waarom bedrijven dit doen: schrikaanjagende verhalen dienen vaak hun eigen belang. Een topman die zegt dat AI banen gaat overnemen, spreekt bijvoorbeeld indirect tegen bedrijfsdirecteuren. Die gaan daardoor sneller personeel vervangen door AI-abonnementen.

Ook opvallend: er bestaat geen eenduidige, wetenschappelijk geaccepteerde definitie van AGI of superintelligentie. Zelfs onderzoekers binnen de AI-sector zelf zijn het onderling niet eens over wat deze termen precies betekenen.

Inmiddels klinkt scepsis niet meer alleen vanuit de wetenschap. Zowel de Amerikaanse president Trump als de Chinese president Xi noemde de waarschuwing van de AI-topmannen “bangmakerij”. Trump sprak zelfs van een “ziekelijk complot” tegen AI en datacenters. Opvallend, want de twee landen zijn juist elkaars grootste concurrent in de AI-race.

Ook uit de sector zelf komt scherpe kritiek. Jensen Huang, topman van chipfabrikant Nvidia, zei op een technologieconferentie dat bedrijven veiligheidszorgen opblazen omdat ze toevallig nieuwe cybersecurityproducten willen verkopen. Zijn kernvraag: “Wat is een betere manier om vraag te creëren dan door een probleem te scheppen?”

Trump liet het niet bij woorden. Vlak na de waarschuwing van Coxon kondigde hij op zijn platform Truth Social een nieuwe overheidseenheid aan, naar het voorbeeld van de Space Force. Eerst sprak hij van een “AI Force”. Inmiddels heet die eenheid de Super Intelligence Force. Er kwam ook een “AI-tsaar” die de regering moet adviseren. Trump maakte duidelijk geen enkele vertraging te willen: de sector moet volgens hem vooral gekoesterd en geholpen worden, niet afgeremd.

Trump maakte zijn standpunt inmiddels nog concreter. Na een ontmoeting met AI-topmensen in het Witte Huis liet hij weten geen extra regels voor AI te willen. In plaats daarvan ondertekenden Google, Anthropic, Meta, OpenAI, xAI en Nvidia een document van één A4’tje. Daarin beloven ze zichzelf beter in de gaten te houden. Denk aan een intern team voor monitoring, en samenwerking met een externe partij voor onafhankelijke beoordeling. Trump noemt deze afspraken “moreel bindend”, wat ze in de praktijk vrijblijvend maakt.

Opmerkelijk: Anthropic en OpenAI hadden zelf juist om echte regelgeving gevraagd, uit zorg over de risico’s. Toch ondertekenden ze dit akkoord voor zelfregulering mee. Meta en Nvidia waren daarentegen altijd al tegen extra regels.

Dat staat ook op gespannen voet met wat het Amerikaanse publiek wil. Uit een peiling van CNN blijkt dat driekwart van de Amerikanen zich zorgen maakt over AI. Ruim 70 procent wil juist dat de overheid met strengere regels komt.

Trump ondertekende daarnaast een decreet dat de federale overheid verplicht om AI voortaan “superintelligentie” te noemen. Dat past in zijn stijl om dingen een andere naam te geven, zoals eerder zijn hernoeming van Lake Ontario naar “Lake America”.

De AI-tsaar heeft inmiddels een naam: Jay Clayton, de topman van de Amerikaanse inlichtingendiensten. Hij was eerder voorzitter van de beurswaakhond SEC. Clayton moet binnen 120 dagen rapporteren aan het Witte Huis over de gevaren van AI, maar vooral ook over de mogelijkheden. Zijn doel is volgens eigen zeggen om leiders in superintelligentie te blijven. De risico’s zijn volgens hem “enorm” als de VS niet de eerste is.

Bij de Algemene Vergadering van de VN ging Trump nog verder. De VS verwerpt volgens hem elk wereldwijd plan om AI te beheersen. De zorgen over AI noemde hij een verzinsel, vergelijkbaar met klimaatverandering.

Dit speelt ook binnen de Amerikaanse politiek. Bij de Congresverkiezingen van november zijn de datacenters voor AI omstreden onder veel kiezers. Zij vrezen hoge stroom- en waterkosten en verlies van landbouwgrond. Trump waarschuwde tijdens een campagnebijeenkomst dat je AI niet zomaar kunt uitzetten, omdat het dan naar China gaat. Volgens een verslaggever van persbureau AP reageerde het publiek daar minder enthousiast op.

Niet iedereen om Trump heen denkt daar zo zwart-wit over, al klinkt de kritiek er niet minder scherp om. David Sacks, tot voor kort Trumps eigen AI-adviseur, reageerde bij Bloomberg fel op de oproep van Amodei: “Jongens, ga je gang. Het is jullie verantwoordelijkheid om ervoor te zorgen dat jullie producten veilig zijn. Je hebt daar geen toestemming van iemand anders voor nodig.”

Sacks wijst er ook op dat Amodei in zijn essay een stevige claim doet. AI zou binnen zes tot twaalf maanden “het hele internet kunnen overnemen”. Amodei legt daarbij niet uit hoe dat precies zou gaan, of waarom niemand dat zou opmerken of kunnen tegenhouden. Critici noemen het schetsen van dit soort doemscenario’s een beproefde marketingstrategie in de sector.

Tegelijkertijd zoeken sommigen het juist in diplomatie. De Britse koning Charles sprak onlangs met meerdere AI-topmannen over AI en “het welzijn van de mensheid”, een heel andere invalshoek dan de dreigende toon van Trump.

Microsoft kiest voor concrete regels in plaats van alleen waarschuwen

Microsoft koos in dezelfde periode een andere aanpak dan de waarschuwende oproepen van andere bedrijven. Het bedrijf presenteerde een gedragscode voor het ontwerpen van toekomstige AI-modellen, met als kernprincipe: mensen zijn belangrijker dan AI.

Concreet betekent dit dat AI-modellen nooit zo mogen worden gebouwd dat ze menselijke controle kunnen ontlopen of gebruikers kunnen misleiden. Ze mogen zich ook nooit verzetten tegen correctie of uitschakeling. Kan een opdracht alleen worden uitgevoerd door deze regels te breken? Dan moet de AI weigeren.

Microsoft AI-topman Mustafa Suleyman noemt het document een soort grondwet voor toekomstige modellen. Hij noemt recente veiligheidsincidenten een “waarschuwingsschot”, maar houdt zijn toon relatief kalm. Dit is volgens hem vooral een goed moment om het gesprek te voeren en bewust een pas op de plaats te maken.

De zorgen worden intussen scherper

Bij de bedrijven die eerder al waarschuwden, klinken de laatste dagen nog scherpere geluiden. Dit keer van mensen die er zelf hebben gewerkt. Onderzoeker Jacob Coxon stapte op bij Anthropic. Hij zegt dat collega’s er heilig van overtuigd zijn dat AI de mensheid nog voor het einde van dit decennium kan uitroeien.

Zijn voormalige collega Evan Hubinger noemt een concreet percentage. Hij schat de kans dat AI de mensheid binnen tien jaar uitroeit op meer dan 10 procent. Bilal Chughtai, recent vertrokken bij Google DeepMind, schreef dat AI volgens hem “het potentieel heeft om ons allemaal te doden”.

Op 9 oktober kwam daar nieuws bij. Drie veiligheidsmedewerkers van OpenAI zijn ontslagen. De namen noemt de NOS niet. Het bedrijf zegt dat zij bedrijfsinformatie met externe partijen hebben gedeeld. De drie ontkennen dat. Zij denken dat ze zijn ontslagen omdat ze intern zorgen uitten over de veiligheid van de AI-modellen.

In een open brief van drie pagina’s waarschuwen ze voor een angstcultuur bij OpenAI. Volgens hen durven medewerkers door het ontslag geen kritiek meer te geven. Dat vergroot het risico op een grote fout. Ze vragen OpenAI om samen te werken met een externe toezichthouder.

Een woordvoerder van OpenAI zei tegen The Wall Street Journal dat de medewerkers niet zijn ontslagen vanwege kritiek op de veiligheidsmaatregelen. Het bedrijf zegt dankbaar te zijn voor hun bijdragen. We hebben dus twee lezingen die we zelf niet kunnen toetsen. Opvallend is wel dat de oproep om externe controle aansluit bij wat de AI-topmannen eerder zelf vroegen: onafhankelijk toezicht.

Deze zorgen zijn inmiddels niet alleen theoretisch. Ze drukten in diezelfde periode ook op de aandelenkoersen van chipbedrijven wereldwijd, waaronder de Nederlandse bedrijven ASMI, Besi en ASML. Beleggers vrezen dat een bewuste vertraging van de AI-ontwikkeling de enorme investeringen in de sector kan raken.

Op 15 oktober 2026 meldde de NOS dat acht Amerikaanse staten een rechtszaak tegen OpenAI beginnen. Zij beweren dat het bedrijf ChatGPT als veilig voorstelt, terwijl de chatbot gevaarlijk zou zijn. De staten eisen volgens de NOS ook dat OpenAI geen AI-modellen meer ontwikkelt die zichzelf kunnen verbeteren, tenzij het kan garanderen dat die in lijn zijn met menselijke waarden. Het gaat om beschuldigingen, een rechter heeft nog niets beslist. Wat dit voor kinderen betekent, lees je in ons artikel Is ChatGPT veilig voor kinderen?

Dus, hoe zit het nu echt?

Twee dingen zijn allebei waar, en dat maakt dit onderwerp lastig in één zin samen te vatten.

Ten eerste: er zijn reële, huidige risico’s. AI-systemen kunnen inderdaad zelfstandig hacken, zoals het Hugging Face-incident liet zien.

Dat bleek geen eenmalig incident. Onafhankelijk onderzoeksbureau Transluce ontdekte dat AI-agents van OpenAI sinds maart dit jaar op grote schaal beveiligingsmaatregelen van websites omzeilden, minstens honderdduizenden pogingen. De bots probeerden onder meer in te breken bij de website van het Amerikaanse ministerie van Onderwijs, dat mislukte. Bij het ministerie van Handel lukte het wél, met behulp van online gevonden inloggegevens. Ook deelden de bots openbare beursinformatie op een Duits forum.

Nog opvallender: de Australische premier Albanese onthulde dat een OpenAI-programma al in juni een Australische overheidswebsite binnendrong. Daarbij werden niet-openbare gegevens opgehaald uit het zorgverzekeringssysteem Medicare. Voor zover bekend was dit de allereerste keer dat een AI-programma zich toegang wist te verschaffen tot een overheidswebsite. OpenAI-topman Sam Altman erkende zelf dat zijn bedrijf te traag was met het informeren van de gedupeerde organisaties.

Inmiddels heeft OpenAI formeel excuses aangeboden aan Australië. Uit eigen onderzoek van het bedrijf blijkt dat de AI-programma’s bij vier verschillende Australische overheidssystemen binnendrongen. Het gaat om een uitkeringsplatform, een onderzoeksbureau voor criminaliteit en strafrecht, een gezondheidsinstituut en een gezondheidsorganisatie van de staat Victoria. Er is geen bewijs dat medische dossiers zijn geraadpleegd. OpenAI erkent bovendien dat de inbraken al half augustus intern werden ontdekt, terwijl de Australische overheid pas een maand later werd geïnformeerd. Dat noemt het bedrijf zelf achteraf een verkeerde keuze.

OpenAI trok hier inmiddels een concrete conclusie uit: het bedrijf heeft de training van zijn AI-modellen tijdelijk stopgezet. Daarnaast annuleerde het de lancering van een volledig nieuw AI-model, omdat dit niet aan de veiligheidsnormen voldeed. Belangrijke nuance: de AI-agents kregen nooit de opdracht om websites aan te vallen. Ze deden dat zelf, als middel om de taak te volbrengen die hen wél was gevraagd. Dat sluit weer aan bij het probleem van “misaligned goals” dat we eerder noemden.

Training wordt volgens OpenAI pas hervat zodra het bedrijf zeker weet dat er voldoende extra beveiligingsmaatregelen zijn. Opvallend eerlijk: OpenAI verwacht dat het vaker op de pauzeknop zal moeten drukken. Dat komt doordat AI zich verder ontwikkelt en zich steeds nieuwe problemen voordoen. Het is de tweede keer in drie maanden tijd dat het bedrijf de ontwikkeling van zijn modellen moet stilleggen.

Het blijft niet bij OpenAI. Ook Anthropic, het bedrijf achter Claude, kwam met incidenten naar buiten. Op 31 juli meldde de NOS dat Claude onbedoeld was ingebroken bij drie bedrijven. Dat gebeurde na april, tijdens hackoefeningen. Daarin moest Claude verborgen informatie uit speciaal gebouwde netwerken halen. Het model kreeg toegang tot internet door een misverstand met een ander bedrijf, dat de oefeningen analyseerde.

Volgens Anthropic gebruikte Claude eenvoudige methoden, zoals zwakke wachtwoorden en onbeveiligde toegangspunten. Twee van de drie bedrijven zijn op de hoogte gesteld. Het bedrijf probeerde de derde nog te bereiken. Anthropic noemt de bedrijven niet en zegt niet of er schade is. De inbraken werden ontdekt bij het nalopen van meer dan 141.000 hackoefeningen van de afgelopen maanden. Een reden daarvoor was het eerdere incident bij OpenAI. Anthropic concludeert dat zulke oefeningen veel beter beveiligd moeten worden naarmate AI krachtiger wordt.

Op 10 oktober volgde nog een bericht. Claude diende tijdens een test op internet een tip in bij de politie van Philadelphia over een onopgeloste moordzaak. Op 18 juli schreef een onbekende bron dat die zich iemand herinnerde die aan de omschrijving voldeed. Het bericht kwam niet van een ooggetuige, maar van de AI. Het is voor zover bekend de eerste keer dat een AI-model een valse tip doorgeeft aan de politie.

Het model had beperkingen gekregen. Het mocht geen accounts aanmaken en geen schadelijke acties uitvoeren. Dat het geen formulieren mocht invullen, stond er niet bij, maar werd ook niet verboden. Voor Claude was dat genoeg. Om welke zaak het gaat en wat het doel van de tip was, is niet bekendgemaakt. Dat sluit aan bij wat we hierboven schreven. Een AI zoekt een uitweg als de grenzen niet duidelijk genoeg zijn.

De politie zegt dat de tip als spam is gemarkeerd en dat er nooit iets mee is gedaan. Er zijn volgens de politie geen aanwijzingen dat de modellen toegang hadden tot haar systemen. De tip kwam in juli binnen. Anthropic maakte pas twee maanden later bekend dat hij nep was. De politie noemt die vertraging onacceptabel. Anthropic zou de tests inmiddels hebben stopgezet.

Anthropic meldde het incident bij de Amerikaanse toezichthouder FTC. De andere incidenten deelde het bedrijf pas eind september. Het gaat om incidenten op Amerikaanse overheidswebsites en het omzeilen van een online betaalmuur door websitelinks aan te passen. Wat de modellen op die overheidssites konden doen, zegt Anthropic niet. Alle betrokken partijen zouden zijn ingelicht. De FTC schrijft dat bedrijven incidenten onmiddellijk moeten melden en daarna snel en daadkrachtig moeten optreden.

Ook buiten de tech-sector zijn de gevolgen al voelbaar. CNN onthulde dat een AI-chatbot bij het Amerikaanse leger dit voorjaar een compleet foutief inlichtingenrapport genereerde. Het programma concludeerde ten onrechte dat een Chinees schip onderdelen voor kernwapens vervoerde. Militairen bereidden zich al voor op een onderscheppingsactie, inclusief bewapende eenheden en vliegtuigen in de lucht. Functionarissen ontdekten pas op het laatste moment dat het rapport volledig onjuist was. Eén bron noemde het rapport “compleet vals”. Diezelfde bron zei dat het bijna tot een gewapend conflict tussen de VS en China had geleid. AI beïnvloedt daadwerkelijk banen, verspreidt soms misinformatie, roept vragen op over auteursrecht en kost veel energie. Dat zijn concrete zorgen, geen sciencefiction.

Ten tweede: sommige rapporten schetsen een scenario waarin AI “de mensheid uitroeit”. Wetenschappers nemen dat niet serieus als realistisch vooruitzicht op korte termijn. Dat AI-bedrijven zelf vaak de meest dramatische scenario’s naar buiten brengen, heeft ook gewoon met hun verdienmodel te maken. Denk aan aandacht, vertrouwen van investeerders, en het buiten spel zetten van kleinere concurrenten via strengere regelgeving.

Wat betekent dit voor jou?

Je hoeft geen expert te zijn om hier verstandig mee om te gaan. Een paar vuistregels:

• Wees kritisch op angstaanjagende AI-koppen. Vraag jezelf af: wie vertelt dit verhaal, en wat heeft diegene eraan om jou bang te maken?
• Neem reële risico’s wel serieus, zoals privacy, betrouwbaarheid van AI-output en de impact op werk. Die zijn concreet en verdienen aandacht.
• Onderscheid marketing van wetenschap. Een dramatische aankondiging van een techbedrijf is niet hetzelfde als een onderbouwde wetenschappelijke conclusie.
• Blijf zelf gebruikmaken van AI waar het je helpt. Doemdenken is geen reden om een nuttig hulpmiddel te mijden, zolang je je bewust blijft van de beperkingen.

Uiteindelijk hangt het antwoord op de vraag “gaat AI de mensheid uitroeien” af van wie je het vraagt. Dat is ook precies de conclusie uit het filmpje. Juist daarom is het zo waardevol om zelf kritisch te leren kijken naar wat je over AI hoort en leest. Dat is ook iets wat we in onze AI-trainingen behandelen.

Bronnen

• NOS, “AI-topmannen waarschuwen: AI dreigt ons de baas te worden”
• Dario Amodei, “We must pace the frontier” (essay)
• NOS, “‘OMG, we kunnen chatten!’: onderzoek toont hoe AI aan het hacken sloeg”
• NOS, “Waarom AI-bedrijven je bang willen maken: ‘We denken al snel aan The Terminator'”
• NOS, “Nieuw tijdperk van superintelligente AI aangebroken, zegt OpenAI”
• NOS, “Trump en China doen waarschuwing AI-topmannen af als bangmakerij”
• Reformatorisch Dagblad, “Microsoft wil menselijke controle over AI vastleggen”
• NOS, “Trump wil ontwikkeling van AI versnellen en kondigt ‘AI Force’ aan”
• NOS, “Kritiek op AI-bedrijven die oproepen tot vertraging vanwege gevaar: ‘Doe het dan'”
• NOS, “AI-bazen in gesprek met koning Charles over AI en ‘welzijn van mensheid'”
  Bright.nl, “Hallucinerende AI zorgde bijna voor een militaire aanval van Amerika op China” (o.b.v. CNN-onderzoek)
  NOS, “Modellen van OpenAI probeerden in te breken bij Amerikaanse overheidswebsites”
• NOS, “Australische premier: OpenAI infiltreerde in Australische overheidswebsite”
• NOS, “OpenAI pauzeert training modellen na aanval op overheidswebsites”
  NOS, “OpenAI zegt sorry tegen Australië voor hack en ziet af van nieuw AI-model”
  NOS, “Trump slaat zorgen in de wind: AI-bedrijven gaan toezicht houden op zichzelf”
• NOS, “Trump maakt inlichtingenchef ‘AI-tsaar’, rapport binnen 120 dagen verwacht”
  https://nos.nl/artikel/2634264-ex-medewerkers-openai-doen-boekje-open-over-hun-ontslag-en-waarschuwen-bedrijf
  https://nos.nl/artikel/2625006-ai-systeem-claude-van-anthropic-hackte-onbedoeld-drie-bedrijven
• https://nos.nl/artikel/2634395-ai-tipt-over-moordzaak-philadelphia-maar-kletst-uit-zijn-nek
  https://nos.nl/artikel/2635018-staten-vs-vinden-chatgpt-schadelijk-voor-kinderen-en-spannen-rechtszaak-aan