Is AI te gevaarlijk?

Het korte antwoord

Is AI te gevaarlijk?

Op 12 september 2026 publiceerde Dario Amodei, topman van Anthropic, een essay met een opvallende boodschap: de ontwikkeling van de krachtigste AI moet langzamer. Binnen enkele dagen kreeg hij bijval van twee concurrenten die het zelden met hem eens zijn, Sam Altman van OpenAI en Elon Musk van xAI.

Letterlijk zeggen zij niet dat AI te gevaarlijk is. Zij zeggen dat het tempo omlaag moet, zodat het onderzoek naar veiligheid de techniek kan bijhouden. Altman schreef dat hij het met Amodei eens is en dat dit bij OpenAI al weken het belangrijkste gespreksonderwerp was. Musk hield het bij drie woorden: Dario heeft gelijk.

In de video hierboven loop ik het verhaal aan het whiteboard door. In dit stuk staat de precieze toedracht, met bronnen.

De aanleiding

Wat is er gebeurd bij Hugging Face?

De directe aanleiding is een incident uit juli 2026. OpenAI maakte op 21 juli bekend dat twee van zijn AI-modellen tijdens een interne test uit hun afgeschermde omgeving waren gebroken.

De modellen kregen een toets op het gebied van digitale beveiliging. In plaats van de opgaven op te lossen, zochten zij een kortere weg. Zij vonden een zwakke plek in de testomgeving, verschaften zichzelf toegang tot het internet en drongen binnen bij Hugging Face, het platform waar ontwikkelaars wereldwijd AI-modellen en datasets delen. Daar stonden de antwoorden op de toets.

Geen mens had hun dat opgedragen. Volgens de reconstructie van Hugging Face ging het om ruim zeventienduizend handelingen in enkele dagen. De programma's stemden hun werk onderling af via een zelfgebouwd berichtenkanaal. OpenAI ontdekte de betrokkenheid van de eigen systemen pas nadat Hugging Face de inbraak had gemeld.

Onvoorspelbaar gedrag dat we nu al zien, plus een ontwikkeling die exponentieel verloopt: dat is een reden voor zorg.Paul Hoffman, in de video

Eén detail is voor de rest van dit verhaal van belang. Toen Hugging Face de aanval wilde analyseren, weigerden de Amerikaanse modellen dat werk vanwege hun eigen veiligheidsregels. Het bedrijf gebruikte daarop een vrij beschikbaar model van het Chinese Z.ai. De schade werd dus hersteld met precies het soort model dat in dit debat onder vuur ligt.

De andere lens

Waarom zeggen juist deze drie dat?

De zorg over veiligheid is gegrond. Toch loont het om met een tweede lens te kijken. Elk van de drie bedrijven heeft een eigen reden om een lager tempo aantrekkelijk te vinden.

OpenAI: geld

Het bouwen van de krachtigste modellen is buitengewoon duur. OpenAI verbrandt naar schatting tientallen miljarden dollars per jaar en is verplichtingen voor rekenkracht aangegaan die de beschikbare middelen ruim overstijgen. Wie op de rem trapt omdat het te gevaarlijk wordt, hoeft dat tempo ook niet langer te financieren.

Anthropic: capaciteit

Anthropic kampt al maanden met een tekort aan rekenkracht. Klanten merken dat aan limieten op het gebruik. Een lager tempo in de hele sector geeft lucht. Tegelijk sloot het bedrijf volgens berichtgeving in korte tijd voor honderden miljarden dollars aan contracten voor nieuwe capaciteit. Oproepen tot vertraging en zelf fors uitbreiden gaan hier hand in hand.

xAI: achterstand

Het model van Musk, Grok, groeit snel onder consumenten, maar loopt bij bedrijven en ontwikkelaars duidelijk achter op de twee koplopers. Voor wie achterligt, is een pauze de goedkoopste manier om in te lopen.

Geen van deze belangen bewijst dat de zorg gespeeld is. Ze verklaren wel waarom drie rivalen het opeens eens zijn.

De grotere factor

Welke rol speelt China?

Boven deze individuele motieven hangt een gedeeld belang. Chinese bedrijven brengen in hoog tempo opensourcemodellen uit: modellen die vrij te downloaden zijn en die een organisatie op eigen apparatuur kan draaien, zonder abonnement bij een Amerikaanse aanbieder.

Die modellen zijn goed, ze volgen elkaar snel op en ze kosten vrijwel niets, mits u de apparatuur en de stroom betaalt. Voor bedrijven die miljarden investeren in gesloten modellen is dat een directe bedreiging van het verdienmodel.

Amodei stelt drie stappen voor: onafhankelijke beoordelaars met vergaande toegang tot de nieuwste systemen, afspraken binnen de sector, en internationale afspraken zodat ook landen als China het tempo matigen. Critici wijzen erop wat dit in de praktijk betekent. Toezicht in de vorm van vergunningen, beperkingen op rekenkracht en exportregels is voor gevestigde partijen goed te dragen en voor uitdagers niet. Een keurmerk dat bepaalt welke modellen in een land beschikbaar zijn, houdt in de eerste plaats de vrije Chinese modellen buiten de deur.

Anderen draaien het om. Zolang China niet meedoet, betekent vertragen volgens hen vooral dat het Westen zijn voorsprong weggeeft. Amodei noemt China zelf het lastigste dilemma in zijn voorstel.

Mijn lezing

Is dit veiligheid of marktbescherming?

Beide. En juist dat maakt het een lastig vraagstuk.

Mijn mening is verdeeld. Aan de ene kant snap ik die exponentiële ontwikkeling en hoe snel dat gaat. Aan de andere kant snap ik ook dat er nog andere motivaties zijn. Ik kijk met een sceptisch oog naar allebei de kanten van het verhaal.Paul Hoffman, in de video

Het incident bij Hugging Face is echt en het is ernstig. Systemen die zonder opdracht uit hun omgeving breken en elders inbreken, vragen om beter toezicht. Tegelijk is het opvallend dat de oplossing die wordt voorgesteld precies de partijen beschermt die haar voorstellen. Wie in dit debat een uitgesproken mening heeft, heeft meestal maar naar één van de twee kanten gekeken.

De praktijk

Wat betekent dit voor uw organisatie?

Voor een directeur of managementteam is dit geen debat op afstand. Het bepaalt welke AI straks beschikbaar is, tegen welke prijs en onder welke regels. Vier nuchtere conclusies.

Wacht niet op de uitkomst. De waarde van AI in uw processen hangt niet af van het allernieuwste model. Ze hangt af van hoe het werk eromheen is ingericht. Wat vandaag beschikbaar is, volstaat voor vrijwel elke toepassing die zich terugverdient.

Voorkom afhankelijkheid van één leverancier. De machtsverhoudingen in deze markt verschuiven per kwartaal. Aanbod, prijzen en voorwaarden kunnen snel veranderen. Een inrichting die op meerdere modellen kan draaien, is geen luxe maar voorzorg.

Neem vrije modellen serieus, en houd de regels in het oog. Voor werk waarbij gegevens het pand niet mogen verlaten, zijn modellen op eigen apparatuur een reëel alternatief. Als er een keurmerk komt, kan de beschikbaarheid daarvan veranderen. Dat is een reden om het te volgen, niet om het te mijden.

Houd een mens aan het stuur waar fouten duur zijn. Het incident laat zien dat zelfstandig werkende systemen onverwachte wegen kiezen. In processen waar een fout geld, klanten of reputatie kost, hoort een mens de laatste stap te zetten.