Dario Amodei — juni 2026 — volledige Nederlandse vertaling
Originele Engelse tekst ↗ · ← Terug naar de samenvatting
In een van de nevenverhaallijnen van The Lord of the Rings proberen twee Hobbits Boombaard — een wijze maar logge, bewuste boom — wakker te schudden om zijn woud te verdedigen tegen een leger dat het aan het omhakken is. Het probleem is dat Boombaard aan een heel ander tempo functioneert dan de Hobbits. Het kost hem een hele dag om gewoon hallo te zeggen tegen een andere boom, dus hem en zijn gelijken snel genoeg tot actie bewegen is bijna onmogelijk.
Het raakvlak tussen AI en onze politieke instellingen voelt een beetje aan als de Hobbits en Boombaard. AI evolueert bliksemsnel: in slechts vier jaar tijd zijn AI-modellen geëvolueerd van het nauwelijks kunnen schrijven van een coherente regel code naar het schrijven van het merendeel van de code bij grote AI-bedrijven. Gelijkaardige vooruitgang is geboekt in de biologie, fysica, wiskunde, financiën, het recht, vertalingen en vele andere domeinen. De schaalwetten van AI, die een exponentiële toename van algemene cognitieve vermogens voorspellen naarmate de rekenkracht toeneemt, worden nu al meer dan een decennium door empirisch bewijs ondersteund. Als deze schaalwetten nog maar een jaar of twee aanhouden, krijgen we waarschijnlijk wat ik Krachtige AI heb genoemd, oftewel "een land vol genieën in een datacenter".
Beleid daarentegen — en wetgeving in het bijzonder — evolueert erg traag. Vaak is dat om goede redenen: overheden hebben grote bevoegdheden, en het is meestal maar goed ook dat die niet te haastig worden ingezet. Maar het verschil in tijdsschaal is niettemin erg pijnlijk: in de paar jaar die het Congres kan kosten om te handelen, kan AI evolueren van een amusant speeltje tot dat volledige land vol genieën.
De afgelopen jaren, sinds AI een belangrijke commerciële technologie is geworden, stonden degenen onder ons die er op een verantwoorde manier mee wilden omgaan voor een dilemma. We zagen duidelijk waar de exponentiële groei naartoe leidde: we hadden het sterke vermoeden dat AI binnen een paar jaar een van die zeldzame technologieën zou zijn die het hele beleidslandschap fundamenteel hertekent, net zoals kernwapens de geopolitiek hebben hervormd en de industriële revolutie elke economische en sociale kwestie fundamenteel heeft veranderd. Maar voor wie alleen keek naar wat AI op dat moment kon, leek het een veel alledaagsere technologie — vergelijkbaar misschien met de nieuwste consumentenapp of cryptomunt. Het was moeilijk om de meeste beleidsmakers en bedrijven ervan te overtuigen dat iets anders dan een laissez-faire-houding zinvol was. En eerlijk is eerlijk, het feit dat de radicale effecten van AI nog niet zichtbaar waren en dat we niet precies wisten welke vorm ze zouden aannemen, maakte het moeilijk om het juiste beleid te ontwerpen, zelfs als de wil om te handelen er was geweest.
Gezien de beperkingen die deze situatie met zich meebracht, hebben veel voorstanders van veiligheid (waaronder Anthropic) zich tot nu toe gericht op het bepleiten van beleidsacties die de opties openhouden, een snelle reactie in de toekomst voorbereiden, of de wereld een beter inzicht geven in wat er op ons afkomt – zaken als transparantiewetgeving, exportcontroles op chips en gegevensverzameling over de effecten van AI op de arbeidsmarkt. Dit is niet genoeg, maar het leek alles wat mogelijk was.
De laatste maanden is het bewijs van de ongelooflijke kracht van AI, alsook de risico's
Elke nieuwe technologie of elk nieuw product heeft zowel nuttige als schadelijke toepassingen, en vormt daardoor een dilemma tussen innovatie en veiligheid. Het reguleren van producten maakt de kans kleiner dat ze schade veroorzaken en heeft een belangrijke rol gespeeld in het verbeteren van levens over de hele wereld, maar het kan ook rechtstreeks hun voordelen verminderen en onrechtstreeks innovatie ontmoedigen. Er is ook het Hayekiaanse punt dat regelgevers vaak niet over de informatie beschikken die nodig is om de juiste beslissingen te nemen over ingewikkelde economische afwegingen, waardoor regelgeving vaak zowel ondoeltreffend als omslachtig is. Een verwant idee is het Collingridge-dilemma, dat stelt dat de impact van een technologie vaak moeilijk te voorspellen is tot het te laat is om die nog eenvoudig te beheersen.
Deze dynamiek speelde een grote rol voor AI in 2023-2024. Voor Anthropic was het duidelijk dat AI in de toekomst in staat zou kunnen zijn om biologische wapens te produceren die miljoenen mensen kunnen bedreigen, of autonoom wangedrag kan vertonen dat in extreme gevallen zelfs de mensheid zelf zou kunnen bedreigen. Minder duidelijk was de exacte vorm waarin de risico's zouden opduiken, hoe ze het best getest en beperkt konden worden, en hoe ze zich in de praktijk zouden manifesteren. Er was dus een groot risico dat wetgeving die vooraf werd opgesteld, uiteindelijk ondoeltreffend zou blijken – met nutteloze of laagwaardige nalevingsvereisten tot gevolg, terwijl de meest cruciale bronnen van reëel risico over het hoofd werden gezien.
Uiteindelijk kwamen we tot de conclusie dat de juiste aanpak op dat moment transparantie was. Ontwikkelaars van AI-modellen zouden hun veiligheidsprocedures en de tests die ze op hun modellen uitvoeren, openbaar moeten maken en verslag moeten uitbrengen over eventuele kritieke veiligheidsincidenten, zodat het publiek en de wetenschappelijke gemeenschap een beter zicht krijgen op de risico's naarmate ze zich voordoen. Wanneer en als de risico's concreter worden en hun vorm duidelijker is, dan zou het bewijsmateriaal dat via transparantie is verkregen, kunnen worden gebruikt om slimme wetgeving te ontwerpen die zich precies richt op de meest zorgwekkende risico's. Daarom steunde Anthropic in 2025 transparantiewetgeving en hielp het bij de goedkeuring van SB 53 in Californië, RAISE in New York, SB 315 in Illinois (begin 2026), en pleitte het voor een transparantienorm op federaal niveau.
Nu zijn de risico's er echter duidelijk. Het is tijd om verder te gaan dan transparantie, naar een meer serieuze en bindende regelgeving voor AI. Ik geloof dat de beste analogie, althans in de huidige fase van de exponentiële groei, die met auto's, vliegtuigen of geneesmiddelen is – krachtige technologieën die essentieel zijn voor de moderne economie, maar die grote aantallen mensen kunnen doden als ze slecht ontworpen of bediend worden. Ik ben daarom van mening dat we AI-regelgeving moeten modelleren naar het voorbeeld van agentschappen zoals de Federal Aviation Administration (FAA, de Amerikaanse luchtvaartautoriteit). Grensverleggende AI-modellen moeten, net als vliegtuigen, verplicht technische tests en audits ondergaan, en hun uitgave moet worden geblokkeerd of teruggedraaid als een bedreiging voor de openbare veiligheid als ze niet aan hoge veiligheidsnormen voldoen. Ik ben dankbaar om te zien dat het Uitvoeringsbevel van de regering-Trump stapsgewijs evolueert naar een grotere rol voor de overheid in AI, hoewel het voorstel van Anthropic nog verdergaande actie aanbeveelt. Ons voorstel omvat de volgende elementen:
Er kan een tijd komen, misschien relatief snel, dat we verder moeten gaan dan dit, wanneer de krachtigste AI-systemen minder op vliegtuigen of auto's lijken en meer op kernmateriaal dat voor wapens kan worden gebruikt – een bedreiging voor de mensheid in plaats van 'slechts' een bedreiging voor de openbare veiligheid. Als dat gebeurt, hebben we mogelijk agressievere regelgevende maatregelen nodig dan degene die ik heb uiteengezet. Maar net zoals het in 2024 moeilijk was om de maatregelen die ik nu voorstel doelgericht toe te passen, denk ik niet dat we op de zaken vooruit moeten lopen. We moeten beleid ontwerpen voor de gevaren die vandaag de dag opduiken, terwijl we de basis leggen om onze reactie nog sneller op te voeren naarmate nieuwe gevaren zich aandienen.
Overheden staan al lang voor het probleem hoe ze economische groei kunnen stimuleren, terwijl ze ook belangrijke openbare diensten leveren en ervoor zorgen dat de minst fortuinlijken worden geholpen. Een belangrijke (en over het algemeen correcte) premisse van deze debatten is dat economische groei fragiel en moeilijk te bereiken is – dat het verminderen van ongelijkheid belangrijke voordelen kan opleveren, maar dat dit moet worden afgewogen tegen de economische belemmering van hogere belastingen of tekorten.
Ik vermoed dat krachtige AI deze veronderstelling kan ontwrichten. Als AI het vermogen krijgt om de meeste cognitieve taken veel beter uit te voeren dan mensen, dan is het logisch dat dit kan leiden tot extreem snelle en robuuste economische groei via de versnelling van wetenschap, technologie en operationele efficiëntie. Het iteratieve vermogen van AI om nog betere AI te bouwen, kan die groei nog verder stimuleren. Maar precies om dezelfde redenen kan AI ook als een algemenere economische vervanging voor menselijke cognitieve vermogens fungeren dan eerdere technologieën, terwijl het de economie ook veel sneller verandert dan eerdere technologieën. Het is dus redelijk om te denken dat AI veel grotere verstoringen van de arbeidsmarkt zou kunnen veroorzaken dan eerdere technologieën, en mogelijk duurzamere verstoringen. We riskeren te belanden in een wereld waar de economische afwegingsknop vastzit op de hypergroei- en hyperongelijkheidsinstelling, en mogelijk zeer moeilijk uit die instelling te halen is. De belangrijkste uitdaging in zo'n wereld zal niet zijn om groei te stimuleren, maar om een manier te vinden waarop iedereen kan delen in de voordelen.
Van de onderwerpen die in dit essay worden besproken, zijn macro-economie en duurzame arbeidsverplaatsing wellicht de onderwerpen die de meeste publieke aandacht en het meeste misverstand hebben gekregen, dus ik wil op twee punten extreem duidelijk zijn.
Ten eerste is duurzame arbeidsverplaatsing onwenselijk en gevaarlijk, en we moeten alles doen wat we kunnen om dit te minimaliseren of te voorkomen, en niet om het te bewerkstelligen. Ik heb gewaarschuwd voor arbeidsverplaatsing in interviews en essays omdat ik wil dat zowel beleidsmakers als de private sector de beste kans hebben om zich aan te passen en te reageren, niet omdat ik een "doemprofeet" probeer te zijn. Als bedrijf doet Anthropic altijd zoveel mogelijk om met klanten samen te werken om creatieve nieuwe gebruikssituaties en nieuwe inkomstenbronnen te vinden die hen in staat stellen meer te doen met hun bestaande personeelsbestand, in plaats van zich uitsluitend te richten op kostenbesparingen (wat vaak betekent het verminderen van het personeelsbestand). We proberen ook voortdurend na te denken over nieuwe interactieparadigma's die mensen een zo actief mogelijke rol laten spelen in de samenwerking met AI-systemen naarmate die systemen vorderen. Breder gezien is het waardevol voor de hele wereld om te experimenteren met het gebruik van AI op zoveel mogelijk nieuwe manieren, want dat is de manier waarop de samenleving nieuwe mogelijke baanconfiguraties kan ontdekken. Ik denk wel dat AI een aantal nieuwe economische kansen zal creëren. Ik heb voorspeld dat AI individuen in staat zal stellen miljardenbedrijven te creëren, en we zien al teams van slechts een paar mensen bedrijven bouwen met honderden miljoenen aan inkomsten. Maar tegelijkertijd moeten we erkennen dat er een reële mogelijkheid is dat, ondanks al onze inspanningen, AI toch aanzienlijk duurzaam banenverlies veroorzaakt – en dat dit een intrinsieke eigenschap kan zijn van de technologie en de manier waarop deze menselijke cognitie breed repliceert.
Ten tweede moet elke reactie op door AI veroorzaakte arbeidsverplaatsing zowel de noodzaak aanpakken om iedereen economisch te voorzien, als de behoefte van mensen om zingeving, een doel en autonomie te vinden. Dit laatste is uiteindelijk belangrijker, en het hangt af van diepgaande vragen over hoe de samenleving is georganiseerd, waar mensen naar moeten streven en wat een goed leven inhoudt. Ik ben eigenlijk erg optimistisch dat, zelfs in een wereld met AI's die beter zijn dan iedereen in alles, mensen een leven van diepe zingeving kunnen leiden en ernaar kunnen streven ontzagwekkende en mooie dingen te bouwen. Maar dit is iets dat collectief door de samenleving als geheel moet worden uitgewerkt, niet iets wat het beleid direct kan aanpakken. Beleid kan het meest nuttig zijn door ons tijd te geven om dat werk te doen, door banenverlies te vertragen en economisch te voorzien in degenen die waarschijnlijk getroffen zullen worden.
In die geest zijn enkele belangrijke beleidsinterventies die waarschijnlijk nuttig zullen zijn:
Een veelvoorkomend punt van economische zorg over AI dat ik nog niet heb genoemd, zijn datacenters en met name hun potentieel om de energieprijzen te verhogen. Mijn standpunt is dat AI-bedrijven moeten betalen om tariefverhogingen op te vangen – en Anthropic heeft al toegezegd dit te doen – maar ik zie publieke vijandigheid tegenover datacenters grotendeels als een symbool of uitlaatklep voor bredere economische angsten over AI. Het is belangrijk dat we een directe maatschappelijke discussie voeren over deze bredere economische kwesties en daarvoor echt overtuigende oplossingen hebben, anders zullen ze zich waarschijnlijk indirect manifesteren, zoals ze hebben gedaan met datacenters.
Net zoals we moeten worstelen met het evenwicht tussen innovatie en veiligheid voor AI zelf, moeten we worstelen met datzelfde evenwicht voor technologieën die waarschijnlijk door AI zullen worden versneld, zoals biogeneeskunde, energie of materiaalkunde. Maar terwijl AI zelf waarschijnlijk nieuwe uitdagingen met zich meebrengt die zeer snel opduiken en waarmee we geen eerdere ervaring hebben, zullen andere door AI versnelde domeinen waarschijnlijk op een heel ander probleem stuiten: regelgevingssystemen die ontworpen zijn voor een trager innovatietempo en niet voorbereid zijn op de stortvloed van nieuwe producten en vooruitgang die AI zal teweegbrengen. AI kan deze afgeleide technologieën ook veiliger en voorspelbaarder maken, op een manier die ingaat tegen de sceptische veronderstellingen van regelgevende instanties zoals de Food and Drug Administration (FDA) (de Amerikaanse geneesmiddelenautoriteit).
Voor afgeleide toepassingen van AI – in tegenstelling tot AI zelf – ben ik dus meer bezorgd dat het regelgevingskader de vooruitgang zal vertragen (omdat het het toegenomen tempo van verandering niet aankan) dan dat het belangrijke risico's niet zal aanpakken. Het laatste wat we willen, is dat de voordelen van AI worden afgeremd terwijl de risico's ervan prominent aanwezig blijven, dus het is belangrijk om dit probleem zo snel mogelijk aan te pakken.
Het probleem en de oplossingen ervoor zullen in elk domein van wetenschap, handel en technologie anders tot uiting komen, dus ik zal me concentreren op één illustratief domein: biomedische innovatie. Dit is zowel omdat het waarschijnlijk
Elk regeringssysteem moet de vraag naar de macht van de staat en de grenzen ervan onder ogen zien. De staat heeft een legitiem, vaak existentieel, belang bij het beschermen van zijn bevolking tegen interne en externe bedreigingen. Maar het verlenen van te veel macht leidt tot tirannie. Moderne democratieën hebben dit evenwicht grotendeels succesvol beheerd, maar het is in het beste geval een fragiel evenwicht. Het afdwingen ervan heeft een grote hoeveelheid juridische en constitutionele mechanismen vereist die gedurende eeuwen zijn opgebouwd – bijvoorbeeld in de Verenigde Staten het Eerste, Vierde en Vijfde Amendement (aanvulling op de grondwet), de Posse Comitatus Act (wet die het gebruik van het Amerikaanse leger voor binnenlandse ordehandhaving beperkt), FISA (Foreign Intelligence Surveillance Act, wet inzake buitenlandse inlichtingendiensten) enzovoort.
AI dreigt dit evenwicht te verstoren en verhoogt tegelijkertijd de inzet ervan dramatisch. Maar als we snel reageren en de uitdaging aangaan, kunnen we AI gebruiken om een wereld te creëren die meer robuuste en duurzame garanties voor vrijheid en een betere verdediging tegen bedreigingen heeft, dan we ooit eerder hebben gehad. Krachtige AI in de verkeerde handen zou het ultieme instrument van autocratie kunnen zijn, en onze bestaande wettelijke en constitutionele beschermingen zijn niet volledig uitgerust om deze bedreiging tegen te gaan. Fundamenteel creëert het enorme rendement op intelligentie in termen van macht in de wereld, gecombineerd met het snelle tempo van AI's vooruitgang, een perfecte storm voor een verrassende machtsovername door een reeks gevaarlijke actoren.
Het gevaar kan verschillende specifieke technologische of operationele vormen aannemen, maar wat ze allemaal gemeen hebben, is het idee dat AI plotseling enorme macht zou kunnen verlenen terwijl het bestaande mechanismen van democratisch toezicht omzeilt. Een volledig geautomatiseerd droneteam dat vandaag nog klinkt als sciencefiction, zou in de toekomst onwettige bevelen kunnen gehoorzamen en regeringen in staat stellen hun macht eenzijdig te consolideren; professioneel opgeleide mensen zullen eerder bezwaar maken tegen dergelijke illegale instructies. Een op surveillance gerichte AI zou algemeen beschikbare informatie op enorme schaal kunnen analyseren en gebruiken om de diepste details van het leven van elke burger af te leiden – een technologische mogelijkheid die niet wordt overwogen door de huidige wetgeving inzake burgerlijke vrijheden. Dit alles zou zeer snel, of in het geheim, kunnen gebeuren, dus het is belangrijk om de toewijding van democratieën aan vrijheid en burgerlijke vrijheden proactief te versterken.
De volgende beleidsideeën zouden we moeten overwegen:
Tot slot is het vermeldenswaard dat regeringen niet de enige entiteiten zijn waar we voor moeten oppassen als het gaat om AI-gestuurde machtsovername. Op verschillende momenten in de geschiedenis (zoals de Gilded Age in de Verenigde Staten of de East India Company in het VK) zijn bedrijven zo machtig geworden dat ze de staat hebben veroverd of quasi-staatseigenschappen hebben aangenomen. AI zal binnenkort zo capabel worden dat ik me zorgen maak dat het niet veilig volledig kan worden toevertrouwd aan regeringen of bedrijven, en er moeten checks and balances (controles en tegenwichten) zijn voor elk. Regulering is één antwoord op hoe bedrijven aan banden te leggen (en mijn ideeën daarvoor staan in Sectie 1), maar het is ook belangrijk dat AI-bedrijven meer scheiding van machten en verantwoordingsplicht hebben dan typisch is voor particuliere entiteiten. Anthropic's Long-Term Benefit Trust (een onafhankelijk bestuursorgaan dat is ontworpen om het bedrijf aan zijn missie te houden) is een dergelijke structuur, en de industrie zou mechanismen moeten blijven verkennen die verder gaan. Het vinden van het juiste evenwicht – zodat zowel bedrijven als de overheid zinvolle controles op hun bevoegdheden hebben – is essentieel.
Het is een algemeen instinct geworden, misschien ontwikkeld uit recente ervaringen met het internet en telecommunicatie, om nieuwe technologieën geopolitiek te beschouwen als instrumenten van handelsbeleid, met als doel "onze technologie over de hele wereld te verspreiden". Maar ik ben er heel sterk van overtuigd dat AI iets veel diepgaander is, iets dat het hele speelbord reset en waaromheen alle toekomstige geopolitieke strategie gevormd moet worden – zoals nucleaire wapens, maar potentieel zelfs nog meer.
Als AI echt spoedig "een land van genieën in een datacenter" zal zijn, of iets dat er ook maar in de verste verte op lijkt, dan zal AI waarschijnlijk de dominante bron van militaire en economische macht zijn voor elke natie. In een virtueel land van 100 miljoen genieën zouden 10 miljoen ingezet kunnen worden voor militaire strategie, 10 miljoen voor de fabricage van drones, 10 miljoen voor wapen-O&O (onderzoek en ontwikkeling), 10 miljoen voor inlichtingenverzameling en -analyse, 10 miljoen voor algemene wetenschappelijke vooruitgang, enzovoort. Een natie die krachtige AI bezit en tegenover een staat staat zonder – of zelfs tegenover een staat die 3 jaar achterloopt in AI – zou het equivalent kunnen zijn van een leger van Tweede Wereldoorlog-mariniers tegenover een leger van middeleeuwse zwaardvechters.
Bovendien, als krachtige AI diepere en potentieel permanente vormen van autocratische repressie mogelijk maakt (zie Sectie 4), dan maakt dit het des te belangrijker dat de machtigste naties ter wereld democratieën zijn – of op zijn minst dat er sterke bescherming bestaat tegen AI-gestuurde repressie. Het verhoogt ook de urgentie van een gerichte geopolitieke strategie.
Democratieën zouden moeten proberen een mondiale coalitie te vormen die zich richt op het bouwen van AI volgens hun gemeenschappelijke waarden, waarbij ze iteratief de rest van de wereld proberen aan te trekken door het steeds aantrekkelijker te maken deel uit te maken van de coalitie en steeds minder aantrekkelijk om erbuiten te blijven. De coalitie zou een gecoördineerde internationalisering moeten zijn van de AI-beleidsideeën die in Sectie 1 tot en met 4 worden besproken, plus een inspanning om de toeleveringsketen die cruciaal is voor het bouwen van AI af te sluiten door deze binnen de coalitie te delen en te ontzeggen aan degenen erbuiten. Enkele principes en operationele doelen zouden kunnen zijn:
Het doel moet zijn om het lidmaatschap van de coalitie zo aantrekkelijk mogelijk te maken – en de kosten om erbuiten te blijven duidelijk. De coalitie zou rusten op coördinatie tussen soevereine staten, waarbij elke natie volledige autoriteit over haar eigen zaken behoudt. Het zou iteratief kunnen groeien, beginnend met ideologisch uitgelijnde democratieën (die van nature geneigd zullen zijn om toe te treden) en geleidelijk landen verwelkomen die minder van nature uitgelijnd zijn, maar bereid zijn om te voldoen aan de normen van de coalitie in ruil voor de enorme voordelen van het lidmaatschap. Idealiter zou uiteindelijk de hele wereld toetreden. Maar zelfs als dat niet mogelijk is, plaatst het bouwen van de coalitie democratieën in de sterkste positie om de regimes die vasthouden aan repressie in bedwang te houden en te overtreffen.
De exponentiële vooruitgang van AI heeft een urgentie en een veranderingstempo gecreëerd waar het beleidsvormingsproces doorgaans slecht op berekend is. Maar het heeft ook een unieke kans gecreëerd. De samenloop van duidelijke en reële bewijzen van de risico's van AI, een eerste voorsmaakje van het potentieel van AI voor zowel economische waardecreatie als economische ontwrichting, en een opmerkelijke publieke tegenreactie tegen een ongereguleerde aanpak van AI heeft een situatie geschapen waarin beleidsmakers ongewoon open