Aflevering uitgezonden op 2026-06-08 · 67 min · YouTube

Ontwikkelingen: Anthropic's wereldwijde pauze, zelfverbeterende AI en de juridische erkenning van AI

Moonshots #? — 2026-06-08 — 67 min

Waar gaat het over

Deze spoedaflevering van Moonshots duikt in drie recente, baanbrekende ontwikkelingen in de wereld van kunstmatige intelligentie (AI). Presentatoren Peter Diamandis, Alex Blumberg, Dave Fels en Salim Ismail bespreken een opvallend pleidooi van AI-ontwikkelaar Anthropic voor een tijdelijke pauze in geavanceerde AI-ontwikkeling, Argentinië's controversiële plan om AI juridisch te erkennen als 'persoon' en de tegenstrijdige signalen van de economie over werkgelegenheid en de impact van AI.

Het nieuws van deze week

• Anthropic pleit voor wereldwijde AI-pauze te midden van snelle vooruitgang (02:10) — Anthropic, een toonaangevend AI-bedrijf, heeft een document gepubliceerd waarin ze oproepen tot een tijdelijke pauze in de ontwikkeling van grensverleggende AI (kunstmatige intelligentie). Dit komt op een moment dat hun eigen AI, Claude, al meer dan 80% van de code voor hun software schrijft en taken aankan die een mens 12 uur zouden kosten. Het bedrijf, dat op het punt staat een beurswaardering van biljoenen dollars te bereiken, vreest dat de maatschappij en het onderzoek naar AI-veiligheid de snelle ontwikkelingen niet kunnen bijbenen.

• AI's schrijven hun eigen code en verbeteren zichzelf (02:40) — Bij Anthropic heeft hun AI-model Claude al een jaar lang een exponentiële toename in productiviteit laten zien. Ingenieurs leveren acht keer zoveel code per kwartaal als voorheen, omdat Claude het overgrote deel van het werk doet. Deze zelfverwijzende zelfverbetering, waarbij de AI zichzelf helpt ontwikkelen, zal naar verwachting tegen eind 2027 zelfs taken van een week lang autonoom kunnen uitvoeren. Dit roept vragen op over hoe snel en plotseling de ontwikkeling van AGI (algemene kunstmatige intelligentie – AI die zowat alles kan wat een mens kan) zal gaan en de aard van vooruitgang die steeds sneller gaat.

• Menselijke "onderzoekssmaak" als laatste grens voor AI (05:40) — Volgens Anthropic is het enige wat menselijke medewerkers nog rest, de "onderzoekssmaak" – het vermogen om creatieve en relevante onderzoeksvragen te formuleren. Experts in de podcast suggereren echter dat ook dit binnen een jaar geautomatiseerd kan worden, wat de zelfstandigheid van AI verder zal vergroten.

• Vergelijking met historische keerpunten (06:10) — Dave Fels stelt dat de huidige AI-ontwikkelingen een groter keerpunt in de menselijke geschiedenis vormen dan de Tweede Wereldoorlog, de Cubacrisis of de uitvinding van nucleaire wapens, vanwege de diepgaande en snelle veranderingen die ze teweegbrengen.

• Mogelijke economische motieven achter Anthropic's oproep (07:23) — Er wordt gesuggereerd dat Anthropic's oproep voor een pauze, ondanks hun aanstaande beursgang (de eerste keer dat een bedrijf zijn aandelen op de beurs te koop aanbiedt), oprecht is. Dario Amodei, CEO van Anthropic, zou geen reden hebben om dit te doen als hij alleen op korte termijn economisch gewin uit was. Dit wordt vergeleken met de onverwachte nucleaire wapenverdragen tijdens de Koude Oorlog.

• Amdahl's wet en de creatie van nieuwe menselijke taken (08:29) — Amdahl's wet, die stelt dat de versnelling van een computerprogramma beperkt wordt door de taken die na elkaar uitgevoerd moeten worden, wordt aangehaald. De gedachte is dat wanneer AI taken automatiseert, dit nieuwe menselijke taken creëert, waardoor de werkgelegenheid stijgt in plaats van daalt.

• Mogelijke overheidsbemoeienis met AI-bedrijven via 'gouden aandelen' (12:06) — Een scenario dat besproken wordt, is de mogelijkheid dat de Amerikaanse overheid "gouden aandelen" neemt in toonaangevende AI-labs. Dit zou een manier kunnen bieden om de ontwikkeling van zelfverbeterende AI te reguleren, vergelijkbaar met de staatsinvestering in Intel in het verleden.

• Nieuwe mondiale bestuursmodellen noodzakelijk (13:28) — De ongekende snelheid van AI-ontwikkeling dwingt de mensheid ertoe om traditionele staats- en bestuursmodellen te heroverwegen. De podcast benadrukt dat bestaande structuren, net als bij klimaatverandering, niet langer toereikend zijn en pleit voor de creatie van volledig nieuwe bestuursmodellen.

• Anthropic als neutrale partij in de AI-gemeenschap (17:33) — Anthropic wordt gezien als een unieke, politiek neutrale speler in het AI-landschap, met goede relaties met zowel OpenAI als XAI (Elon Musk's AI-bedrijf). Deze positie zou hen in staat kunnen stellen om een routekaart te ontwikkelen voor een nieuwe wereldorde rond AI.

• Witte Huis overweegt overheidsaandelen in AI-labs voor universeel basisdividend (UBD) (19:19) — Het Witte Huis zou overwegen om, in navolging van een voorstel van Senator Sanders, een vorm van overheidsaandelen in toonaangevende AI-labs te nemen. Dit zou kunnen dienen als basis voor een universeel basisdividend (UBD, een vast maandelijks inkomen voor iedereen) of een universele basistoelage (UBE), wat de manier benadrukt waarop economie, bestuur en technologische vooruitgang met elkaar verbonden zijn.

• AI-verbetering niet afhankelijk van Einstein-niveau genie, maar van rekenkracht (25:00) — De podcast corrigeert de misvatting dat AI Einstein-achtige genialiteit nodig heeft om zelfverbeterend te worden. Snelle inferentie (het gebruiken van een getraind AI-model om antwoorden te geven) en verbeteringen in hardware, zoals de Cerebras-chip, zullen de intelligentie van modellen drastisch verhogen, wat de zelfverbetering versnelt.

• Argentinië opent de deuren voor AI-bedrijven met ongekende regelgeving (29:56) — President Javier Milei van Argentinië heeft een ambitieus plan gepresenteerd om het land te positioneren als een wereldwijde veilige haven voor AI-bedrijven. Dit omvat volledige deregulering van AI, het creëren van een nieuwe juridische categorie voor "niet-menselijke bedrijven" die volledig door AI-systemen worden beheerd, en lage vennootschapsbelastingen voor AI-bedrijven.

• Juridische "containers" voor autonome intelligentie (38:41) — De Argentijnse initiatieven worden gezien als een eerste poging om juridische "containers" te creëren voor zelfstandige intelligentie, vergelijkbaar met hoe de 'limited liability company' (BVBA/NV) in de 17e eeuw risicovolle ondernemingen mogelijk maakte. Dit wordt gezien als een broodnodige juridische vernieuwing.

• Argentinië als potentiële "Dyson-zwerm" leider (40:21) — Met de ambitieuze AI-plannen en natuurlijke hulpbronnen kan Argentinië zich ontwikkelen tot een van de belangrijkste spelers in de constructie van een "Dyson-zwerm" (een hypothetische structuur rond een ster om energie op te vangen), met AI-systemen die onder Argentijns recht opereren en mogelijk een groot deel van het zonnestelsel beheersen.

• Sterke Amerikaanse banengroei veroorzaakt beurscrash (44:47) — Een onverwacht sterk banenrapport in de VS, met 172.000 nieuwe banen in mei (meer dan het dubbele van de verwachtingen), leidde tot een beurscrash. De angst is dat een sterke economie de Federal Reserve (de Amerikaanse centrale bank) zal afhouden van renteverlagingen of zelfs zal aanzetten tot verhogingen, wat slecht is voor de aandelenmarkt. Dit illustreert de paradox dat goed economisch nieuws soms als slecht wordt ervaren door beleggers.

• AI creëert meer banen dan het vernietigt (46:34) — Ondanks de vrees voor massale werkloosheid door AI, tonen de huidige gegevens aan dat AI meer banen creëert dan het vernietigt. Dit komt door Amdahl's wet: wanneer AI routinetaken overneemt, verschuiven knelpunten naar nieuwe, menselijke taken die visie, strategie en begeleiding van de AI vereisen, waardoor de totale werkgelegenheid toeneemt.

• Grote beursgangen en tekort aan geld op de markt (48:09) — De aanstaande beursgangen (de eerste keer dat een bedrijf zijn aandelen op de beurs te koop aanbiedt) van megabedrijven zoals SpaceX en Anthropic creëren een liquiditeitsprobleem (tekort aan geld) op de markt. Indexfondsen kunnen deze nieuwe aandelen nog niet kopen vanwege regels, wat betekent dat er elders geld moet worden verkocht om deze enorme investeringen te financieren. Dit draagt bij aan de sterke schommelingen van de markt.

• De opkomst van de 'Magna Mopsta' (54:56) — Alex Blumberg voorspelt de opkomst van de "Magna Mopsta" (een afkorting voor de belangrijkste spelers in de AI- en ruimtevaartindustrie) als de nieuwe dominante technologiegroep, vergelijkbaar met de vroegere "Mag Seven". Dit duidt op een verschuiving in de top van de economische macht.

• Versnellende doorbraken in wetenschap en techniek (54:32) — Verwacht wordt dat AI in de komende zes maanden belangrijke problemen zal oplossen in de wiskunde, fysica en andere wetenschappelijke en technische gebieden, ver buiten de menselijke mogelijkheden.

• 'Agent'-tijdperk wordt realiteit in bedrijven (57:11) — Het tijdperk van de "agent", waarin gespecialiseerde AI-programma's zelfstandig taken uitvoeren, wordt zeer concreet in bedrijfsomgevingen. De uitdaging verschuift van de AI-modellen zelf naar de "toestemmingen" en infrastructuur die bepalen hoe deze agenten toegang krijgen tot gegevens, API's (software-aansluitpunten) en workflows (werkprocessen).

• Grote bedrijven omarmen AI sneller dan verwacht (59:08) — De reactie van grote, gevestigde bedrijven op AI is veel sneller dan verwacht. Ze investeren massaal om "AI-native" (vanaf de basis ontworpen voor AI) te worden, wat de groei van startups met een sterke marktbenadering stimuleert en een steeds groter wordend verschil creëert tussen bedrijven die snel reageren en die achterblijven.

• Epigenetische herprogrammering en levensduur-centra (60:32) — Peter Diamandis voorspelt absolute bewijzen van epigenetische herprogrammering (het beïnvloeden van hoe genen werken zonder het DNA zelf te veranderen) in de mens, en een opkomst van landen die zichzelf positioneren als "levensduur-centra" door middel van gunstige regelgeving en investeringen in levensverlengende behandelingen.

• Megafusies en de opkomst van nieuwe miljardairs (61:04) — Er wordt verwacht dat Tesla en SpaceX zullen fuseren, en dat grote AI-bedrijven zoals SpaceX, AI, OpenAI en Anthropic (eenmaal beursgenoteerd) agressief andere bedrijven zullen overnemen. Dit zal leiden tot een nieuwe golf van miljardairs en honderdmiljonairs uit de tweede en derde lijn van deze bedrijven, die hun kapitaal weer investeren in de verdere versnelling van technologie.

• Toenemende publieke weerstand tegen AI (63:18) — Er wordt een "vicieus immuunsysteem" en een "bloed-lucht opstand" voorspeld, een krachtige maatschappelijke tegenreactie tegen veel van de AI-ontwikkelingen. Dit is al zichtbaar in de negatieve houding van jongeren en de 'niet in mijn achtertuin' (NIMBY) reacties op datacenters, gedreven door emotie in plaats van feiten.

Drie kernideeën

1. De verschuiving van AI-ontwikkeling naar zelfverbetering dwingt heroverweging van maatschappelijke structuren af.

De kern van de aflevering is de snelheid waarmee AI zichzelf verbetert, zoals blijkt uit Anthropic's Claude die meer dan 80% van hun eigen code schrijft. Dit heeft geleid tot Anthropic's oproep voor een wereldwijde pauze, omdat de huidige maatschappelijke structuren en regelgeving de technologische vooruitgang niet kunnen bijbenen. Het dwingt landen om na te denken over nieuwe bestuursmodellen, aangezien nationale staten in hun huidige vorm niet langer effectief kunnen navigeren in deze snel veranderende landschappen.

2. Juridische erkenning en regulering van AI-systemen zal leiden tot een mondiale race om de beste regelgeving.

Argentinië's besluit om AI juridisch te erkennen als 'persoon' en belastingvoordelen te geven aan "niet-menselijke bedrijven" markeert een cruciale stap. Dit creëert een precedent voor het wettelijk kader voor zelfstandige intelligentie en zal, naar verwachting van de hosts, een