Dwarkesh Podcast

Jensen Huang legt uit waarom NVIDIA's moat veel meer is dan alleen chips

Open in Readwise →

Hoofdonderwerpen

  • NVIDIA's echte moat: niet alleen de chips, maar de hele supply chain, het CUDA-ecosysteem (NVIDIA's software-laag waar AI-frameworks op draaien), en de installed base van honderden miljoenen GPU's wereldwijd.
  • Concurrentie van TPU's en ASICs (Application-Specific Integrated Circuits — chips die voor één specifieke taak zijn ontworpen, zoals Google's TPU of Amazon's Trainium) — Jensen's tegenargument waarom general-purpose accelerators blijven winnen.
  • Supply chain bottlenecks van logic, HBM-geheugen (High Bandwidth Memory — super snel geheugen dat naast de GPU wordt gestapeld), CoWoS-packaging (de techniek van TSMC om chips en geheugen op één substraat te zetten), en waarom Jensen denkt dat geen enkele bottleneck langer dan 2-3 jaar duurt.
  • China-export debat: een behoorlijk pittig gesprek waarbij Dwarkesh en Jensen het flink oneens zijn over het verkopen van chips aan China.
  • Investeringsstrategie: waarom NVIDIA nu $30B in OpenAI en $10B in Anthropic stopt, en waarom ze geen hyperscaler (cloud-provider zoals AWS, Azure, GCP) willen worden.

Key insights

Het "elektronen naar tokens" mentale model Jensen beschrijft NVIDIA heel helder: input = elektronen, output = tokens. Alles in het midden is hun werk. En hun filosofie: "do as much as necessary, as little as possible". Alles wat ze niet zelf hoeven te doen, geven ze aan partners in het ecosysteem. Daarom investeren ze in CoreWeave, Nebius en Crusoe in plaats van zelf een cloud te worden.

Software commoditiseert niet, het explodeert juist Interessante counter-take: mensen denken dat AI software-bedrijven commoditiseert. Jensen denkt het tegenovergestelde — het aantal agents en dus het aantal instances van tools als Excel, Synopsys, Cadence gaat exploderen. Vandaag zijn we gelimiteerd door het aantal engineers; morgen heeft elke engineer een zwerm agents die tools gebruiken. Relevant inzicht voor iedereen die SaaS bouwt.

Moore's Law is dood, co-design is de nieuwe hefboom Moore's Law (de oude voorspelling dat transistoren elke 2 jaar verdubbelen) levert nog maar ~25% per jaar. Maar Blackwell is 50x zuiniger dan Hopper. Dat verschil komt uit co-design: tegelijk innoveren op algoritme, kernel (stukje low-level code dat op de GPU draait), netwerk, systeem. Dat is moeilijk te kopiëren met een ASIC die alleen matrix-multiplies doet.

Supply chain als moat $100B+ aan purchase commitments. Leveranciers investeren upstream omdat NVIDIA de downstream-vraag kan garanderen. Dit is het soort moat waar startups zelden aan denken: niet alleen product, maar capaciteit vooruit geboekt. GTC (NVIDIA's jaarlijkse conferentie) is eigenlijk een tool om de hele supply chain te aligneren op Jensen's visie.

CUDA's lock-in zit in de installed base Het argument: als je vandaag software schrijft, wil je dat die op zoveel mogelijk machines draait. NVIDIA zit in elke cloud, elke edge-device, elke robot. Dat installed-base-effect is moeilijker te breken dan pure price/performance. Vergelijkbaar met waarom x86 en ARM nog steeds dominant zijn.

Het China-debat — de kern van het meningsverschil Dwarkesh' positie: meer compute = krachtigere modellen = meer cyberaanval-capaciteit. Houd China zoveel mogelijk op achterstand. Jensen's positie: China heeft al zat compute (Huawei had recordjaar, 50% van AI-onderzoekers zit in China, ze hebben overvloed aan energie). Als NVIDIA de Chinese markt opgeeft, ontstaat een parallel ecosysteem waar Chinese modellen geoptimaliseerd worden voor Huawei-chips in plaats van de Amerikaanse stack. Dan verliezen we de global south aan hun standaard. Geen van beiden geeft toe. Leerzaam om te zien hoe twee slimme mensen fundamenteel botsen op dezelfde feiten.

Waarom Anthropic op TPU's draait (volgens Jensen) Heel eerlijke bekentenis: NVIDIA kon destijds niet de multi-miljarden investeringen doen die Google en AWS wel konden. Anthropic kreeg compute van AWS/Google in ruil voor aandelen. Jensen: "my mistake is I didn't deeply internalize that they really had no other options." Nu doet hij het wel (OpenAI deal). Mooi voorbeeld van een CEO die publiek een misrekening toegeeft.

Takeaways voor een AI-ondernemer

  • Tokens segmenteren op responstijd: Jensen noemt iets interessants — ze voegen nu een "premium token" segment toe met lagere throughput maar snellere response. Voor AI-producten betekent dit: je kunt straks kiezen of je klanten wachten op goedkope tokens of betalen voor instant response. Voor een coffee shop context: denk aan snelle vs. uitgebreide AI-antwoorden voor verschillende use cases.
  • "Do as much as necessary, as little as possible" is een verrassend sterke filosofie voor een 10-persoons bedrijf. Wat moet jij écht zelf doen (branding, relatie met boeren, unieke espresso-profielen) en wat kun je via partners/tools doen?
  • Job vs. Task onderscheid: Jensen's radioloog-voorbeeld is goud. De job van een radioloog is patientenzorg, de task is scans lezen. AI pakt tasks, geen jobs. Toe te passen op alles: welke taken in jouw werk kan AI pakken zonder dat de job verdwijnt?
  • Supply chain denken: Jensen's obsessie met capaciteit-vooraf-boeken is een les. Voor specialty coffee: langetermijn-contracten met producenten, commitments op specifieke lots. Dit is jouw versie van NVIDIA's HBM-deal.
  • Agents explosion: als Jensen gelijk heeft dat elke softwaretool straks miljoenen agent-instances heeft, dan is elk Supabase-project dat je bouwt potentieel iets waar straks agents op draaien. Ontwerp je API's en schema's alsof niet-mensen ze gaan gebruiken.
  • Open source blijft belangrijk: Jensen hamert erop dat open source (vooral vanuit China — DeepSeek, Qwen) de motor van AI-diffusie is. Relevant voor je eigen stack-keuzes: overgewaardeerde closed APIs vs. open modellen die je zelf kunt draaien.
  • Eén ding dat Jensen niet noemt maar interessant is: de hele podcast gaat over frontier-schaal. Voor iemand met jouw bedrijfsgrootte is het belangrijkste signaal: de kosten van tokens dalen met een orde van grootte per jaar (zijn eigen woorden). Wat je vandaag te duur vindt om te automatiseren, is over 12 maanden triviaal.

Gerelateerd