George Hotz – de hacker die op 17-jarige leeftijd de iPhone voor het eerst kraakte en de PlayStation 3 reverse-engineerde voordat Sony hem daarvoor aanklaagde – publiceerde zondag een blogpost waarin hij betoogde dat massale adoptie van AI-codeeragenten zal eindigen in een ramp, of op zijn minst er dichtbij zal komen.

“Ik zeg het nu al, de adoptie van AI-agenten in softwareontwikkeling zal een van de duurste fouten in de geschiedenis van het vakgebied zijn,” schreef Hotz. “Agenten kunnen niet programmeren, en het duurt steeds langer voordat men dat beseft.”

“De output is gebroken, maar op een manier die steeds moeilijker te detecteren is. Wat precies is wat je zou verwachten van een steeds nauwkeuriger statistisch model.”

De post, getiteld "The Eternal Sloptember", verscheen vijf dagen nadat Andrej Karpathy, een van de meest prominente AI-onderzoekers, zich had aangesloten bij het pre-trainingsteam van Anthropic met de expliciete mening dat AI-agenten de softwareontwikkeling al hebben getransformeerd. De twee mannen vertegenwoordigen nu tegenovergestelde polen van een debat dat de industrie nog niet heeft beslecht – en beiden hebben daadwerkelijke geloofwaardigheid om een standpunt in te nemen.

Hotz kwam niet vanaf de zijlijn tot zijn conclusie. Hij besteedde zes maanden aan het gebruik van agenten voor echte projecten: delen van Tinygrad, zijn open-source deep learning-framework, en een volledige firmware reverse-engineering van een USB-PCIe-chip. "De agent laadt alle voortgang voor", schrijft hij, en geeft je dan wat hij beschrijft als een gokkasthendel – je trekt eraan en hoopt dat het afwerkingswerk wordt gedaan.

Dat gebeurt nooit helemaal.

Niet over ego

Hotz anticipeert op de voor de hand liggende tegenstand: een programmeur die een deel van zijn identiteit definieert door zijn vakmanschap, zou van nature weerstand bieden aan tools die dreigen hem te vervangen. Hij neemt het bezwaar serieus en verwerpt het op basis van de feiten.

“Ik dacht meer na over het behoud van eigenwaarde. Google’s AFL vond meer bugs dan LLM's en niemand voelde zich daar zo over. Schaken en Go zijn populairder dan ooit,” schreef Hotz. En hij heeft gelijk in de zin dat schaak-AI de mens al decennia domineert en het spel alleen maar populairder is geworden.

Zijn zorg gaat dus niet over vervangen worden. Het gaat over wat er gebeurt met de codekwaliteit wanneer iedereen deze tools tegelijkertijd gebruikt, vooral wanneer Big Tech en Wall Street voortdurend aandringen op het massale gebruik van deze tools.

“Ik denk bijna dat dit een soort psychologische operatie is om agenten te verkopen,” betoogt Hotz. “Angst voor verlies is een van de weinige manieren om grote bedrijven in beweging te krijgen. Hoewel ik denk dat ze in die angst een grote fout maken.”

Zijn centrale argument is organisatorisch. Top performers hebben feedbackloops die strak genoeg zijn om door agenten gegenereerde problemen te detecteren voordat ze worden uitgerold. Ze lezen de code, sporen de fouten op en kalibreren wanneer ze de tool moeten vertrouwen. "De mindere performers zullen die zelfcontrole niet hebben," schrijft hij – en zij zijn degenen die agenten gebruiken om 10 keer hun eerdere output te produceren. Bij een groot bedrijf resulteert die rekensom in iets specifieks: snellere degradatie van de gemiddelde codekwaliteit, gemaskeerd door puur volume.

Het resultaat, zo betoogt hij, zal "een gouden tijdperk zijn voor emmers en emmers vol prut, en een donker tijdperk voor juwelen van kwaliteit." Als concreet voorbeeld wijst hij op berichten dat Apple AI-codeertools promoot binnen zijn hele technische organisatie, en vraagt dan eenvoudigweg: "Denkt u dat macOS de komende 2 jaar beter of slechter zal worden?"

Waar de kampen staan

Hotz plaatst zichzelf nu in wat hij het "LeCun/Marcus-kamp" noemt – verwijzend naar Yann LeCun, Meta's hoofd AI-wetenschapper, en Gary Marcus, een langdurige LLM-scepticus. Beiden hebben betoogd dat taalmodellen fundamenteel geavanceerde patroonherkenners zijn: ze kunnen de distributie van bestaande code imiteren, maar kunnen niet redeneren over echt nieuwe problemen vanuit de eerste beginselen.

Vibe coding – het beschrijven van wat je wilt in gewone taal en AI de implementatie laten genereren – is het afgelopen jaar geëxplodeerd, en de grote laboratoria hebben agent-gebaseerd coderen gepositioneerd als een vlaggenschipproduct. Microsoft transformeerde GitHub Copilot in 2025 tot een volwaardig agentisch systeem, waarbij CEO Satya Nadella het beschreef als een verschuiving op platformniveau, vergelijkbaar met de overstap naar de cloud.

De kritiek op Hotz's standpunt is niet abstract. Karpathy, die eerder in 2025 sceptisch was over agenten, draaide zijn standpunt om na nieuwe modelreleases en trad op 19 mei – vijf dagen voordat Hotz publiceerde – toe tot Anthropic's pre-trainingsteam. Hij beschreef de komende jaren aan de grens als "bijzonder vormend".

Anthropic CEO Dario Amodei zei in Davos dat sommige ingenieurs van Anthropic al gestopt zijn met zelf code schrijven, en modellen het werk laten doen terwijl zij de output controleren. Hotz zegt van zijn kant dat hij hetzelfde probeerde te doen en merkte dat hij elke keer weer naar een handmatige oplossing greep.