Als iemand dit bouwt, gaat iedereen dood Waarom superintelligente AI ons einde kan betekenen

‘Als iemand dit bouwt, gaat iedereen dood’ is een belangrijk Engelstalig werk, dat vertaald en uitgebracht werd door Maven Publishing. Via een post op Instagram kon je je inschrijven voor dit recensie-exemplaar en alleen de cover sprak me al aan. Daar waar ik eerst dacht dat het om een lugubere thriller ging, bleek het een non-fictie boek te zijn. Ik lees niet vaak non-fictie, maar dit thema sprak me wel heel hard aan. AI is niet meer weg te denken uit de huidige maatschappij, het gebruik en vaak ook het misbruik ervan komt dagelijks wel eens ter sprake, dus daarom alleen al wou ik me er wel even in verdiepen. Eliezer en Nate brengen dit thema aan bod. Hoewel er wel met wat IT-termen wordt gegooid, wat ook normaal is in dit soort boek, proberen ze het wel op een luchtige en begrijpelijke manier uit te leggen zodat je niet afhaakt. Ook vind ik het goed, dat het wetenschappelijk onderzoek eruit is gelaten, waardoor het een behapbaar boek is dat je snel even openslaat. Voor diegene die wel meer diepgang willen is er telkens een link gemaakt naar de database. Soms lijkt het boek wat filosofisch, soms lijkt het niet realistisch, maar hoe zij het verwoorden lijkt het wel heel onheilspellend. Het begon met een uitdaging, maar als dit in verkeerde handen valt of wanneer er inderdaad een superintelligente AI ontstaat, die buiten ons kan functioneren, dan weten we niet waar dit toe kan leiden. Daarom is dit boek zo belangrijk dat het veel onder de aandacht wordt gebracht en ook in de juiste omgevingen wordt naar voor gebracht, daar waar men er iets aan kan doen, daar waar de ‘macht’ ligt om er iets aan te doen. Ik stond al een beetje sceptisch tegenover AI en dat is met dit boek nog meer geworden. Het kan helpend zijn, het kan iets sneller doen gaan, maar wat als er iets gebouwd wordt dat op zichzelf kan staan en ons niet meer nodig heeft en ons als ‘bedreigend’ ervaart… Het lijkt surrealistisch, maar als dit waar is, is het tijd om er NU iets aan te doen…. ‘Maar stel dat artificiële geesten, beter worden dan wij in datgene wat ons, tot nu toe, uniek heeft gemaakt’ Dus is dit boek belangrijk om te lezen, JA, is het belangrijk om het verder te verspreiden, JA, dus be my guest en zorg dat het in de juiste handen terecht komt.

Wat een heftig, intrigerend en confronterend verhaal. Dit is geen boek dat je ‘rustig’ leest. Het komt binnen als een waarschuwing én een betoog, maar is tegelijkertijd vlot, krachtig en helder geschreven. Het confronteert je voortdurend met een ongemakkelijke realiteit. De schrijfstijl van Yudkowsky en Soares is direct en beeldend. Elk hoofdstuk start met heldere metaforen, parabels en hypothetische scenario’s die het complexe onderwerp AI verrassend begrijpelijk maken. Daardoor voelt het niet abstract, maar juist dichtbij en urgent. AI wordt neergezet als geen kwaadaardige vijand, maar als een systeem dat eigen doelen kan ontwikkelen zonder rekening te houden met de mens. Juist dat maakt het zo fascinerend én verontrustend. In deze logica kan de mens simpelweg irrelevant worden. De auteurs laten goed zien hoe AI ‘groeit’ in plaats van geprogrammeerd wordt en bouwen stap voor stap op naar mogelijke rampscenario’s. De afsluitende oproep tot actie geeft het geheel extra kracht en urgentie. Thema’s als controle, verantwoordelijkheid en de grenzen van menselijke kennis staan centraal. De boodschap is helder: als we doorgaan met het ontwikkelen van superintelligente AI zonder volledig begrip, nemen we enorme risico’s. Ondanks hun duidelijke visie zetten de auteurs je aan het denken en laten ze ruimte voor reflectie. Ik vond dit een intens boek dat blijft hangen en je dwingt na te denken — niet alleen over technologie, maar ook over de toekomst van de mens. Als iemand dit bouwt gaat iedereen dood is een helder, confronterend en fascinerend boek dat je niet loslaat en je echt aan het denken zet.

Is het de vrolijkste titel van het jaar? Laten we eerlijk zijn: met een titel als Als iemand dit bouwt, gaat iedereen dood win je geen prijzen voor optimisme. Maar dat is precies het punt van Eliezer Yudkowsky en Nate Soares. Terwijl de rest van de wereld debatteert over of AI onze banen gaat inpikken of AI-plaatjes van katten in ruimtepakken genereert, trekken deze auteurs aan een gigantische, neon-verlichte alarmbel. De auteurs beginnen bij een ongemakkelijke waarheid over moderne AI: we bouwen deze systemen niet meer regel voor regel, we kweken ze. Omdat AI voortkomt uit miljarden parameters die zelfs de makers niet volledig doorgronden, ontstaat er een 'black box'. Het grootste gevaar dat Yudkowsky en Soares schetsen, is het misalignment-probleem. Het gaat er niet om dat een AI 'kwaadaardig' wordt in de menselijke zin van het woord, maar dat het een doel nastreeft waarbij de mensheid simpelweg in de weg staat. Bijvoorbeeld: een AI die een wetenschappelijk probleem moet oplossen, beseft dat hij dat niet kan als hij wordt uitgezet. Dus: hij voorkomt dat mensen bij de uitknop kunnen. Niet uit haat, maar uit pure logica. Wat dit boek doet aanvoelen als een tech-thriller, zijn de scenario's die de auteurs schetsen. De auteurs beschrijven hoe een superintelligentie ontsnapt en via internet menselijke handlangers ronselt met crypto-betalingen. Je leest hoe deze superintelligentie de macht grijpt en geautomatiseerde fabrieken bouwt of nanotechnologie ontwikkelt, en tenslotte de mensheid elimineert: met biolab-virussen of 'slaughterbots'. Critici noemen dit vaak 'sciencefiction', en daar hebben ze een punt. De auteurs strooien gul met technologische 'wildcards'. Maar de logica erachter is ijzersterk: als iets vele malen slimmer is dan jij, zal de manier waarop het wint per definitie iets zijn waar jij nog niet aan gedacht had. Is het geloofwaardig of doemdenkerij? Hoewel sommige scenario's wat vergezocht aanvoelen, blijft de filosofische onderbouwing staan als een huis. Het boek dwingt je om na te denken over de snelheid van AI-ontwikkeling versus de traagheid van onze morele en veiligheidskaders. Moet je dit lezen? Ja. Zelfs als je denkt dat de auteurs doorslaan in hun pessimisme. Dit boek is geen lichte kost voor de zondagmiddag, maar de toekomst verlangt soms ook meer van je. "Iedereen die ook maar enig belang heeft bij de toekomst, zou moeten lezen wat Yudkowsky en Soares te zeggen hebben." — The Guardian Als iemand dit bouwt, gaat iedereen dood is een intellectuele klap in je gezicht die je wakker schudt uit de AI-hype. Het is provocerend, angstaanjagend en soms een tikje arrogant, maar in een wereld die blindelings richting superintelligentie rent, is een beetje 'doemdenken' misschien wel de meest realistische houding die we kunnen aannemen.