De Groene Amsterdammer 28-29 (12 juli 2023)
Machines om nergens te komen
Voor de zomerspecial van de Groene Amsterdammer over intelligentie schreef ik dit essay over kunstmatige intelligentie. Techniek moet ons helpen om de wereld steeds slimmer en makkelijker te maken. Maar slimmer en makkelijker voor wat? Hoe verder we komen, des te verder dat buiten beeld raakt.
- Lees ook: Murwgebeukt door de machine (De Groene Amsterdammer)
© Angel Boligan / Cagle Cartoons
De oeroude angst van mensen voor robots die de mensheid onderwerpen is weer helemaal terug, nu de grote jongens uit Silicon Valley na elkaar hebben verklaard hoe gevaarlijk kunstmatige intelligentie (AI) kan worden. De software is niet meer in de hand te houden, zeggen de makers, en daarom zouden we een tijdelijke denkpauze moeten inlassen. Een van de vaders van het vakgebied, Eliezer Yudkowsky, ziet het nog somberder in. ‘Grote datacentra bombarderen is het enige wat we nog kunnen doen.’ Anders zal AI onherroepelijk de computer uitkomen, door bij online biolabs dna-strengen te bestellen en zo de fysieke wereld in te stappen. Het brein achter AI kan niet meer slapen: ‘We are all going to die.’
Nu is dat laatste zeker waar, maar of AI daarvoor gaat zorgen, vraag ik me sterk af. Een deel van de angstdromen komt uit de koker van mensen die zelf diep in de business zitten en veel baat hebben bij alle aandacht. Maar vooral deel ik niet het enorme, haast religieuze ontzag voor de technologie dat eruit spreekt. Dromen van een betere mens en een betere wereld liggen heel dicht bij nachtmerries over een Matrix die de mensheid tot slaaf maakt. Het zijn twee kanten van de verering van intelligentie, en dan wel een zeer beperkte, rationele, formele vorm daarvan. Het is juist het kernprobleem van de moderniteit dat we die rationele intelligentie op de troon hebben gezet. Wat we op de troon zetten, gaan we aanbidden, en wat we aanbidden – zo schreef de bijbelse psalmist drie millennia geleden al – daar gaan we op lijken. Het grootste gevaar is niet dat robots op ons gaan lijken, maar dat wij op robots gaan lijken.
Vanochtend zat ik in de bus, op zich al een ietwat naargeestige plek zonder onderling menselijk contact waar de robotisering ver is doorgedrongen. Het is een kwestie van tijd voordat de chauffeur weggeorganiseerd wordt, want de computer doet het meeste werk. Mijn oog viel op een scherm met daarop reclame voor OVpay, het nieuwe betaalsysteem dat zich tooit met de leus ‘steeds slimmer, steeds makkelijker’. Sterk. Wie wil de wereld nou dommer en moeilijker? Maar de zin echoot nog steeds na in mijn hoofd. Steeds slimmer waarin? Makkelijker richting wat?
Ik moest denken aan het pensioenfeestje waar ik pas met mijn hele familie was, in het Experience Center van asml, de producent van lithografiemachines die de hele wereld gebruikt om computerchips te maken. We keken onze ogen uit tussen de lasers, de spiegels en de uitgestalde wafers waar het uv-licht de computerchips op print, en we bekeken een korte inleidende documentaire over al het moois dat er dankzij al die chips mogelijk is op aarde. Het is maar goed, zei onze gids, dat asml keihard werkt aan nog mooiere dingen met nog kleinere chips die zorgen voor nog slimmere computers.
De man was nog niet uitgesproken of mijn nichtje van elf zei, zonder met haar ogen te knipperen: ‘Ik denk dat het niet klopt, want we hebben juist te veel machines en daarom gaat het niet goed met de wereld en het klimaat.’
‘Maar jij wil toch ook dat het ziekenhuis jou beter kan maken met hulp van de beste machines?’ antwoordde de man.
Waarop mijn nichtje schouderophalend de wijze woorden sprak: ‘Misschien is het een goed idee als jullie voortaan alleen nog chips maken voor goede dingen en niet voor slechte dingen.’
De gids deed het hele verhaal af met een opmerking in de trant van ‘meisje, jij begrijpt nog niet zo goed hoe het werkt’. Ik was vooral onder de indruk van het totale gebrek aan ontzag van mijn nichtje voor al dat blinkends in de zaal. Maar de man had natuurlijk gelijk, zo werkt het namelijk niet. Niemand, maar dan ook niemand zal het ooit over zijn of haar hart kunnen krijgen om te stoppen met snellere chips maken. Techniek voegt zich niet naar goed en kwaad, techniek zet zichzelf buiten onze morele keuzes, techniek ís. Wat kan, zal ook gebeuren. En let wel: met techniek bedoel ik niet een bepaald apparaat, maar de hele groeimachine van individuen en krachten in dit hele ecosysteem van wetenschappers, overheden, bedrijven en consumenten, die allemaal maar één ding willen: steeds slimmer, steeds makkelijker.
Dankzij deze op vooruitgang gerichte drijfveer zijn onze computers tegenwoordig in staat tot wonderen op het gebied van artificiële intelligentie. Programmeurs hebben er neurale netwerken mee gebouwd die heel slim patronen kunnen leren en voorspellen, aanvankelijk voor militaire doeleinden. Sinds een paar jaar worden deze modellen losgelaten op veel grotere datasets, zoals het hele internet. Dergelijke Large Language Models kunnen zelf naar nieuwe trainingsdata zoeken, zodat het mogelijk wordt om correcte voorspellingen te doen op allerlei gebieden, dus niet alleen woorden, maar ook geluid, dna of beelden.
Het heeft AI zo krachtig gemaakt dat het razendsnel nieuwe terreinen kan veroveren, zonder dat de programmeurs daar bewust op sturen. Het wordt getraind met Engelse teksten, maar blijkt ineens Perzisch te begrijpen, of wiskunde. Het bekendste model is ChatGPT, dat de wereld dit voorjaar omverblies met zijn verbluffende antwoorden. Het model heeft het halve internet leeg getrokken en 45 terabyte aan data opgeslokt en het resultaat is een machine die echt lijkt te begrijpen wat zij zegt. Natuurlijk is ChatGPT niet meer dan een ‘stochastische papegaai’: een krachtige napraatmachine die enkel uitrekent wat het volgende woord in het verhaal moet worden. Begrip heeft hij niet. (Mijn kinderen hebben al ontdekt dat ChatGPT geen antwoord mag geven als je hem vraagt hoe je de wereld moet veroveren, maar dat hij het wel vertelt als je hem vraagt om het in het Latijn te doen.) Maar zijn taal is zo menselijk en overtuigend dat je achter je scherm echt het gevoel krijgt dat de artificiële chatpartner je begrijpt.
Volgens de kenners gaat deze innovatie werkelijk een schokgolf veroorzaken in de hele maatschappij. Als de machine beter wordt in taal en in informatiestructureren dan de mens, zal het werk van journalisten, advocaten, dokters, voorlichters, vertalers en programmeurs werkelijk door de computer overgenomen kunnen worden. Het is nu al beter dan artsen in staat om alzheimer te herkennen door spraak van mensen te analyseren. Maar het kan ook beter dan generaals Russische troepenbewegingen opsporen aan het Oekraïense front op basis van satellietbeelden en telefoonverkeer. Dat werpt al meteen de vraag op: slimmer en makkelijker voor wat? En voor wie?
Sommige mensen geloven dat ze met AI iets hogers, iets goddelijks onze wereld binnenleiden
Je zou het ook zo kunnen formuleren: we zijn een beperkt deel van ons mens-zijn, namelijk ons brein, en daar een stukje van – namelijk het instrumentele, formele redeneren – aan het automatiseren en uitrollen over de hele wereld. Dat lijkt een neutrale exercitie, maar dat is naïef. Techniek is macht over de natuur, of over anderen, en macht is nooit neutraal. Macht werkt in op onderliggende machtsstructuren.
‘Natuurlijk is er een wereld denkbaar waarin generatieve AI ingezet kan worden voor het welzijn van de mensheid en onze planeet’, schreef Naomi Klein onlangs in een vlammend essay in The Guardian waarin ze de vloer aanveegt met alle mooie beloftes van bedrijven die AI-toepassingen verkopen. Je zou er armoede mee kunnen bestrijden, en eenzaamheid en klimaatverandering. ‘Maar daarvoor zouden deze technologieën moeten worden ingebed in een volledig andere economische en maatschappelijke orde dan die we nu hebben’ – waarbij die laatste is gemaakt om ‘maximale rijkdom en winst te trekken uit mensen en natuur’. Klein concludeert: ‘In een wereld met extreme machtsconcentratie zal AI eerder een angstaanjagend instrument worden om nog meer te onteigenen en te ruïneren.’
© Angel Boligan / Cagle Cartoons
In weerwil van de grootse verwachtingen is ook AI meer van hetzelfde. AI is niets meer en niets minder dan de volgende logische stap in het moderne project dat al werd ingezet door mannen als Descartes die vonden dat we ‘meester en bezitter’ moesten zijn van de natuur. Of zoals Francis Bacon, die andere Verlichtingsdenker zei, dat we de natuur moeten ‘dwingen om de mens te dienen’. We moeten haar ‘bij de haren grijpen’, onderwerpen, veroveren, schudden, ‘doorsteken tot in haar meest intieme kern’. Dit alles is nodig om de gevolgen van de zondeval teniet te doen, zegt Bacon.
Hij lijkt te missen dat hij die zondeval juist herhaalt, want dat was precies het verhaal waarin de mens goddelijk wil worden door een greep te doen naar de kennis en de beheersing van goed en kwaad. We willen het paradijs, we willen een einde aan alle tekorten, niet door onze hartsgesteldheid te veranderen en anders te gaan leven, maar door alles te zien als technische problemen, die we kunnen oplossen door meer organisatie, meer geld en meer kennis.
Kennen als verwondering is in de moderniteit overstemd geraakt door kennen als onderwerping. Met de moderne, technische blik zijn we de wereld steeds meer gaan zien als instrument, als middel. Die middelen moeten we verzamelen en vergroten om vervolgens onze doelen te bereiken. Maar het bizarre is dat die doelen steeds vooruitschuiven en zelfs in middelen veranderen, schreef de Franse denker Jacques Ellul vlak na de oorlog al. ‘Tegenwoordig is alles middel geworden. Er is geen doel meer. Wij weten niet meer waarheen we op weg zijn. Wij zijn onze gemeenschappelijke doeleinden vergeten, we beschikken over onmetelijke middelen, en we hebben buitengewone machines in gang gezet om nergens te komen.’ Politici zeggen nog steeds dat het allemaal voor ‘de mens’ is, zegt hij, ‘maar in werkelijkheid zijn mensen volkomen veranderd in een middel van juist die middelen die hen moesten dienen, zoals de economie of de staat.’
Ellul stond aan de wieg van de milieubeweging in Frankrijk en is vooral bekend om zijn kritische boeken over macht, geld, politiek en techniek. Hij noemt het fenomeen Techniek, met een hoofdletter. Vroeger waren er losse technieken, schrijft hij, maar die zijn verweven geraakt in één maatschappelijk ordeningssysteem – van uitvinder tot overheid tot consument – dat voortdurend op zoek is naar het meest efficiënte middel, op ieder gebied. Zie de bureaucratie, zegt hij, een staatsapparaat dat doordringt tot in de haarvaten van de samenleving en alleen maar uitdijt, omdat elke tekortkoming in de maatschappij wordt gezien als probleem om met meer techniek, geld en organisatie ‘op te lossen’.
Alles in de maatschappij wordt volgens Ellul ondergeschikt gemaakt aan Techniek. Alles wordt ingezet voor het ‘vermeerderen van de middelen’. ‘Elke keer wanneer een vliegtuig een snelheidsrecord vestigt, feliciteren we elkaar, en we werken hard om nog sneller te kunnen, alsof snelheid als doel voldoende was en waardevol in zichzelf. Maar waartoe dient het om tijd te winnen?’ Geen beschaving is ooit zo verkwistend geweest met de tijd en het leven van mensen. ‘We stellen enorme krachten in het werk om één persoon enkele seconden te laten winnen, maar we verliezen vele dagen als werkloze of als wachtende in de rij voor een of ander loket.’ En dan besluit hij: ‘Mensen zijn met astronomische snelheid nergens naartoe onderweg.’
Naarmate meer domeinen in de maatschappij zich onderwerpen aan de wetten van de techniek en de groei, wordt dit een autonoom en zelfversterkend systeem. Problemen kunnen we alleen maar oplossen met nóg meer geld en techniek. Let wel, de kern van het probleem is dus niet een bepaalde technologie of een bepaalde machine. De kern is dat we de wereld willen veranderen in een machine. De enige agenda van het technisch-economisch systeem is het vermeerderen van de middelen. Het wil één ding: voortschrijden. Het wil de sterren kennen en de bospaadjes door de Amazone. Dat Mars wordt gekoloniseerd, criminaliteit wordt voorkomen en ziektes worden uitgebannen.
Maar de middelen die we kiezen zijn niet gratis. Ze vragen grote offers. Ook AI: het biedt ons prachtige vergezichten, rijkere arbeid, een makkelijker leven en een slimmere oplossingen voor het klimaatprobleem. Maar op de weg daarnaartoe vreet het de aarde kaal door enorme datacenters te laten draaien op een ongekende hoeveelheid stroom en door de computermodellen te voeden met een onbevattelijke hoeveelheid geschreven tekst en foto’s van mensen die daar niet voor worden betaald. Het brengt een automatisering teweeg die leidt tot nog meer computers, telefoons, chips en accu’s waarvoor we grote delen van de aarde moeten ombouwen tot zonnepanelen, windmolenparken en mijnen die ons de toevoer moeten garanderen van koper, nikkel, kobalt, lithium en allerhande zeldzame, vervuilende metalen. Alles voor de vooruitgang.
Ik heb zelf geen smartphone, het trekt me niet, niet alleen vanwege de ecologische voetafdruk die hij achterlaat op aarde, maar ook vanwege de betovering die er van dat scherm uitgaat. Toen ik eens wat te bezorgd keek naar een kind dat er bijna door werd opgezogen, zei zijn moeder vergoelijkend: ‘Ach, het is een kwestie van tijd en dan vinden we daar wel weer een balans in.’ Die zin bleef bij me hangen. Dat is dus precies wat niet gaat gebeuren. Het scherm is geen losstaande techniek. Het scherm is een interface met een systeem daarachter. Dat systeem ‘wil’ helemaal niet dat we ermee leren omgaan. Het systeem wil ons leven koloniseren.
Het grootste gevaar is niet dat robots op ons gaan lijken, maar dat wij op robots gaan lijken
Dat klinkt misschien wat dramatisch, en dat bedoel ik denk ik ook. Sociale media beloofden ons betere vriendschappen, een eerlijker nieuwsvoorziening en een opener internet. Al die beloftes zijn weggevaagd door de wapenwedloop die is ontstaan tussen commerciële giganten die leven van data en daarvoor steeds krachtiger software bouwen om te berekenen hoe ze onze aandacht kunnen veroveren. De helft van het internetverkeer verloopt intussen via Google, Meta, Apple of Amazon. Achter de o zo leuke filmpjes zit een commercieel monster dat maar één doel heeft: onze tijd opvreten. Wie had gedacht dat we zo veel uur per dag achter een scherm zouden zitten? En geen regering (en geen moeder) is ertegen opgewassen.
Volgens de kenners is AI sociale media in het kwadraat. Het gaat niet alleen content beheren, maar ook genereren. Alle mooie effecten die het belooft zullen volledig worden weggevaagd door de allesomvattende race tussen commerciële giganten die nu al miljarden spenderen om meer invloed te krijgen, meer toepassingen te verzinnen en beheersing te krijgen over zo veel mogelijk taal en kennis in hun systeem. AI-modellen kunnen actief worden ingezet om mensen te overtuigen, beter dan welk mens ook maar kan doen, dus dat is geld waard. Niet voor niets steken ook bedrijven als Coca-Cola hier kapitalen in: om meer te kunnen verkopen. Waar sociale-mediatechnologie is uitgelopen op een strijd om aandacht, zal AI uitlopen op een strijd om het hart, om het beïnvloeden en veranderen van overtuigingen van mensen. Achter dat vrolijke ChatGPT zit een commercieel monster dat maar één doel heeft: onze gedachten opvreten.
Met monster bedoel ik, nogmaals, niet een of ander bewustzijn dat in dat model verstopt zit, of een duistere kant van techniek an sich. Ik bedoel het systeem dat het voortdrijft, waar Jacques Ellul ons al op wees en waar een motief uit opstijgt dat voortkomt uit alle losse motiefjes van techdromers die de wereld willen verbeteren, overheden die effectiever willen werken, pensioenfondsen die hun beleggingen willen laten renderen, Silicon Valley-ondernemers die rijk willen worden, inlichtingendiensten die zo veel mogelijk willen weten en consumenten die meer vermaak willen. Dat motief is het vermeerderen van de middelen. En dat wil ons hele leven.
Deze technisch-economische machine zal er alles aan doen om onze beste vriend te worden om alle kennis nog slimmer en makkelijker toegankelijk te maken. Wie denkt dat dit nog sciencefiction is, moet maar eens kijken op Snapchat, waar iedere onzekere scholier zijn of haar eigen personal AI kan activeren. Het lijdt geen twijfel dat dit alles zal uitlopen op nog meer verwarring tussen echt en nep, tussen informatie en verstand, tussen feiten en complotfantasieën, schrijft Naomi Klein. ‘Wat zal het uitmaken als AI met technische en wetenschappelijke doorbraken komt? Als het weefsel van onze gedeelde realiteit verbrokkelt in onze handen, zullen we niet meer in staat zijn om coherente antwoorden te verzinnen op collectieve problemen zoals klimaatverandering.’
In theorie is het mogelijk dat een economie duurzaam, gezond en transparant is. Er zijn prachtige manieren om bedrijven groen te maken, mijnbouw minder vervuilend en het internet transparant. Er zijn politici die Big Tech aan regels proberen te binden en er zijn ondernemers die hun medewerkers voorop zetten. Ook Jacques Ellul, met zijn donkere visie op ‘het systeem’, was zijn hele leven een activist die zich wijdde aan allerlei hoopvolle initiatieven. Maar zijn ervaring was dat in de praktijk alles uiteindelijk wordt ingekapseld door het technisch-economische groeimonster.
Hij ziet dat breder dan Klein, die de schuld bij kapitalisten lijkt te leggen. Links en rechts, socialistisch of kapitalistisch, rijk of werkloos: we luisteren allemaal naar de wetten van de middelen en de groei. We willen allemaal meer kennis en meer macht. We zeggen dat het neutraal is, schrijft Ellul, maar ten diepste vinden we het ‘goed’. Omdat we religieus ontzag voor techniek hebben.
Sinds we de Schepper van de troon hebben gestoten, is de techniek het machtigste dat we kennen en is ons heilig ontzag verplaatst. We zijn verbluft door de krachtige antwoorden van ChatGPT en we krijgen kippenvel bij het idee dat AI-software in de toekomst onze gedachten kan lezen op basis van hersenscans. Sommige mensen geloven dat ze met AI iets hogers, iets goddelijks onze wereld aan het binnenleiden zijn. ‘Met hulp van technologie gaan we God maken’, zegt de prominente transhumanist Martine Rothblatt, ‘steeds alwetender, alomtegenwoordig, almachtig en welwillend. Uiteindelijk zal het alle bewustzijn verbinden en de kosmos beheersen.’
Het is allemaal utopisch. Ons technisch-economisch systeem is een project dat gaat vastlopen in de modder van het leven. De mens en de rest van de natuur zijn niet te beheersen en te kennen. Op de weg ernaartoe raken we de doelen kwijt die we hadden, of dat nu gebeurt via ecologische uitputting of via complottheorieën en verwarring.
Het zijn harde woorden, sommige mensen worden daar somber van. Misschien is dat ook wel een goede eerste stap. Maar het is het begin van hoop. Het feit dat de machine zal vastlopen, geeft ook vrijheid. Overal waar de machine tot frictie en crisis leidt, ontstaan plekken waar we zaadjes kunnen planten voor andere ideeën en andere vormen van samenleven.
Volgens Jacques Ellul vergt dit wel een spirituele keuze. We moeten innerlijk loskomen van ons religieuze ontzag voor techniek. ‘Dat zou je iconoclastisch kunnen noemen. Iconoclasme betekent het stukmaken van religieuze beelden. Hier betekent het simpelweg dat we de vergoddelijkte beelden van techniek moeten vernietigen.’ Techniek is dan geen hogere macht meer, maar een verzameling dingen die nuttig kunnen zijn of niet. Met die houding, zegt Ellul, ‘vernietigen we de basis van de macht die techniek over ons heeft’.
Daarom zit ik hier, zonder smartphone; mijn kleine daad van verzet. Ik kijk uit over mijn moestuin en ik denk dat ik de biologische bessen maar eens ga oogsten. Het systeem zal er niet wakker van liggen. Maar ik wil zélf bepalen voor wie ik buig. Dat is precies wat maakt dat we nog geen robots zijn.
Gerelateerde artikelen
- De jacht op het oceaangoud (De Groene Amsterdammer)
- ‘Materie? Die bestaat alleen in onze geest’ (De Groene Amsterdammer)
- Staan in de wereld van nu (overig)
- Elementen voor de toekomst: terugblik (De Groene Amsterdammer)
- Radicale boerenkaas (De Groene Amsterdammer)
Gebruikte Tags: ellul, groei, techniek