NEW YORK – We leven in moeilijke tijden. Er gebeurt te veel en het gaat te snel. Mensen zijn in de war. De economisch historicus Adam Tooze van Columbia University heeft er een woord voor bedacht. Hij noemt het een ‘polycrisis.’
De polycrisis heeft vele oorzaken. Naar mijn mening is de belangrijkste oorzaak van de polycrisis die de wereld vandaag teistert kunstmatige intelligentie (AI). De klimaatverandering komt op de tweede plaats en de Russische invasie in Oekraïne op de derde. De lijst is veel langer, maar ik zal me concentreren op deze drie. Dat zou de verwarring moeten helpen verminderen.
Kunstmatige intelligentie
AI schokte de wereld toen Microsoft ChatGPT vrij beschikbaar stelde voor het publiek, via een gelieerd bedrijf genaamd OpenAI. Dat was in november 2022. ChatGPT vormde een existentiële bedreiging voor het bedrijfsmodel van Google. Google ging in overdrive om zo snel mogelijk een concurrerend product uit te brengen.
Kort daarna nam Geoffrey Hinton, die algemeen wordt beschouwd als de peetvader van AI, ontslag bij Google zodat hij openlijk kon spreken over de risico’s van de nieuwe technologie. Hij herzag zijn eerdere mening en nam nu een zeer somber standpunt in over AI. Hij zei dat het onze beschaving zou kunnen vernietigen.
Hinton pionierde met de ontwikkeling van neurale netwerken die taal kunnen begrijpen en genereren, en vaardigheden kunnen leren door gegevens te analyseren. Naarmate de gegevens toenamen, groeide ook de capaciteit van de zogenaamde grote taalmodellen van AI.
Dit maakte grote indruk op Hinton. ‘Misschien is wat er in deze systemen gebeurt wel veel beter dan wat er in de hersenen gebeurt,’ zei hij. Naarmate ze krachtiger worden, worden ze ook gevaarlijker, beweerde hij. Hij waarschuwde in het bijzonder voor volledig autonome wapensystemen – killer robots, noemde hij ze.
‘We hebben ons op volledig onbekend terrein begeven. We zijn in staat om machines te bouwen die sterker zijn dan wijzelf, maar we hebben nog steeds de controle. Maar wat als we machines ontwikkelen die slimmer zijn dan wij? … Het zal vijf tot twintig jaar duren voordat AI de menselijke intelligentie overtreft.’ En ‘het zal zich snel realiseren dat het zijn doelen beter kan bereiken als het krachtiger wordt.’
Wat Hinton zei, maakte grote indruk op me. Sterker nog, AI deed me denken aan Goethe’s gedicht ‘De tovenaarsleerling.’ De leerling bestudeert magie maar begrijpt niet helemaal wat de meester hem leert. Wanneer de meester hem beveelt de vloer te vegen, past hij de magische woorden toe op een bezem. De bezem gehoorzaamt hem, maar de leerling kan niet voorkomen dat de bezem emmers water blijft halen om de vloer te vegen en het huis loopt onder water.
Ik groeide op voordat AI was uitgevonden. Daardoor geloofde ik erg in de realiteit. Ik besefte al op relatief jonge leeftijd hoe moeilijk het is om de wereld waarin ik geboren ben te begrijpen en ik keek naar de realiteit om me een moreel kompas te geven.
Wij mensen zijn zowel deelnemers als waarnemers in de wereld waarin we leven. Als deelnemers willen we de wereld in ons voordeel veranderen; als waarnemers willen we de werkelijkheid begrijpen zoals die is. Deze twee doelstellingen interfereren met elkaar. Ik beschouw dit als een belangrijk inzicht dat me in staat stelt onderscheid te maken tussen goed en kwaad.
AI heeft dit eenvoudige schema vernietigd omdat het absoluut niets met de realiteit te maken heeft. AI creëert zijn eigen werkelijkheid en wanneer die kunstmatige werkelijkheid niet overeenkomt met de echte wereld – wat vaak gebeurt – wordt het afgedaan als hallucinatie.
Hierdoor ben ik bijna instinctief tegen AI en ben ik het van harte eens met de experts die stellen dat het gereguleerd moet worden. Maar die regels moeten wereldwijd afdwingbaar zijn omdat de prikkel om vals te spelen te groot is; degenen die de regels omzeilen krijgen een oneerlijk voordeel.
Helaas zijn wereldwijde regels onhaalbaar omdat de wereld wordt gedomineerd door een conflict tussen twee bestuurssystemen die lijnrecht tegenover elkaar staan. Ze hebben radicaal verschillende opvattingen over wat moet worden gereguleerd en waarom.
Ik noem de twee bestuurssystemen open en gesloten samenlevingen. Ik definieer het verschil tussen de twee als volgt: in een open samenleving is het de rol van de staat om de vrijheid van het individu te verdedigen; in een gesloten samenleving is het de rol van het individu om de belangen van de heersers te dienen.
AI ontwikkelt zich ongelooflijk snel en het is onmogelijk voor gewone menselijke intelligentie om het volledig te begrijpen. Niemand kan voorspellen waar het ons zal brengen. Maar van één ding kunnen we zeker zijn: AI helpt gesloten samenlevingen en vormt een dodelijke bedreiging voor open samenlevingen. Dat komt omdat AI bijzonder goed is in het produceren van controle-instrumenten die gesloten samenlevingen helpen hun onderdanen te controleren.
Daarom ben ik instinctief tegen AI, maar ik weet niet hoe we het kunnen stoppen. Op dit moment weet ook niemand anders dat, maar de meeste mensen die AI hebben ontwikkeld erkennen de noodzaak om het te reguleren. Dat doen het Amerikaanse Congres en de regering van president Joe Biden ook. Maar AI gaat veel sneller dan de overheid. De regering-Biden heeft enige actie ondernomen, maar het Congres zal moeite hebben om zoiets als een ‘AI Bill of Rights’ in te voeren.
Er is echter een probleem dat niet kan wachten. In 2024 zijn er algemene verkiezingen in de Verenigde Staten – en vermoedelijk ook in het Verenigd Koninkrijk – en AI zal daarin ongetwijfeld een belangrijke rol spelen, die waarschijnlijk alleen maar gevaarlijk zal zijn. AI is heel goed in het produceren van desinformatie en deep fakes, en er zullen veel kwaadwillende actoren zijn. Wat kunnen we daartegen doen? Ik heb het antwoord niet, maar ik hoop dat dit onderwerp de aandacht krijgt die het verdient.
Klimaatverandering
Het tweede element in de polycrisis is de klimaatverandering. Het wereldwijde klimaatsysteem is ontwricht door toegenomen menselijk ingrijpen, met name door het grootschalige gebruik van broeikasgassen, kooldioxide en methaan. Het verdrag van Parijs uit 2015 stelde een doel van maximaal 1,5° Celsius boven het pre-industriële niveau. Dat doel zal nu zeker worden overschreden; ondanks alle inspanningen om de klimaatverandering tegen te gaan, versnelt de opwarming zelfs.
Twee zeer gerespecteerde klimaatwetenschappers, David King, voormalig wetenschappelijk hoofdadviseur van de Britse regering, en Johan Rockström van het Potsdam Instituut, hebben gewaarschuwd dat dit een onomkeerbaar proces in gang kan zetten en kan leiden tot de ineenstorting van het leven op aarde.
Het Intergovernmental Panel on Climate Change heeft gezegd dat de aarde door het huidige klimaatbeleid tussen de 2,5°C en 2,7°C warmer zal zijn in 2100. Dat zou een ramp zijn, aldus de wetenschappers. Het zou de warmste temperatuur op aarde van de afgelopen vier miljoen jaar overschrijden. Het zou leiden tot het volledig smelten van de ijskappen van Groenland, de Himalaya en West-Antarctica en de zeespiegel met tien meter doen stijgen.
‘Er zou een ineenstorting zijn van alle grote biomen op aarde – het regenwoud, veel van de gematigde wouden –, abrupte ontdooiing van de permafrost, de mariene biologie zou volledig instorten, grote delen van de bewoonbaarheid op aarde zouden verschuiven,’ zei Rockström.
‘Ruim een derde van de planeet rond de evenaar zal onbewoonbaar worden omdat je de drempel voor de leefbaarheid, die rond de 30°C ligt, zult overschrijden.’
Helaas willen mensen hun levensonderhoud beschermen als de strijd tegen de klimaatverandering hun levensonderhoud in gevaar brengt. Boeren in Duitsland en Nederland zijn in opstand gekomen tegen de regulering van de stikstofuitstoot omdat deze regulering hen verhindert om koeien te houden. Ze hebben zich gemobiliseerd, verkiezingen gewonnen en de Europese Unie aan het wankelen gebracht.
Ik moet ook de wens van oliemaatschappijen noemen om winst te blijven maken.
We liggen ver achter op schema in de strijd tegen de klimaatverandering. We zouden alles moeten doen wat de klimaatwetenschappers noodzakelijk achten – de uitstoot diep en snel terugdringen, overtollige broeikasgassen uit de atmosfeer verwijderen en het Noordpoolgebied opnieuw laten bevriezen. Om dit te kunnen doen, moeten we de goedkeuring krijgen van inheemse gemeenschappen. Dit alles moet zo snel mogelijk gebeuren.
De oorlog van Rusland tegen Oekraïne
Dit brengt ons bij de derde component van de polycrisis. De Russische invasie in Oekraïne kwam als een negatieve schok voor de wereld, ontwrichtte de voedselvoorziening en leidde tot grote geopolitieke herschikkingen. Dat gezegd hebbende, is de feitelijke uitkomst veel beter dan had mogen worden verwacht. Het Oekraïense leger bood heldhaftig weerstand en wist, met krachtige steun van de VS en Europa, het tij te keren. Het Russische leger bleek een papieren tijger, slecht geleid en door en door corrupt. De Wagner Group, een particulier huurlingenleger, hield de invasie een tijdje overeind, maar slaagde er uiteindelijk ook niet in Oekraïne te verslaan.
Als gevolg daarvan is Oekraïne nu klaar om een tegenaanval in te zetten zodra al het materiaal dat het Westen heeft beloofd, is geleverd. Biden heeft er zelfs mee ingestemd dat Oekraïne F-16 gevechtsvliegtuigen krijgt.
Ik denk dat de tegenaanval succesvol zal zijn. Het doel zal het Krim-schiereiland zijn, de thuisbasis van de Russische marine. Door de reeds beschadigde landbrug met Rusland te vernietigen, kan Oekraïne een strategische troef veranderen in een strategisch nadeel, omdat de Krim geen water heeft. Als de landbrug vernietigd is, zal de Krim voor water afhankelijk zijn van Oekraïne.
Veel delen van de Russische Federatie lijden al onder het despotische regime van president Vladimir Poetin en deze ontwikkeling kan ertoe leiden dat ze het regime helemaal afwijzen. Poetins droom, een nieuw leven ingeblazen Russisch Rijk, zou kunnen desintegreren en niet langer een bedreiging vormen voor Europa en de wereld.
Het einde van de oorlog in Oekraïne zal als een positieve schok komen voor de wereld. Dit kan Biden een kans bieden om de spanning tussen de VS en China te verminderen, dat zelf midden in een economische neergang zit waardoor president Xi Jinping misschien ontvankelijker wordt voor een schikking met de VS. Biden streeft niet naar een regimewisseling in China; het enige wat hij wil is de status quo in Taiwan herstellen.
Een Russische nederlaag in Oekraïne en een afname van de Chinees-Amerikaanse spanningen kunnen voor de wereldleiders ruimte creëren om zich te richten op het bestrijden van de klimaatverandering, die onze beschaving dreigt te vernietigen. Maar er is slechts een smal en kronkelig pad dat naar dit resultaat leidt. Het is dus gepast om een vraagteken te gebruiken bij de vraag of democratie de polycrisis kan overleven.
Vertaling: Menno Grootveld
NEW YORK – We leven in moeilijke tijden. Er gebeurt te veel en het gaat te snel. Mensen zijn in de war. De economisch historicus Adam Tooze van Columbia University heeft er een woord voor bedacht. Hij noemt het een ‘polycrisis.’
De polycrisis heeft vele oorzaken. Naar mijn mening is de belangrijkste oorzaak van de polycrisis die de wereld vandaag teistert kunstmatige intelligentie (AI). De klimaatverandering komt op de tweede plaats en de Russische invasie in Oekraïne op de derde. De lijst is veel langer, maar ik zal me concentreren op deze drie. Dat zou de verwarring moeten helpen verminderen.
Kunstmatige intelligentie
AI schokte de wereld toen Microsoft ChatGPT vrij beschikbaar stelde voor het publiek, via een gelieerd bedrijf genaamd OpenAI. Dat was in november 2022. ChatGPT vormde een existentiële bedreiging voor het bedrijfsmodel van Google. Google ging in overdrive om zo snel mogelijk een concurrerend product uit te brengen.
Kort daarna nam Geoffrey Hinton, die algemeen wordt beschouwd als de peetvader van AI, ontslag bij Google zodat hij openlijk kon spreken over de risico’s van de nieuwe technologie. Hij herzag zijn eerdere mening en nam nu een zeer somber standpunt in over AI. Hij zei dat het onze beschaving zou kunnen vernietigen.
Hinton pionierde met de ontwikkeling van neurale netwerken die taal kunnen begrijpen en genereren, en vaardigheden kunnen leren door gegevens te analyseren. Naarmate de gegevens toenamen, groeide ook de capaciteit van de zogenaamde grote taalmodellen van AI.
Dit maakte grote indruk op Hinton. ‘Misschien is wat er in deze systemen gebeurt wel veel beter dan wat er in de hersenen gebeurt,’ zei hij. Naarmate ze krachtiger worden, worden ze ook gevaarlijker, beweerde hij. Hij waarschuwde in het bijzonder voor volledig autonome wapensystemen – killer robots, noemde hij ze.
SPRING SALE: Save 40% on all new Digital or Digital Plus subscriptions
Subscribe now to gain greater access to Project Syndicate – including every commentary and our entire On Point suite of subscriber-exclusive content – starting at just $49.99.
Subscribe Now
‘We hebben ons op volledig onbekend terrein begeven. We zijn in staat om machines te bouwen die sterker zijn dan wijzelf, maar we hebben nog steeds de controle. Maar wat als we machines ontwikkelen die slimmer zijn dan wij? … Het zal vijf tot twintig jaar duren voordat AI de menselijke intelligentie overtreft.’ En ‘het zal zich snel realiseren dat het zijn doelen beter kan bereiken als het krachtiger wordt.’
Wat Hinton zei, maakte grote indruk op me. Sterker nog, AI deed me denken aan Goethe’s gedicht ‘De tovenaarsleerling.’ De leerling bestudeert magie maar begrijpt niet helemaal wat de meester hem leert. Wanneer de meester hem beveelt de vloer te vegen, past hij de magische woorden toe op een bezem. De bezem gehoorzaamt hem, maar de leerling kan niet voorkomen dat de bezem emmers water blijft halen om de vloer te vegen en het huis loopt onder water.
Ik groeide op voordat AI was uitgevonden. Daardoor geloofde ik erg in de realiteit. Ik besefte al op relatief jonge leeftijd hoe moeilijk het is om de wereld waarin ik geboren ben te begrijpen en ik keek naar de realiteit om me een moreel kompas te geven.
Wij mensen zijn zowel deelnemers als waarnemers in de wereld waarin we leven. Als deelnemers willen we de wereld in ons voordeel veranderen; als waarnemers willen we de werkelijkheid begrijpen zoals die is. Deze twee doelstellingen interfereren met elkaar. Ik beschouw dit als een belangrijk inzicht dat me in staat stelt onderscheid te maken tussen goed en kwaad.
AI heeft dit eenvoudige schema vernietigd omdat het absoluut niets met de realiteit te maken heeft. AI creëert zijn eigen werkelijkheid en wanneer die kunstmatige werkelijkheid niet overeenkomt met de echte wereld – wat vaak gebeurt – wordt het afgedaan als hallucinatie.
Hierdoor ben ik bijna instinctief tegen AI en ben ik het van harte eens met de experts die stellen dat het gereguleerd moet worden. Maar die regels moeten wereldwijd afdwingbaar zijn omdat de prikkel om vals te spelen te groot is; degenen die de regels omzeilen krijgen een oneerlijk voordeel.
Helaas zijn wereldwijde regels onhaalbaar omdat de wereld wordt gedomineerd door een conflict tussen twee bestuurssystemen die lijnrecht tegenover elkaar staan. Ze hebben radicaal verschillende opvattingen over wat moet worden gereguleerd en waarom.
Ik noem de twee bestuurssystemen open en gesloten samenlevingen. Ik definieer het verschil tussen de twee als volgt: in een open samenleving is het de rol van de staat om de vrijheid van het individu te verdedigen; in een gesloten samenleving is het de rol van het individu om de belangen van de heersers te dienen.
AI ontwikkelt zich ongelooflijk snel en het is onmogelijk voor gewone menselijke intelligentie om het volledig te begrijpen. Niemand kan voorspellen waar het ons zal brengen. Maar van één ding kunnen we zeker zijn: AI helpt gesloten samenlevingen en vormt een dodelijke bedreiging voor open samenlevingen. Dat komt omdat AI bijzonder goed is in het produceren van controle-instrumenten die gesloten samenlevingen helpen hun onderdanen te controleren.
Daarom ben ik instinctief tegen AI, maar ik weet niet hoe we het kunnen stoppen. Op dit moment weet ook niemand anders dat, maar de meeste mensen die AI hebben ontwikkeld erkennen de noodzaak om het te reguleren. Dat doen het Amerikaanse Congres en de regering van president Joe Biden ook. Maar AI gaat veel sneller dan de overheid. De regering-Biden heeft enige actie ondernomen, maar het Congres zal moeite hebben om zoiets als een ‘AI Bill of Rights’ in te voeren.
Er is echter een probleem dat niet kan wachten. In 2024 zijn er algemene verkiezingen in de Verenigde Staten – en vermoedelijk ook in het Verenigd Koninkrijk – en AI zal daarin ongetwijfeld een belangrijke rol spelen, die waarschijnlijk alleen maar gevaarlijk zal zijn. AI is heel goed in het produceren van desinformatie en deep fakes, en er zullen veel kwaadwillende actoren zijn. Wat kunnen we daartegen doen? Ik heb het antwoord niet, maar ik hoop dat dit onderwerp de aandacht krijgt die het verdient.
Klimaatverandering
Het tweede element in de polycrisis is de klimaatverandering. Het wereldwijde klimaatsysteem is ontwricht door toegenomen menselijk ingrijpen, met name door het grootschalige gebruik van broeikasgassen, kooldioxide en methaan. Het verdrag van Parijs uit 2015 stelde een doel van maximaal 1,5° Celsius boven het pre-industriële niveau. Dat doel zal nu zeker worden overschreden; ondanks alle inspanningen om de klimaatverandering tegen te gaan, versnelt de opwarming zelfs.
Twee zeer gerespecteerde klimaatwetenschappers, David King, voormalig wetenschappelijk hoofdadviseur van de Britse regering, en Johan Rockström van het Potsdam Instituut, hebben gewaarschuwd dat dit een onomkeerbaar proces in gang kan zetten en kan leiden tot de ineenstorting van het leven op aarde.
Het Intergovernmental Panel on Climate Change heeft gezegd dat de aarde door het huidige klimaatbeleid tussen de 2,5°C en 2,7°C warmer zal zijn in 2100. Dat zou een ramp zijn, aldus de wetenschappers. Het zou de warmste temperatuur op aarde van de afgelopen vier miljoen jaar overschrijden. Het zou leiden tot het volledig smelten van de ijskappen van Groenland, de Himalaya en West-Antarctica en de zeespiegel met tien meter doen stijgen.
‘Er zou een ineenstorting zijn van alle grote biomen op aarde – het regenwoud, veel van de gematigde wouden –, abrupte ontdooiing van de permafrost, de mariene biologie zou volledig instorten, grote delen van de bewoonbaarheid op aarde zouden verschuiven,’ zei Rockström.
‘Ruim een derde van de planeet rond de evenaar zal onbewoonbaar worden omdat je de drempel voor de leefbaarheid, die rond de 30°C ligt, zult overschrijden.’
Helaas willen mensen hun levensonderhoud beschermen als de strijd tegen de klimaatverandering hun levensonderhoud in gevaar brengt. Boeren in Duitsland en Nederland zijn in opstand gekomen tegen de regulering van de stikstofuitstoot omdat deze regulering hen verhindert om koeien te houden. Ze hebben zich gemobiliseerd, verkiezingen gewonnen en de Europese Unie aan het wankelen gebracht.
Ik moet ook de wens van oliemaatschappijen noemen om winst te blijven maken.
We liggen ver achter op schema in de strijd tegen de klimaatverandering. We zouden alles moeten doen wat de klimaatwetenschappers noodzakelijk achten – de uitstoot diep en snel terugdringen, overtollige broeikasgassen uit de atmosfeer verwijderen en het Noordpoolgebied opnieuw laten bevriezen. Om dit te kunnen doen, moeten we de goedkeuring krijgen van inheemse gemeenschappen. Dit alles moet zo snel mogelijk gebeuren.
De oorlog van Rusland tegen Oekraïne
Dit brengt ons bij de derde component van de polycrisis. De Russische invasie in Oekraïne kwam als een negatieve schok voor de wereld, ontwrichtte de voedselvoorziening en leidde tot grote geopolitieke herschikkingen. Dat gezegd hebbende, is de feitelijke uitkomst veel beter dan had mogen worden verwacht. Het Oekraïense leger bood heldhaftig weerstand en wist, met krachtige steun van de VS en Europa, het tij te keren. Het Russische leger bleek een papieren tijger, slecht geleid en door en door corrupt. De Wagner Group, een particulier huurlingenleger, hield de invasie een tijdje overeind, maar slaagde er uiteindelijk ook niet in Oekraïne te verslaan.
Als gevolg daarvan is Oekraïne nu klaar om een tegenaanval in te zetten zodra al het materiaal dat het Westen heeft beloofd, is geleverd. Biden heeft er zelfs mee ingestemd dat Oekraïne F-16 gevechtsvliegtuigen krijgt.
Ik denk dat de tegenaanval succesvol zal zijn. Het doel zal het Krim-schiereiland zijn, de thuisbasis van de Russische marine. Door de reeds beschadigde landbrug met Rusland te vernietigen, kan Oekraïne een strategische troef veranderen in een strategisch nadeel, omdat de Krim geen water heeft. Als de landbrug vernietigd is, zal de Krim voor water afhankelijk zijn van Oekraïne.
Veel delen van de Russische Federatie lijden al onder het despotische regime van president Vladimir Poetin en deze ontwikkeling kan ertoe leiden dat ze het regime helemaal afwijzen. Poetins droom, een nieuw leven ingeblazen Russisch Rijk, zou kunnen desintegreren en niet langer een bedreiging vormen voor Europa en de wereld.
Het einde van de oorlog in Oekraïne zal als een positieve schok komen voor de wereld. Dit kan Biden een kans bieden om de spanning tussen de VS en China te verminderen, dat zelf midden in een economische neergang zit waardoor president Xi Jinping misschien ontvankelijker wordt voor een schikking met de VS. Biden streeft niet naar een regimewisseling in China; het enige wat hij wil is de status quo in Taiwan herstellen.
Een Russische nederlaag in Oekraïne en een afname van de Chinees-Amerikaanse spanningen kunnen voor de wereldleiders ruimte creëren om zich te richten op het bestrijden van de klimaatverandering, die onze beschaving dreigt te vernietigen. Maar er is slechts een smal en kronkelig pad dat naar dit resultaat leidt. Het is dus gepast om een vraagteken te gebruiken bij de vraag of democratie de polycrisis kan overleven.
Vertaling: Menno Grootveld