Wat elke technomessias in Silicon Valley kan leren van de paus

‘Schitterende menselijkheid’ of Magnifica Humanitas. Zo luidt de titel van de eerste encycliek van Paus Leo C. 135 jaar na Rerum Novarum van zijn pauselijke naamgenoot Leo XIII buigt de huidige paus zich over de morele en sociale impact van artificiële intelligentie (AI). Dat het hoofd van de Katholieke Kerk zich in zijn eerste encycliek over AI buigt, illustreert het existentiële belang van deze technologie. AI is niet neutraal en (ver)vormt ons mens- en wereldbeeld. Wat betekent het om mens te zijn in een tijdperk waarin technologische artefacten het menselijke weten en kunnen op vele vlakken overtreffen?  

Pleidooi voor menselijke waardigheid en sociale rechtvaardigheid

De tekst van Leo XIV is in de eerste plaats een pleidooi voor menselijke waardigheid en sociale rechtvaardigheid in het tijdperk van kunstmatige intelligentie. Eindelijk, kan je zeggen. Want voor hem penden al twee Amerikaanse techpausen hun visie neer in vaak aangehaalde papers. The Intelligence Age van Open AI CEO Sam Altman (2024) en The Adolescence of Intelligence (2026) van Anthropic oprichter Dario Amodei. Twee uitersten die ooit samenwerkten bij Open AI toen dit nog een verheven maatschappelijk doel voor ogen had. Vandaag kunnen ze als concurrenten en antipoden nog moeilijk door dezelfde deur. Ze weerspiegelen dan ook twee tegengestelde perspectieven op AI.  

Technomessias Altman ziet in AI een belofte van overvloed. De voorspelde productiviteitsgroei van superintelligente AI zal mensen toelaten om vrijer en rijker te leven, en biedt de mogelijkheid om de mens te ‘upgraden’ naar ongekende mogelijkheden. Zoals het verlengen van de levensverwachting, het genezen van dodelijke ziektes of het oplossen van het klimaatprobleem. Altman verdedigt dan ook het accelerationisme: het geloof dat je technologische versnelling niet moet afremmen, maar juist moet stimuleren om de menselijke beschaving te verbeteren.

Ook Anthropic-grondlegger Amodei erkent die positieve kant van AI. Maar in zijn waarschuwingen voor de schaduwzijde van superintelligente AI is de technorealist soms bijna apocalyptisch. Dezelfde technologie die geneeskundig onderzoek versnelt, kan destructieve gevolgen hebben in de vorm van cyberaanvallen, sociale ontwrichting door jobverlies en autoritaire machtsconcentratie. Hij pleit niet voor het stopzetten van AI-ontwikkeling, maar wel voor meer ethische begeleiding. AI moet moreel op het juiste spoor gehouden worden door menselijke waarden, regels en controlesystemen. Niet AI, maar de mens heeft de sleutel in handen om de AI-apocalyps te vermijden. 

Menselijke vooruitgang

Daarmee zitten Amodei en Paus Leo XIV deels op dezelfde lijn. Ook de paus wijst AI niet af, maar toch voegt de enycliek van Leo XIV nog iets essentieels toe aan het debat. Waar Amodei in een technologisch paradigma blijft hangen – we moeten AI beter ontwerpen – hanteert de kerkvader een spiritueel-existentieel kader: betekent meer AI ook altijd menselijke vooruitgang? De mens heeft toegang tot meer kennis dan ooit, maar tegelijk is er ook veel desinformatie en wordt de grens tussen echt en onecht flinterdun. Bovendien komt er veel macht te liggen bij de ontwerpers van de AI-tools. Technologie weerspiegelt altijd de waarden van haar ontwerpers en eigenaars, stelt de Amerikaanse paus. Welke behoeften helpt AI vervullen? Meer kennis of meer desinformatie? Meer democratie of meer autocratische controle? Meer fastfoodreclame of een gezondere levensstijl?  

De sociaal maatschappelijke bedenkingen van Paus Leo XIV over de gevolgen van AI zijn zonder meer relevant

Rerum Novarum bekritiseerde in de 19de eeuw de instrumentalisering van menselijke arbeid ten tijde van de industriële revolutie. De mens is meer dan een human resource voor de opbouw van kapitaal. Kapitaal moet de mens in staat stellen tot waardig werk dat op zijn beurt in menselijke behoeftes voorziet en maatschappelijke welvaart creëert. De huidige technologische revolutie heeft de potentie in zich om de menselijke tussenschakel zowel uit productie als uit de besluitvorming te halen. De paus zegt eigenlijk: willen we dat wel? Werk is meer dan een inkomen vergaren. Kennis is nog geen wijsheid. Algoritmische efficiëntie garandeert nog geen menselijke waardigheid. Ethische AI  vraagt niet zozeer betere technologie maar meer humanitas: moreel handelsvermogen en het opnemen van verantwoordelijkheid.  

De sociaal maatschappelijke bedenkingen van Paus Leo XIV over de gevolgen van AI zijn zonder meer relevant. Tegelijk herbergt zijn pleidooi om AI ‘de juiste menselijke begeleiding te geven’ ook een risico. Net zoals het mensbeeld van de tech-CEO’s en ingenieurs niet neutraal is, is het wereldbeeld van de CEO van de Kerk dat evenmin. Niet iedereen zal het uitgesproken christelijke denkkader aanvaarden als de leidraad voor ethisch verantwoorde AI. Maar de tekst van de paus heeft het voordeel dat ze tenminste transparant is over dat kader. Daar kunnen de godfathers uit Silicon Valley alvast uit leren.