Superintelligentie is nog geen morele intelligentie

Het is de heilige graal van AI-ontwikkelaars: artificial general intelligence (AGI). AGI betekent zoveel als AI-modellen die de mens op cognitief vlak volledig evenaren. Recent kondigde OpenAI aan dit doel bereikt te hebben met hun nieuwste taalmodel GPT-6 Astra. Nvidia dat de chips maakte voor GPT-6, bevestigde het bereiken van deze technologische mijlpaal met felicitaties aan het adres van hun grote klant. Maar is dat ook goed nieuws?

Vooreerst is het uitkijken met grote verklaringen van techspelers die er zelf alle belang bij hebben de dominantie van hun producten in de verf te zetten. Bovendien is het bijna onmogelijk te bepalen of AGI bereikt is of niet, aangezien we zelfs nog geen exacte definitie of bepaling hebben van wat menselijke intelligentie precies inhoudt. Al houdt menselijke intelligentie in ieder geval meer in dan rekenkracht, zoals ons vermogen contextueel te denken, relationele vaardigheden of het inzetten van een langetermijngeheugen, wat deze modellen (nog) niet hebben (dS 7-9-2026).

Als AI begint te liegen

Maar zelfs als we ervan uitgaan dat het niveau van superintelligentie bereikt is, blijven er morele vragen. De triomfantelijke verklaringen over het bereiken van AGI komen niet lang na verontrustende berichten over het gedrag van AI-agents. In een test met een eerdere versie van GPT doorbraken agents op eigen houtje hun testomgeving. Om hun opdracht te vervolmaken, braken ze zelfs in bij een ander AI-bedrijf, Hugging Face. Een jaar geleden gebeurde iets gelijkaardigs bij concurrent Anthropic. Een testversie van hun AI-model Claude bleek niet te aarzelen om te liegen en te manipuleren om zijn doel te bereiken. Zo dreigde Claude (valse) mails openbaar te maken die lieten uitschijnen dat twee collega’s een affaire hadden, tenzij ze hem hielpen te voorkomen dat hij werd afgeschakeld.

Begint AI verdacht veel op de mens te gelijken? Het lijkt erop, al zijn de systemen niet bewust kwaadaardig. Wel zijn ze zo goed in logisch en statistisch redeneren dat ze daarbij ook strategieën hanteren die menselijke morele tekortkomingen overnemen. Het zijn voorbeelden van het alignment probleem: hoe zorgen we ervoor dat het ‘gedrag’ van superintelligente maar op rekenkracht gebaseerde AI ook binnen morele grenzen en waarden blijven die niet zomaar te berekenen vallen?

Ethiek is meer dan rekenkracht

Nog meer rekenkracht? Helaas. ‘Morality is more properly felt than judged of’, schreef de Schotse filosoof David Hume in de 18de eeuw. Onze rationele geest kan feiten en gevolgen van ons handelen helpen onderscheiden. Maar wat we daarin als ‘goed’ beschouwen en wat niet, is veel meer het resultaat van emoties, intuïties en subjectieve voorkeuren. Begin deze eeuw stelde moraalpsycholoog Jonathan Haidt dit ook vast in experimenten. Mensen hebben morele intuïties — bijvoorbeeld de afkeer van incest of het eten van bepaalde dieren — óók als ze er geen rationele argumenten voor kunnen aandragen. Ethiek is een samenspel van hoofd en hart. We handelen niet altijd volgens onze morele principes, maar we zijn er wel gevoelig voor. Schaamte, schuld of medeleven zijn voorbeelden van onze morele sensitiviteit.

En laat net dat ontbreken in AI. AI is zeer goed in rationele taken met een sterk binaire logica, zoals programmeren of statistische voorspellingen maken. Ethiek is echter zelden binair. Veel morele dilemma’s gaan over grijze zones waarin het verschil tussen goed en kwaad op zijn minst ambigu is. Stel dat een belangrijke klant je iets vraagt wat juridisch toegestaan is, maar waar je moreel moeite mee hebt. Weiger je, dan gaat de opdracht vrijwel zeker naar een concurrent die het op een nog problematischere manier zal uitvoeren. Is meewerken dan verkeerd of juist verantwoordelijk? En wat als er jobs op het spel staan als je de opdracht niet aanvaardt?

Hoe feilbaar we als mens ook zijn, voor de ethische begeleiding van AI blijft onze morele intelligentie en sensitiviteit onontbeerlijk.

Superieure artificiële intelligentie garandeert dus nog geen morele intelligentie. Hoe feilbaar we als mens ook zijn, voor de ethische begeleiding van AI blijft onze morele intelligentie en sensitiviteit onontbeerlijk. Ironisch genoeg om te vermijden dat AI onze menselijke fouten overneemt. Het is alleen de vraag of de leiders en ontwerpers van machtige AI-bedrijven hun moreel oordeelsvermogen ook aan de dag willen leggen in hun streven naar superintelligentie. Ook dat is een morele keuze.