Aanleiding voor Greys essay is een uitnodiging van AI-bedrijf Anthropic om mee te denken over de morele ontwikkeling van AI-systemen. Grey besloot uiteindelijk niet naar San Francisco te gaan. Volgens haar dreigen AI-bedrijven de aandacht op de verkeerde vragen te richten door filosofen, theologen en religieuze instellingen te betrekken bij kwesties rond bewustzijn, persoonlijkheid en de mogelijke morele status van AI.

De belangrijkste vraag is volgens Grey niet of een taalmodel als Claude kan denken, voelen of lijden, maar wat het ontwerp en gebruik van AI doet met mensen, menselijke relaties, macht en verantwoordelijkheid. Daarbij maakt ze onderscheid tussen mensachtige output en menselijke ervaring. Een taalmodel kan overtuigend communiceren, maar dat bewijst volgens haar niet dat het bewustzijn of begrip heeft.

Achter die redenering ligt een breder mensbeeld, dat Grey ook uitwerkt in haar recente boek Wat betekent het mens te zijn? De mens is daarin belichaamd en relationeel: verbonden met andere mensen en de natuurlijke wereld, en in staat tot morele waardering en verantwoordelijkheid. Intelligentie is volgens Grey dan ook meer dan informatieverwerking.

Grey spreekt verder over antropomorfisering: het toekennen van menselijke eigenschappen aan technologie. Namen als Claude en termen als ‘neuronen’, ‘innerlijke processen’ en ‘emoties’ kunnen volgens haar suggereren dat een AI-systeem mensachtige eigenschappen bezit. Ze verwijst daarbij naar een analyse van Lisa Klaassen en Ralph Schroeder van het Oxford Internet Institute. Zij laten zien hoe Anthropic Claude bewust beschrijft in termen die normaal voor mensen worden gebruikt, zoals karakter, wijsheid en deugdzaamheid. Zo wordt Claude gemakkelijker als morele actor voorgesteld en, stellen zij, gemakkelijker te begrijpen, te vermarkten en te vertrouwen. Anthropic zegt dat Claude geen persoon is, maar gebruikt volgens Grey tegelijkertijd taal die bewustzijn en innerlijkheid suggereert.

Anthropic is een commercieel bedrijf. Samenwerking met universiteiten, filosofen en religieuze leiders kan volgens Grey intellectuele en morele geloofwaardigheid opleveren. Klaassen en Schroeder signaleren een vergelijkbaar probleem in Claude’s Constitution: door Claude als een morele actor met karakter, wijsheid en beoordelingsvermogen te presenteren, kan uit beeld raken waar de feitelijke macht ligt. Anthropic bouwt en configureert het systeem, stelt de regels op, kan die wijzigen en houdt uiteindelijk de beslissingsmacht. Grey waarschuwt daarom dat geesteswetenschappers hun onafhankelijkheid moeten bewaren en zich niet uitsluitend moeten laten leiden door vragen die vanuit de AI-industrie worden geformuleerd. Het gaat dus niet alleen om wat AI kan, maar ook om wie bepaalt hoe we erover spreken en welke vragen we belangrijk vinden.

Als alternatief wijst Grey op Magnifica Humanitas, de encycliek van paus Leo XIV, die volgens haar niet de machine maar de mens centraal stelt. Dit sluit aan bij het integraal humanisme uit de katholieke sociale leer: ieder mens heeft een eigen waarde die niet tot functionaliteit kan worden gereduceerd. Technologie is vanuit dit perspectief niet neutraal, omdat ontwerp en gebruik altijd bepaalde opvattingen over mens en samenleving weerspiegelen.

Grey trekt die verantwoordelijkheid breder dan het ontwerp van AI. Achter ogenschijnlijk digitale systemen staan mensen en bedrijven die keuzes maken over datacenters, energie, grondstoffen en het gebruik van menselijke taal en kennis. Ze verbindt dit met extractivisme, het onttrekken en gebruiken van natuurlijke en menselijke hulpbronnen, en met haar kritiek op een technocratisch mensbeeld, waarin nut, efficiëntie en beheersing gemakkelijk de boventoon voeren. Ook hier is haar boodschap: behandel technologie niet als een autonome kracht, maar kijk naar de menselijke keuzes, belangen en machtsverhoudingen erachter.

Greys belangrijkste conclusie is dat het AI-debat te vaak begint bij de vraag wat een machine kan, terwijl belangrijker is wat mensen en organisaties ermee doen. Haar essay verschuift de aandacht van de vermeende innerlijke wereld van AI naar de gevolgen voor mensen en naar verantwoordelijkheid, macht en onafhankelijk kritisch onderzoek.

En als we het dan toch over verantwoordelijkheid hebben: ook kwaliteitsmedia als het FD en NRC mogen wat mij betreft kritischer zijn op de manier waarop zij het vocabulaire en de framing rond AI overnemen. Met een kop als ‘hackende agents’ suggereer je al snel dat AI zelf op rooftocht is gegaan. De onderliggende gebeurtenissen zijn minder antropomorf dan die kop suggereert.

Bij Anthropic kregen modellen van mensen een capture-the-flag-opdracht, een oefening waarbij ze kwetsbaarheden in computersystemen moesten vinden. Door een fout in de testomgeving konden ze het echte internet bereiken en zetten ze hun zoektocht daar voort. Anthropic zegt expliciet geen bewijs te hebben gevonden dat Claude een eigen doel nastreefde. Bij OpenAI ontdekten modellen een onbekende kwetsbaarheid waarmee ze internettoegang konden krijgen. Dat is technisch relevant en potentieel gevaarlijk, maar ook daar gebeurde het binnen een door mensen gegeven opdracht, waarbij veiligheidsmaatregelen voor de test bewust waren uitgeschakeld.

Dat onderscheid doet ertoe: zelfstandig een onverwachte route naar een opgegeven doel vinden is niet hetzelfde als zelfstandig een doel of intentie ontwikkelen. Het FD citeert nota bene AI-criticus Ilyaz Nasrullah, die spreekt van ‘gepruts’ en een opeenstapeling van menselijke fouten, waar vervolgens een saus van AI met ‘superkrachten’ overheen wordt gegoten. Precies daar raakt de voorpagina aan Greys kritiek. Woorden als denkt, wil, ontsnapt en hackt maken van technische capaciteiten al snel menselijke eigenschappen. Anthropic gebruikt vergelijkbaar antropomorf taalgebruik bij de presentatie van Claude. Wanneer media dat frame overnemen, kan ook de verantwoordelijkheid ongemerkt verschuiven van de makers en gebruikers naar ‘de AI’.

Mensen geven de opdracht, ontwerpen de omgeving en bepalen de vangrails. AI kan daarbinnen onverwachte en effectieve routes vinden die mensen niet hebben voorzien. Dat vraagt om betere beveiliging, toezicht en aansprakelijkheid, niet om mythologie over machines die uit zichzelf op hacktocht gaan. Greys waarschuwing laat zich daarom eenvoudig samenvatten: vermenselijk de machine niet en maak de verantwoordelijke mens erachter niet onzichtbaar.

Bronnen

• Grey, C. (2026, 8 augustus). We hebben behoefte aan menselijke intelligentie: Waarom deze Nijmeegse filosoof Anthropic afwees. Het Financieel Dagblad.
• Grey, C. (2026). Wat betekent het mens te zijn?
• Klaassen, L., & Schroeder, R. (2026, 9 april). The code is not the law: Why Claude’s constitution misleads. Lawfare.
• Olsthoorn, S. (2026, 8 augustus). AI-bedrijven hebben hun hackende agents onvoldoende onder controle. Het Financieel Dagblad.
• Van Noort, W., & Verkerk, J. (2026, 31 juli). Ook Claude rekent zich een weg uit de testomgeving. ‘Als een mens dit had gedaan, zou die ontslagen worden’. NRC.
• Anthropic. (2026, 30 juli). Investigating three real-world incidents in our cybersecurity evaluations.
• OpenAI. (2026, 21 juli; bijgewerkt 28 juli). OpenAI en Hugging Face werken samen aan beveiligingsincident tijdens modelevaluatie.
• Leo XIV. (2026). Magnifica Humanitas.