Carmen begint haar onderzoek met juridische testzaken waarin haar eigen beoordelingen worden vergeleken met die van THENTE. Daarbij blijkt het systeem vaak tot dezelfde uitkomst te komen, maar veel sneller. Tegelijk ontdekt zij dat THENTE niet alleen juridische gegevens gebruikt, maar ook persoonlijke informatie, zoals gezondheidsgegevens, consumentengedrag, kredietwaardigheid en maatschappelijke participatie. De manier waarop zulke gegevens worden gewogen, is niet openbaar. Carmen raakt daardoor steeds meer bezorgd over de vraag wie bepaalt welke waarden in het systeem worden opgenomen en hoe burgers een algoritmisch oordeel kunnen controleren of aanvechten.

Die discussie raakt verweven met de dood van Alicia Kóvack, de oprichter en ontwikkelaar van THENTE. Alicia kwam om bij een ongeluk met een zelfrijdende auto, kort nadat zij twijfels had geuit over de invoering van het systeem. Carmen ontdekt aanwijzingen dat het ongeval mogelijk is gemanipuleerd en dat rond THENTE commerciële en politieke belangen spelen. Haar onderzoek brengt haar in conflict met de leiding van het bedrijf, de overheid en andere betrokken partijen. Haar eigen professionele positie wordt ondermijnd wanneer een hacker aan wie zij, tegen het advies van THENTE in, werkverlof had gegeven, wordt gearresteerd voor ernstige strafbare feiten. Later blijkt dat ook in die zaak sprake kan zijn van gemanipuleerd bewijsmateriaal.

Naarmate het verhaal vordert, verschuift de centrale vraag. De film gaat niet langer alleen over de vraag of een computer betere of snellere uitspraken kan doen dan een rechter. Carmen ontdekt dat het vooral gaat om de macht achter het systeem: wie bezit de technologie, wie bepaalt de regels, welke gegevens worden gebruikt en wie is verantwoordelijk wanneer een beslissing verkeerd of gemanipuleerd blijkt? Zij stelt ook dat rechtspraak niet uitsluitend op historische data kan worden gebaseerd, omdat rechters bestaande wetgeving moeten kunnen herinterpreteren wanneer de samenleving verandert.

In de aanloop naar het referendum komt Carmen publiekelijk tegenover de leiding van THENTE te staan. Zij betoogt dat kunstmatige intelligentie de menselijke rechtspraak kan ondersteunen, maar dat de controle over de rechtspraak niet aan een ondoorzichtig privaat systeem mag worden overgedragen. Daarmee eindigt de film niet met een eenvoudige tegenstelling tussen mens en machine. De kern ligt bij democratische controle, transparantie, verantwoordelijkheid en de vraag hoeveel beslissingsmacht een samenleving aan algoritmen wil geven.

Op het moment van schrijven is Artificial Justice in Nederland nog niet regulier online te bekijken. Via een VPN is de film wel te vinden op YouTube (Duitsland), al is deze versie helaas in het Duits nagesynchroniseerd. Mocht iemand de film ergens in het Engels of Spaans kunnen bekijken, laat het vooral even weten 😉

Bron: Movies That Matter