Wie is verantwoordelijk voor fouten, jij of de AI?

We zien AI en alle effecten daarvan vaak nog als iets dat in de toekomst veel invloed gaat hebben op onze maatschappij. Maar als je het aan onderzoeker Lotte van Elteren vraagt, zitten we al middenin die toekomst. “Onze keuzes en beslissingen worden nú al beïnvloed door AI. Er zitten nog wel mensen aan de knoppen, maar de effecten van AI kunnen we niet meer negeren.”

Lotte van Elteren is PhD/Junior Lecturer en verbonden aan de onderzoeksgroep Societal Implications of AI and Cognitive Neuroscience (SIAC) aan de Radboud Universiteit. Ze vertelt: “Alles wat we bij SIAC doen heeft te maken met de impact die AI op onze maatschappij heeft. In mijn onderzoek focus ik specifiek op de verantwoordelijkheidsvraag die hoort bij AI.”

Wie is de schuldige?
Wie is er verantwoordelijk voor fouten als we systemen helemaal of gedeeltelijk automatiseren? Een AI kan geen boete betalen of de gevangenis in, dus wie is dan de schuldige? “Mijn onderzoek draait om het feit dat mensen soms niet weten of ze wel of niet verantwoordelijk zijn. Soms denken we dat we controle hebben over een systeem, terwijl het geautomatiseerd is. En in andere gevallen denken we dat AI een fout maakt, terwijl we eigenlijk zelf de controle hebben.”

Kijk bijvoorbeeld naar Tesla, zegt Lotte. “Zij maken reclame met mensen die gamen of Netflix kijken terwijl ze in de auto zitten. Maar in de kleine lettertjes blijkt de auto tóch niet zo zelfstandig te zijn, en moet je altijd je handen aan het stuur houden, en naar de weg kijken. Rijdt de auto iemand aan? Dan ben jij toch de verantwoordelijke, ondanks al die reclames.”

Er zijn nog veel meer vraagstukken op het gebied van verantwoordelijkheid. “Neem bijvoorbeeld deep brain stimulation, wat veel gebruikt wordt bij Parkinsonpatiënten. Daar is van bekend dat de behandeling bijeffecten kan hebben op gedrag en emoties. Laten we dat uitvergroten en filosofisch bekijken: als iemand door het toedoen van een machine verandert in een crimineel, wie is daar dan verantwoordelijk voor? De patiënt, of de arts die de behandeling voorschreef? Want de machine die de behandeling verzorgt, kunnen we niet verantwoordelijk houden.”

Moraliteit in het onderwijs
Lotte legt uit dat ze in haar werk als docent aan de Radboud Universiteit ook al geconfronteerd wordt met de effecten van AI. “Als ik aan mijn studenten vraag om een stuk te schrijven, ben ik er vrij zeker van dat sommigen dat met ChatGPT doen. Begrijp me niet verkeerd, ik ben helemaal niet tegen de ontwikkelingen van AI. Maar we moeten wel goed nadenken over hoe we AI in het onderwijs gebruiken op een moreel verantwoorde manier, die ook nog eens bijdraagt aan de kwaliteit.”

Dat morele vraagstuk krijgt Lotte wel vaker te horen. Onderzoek naar AI op de universiteit pakt namelijk vaak het menselijk brein als uitgangspunt. “De focus op het brein komt voort uit de cognitiewetenschappen, omdat we willen begrijpen hoe het brein werkt. Maar we zijn niet bezig met het nabootsen van menselijk bewustzijn, zoals je dat ziet in science-fictionfilms. Waarom zou je een bewust brein ontwikkelen als je alleen maar simpele taken wil automatiseren?”

Een angstige toekomst?
De meningen over de toekomst van AI zijn heel sterk verdeeld, vertelt Lotte. “Er zijn twee stromingen. Het duurt nog heel kort of juist heel lang voordat AI de menselijke intelligentie voorbij gaat. Wanneer dat dan gebeurt, kan dit positief of negatief zijn voor de mensheid. Persoonlijk denk ik dat het bijzonder snel gaat gebeuren dat AI op sommige vlakken intelligenter is dan de mens, als we er niet al lang zijn. Dat angstbeeld van ‘AI neemt ons leven over’, zijn we daar niet gewoon al?”

Lotte legt uit: “Keuzeprocessen, rekensommen en de weergave van advertenties. Dat zijn allemaal zaken die al door AI worden beïnvloed. Ik ben niet bang voor menselijke robots die de wereld gaan overnemen, want dat is onrealistisch. Ik ben wel bang voor de invloed die AI bijvoorbeeld gaat hebben op de kloof tussen arm en rijk.”

En dat is best een realistisch scenario, stelt Lotte. We zien nu namelijk al in fabriekswerk dat menselijke arbeid duurder is dan een robot. Het verregaande risico van AI is dat menselijke handelingen ook buiten de industrie gaat vervangen. “Ik zie een risico in de mogelijkheid dat de menselijke factor misschien wel onbetaalbaar wordt voor de gewone mens. Als je geen advocaat of arts kan betalen, dan moet je het met de AI-robot doen. We moeten niet onderschatten dat AI sneller is, maar lang niet altijd beter in het maken van beslissingen.”

Of toch nog een beetje hoop?
Lotte geeft toe dat ze hierboven een negatief beeld schetst. “Gelukkig zijn er ook vrolijke noten, want AI kan zo veel moois voor ons doen. Bijvoorbeeld artsen ondersteunen bij het interpreteren van data. Of het tekort in de ouderenzorg oplossen, door niet de zorgmedewerkers te vervangen maar administratiewerkzaamheden over te nemen. Daar hoor je mensen in de zorg over klagen, dus waarom helpen we ze niet met dat probleem?”

Dat is voor Lotte dan ook de overkoepelende conclusie: “Met AI kunnen we hele grote problemen oplossen, als we goed naar de doelgroep luisteren, en nadenken over brede maatschappelijke effecten. Geen snelle oplossingen op de markt zetten, maar kijken waar een bepaald vakgebied om vraagt. Waar loopt het onderwijs nu tegen aan, en de zorg? Als we met z’n allen naar de kern van de problemen blijven kijken, gaat AI ons heel veel moois brengen!”

Dit interview is gepubliceerd in samenwerking met Letterdesk

Tijdens onze AI Meetup op 28 februari vertelt Lotte van Elteren over AI. Meer informatie en tickets.