Rijk van Nijmegen / Arnhem en omstreken

Mens kan controle over AI verliezen, waarschuwt hoogleraar

Mens kan controle over AI verliezen, stelt hoogleraar en professor Pim Haselager.
Mens kan controle over AI verliezen, stelt hoogleraar en professor Pim Haselager. © ANP/James Boast, bewerking Omroep Gelderland
NIJMEGEN - Kunstmatige intelligentie (AI) kan een wapenwedloop ontketenen waarbij de mens uiteindelijk de controle over het systeem verliest. Dat toekomstscenario schets hoogleraar AI Pim Haselager van de Radboud Universiteit. "Ik denk dat wij die controle dan gewoon uit handen geven."
Als je een militair systeem waarin tanks, vliegtuigen en raketten gekoppeld zijn op eigen houtje laat opereren, dan kunnen daar ongelukken mee gebeuren, geeft Haselager als voorbeeld.

'Dan heb je wel iets slechts gemaakt'

"Als je je infrastructuur door AI laat regelen, moet je niet raar opkijken als je op een gegeven moment iets probeert te stoppen maar je niet meer weet hoe dat moet."
In AI die de macht wil grijpen, gelooft de hoogleraar niet. "Want om iets te willen, moet je wel weten wat je wilt. Dat is nu juist iets heel erg biologisch. Maar je kunt AI wel zo programmeren dat het niet wil dat je het beïnvloedt. Dan heb je natuurlijk wel iets slechts gemaakt."

Gevaarlijk in handen van dictators?

Of dat in potentie dan niet heel gevaarlijk is in handen van bijvoorbeeld dictatoriale regimes? "Ja", stelt de hoogleraar onomwonden. "Maar is het je niet opgevallen dat dit ook een hele gevaarlijke wereld is?", vraagt hij retorisch.
"Ik ontken niet dat dit een soort nieuwe wapenwedloop kan ontketenen. Tegelijk denk ik dat het risico van AI in het leven van alledag vele malen groter zijn dan dat soort doemscenario's."
Er zijn miljardairs die hun geld nooit meer op krijgen en toch willen ze meer
Professor Pim Haselager
Het probleem is veel eerder dat de mens zichzelf niet onder controle heeft, redeneert Haselager. "Kijk naar Hiroshima en Nagasaki of de klimaatcrisis: we doen het allemaal zelf al. Of als je kijkt naar hebzucht. Er zijn miljardairs die hun geld nooit meer op krijgen en toch willen ze meer. Er zitten dus ook weeffouten in de homo sapiens."

Waar het gaat over de risico's en bedreigingen van AI kijkt de Rijksinspectie Digitale Infrastructuur (RDI) vooral naar de impact op vitale systemen en cybersecurity. Maar de organisatie ziet natuurlijk ook de berichtgeving over bijvoorbeeld discriminatie, ondermijning van de democratie en manipulatie, laat een woordvoerder weten.

Door de bijzonder snelle ontwikkelingen van AI, kan er volgens hem geen eenduidig antwoord worden gegeven op de vraag wat de grootste risico's zijn. "Dit vergt continue toetsing en beoordeling. Hier zijn meerdere toezichthouders, zoals de Autoriteit Persoonsgegevens, ieder voor hun eigen terrein mee bezig. De RDI werkt op het terrein van cybersecurity en vitale systemen samen met de Algemene Inlichtingen- en Veiligheidsdienst (AIVD) en het Nationaal Cyber Security Centrum (NCSC) om dit continu te monitoren."

Hoe zouden we als samenleving met AI en zijn risico's om moeten gaan?

"AI biedt natuurlijk ook heel veel voordelen. Daarom wordt er zo snel en zo veel gebruik van gemaakt. Als maatschappij moeten we een goede balans vinden tussen gebruikmaken en stimuleren van innovaties en tegelijkertijd het bewaken van publieke belangen. Er is op dit moment geen specifieke manier te noemen om hiermee om te gaan."

"Als je als persoon of organisatie AI gebruikt, moet je wel kijken naar de risico’s die er mogelijk aan zitten. Zoals het delen van informatie met bedrijven of privacy. Ook genereert AI niet altijd betrouwbare uitkomsten of antwoorden. Dit verschilt erg tussen de verschillende AI-systemen en de toepassing."

Is de angst dat de mensheid de controle over AI kan verliezen als er niet op de juiste manier mee wordt omgegaan volgens u reëel?

"Hier kan niemand op dit moment een antwoord op geven. Niemand heeft een glazen bol om de toekomst te voorspellen. De belangrijkste vraag is daarom: wat moeten we doen om te zorgen dat AI op een goede en verantwoordde manier wordt ingezet? Daar helpt bewustwording bij, maar ook de aankomende AI Act, de Europese eisen en kaders voor AI. Burgers, bedrijven en overheden spelen hierin ieder hun eigen rol."

"Als iedereen zich bewust is van de risico’s en daar verantwoord mee omgaat, zijn we al een heel eind."