Na de tumultueuze gebeurtenissen bij OpenAI, waar CEO Sam Altman aanvankelijk werd ontslagen maar later toch terugkeerde vanwege meningsverschillen over innovatie, rijst de vraag: hoe gevaarlijk kan Artificiële Intelligentie (AI) worden? Business AM vroeg het aan Nathali Helberger, hoogleraar Recht in digitale technologie met focus op AI aan de Universiteit van Amsterdam.
Helberger legt de nadruk op het onderliggende probleem: “AI kan een buitengewoon handige tool zijn, maar als het in verkeerde handen komt en niet goed wordt beheerd, kan het ook een bedreiging vormen voor de realisatie van onze fundamentele rechten, zoals vrijheid, autonomie, vrijheid van meningsuiting en vertrouwen in publieke voorzieningen en media.”
“Belangrijk is dat AI goed beheerd moet worden. Je kunt niet zomaar ongebreideld innoveren; je moet heel goed nadenken over de impact ervan op de maatschappij en fundamentele rechten.”
Helberger noemt de discussie rond OpenAI en Sam Altman een goed voorbeeld van waarom er beter gekeken moet worden naar regulering. “Hoe worden die grote AI-groepen beheerd? Is er toezicht en overzicht om ervoor te zorgen dat we kunnen vertrouwen op wat hun technologie doet en wat de impact is? Men moet ook nadenken over hoe die technologie ons, burgers en de maatschappij, beïnvloedt.”
Meer transparantie rond AI?
“De mogelijkheid tot misbruik van AI-technologie om deepfakes te creëren, desinformatie te verspreiden of het vertrouwen in onze democratische instituties te ondermijnen, is moeilijk in te schatten en te beheersen. Daarom overwegen we in Europa nieuwe manieren om meer transparantie en controleerbaarheid van technologie te creëren. Het is ook daarom zo belangrijk dat in de AI Act duidelijke regels komen over de verantwoordelijkheid voor financiële modellen zoals ChatGPT.”
De vraag blijft: Hoe moeten we artificiële intelligentie controleren? Helberger pleit voor aanzienlijke transparantie, vooral op gebieden waar momenteel weinig zicht op is: “We moeten weten dat deze systemen zijn gecontroleerd op vooroordelen en discriminatie, dat het gebruikte materiaal de privacy of auteursrechten van anderen niet schendt, en dat er mechanismen en communicatie zijn ingebouwd zodat we kunnen begrijpen hoe deze modellen zijn getraind.”
“De maatschappij moet nadenken over hoe elk van ons hier op een verantwoorde manier mee omgaat. Ik denk dat iedereen een individuele verantwoordelijkheid heeft,” besluit ze.
