AI en de wet
Mag AI ons iedere dag manipuleren? Mag het getraind worden met onze gegevens zonder ons medeweten of onze toestemming? Hoe kunnen we wetten rond AI, privacy en concurrentie handhaven? Konrad Kollnig probeert met RegTech4AI antwoorden te krijgen op deze en andere vragen.
Zowel de wet als computercodes zijn door mensen gemaakte regels, zegt computerwetenschapper Konrad Kollnig. “Coderen kan eentonig worden en het recht bood mij een focus op hoe technologie de maatschappij beïnvloedt. In de informatica hebben we de neiging vooringenomen te zijn over technische oplossingen en sceptisch over geesteswetenschappen." Zijn nieuwste project brengt die twee gebieden samen.
RegTech4AI wordt ondersteund door een AiNed Fellowship. Het doel is om het proces van de EU voor AI-regulering te verbeteren, burgers te beschermen in het tijdperk van AI en kennis over AI-regulering toegankelijker te maken voor het MKB en startups. Kollnig en zijn collega's zullen ook aanbevelingen doen om de buitensporige macht van AI-platforms in te perken en nieuwe methoden ontwikkelen om regels te handhaven.
Beïnvloeding op grote schaal
De nieuwe AI-wet van de EU mag dan groot nieuws zijn, maar veel bestaande wetten zijn al van toepassing op AI, waaronder de GDPR en mededingingsrecht. Regelgeving beperkt niet alleen misbruik van de markpositie, zegt Kollnig, maar stelt ook grenzen aan het gebruik van volledig geautomatiseerde beslissingen over mensen. Hij benadrukt dat dit geen hypothetische discussies zijn over futuristische technologieën. "Sociale media en digitale reclame maken al gebruik van AI op een manier die ons allemaal raakt, in die zin dat ze ons op grote schaal proberen te beïnvloeden.”
"Digitale technologie is gebaseerd op gegevens over mensen. Verslavende sociale-media-algoritmes worden getraind met ons scroll- en klikgedrag. Je aandacht vangen gaat niet alleen over jou geven wat je wilt, maar waar je hersenen het meest ontvankelijk voor zijn," zegt Kollnig. Mensen met elkaar verbinden is in het beste geval een secundair motief. Het bedrijfsmodel is om winst te genereren door de tijd die op het platform wordt doorgebracht te maximaliseren en gepersonaliseerde advertenties te verkopen. Het verzamelen van gegevens is daar een middel toe.
Ondoorzichtig en waarschijnlijk onwettig
Voor zijn proefschrift, waarvoor hij door de Raad van Europa werd onderscheiden, onderzocht Kollnig de kloof tussen de wet en de praktijk als het gaat om gegevensverzameling. Hij analyseerde een dataset van 2,5 miljoen apps op naleving van de privacywetgeving. Bij het testen van een subset ontdekte hij dat 70 procent van de bedrijven gegevens naar externe partners stuurde voordat om toestemming was gevraagd. Minder dan 3 procent voldeed volledig aan de regels. "Er is onvoldoende bewijsmateriaal om het juridisch aan te vechten, maar het laat wel zien dat er een serieus, verstrekkend probleem is met het toepassen van wetten op alomtegenwoordige technologie."
Kollnig droeg zijn steentje bij in de vorm van een privacy-app die andere apps monitort en inmiddels miljoenen mensen helpt. Maar het probleem is groter. "Een belangrijk principe van de GDPR is transparantie. Toch is bijna geen enkele website transparant genoeg. Zelfs de gegevensbeschermingsautoriteiten begrijpen zelden met wie gegevens worden gedeeld. Veel websites en apps sturen je gegevens naar duizenden bedrijven om één enkele advertentie op je device te kunnen laten zien. Dit gebeurt allemaal in milliseconden. Hoe kan iemand dat ook maar enigszins begrijpen? Het hele verdienmodel rond gegevens is ondoorzichtig en waarschijnlijk illegaal."
Tekst gaat verder onder de foto.
Konrad Kollnig is universitair docent bij het Law and Tech Lab van de Universiteit Maastricht. Hij promoveerde aan de Universiteit van Oxford en werkte als associate researcher bij het Open Data Institute. Hij heeft ook een BSc in Computer Science and Mathematics van RWTH Aachen en een MSc in Computer Science van Oxford (beide cum laude).
Handhaving
"Een speerpunt van RegTech4AI is wetshandhaving, oftewel proberen de rechten van burgers beter te beschermen als het gaat om digitale technologieën. Als er geen economische prikkel is voor bedrijven om zich aan de wet te houden, zullen ze daar waarschijnlijk geen moeite voor doen. Je hebt er immers extra personeel voor nodig en dat levert een concurrentienadeel op." Te veel een boef zijn kan negatieve gevolgen hebben; met te weinig een boef zijn verraad je je aandeelhouders. "Daarom wil ik dieper graven om uit te zoeken hoe we bewijzen van onwettige praktijken kunnen verkrijgen. Het is duidelijk dat de huidige regels niet goed worden gehandhaafd, dus we moeten ons afvragen hoe we de wet en computerwetenschappen beter met elkaar in overeenstemming kunnen brengen."
Over zijn inspanningen om toezichthouders te helpen met handhaving in de digitale ruimte zegt hij, half grappend: "Het zou niet nodig moeten zijn dat ik dit moet doen.” Natuurlijk zijn niet alle bedrijven slecht. De GDPR is wetgeving die op principes is gebaseerd. Dat biedt speelruimte waar rijkere bedrijven gebruik van kunnen maken; voor alle anderen kan het onzekerheid creëren. En wettelijke richtlijnen die worden opgesteld door regelgevende instanties zijn misschien nuttig voor juristen, maar zijn niet de beste manier om te communiceren met programmeurs.
Disciplineoverschrijdend
"Ik heb regelgevende instanties gevraagd waarom ze GitHub [een open-source ontwikkelaarsplatform] niet gebruiken. Waarom delen ze geen voorbeeldcode of mock-ups van toestemmingsformulieren? Als ze de 'taal' van de technologie zouden spreken, zou dat bedrijven helpen om de wetten in code om te zetten." Maar bij de verantwoordelijke autoriteiten werken meestal juristen en economen”, zegt Kollnig. "Geweldige mensen met goede bedoelingen, daar twijfel ik niet aan. Maar als je technologie wilt reguleren, heb je ook experts op dat gebied nodig."
Met het AiNed Fellowship en financiering van de rechtenfaculteit zal hij vier promovendi en een postdoc in rechten, informatica en mogelijk psychologie aannemen. Het onderzoek valt onder het Law and Tech Lab van de UM. "We passen technische methoden toe op het recht, in plaats van andersom. De rechtenfaculteit van de UM heeft een sterke technische kant. Zelfs onze rechtsgeleerden hebben goede coderingsvaardigheden – dat zie je niet vaak."
Het interdisciplinaire en internationale profiel van de universiteit helpt ook. "De faculteit is al lang gespecialiseerd in Europees recht, wat voor dit onderzoek heel goed van pas komt. En we zitten dicht bij Brussel, Parijs en Londen." Dit alles helpt Kollnig in zijn streven om de eerste Europese conferentie te organiseren met juridische en technische wetenschappers uit het veld. "Er is een interdisciplinaire en internationale aanpak nodig."
Tekst: Florian Raith
Fotografie: Paul van der Veer
Lees ook
-
Wie A zegt, moet ook B zeggen. Daarom ging bijzonder hoogleraar herstelrecht en universitair hoofddocent straf(proces)recht Jacques Claessen vrijwillig aan de enkelband.
-
Komt de Einstein Telescoop naar de Euregio? Niemand die het nog weet. Maar als de telescoop er komt, biedt dit vele valorisatiekansen, denkt Han Dols. Hij is hoofd business development van de technologie van CERN, het Europese laboratorium voor deeltjesfysica in Genève, en keynote spreker op de...
-
“Maak jij ook lijstjes?” Dat was een van de eerste vragen die hoogleraar financiële dienstverlening Lisa Brüggen aan PhD-kandidaat Jenna Barrett stelde. Toen zij bevestigend antwoordde, kon de samenwerking niet meer stuk. Wat volgde, was een inspirerend en vruchtbaar onderzoek, dat resulteerde in...
