De Dataloog

DTL029 – Transparantie en verantwoordelijkheid voor Artificial Intelligence algoritmes

De Dataloog
26-06-2019

AI begint bij mensen, eindigt bij mensen en heeft gevolgen voor mensen. Met de opkomst van AI rijst de vraag hoeveel verantwoording bedrijven en overheden moeten afleggen over de algoritmes die ze geïmplementeerd hebben. Voorbeelden van hoe algoritmes discrimineren door biased data halen steeds vaker het nieuws: HR beleid van Amazon of de Nederlandse fiscus die fraude detectie deed met vooroordelen in de data. In het FD stond onlangs een stuk van sander Klous waarin gepleit wordt wetgeving mbt de verantwoordelijkheid van AI algoritmes.
 
De Dataloog praat met de AI experts van Deloitte die een glazen box methode ontwikkeld hebben waardoor ze algoritmes en onderliggende data transparant kunnen maken. We stellen kritische vragen over hoe groot het probleem nu eigenlijk is en willen meer weten hoe de methode werkt. We vragen ons af of AI niet gewoon een toepassing is van een hoger complexiteit niveau waardoor managers terug naar school moeten? En wat zegt de AVG eigenlijk over transparantie? We concluderen dat we het heel gauw al over algoritmes en data, maar AI begint en eindigt altijd bij mensen.
De Dataloog is de onafhankelijke Nederlandstalige podcast over data & kunstmatige intelligentie.
Hier hoor je alles wat je moet weten over de zin en onzin van data, de nieuwste ontwikkelingen en echte verhalen uit de praktijk. Onze hosts houden het altijd begrijpelijk, maar schuwen de diepgang niet.
Vind je De Dataloog leuk? Abonneer je op de podcast en laat een review achter.