AI begrijpen
Het is dan ook goed dat de Europese AI-Act houvast kan bieden bij het beoordelen van AI-systemen die werkgevers overwegen in te zetten. Tegelijkertijd is het ook van belang om te begrijpen hoe AI nu precies werkt en welke problemen niet zomaar op te lossen zijn. Uiteindelijk is AI niet intelligent, maar doet het – vaak heel accurate – voorspellingen op basis van de grote hoeveelheden data waarop het model is getraind.
Sociale context
Daarnaast is het systeem niet in staat om aspecten als sociale context en de dynamiek van culturen te begrijpen. Het probleem van bias (vooroordeel) wordt hiermee versterkt en wie dat risico probeert te vermijden, ziet dat AI juist een bias-door-proxy (waarbij het algoritme indirect discrimineert) lijkt te vertonen.
Risico’s
Voor bedrijven die AI willen implementeren is het daarom van groot belang om bewust te blijven van de risico’s en een overzicht te creëren van individuen of groepen die mogelijk schade kunnen oplopen bij het gebruik van de technologie. Tevens is het van belang om te beoordelen of er geen negatieve gevolgen bij het gebruik van AI zijn. Zodra het gebruik bijvoorbeeld de autonomie van medewerkers aantast, is dat zonder meer problematisch.
Als deze aspecten duidelijk worden, kan een bedrijf sneller handelen in het gebruik van AI, omdat de kaders van verantwoord gebruik duidelijk zijn.
Eigen verantwoordelijkheid
Tot slot moeten werkgevers zich niet vergissen in hun eigen verantwoordelijkheid naar hun medewerkers. De AI-Act stelt hen immers verantwoordelijk om medewerkers te trainen op het gebied van AI-geletterdheid wanneer ze AI in het bedrijf actief gaan inzetten.