AI mag dan een krachtige en veelbelovende technologie zijn, het moet wel binnen ethische en juridische kaders blijven. De Europese AI Act brengt precies dat in kaart. Geoffrey Ceunen van Umaniq gaf tijdens het webinar een helder overzicht van de wetgeving en de gefaseerde implementatie die eraan komt. Vanaf februari 2025 zijn bijvoorbeeld bepaalde risicovolle AI-toepassingen verboden en moeten bedrijven AI-geletterdheid in hun organisatie integreren. Hoogrisico AI-systemen, zoals artificiële intelligentie bij evalueren van sollicitanten en kredietwaardigheidsanalyses van bedrijven, krijgen extra verplichtingen opgelegd. Dit betekent dat bedrijven goed moeten nagaan welke verantwoordelijkheid zij dragen als aanbieder of gebruiker van AI.
De AI Act deelt AI-toepassingen in op basis van risiconiveaus. AI-systemen met een onacceptabel risico, zoals sociale scoring en biometrische identificatie in real time, worden verboden. Hoogrisico AI-systemen, die bijvoorbeeld worden ingezet bij kritieke infrastructuur, rechtshandhaving en personeelsbeheer, moeten voldoen aan strikte eisen op het gebied van transparantie, documentatie en monitoring.
Om het eenvoudiger te maken: AI-systemen met een laag risico, zoals een chatbot voor klantenservice, hoeven enkel aan minimale transparantie-eisen te voldoen. Middelmatig risico omvat systemen die interactie hebben met mensen en duidelijke meldingen vereisen. Hoog risico zijn toepassingen die impact hebben op mensenlevens, zoals automatische beslissingen in de gezondheidszorg of rechtspraak. Die systemen moeten aantonen dat ze veilig, betrouwbaar en eerlijk zijn.
Daarnaast introduceert de AI Act verplichtingen rond AI-geletterdheid. Vanaf februari 2025 moeten organisaties medewerkers trainen in het begrijpen en correct gebruiken van artificiële intelligentie. Dit helpt niet alleen bij compliance, maar zorgt er ook voor dat AI op een verantwoorde manier wordt ingezet binnen de bedrijfsvoering. Bovendien moeten bedrijven rekening houden met de Europese GDPR, de Data Act en andere gerelateerde wetgevingen die invloed hebben op AI-toepassingen.
De AI Act vraagt van bedrijven een actieve rol in het bewaken van AI-risico’s. Organisaties moeten niet alleen de juiste governance-structuren opzetten, maar ook compliance-processen inbouwen die AI-gebruik continu evalueren. Dit houdt in dat bedrijven die AI-systemen ontwikkelen of gebruiken, een grondige risicoanalyse moeten uitvoeren en zich bewust moeten zijn van de impact die artificiële intelligentie heeft op eindgebruikers.
Bij overtreding van de AI Act kunnen de sancties fors oplopen, met boetes tot gevolg. Maar naast de financiële risico’s, is de reputatieschade misschien nog wel groter. Betrouwbaarheid en ethiek worden steeds belangrijkere pijlers voor klanten en partners bij de keuze van een AI-gedreven oplossing.
Bij AFAS geloven we in de kracht van automatisering om manuele taken overbodig te maken en bedrijven efficiënter te laten werken. Artificiële intelligentie speelt daarin een steeds grotere rol. We zijn al jaren bezig met machine learning en slimme algoritmes, maar de opkomst van Large Language Models zoals ChatGPT heeft alles in een stroomversnelling gebracht. Daarom hebben we AI niet alleen in onze strategie verankerd, maar ook concreet in onze software en interne processen doorgevoerd.
Een mooi voorbeeld is onze transcriptielijn. Medewerkers kunnen een gesprek telefonisch inspreken en AI zet dit automatisch om in een gestructureerd verslag. Dit bespaart consultants, salesmedewerkers en andere professionals veel tijd en zorgt ervoor dat belangrijke informatie niet verloren gaat. Ook in onze supportafdeling heeft artificiële intelligentie een plek gekregen: Jonas, onze AI-assistent, helpt medewerkers met het formuleren van antwoorden op klantvragen en leert voortdurend bij om nog beter te presteren.
We willen AI niet alleen intern benutten, maar ook beschikbaar maken voor onze klanten. Daarom hebben we artificiële intelligentie geïntegreerd in onze workflows. Denk bijvoorbeeld aan HR-processen, waarbij AI kan helpen bij vragen over paritaire comités, vergoedingen en arbeidsvoorwaarden. Stel, een medewerker vraagt welke reiskostenvergoeding hij kan krijgen voor een werf op 150 km van zijn woonplaats. Jonas kan deze vraag automatisch beantwoorden door relevante informatie uit het paritair comité op te halen, loonvoorwaarden te analyseren en de juiste berekening voor te stellen. Dit bespaart HR-medewerkers tijd en zorgt voor een uniforme en correcte communicatie binnen de organisatie.
Bovendien hebben we AI-assistent Jonas ingebouwd in onze software. In aanvraagprocessen kan Jonas automatisch een antwoord genereren op basis van bedrijfsspecifieke richtlijnen en eerdere antwoorden. Dit bespaart medewerkers tijd en verhoogt de consistentie in communicatie. Daarnaast kan Jonas reacties samenvatten of vertalen, wat vooral handig is voor organisaties die werken in een meertalige omgeving. Dankzij deze integraties kunnen onze klanten AI gebruiken als een directe en efficiënte ondersteuning in hun dagelijkse bedrijfsvoering, zonder complexe aanpassingen of extra werklast.
Bij AFAS blijven we AI verder ontwikkelen en verfijnen. Onze klanten krijgen AI-functionaliteiten aangeboden op basis van Fair Use, zodat bedrijven van elke omvang toegang krijgen tot deze technologie. We testen onze artificiële intelligentie eerst intern, zodat we enkel betrouwbare en kwalitatieve toepassingen uitrollen. Daarnaast zorgen we ervoor dat al onze AI-oplossingen compliant zijn met de AI Act en Europese regelgeving.
De belangrijkste boodschap? Experimenteer en leer. AI biedt ongekende mogelijkheden, maar succes hangt af van hoe goed je het weet te gebruiken. Met de juiste mindset, veilige tools en een doordachte implementatie kan artificiële intelligentie je bedrijf niet alleen slimmer maken, maar ook de toekomstbestendig houden.