door Steven Ackx
•
4 maart 2024
Artificiële intelligentie (AI) transformeert de zakenwereld en creëert nieuwe kansen voor bedrijfsgroei, efficiëntieverhoging, nieuwe manieren van werken en concurrentievermogen. AI brengt echter ook aanzienlijke uitdagingen en risico's met zich mee, zoals ethische dilemma's, mensenrechtenschendingen, maatschappelijke ontwrichting en rechtsonzekerheid. Hoe kunnen bedrijven ervoor zorgen dat ze AI op een verantwoorde manier en in overeenstemming met de wet gebruiken (EU-wet inzake AI)? Hoe kunnen zij profiteren van de EU-wet inzake AI, die tot doel heeft een gemeenschappelijk kader voor betrouwbare en mensgerichte AI in de Europese Unie vast te stellen? AI is wereldwijd en heeft invloed op iedereen, als een technologie voor algemeen gebruik (General Purpose Technology (GPT)). In deze blogpost gaan we dieper in op deze vragen en geven we een leidraad voor bedrijven die AI op een ethische manier en als een extra bedrijfsmiddel willen omarmen. De bedreigingen en risico's van artificiële intelligentie AI is een krachtige en snel evoluerende technologie die kan worden toegepast op elk domein, industrie of sector, zoals gezondheid, onderwijs, transport, financiën, veiligheid, entertainment, defensie, enz. AI brengt echter ook veel belangrijke bedreigingen en risico's met zich mee, voor individuen, voor organisaties, voor bedrijven en voor de samenleving. Enkele van de belangrijkste uitdagingen en bekommernissen met betrekking tot AI zijn: Ethische kwesties : AI kan ethische vragen oproepen over de waarden, principes en normen die de ontwikkeling en het gebruik ervan sturen. Hoe kunnen we er bijvoorbeeld voor zorgen dat AI de menselijke waardigheid, autonomie, privacy en eerlijkheid respecteert? Hoe kunnen we voorkomen dat AI mensen discrimineert, manipuleert of schade berokkent? Hoe kunnen we de voordelen en risico's van AI voor verschillende belanghebbenden en groepen in evenwicht brengen? Mensenrechtenkwesties : AI kan van invloed zijn op de bescherming van mensenrechten, vrijheid, veiligheid, privacy, meningsuiting, onderwijs en werk. Hoe kunnen we er bijvoorbeeld voor zorgen dat AI geen inbreuk maakt op het recht van mensen op privacy en gegevensbescherming, vooral als het gaat om persoonlijke of gevoelige gegevens? Hoe kunnen we ervoor zorgen dat AI het recht van mensen op vrijheid van meningsuiting en informatie niet schendt, vooral als het gaat om inhoudelijke aanpassingen, censuur of desinformatie (hallucinaties)? Maatschappelijke kwesties : AI kan sociale gevolgen hebben, zoals het veranderen van de aard van werk, onderwijs, communicatie en cultuur. Hoe kunnen we er bijvoorbeeld voor zorgen dat AI geen sociale ongelijkheden creëert of versterkt, zoals de digitale kloof, de genderkloof of de vaardigheidskloof? Hoe kunnen we ervoor zorgen dat AI de sociale cohesie, het vertrouwen en de democratie niet uitholt, zeker niet als het gaat om polarisatie, radicalisering of manipulatie? Hoe kunnen we ervoor zorgen dat AI geen bedreiging vormt voor sociale diversiteit, identiteit en creativiteit, zeker niet als het gaat om homogenisering, stereotypering of imitatie? Juridische kwesties : AI kan leiden tot rechtsonzekerheid, zoals het gebrek aan duidelijkheid, consistentie en verantwoordingsplicht bij de regulering en governance van AI. Hoe kunnen we er bijvoorbeeld voor zorgen dat AI voldoet aan de bestaande wet- en regelgeving, zoals de Algemene Verordening Gegevensbescherming (AVG), het Handvest van de grondrechten van de EU of de EU-richtlijn productaansprakelijkheid? Hoe kunnen we ervoor zorgen dat AI wordt onderworpen aan doeltreffende toezichts-, audit- en handhavingsmechanismen, zoals de gegevensbeschermingsautoriteiten van de EU, het Bureau van de Europese Unie voor de grondrechten of het Hof van Justitie van de EU? Wie is aansprakelijk en verantwoordelijk voor AI-acties en -resultaten, vooral als het gaat om autonomie, complexiteit of onvoorspelbaarheid? Veel vragen en er zijn er nog veel meer. Op basis van hoe de technologie zich zal blijven ontwikkelen, zullen er nog meer vragen komen. Hoe de bedreigingen en risico's van artificiële intelligentie aan te pakken Om de bedreigingen en risico's van AI aan te pakken, moeten bedrijven een verantwoorde en ethische benadering van de ontwikkeling en het gebruik van AI hanteren, gebaseerd op de principes van betrouwbaarheid en mensgerichtheid. Enkele van de belangrijkste stappen en maatregelen die bedrijven kunnen nemen om dit te bereiken zijn: Zorg voor een AI-governancesysteem : Bedrijven moeten zorgen voor een AI-governance, een reeks beleidsregels en normen die de ontwikkeling en het gebruik van AI binnen het bedrijf of de organisatie reguleren en bewaken. De AI-governance moet ook de mechanismen en instrumenten omvatten die het toezicht, de audit, de handhaving van een AI-kader en de AI-impact assessment mogelijk maken. De AI-governance moet transparant, verantwoordingsplichtig en participatief zijn, waarbij de relevante belanghebbenden, zoals werknemers, klanten, partners, regelgevers, de samenleving of de academische wereld worden betrokken. Implementeer een AI-raamwerk: Bedrijven moeten een AI-raamwerk implementeren, een reeks richtlijnen en procedures die aansluiten bij de waarden, principes en normen die de ontwikkeling en het gebruik van AI moeten sturen. In het AI-kader moeten ook de rollen en verantwoordelijkheden worden gespecificeerd van de verschillende actoren die betrokken zijn bij de AI-levenscyclus, zoals de ontwikkelaars, aanbieders, gebruikers en regelgevers. Het AI-kader kan ook worden afgestemd op de toepasselijke ethische en juridische kaders, zoals de ethische richtsnoeren van de EU voor betrouwbare AI, de OESO-beginselen inzake AI of de leidende beginselen van de VN inzake bedrijfsleven en mensenrechten. Voer een AI-impact assessment uit : Alvorens een AI-oplossing te ontwikkelen of in te zetten, moeten bedrijven een AI-impact assessment uitvoeren, een systematische en uitgebreide analyse van de potentiële effecten en risico's van de AI-oplossing. In de AI-impact assessment moeten ook de risicobeperkende maatregelen en waarborgen worden geïdentificeerd die kunnen worden geïmplementeerd om de negatieve effecten en risico's van de AI-oplossing te voorkomen of tot een minimum te beperken. Wanneer er al bestaande AI-oplossingen zijn, moet er nog steeds een AI-impact assessment worden uitgevoerd op alle bestaande AI-oplossingen. Implementeer en bewaak AI-risicobeperkende maatregelen : Op basis van de bovenstaande drie beschreven activiteiten zijn er verschillende risicomigratiemaatregelen die moeten worden geïmplementeerd en gemonitord tijdens het gehele gebruik van AI binnen bedrijven. Om de betrouwbaarheid en het gebruik van de AI-oplossingen te vergroten. Wat is goed bestuur van artificiële intelligentie voor bedrijven? Goed bestuur van AI voor bedrijven is niet alleen een kwestie van compliance en risicobeheer, maar ook een kwestie van visie, strategie, kansen en concurrentievoordeel. Door een verantwoorde en ethische benadering van AI te hanteren, kunnen bedrijven profiteren van de volgende voordelen: Vergroot het vertrouwen en de reputatie : Door aan te tonen dat ze AI op een betrouwbare en mensgerichte manier gebruiken, kunnen bedrijven hun vertrouwen en reputatie bij hun klanten, partners, personeel, regelgevers en het publiek vergroten. Dit kan ook hun klantloyaliteit, tevredenheid en retentie verhogen, evenals hun marktaandeel, omzet en winstgevendheid. Verbeter de kwaliteit en prestaties : Door ervoor te zorgen dat hun AI-oplossingen zijn afgestemd op de ethische en wettelijke normen, kunnen bedrijven de kwaliteit en prestaties van hun AI-oplossingen verbeteren, zoals hun nauwkeurigheid, betrouwbaarheid, robuustheid en beveiliging. Dit kan ook de kosten en risico's verminderen die gepaard gaan met de AI-oplossingen, zoals de fouten, mislukkingen, inbreuken of rechtszaken. Innoveren en differentiëren : Door de ethische en sociale aspecten op te nemen in hun AI-ontwikkeling en -gebruik, kunnen bedrijven hun AI-oplossingen innoveren en differentiëren, waardoor nieuwe value propositions en concurrentievoordelen worden gecreëerd. Dit kan ook hun creativiteit en diversiteit bevorderen, evenals hun samenwerking en co-creatie met de verschillende belanghebbenden en experts. Hoe de EU-maatregelen op het gebied van artificiële intelligentie van invloed zullen zijn op bedrijven De EU-wet inzake AI is een voorgestelde verordening die tot doel heeft een gemeenschappelijk kader vast te stellen voor betrouwbare en mensgerichte AI in de Europese Unie. De EU-wet inzake AI zal op verschillende manieren gevolgen hebben voor bedrijven, zoals: AI-oplossingen classificeren op basis van hun risiconiveau : De EU-wet inzake AI zal AI-oplossingen in vier categorieën indelen, op basis van hun potentiële impact en risico op de ethische, mensenrechten-, sociale en juridische aspecten. De vier categorieën zijn: verboden AI-oplossingen, AI-oplossingen met een hoog risico, AI-oplossingen met een beperkt risico en AI-oplossingen met een minimaal risico. Afhankelijk van de categorie zullen er verschillende regels en verplichtingen gelden voor de AI-oplossingen, hun aanbieders en gebruikers. Eisen en verplichtingen voor AI-oplossingen : De EU-wet inzake AI zal specifieke eisen en verplichtingen voor AI-oplossingen vaststellen, zoals gegevenskwaliteit, technische documentatie, menselijk toezicht, transparantie, nauwkeurigheid, robuustheid en beveiliging. De aanbieders en gebruikers van AI-oplossingen zullen aan deze vereisten en verplichtingen moeten voldoen, een AI-impact assessment moeten uitvoeren, een ethisch kader voor AI moeten implementeren en moeten zorgen voor een AI-governancesysteem. Oprichting van een Europese AI-raad en nationale AI-autoriteiten (werk in uitvoering) : De EU-wet inzake AI zal een Europese AI-raad en nationale AI-autoriteiten oprichten, die verantwoordelijk zullen zijn voor de coördinatie, het toezicht en de handhaving van de EU-wet inzake AI. De Europese AI-raad en de nationale AI-autoriteiten zullen ook begeleiding, ondersteuning en advies bieden aan de aanbieders en gebruikers van AI-oplossingen, alsook aan de andere belanghebbenden en deskundigen. Creëer een Europees AI-keurmerk (AI4Copernicus) en een Europese (regelgevende) AI-sandbox : De EU-wet inzake AI zal een Europees AI-keurmerk en een Europese AI-sandbox creëren, dit zullen vrijwillige regelingen zijn die tot doel hebben de ontwikkeling en het gebruik van betrouwbare en mensgerichte AI in de Europese Unie te bevorderen en te vergemakkelijken. Het Europese AI-keurmerk zal een label zijn dat certificeert dat een AI-oplossing voldoet aan de EU-wet inzake AI en de EU-ethische richtsnoeren voor betrouwbare AI. De European AI Sandbox wordt een testomgeving die toegang biedt tot data, infrastructuur en expertise voor het experimenteren en valideren van AI-oplossingen. De EU-wet inzake AI zal naar verwachting in 2024 in werking treden, na goedkeuring door het Europees Parlement en de Raad van de Europese Unie. Na deze goedkeuringen zal er nog een lokale vertaling van de wet moeten worden gedaan op het niveau van de lokale overheid (Target: April 2026). De EU-wet inzake KI zal een aanzienlijke impact hebben op het AI-landschap in de Europese Unie en op de wereldmarkt. Daarom moeten bedrijven zich voorbereiden op de EU-wet inzake AI, door hun huidige en toekomstige AI-oplossingen te beoordelen, de beste praktijken en normen voor betrouwbare en mensgerichte AI toe te passen en samen te werken met de relevante belanghebbenden en deskundigen. Bent u klaar om de uitdagingen en kansen van AI voor uw bedrijf het hoofd te bieden? Neem vandaag nog contact met ons op om te ontdekken hoe onze advies-, coaching- en trainingsdiensten u kunnen helpen zorgen voor een verantwoorde en ethische ontwikkeling en gebruik van AI, te voldoen aan de EU-wet inzake AI en te profiteren van de voordelen van goed AI-bestuur. Mis de kans niet om het vertrouwen, de reputatie, de prestaties en het concurrentievermogen van uw bedrijf te verbeteren met onze deskundige begeleiding. Over de auteur: Steven Ackx weet zoveel over AI, hij is waarschijnlijk zelf een bot! `Steven Ackx, DX Gladiators, februari 2024