7. L&T_2025-26_Artificial Intelligence I.pptx

# De evolutie van regelgeving voor kunstmatige intelligentie Hier is een gedetailleerde samenvatting van de evolutie van regelgeving voor kunstmatige intelligentie, gebaseerd op de verstrekte documentatie. ## 1. De evolutie van regelgeving voor kunstmatige intelligentie De evolutie van regelgeving voor kunstmatige intelligentie (AI) markeert een duidelijke verschuiving van louter ethische principes naar bindende wettelijke kaders, met een groeiende erkenning van de noodzaak voor specifieke AI-regelgeving naast bestaande wetten. ### 1.1 De context van bestaande wetgeving en de noodzaak van specifieke regelgeving AI is geen nieuwe technologie en valt in veel gevallen al onder bestaande wettelijke kaders. Wetten zoals contractenrecht (bijvoorbeeld transparantievereisten voor AI-gestuurde contentmoderatie), cyberbeveiligingsrecht en sector-specifieke regelgeving (zoals productveiligheidsregels) zijn reeds relevant voor het gebruik van AI-systemen. Echter, naarmate AI populairder werd, ontstond er een roep van beleidsmakers en maatschappelijke actoren om specifieke regelgeving te overwegen die buiten deze bestaande kaders valt. Er zijn twee belangrijke redenen voor deze roep om specifieke regelgeving: * **Moeilijkheden bij de toepassing van bestaande regels:** Veel bestaande regels zijn theoretisch wel van toepassing op specifieke AI-systemen, maar de praktische toepassing ervan kan complex en moeilijk zijn. * **Unieke kenmerken van AI-systemen:** AI-systemen bezitten bepaalde kenmerken die mogelijk specifieke wetgeving vereisen om de risico's adequaat te beheersen. ### 1.2 De verschuiving van ethische principes naar bindende wetgeving De ontwikkeling van AI-regelgeving kan worden gekenmerkt door een verschuiving van het naleven van ethische principes naar het voldoen aan bindende wettelijke normen. #### 1.2.1 Ethische principes als initiële richtlijnen In de beginfase van de ontwikkeling van een technologie, wanneer de werking en potentiële risico's nog niet volledig duidelijk zijn, wordt vaak teruggevallen op ethische principes. Deze principes moeten gerespecteerd worden tijdens het ontwerp en de ontwikkeling van de technologie. Voorbeelden van dergelijke principes omvatten: * UNESCO-aanbeveling inzake de ethiek van kunstmatige intelligentie * AI-principes en ethiekrichtlijnen voor betrouwbare AI * Richtlijnen inzake AI en gegevensbescherming * Resoluties van de Algemene Vergadering van de VN ter bevordering van veilige, zekere en betrouwbare AI-systemen Hoewel deze principes positief kunnen zijn voor bedrijven door hun brede formulering, leiden ze ook tot juridische onzekerheid. Het is vaak niet duidelijk wat deze principes concreet inhouden, wat handhaving bemoeilijkt voor regelgevende instanties. Er is een sterke verbinding tussen deze principes en de latere regelgevende kaders. > **Tip:** Ethiek dient als een belangrijke voorloper voor wetgeving. Naarmate de maatschappij meer leert over de risico's van een technologie, neigt men naar strengere regulering. #### 1.2.2 De opkomst van juridische kaders Naarmate de risico's van AI beter worden begrepen, neemt de noodzaak voor strengere, bindende regelgeving toe. Dit leidt tot de ontwikkeling van juridische kaders op nationaal en internationaal niveau. ##### 1.2.2.1 Raad van Europa De Raad van Europa heeft zich gericht op de ontwikkeling van regelgeving met nadruk op mensenrechten en een risicogebaseerd systeem met horizontale vereisten. De totstandkoming van een convention is een langdurig proces geweest, waarbij de CAHAI (Committee on Artificial Intelligence) werd omgevormd tot de CAI (Committee on Artificial Intelligence). * **Raad van Europa Kaderverdrag inzake AI:** Dit verdrag is juridisch bindend voor staten na ratificatie en staat open voor niet-leden van de Raad van Europa. Het is een product van consensus, wat leidde tot de kritiek dat de bepalingen aanzienlijk verwaterd werden tijdens het opstelproces. Het hoofddoel is te waarborgen dat activiteiten binnen de levenscyclus van AI-systemen volledig in overeenstemming zijn met mensenrechten, democratie en de rechtsstaat. Hoewel het verdrag algemeen en abstract is, vereist het concretisering om de principes in de praktijk te brengen. Het erkent de negatieve impact van AI en verplicht staten tot het implementeren van regels ter bescherming van mensenrechten. Enkele concrete verplichtingen met betrekking tot transparantie worden genoemd, en bepaalde AI-systemen die niet in lijn zijn met mensenrechten worden verboden. ##### 1.2.2.2 Europese Unie: van ethische principes naar de AI Act De Europese Commissie heeft een aanpak gevolgd die begon met ethische principes en evolueerde naar een nieuw juridisch instrument, de AI Act. * **White Paper On Artificial Intelligence - A European approach to excellence and trust (2020):** Deze white paper erkende dat ontwikkelaars en gebruikers van AI al onderworpen waren aan bestaande Europese wetgeving op het gebied van fundamentele rechten (zoals gegevensbescherming, privacy, non-discriminatie), consumentenbescherming en productveiligheid. Er werd echter ook gewezen op de specifieke kenmerken van AI, zoals opaciteit, die de toepassing en handhaving van bestaande wetgeving bemoeilijkten. De noodzaak om te onderzoeken of de huidige wetgeving volstond, of aanpassingen nodig waren, of zelfs nieuwe wetgeving, werd benadrukt. Een solide Europees regelgevend kader voor betrouwbare AI werd gezien als essentieel voor de bescherming van burgers en de bevordering van de interne markt en de Europese industriële basis in AI. * **De weg naar de AI Act:** De introductie van krachtige generatieve AI en Large Language Models (LLM's) zoals ChatGPT, die niet expliciet werden behandeld in eerdere ontwerpen, noodzaakte aanpassingen. Uiteindelijk bevat de AI Act bepalingen voor algemene AI-modellen. Het begrijpen en implementeren van de verplichtingen van de AI Act blijft echter een uitdaging. > **Example:** De opkomst van generatieve AI, zoals ChatGPT, vereiste aanpassingen in de voorgestelde AI Act, omdat deze specifieke technologieën niet eerder volledig waren meegenomen in de regelgevende plannen. #### 1.3 Recente ontwikkelingen, twijfels en druk voor aanpassing De ontwikkeling en implementatie van AI-regelgeving verloopt niet zonder slag of stoot. Er is recentelijk sprake van twijfels en druk om regels te versoepelen of de implementatie ervan uit te stellen. * **Twijfels en tegenstand:** Sommige lidstaten, zoals Frankrijk, hebben gepleit voor lichtere regelgeving uit vrees dat strenge regels de concurrentiepositie met grote Amerikaanse en Chinese bedrijven zouden kunnen schaden. CEO's van grote bedrijven hebben formeel verzocht om een pauze in de implementatie van de AI Act, wat leidde tot een debat over het "stop the clock"-scenario. De vrees bestaat dat sommige verplichtingen te moeilijk zijn om te implementeren. * **Reactie van de Commissie:** Hoewel de Europese Commissie niet heeft ingestemd met een algemene pauze, zal zij wel vereenvoudigingen voorstellen voor enkele regels, onder meer via de Digital Omnibus. * **Terugtrekking van de AI Liability Directive:** Een instrument dat bedoeld was om de aansprakelijkheidsregels voor AI te harmoniseren, de AI Liability Directive, is door de Commissie ingetrokken omdat er geen consensus kon worden bereikt. Dit onderstreept de uitdagingen bij het vinden van brede steun voor nieuwe regelgeving. * **Roep om strengere regelgeving voor specifieke AI-toepassingen:** Tegelijkertijd is er ook een roep om juist strengere regelgeving voor bepaalde AI-toepassingen, bijvoorbeeld met betrekking tot kunstmatige superintelligentie, waarbij wordt bepleit om nu al maatregelen te nemen voordat deze technologie zich volledig ontwikkelt. De kern van deze debatten draait vaak om de balans tussen het bevorderen van innovatie en het beschermen van de rechten van burgers tegen de negatieve impact van AI. De vraag is wat de gevolgen zouden zijn voor het bereiken van deze beschermingsdoelen indien de implementatie wordt uitgesteld. > **Example:** De terugtrekking van de AI Liability Directive door de Europese Commissie toont aan hoe moeilijk het kan zijn om consensus te bereiken over de precieze vorm van AI-regelgeving, zelfs binnen de EU. Nathalie Smuha benadrukt dat AI een door mensen ontwikkelde tool is en dat, hoewel het schadelijk kan zijn, we ook intelligent genoeg moeten zijn om governancekaders te creëren die het goede gebruik ervan bevorderen en (on)bedoelde schade vermijden. De komende periode zal een diepere analyse van de EU AI Act worden verwacht, wat de uitdagingen en de verdere evolutie van AI-regelgeving zal verduidelijken. --- # Internationale en Europese regelgevende kaders voor AI Dit hoofdstuk onderzoekt de ontwikkeling van regelgevende kaders voor kunstmatige intelligentie (AI), met een focus op het Kaderverdrag inzake AI van de Raad van Europa en de weg van de Europese Unie naar de AI Act, inclusief hun doelstellingen en kritieken. ### 2.1 Evolutie van AI-regulering: van ethiek naar bindend recht De regulering van AI heeft een evolutie doorgemaakt van ethische principes naar bindende juridische kaders. Initiële benaderingen richtten zich op ethische richtlijnen en principes, zoals die van de Europese Commissie voor Trustworthy AI, de UNESCO-aanbeveling inzake de ethiek van AI, en resoluties van de VN. Deze principes omvatten concepten als menselijk toezicht en transparantie. Hoewel deze ethische kaders nuttig zijn in de vroege ontwikkelingsfasen van technologie, kunnen ze leiden tot juridische onzekerheid vanwege hun abstracte aard en moeilijkheden bij handhaving. Naarmate het begrip van AI-systemen en hun risico's toenam, groeide de behoefte aan strengere, bindende wetgeving. ### 2.2 Het Kaderverdrag inzake AI van de Raad van Europa De Raad van Europa heeft een belangrijke stap gezet met de ontwikkeling van het Kaderverdrag inzake AI. Na een studie door het CAHAI (Committee on Artificial Intelligence), werd besloten tot de opstelling van een juridisch bindend verdrag. #### 2.2.1 Doelstellingen en kenmerken Het hoofddoel van het verdrag is het waarborgen dat activiteiten gedurende de levenscyclus van AI-systemen volledig in overeenstemming zijn met de mensenrechten, democratie en de rechtsstaat. Het verdrag is een product van consensus en staat open voor ratificatie door niet-leden van de Raad van Europa. #### 2.2.2 Risicogebaseerd en horizontaal systeem Het verdrag hanteert een risicogebaseerd systeem en stelt horizontale vereisten op. Het erkent de potentiële negatieve impact van AI en verplicht staten om regels in te voeren ter bescherming van de mensenrechten. Hoewel het verdrag probeert ethische principes bindend te maken en enkele concrete verplichtingen op het gebied van transparantie bevat, is het door de brede consensus tijdens de opstelling vaak abstract en algemeen geformuleerd. Dit vereist aanzienlijke concretisering om de principes in de praktijk te kunnen toepassen. #### 2.2.3 Kritiek op het verdrag Een belangrijke kritiek op het Kaderverdrag is dat de bepalingen tijdens het opstellingsproces aanzienlijk zijn verwaterd. Hierdoor is er kritiek dat het verdrag, hoewel een belangrijke stap, mogelijk onvoldoende concreet is om effectief te worden gehandhaafd en om de beoogde bescherming volledig te garanderen. ### 2.3 De Europese Unie: de weg naar de AI Act De Europese Unie heeft een meer gedetailleerde en specifieke aanpak gevolgd met de ontwikkeling van de AI Act. De EU erkent dat bestaande wetgeving (zoals op het gebied van gegevensbescherming, non-discriminatie, consumentenbescherming en productveiligheid) ook van toepassing is op AI-systemen. Echter, specifieke kenmerken van AI, zoals de 'onzichtbaarheid' van systemen, kunnen de toepassing en handhaving van deze wetgeving bemoeilijken. #### 2.3.1 Van witte papieren naar een juridisch instrument In 2020 publiceerde de Europese Commissie een White Paper "On Artificial Intelligence - A European approach to excellence and trust". Hierin werd de behoefte onderkend om te onderzoeken of de bestaande wetgeving adequaat is, of aanpassingen nodig zijn, of dat nieuwe wetgeving vereist is om de risico's van AI effectief aan te pakken en een interne markt voor betrouwbare AI te creëren. Dit leidde tot de ontwikkeling van de AI Act. #### 2.3.2 Ontwikkeling en aanpassingen van de AI Act De AI Act is een ambitieuze poging om een omvattend juridisch kader voor AI te creëren. Tijdens het wetgevingsproces zijn er echter discussies ontstaan, mede ingegeven door snelle technologische ontwikkelingen zoals generatieve AI en grote taalmodellen (LLM's). Hierdoor moesten aanpassingen worden gedaan om ook deze 'general purpose AI models' te adresseren. > **Tip:** Het is cruciaal om de specifieke risicoklassen en de bijbehorende verplichtingen binnen de AI Act te begrijpen, aangezien deze de kern vormen van de regulering. #### 2.3.3 Kritiek en recente evoluties De AI Act heeft te maken gehad met diverse kritieken en recente evoluties: * **Druk voor versoepeling:** Sommige lidstaten, zoals Frankrijk, hebben gepleit voor lichtere regulering uit vrees dat strenge regels de concurrentiepositie van Europese AI-bedrijven zouden kunnen schaden ten opzichte van Amerikaanse en Chinese concurrenten. * **Verzoek om uitstel:** CEO's van grote bedrijven hebben formeel verzocht om een pauze in de implementatie van de AI Act, argumenterend dat bepaalde verplichtingen moeilijk uitvoerbaar zijn. Hoewel de Europese Commissie hier tot op heden niet mee heeft ingestemd, is er wel aangekondigd dat er vereenvoudigingen voor sommige regels zullen komen. * **Intrekking van de AI Liability Directive:** Een ander instrument, de AI Liability Directive, die tot doel had de aansprakelijkheidsregels voor AI te harmoniseren, is door de Commissie ingetrokken wegens een gebrek aan consensus. > **Example:** De introductie van generatieve AI zoals ChatGPT dwong bijvoorbeeld tot een heroverweging van de AI Act, aangezien de oorspronkelijke tekst mogelijk onvoldoende rekening hield met de specifieke kenmerken en risico's van dergelijke modellen. Tegelijkertijd is er ook een roep om strengere regulering voor bepaalde AI-toepassingen, wat de complexiteit van het regelgevingslandschap onderstreept. De fundamentele vraag blijft hoe innovatie kan worden bevorderd terwijl de negatieve impact op de rechten van burgers wordt geminimaliseerd. De ontwikkeling van deze internationale en Europese kaders toont de voortdurende inspanning om een balans te vinden tussen technologische vooruitgang en de bescherming van fundamentele waarden en rechten. --- # Recente ontwikkelingen en uitdagingen in AI-regelgeving Dit onderdeel bespreekt de huidige twijfels en druk om regels te versoepelen of implementatie uit te stellen, evenals oproepen voor strengere regelgeving voor specifieke AI-toepassingen. ### 3.1 Tegenstrijdige stromingen in AI-regelgeving De ontwikkeling van AI-regelgeving kent twee tegengestelde trends: enerzijds is er druk om bestaande of geplande regels te versoepelen of de implementatie ervan uit te stellen, anderzijds zijn er oproepen tot strengere regulering voor specifieke AI-toepassingen. #### 3.1.1 Twijfels en druk tot versoepeling of uitstel Er ontstaan twijfels over de huidige regelgeving en er is druk om deze te versoepelen of de implementatie ervan uit te stellen. Dit wordt gedreven door verschillende factoren: * **Competitiviteitsangst:** Landen en bedrijven vrezen dat strenge regelgeving hun concurrentievermogen ten opzichte van andere regio's (zoals de Verenigde Staten en China) zal schaden. Een voorbeeld hiervan is Frankrijk, dat pleitte voor lichtere regelgeving uit vrees dat strenge regels hun nationale AI-bedrijven zouden belemmeren. * **Formele verzoeken tot uitstel:** CEO's van bedrijven hebben formeel verzocht aan de Europese Commissie om de implementatie van de AI Act te pauzeren, met het argument dat bepaalde verplichtingen moeilijk te implementeren zijn. Dit debat wordt ook wel aangeduid als het "stop the clock debate". * **Intrekking van wetgevingsvoorstellen:** De Europese Commissie heeft een voorstel voor een AI-aansprakelijkheidsrichtlijn ingetrokken omdat er geen consensus kon worden bereikt over de harmonisatie van aansprakelijkheidsregels voor AI. Hoewel de Europese Commissie tot op heden niet heeft ingestemd met een algemene pauze, plant zij wel simplificaties voor sommige regels, ook voor andere instrumenten dan alleen de AI Act, via een zogenoemd "Digital Omnibus". > **Tip:** Het begrijpen van de economische en strategische drijfveren achter deze druk tot versoepeling is cruciaal om de dynamiek in AI-regelgeving te doorgronden. #### 3.1.2 Oproepen tot strengere regelgeving voor specifieke AI-toepassingen Tegelijkertijd groeit de roep om specifiekere en strengere regelgeving voor bepaalde AI-toepassingen. Dit komt voort uit de erkenning dat AI-systemen, ondanks hun potentieel, ook aanzienlijke risico's met zich mee kunnen brengen. * **Risicogebaseerde benadering:** De onderliggende gedachte is dat AI-systemen, net als andere mensgemaakte hulpmiddelen, zowel positieve als negatieve gevolgen kunnen hebben. Het doel is om de positieve toepassingen te benutten en de negatieve (opzettelijke of onopzettelijke) schadelijke effecten te vermijden. * **Noodzaak van governance:** Er is een consensus dat voldoende intelligentie nodig is om niet alleen AI-systemen te creëren, maar ook om passende governance-kaders te ontwikkelen die het goede gebruik bevorderen en schadelijk gebruik ontmoedigen. * **Voorbeelden van concrete oproepen:** Er zijn initiatieven die pleiten voor een verbod op bepaalde geavanceerde vormen van AI, zoals kunstmatige superintelligentie, nog voordat deze volledig zijn ontwikkeld, om zo catastrofale risico's te voorkomen. > **Example:** De discussie rondom generatieve AI en grote taalmodellen (LLM's) illustreert deze trend. De initiële versies van de AI Act hielden hier onvoldoende rekening mee, wat leidde tot aanpassingen om specifieke bepalingen voor algemene AI-modellen op te nemen. Deze tegenstrijdige stromingen benadrukken de complexe en dynamische aard van AI-regelgeving, waarbij een constante afweging moet worden gemaakt tussen het stimuleren van innovatie en het waarborgen van fundamentele rechten en veiligheid. --- ## Veelgemaakte fouten om te vermijden - Bestudeer alle onderwerpen grondig voor examens - Let op formules en belangrijke definities - Oefen met de voorbeelden in elke sectie - Memoriseer niet zonder de onderliggende concepten te begrijpen

| Term | Definition | |------|------------| | Kunstmatige Intelligentie (AI) | AI is een technologie die wordt gebruikt om systemen te creëren die taken kunnen uitvoeren die normaal menselijke intelligentie vereisen, zoals leren, probleemoplossing en besluitvorming. | | Regelgevingsvacuüm | Een situatie waarin er geen specifieke wetten of voorschriften bestaan om een bepaalde technologie of activiteit te beheersen, wat kan leiden tot onzekerheid en potentiële risico's. | | Ethische principes | Richtlijnen en normen die het gewenste gedrag en de waarden uitdrukken die worden nagestreefd bij de ontwikkeling en toepassing van AI, gericht op het waarborgen van een verantwoorde en mensgerichte technologie. | | Bindende wetgeving | Formele wetten en voorschriften die wettelijk afdwingbaar zijn en waaraan individuen en organisaties zich moeten houden, met sancties bij niet-naleving. | | Risicogebaseerd systeem | Een regelgevend benadering die de mate van regulering afstemt op het potentiële risiconiveau van een AI-systeem, waarbij systemen met hogere risico's strengere vereisten hebben. | | Menselijk toezicht | Het mechanisme waarbij menselijke tussenkomst of controle mogelijk is bij de werking van AI-systemen, met name om de output te corrigeren of de naleving van principes te waarborgen. | | Juridische onzekerheid | Een staat van onduidelijkheid met betrekking tot de toepassing en interpretatie van wetten, waardoor het voor bedrijven en individuen moeilijk is om te weten welke regels van toepassing zijn en hoe ze moeten worden nageleefd. | | Kaderverdrag | Een internationale overeenkomst die een juridisch bindend kader biedt voor lidstaten, die verplichtingen schetst die na ratificatie moeten worden nageleefd, en die openstaat voor niet-lidstaten. | | Generatieve AI | Een type AI dat in staat is om nieuwe content te creëren, zoals tekst, afbeeldingen, muziek of code, gebaseerd op de patronen en structuren die het heeft geleerd uit trainingsdata. | | AI Act | Een voorgestelde verordening van de Europese Unie die tot doel heeft een alomvattend regelgevend kader voor kunstmatige intelligentie te creëren, met regels gebaseerd op risiconiveaus om de veiligheid en fundamentele rechten te waarborgen. |