3. L&T_2025-26_Human rights FoE Discrimination Children's Rights Liability Intermediaries.pptx

# Bescherming van fundamentele rechten in het digitale tijdperk Dit onderwerp onderzoekt hoe fundamentele mensenrechten, zoals vrijheid van meningsuiting en non-discriminatie, worden beïnvloed door digitale technologieën en welke regelgevende kaders hiervoor bestaan. ## 1. Inleiding: De impact van technologie op fundamentele rechten Technologie, zowel digitaal als niet-digitaal, heeft een tweeledige impact op fundamentele rechten: het kan deze positief bevorderen, maar ook negatief beïnvloeden. Wanneer negatieve effecten optreden, zullen regelgevers ingrijpen door middel van wetgevende maatregelen of adviezen. Het respecteren van mensenrechten vormt de basis voor effectieve en humane regelgeving, waarbij de voordelen van nieuwe technologieën opwegen tegen de risico's. Internationale en Europese organisaties leggen sterk de nadruk op mensenrechten in het digitale tijdperk. > **Tip:** De kern van dit onderwerp is de interactie tussen opkomende technologieën en gevestigde rechten. Vragen rond de impact van technologie rijzen telkens er nieuwe ontwikkelingen zijn. ### 1.1 Wie beschermt en respecteert mensenrechten? Internationale verdragen en conventies richten zich primair tot staten. Staten hebben de plicht om actie te ondernemen en maatregelen te treffen ter bescherming van mensenrechten. Tevens moeten staten ervoor zorgen dat ondernemingen hun verantwoordelijkheid nemen op het gebied van mensenrechtenrespect. ## 2. Vrijheid van meningsuiting en digitale technologieën Vrijheid van meningsuiting wordt beschouwd als een essentiële pijler van een democratische samenleving, cruciaal voor vooruitgang en individuele ontwikkeling. ### 2.1 Kansen en uitdagingen in het digitale tijdperk Sociale media bieden nieuwe mogelijkheden voor het uitoefenen van het recht op vrije meningsuiting, informatievergaring en het uiten van meningen. Het internet werd initieel gezien als een democratiserend middel dat participatie aan publieke discussies mogelijk maakte. Echter, digitale technologieën kunnen ook een negatieve impact hebben, bijvoorbeeld door de verspreiding van "fake news", wat de informatievoorziening en eerlijke verkiezingen kan beïnvloeden. Algoritmen bepalen steeds meer de content die gebruikers te zien krijgen, wat kan leiden tot een vermindering van de contentdiversiteit en de vorming van echokamers, waarin gebruikers voornamelijk worden blootgesteld aan informatie die hun bestaande ideeën bevestigt. Dit is problematisch voor de democratische vorming van een eigen mening. 'Chilling effects' treden op wanneer individuen hun recht op vrije meningsuiting niet volledig durven uit te oefenen uit angst voor consequenties, bijvoorbeeld wanneer online gedrag door overheden wordt opgeslagen. > **Tip:** De VN veroordeelt vaak maatregelen van overheden die het internet of specifieke platforms afsluiten, met name tijdens crisissituaties of verkiezingen, aangezien dit de toegang tot informatie beperkt. ### 2.2 Internationale en Europese kaders Internationaal worden maatregelen die de toegang tot informatie online belemmeren, zoals internetafsluitingen en online censuur, veroordeeld. De Universal Declaration of Human Rights (UDHR) en het International Covenant on Civil and Political Rights (ICCPR) passen artikel 19 toe op alle vormen van expressie, inclusief internet-gebaseerde expressie. Deze bescherming is echter niet absoluut en kan onderhevig zijn aan beperkingen indien aan specifieke voorwaarden wordt voldaan. De Special Rapporteur van de VN over vrijheid van meningsuiting focust op digitale aspecten en doet aanbevelingen aan overheden voor het mitigeren van negatieve technologische impact. Het Europees Verdrag voor de Rechten van de Mens (EVRM) stelt dat alle rechten, waaronder de vrijheid van meningsuiting, geldig blijven in het informatie-tijdperk. Staten moeten hun regelgevende kaders beoordelen op hun impact op deze vrijheid. Privé-eigenaars van digitale infrastructuren spelen een cruciale rol. Het Europees Hof voor de Rechten van de Mens (EHRM) behandelt steeds meer zaken gerelateerd aan vrijheid van meningsuiting in de online omgeving, erkennend dat het internet een essentieel middel is geworden voor deelname aan publieke discussies. Het Hof oordeelt over kwesties als internetblokkades, hyperlinks naar illegale content, online haatspraak, en de impact van surveillance op journalisten. > **Voorbeeld:** In de zaak *Ahmet Yildirim v. Turkije* oordeelde het EHRM dat een preventieve blokkade van de gehele Google Sites-dienst, die ook legitieme websites trof, een schending van artikel 10 EVRM inhield, gezien de cruciale rol van het internet voor de vrijheid van meningsuiting. De EU stelt in het Handvest van de grondrechten de vrijheid van meningsuiting en informatie centraal (artikel 11). Beperkingen moeten voldoen aan de voorwaarden van artikel 52 van het Handvest. De Europese Verklaring over Digitale Rechten en Principes voor het Digitale Decennium benadrukt het belang van het ondersteunen van democratisch debat online en het mitigeren van risico's zoals mis- en desinformatie, met respect voor fundamentele rechten. ### 2.3 Wetgeving in de EU en België De EU-regelgeving die relevant is voor de vrijheid van meningsuiting omvat de Audiovisual Media Services Directive (regels inzake illegale en schadelijke content op videoplatformen) en de Digital Services Act (DSA), die regels stelt aan de aansprakelijkheid van platforms, contentmoderatie en maatregelen tegen desinformatie en illegale content. De General Data Protection Regulation (GDPR) kent vrijstellingen voor journalistieke, academische, artistieke of literaire expressie. Belgische grondwetsartikelen 19 en 25 waarborgen de vrijheid van meningsuiting en de persvrijheid. De interpretatie van "persmisdrijf" is geëvolueerd om ook online publicaties te omvatten, hoewel de toepassing op audiovisueel materiaal nog discussie oproept. Artikel 150 van de Belgische Grondwet voorziet in de juryrechtspraak voor politieke en persmisdrijven, wat een zekere bescherming biedt, maar dit artikel is open verklaard voor herziening. De classificatie van "persmisdrijf" en de lange procedures voor het Hof van Assisen leiden soms tot 'de facto straffeloosheid', behalve voor misdrijven ingegeven door racisme of xenofobie. > **Tip:** Houd rekening met de evolutie van "persmisdrijf" van puur gedrukte media naar digitale publicaties. ## 3. Aansprakelijkheid van online tussenpersonen Online platforms, als tussenpersonen die gebruikerscontent hosten, kunnen geconfronteerd worden met de vraag naar hun aansprakelijkheid voor illegale content die door gebruikers wordt geüpload. ### 3.1 Uitdagingen en overwegingen De enorme hoeveelheid geüploade content maakt volledige controle moeilijk. Aansprakelijkheid van platforms kan leiden tot overmatige verwijdering van legitieme content uit angst voor juridische gevolgen ('over-removal'), wat de vrijheid van meningsuiting aantast. Beslissingen over contentverwijdering worden genomen door private actoren (bedrijven), wat vragen oproept over democratische controle. > **Voorbeeld:** De zaken *Delfi v. Estonia* en *MTE & Index v. Hungary* illustreren hoe het EHRM geoordeeld heeft over de aansprakelijkheid van nieuw sportenportals voor gebruikerscommentaren, waarbij het onderscheid gemaakt wordt tussen duidelijk onrechtmatige content en "vulgaire en offensieve" opmerkingen. De Committee of Ministers van de Raad van Europa benadrukt de plicht van staten om mensenrechten te beschermen in de digitale omgeving en de verantwoordelijkheden van online tussenpersonen. Maatregelen die de vrijheid van meningsuiting beperken, moeten voldoen aan de voorwaarden van artikel 10, lid 2 EVRM. ### 3.2 Regelgeving in de EU De Digital Services Act (DSA) in de EU voorziet in vrijstellingen van aansprakelijkheid voor tussenpersonen (mere conduit, caching, hosting) onder bepaalde voorwaarden. Dit geldt voor "illegale content", een breed concept dat verwijst naar content, producten, diensten en activiteiten die onder de toepasselijke wetgeving illegaal zijn. > **Voorbeeld:** Recital 12 van de DSA geeft voorbeelden van illegale content, zoals beelden van seksueel misbruik van kinderen, de onrechtmatige niet-consensuele deling van privébeelden, online stalking, de verkoop van niet-conforme of vervalste producten, auteursrechtschendingen, en illegale aanbiedingen van accommodatie. Hostingdienstaanbieders zijn vrijgesteld van aansprakelijkheid indien zij geen kennis hebben van illegale activiteit of informatie en, na het verkrijgen van dergelijke kennis, spoedig handelen om de informatie te verwijderen of de toegang ertoe te blokkeren. Deze maatregelen moeten fundamentele rechten, waaronder de vrijheid van meningsuiting, respecteren. De "Good Samaritan"-clausule (artikel 7 DSA) staat vrijwillige inspanningen van hostingproviders om illegale content te detecteren en te verwijderen toe, zonder dat dit de aansprakelijkheidsvrijstellingen tenietdoet, mits deze te goeder trouw, zorgvuldig, objectief, niet-discriminerend en proportioneel worden uitgevoerd. Lidstaten mogen geen algemene monitoringsplicht opleggen aan tussenpersonen (artikel 8 DSA). Dit zou een onwettige inmenging in fundamentele rechten betekenen. Wel kunnen nationale rechterlijke of bestuursrechtelijke autoriteiten specifieke bevelen uitvaardigen om op te treden tegen concrete illegale content of specifieke informatie te verstrekken. Artikelen 9 en 10 DSA harmoniseren de voorwaarden voor dergelijke bevelen. ## 4. Digitale discriminatie Digitale technologieën, met name kunstmatige intelligentie (AI), kunnen bestaande maatschappelijke vooroordelen perpetueren of zelfs versterken, wat onevenredig vrouwen, minderheidsgroepen en gemarginaliseerde personen treft. ### 4.1 Oorzaken van digitale discriminatie De 'black box'-aard van complexe algoritmen maakt het moeilijk om de exacte oorzaken van discriminerende uitkomsten te achterhalen, wat de bewijslast voor slachtoffers bemoeilijkt. Discriminatie kan voortkomen uit: * **Vooroordelen in datasets:** Trainingsdata weerspiegelen vaak historische of structurele vooroordelen (bv. gender, etniciteit), wat leidt tot systematisch discriminerende voorspellingen voor ondervertegenwoordigde groepen. * **Ontwerpkeuzes van ontwikkelaars:** Onbewuste vooroordelen van ontwikkelaars kunnen zich 'seepen' in het ontwerp van technologie, zelfs als de data representatief is. > **Tip:** Het "black box"-effect van algoritmen vormt een significante hindernis bij het aantonen van discriminatie. ### 4.2 Juridische kaders Internationale mensenrechtenverdragen, zoals de UDHR, ICCPR, CEDAW en CERD, verbieden discriminatie en zijn ook van toepassing op digitale technologieën. De VN Special Rapporteur over hedendaagse vormen van racisme wijst op het verergeren van bestaande ongelijkheden door digitale technologieën en benadrukt de noodzaak om zowel expliciete als indirecte en structurele vormen van raciale discriminatie aan te pakken. De Raad van Europa erkent de risico's op discriminatie in digitale contexten, vooral bij AI, en streeft naar het respecteren van gelijkheid en het verbod op discriminatie in de gehele levenscyclus van AI-systemen. De EU Charter van de grondrechten verbiedt discriminatie (artikel 21) en pleit voor gelijkheid tussen mannen en vrouwen (artikel 23). De GDPR verbiedt volledig geautomatiseerde beslissingen met een discriminerend effect (artikel 22). De Digital Services Act verbiedt profilering-gebaseerde advertenties op basis van gevoelige persoonsgegevens van minderjarigen. De Europese AI Act stelt eisen aan AI-systemen om discriminatie en oneerlijke vooroordelen te vermijden. Voor hoog-risico AI-systemen geldt een zorgvuldige data governance en beheer, met aandacht voor mogelijke vooroordelen. Biasdetectie en -correctie zijn essentieel, waarbij datasets relevant, representatief en zo veel mogelijk foutloos moeten zijn. Belgische wetgeving zoals de Antiracismewet, Antidiscriminatiewet en Genderwet is ook van toepassing in de online omgeving. ## 5. Rechten van kinderen in de digitale omgeving Het digitale tijdperk biedt kinderen nieuwe kansen maar brengt ook risico's met zich mee voor de schending van hun rechten. Staten hebben de plicht om hun wetgeving en beleid aan te passen om de rechten van kinderen te beschermen en te bevorderen in de digitale omgeving. ### 5.1 Kansen en risico's Digitale technologieën bieden mogelijkheden voor educatie, overheidsdiensten en deelname aan maatschappelijke discussies. Tegelijkertijd bestaan er risico's zoals online kindermisbruik (waaronder AI-gegenereerd materiaal), cyberpesten, commerciële exploitatie, manipulatie en emotieherkenning. ### 5.2 Bescherming van kindergegevens Kinderen worden beschouwd als een kwetsbare groep, wat specifieke bescherming van hun gegevens vereist onder de GDPR, met name wat betreft marketing en profielopbouw. Kinderen moeten kindvriendelijke informatie ontvangen over gegevensverwerking. Data Protection Impact Assessments zijn cruciaal voor risicovolle gegevensverwerking. ### 5.3 Commerciële exploitatie Wetgeving ter bescherming tegen commerciële exploitatie, inclusief de misbruik van kwetsbaarheden van kinderen door sociale media en influencers, is essentieel. De Digital Services Act (DSA) verbiedt advertenties op basis van profilering met behulp van persoonsgegevens van minderjarigen. ### 5.4 Manipulatie en emotieherkenning De AI Act verbiedt AI-systemen die manipulatieve technieken gebruiken om gedrag te beïnvloeden op een manier die autonomie en vrije keuzes ondermijnt, met name wanneer deze kwetsbaarheden van kinderen uitbuiten. Er zijn ernstige zorgen over de betrouwbaarheid en wetenschappelijke basis van emotieherkenningssystemen, die kunnen leiden tot discriminerende uitkomsten en inbreuken op de privacy. Emotieherkenning in onderwijsinstellingen is verboden. > **Voorbeeld:** Een spel dat AI gebruikt om het gedrag van kinderen te analyseren en gepersonaliseerde, verslavende beloningen creëert om excessief spelen aan te moedigen, valt onder de verboden manipulatieve technieken. ### 5.5 Online bescherming van minderjarigen (DSA) De DSA vereist dat online platforms die toegankelijk zijn voor minderjarigen, passende maatregelen nemen om privacy, veiligheid en beveiliging te waarborgen. Dit omvat: * **Standaard privé-instellingen:** Accounts van minderjarigen worden standaard privé ingesteld. * **Aanpassing van aanbevelingssystemen:** Risico op schadelijke content of 'rabbit holes' wordt verlaagd. * **Gebruikersbeheer:** Kinderen kunnen gebruikers blokkeren en dempen, en niet zonder hun expliciete toestemming aan groepen worden toegevoegd. * **Beperkingen op downloaden/screenshots:** Voorkomen van ongewenste verspreiding van geseksualiseerde of intieme content. * **Geen profilering-gebaseerde advertenties:** Gebruik van persoonsgegevens van minderjarigen voor advertentiedoeleinden is verboden. > **Tip:** De DSA brengt significante veranderingen met zich mee voor de online bescherming van minderjarigen, waaronder strikte regels voor advertenties en contentmoderatie gericht op deze kwetsbare groep. --- # Aansprakelijkheid van online tussenpersonen Dit deel behandelt de juridische verantwoordelijkheid van online platforms voor inhoud die door gebruikers wordt geüpload, inclusief de uitdagingen en de rol van wetgeving zoals de Digital Services Act. ### 2.1 Introductie tot de aansprakelijkheid van online tussenpersonen Online platforms functioneren als tussenpersonen die gebruikersinhoud hosten. De centrale vraag is of deze platforms aansprakelijk kunnen worden gesteld voor illegale inhoud die door gebruikers wordt geüpload. Dit brengt diverse uitdagingen met zich mee, zoals het immense volume van geüploade content, de impact op de vrijheid van meningsuiting, en de neiging tot overmatige verwijdering van legitieme content uit angst voor aansprakelijkheid. Bovendien komt de beslissing over wat te verwijderen toe aan private actoren, wat vragen oproept over de verenigbaarheid met democratische principes. ### 2.2 Juridisch kader en jurisprudentie #### 2.2.1 Europese jurisprudentie De jurisprudentie van het Europees Hof voor de Rechten van de Mens (EHRM) heeft hierover uitspraken gedaan. * **Delfi v. Estonia (2015):** Internetnieuw sportalen kunnen aansprakelijk worden gesteld indien zij niet tijdig maatregelen nemen om duidelijk onrechtmatige commentaren van gebruikers, met aanzetten tot haat of geweld, te verwijderen, zelfs zonder melding van het vermeende slachtoffer of derden. * **MTE & Index v. Hungary (2015):** Tussenpersonen kunnen niet aansprakelijk worden gesteld voor vulgaire en beledigende commentaren die door gebruikers worden geplaatst. Het is van belang te noteren dat een nieuwsportaal verschilt van een sociaalmediaplatform in de beoordeling van aansprakelijkheid. #### 2.2.2 Raad van Europa De Commissie van Ministers van de Raad van Europa heeft in 2018 aanbevelingen gedaan inzake de rollen en verantwoordelijkheden van internet tussenpersonen. Deze benadrukken: * De plicht van lidstaten om mensenrechten te beschermen in de digitale omgeving. * De verantwoordelijkheden van online tussenpersonen voor het respecteren van de vrijheid van meningsuiting binnen hun online ruimtes. * Maatregelen die door tussenpersonen worden genomen en die een beperking van de vrijheid van meningsuiting kunnen inhouden, moeten voldoen aan de voorwaarden van artikel 10, lid 2 van het EVRM (voorzien bij wet, legitiem doel, noodzakelijk in een democratische samenleving). * Transparantie en verantwoording voor contentmoderatie. De macht van deze tussenpersonen als protagonisten van online expressie vereist een duidelijke rol en impact op mensenrechten, evenals hun plichten en verantwoordelijkheden, met inbegrip van het risico op misbruik door criminelen. ### 2.3 De Digital Services Act (DSA) De Digital Services Act (DSA) is een cruciale EU-wetgeving die de aansprakelijkheid van online tussenpersonen reguleert. #### 2.3.1 Uitzonderingen op aansprakelijkheid De DSA voorziet in uitzonderingen op de (civiele, strafrechtelijke of administratieve) aansprakelijkheid voor dienstverleners van tussenpersonen, mits aan bepaalde voorwaarden is voldaan. Dit geldt voor "hosting services" (dienstverleners die informatie opslaan die door een ontvanger van de dienst wordt verstrekt, zoals videodiensten, sociale mediaplatformen, marktplaatsen, etc.). * **Voorwaarden voor uitzondering:** * De tussenpersoon mag geen daadwerkelijke kennis hebben van de illegale activiteit of informatie. * Bij het verkrijgen van dergelijke kennis of bewustzijn, moet de tussenpersoon onverwijld handelen om de toegang tot de informatie te verwijderen of onmogelijk te maken. * De verwijdering of blokkering van toegang moet gebeuren met inachtneming van de fundamentele rechten van de ontvangers van de dienst, waaronder het recht op vrijheid van meningsuiting en informatie. #### 2.3.2 Kennis van illegale inhoud Kennis kan worden verkregen door: * Meldingen van individuen (het "rapporteren" of "flaggen" van content). * Eigen onderzoek door het platform, bijvoorbeeld met behulp van geautomatiseerde tools. #### 2.3.3 "Good Samaritan"-clausule (Artikel 7 DSA) Vrijwillige activiteiten van hostingproviders die gericht zijn op het opsporen, identificeren en optreden tegen illegale content, doen geen afbreuk aan de vrijstelling van aansprakelijkheid, mits deze te goeder trouw en zorgvuldig worden uitgevoerd. Dit betekent dat de acties: * Objectief, niet-discriminerend en evenredig moeten zijn. * Rekening moeten houden met de rechten en legitieme belangen van alle betrokken partijen. * Noodzakelijke waarborgen moeten bieden tegen ongerechtvaardigde verwijdering van legale content. Bij het gebruik van geautomatiseerde tools voor dergelijke activiteiten, moet de technologie voldoende betrouwbaar zijn om de foutenmarge zoveel mogelijk te beperken. #### 2.3.4 Geen algemene monitoringsplicht Lidstaten mogen geen algemene plicht opleggen aan dienstverleners van tussenpersonen om de informatie die zij verzenden of opslaan te monitoren, noch actief feiten of omstandigheden die wijzen op illegale activiteit te zoeken. Dit zou een onrechtmatige inmenging vormen in de rechten en vrijheden, waaronder de vrijheid van meningsuiting en privacy. Echter, specifieke verzoeken tot monitoring in een bepaald geval, en met name bevelen van nationale autoriteiten conform de nationale wetgeving, zijn wel toegestaan. Nationale rechterlijke of administratieve autoriteiten, inclusief wetshandhavingsinstanties, kunnen dienstverleners van tussenpersonen bevelen op te treden tegen één of meer specifieke illegale inhoud (bv. verwijderen) of bepaalde specifieke informatie te verstrekken over ontvangers. De artikelen 9 en 10 van de DSA harmoniseren de voorwaarden die aan dergelijke bevelen moeten worden voldaan en de aanvullende vereisten voor de verwerking ervan. #### 2.3.5 Rol van illegale content Het begrip "illegale content" wordt breed geïnterpreteerd en omvat informatie, ongeacht de vorm, die volgens de toepasselijke wetgeving zelf illegaal is, of die door de toepasselijke regels illegaal wordt gemaakt vanwege de relatie met illegale activiteiten. > **Voorbeelden van illegale content (Recital 12 DSA):** > * Delen van beelden van seksueel misbruik van kinderen. > * Onrechtmatig niet-consensueel delen van privébeelden. > * Online stalking. > * Verkoop van niet-conforme of vervalsde producten. > * Verkoop van producten of diensten in strijd met consumentenbeschermingswetgeving. > * Ongeautoriseerd gebruik van auteursrechtelijk beschermd materiaal. > * Illegaal aanbieden van accommodatiediensten of illegale verkoop van levende dieren. ### 2.4 Uitdagingen en beleidsuitdagingen * **Volume van content:** De enorme hoeveelheid geüploade content maakt effectieve controle uiterst moeilijk. * **Impact op vrijheid van meningsuiting:** Aansprakelijkheid kan leiden tot "over-removal" van legitieme content uit voorzichtigheid. * **Private actors als beslissers:** Het feit dat bedrijven beslissen welke content te verwijderen, roept vragen op over transparantie en democratische controle. * **Complexiteit van beoordeling:** Het onderscheiden van bijvoorbeeld haatspraak is zelfs voor rechters complex, laat staan voor private actoren. * **Gevolgen van preventieve maatregelen:** Volledig offline halen van platforms (zoals in Ahmet Yildirim v. Turkey) heeft onevenredige gevolgen voor legitieme content. De uitdaging ligt in het balanceren van de bescherming tegen illegale inhoud met de waarborging van fundamentele rechten, met name de vrijheid van meningsuiting en informatie. --- # Kinderrechten in de digitale omgeving Dit hoofdstuk behandelt de specifieke rechten van kinderen in de digitale omgeving, waarbij wordt ingegaan op de kansen die technologie biedt voor de realisatie van kinderrechten, maar ook op de risico's van schending of misbruik. ## 8. Kinderrechten in de digitale omgeving De digitale omgeving wordt steeds belangrijker in vrijwel alle aspecten van het leven van kinderen. Hoewel dit nieuwe kansen biedt voor de verwezenlijking van kinderrechten, brengt het ook risico's met zich mee voor hun schending of misbruik. Staten hebben de plicht om wetgevende, beleidsmatige en andere maatregelen te nemen om ervoor te zorgen dat zij voldoen aan hun verplichtingen onder het Verdrag inzake de Rechten van het Kind en de optionele protocollen, rekening houdend met de mogelijkheden, risico's en uitdagingen in de digitale omgeving. ### 8.1 Overzicht van kinderrechten en de digitale omgeving De Conventie inzake de Rechten van het Kind (1989) is opgesteld in een tijdperk met aanzienlijk minder technologie in het leven van kinderen. Daarom moet de Conventie worden geherinterpreteerd om te begrijpen hoe de rechten van kinderen worden beïnvloed door de huidige digitale technologieën. De digitale omgeving kan nieuwe mogelijkheden bieden voor de uitoefening van rechten zoals: * Het recht op vrijheid van vereniging (artikel 15 IVRK). * Het recht op participatie (artikel 12 IVRK). ### 8.2 Maatregelen door staten Staten moeten specifieke maatregelen nemen om kinderrechten in de digitale omgeving te waarborgen. Dit omvat: * **Wetgevende en administratieve maatregelen ter bescherming van kinderen tegen geweld in de digitale omgeving:** Dit omvat de bescherming tegen online seksuele uitbuiting van kinderen en cyberpesten. * **Wetgevende maatregelen ter bescherming van de persoonsgegevens van kinderen:** Specifieke bescherming is vereist voor de gegevens van kinderen, vooral met betrekking tot marketingdoeleinden of het creëren van persoonlijkheids- of gebruikersprofielen. * **Wetgevende maatregelen ter bescherming van kinderen tegen commerciële uitbuiting:** Kinderen moeten beschermd worden tegen manipulatie en misbruik van hun kwetsbaarheden voor commerciële doeleinden. * **Wetgevende maatregelen ter bescherming van kinderen tegen manipulatie of inmenging met hun recht op vrijheid van gedachte en geloof:** Dit kan betrekking hebben op technieken zoals emotionele analyse of inferentie. #### 8.2.1 Online seksuele uitbuiting van kinderen De criminalisering van (online) kinderpornografie en grooming is een belangrijk aandachtspunt. Hoewel wetgeving, zoals Richtlijn 2011/93/EU (die momenteel wordt herzien), bestaat, is het door de snelle technologische evolutie noodzakelijk om het wettelijke kader voortdurend aan te passen. Technologische ontwikkelingen zoals AI-gegenereerde beelden, live-streaming en andere vormen van content vereisen een voortdurende herziening van de wetgeving. Het effectief handhaven van deze wetgeving blijft echter een uitdaging vanwege de anonimiteit die overtreders vaak kunnen bewaren. #### 8.2.2 Gegevensbescherming voor kinderen Kinderen worden beschouwd als een kwetsbare groep wat betreft gegevensverwerking. Dit vereist specifieke bescherming, waaronder: * **Child-friendly informatie:** Informatie over gegevensverwerking moet op een begrijpelijke manier aan kinderen worden verstrekt. * **Data Protection Impact Assessments (DPIA's):** Deze zijn essentieel voor risicovolle soorten gegevensverwerking waarbij kinderen betrokken zijn. * **Verboden op profiling-gebaseerde advertenties:** De Algemene Verordening Gegevensbescherming (AVG) verbiedt profiling-gebaseerde advertenties die gebruik maken van persoonsgegevens van minderjarigen voor marketingdoeleinden. #### 8.2.3 Commerciële uitbuiting Kinderen hebben recht op bescherming tegen commerciële uitbuiting. Dit omvat ook: * **Consumentenbeschermingswetgeving:** Regels met betrekking tot directe aansporingen gericht aan kinderen op sociale media of via influencers. * **Duidelijke identificatie van commerciële content:** De commerciële aard van content moet duidelijk worden vermeld. * **Prohibitie op profiling-gebaseerde reclame:** De Digital Services Act (DSA) verbiedt specifiek reclame op basis van profiling, waarbij gebruik wordt gemaakt van persoonsgegevens van minderjarigen. #### 8.2.4 Manipulatie en emotieherkenning De EU Artificial Intelligence Act (AI Act) adresseert specifieke risico's: * **Prohibitie van AI-systemen die kwetsbaarheden van kinderen exploiteren:** AI-systemen die de gedragingen van kinderen proberen te beïnvloeden op een manier die aanzienlijke schade veroorzaakt of redelijkerwijs kan veroorzaken, zijn verboden. Een voorbeeld hiervan is een spel dat gepersonaliseerde beloningen gebruikt om overmatig spelen aan te moedigen door middel van verslavende mechanismen. * **Prohibitie van emotieherkenningssystemen in educatieve instellingen:** Er zijn serieuze zorgen over de betrouwbaarheid en het potentieel voor discriminatie van AI-systemen die emoties of intenties proberen te identificeren of af te leiden. ### 8.3 De rol van online platforms en de Digital Services Act (DSA) De Digital Services Act (DSA) speelt een cruciale rol bij de bescherming van minderjarigen in de digitale omgeving. * **Toepasselijkheid van de DSA:** Artikel 28 van de DSA legt specifieke verplichtingen op aan aanbieders van online platforms die toegankelijk zijn voor minderjarigen. * **Maatregelen voor online bescherming van minderjarigen:** * **Standaardinstellingen voor privacy:** Accounts van minderjarigen moeten standaard privé zijn ingesteld om het risico op ongewenst contact te verminderen. * **Aanpassing van aanbevelingssystemen:** Recommender systemen moeten worden aangepast om het risico op blootstelling aan schadelijke inhoud te verlagen, waarbij expliciete signalen van kinderen prioriteit krijgen boven gedragssignalen. * **Controle over feeds en communicatie:** Kinderen moeten de mogelijkheid hebben om gebruikers te blokkeren en te dempen, en mogen niet zonder hun expliciete toestemming aan groepen worden toegevoegd. * **Verbod op downloaden/screenshots:** Het is verboden om inhoud die door minderjarigen is geplaatst te downloaden of screenshots te maken, om de ongeoorloofde verspreiding van geseksualiseerde of intieme inhoud en chantage te voorkomen. * **Beperking van functies die excessief gebruik stimuleren:** Functies zoals communicatie "streaks", vluchtige inhoud, leesbevestigingen, autoplay of pushmeldingen moeten standaard worden uitgeschakeld. * **Bescherming tegen commerciële uitbuiting:** De commerciële geletterdheid van kinderen mag niet worden uitgebuit en zij mogen niet worden blootgesteld aan commerciële praktijken die manipulatief kunnen zijn. * **Verbetering van moderatie en rapportagetools:** Er moeten mechanismen komen voor verbeterde moderatie en rapportage van inhoud, met snelle feedback en minimale vereisten voor ouderlijk toezicht. * **Gebruik van profiling voor advertenties:** Platforms mogen geen advertenties tonen op basis van profiling die gebruik maakt van persoonsgegevens van minderjarigen, wanneer zij redelijkerwijs weten dat de ontvanger een minderjarige is. > **Tip:** De DSA-richtlijnen voor de bescherming van minderjarigen bevatten zeer concrete en ingrijpende maatregelen die de manier waarop platforms functioneren, fundamenteel kunnen veranderen om de veiligheid en het welzijn van kinderen te waarborgen. * **Regulering van AI-chatbots:** Er moeten waarborgen worden ingebouwd rond AI-chatbots die geïntegreerd zijn in online platforms. * **Aanpak van manipulatieve ontwerpkenmerken:** Ontwerpkenmerken die voornamelijk gericht zijn op betrokkenheid moeten worden aangepakt om te voorkomen dat ze worden gebruikt voor manipulatieve doeleinden. --- ## Veelgemaakte fouten om te vermijden - Bestudeer alle onderwerpen grondig voor examens - Let op formules en belangrijke definities - Oefen met de voorbeelden in elke sectie - Memoriseer niet zonder de onderliggende concepten te begrijpen

| Term | Definition | |------|------------| | Fundamentele rechten | Basisrechten en vrijheden die inherent zijn aan elk mens, en die internationaal en nationaal juridisch worden beschermd om menselijke waardigheid en autonomie te waarborgen. | | Vrijheid van meningsuiting | Het recht van individuen en groepen om hun ideeën en meningen zonder inmenging van de overheid of anderen te uiten, te verspreiden en te ontvangen, via alle media en onafhankelijk van grenzen. | | Non-discriminatie | Het principe dat alle individuen gelijk worden behandeld en beschermd door de wet, zonder onderscheid op basis van ras, geslacht, religie, seksuele geaardheid, handicap of andere kenmerken. | | Kinderrechten | Specifieke rechten die toebehoren aan alle kinderen tot 18 jaar, zoals vastgelegd in het VN-Verdrag inzake de Rechten van het Kind, gericht op bescherming, participatie en ontwikkeling. | | Online tussenpersonen | Entiteiten die informatie hosten of doorgeven die door gebruikers van hun diensten wordt verstrekt, zoals sociale mediaplatforms, zoekmachines en cloudserviceproviders. | | Aansprakelijkheid | De juridische verplichting van een persoon of entiteit om verantwoording af te leggen voor schade of overtredingen, en om eventuele gevolgen daarvan te dragen, zoals financiële compensatie of strafrechtelijke sancties. | | Algoritme | Een reeks instructies of regels die door een computer worden gevolgd om een probleem op te lossen of een taak uit te voeren, vaak gebruikt in de context van kunstmatige intelligentie en data-analyse. | | Discriminatie | Ongelijke behandeling van personen of groepen op basis van bepaalde kenmerken, wat kan leiden tot uitsluiting of nadeel in verschillende maatschappelijke domeinen. | | Kunstmatige intelligentie (AI) | Een tak van informatica die zich bezighoudt met het creëren van systemen die taken kunnen uitvoeren die normaal menselijke intelligentie vereisen, zoals leren, probleemoplossing en besluitvorming. | | Desinformatie | Bewust valse of misleidende informatie die wordt verspreid met de intentie om te misleiden, schade te berokkenen of publieke opinie te manipuleren. | | Chilling effect | Een fenomeen waarbij individuen hun vrijheid van meningsuiting of andere rechten beperken uit angst voor represailles of negatieve gevolgen, vaak als gevolg van surveillance of strenge regelgeving. | | Datagovernance | Het beheer van gegevens binnen een organisatie, inclusief de procedures en beleidslijnen voor de verzameling, opslag, beveiliging, integriteit en toegankelijkheid van gegevens. | | Due diligence (ondernemingsverantwoordelijkheid) | De inspanning die een redelijk persoon of bedrijf zou ondernemen om schade te voorkomen; in de context van mensenrechten betekent dit dat bedrijven proactieve stappen ondernemen om mensenrechtenschendingen te voorkomen, te beperken en te herstellen. | | Algoritmische bias | Systematische en herhaalbare fouten in een computersysteem die leiden tot oneerlijke uitkomsten, vaak voortkomend uit onvolledige of bevooroordeelde trainingsdata, of uit het ontwerp van het algoritme zelf. | | Black box model | Een systeem waarvan de interne werking ondoorzichtig is, waardoor het moeilijk is om te begrijpen hoe input leidt tot output, wat problematisch kan zijn bij het detecteren van discriminatie. | | Online contentmoderatie | Het proces waarbij online platforms inhoud beoordelen en beslissen of deze voldoet aan hun beleidsregels en wettelijke vereisten, wat kan leiden tot verwijdering, beperking of het toestaan van de inhoud. | | Gegevensbescherming | Het principe dat persoonsgegevens moeten worden beschermd tegen ongeoorloofd gebruik, toegang of openbaarmaking, conform wetgeving zoals de Algemene Verordening Gegevensbescherming (AVG). | | Profilering | Het gebruik van geautomatiseerde middelen om gegevens over een persoon te analyseren en te evalueren, met name om persoonlijke aspecten of voorkeuren te voorspellen of te bepalen, zoals voor gerichte reclame. | | Manipulatie | Het beïnvloeden van iemands gedrag of beslissingen op een oneerlijke of misleidende manier, vaak door het exploiteren van kwetsbaarheden of psychologische mechanismen. |