Vragen en antwoorden - Nieuwe regels ter bestrijding van seksueel misbruik van kinderen

Waarom zijn er nieuwe regels nodig?

Het internet is een belangrijk verbindingsmiddel gebleken, ook voor kinderen en vooral tijdens de pandemie. Kinderen kunnen echter ook online worden blootgesteld aan risico's, onder meer als het gaat om seksueel misbruik. De afgelopen jaren is het aantal gevallen van online seksueel misbruik bijzonder sterk toegenomen, zowel op het gebied van het online uitwisselen van beelden van seksueel misbruik van kinderen als inzake het benaderen van kinderen om hen ertoe aan te zetten seksuele handelingen te stellen of daders zelfs offline te ontmoeten. Volgens de analyse van Europol is de vraag naar beelden van seksueel kindermisbruik in de eerste maanden van de COVID-19-crisis in sommige lidstaten met 25% gestegen. Het National Centre for Missing and Exploited Children (NCMEC) in de VS stelde ook vast dat meldingen van gevallen van seksueel misbruik van kinderen wereldwijd aanzienlijk zijn toegenomen, waarbij het NCMEC in 2021 bijna 30 miljoen meldingen van vermoedelijke seksuele uitbuiting van kinderen heeft ontvangen en de rechtshandhavingsinstanties in kennis zijn gesteld van meer dan 4000 nieuwe minderjarige slachtoffers. Het aantal meldingen met betrekking tot kinderen die aan grooming zijn blootgesteld, is tussen 2020 en 2021 met meer dan 16% gestegen. De verspreiding onder daders van foto's of video's met beelden van misbruik maakt kinderen opnieuw slachtoffer en maakt het voor hen moeilijk naar een afsluiting toe te werken.

Momenteel detecteren bepaalde aanbieders van onlinediensten online seksueel misbruik van kinderen op vrijwillige basis. De meerderheid van de meldingen bij rechtshandhavingsinstanties zijn afkomstig van aanbieders van onlinediensten in de Verenigde Staten, waarbij het NCMEC EU-gerelateerde meldingen doorstuurt naar Europol en nationale rechtshandhavingsinstanties.

Hoewel de door de providers genomen maatregelen een belangrijke bijdrage leveren, lopen zij sterk uiteen, waarbij de overgrote meerderheid van de meldingen afkomstig is van een handvol aanbieders, terwijl een aanzienlijk aantal geen actie onderneemt. Tot 95% van alle meldingen van seksueel misbruik van kinderen die in 2020 werden ontvangen, was afkomstig van één bedrijf, ondanks duidelijke aanwijzingen dat het probleem niet alleen op één platform bestaat.

Vrijwillige actie is dan ook ontoereikend om het misbruik van onlinediensten met het oog op seksueel misbruik van kinderen doeltreffend aan te pakken. Er is behoefte aan een duidelijk en bindend rechtskader, met duidelijke waarborgen, om providers rechtszekerheid te bieden en volledige eerbiediging van de grondrechten te waarborgen.

Met de verplichting voor dienstverleners om waar nodig seksueel misbruik van kinderen op te sporen, te melden en te verwijderen, kunnen kinderen worden gered van verder misbruik, kan worden verhinderd dat beelden opnieuw verschijnen en kunnen daders worden geïdentificeerd en vervolgd.

Wat zijn de belangrijkste onderdelen van het voorstel?

Het voorstel voorziet in een uniforme aanpak voor het opsporen en melden van seksueel misbruik van kinderen, ondersteunt het werk van overheidsinstanties en beoogt de inspanningen van de EU op het gebied van preventie en bijstand aan slachtoffers op te voeren.

Met het voorstel wordt het mogelijk:

• - 

  verplichtingen op te leggen aan dienstverleners om online seksueel misbruik van kinderen te voorkomen door risico's te beoordelen en te beperken en, waar nodig, gerichte bevelen vast te stellen om online seksueel misbruik van kinderen op te sporen, te melden en te verwijderen: De voorgestelde regels voorzien in een verplichting voor aanbieders van onlinediensten om het risico op misbruik van hun diensten voor de verspreiding van kinderpornografisch materiaal of voor het benaderen van kinderen (“grooming”) te beoordelen. De lidstaten zullen nationale autoriteiten moeten aanwijzen die belast zijn met de evaluatie van de risicobeoordeling en de door de dienstverlener voorgestelde risicobeperkende maatregelen om online seksueel misbruik van kinderen te voorkomen. Wanneer dergelijke autoriteiten vaststellen dat er een aanzienlijk risico blijft bestaan, kunnen zij een rechtbank of een onafhankelijke administratieve autoriteit verzoeken een bevel uit te vaardigen voor het opsporen van bekend of nieuw kinderpornografisch materiaal of activiteiten op het gebied van grooming, om aldus elk resterend significant risico doelgericht aan te pakken. Deze opsporingsbevelen zijn beperkt in de tijd, zijn onderworpen aan strikte procedurele waarborgen en zijn gericht op een specifiek type strafbaar feit dat op een specifieke dienst is gepleegd. Het optreden van gegevensbeschermingsautoriteiten wordt versterkt, voortbouwend op de algemene verordening gegevensbescherming.
• - 

  Sterke waarborgen op het gebied van opsporing invoeren: Bedrijven die een opsporingsbevel hebben ontvangen, zullen alleen inhoud kunnen opsporen aan de hand van door het EU-centrum verstrekte indicatoren voor het identificeren van seksueel misbruik van kinderen, die zijn ontwikkeld op basis van online seksueel misbruik van kinderen dat eerder door de ter zake bevoegde onafhankelijke autoriteiten of rechterlijke instanties in de lidstaten is geïdentificeerd. Het is daarom niet aan de aanbieder om te bepalen wat in de EU illegaal is. Opsporingstechnologieën mogen alleen worden gebruikt voor het opsporen van seksueel misbruik van kinderen. Providers zullen technologieën moeten inzetten die conform de stand van de techniek in de sector het minst inbreuk maken op de privacy en die het foutenpercentage van fout-positieven zoveel mogelijk beperken.
• - 

  Een nieuw EU-agentschap oprichten voor de preventie en bestrijding van seksueel misbruik van kinderen: Het EU-centrum voor de preventie en bestrijding van seksueel misbruik van kinderen zal een databank bijhouden met indicatoren die het mogelijk maken kinderpornografisch materiaal en het benaderen van kinderen, zoals gedefinieerd in de EU-regels, op betrouwbare wijze te identificeren. Het EU-centrum zal ook meldingen van kinderpornografisch materiaal of het benaderen van kinderen ontvangen en verwerken die aanbieders van onlinediensten hebben opgespoord, en zal deze meldingen delen met de bevoegde rechtshandhavingsinstanties en Europol, tenzij de meldingen ten onrechte worden ingediend. Het EU-centrum zal fungeren als een belangrijke waarborg door te voorkomen dat fout-positieven worden gemeld aan de rechtshandhavingsinstanties, door te zorgen voor zichtbaarheid van de doeltreffendheid van opsporingsmaatregelen, transparantie en verantwoordingsplicht van het proces.

Op wie zullen de nieuwe regels van toepassing zijn?

De voorgestelde regels zullen van toepassing zijn op aanbieders van onlinediensten in de EU, namelijk hostingdiensten en interpersoonlijke communicatiediensten (zoals berichtendiensten), appstores en aanbieders van internettoegang. De nieuwe verplichtingen zullen gericht zijn op de soorten dienstverleners waarvan de diensten het meest worden misbruikt voor online seksueel misbruik van kinderen, en zullen in de eerste plaats toegespitst zijn op het tot stand brengen van stimulansen voor een sterkere kinderbescherming.

Deze diensten spelen een belangrijke rol bij de bestrijding van seksueel misbruik van kinderen, aangezien zij vaak de enige zijn die misbruiksituaties kunnen opsporen. Vaak is misbruik alleen te ontdekken dankzij de inspanningen van aanbieders van onlinediensten om kinderpornografisch materiaal op hun diensten op te sporen en kinderen te beschermen tegen online benadering door daders. Dit is met name het geval bij elektronische berichtendiensten (privaat of groepschat), die daders vaak gebruiken om beelden uit te wisselen en kinderen te benaderen.

Het internet heeft daders ook een nieuwe manier geboden om kinderen te benaderen. Zij nemen contact op met kinderen via sociale media, gaming platforms en chats en misleiden hen om compromitterende beelden van zichzelf te sturen of om offline af te spreken. In 2021 was er een verdrievoudiging van het door zeven- tot tienjarigen zelf geproduceerde seksueel beeldmateriaal, en de NCMEC meldde dat kinderlokking via het internet exponentieel toeneemt. Dienstverleners zijn de eerste actoren die deze crisis kunnen bestrijden, aangezien kinderpornografisch materiaal wereldwijd in toenemende mate beschikbaar wordt en specifieke dadernetwerken worden opgezet die middelen en strategieën delen om kinderen het best te bereiken en te lokken.

Om de handhaving te vergemakkelijken, moeten aanbieders van hostingdiensten of interpersoonlijke communicatiediensten die niet in een EU-lidstaat zijn gevestigd maar hun diensten in de EU aanbieden, een wettelijke vertegenwoordiger in de EU aanwijzen.

Welk materiaal valt onder het voorstel?

De opsporingsverplichtingen hebben betrekking op bekend beeldmateriaal (opnieuw geüploade foto's en video's die eerder als kinderpornografisch materiaal zijn geïdentificeerd), nieuw beeldmateriaal (foto's en video's die niet eerder zijn geïdentificeerd) en grooming (een praktijk waarbij kindermisbruikers een vertrouwensrelatie en emotionele band met kinderen opbouwen om hen te manipuleren, seksueel uit te buiten en te misbruiken).

In overeenstemming met de centrale doelstelling van het voorstel om kinderen beter te beschermen, heeft de identificatie van grooming alleen betrekking op interpersoonlijke communicatie wanneer bekend is dat een van de gebruikers een kind is. Dit is alleen het geval wanneer uit de risicobeoordeling is gebleken dat er een aanzienlijk risico bestaat dat de dienst wordt misbruikt met het oog op online seksueel misbruik van kinderen, niettegenstaande de risicobeperkende maatregelen die de aanbieder heeft genomen.

Heeft het voorstel betrekking op versleuteld materiaal?

De voorgestelde verplichtingen voor dienstverleners met betrekking tot de opsporing van materiaal betreffende seksueel misbruik van kinderen zijn technologisch neutraal, wat betekent dat zij niet voorschrijven welke technologie voor opsporing moet worden gebruikt. Het is een resultaatsverplichting en geen inspanningsverplichting, waarbij de aanbieder de keuze van de in te zetten technologie wordt gelaten, mits deze technologie aan strikte waarborgen voldoet.

Dit omvat het gebruik van versleutelingstechnologie. Versleuteling is een belangrijk instrument voor de bescherming van cyberbeveiliging en de vertrouwelijkheid van communicatie. Tegelijkertijd zou het gebruik ervan als een veilig kanaal door criminelen kunnen worden misbruikt om hun daden te verbergen, waardoor de inspanningen om kindermisbruikers voor de rechter te brengen, worden belemmerd.

Een groot deel van de meldingen van seksueel misbruik van kinderen, die van groot belang zijn voor het starten van onderzoeken en het redden van kinderen, is afkomstig van diensten die reeds zijn versleuteld of in de toekomst versleuteld kunnen worden. Indien dergelijke diensten zouden worden vrijgesteld van de verplichting om kinderen te beschermen en op te treden tegen de verspreiding van kinderpornografisch beeldmateriaal via hun diensten, zouden de gevolgen voor kinderen ernstig zijn. NCMEC schat dat meer dan de helft van zijn CyberTipline-meldingen zal verdwijnen met eind-tot-eindversleuteling, waardoor misbruik onopgemerkt zou blijven, tenzij providers maatregelen nemen om kinderen en hun privacy te beschermen, ook met betrekking tot eind-tot-eindversleutelde diensten. Uit analyses blijkt dat dit zou neerkomen op een geschat verlies van 2100 meldingen per dag, meldingen die ertoe hadden kunnen leiden dat kinderen worden gered van aanhoudend misbruik en dat verdere misbruiken door daders worden voorkomen.

De Commissie werkt nauw samen met het bedrijfsleven, maatschappelijke organisaties en de academische wereld in het kader van het EU-internetforum om onderzoek te ondersteunen dat technische oplossingen in kaart brengt die kunnen worden opgeschaald en op een haalbare en rechtmatige wijze door bedrijven kunnen worden toegepast om seksueel misbruik van kinderen in eind-tot-eindversleutelde elektronische berichten op te sporen, met volledige inachtneming van de grondrechten.

In de voorgestelde wetgeving wordt rekening gehouden met de aanbevelingen die zijn gedaan in het kader van een afzonderlijk, lopend raadplegingsproces met deelname van meerdere belanghebbenden dat uitsluitend gericht is op versleuteling op basis van de resolutie van de Raad van december 2020. Uit deze werkzaamheden is gebleken dat er oplossingen bestaan, maar deze zijn niet op grote schaal getest. De Commissie zal met alle belanghebbenden blijven samenwerken om de regelgevende en operationele uitdagingen en kansen in de strijd tegen deze misdrijven aan te pakken.

Wat zijn de verplichtingen van de dienstverleners uit hoofde van deze nieuwe regels?

De nieuwe regels voorzien in verplichtingen om risico's te beoordelen en te beperken en, waar nodig, online seksueel misbruik van kinderen op te sporen, te melden en te verwijderen, met inbegrip van reeds bestaand en nieuw beeldmateriaal, alsook gevallen van grooming.

Aanbieders van hostingdiensten of interpersoonlijke communicatiediensten zullen worden verplicht een risicobeoordeling uit te voeren, waarin zij beoordelen hoe waarschijnlijk het is dat de dienst kan worden gebruikt voor online seksueel misbruik van kinderen, en welke risicobeperkende maatregelen zij nemen om elk geïdentificeerd risico te beperken en aldus online seksueel misbruik van kinderen op hun diensten te voorkomen.

Op basis van deze beoordeling kunnen de ter zake bevoegde nationale autoriteiten, wanneer het risico ondanks risicobeperkende maatregelen aanzienlijk blijft, een opsporingsbevel uitvaardigen. Bedrijven zullen verplicht zijn de door het EU-centrum verstrekte indicatoren (hashcodes/AI-classificatoren) te gebruiken bij hun opsporingsinspanningen. Opsporingsbevelen worden uitgevaardigd wanneer een dienst (of een deel van een dienst waarbij de opsporing afzonderlijk kan worden uitgevoerd) waarschijnlijk zal worden gebruikt voor online seksueel misbruik van kinderen, rekening houdend met de door de aanbieder genomen risicobeperkende maatregelen. Zodra het bevel is uitgevaardigd, zullen bedrijven verplicht zijn seksueel misbruik van kinderen op hun diensten op te sporen.

Meldingen van online seksueel misbruik van kinderen die worden ontdekt, worden toegezonden aan het nieuwe EU-centrum, dat het materiaal zal controleren om onjuiste meldingen uit te filteren en het materiaal indien nodig zal doorsturen naar rechtshandhavingsinstanties en Europol.

Appstores zullen maatregelen moeten nemen om het risico te beperken dat kinderen apps downloaden die hen kunnen blootstellen aan een hoog risico op grooming, in samenwerking met de aanbieders van die apps.

Aanbieders van internettoegang zullen worden verplicht de toegang te blokkeren tot beeldmateriaal dat niet kan worden verwijderd, bijvoorbeeld omdat het buiten de EU wordt gehost in niet-coöperatieve rechtsgebieden.

Hoe zal het voorstel grootschalig toezicht voorkomen?

Wat dienstverleners op grond van deze wetgeving zullen kunnen doen, zal zowel vóór als na de uitvaardiging van een opsporingsbevel zeer streng worden afgebakend.

Ten eerste zijn de opsporingsbevelen beperkt tot situaties waarin preventieve maatregelen niet volstaan om het risico te beperken.

Ten tweede is de procedure voor het uitvaardigen van een opsporingsbevel zeer grondig en is zij bedoeld om ervoor te zorgen dat de maatregelen beperkt blijven tot wat strikt noodzakelijk is:

• - 

  Het voorstel is opgebouwd in concentrische cirkels, waardoor het toepassingsgebied van een verplichting tot opsporing in elke stap wordt beperkt. In de eerste plaats is het voorstel slechts van toepassing op twee individueel geïdentificeerde soorten providers: hostingdiensten en openbaar beschikbare interpersoonlijke communicatiediensten.
• - 

  Beide diensten moeten grondige risicobeoordelingen uitvoeren en stappen ondernemen om vastgestelde risico's te beperken.
• - 

  De nationale autoriteiten toetsen deze aan de gespecificeerde criteria, die volgens de graad van inmenging strenger worden. Alleen wanneer de autoriteiten van mening zijn dat er aanwijzingen zijn voor een aanzienlijk risico van misbruik en dat de redenen voor het uitvaardigen van het opsporingsbevel zwaarder wegen dan de negatieve gevolgen voor de rechten en legitieme belangen van alle betrokken partijen, met name gelet op de noodzaak om een juist evenwicht tussen de grondrechten van die partijen te waarborgen, maken zij hun voornemen kenbaar om een opsporingsbevel te overwegen.
• - 

  Voordat een bevel wordt uitgevaardigd, wordt de provider geraadpleegd. Als de autoriteiten nog steeds van mening zijn dat een risico bestaat, wordt de provider verzocht aan te geven hoe hij de opsporing zal uitvoeren. Wanneer het gaat om verwerking met een hoog risico, of in elk geval dat verband houdt met de opsporing van grooming, moet de provider een gegevensbeschermingseffectbeoordeling uitvoeren en de gegevensbeschermingsautoriteiten raadplegen.
• - 

  Alleen als de nationale autoriteiten dan een derde keer bevestigen dat er een aanzienlijk risico blijft bestaan, kunnen zij een bevel vragen aan een andere onafhankelijke autoriteit of rechterlijke instantie. De onafhankelijke autoriteit of rechterlijke instantie moet de zaak opnieuw beoordelen in het licht van alle ingediende adviezen en deskundigheid, met inbegrip van die van de gegevensbeschermingsautoriteiten.
• - 

  Dit iteratieve, drieledige proces garandeert dat de maatregelen zoveel mogelijk worden beperkt tot wat strikt noodzakelijk is.

Ten derde voorziet de wetgeving, zodra een bevel is uitgevaardigd, in een resultaatsverbintenis, niet in een middelenverbintenis. Bedrijven moeten voldoen aan de opsporingsverplichtingen, maar zijn vrij om de technologie te kiezen voor de online-uitwisselingen die het best bij hun diensten passen.

Hoewel dit ook encryptie omvat, bevat het voorstel een robuuste reeks waarborgen in verband met de gebruikte detectietechnologieën.

Bij het uitvaardigen van opsporingsbevelen moeten de nationale autoriteiten rekening houden met de beschikbaarheid en geschiktheid van de relevante technologieën. Dit betekent dat het opsporingsbevel niet zal worden uitgevaardigd indien de stand van de ontwikkeling van de technologie zodanig is dat er geen technologie beschikbaar is die de provider in staat zou stellen het opsporingsbevel na te leven.

Opsporing vindt automatisch en anoniem plaats door middel van geavanceerde technologieën die de grootst mogelijke doeltreffendheid waarborgen en de gevolgen voor het recht op privacy van gebruikers tot een minimum beperken.

Opsporing kan alleen worden gebaseerd op de reeks indicatoren van online seksueel misbruik van kinderen die door het EU-centrum wordt bijgehouden onder toezicht van de nationale rechtshandhavingsinstanties (zij bevestigen dat een bepaald gegeven seksueel misbruik van kinderen vormt).

Menselijke toetsing vindt alleen plaats wanneer indicatoren wijzen op online seksueel misbruik van kinderen in een specifieke afbeelding, video of conversatie (in geval van benadering).

Wanneer menselijke toetsing plaatsvindt, wordt deze eerst op het niveau van het centrum uitgevoerd, zodat duidelijk fout-positieve resultaten niet worden doorgegeven aan de rechtshandhaving. Het centrum geeft ook feedback aan de provider, zodat de opsporingsinstrumenten in de loop van de tijd kunnen worden verbeterd.

Ten slotte wordt in het voorstel bepaald dat zowel providers als gebruikers het recht hebben om elke maatregel die op hen betrekking heeft, voor de rechter aan te vechten.

Naast deze voorwaarden wordt het Europees Comité voor gegevensbescherming geraadpleegd over alle technologieën die op de lijst van het EU-centrum moeten worden opgenomen. Het Europees Comité voor gegevensbescherming wordt tevens geraadpleegd over de wijze waarop deze technologieën het best kunnen worden ingezet om de naleving van de toepasselijke regels van het Unierecht inzake de bescherming van persoonsgegevens te waarborgen.

Dit alles betekent dat de mogelijkheden voor het uitvaardigen van opsporingsbevelen en voor het uitvoeren van opsporing zeer strikt zijn en beperkt blijven tot wat absoluut noodzakelijk is, waarbij misbruik van opsporingsbevoegdheden wordt voorkomen.

Met welke waarborgen moeten dienstverleners rekening houden bij hun opsporingsinspanningen?

De voorgestelde regels creëren een evenwichtig en gericht systeem dat beperkt is tot wat strikt noodzakelijk en evenredig is om het misbruik van relevante diensten van de informatiemaatschappij voor online seksueel misbruik van kinderen aan te pakken.

Na de risicobeoordeling die door aanbieders van onlinediensten is uitgevoerd, hoeven slechts enkele van hen na te gaan of er kinderpornografisch materiaal op hun aanbod aanwezig is.

Het voorstel schrijft voor dat deze providers technologieën moeten inzetten die volgens de stand van de techniek in de sector het minst inbreuk maken op de privacy en die het foutenpercentage van fout-positieven zoveel mogelijk beperken.

Detectiesystemen mogen alleen worden gebruikt voor het beoogde doel om seksueel misbruik van kinderen op te sporen en te melden.

Het voorstel voorziet in gerechtelijk verhaal, waarbij zowel providers als gebruikers het recht hebben om elke maatregel die op hen betrekking heeft, voor de rechter aan te vechten. Gebruikers hebben recht op vergoeding van eventuele schade als gevolg van verwerking in het kader van het voorstel.

Het voorstel voorziet ook in sterke toezichtmechanismen. Dit omvat vereisten met betrekking tot de onafhankelijkheid en de bevoegdheden van de nationale autoriteiten die belast zijn met het uitvaardigen van de bevelen en het toezicht op de uitvoering ervan. Daarnaast zal het EU-centrum voor de preventie en bestrijding van seksueel misbruik van kinderen meldingen door providers van mogelijk online seksueel misbruik van kinderen beoordelen, waardoor het risico op foutieve opsporing en melding tot een minimum wordt beperkt.

Het Europees Comité voor gegevensbescherming en de nationale toezichthouders voor gegevensbescherming zullen een rol spelen bij de beoordeling van detectietechnologie, om ervoor te zorgen dat voortdurend toezicht wordt gehouden op de naleving van privacy en persoonsgegevens.

Er worden ook voorzieningen getroffen om de transparantie te waarborgen, waarbij dienstverleners, nationale autoriteiten en het EU-centrum elk jaar verslag moeten uitbrengen over hun activiteiten op grond van de voorgestelde regels.

Hoe werkt detectie en is detectie betrouwbaar?

Providers die kinderpornografisch materiaal op vrijwillige basis opsporen, maken doorgaans gebruik van geautomatiseerde technologie. Geautomatiseerde instrumenten zoeken naar specifieke indicatoren van mogelijk seksueel misbruik van kinderen, dat wil zeggen dat ze zijn ontworpen om te controleren of specifieke inhoud waarschijnlijk seksueel misbruik van kinderen is, maar niet om welke specifieke inhoud het gaat.

Technologieën voor het opsporen van bekend materiaal betreffende kindermisbruik zijn doorgaans gebaseerd op hashing, waardoor een unieke digitale vingerafdruk van een specifieke afbeelding ontstaat. Tot de technologieën die momenteel worden gebruikt voor de opsporing van nieuw materiaal betreffende kindermisbruik, behoren classificatoren en kunstmatige intelligentie (AI). Een classificator is elk algoritme dat gegevens door middel van patroonherkenning in gelabelde klassen of categorieën informatie plaatst. Technologieën voor de detectie van grooming in op tekst gebaseerde communicatie maken gebruik van de analyse van teksttechnologieën en/of de analyse van metagegevens. Ook voor de meest nauwkeurige technologieën, zoals hashing, is er al een menselijke toetsing.

Onder bedrijven die momenteel vrijwillig kennis van seksueel misbruik van kinderen opsporen, is het gebruik van automatische opsporing zeer betrouwbaar en vertoont het extreem lage percentage fout-positieve resultaten.

Hoge foutenpercentages (bv. onjuiste markering als inhoud die seksueel misbruik van kinderen bevat) zouden volgens de door het EU-centrum voorgestelde regels snel worden ontdekt, waardoor vermeden wordt dat er fout-positieve resultaten terechtkomen bij de rechtshandhaving. Bedrijven worden onmiddellijk op de hoogte gebracht wanneer hun instrumenten foutieve kennisgevingen produceren en zijn verplicht maatregelen te nemen om deze te verhelpen.

Zullen dienstverleners steun ontvangen om aan deze nieuwe verplichtingen te voldoen?

Het EU-centrum zal bedrijven helpen hun verplichtingen na te komen. Het zal de indicatoren verstrekken om seksueel misbruik van kinderen op te sporen, waardoor providers zekerheid krijgen over welke inhoud in de EU illegaal is. Het centrum zal gratis de technologie ter beschikking stellen voor de opsporing en de uitvoering van de menselijke beoordeling van alle meldingen. Dit zal de lasten voor de providers verlichten, met name de kleinere. Tot slot zal het centrum feedback geven over de nauwkeurigheid van de meldingen en providers helpen hun procedures te verbeteren.

Zullen dienstverleners die zich niet aan de verplichtingen van de voorgestelde regels houden, een boete krijgen?

Elk geval moet worden beoordeeld door de bevoegde nationale autoriteiten. De lidstaten moeten regels vaststellen voor doeltreffende, evenredige en afschrikkende sancties. Bij het opleggen van sancties wordt de nationale autoriteiten verzocht rekening te houden met de ernst, herhaling en duur van de inbreuk, maar ook met de vraag of de inbreuk opzettelijk of uit nalatigheid is gepleegd, of het om een eerste inbreuk door de betrokken provider ging, alsook met de omvang en financiële draagkracht van de provider en zijn bereidheid om met de autoriteiten samen te werken. De boeten mogen niet meer bedragen dan 6 % van het jaarinkomen of de totale omzet van de provider in het laatste boekjaar.

Wat zijn de rol en de bevoegdheden van het EU-centrum om seksueel misbruik van kinderen te voorkomen en tegen te gaan?

Het centrum zal drie belangrijke taken vervullen: ondersteuning van inspanningen op het gebied van preventie, verbetering van de bijstand aan slachtoffers en ondersteuning bij het opsporen, melden en verwijderen van online seksueel misbruik van kinderen.

Het centrum zal fungeren als expertisecentrum op het gebied van preventie. Dit omvat bewustmaking van kinderen en ouders/voogden, en inspanningen gericht op mensen die vrezen dat zij strafbare feiten jegens kinderen zouden kunnen plegen.

Het centrum zal ook expertise en onderzoek bundelen met betrekking tot de steun die beschikbaar is voor overlevenden. Het zal slachtoffers helpen bij het verwijderen van online beeldmateriaal over hun seksueel misbruik.

Het centrum zal providers ook helpen bij het nakomen van hun verplichtingen met betrekking tot het opsporen, melden en verwijderen van online seksueel misbruik van kinderen. Het zal de toegang tot betrouwbare detectietechnologieën voor providers vergemakkelijken en een databank van indicatoren van seksueel misbruik van kinderen (hashes, AI-patronen/classificatoren) onderhouden waarmee op betrouwbare wijze kan worden vastgesteld wat volgens de EU-regels wordt gedefinieerd als seksueel misbruik van kinderen. Het zal deze indicatoren delen met bedrijven en duidelijke informatie verschaffen over wat in de EU illegaal is, waardoor dienstverleners zich niet hoeven te verlaten op Amerikaanse definities. Het voorstel creëert daarom een proactief systeem dat alle relevante dienstverleners samenbrengt om actie te ondernemen, waardoor het huidige reactieve systeem, waarin de rechtshandhaving in de EU afhankelijk is van het Amerikaanse recht en vrijwillige maatregelen van bedrijven, wordt omgekeerd. Het centrum ontvangt de meldingen van de providers, controleert deze om fout-positieve resultaten te voorkomen en stuurt ze door naar Europol en de nationale rechtshandhavingsinstanties.

Als ontvanger van meldingen van online seksueel misbruik van kinderen zal het centrum inzicht hebben in de doeltreffendheid van de opsporingsmaatregelen en de transparantie en verantwoordingsplicht van het proces kunnen waarborgen.

Wanneer zal het EU-centrum voor de preventie en bestrijding van seksueel misbruik van kinderen worden opgericht?

Afhankelijk van het tijdschema voor de vaststelling en uitvoering van de voorgestelde verordening moet het centrum zijn werkzaamheden in 2024-2026 aanvangen. Het centrum zal zijn werkzaamheden starten met de nadruk op preventie en bijstand aan slachtoffers. Het zal naar verwachting tegen 2030 volledig operationeel zijn, aangezien de voorbereiding van het nieuwe opsporings-, meldings- en verwijderingsproces, met inbegrip van de oprichting van de databank met indicatoren van seksueel misbruik van kinderen, tegen die tijd voltooid zou moeten zijn.

Wat wordt er gedaan om seksueel misbruik van kinderen in de eerste plaats te voorkomen?

Preventie is essentieel voor de bestrijding van seksueel misbruik van kinderen.

Op grond van de bestaande EU-regels ter bestrijding van seksueel misbruik van kinderen (Richtlijn 2011/93) moeten de lidstaten investeren in preventieprogramma's voor veroordeelde delinquenten en personen die vrezen dat zij strafbare feiten kunnen plegen, en moeten zij preventieactiviteiten opzetten door middel van voorlichting en bewustmaking.

Om de lidstaten te helpen deze verplichtingen volledig na te komen en de preventie te versterken, zet de Commissie een netwerk van preventiedeskundigen op, zoals aangekondigd in de strategie van juli 2020 voor een doeltreffendere bestrijding van seksueel misbruik van kinderen. Het netwerk zal de communicatie en uitwisseling van beste praktijken tussen onderzoekers en praktijkmensen bevorderen.

Het Gemeenschappelijk Centrum voor onderzoek van de Commissie heeft, in samenwerking met de deskundigen die kunnen deel uitmaken van het preventienetwerk, een verslag gepubliceerd met indelingscriteria voor preventieprogramma's in de hele EU.

De EU werkt ook aan een betere bescherming van kinderen tegen seksueel misbruik wereldwijd door steun te verlenen aan en samen te werken met de Global Alliance van WeProtect en door financiering te verstrekken aan preventieprojecten via het Fonds voor interne veiligheid.

Wat zijn de verbanden met de nieuwe strategie voor een beter internet voor kinderen?

De strategie voor een beter internet voor kinderen zal helpen bij de uitvoering van de EU-wetgeving inzake de veiligheid van kinderen, met inbegrip van aangescherpte bepalingen in de geplande wet inzake digitale diensten en de voorgestelde verordening inzake het voorkomen en bestrijden van seksueel misbruik en seksuele uitbuiting van kinderen.

In het kader van de strategie voor een beter internet voor kinderen cofinanciert de EU veiligere internethulplijnen en meldpunten, en zal zij het publiek, met name kinderen, blijven bijstaan wanneer zij worden geconfronteerd met schadelijke en illegale inhoud, waaronder kinderpornografisch materiaal. Indien de status van “betrouwbare flagger” wordt toegekend overeenkomstig de voorwaarden van de geplande wet inzake digitale diensten, zullen deze hulplijnen en meldpunten kunnen bijdragen tot een snellere beoordeling van en actie naar aanleiding van meldingen van illegale online-inhoud.

Hoe verhoudt dit voorstel zich tot de wet inzake digitale diensten?

De wet inzake digitale diensten zal een geharmoniseerde basis creëren voor een algemene aanpak van alle illegale inhoud.

In de hele wet inzake digitale diensten zal kinderpornografisch materiaal en illegale inhoud in het algemeen op een reactieve manier worden aangepakt, per geval. De voorgestelde verordening inzake het voorkomen en bestrijden van seksueel misbruik en seksuele uitbuiting van kinderen zal het algemene kader dat in het kader van de wet inzake digitale diensten moet worden vastgesteld, aanvullen met specifieke en gerichte regels om de verspreiding en verspreiding van bekend kinderpornografisch materiaal te voorkomen en aan te pakken.

Meer informatie

Persbericht: Strijd tegen seksueel misbruik van kinderen: Commissie stelt nieuwe regels voor om kinderen te beschermen

Factsheet

Voorstel voor een verordening ter voorkoming en bestrijding van seksueel misbruik en seksuele uitbuiting van kinderen

Website