In deze bijdrage wordt het recente voorstel voor de Digital Services Act besproken. De voorgestelde verordening is bedoeld om de digitale interne markt te versterken en, meer specifiek, de activiteiten van aanbieders van onlinediensten die draaien om de doorgifte, opslag en publieke verspreiding van informatie van hun gebruikers – zoals videoplatforms, onlinemarktplaatsen, sociale media en internetaanbieders – beter te reguleren. Het gaat onder meer om hun activiteiten ter bestrijding van illegale inhoud en desinformatie, hun aansprakelijkheid en hun verantwoordelijkheden jegens de gebruikers. We zullen zien dat het DSA-voorstel in verschillende opzichten ambitieus en vernieuwend is, terwijl het op andere punten eerder nuttig-maar-voorspelbaar en behoudend kan worden genoemd. Na een inleiding worden de voorgestelde verplichtingen voor de verschillende onlinedienstverleners achtereenvolgens besproken, gevolgd door enkele algemene opmerkingen.

Europese Commissie, Voorstel voor een Verordening van het Europees Parlement en de Raad betreffende een eengemaakte markt voor digitale diensten (Wet inzake digitale diensten) en tot wijzing van Richtlijn 2000/31/EG, COM(2020)825, 15 december 2020.

• Achtergrond en opzet

  Achtergrond

  Twintig jaar is een flinke tijd voor de toepassing van een richtlijn, zeker wanneer deze niet tussentijds is gewijzigd en betrekking heeft op de onlinewereld. Het rechtskader gecreëerd door de Richtlijn elektronische handel,¹x Richtlijn 2000/31/EG van het Europees Parlement en de Raad van 8 juni 2000 betreffende bepaalde juridische aspecten van de diensten van de informatiemaatschappij, met name de elektronische handel, in de interne markt (PbEG 2000, L 178/1). aangenomen in 2000, was duidelijk aan een update toe. Sindsdien is er immers veel veranderd. Zo is het gebruik van onlinediensten voor allerlei sociale, recreatieve, culturele, politieke en commerciële doeleinden enorm toegenomen, bestonden grote spelers als Facebook, YouTube en Twitter destijds nog niet eens, is bijna iedereen tegenwoordig bijna altijd online en was de internetbandbreedte toen een fractie van wat deze vandaag is. Nadat de Europese Commissie (‘de Commissie’) de verbetering van de werking van de digitale interne markt al had aangemerkt als een prioriteit,²x Zie U. von der Leyen, ‘A Union that strives for more: my agenda for Europe’, Political Guidelines European Commission 2019-2024, p. 7-8. heeft de COVID-19-pandemie het cruciale belang van onlinedienstverlening nog eens onderstreept en versterkt.
  Het voorstel voor de Digital Services Act (Wet inzake digitale diensten; hierna: ‘DSA-voorstel’),³x COM(2020)825, 15 december 2020. Ten tijde van het schrijven van deze bijdrage was het DSA-voorstel alleen beschikbaar in het Engels. Om deze reden, en omdat het gebruik van sommige Engelse termen in de sector gebruikelijk is, worden hierin veelal de betreffende Engelse termen gebruikt. De gehanteerde vertalingen zijn die van de auteur zelf (rekening houdend met vertalingen van reeds bestaande instrumenten). Voor een korte Nederlandstalige toelichting op het DSA-voorstel, zie https://ec.europa.eu/info/strategy/priorities-2019-2024/europe-fit-digital-age/digital-services-act-ensuring-safe-and-accountable-online-environment_nl. dat de Commissie op 15 december 2020 publiceerde, kwam dus bepaald niet als een verrassing. Het is een tamelijk omvangrijk voorstel: een ontwerpverordening van 74 artikelen, met een considerans bestaande uit meer dan honderd overwegingen. Het DSA-voorstel maakt bovendien onderdeel uit van een pakket, dat verder nog bestaat uit het Commissievoorstel voor de Digital Markets Act⁴x COM(2020)842, 15 december 2020. (hierna: ‘DMA-voorstel’). Hoewel deze bijdrage zich alleen richt op het DSA-voorstel, moet in gedachten worden gehouden dat dit nieuwe vlaggenschipinitiatief dus is ontworpen als een soort catamaran. Kort gezegd ziet het DMA-voorstel op bepaalde mededingingsgerelateerde aspecten van onlinedienstverlening, terwijl het DSA-voorstel zich richt op aspecten die de gebruikers direct raken.
  Het DSA-voorstel is primair bedoeld als aanvulling op – en niet ter vervanging van – de Richtlijn elektronische handel en recentere sector- of onderwerpspecifieke instrumenten, zoals de Richtlijn auteursrecht in de digitale eengemaakte markt,⁵x Richtlijn (EU) 2019/790 van het Europees Parlement en de Raad van 17 april 2019 inzake auteursrechten en naburige rechten in de digitale eengemaakte markt en tot wijziging van Richtlijnen 96/9/EG en 2001/29/EG (PbEU 2019, L 130/92). de Verordening ter bestrijding van terroristische online-inhoud,⁶x COM(2018)640, 12 september 2018. Onlangs bereikte de Uniewetgever politieke overeenstemming over dit voorstel. Zie Commissie, ‘Security Union: Commission welcomes political agreement on removing terrorist content online Brussels’, IP/20/2372, 10 december 2020. de herziene Richtlijn audiovisuele diensten⁷x Richtlijn 2010/13/EU van het Europees Parlement en de Raad van 10 maart 2010 betreffende de coördinatie van bepaalde wettelijke en bestuursrechtelijke bepalingen in de lidstaten inzake het aanbieden van audiovisuele mediadiensten (PbEU 2010, L 95/1) (als gewijzigd door Richtlijn (EU) 2018/1808). Zie verder E.W. Jurjens, ‘De definitieve nieuwe Richtlijn Audiovisuele Mediadiensten: een eerste analyse’, NtEr 2019/1-2, p. 44-50. en de ‘Platform-to-Business’ Verordening.⁸x Verordening (EU) 2019/1150 van het Europees Parlement en de Raad van 20 juni 2019 ter bevordering van billijkheid en transparantie voor zakelijke gebruikers van onlinetussenhandelsdiensten (PbEU 2019, L186/57). Zie verder L.E. Felderhof & M.PP.C. Rozenbroek, ‘Een gelijk speelveld in de online platformeconomie?’, NtEr 2019/5-6, p. 142-148. Hoewel – zoals hieronder wordt besproken – het DSA-voorstel enkele belangrijke artikelen uit de Richtlijn elektronische handel verwijdert en overneemt, blijft deze richtlijn en blijven deze andere instrumenten daarom belangrijk voor de rechtspraktijk.⁹x Vgl. art. 1 lid 5 DSA-voorstel. Wat de Richtlijn elektronische handel betreft, geldt dat vooral voor het land van herkomstbeginsel uit artikel 3 daarvan. Krachtens dit beginsel zijn in de Unie gevestigde onlinedienstverleners, behoudens bepaalde mogelijke uitzonderingen, onderworpen aan de regelgeving van en het toezicht door de lidstaat van vestiging. Tegelijkertijd brengt het DSA-voorstel echter mee dat de praktische betekenis van dit beginsel wordt ingeperkt. Een aantal belangrijke onderwerpen zal nu immers worden geregeld op Unie-niveau.¹⁰x Zie in dit verband ook de afsluitende algemene opmerking in het onderstaande.

  Algemene opzet

  Voor een goed begrip is het noodzakelijk om te gelaagde structuur van het DSA-voorstel te doorgronden. De nieuwe verordening is als het ware vormgegeven als een piramide, waarbij de ‘onderste’ basisverplichtingen van toepassing zijn op aanbieders van een aanzienlijk aantal onlinediensten terwijl daarboven verscheidene ‘lagen’ van aanvullende verplichtingen zijn gelegd die van toepassing zijn op aanbieders van een steeds beperktere categorie diensten. Specifiek gaat het – van de top van de piramide naar beneden – om de volgende partijen: (a) zeer grote onlineplatforms; (b) onlineplatforms; (c) aanbieders van hostingdiensten; en (d) tussenpersonen. Deze verplichtingen worden in de navolgende paragrafen achtereenvolgens besproken.
  Daarbij moet worden bedacht dat de verplichtingen cumulatief kunnen zijn.¹¹x Ook moet worden opgemerkt dat de kwalificatie plaatsvindt op basis van de desbetreffende activiteiten, en niet op basis van de desbetreffende dienstverlener als zodanig (zie ov. 15 considerans DSA-voorstel). Het is dus bijvoorbeeld mogelijk dat een dienstverlener ten aanzien van bepaalde activiteiten kwalificeert als een onlineplatform, terwijl deze voor bepaalde andere activiteiten kwalificeert als een aanbieder van ‘mere conduit’-diensten of geheel buiten het toepassingsbereik van de voorgestelde verordening valt. Een zeer groot onlineplatform – laten we zeggen een aanbieder van socialemediadiensten zoals Facebook, een videoplatform zoals YouTube, of een marktplaats zoals eBay – is naar zijn aard ook een onlineplatform. Het enige verschil is de schaal waarop de dienstverlener opereert; te weten, het aantal gebruikers in de Europese Unie.¹²x Zie verder de onderstaande paragraaf over zeer grote onlineplatforms. Zo’n zeer groot onlineplatform moet daarom niet alleen voldoen aan de verplichtingen die specifiek betrekking hebben op zulke partijen, maar ook aan die voor ‘gewone’ onlineplatforms. Bovendien zijn onlineplatforms in het DSA-voorstel gedefinieerd als een subcategorie van aanbieders van hostingdiensten. Namelijk, als dienstverleners die informatie van hun gebruikers niet alleen opslaan, maar ook publiekelijk verspreiden.¹³x Art. 2 onder h en i DSA-voorstel. Een zeer groot onlineplatform zal dus óók moeten voldoen aan de regels voor hostingdiensten. Aanbieders van hostingdiensten zijn op hun beurt weer een subcategorie van de ruimere categorie ‘tussenpersonen’ zoals we die kennen uit de Richtlijn elektronische handel.¹⁴x Zie hfdst. II, afd. 4 Richtlijn elektronische handel. Strikt genomen gaat het blijkens de titel van deze afdeling om ‘dienstverleners die als tussenpersonen optreden’, hier kortweg aangeduid als ‘tussenpersonen’. De betreffende dienstverleners worden ook wel aanbieders van ‘tussenhandelsdiensten’ genoemd. Dit zijn aanbieders van mere conduit-, caching- en hosting-diensten. Ook de regels die gelden voor deze partijen zal een zeer groot onlineplatform dus in acht moeten nemen. Omgekeerd zijn bijvoorbeeld op een aanbieder van internettoegangsdiensten echter alleen de ‘basisverplichtingen’ voor tussenpersonen van toepassing. Dat is omdat deze activiteit kwalificeert als mere conduit – en niet als een hostingdienst en daarom evenmin als een onlineplatform.
  Uit het voorgaande volgt dat, anders dan de naam doet vermoeden, het DSA-voorstel feitelijk geen betrekking heeft op ‘digitale diensten’ in het algemeen.¹⁵x Hoewel daarom niet helemaal accuraat, sluit het DSA-voorstel daarmee aan bij de Richtlijn elektronische handel. De naam van die richtlijn verwijst nl. naar ‘elektronische handel’, terwijl deze eigenlijk veeleer betrekking heeft op ‘diensten van de informatiemaatschappij’. Zoals reeds werd opgemerkt ten tijde van de omzetting van deze richtlijn naar Nederlands recht, betekent de verkorte aanduiding dus ‘een zekere vergroving’ (Kamerstukken II 2001/02, 28197, nr. 3, p. 2). Het voorstel heeft alleen betrekking op diensten die zich kenmerken doordat zij (a) gelden als ‘diensten van de informatiemaatschappij’¹⁶x Als gedefinieerd in art. 1 lid 1 onder b Richtlijn (EU) 2015/1535 van het Europees Parlement en de Raad van 9 september 2015 betreffende een informatieprocedure op het gebied van technische voorschriften en regels betreffende de diensten van de informatiemaatschappij (PbEU 2015, L 241/1). en (b) de doorgifte, opslag of publieke verspreiding van informatie van en voor de gebruikers van die diensten omvatten. Het gaat dus, simpel gezegd, om onlinediensten die betrekking hebben op user-generated content – een categorie diensten die over de afgelopen twee decennia sterk aan praktisch belang heeft gewonnen.¹⁷x Ter illustratie: van de tien websites die in de VS in 2018 het drukst werden bezocht, bevatten zes voornamelijk user-generated content (YouTube, Facebook, Reddit, Wikipedia, Twitter en eBay), terwijl het bij nog eens drie andere websites een significante rol speelt (Google, Yahoo en Amazon). Daarmee resteert er dus slechts één website in de top 10 waarbij dit geen rol speelt (Netflix). Zie J. Kosseff, The twenty-six words that created the internet, Cornell University Press 2019, p. 4. Voor andersoortige onlinediensten blijft in beginsel het algemene kader uit de Richtlijn elektronische handel van kracht. Het DSA-voorstel beoogt dus niet de platformeconomie in het algemeen te reguleren.¹⁸x Voor sommigen leidt deze keuze wellicht tot teleurstelling. Zie bijv. V. Mak, ‘De Richtlijn elektronische handel en de platformeconomie’, NtEr 2020/1-2, p. 6.

• Verplichtingen voor aanbieders van hostingdiensten en andere tussenpersonen

  Aansprakelijkheid

  Wat de inhoudelijke kant betreft, moeten we beginnen bij de basis van de piramide, dat wil zeggen de bepalingen die van toepassing zijn op tussenpersonen in het algemeen. In dit verband is allereerst hoofdstuk II over aansprakelijkheid van belang. De hierin opgenomen beperkingen van aansprakelijkheid zijn vertrouwd terrein, omdat zij overeenkomen met die uit de Richtlijn elektronische handel.¹⁹x Zie art. 3, 4 en 5 DSA-voorstel; art. 12, 13 en 14 Richtlijn elektronische handel. Bepaald is dat de betrokken dienstverleners niet aansprakelijk zijn voor de informatie die zij voor hun gebruikers doorgeven of opslaan.²⁰x Deze beperkingen sluiten het opleggen van verboden of geboden door gerechtelijke of bestuursrechtelijke autoriteiten niet uit. Ook dit blijft onveranderd onder het DSA-voorstel in vergelijking tot de Richtlijn elektronische handel. Voor mere conduit geldt daarbij kort gezegd de voorwaarde dat de dienstverlener zich alleen opstelt als een doorgeefluik, terwijl van aanbieders van hostingdiensten wordt verwacht dat zij de opgeslagen informatie prompt verwijderen zodra zij kennis krijgen van de onwettigheid daarvan. Aangezien de bepalingen vrijwel letterlijk overeenkomen met de huidige bepalingen,²¹x Los van de hierna te bespreken wijzingen, zijn de aangebrachte wijzingen minimaal en vloeien zij voort uit het feit dat de artikelen zijn ‘getransporteerd’ van een richtlijn naar een verordening. en gelet op de gegeven toelichting,²²x Zie m.n. toelichting DSA-voorstel, p. 3. Zie ook ov. 16 considerans daarvan. is duidelijk dat de Commissie de onderliggende beginselen onveranderd heeft willen laten. Dat geldt ook voor de rechtspraak over de vraag of de dienstverleners een actieve rol spelen waardoor zij kennis hebben van, of controle hebben over, de betrokken gegevens, in welk geval zij geen neutrale tussenpersonen zijn en zich daarom niet kunnen beroepen op deze bepalingen.²³x Ov. 18 considerans DSA-voorstel. Zie m.n. HvJ 12 juli 2011, zaak C-324/09, ECLI:EU:C:2011:474 (L’Oréal/eBay), punt 113. Opgemerkt kan worden dat, zoals blijkt zowel uit deze overweging van de considerans als de aangehaalde rechtspraak, de vraag naar de passiviteit van de dienstverlener als zodanig niet beslissend is. Zie hierover ook Conclusie A-G 16 juli 2020, gevoegde zaken C-682/18 en C-683/18, ECLI:EU:C:2020:586 (YouTube). Het DSA-voorstel bevat nog een bepaling die vrijwel letterlijk is overgenomen uit de Richtlijn elektronische handel: het verbod op het opleggen aan tussenpersonen van algemene verplichtingen om toe te zien op informatie die zij doorgeven of opslaan of om actief te zoeken naar feiten of omstandigheden die op onwettige activiteiten duiden.²⁴x Zie art. 7 DSA-voorstel; art. 15 onder 1 Richtlijn elektronische handel. Net als in de richtlijn verduidelijkt de considerans dat dit verbod toezichtverplichtingen in speciale gevallen niet uitsluit.²⁵x Zie ov. 47 considerans Richtlijn elektronische handel; ov. 28 considerans DSA-voorstel.
  Toch zijn er ten aanzien van aansprakelijkheid-gerelateerde onderwerpen ook bepaalde vernieuwingen. Ten eerste is een bijzondere regel opgenomen over de aansprakelijkheid van bepaalde aanbieders van hostingdiensten onder het consumentenrecht.²⁶x Art. 5 lid 1 DSA-voorstel. Deze regel geldt alleen voor aanbieders van hostingdiensten die consumenten in staat stellen om overeenkomsten op afstand te sluiten met handelaren. Daarmee wordt aangesloten bij de personele werkingssfeer van art. 22 DSA-voorstel, die hieronder wordt besproken. Op grond van deze regel is de beperking van aansprakelijkheid niet van toepassing indien de betrokken dienstverleners de indruk hebben gewekt dat de opgeslagen informatie, of de goederen of diensten waarop de informatie betrekking heeft, van hen zelf afkomstig is (en dus niet van gebruikers). Hier is dus niet de vraag naar de (objectieve) kennis van of controle over de opgeslagen informatie doorslaggevend, maar die naar de (subjectieve) indruk die wordt gewekt. Tegelijkertijd is deze laatstgenoemde toets echter geobjectiveerd: de indruk van een gemiddelde, redelijk oplettende consument is bepalend.²⁷x Zie ook ov. 23 considerans DSA-voorstel. Deze regel is bedoeld om consumenten beter te beschermen.²⁸x Ov. 23 considerans DSA-voorstel.
  Ten tweede verduidelijkt het DSA-voorstel dat het enkele feit dat aanbieders van ‘mere conduit’-, ‘caching’- of ‘hosting’-diensten op vrijwillige basis bepaalde activiteiten ondernemen om illegale inhoud²⁹x Net als in het DSA-voorstel zelf (zie art. 2 onder g), wordt in deze bijdrage het begrip ‘illegale inhoud’ (oftewel ‘onwettige informatie’; illegal content) gebruikt om te verwijzen naar zowel informatie die als zodanig onwettig is, als naar informatie die betrekking heeft op onwettige activiteiten. te bestrijden – denk, bijvoorbeeld, aan activiteiten bedoeld om kinderporno te onderscheppen – niet meebrengt dat zij daardoor ‘te actief’ zijn om zich te kunnen beroepen op de bovengenoemde beperkingen van aansprakelijkheid.³⁰x Art. 6 DSA-voorstel (ook wel de ‘Good Samaritan’-bepaling genoemd). Hierover bestond in de praktijk onzekerheid, waardoor zulke activiteiten feitelijk werden ontmoedigd.³¹x Zie Commissie, Impact assessment report behorende bij het DSA-voorstel, SWD(2020)348 (hierna: ‘impact assessment DSA-voorstel’), p. 33. De nu voorgestelde bepaling moet deze onzekerheid wegnemen. De Commissie had dat eerder al geprobeerd te doen in niet-juridisch bindende documenten zoals de Aanbeveling illegale online-inhoud uit 2018,³²x Aanbeveling (EU) 2018/334 (PbEU 2018, L 63/50) (zie ov. 26 considerans daarvan). kennelijk met onvoldoende succes. Deze regel uit het DSA-voorstel geldt eveneens wanneer de betrokken dienstverleners dergelijke maatregelen nemen om te voldoen aan vereisten van Unierecht. Gedacht kan worden onder meer aan activiteiten vereist onder artikel 17 Richtlijn auteursrecht in de digitale eengemaakte markt, de Verordening ter bestrijding van terroristisch online-inhoud of de toekomstige DSA-verordening zelf. De regel geldt echter niet voor activiteiten van de dienstverleners ten aanzien van informatie van gebruikers die niet illegaal is.
  Tot slot zijn er nieuwe regels ten aanzien van de bevelen die nationale gerechtelijke of bestuursrechtelijke autoriteiten aan tussenpersonen kunnen richten ten aanzien van het bestrijden van illegale inhoud en het verstrekken van informatie over afnemers van de diensten.³³x Art. 8 en 9 DSA-voorstel. Deze regels kennen geen nieuwe bevoegdheden toe. Zij stellen daarentegen bepaalde kaders voor de uitoefening van bevoegdheden op dit gebied voor zover die bestaan op grond van nationaal recht. Het doel is ervoor te zorgen dat zulke bevelen op een efficiënte en doeltreffende manier kunnen worden uitgevoerd, hetgeen in het belang is van zowel de genoemde autoriteiten als de betrokken tussenpersonen.³⁴x Ov. 29 considerans DSA-voorstel. Concreet is onder meer vereist dat de bevelen een motivering en informatie over beroepsmogelijkheden bevatten. De considerans van het DSA-voorstel verduidelijkt dat zulke bevelen niet vallen onder het land van herkomstbeginsel uit de Richtlijn elektronische handel.³⁵x Ov. 33 DSA-voorstel. De gevoegde autoriteiten van alle lidstaten kunnen daarom in principe zullen bevelen uitvaardigen.

  Zorgvuldigheid

  Kenmerkend voor het DSA-voorstel is dat het, bovenop de hiervoor besproken bepalingen over aansprakelijkheid, in hoofdstuk III een hele serie bepalingen bevat over de zorgvuldigheid (due diligence) die tussenpersonen moeten betrachten. Voor tussenpersonen in het algemeen zijn de relevante verplichtingen opgenomen in afdeling 1 hiervan. Specifiek moeten zij contactpunten instellen voor communicatie met de bevoegde autoriteiten; een wettelijk vertegenwoordiger in de Unie aanstellen indien zij niet zelf in de Unie zijn gevestigd;³⁶x Deze verplichting hang samen met het feit dat de regels uit het DSA-voorstel (anders dan die uit de Richtlijn elektronische handel; zie ov. 58 considerans daarvan) ook van toepassing zijn op dienstverleners die zijn gevestigd in derde landen en die diensten aanbieden in de Unie. Zie art. 1 lid 3 en art. 2 onder d DSA-voorstel. eventuele contractueel opgelegde beperkingen ten aanzien van informatie afkomstig van gebruikers duidelijk uiteenzetten en deze beperkingen op een zorgvuldige, objectieve en evenredige manier toepassen; en jaarlijks een rapport publiceren over hun content moderation (inhoudsmoderatie) – dat wil zeggen, hun activiteiten gericht op de bestrijding van informatie afkomstig van gebruikers die ofwel illegale inhoud betreft, ofwel strijdig is met de toepasselijke contractuele voorwaarden.³⁷x Art. 10 t/m 13 DSA-voorstel. Ten aanzien van het begrip content moderation, zie ook art. 2 onder p daarvan.
  Daarbovenop bevat afdeling 2 van hoofdstuk III nog een tweetal aanvullende verplichtingen specifiek voor aanbieders van hostingdiensten. In de eerste plaats zijn zij verplicht te voorzien in zogenoemde notice and action (‘kennisgeving en actie’; ook wel notice and takedown genoemd) mechanismen.³⁸x Art. 14 DSA-voorstel. Hiermee wordt een procedureel kader gecreëerd waarmee derden – bijvoorbeeld houders van intellectuele-eigendomsrechten, of personen die worden belasterd – zulke dienstverleners kunnen informeren over vermeend illegale inhoud op hun websites. De ontvangst van dergelijke kennisgevingen is een van de belangrijkste manieren waarop laatstgenoemden kennis kunnen verkrijgen van de aanwezigheid van illegale inhoud. Om hun hierboven genoemde beperking van aansprakelijkheid te behouden moeten zij vervolgens prompt de illegale inhoud verwijderen, althans wanneer de kennisgevingen voldoende nauwkeurig en onderbouwd zijn.³⁹x Art. 14 lid 2 DSA-voorstel. Dit betreft een codificatie van rechtspraak ten aanzien van art. 14 Richtlijn Elektronisch Handel. Zie L’Oréal v. eBay, punt 122. Concreet moeten aanbieders van hostingdiensten onder het DSA-voorstel met name bevorderen dat de kennisgevingen de daartoe benodigde informatie bevatten; de personen die de kennisgevingen hebben ingediend informeren over de verdere stappen; en de ontvangen kennisgevingen tijdig, zorgvuldig en objectief behandelen.⁴⁰x Zie m.n. art. 14 lid 2, 5 en 6 DSA-voorstel. De regeling stemt op grote lijnen overeen met hetgeen is opgenomen in de eerdere Aanbeveling illegale online-inhoud.⁴¹x Zie m.n. punt 5-13 Aanbeveling illegale online-inhoud. Hoewel aanmerkelijk minder gedetailleerd, bevat de herziene Richtlijn audiovisuele diensten ook dergelijke bepalingen.⁴²x Art. 28ter lid 3 onder d Richtlijn audiovisuele diensten. Zie ook S. Kulk, ‘Platformaansprakelijkheid – van “notice and takedown” naar algoritmisch toezicht’, NtEr 2020/5-6, p. 137.
  In de tweede plaats bepaalt het DSA-voorstel dat aanbieders van hostingdiensten de betrokken gebruikers gemotiveerd moeten informeren indien zij besluiten om opgeslagen informatie te verwijderen.⁴³x Art. 15 DSA-voorstel. In vergelijking tot de zojuist genoemde regeling over notice and action-mechanismen, die alleen ziet op kennisgevingen door derden over (vermeend) illegale inhoud, heeft deze motiveringsplicht een ruimer toepassingsbereik. De verplichting geldt ongeacht of de beslissing is genomen naar aanleiding van een dergelijke kennisgeving of van een onderzoek op eigen initiatief van de aanbieder van hostingdiensten, en ongeacht of de beslissing is genomen vanwege een vermeende schending van de wet of van de contractuele voorwaarden van de aanbieder. De motiveringsplicht is vooral belangrijk om de gebruikers in staat te stellen zulke beslissingen goed te begrijpen en zo nodig aan te vechten; zonder zulke informatie is dat praktisch onmogelijk.

• Verplichtingen voor onlineplatforms

  ‘Gewone’ onlineplatforms

  Hoe belangrijk de hiervoor genoemde bepalingen ook mogen zijn, het zwaartepunt van het DSA-voorstel bestaat uit de regeling die van toepassing is op onlineplatforms. Zoals eerder opgemerkt zijn dit aanbieders van diensten die, kort gezegd, bestaan uit de opslag én publieke verspreiding van informatie van gebruikers. Om een voorbeeld te geven: cloudopslag, filesharing en het delen van berichten in besloten groepen zal hier normaliter niet onder vallen, maar de opslag en het algemeen toegankelijk maken van berichten op Facebook of Twitter, of van video’s op YouTube of TikTok, in de regel wel.⁴⁴x Vgl. ov. 14 considerans DSA-voorstel. Afdeling 3 van hoofdstuk III bevat regels voor ‘gewone’ onlineplatforms (dus onlineplatforms in het algemeen, ongeacht hun grootte⁴⁵x Met uitzondering van micro- en kleine ondernemingen; zie art. 16 DSA-voorstel.), terwijl afdeling 4 aanvullende regels bevat voor onlineplatforms die zijn aan te merken als ‘zeer groot’.
  Wat betreft de regels voor ‘gewone’ onlineplatforms kunnen de bepalingen ruwweg in drie categorieën worden ingedeeld. Allereerst zijn er bepalingen die de hierboven besproken regelingen aanvullen. Denk met name aan de regels over trusted flaggers.⁴⁶x Art. 19 DSA-voorstel. Dat zijn partijen wier kennisgevingen met voorrang dienen te worden behandeld door onlineplatforms. Dat is omdat de partijen voldoen aan bepaalde criteria (expertise, collectieve belangenbehartiging, zorgvuldigheid, objectiviteit), waardoor hun kennisgevingen in algemene zin betrouwbaar worden geacht. Denk bijvoorbeeld aan niet-gouvernementele organisaties die zich bezighouden met de bestrijding van kinderporno of aan een publieke instelling zoals Europol.⁴⁷x Vgl. ov. 46 considerans DSA-voorstel. Europol houdt zich voornamelijk bezig met het melden van terroristisch materiaal, overeenkomstig art. 4 lid 1 onder m Europol Verordening (Verordening (EU) 2016/794, PbEU 2016, L 135/53). Verder moeten onlineplatforms maatregelen nemen om misbruik tegen te gaan.⁴⁸x Art. 20 DSA-voorstel. Het gaat daarbij om misbruik bestaande zowel uit het frequent verspreiden van manifest illegale inhoud, als uit het frequent indienen van manifest ongefundeerde kennisgevingen (en van manifest ongefundeerde klachten, ingediend onder de hierna te noemen interne klachtafhandelingssystemen). Ook zijn onlineplatforms verplicht vermoedens van bepaalde ernstige strafbare feiten te melden bij de bevoegde autoriteiten.⁴⁹x Art. 21 DSA-voostel. Het gaat specifiek om ernstige strafbare feiten die een bedreiging voor het leven of de veiligheid van personen inhouden. Blijkens ov. 21 considerans Aanbeveling illegale online-inhoud moet worden gedacht aan terroristische misdrijven of misdrijven inzake seksueel misbruik van minderjarigen.
  Het tweede soort bepalingen beoogt het makkelijker te maken voor gebruikers om beslissingen van onlineplatforms ten aanzien van hun gebruik van de desbetreffende diensten aan te vechten. Het gaat om beslissingen om informatie te verwijderen, maar mogelijkerwijs ook om beslissingen om accounts van gebruikers te schorsen of de dienstverlening tijdelijk te staken. Dat geldt ongeacht of de beslissing genomen is vanwege de vermeende onwettigheid van de inhoud of vanwege vermeende schendingen van de contractuele voorwaarden. Voor deze doeleinden moeten onlineplatforms interne klachtafhandelingssystemen instellen.⁵⁰x Art. 17 DSA-voorstel. Mocht dit geen oplossing bieden, dan zijn onlineplatforms verplicht mee te werken aan de buitengerechtelijke geschilbeslechting die de gebruikers dan mogelijkerwijs initiëren.⁵¹x Art. 18 DSA-voorstel. Dat geldt echter alleen wanneer de betrokken geschilbeslechtingsorganen voldoen aan de voorwaarden die in het DSA-voorstel zijn opgenomen en het orgaan als zodanig is gecertificeerd. Indien de gebruikers in het gelijk worden gesteld zijn de kosten voor de onlineplatforms; zo niet, dan dragen de gebruikers alleen hun eigen kosten.
  Het derde en laatste soort bepalingen kan worden samengevat onder de noemer transparantie. Enerzijds gaat het daarbij om rapportageverplichtingen die verder gaan dan de eerdergenoemde ‘basisverplichtingen’ op dit gebied.⁵²x Art. 23 DSA-voorstel. Zoals besproken in het bovenstaande, zijn de ‘basisverplichtingen’ die toepasselijk zijn op alle tussenpersonen te vinden in art. 13 DSA-voorstel. Zij gaan verder in de zin dat meer gegevens moeten worden opgenomen in de jaarlijkse rapporten, maar ook in de zin dat onlineplatforms halfjaarlijks moeten rapporteren over hun gemiddeld aantal gebruikers in de Europese Unie. Dat laatste moet de beoordeling vergemakkelijken of zij als ‘zeer groot onlineplatform’ moeten worden aangemerkt.⁵³x Zie verder de onderstaande paragraaf over zeer grote onlineplatforms. Anderzijds zijn de transparantieverplichtingen echter ook diverser van aard. Zo is een regeling opgenomen die beoogt de traceerbaarheid van handelaren te verbeteren die via onlineplatforms hun goederen of diensten aanbieden aan consumenten.⁵⁴x Art. 22 DSA-voorstel. Deze ‘know your business customer’-verplichting komt bovenop de verplichtingen die gelden op basis van recente consumentenrechtelijke bepalingen, zoals art. 6bis Richtlijn Consumentenrechten (Richtlijn 2011/83/EU, PbEU 2011, L 304/63; ingevoerd door Richtlijn (EU) 2019/2161). Zie verder M.B.M. Loos, ‘Modernisering van het Europese consumentenrecht: meer vlees op de botten’ (delen I en II), NtEr 2019/7-8, p. 137-141 resp. p. 188-192. Bovendien moeten de betrokken onlineplatforms het handelaren mogelijk maken om te voldoen aan hun verplichtingen uit hoofde van Unierecht op het gebied van consumentenbescherming en productveiligheid (art. 22 lid 7 DSA-voorstel). De betrokken onlineplatforms dienen gegevens ten aanzien van deze handelaren (naam, adres, registratienummer, enz.) te bewaren en deels ook te publiceren en de betrouwbaarheid ervan te controleren. Verder wordt transparantie vereist ten aanzien van de reclame die onlineplatforms tonen aan hun gebruikers.⁵⁵x Art. 24 DSA-voorstel. Het gaat daarbij niet alleen om informatie over het feit dat de getoonde informatie reclame is, maar ook namens welke partij de reclame wordt getoond en waarom de gebruiker deze te zien krijgt.

  Zeer grote onlineplatforms

  Inmiddels zijn we aangekomen bij de top van de piramide: de regulering van zeer grote onlineplatforms. Het DSA-voorstel zet een drempelwaarde van gemiddeld 45 miljoen maandelijks actieve gebruikers in de Europese Unie. Dat komt ruwweg overeen met 10% van de bevolking van de Europese Unie.⁵⁶x Vgl. ov. 54 considerans DSA-voorstel. Er is een mechanisme voorzien om de drempelwaarde aan te passen bij aanmerkelijke schommelingen in het bevolkingsaantal.⁵⁷x Art. 25 lid 2 DSA-voorstel. Het gaat om schommelingen van meer dan 5% ten opzichte van de bevolking van de Europese Unie in 2020. De aanpassingen worden doorgevoerd door middel van gedelegeerde handelingen in de zin van art. 290 Verdrag betreffende de werking van de Europese Unie. Demografische ontwikkelingen mogen meestal vrij beperkt en geleidelijk zijn, maar de mogelijkheid van toetreding en uittreding van landen maakt zulke schommelingen niet onvoorstelbaar. De precieze methodiek voor het vaststellen van het aantal gebruikers zal later worden uitgewerkt.⁵⁸x Art. 25 lid 3 DSA-voorstel. Ook dit dient te gebeuren door middel van zulke gedelegeerde handelingen. Waarschijnlijk zal slechts een betrekkelijk klein aantal onlineplatforms als ‘zeer groot’ worden aangemerkt; hooguit enkele handenvol lijkt een redelijke schatting.⁵⁹x Vgl. Impact assessment DSA-voorstel, p. 64-65.
  Gelet op de schaal waarop zeer grote onlineplatforms actief zijn, kan de impact van hun activiteiten op – en de daarmee samenhangende risico’s voor – de samenleving aanmerkelijk zijn. Dit geldt voor hun economische activiteiten, maar bijvoorbeeld ook voor hun rol bij het faciliteren van het publieke debat en de verspreiding van informatie. Deze impact en risico’s zijn de voornaamste redenen dat de Commissie voorstelt hen aan aanvullende verplichtingen te onderwerpen.⁶⁰x Zie m.n. ov. 53 en 54 considerans DSA-voorstel. Verder speelt een rol dat zulke zeer grote onlineplatforms normaliter ook meer financiële en technologische middelen tot hun beschikking hebben, waardoor zij vanuit het oogpunt van evenredigheid kunnen worden onderworpen aan aanvullende verplichtingen. Dientengevolge draaien de verplichtingen voor een belangrijk deel om de identificatie en beheersing van zulke risico’s. Specifiek moeten zeer grote onlineplatforms jaarlijks de risico’s die samenhangen met hun dienstverlening – onder meer ten aanzien van de verspreiding van illegale inhoud en van manipulatie met negatieve gevolgen voor de volksgezondheid of voor democratische processen – beoordelen.⁶¹x Art. 26 DSA-voorstel. Vervolgens moeten zij maatregelen nemen om de geïdentificeerde risico’s te beperken.⁶²x Art. 27 DSA-voorstel. Zij moeten ook een nalevingsfunctionaris (compliance officer) aanstellen die erop toeziet dat wordt voldaan aan de vereisten van de DSA-verordening.⁶³x Art. 32 DSA-voorstel.
  Bovendien stelt de Commissie voor zeer grote onlineplatforms te onderwerpen aan een versterkt regime ten aanzien van controle en transparantie. Zo moeten zij jaarlijks een onafhankelijke controle (audit) laten uitvoeren om vast te stellen in welke mate zij voldoen aan hun verplichtingen onder hoofdstuk III.⁶⁴x Art. 28 DSA-voorstel. Deze controles resulteren in een rapport met bevindingen en eventuele aanbevelingen ter verbetering. De aanbevelingen zijn niet bindend, maar als ze niet worden opgevolgd moet dit worden toegelicht. Zeer grote onlineplatforms worden bovendien geacht de bevoegde autoriteiten, alsmede door bepaalde erkende onderzoekers, toegang te geven tot hun data.⁶⁵x Art. 31 DSA-voorstel. Ook dit dient ter controle of zij hun verplichtingen nakomen. Voorts moeten zij duidelijkheid – en keuzemogelijkheden – bieden ten aanzien van de systemen die zij gebruiken om bepaalde inhoud aan te bevelen aan hun gebruikers (recommender systems).⁶⁶x Art. 29 DSA-voorstel. Ook gelden er aanvullende transparantieverplichtingen met betrekking tot reclame en met betrekking tot rapportage aan het algemene publiek en de bevoegde autoriteiten.⁶⁷x Art. 30 resp. 33 DSA-voorstel.
  Tot slot moeten nog de bepalingen over gedragscodes, waaronder begrepen zogenoemde crisisprotocollen,⁶⁸x Zulke crisisprotocollen hebben betrekking op maatregelen te nemen in specifieke, uitzonderlijke situaties, zoals ter bestrijding van livebeelden van een terroristische aanslag of van verspreiding van desinformatie in geval van een pandemie. worden genoemd. Hoewel ze niet beperkt zijn tot zeer grote onlineplatforms, richten deze bepalingen zich wel met name op deze partijen.⁶⁹x Art. 35, 36 en 37 DSA-voorstel. Gedragscodes zijn inherent vrijwillige instrumenten, dus het DSA-voorstel bevat geen verplichtingen in dit verband. Toch blijkt zowel uit het feit dat hierover drie relatief uitgebreide artikelen zijn opgenomen, als uit verscheidene andere bepalingen,⁷⁰x Zie m.n. art. 27 lid 1 onder e (waaruit blijkt dat deelname aan gedragscodes een maatregel kan zijn ter beheersing van eventuele risico’s) en art. 28 lid 1 onder a DSA-voorstel (waaruit blijkt dat de controles ook dienen ter controle van het naleven van toezeggingen gedaan in het kader van gedragscodes). Zie ook ov. 68 considerans DSA-voorstel (waaruit blijkt dat eventuele deelname aan een gedragscode een element kan zijn dat meeweegt bij de beoordeling van een eventuele inbreuk). dat de Commissie aan zulke instrumenten een aanzienlijk belang toekent, als ‘co-regulatory backstop’.⁷¹x Impact assessment DSA-voorstel, p. 3. De bedoeling is voort te borduren op bestaande vrijwillige samenwerking, bijvoorbeeld ter bestrijding van intellectuele-eigendomsinbreuken, haat-zaaien en desinformatie.⁷²x Zie ov. 69 considerans DSA-voorstel.

• Toezicht en handhaving

  Het staat in beginsel aan de bevoegde nationale autoriteiten om te zorgen dat de hiervoor genoemde onlinedienstverleners hun verplichtingen onder de nieuwe verordening nakomen. Rechtsmacht wordt toegekend overeenkomstig het land van herkomstbeginsel.⁷³x Art. 40 DSA-voorstel. Tussenpersonen die niet in de EU zijn gevestigd maar daar wel diensten aanbieden, vallen onder de bevoegdheid van de lidstaat waar hun wettelijke vertegenwoordiger (bedoeld in art. 11) is gevestigd. In dit kader worden de nodige bevoegdheden toegekend aan de hiertoe door de lidstaten aangewezen autoriteiten, waaronder één per lidstaat die wordt aangewezen als ‘coördinator voor digitale diensten’.⁷⁴x Art. 38 DSA-voorstel. Het gaat daarbij onder meer om bevoegdheden om ter plekke onderzoek te doen, voorlopige maatregelen te treffen, toegang tot websites te blokkeren en boetes op te leggen.⁷⁵x Art. 41 en 42 DSA-voorstel. Ook is voorzien in bepaalde waarborgen, waaronder vereisten van onpartijdigheid en onafhankelijkheid, transparantieverplichtingen en in nationaal recht nader uit te werken waarborgen om schendingen van grondrechten te voorkomen.⁷⁶x Zie art. 39 lid 2, art. 44 en art. 41 lid 6 DSA-voorstel.
  Het DSA-voorstel beoogt samenwerking tussen de bevoegde autoriteiten van de verschillende lidstaten te bevorderen. Daartoe wordt een Europees Comité inzake digitale diensten (hierna: ‘het Comité’) opgericht.⁷⁷x Art. 47-49 DSA-voorstel. Verder is voorzien in een procedure waarbij de ene nationale autoriteit, of het Comité, een andere nationale autoriteit kan vragen toezichts- of handhavingsmaatregelen te nemen ten aanzien van een bepaalde tussenpersoon ten aanzien waarvan laatstgenoemde rechtsmacht heeft.⁷⁸x Art. 45 DSA-voorstel. Komen de betrokken autoriteiten er onderling niet uit, dan kan de Commissie uiteindelijk een aanbeveling doen gericht aan de bevoegde autoriteit om bepaalde maatregelen te nemen. Daarnaast wordt het doen van gezamenlijk onderzoek door meerdere nationale autoriteiten gefaciliteerd.⁷⁹x Art. 46 DSA-voorstel.
  Er worden ook bepaalde toezichts- en handhavingsbevoegdheden toegekend aan de Commissie. Inhoudelijk zijn deze bevoegdheden in wezen een uitwerking van de bovengenoemde bevoegdheden van de nationale autoriteiten.⁸⁰x Art. 52-66 DSA-voorstel. De Commissie heeft deze bevoegdheden alleen in relatie tot zeer grote onlineplatforms en alleen in drie specifieke situaties.⁸¹x Zie m.n. art. 51 lid 1 DSA-voorstel. De eerste situatie heeft betrekking op inbreuken op de bepalingen die uitsluitend gelden voor zeer grote onlineplatforms (dat wil zeggen afdeling 4 van hoofdstuk III). In zulke gevallen staat het eerst aan de bevoegde nationale autoriteit om de inbreuk vast te stellen en om te beoordelen of het vervolgens door het zeer grote onlineplatform op te stellen actieplan volstaat om de inbreuk te beëindigen. Nadat de autoriteit deze beoordeling heeft doorgegeven, heeft (alleen) de Commissie de mogelijkheid te interveniëren en zo nodig verdere stappen te ondernemen.⁸²x Art. 50 DSA-voorstel. De tweede situatie is die waar de Commissie een hiervoor bedoelde aanbeveling heeft gedaan, maar de nationale autoriteit tot wie deze is gericht hieraan op geen enkele wijze gehoor geeft. Tot slot hebben nationale autoriteiten de mogelijkheid om op vrijwillige basis de Commissie te verzoeken haar bevoegdheden uit te oefenen ten aanzien van een vermoedelijke inbreuk begaan door een zeer groot onlineplatform.⁸³x Art. 46 lid 2 DSA-voorstel. In deze laatst twee situaties gaat het om een vermoedelijke inbreuk op elke bepaling van de DSA-verordening die van toepassing is op zeer grote onlineplatforms.

• Algemene opmerkingen

  Aansprakelijkheid, grondrechten en content moderation

  Bij wijze van eerste algemene opmerking⁸⁴x Deze bijdrage is voornamelijk bedoeld als een overzicht van het DSA-voorstel en is daarmee niet de plaats voor een diepgravende analyse. Voor analyses van verscheidene van de onderhavige onderwerpen, zie bijv. F. Wilman, The responsibility of online intermediaries for illegal user content in the EU and the US, Cheltenham: Edward Elgar Publishing 2020; diverse studies uitgevoerd voor het Europees Parlement, beschikbaar via www.europarl.europa.eu/RegData/etudes/BRIE/2020/652712/IPOL_BRI(2020)652712_EN.pdf; J. van Hoboken, J. Quintas, J. Poort & N. van Eijck, ‘Hosting intermediary services and illegal content online: an analysis of the scope of Article 14 ECD in light of developments in the online service landscape’, Studie voor de Commissie 2019. valt op dat de Commissie een vrij behoudende koers vaart waar het gaat om aansprakelijkheidsgerelateerde onderwerpen. Dat blijkt vooral uit het feit dat de relevante bepalingen uit de Richtlijn elektronische handel grotendeels onveranderd zijn overgenomen. Dit is niet verrassend. Hoewel er op specifieke onderdelen soms wel kritiek is, is er brede steun voor het handhaven van de beperkingen van aansprakelijkheid en het verbod op algemene toezichtverplichtingen als zodanig.⁸⁵x Zie bijv. Impact assessment DSA-voorstel, p. 26 (‘On the topic of the liability of intermediaries, a large majority of stakeholder groups broadly considered the principle of the conditional exemption from liability as a precondition for a fair balance between protecting fundamental rights online and preserving the ability of newcomers to innovate and scale’). Zie ook Europees Parlement, ‘Resolution on Digital Services Act and fundamental rights issues posed’, P9_TA(2020)0274, par. 30 (waarin steun wordt uitgesproken voor het handhaven van het huidige juridische raamwerk ten aanzien van de aansprakelijkheid van tussenpersonen voor informatie van gebruikers); J. Urban, J. Karaganis & B. Schofield, ‘Notice and takedown in everyday practice’, UC Berkeley Public Law Research Paper No. 2755628, 2017, p. 28 (waar de vraag naar de relevantie van het notice and takedown-model ondanks de vele veranderingen in de afgelopen twee decennia, op basis van een uitgebreide studie uitgevoerd in de VS, wordt beantwoord met ‘a resounding “yes”’). De huidige bepalingen spelen een belangrijke rol bij het waarborgen van een rechtvaardig evenwicht tussen de grondrechten van de diverse betrokken partijen.⁸⁶x Vgl. toelichting DSA-voorstel, p. 3 en 13. Dit rechtvaardige evenwicht is, in situaties waar grondrechten uit het Handvest van de Grondrechten van de EU (hierna: ‘het Handvest’) met elkaar in botsing komen, vereist op basis van de rechtspraak. Zie bijv. HvJ 29 januari 2008, zaak C-275/06, ECLI:EU:C:2008:54 (Promusicae), punt 68. Er kan zelfs worden betwijfeld of de Unie juridisch gezien veel ruimte heeft om voor een wezenlijk andere aanpak te kiezen.⁸⁷x Zie verder F. Wilman, ‘On notice: the EU’s system of knowledge-based liability for hosting service providers in respect of illegal user content – between the e-Commerce Directive and the Digital Services Act’, JIPITEC (voorjaar 2021). Verwacht mag worden dat de ‘transplantatie’ van de relevante bepalingen van de richtlijn naar de DSA-verordening, de beperkte verduidelijkingen en de aanvulling met Unierechtelijke regels over notice and action de rechtszekerheid ten goede zullen komen en de toenemende versnippering binnen de Unie op dit gebied zullen inperken.⁸⁸x De Richtlijn elektronische handel laat het aan de lidstaten over om al dan niet te voorzien in regels over notice and action, terwijl zelfregulering wordt aangemoedigd (zie art. 14 lid 3 resp. art. 16). Ook worden bepaalde kernbegrippen uit de relevante artikelen soms verschillend geïmplementeerd en geïnterpreteerd. Het resultaat is een in toenemende mate versnipperd juridisch landschap. Zie Impact assessment DSA-voorstel, p. 120-125.
  Dat sluit aan bij het tweede punt: de uitgebreide aandacht voor de grondrechten van de betrokken partijen. Hoewel het belang van deze diensten voor de uitoefening van de vrijheid van meningsuiting destijds al werd onderkend,⁸⁹x Zie m.n. ov. 6 en 46 considerans Richtlijn elektronische handel. wordt de regulering in de Richtlijn elektronische handel vooral benaderd als een afweging van (economische) belangen.⁹⁰x Ov. 41 considerans Richtlijn elektronische handel. Zie ook Conclusie A-G, YouTube, punt 194; Commissie, First report on the application of Directive 2000/31/EC, COM(2003)702, p. 14 en 20. In het DSA-voorstel is bescherming van de grondrechten ‘opgewaardeerd’ tot het niveau van de doelstelling van de regulering als zodanig.⁹¹x Zie art. 1 lid 2 DSA-voorstel. Dit komt terug in diverse specifieke bepalingen. De genoemde notice and action-mechanismes kunnen hieraan een belangrijke bijdrage leveren door enerzijds de snelle verwijdering van illegale inhoud te bevorderen en anderzijds de kans op het onbedoeld verwijderen van niet-illegale inhoud te verkleinen.⁹²x Om enkele concrete voorbeelden te geven: zulke snelle verwijdering kan de verwezenlijking bevorderen van de grondrechten op eerbieding van het privéleven (bij laster of privacygevoelige informatie), bescherming van intellectueel eigendom (bij inbreuken op het merken- of auteursrecht), non-discriminatie (bij racistisch materiaal) en van het kind (bij kinderporno), terwijl het niet onbedoeld verwijderen van wettige informatie de vrijheid van meningsuiting en van informatie veelal ten goede komt. Zie art. 7, 17, 21, 24 resp. 11 Handvest. Los daarvan moeten tussenpersonen op basis van het DSA-voorstel de grondrechten van hun gebruikers in aanmerking nemen wanneer zij hun relevante contractuele voorwaarden toepassen en is de uitoefening van bepaalde grondrechten een aspect dat zeer grote onlineplatforms moeten meenemen in hun jaarlijkse risicobeoordeling.⁹³x Art. 12 lid 2 resp. art. 26 lid 1 onder b DSA-voorstel. Hiermee wordt aldus een soort horizontale werking van de desbetreffende grondrechten bewerkstelligd, zij het over de band van bepalingen van secondair Unierecht.⁹⁴x Ten aanzien van recente jurisprudentiële ontwikkelingen met betrekking tot de horizontale werking van het Handvest, zie verder A. Eleveld, ‘Rechtstreekse horizontale werking van grondrechten van de Europese Unie: de lessen uit Egenberger, Bauer en Cresco Investigation’, NtEr 2019/3-4, p. 88-95.
  In de derde plaats moet de regulering van content moderation worden genoemd. Veel van de betrokken onlinedienstverleners – en met name de grote – modereren de informatie die zij opslaan en verspreiden voor hun gebruikers.⁹⁵x Zie verder T. Gillespie, Custodians of the internet: platforms, content moderation, and the hidden decisions that shape social media, Yale University Press 2018. Zie ook Wilman 2020, p. 246-252. Zij zetten hier in toenemende mate algoritmes voor in. Dit is veelal onvermijdelijk gelet op de schaal waarop zij opereren, maar brengt ook uitdagingen mee.⁹⁶x Zie verder Kulk 2020, p. 132-140; Wilman 2020, p. 255-260. Zij doen dit in de regel niet alleen ter bestrijding van illegale inhoud, maar ook van meestal legale maar niettemin ongewenst geachte informatie. Het kan daarbij gaan om informatie die maatschappelijk onwenselijk wordt geacht, zoals desinformatie over COVID-19 of verkiezingen, of informatie die schadelijk kan zijn voor minderjarigen. Maar het kan ook gaan om informatie die de dienstverleners om bepaalde (commerciële) redenen liever niet zien, zoals naaktbeelden of beledigingen. Feitelijk maakt deze ontwikkeling, in combinatie met hun functie als ‘de facto public spaces’,⁹⁷x Impact assessment DSA-voorstel, p. 9. sommige zeer grote dienstverleners tot arbiters van wat online wel en niet gezegd mag worden.⁹⁸x Dat geldt voor hetgeen gezegd wordt door ‘gewone’ gebruikers, maar bijvoorbeeld ook door leden van de Tweede Kamer en de Amerikaanse president. Zie Nu.nl, ‘LinkedIn-account Wybren van Haga verwijderd voor verspreiden misinformatie’, 24 december 2020; Nu.nl, ‘Twitter, Facebook en Instagram schorsen account Trump’, 7 januari 2021; Nu.nl, ‘TikTok verwijdert video’s van Trump over bestorming van het Capitool’, 8 januari 2021. Zoals opgemerkt door Politico (Brussels Playbook, 8 januari 2021): ‘Love or hate Trump – but do think about what it means for tech regulation, including the EU’s efforts, and democracy itself if a privately owned monopoly is the (Western) world’s top authority for sanctioning incendiary speech and lies online.’ Hoewel daarmee van groot praktisch belang, zijn deze activiteiten tot op heden maar in zeer beperkte mate gereguleerd op Unieniveau. Dat gebeurt vooral door algemeen geldende instrumenten zoals de Algemene verordening gegevensbescherming⁹⁹xVerordening (EU) 2016/679 van het Europees Parlement en de Raad van 27 april 2016 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens en betreffende het vrije verkeer van die gegevens en tot intrekking van Richtlijn 95/46/EG (PbEU 2016, L 119/1). (AVG) en richtlijnen op het gebied van consumentenbescherming.¹⁰⁰x Zie m.n. de Richtlijn oneerlijke handelspraktijken (Richtlijn 2005/29/EG, PbEU 2005, L 149/22) en de Richtlijn oneerlijke bedingen (Richtlijn 93/13/EEG, PbEG 1993, L 95/29). Zoals opgemerkt in noot 54 is recent wel getracht het Unierecht ter bescherming van consumenten beter te laten aansluiten op ontwikkelingen in de onlinewereld, vooral waar het gaat om de activiteiten van onlinemarktplaatsen. Onder het DSA-voorstel blijft content moderation zeker toegestaan,¹⁰¹x Waar het gaat om (vermeend) illegale inhoud wordt dit zelfs gestimuleerd, m.n. door de eerdergenoemde ‘Good Samaritan’-bepaling (art. 6 DSA-voorstel). In beginsel hebben tussenpersonen de vrijheid om zulke contractuele grenzen te stellen bij de verlening van hun diensten, als een uitoefening van hun contractsvrijheid die onderdeel uitmaakt van de vrijheid van ondernemerschap (art. 16 Handvest; zie bijv. HvJ 22 januari 2013, zaak C-283/11, ECLI:EU:C:2013:28 (Sky Österreich), punt 42-43). maar wordt hier een belangrijk, specifiek rechtskader voor gecreëerd. Dat gebeurt niet alleen door het vereisen van duidelijkheid vooraf in de contractuele voorwaarden en door eisen te stellen aan de toepassing daarvan, maar ook door de voorgestelde verplichtingen ten aanzien van motivering, beroepsmogelijkheden en transparantie achteraf.¹⁰²x Zie art. 12, 15, 17, 18 resp. 23 DSA-voorstel. Daarbij moet worden bedacht dat de dominantie van sommige van de betrokken platforms een belangrijke rol speelt bij de bovengenoemde ontwikkeling. In die zin kan ook het DMA-voorstel worden gezien als een belangrijke maatregel in deze context. Goed denkbaar is dat de Unie hiermee een nieuwe internationale standaard zal zetten, zoals eerder het geval was met de AVG.

  Illegale inhoud, toezicht en handhaving en de Nederlandse rechtspraktijk

  Het DSA-voorstel bevat, in de vierde plaats, zeker de nodige bepalingen die beogen illegale inhoud doeltreffender te bestrijden. Denk, afgezien van de al genoemde voorwaardelijke beperking van aansprakelijkheid gecombineerd met de notice and action-mechanismen, aan de vereisten over de schorsing van dienstverlening aan gebruikers die frequent manifest illegale inhoud verspreiden, het melden van vermoedens van bepaalde strafbare feiten, en de beoordeling en beperking van risico’s.¹⁰³x Art. 5, 14, 20, 21, 26 resp. 27 DSA-voorstel. Dit alles kan worden gezien als een zorgvuldigheidsverplichting opgelegd op Unieniveau, iets dat de Richtlijn elektronische handel nog overlaat aan de lidstaten.¹⁰⁴x Zie ov. 48 considerans Richtlijn elektronische handel. Toch zijn de ambities op dit vlak relatief bescheiden te noemen. Met name zijn geen specifieke verplichtingen opgenomen voor de betrokken onlinedienstverleners om illegale inhoud proactief op te sporen (uploadfilters) of om ervoor te zorgen dat verwijderde informatie niet opnieuw opduikt (staydown). Zulke maatregelen zijn wel opgenomen in artikel 17 Richtlijn auteursrecht in de digitale eengemaakte markt, het voorstel van de Commissie voor de Verordening ter bestrijding van terroristisch online-inhoud en de Aanbeveling illegale online-inhoud. Enerzijds kan deze aanpak in het DSA-voorstel worden opgevat als een onderkenning dat dergelijke maatregelen erg controversieel zijn.¹⁰⁵x Dat geldt in het bijzonder voor art. 17 Richtlijn auteursrecht in de digitale eengemaakte markt. Zie bijv. C. Angelopoulos & J. Quintas, ‘Fixing copyright reform: a better solution to online infringement’, JIPITEC 10 2019, p. 147 (‘The proposal [for the Copyright in the Digital Single Market Directive] was controversial from the start. Almost every step of the legislative process was the subject of intense lobbying and debate.’); J.G. Reus, ‘De “filterverplichting” uit de nieuwe Auteursrechtrichtlijn’, NtEr 2019/9-10, p. 257 (‘De totstandkoming van artikel 17 is controversieel en ging niet zonder slag of stoot.’). Hoewel in mindere mate, geldt hetzelfde voor de verordening met betrekking tot terroristische online-inhoud. Zie bijv. EU Agency for Fundamental Rights, ‘Opinion on the proposal for a Regulation on preventing the dissemination of terrorist content online and its fundamental rights implications’, 2/2019. Zie ook Impact assessment DSA-voorstel, p. 19 (‘The issue of the use of automated tools to automatically detect illegal content, services and goods is considered very controversial among respondents [to the public consultation].’). Anderzijds kan het worden gezien als een afspiegeling van het karakter van de DSA-verordening als een horizontaal geldend instrument, dat wordt gecomplementeerd door andere, sector- of onderwerpspecifieke Unierechtelijke instrumenten die zo nodig verdergaande maatregelen kunnen bevatten.¹⁰⁶x Zie ook de bovenstaande paragraaf over de relevante context. Verder heeft de Commissie aanvullende wetgeving ter bestrijding van seksueel kindermisbruik online aangekondigd; zie Commissie, ‘EU strategy for a more effective fight against child sexual abuse’, COM(2020)607, 24 juli 2020, p. 5.
  De voorlaatste algemene opmerking heeft betrekking op de voorgestelde regels over toezicht en handhaving. Deze gaan duidelijk een stap verder dan het bestaande raamwerk op dit terrein, dat tamelijk beperkt is.¹⁰⁷x Art. 18 en 19 Richtlijn elektronische handel. De nieuwe bevoegdheden voor nationale autoriteiten zijn stevig. Zo kunnen de boetes oplopen tot 6% van de jaaromzet en kunnen als gezegd websites worden geblokkeerd, zij het enkel als laatste redmiddel.¹⁰⁸x Zie art. 42 lid 3 resp. art. 41 lid 3 DSA-voorstel. Het opvallendste en vernieuwendste aspect is echter de rol van de Commissie ten aanzien van zeer grote onlineplatforms. Die rol kan logisch worden genoemd. Als de betrokken onlinedienstverleners op Europees niveau opereren, moet het toezicht wellicht ook op Europees niveau plaatsvinden. Ook roepen eerdere ervaringen, vooral met de AVG, vragen op over de capaciteit van sommige nationale autoriteiten om effectief toezicht uit te oefenen op grote onlinedienstverleners die grensoverschrijdend opereren.¹⁰⁹x Zie bijv. Commissie, ‘Data protection as a pillar of citizens’ empowerment and the EU’s approach to the digital transition – two years of application of the General Data Protection Regulation’, COM(2020)264, 24 juni 2020, p. 5 (‘Further progress is needed to make the handling of cross-border cases more efficient and harmonised across the EU.’). Zie ook het bijbehorende staff working document, SWD(2020)115, p. 12 (‘Many [national data protection authorities] still report that they do not have sufficient resources.’). De toekenning van bevoegdheden aan de Commissie is mede gemotiveerd met verwijzing naar de mogelijke complexiteit van de inbreuken; zie ov. 94 considerans DSA-voorstel. Niettemin zou de DSA-verordening hiermee, naast het mededingingsrecht, een zeldzame uitzondering zijn op de hoofdregel dat implementatie van het Unierecht op nationaal niveau gebeurt. Het Unierecht op het gebied van mededinging heeft duidelijk ook als inspiratiebron gediend bij de uitwerking van de bevoegdheden van de Commissie.¹¹⁰x Zie m.n. de relevante bepalingen uit de Mededingingsverordening (Verordening (EG) nr. 1/2003, PbEU 2003, L 1/1). Tegelijkertijd valt enige voorzichtigheid te bespeuren. Niet alleen is de voorgestelde directe rol van de Commissie op het gebied van toezicht en handhaving beperkt tot zeer grote onlineplatforms, ook kan zij die rol alleen spelen in een beperkt aantal situaties. Daarbij blijft de ‘overdracht’ van een dossier aan de Commissie steeds mede afhankelijk van het doen of nalaten van de bevoegde nationale autoriteiten.¹¹¹x Zie het overzicht van de drie relevante situaties in de bovenstaande paragraaf over toezicht en handhaving. Specifiek gaat het, wat betreft het doen of nalaten van de bevoegde nationale autoriteiten, in deze drie situaties om: (a) het vaststellen van een inbreuk op een van de bepalingen van hfdst. III, afd. 4 en het beoordelen van het actieplan overeenkomstig art. 50; (b) het op geen enkele wijze gevolg geven aan de aanbeveling van de Commissie bedoeld in art. 45 lid 7; en (c) vrijwillige verzoeken uit hoofde van art. 46 lid 2 DSA-voorstel. Ook staat het steeds aan de Commissie om te besluiten of zij haar bevoegdheden wenst uit te oefenen; zie ov. 97 considerans DSA-voorstel. Afgewacht zal moeten worden hoe dit innovatieve en enigszins complexe systeem in de praktijk zal functioneren.
  Tot slot rijst de vraag wat dit alles betekent voor de Nederlandse rechtspraktijk. Dat is vooralsnog moeilijk te zeggen; het gaat immers ‘slechts’ om een voorstel. Het opnemen in de DSA-verordening van de bepalingen over beperking van aansprakelijkheid uit de Richtlijn elektronische handel lijkt mee te brengen dat de Nederlandse wetgeving ter omzetting van de desbetreffende bepalingen niet kan worden gehandhaafd.¹¹²x Art. 6:196c BW. Dat onderwerp wordt dan immers (uitputtend) geregeld in de nieuwe verordening. Gelet op de overeenkomsten tussen beide regelingen blijft het inhoudelijke verschil echter beperkt. Verder houdt het DSA-voorstel een aanzienlijke inperking in van de mogelijkheden die lidstaten onder deze richtlijn nog hebben om bepaalde kwesties zelf te regelen (of over te laten aan zelfregulering¹¹³x Zie in Nederland bijvoorbeeld de Gedragscode Notice-and-takedown en de Gedragscode Abuse-bestrijding. Het DSA-voorstel impliceert niet dat zelfregulering niet langer mogelijk zou zijn; als gezegd wordt de totstandkoming van gedragscodes juist aangemoedigd (zie art. 35, 36, 37). Zulke zelfregulering kan echter alleen dienen als aanvulling op het wettelijk kader, met inachtneming van de vereisten die daaruit voortvloeien. In die zin laat toegenomen regulering op Unieniveau minder ruimte voor zelfregulering.), zoals notice and action-mechanismes en zorgvuldigheidsverplichtingen voor bepaalde onlinedienstverleners. Qua toezicht en handhaving zal waarschijnlijk ook het nodige moeten worden aangepast, waaronder het aanwijzen en voldoende toerusten van een coördinator voor digitale diensten en het verzekeren dat de voorgestelde regels over gerechtelijke of bestuursrechtelijke bevelen in acht worden genomen. Voor beoefenaars zoals advocaten lijkt de betekenis van de DSA-verordening in het bijzonder gelegen in de nieuwe, tamelijk uitgebreide set verplichtingen voor de betrokken onlinedienstverleners – vooral aanbieders van hostingsdiensten – en de daarmee corresponderende rechten voor gebruikers van hun diensten. Het lijkt onvermijdelijk dat de toepassing van deze regels aanleiding zal geven tot de nodige klachten,¹¹⁴x Naast de eerdergenoemde verplichte mogelijkheid tot interne klachtafhandeling, voorziet het DSA-voorstel in een recht voor gebruikers om een klacht in te dienen bij de autoriteit van de lidstaat waar zij wonen of zijn gevestigd (zie art. 17 resp. 43). geschillen en procedures, net als dat het geval is met bijvoorbeeld de AVG. Ook is aannemelijk dat de nieuwe maatregelen het gemakkelijker zullen maken om meldingen in te dienen om daarmee van de betrokken dienstverleners gedaan te krijgen dat zij (vermeend) illegale inhoud verwijderen.

• Conclusie

  Het DSA-voorstel beoogt een nieuw rechtskader te creëren voor de activiteiten van onlinedienstverleners die informatie van gebruikers doorgeven, opslaan en publiekelijk verspreiden, waaronder aanbieders van sociale media-, onlinemarktplaats-, cloudopslag- en internettoegangsdiensten. Er bestaat weinig discussie over het feit dat er behoefte is aan zo’n nieuw kader, vooral gelet op de betrekkelijk summiere wijze waarop de activiteiten van deze dienstverleners momenteel zijn gereguleerd en de centrale rol die veel van hen spelen in het dagelijks leven. In veel opzichten is dit een positieve rol. Maar evenzeer is duidelijk dat, zoals bij elke technologische ontwikkeling, ook nadelen en risico’s zijn verbonden aan deze dienstverlening. Zoals hiervoor uiteengezet, zijn de maatregelen die de Commissie voorstelt deels behoudend (ten aanzien van de aansprakelijkheid bijvoorbeeld), deels nuttig-maar-voorspelbaar (ten aanzien van de notice and action-mechanismes bijvoorbeeld), deels ambitieus (ten aanzien van de rechten van gebruikers bijvoorbeeld) en deels vernieuwend (ten aanzien van het toezicht op zeer grote onlineplatforms bijvoorbeeld).
  Bij het tot stand brengen van zo’n nieuw rechtskader valt niet te ontkomen aan moeilijke afwegingen tussen de verschillende rechten en belangen die in het geding zijn. Dit zijn soms duivelse dilemma’s.¹¹⁵x Adviesraad Internationale Vraagstukken, ‘Regulering van online content: naar een herijking van het Nederlandse internetbeleid’, 2020, p. 45. Zo is er evident een spanningsveld tussen de bestrijding van illegale inhoud en desinformatie enerzijds en het waarborgen van vrijheid van meningsuiting en informatie anderzijds. Een ander voorbeeld is het spanningsveld tussen de bescherming van gebruikers en de samenleving in het algemeen enerzijds en de lasten die dit meebrengt voor de dienstverleners en daarmee samenhangende mogelijke negatieve gevolgen voor mededinging en innovatie anderzijds. Het draait uiteindelijk om het vinden van een evenwicht. Hoewel velen het DSA-voorstel op zich zullen verwelkomen en de eerste reacties overwegend positief lijken, zullen er ongetwijfeld nog de nodige discussies volgen over de vraag of het nu voorgestelde evenwicht in alle opzichten het juiste is.

Noten

• 1 Richtlijn 2000/31/EG van het Europees Parlement en de Raad van 8 juni 2000 betreffende bepaalde juridische aspecten van de diensten van de informatiemaatschappij, met name de elektronische handel, in de interne markt (PbEG 2000, L 178/1).

• 2 Zie U. von der Leyen, ‘A Union that strives for more: my agenda for Europe’, Political Guidelines European Commission 2019-2024, p. 7-8.

• 3 COM(2020)825, 15 december 2020. Ten tijde van het schrijven van deze bijdrage was het DSA-voorstel alleen beschikbaar in het Engels. Om deze reden, en omdat het gebruik van sommige Engelse termen in de sector gebruikelijk is, worden hierin veelal de betreffende Engelse termen gebruikt. De gehanteerde vertalingen zijn die van de auteur zelf (rekening houdend met vertalingen van reeds bestaande instrumenten). Voor een korte Nederlandstalige toelichting op het DSA-voorstel, zie https://ec.europa.eu/info/strategy/priorities-2019-2024/europe-fit-digital-age/digital-services-act-ensuring-safe-and-accountable-online-environment_nl.

• 4 COM(2020)842, 15 december 2020.

• 5 Richtlijn (EU) 2019/790 van het Europees Parlement en de Raad van 17 april 2019 inzake auteursrechten en naburige rechten in de digitale eengemaakte markt en tot wijziging van Richtlijnen 96/9/EG en 2001/29/EG (PbEU 2019, L 130/92).

• 6 COM(2018)640, 12 september 2018. Onlangs bereikte de Uniewetgever politieke overeenstemming over dit voorstel. Zie Commissie, ‘Security Union: Commission welcomes political agreement on removing terrorist content online Brussels’, IP/20/2372, 10 december 2020.

• 7 Richtlijn 2010/13/EU van het Europees Parlement en de Raad van 10 maart 2010 betreffende de coördinatie van bepaalde wettelijke en bestuursrechtelijke bepalingen in de lidstaten inzake het aanbieden van audiovisuele mediadiensten (PbEU 2010, L 95/1) (als gewijzigd door Richtlijn (EU) 2018/1808). Zie verder E.W. Jurjens, ‘De definitieve nieuwe Richtlijn Audiovisuele Mediadiensten: een eerste analyse’, NtEr 2019/1-2, p. 44-50.

• 8 Verordening (EU) 2019/1150 van het Europees Parlement en de Raad van 20 juni 2019 ter bevordering van billijkheid en transparantie voor zakelijke gebruikers van onlinetussenhandelsdiensten (PbEU 2019, L186/57). Zie verder L.E. Felderhof & M.PP.C. Rozenbroek, ‘Een gelijk speelveld in de online platformeconomie?’, NtEr 2019/5-6, p. 142-148.

• 9 Vgl. art. 1 lid 5 DSA-voorstel.

• 10 Zie in dit verband ook de afsluitende algemene opmerking in het onderstaande.

• 11 Ook moet worden opgemerkt dat de kwalificatie plaatsvindt op basis van de desbetreffende activiteiten, en niet op basis van de desbetreffende dienstverlener als zodanig (zie ov. 15 considerans DSA-voorstel). Het is dus bijvoorbeeld mogelijk dat een dienstverlener ten aanzien van bepaalde activiteiten kwalificeert als een onlineplatform, terwijl deze voor bepaalde andere activiteiten kwalificeert als een aanbieder van ‘mere conduit’-diensten of geheel buiten het toepassingsbereik van de voorgestelde verordening valt.

• 12 Zie verder de onderstaande paragraaf over zeer grote onlineplatforms.

• 13 Art. 2 onder h en i DSA-voorstel.

• 14 Zie hfdst. II, afd. 4 Richtlijn elektronische handel. Strikt genomen gaat het blijkens de titel van deze afdeling om ‘dienstverleners die als tussenpersonen optreden’, hier kortweg aangeduid als ‘tussenpersonen’. De betreffende dienstverleners worden ook wel aanbieders van ‘tussenhandelsdiensten’ genoemd.

• 15 Hoewel daarom niet helemaal accuraat, sluit het DSA-voorstel daarmee aan bij de Richtlijn elektronische handel. De naam van die richtlijn verwijst nl. naar ‘elektronische handel’, terwijl deze eigenlijk veeleer betrekking heeft op ‘diensten van de informatiemaatschappij’. Zoals reeds werd opgemerkt ten tijde van de omzetting van deze richtlijn naar Nederlands recht, betekent de verkorte aanduiding dus ‘een zekere vergroving’ (Kamerstukken II 2001/02, 28197, nr. 3, p. 2).

• 16 Als gedefinieerd in art. 1 lid 1 onder b Richtlijn (EU) 2015/1535 van het Europees Parlement en de Raad van 9 september 2015 betreffende een informatieprocedure op het gebied van technische voorschriften en regels betreffende de diensten van de informatiemaatschappij (PbEU 2015, L 241/1).

• 17 Ter illustratie: van de tien websites die in de VS in 2018 het drukst werden bezocht, bevatten zes voornamelijk user-generated content (YouTube, Facebook, Reddit, Wikipedia, Twitter en eBay), terwijl het bij nog eens drie andere websites een significante rol speelt (Google, Yahoo en Amazon). Daarmee resteert er dus slechts één website in de top 10 waarbij dit geen rol speelt (Netflix). Zie J. Kosseff, The twenty-six words that created the internet, Cornell University Press 2019, p. 4.

• 18 Voor sommigen leidt deze keuze wellicht tot teleurstelling. Zie bijv. V. Mak, ‘De Richtlijn elektronische handel en de platformeconomie’, NtEr 2020/1-2, p. 6.

• 19 Zie art. 3, 4 en 5 DSA-voorstel; art. 12, 13 en 14 Richtlijn elektronische handel.

• 20 Deze beperkingen sluiten het opleggen van verboden of geboden door gerechtelijke of bestuursrechtelijke autoriteiten niet uit. Ook dit blijft onveranderd onder het DSA-voorstel in vergelijking tot de Richtlijn elektronische handel.

• 21 Los van de hierna te bespreken wijzingen, zijn de aangebrachte wijzingen minimaal en vloeien zij voort uit het feit dat de artikelen zijn ‘getransporteerd’ van een richtlijn naar een verordening.

• 22 Zie m.n. toelichting DSA-voorstel, p. 3. Zie ook ov. 16 considerans daarvan.

• 23 Ov. 18 considerans DSA-voorstel. Zie m.n. HvJ 12 juli 2011, zaak C-324/09, ECLI:EU:C:2011:474 (L’Oréal/eBay), punt 113. Opgemerkt kan worden dat, zoals blijkt zowel uit deze overweging van de considerans als de aangehaalde rechtspraak, de vraag naar de passiviteit van de dienstverlener als zodanig niet beslissend is. Zie hierover ook Conclusie A-G 16 juli 2020, gevoegde zaken C-682/18 en C-683/18, ECLI:EU:C:2020:586 (YouTube).

• 24 Zie art. 7 DSA-voorstel; art. 15 onder 1 Richtlijn elektronische handel.

• 25 Zie ov. 47 considerans Richtlijn elektronische handel; ov. 28 considerans DSA-voorstel.

• 26 Art. 5 lid 1 DSA-voorstel. Deze regel geldt alleen voor aanbieders van hostingdiensten die consumenten in staat stellen om overeenkomsten op afstand te sluiten met handelaren. Daarmee wordt aangesloten bij de personele werkingssfeer van art. 22 DSA-voorstel, die hieronder wordt besproken.

• 27 Zie ook ov. 23 considerans DSA-voorstel.

• 28 Ov. 23 considerans DSA-voorstel.

• 29 Net als in het DSA-voorstel zelf (zie art. 2 onder g), wordt in deze bijdrage het begrip ‘illegale inhoud’ (oftewel ‘onwettige informatie’; illegal content) gebruikt om te verwijzen naar zowel informatie die als zodanig onwettig is, als naar informatie die betrekking heeft op onwettige activiteiten.

• 30 Art. 6 DSA-voorstel (ook wel de ‘Good Samaritan’-bepaling genoemd).

• 31 Zie Commissie, Impact assessment report behorende bij het DSA-voorstel, SWD(2020)348 (hierna: ‘impact assessment DSA-voorstel’), p. 33.

• 32 Aanbeveling (EU) 2018/334 (PbEU 2018, L 63/50) (zie ov. 26 considerans daarvan).

• 33 Art. 8 en 9 DSA-voorstel.

• 34 Ov. 29 considerans DSA-voorstel.

• 35 Ov. 33 DSA-voorstel.

• 36 Deze verplichting hang samen met het feit dat de regels uit het DSA-voorstel (anders dan die uit de Richtlijn elektronische handel; zie ov. 58 considerans daarvan) ook van toepassing zijn op dienstverleners die zijn gevestigd in derde landen en die diensten aanbieden in de Unie. Zie art. 1 lid 3 en art. 2 onder d DSA-voorstel.

• 37 Art. 10 t/m 13 DSA-voorstel. Ten aanzien van het begrip content moderation, zie ook art. 2 onder p daarvan.

• 38 Art. 14 DSA-voorstel.

• 39 Art. 14 lid 2 DSA-voorstel. Dit betreft een codificatie van rechtspraak ten aanzien van art. 14 Richtlijn Elektronisch Handel. Zie L’Oréal v. eBay, punt 122.

• 40 Zie m.n. art. 14 lid 2, 5 en 6 DSA-voorstel.

• 41 Zie m.n. punt 5-13 Aanbeveling illegale online-inhoud.

• 42 Art. 28ter lid 3 onder d Richtlijn audiovisuele diensten. Zie ook S. Kulk, ‘Platformaansprakelijkheid – van “notice and takedown” naar algoritmisch toezicht’, NtEr 2020/5-6, p. 137.

• 43 Art. 15 DSA-voorstel.

• 44 Vgl. ov. 14 considerans DSA-voorstel.

• 45 Met uitzondering van micro- en kleine ondernemingen; zie art. 16 DSA-voorstel.

• 46 Art. 19 DSA-voorstel.

• 47 Vgl. ov. 46 considerans DSA-voorstel. Europol houdt zich voornamelijk bezig met het melden van terroristisch materiaal, overeenkomstig art. 4 lid 1 onder m Europol Verordening (Verordening (EU) 2016/794, PbEU 2016, L 135/53).

• 48 Art. 20 DSA-voorstel.

• 49 Art. 21 DSA-voostel. Het gaat specifiek om ernstige strafbare feiten die een bedreiging voor het leven of de veiligheid van personen inhouden. Blijkens ov. 21 considerans Aanbeveling illegale online-inhoud moet worden gedacht aan terroristische misdrijven of misdrijven inzake seksueel misbruik van minderjarigen.

• 50 Art. 17 DSA-voorstel.

• 51 Art. 18 DSA-voorstel.

• 52 Art. 23 DSA-voorstel. Zoals besproken in het bovenstaande, zijn de ‘basisverplichtingen’ die toepasselijk zijn op alle tussenpersonen te vinden in art. 13 DSA-voorstel.

• 53 Zie verder de onderstaande paragraaf over zeer grote onlineplatforms.

• 54 Art. 22 DSA-voorstel. Deze ‘know your business customer’-verplichting komt bovenop de verplichtingen die gelden op basis van recente consumentenrechtelijke bepalingen, zoals art. 6bis Richtlijn Consumentenrechten (Richtlijn 2011/83/EU, PbEU 2011, L 304/63; ingevoerd door Richtlijn (EU) 2019/2161). Zie verder M.B.M. Loos, ‘Modernisering van het Europese consumentenrecht: meer vlees op de botten’ (delen I en II), NtEr 2019/7-8, p. 137-141 resp. p. 188-192. Bovendien moeten de betrokken onlineplatforms het handelaren mogelijk maken om te voldoen aan hun verplichtingen uit hoofde van Unierecht op het gebied van consumentenbescherming en productveiligheid (art. 22 lid 7 DSA-voorstel).

• 55 Art. 24 DSA-voorstel.

• 56 Vgl. ov. 54 considerans DSA-voorstel.

• 57 Art. 25 lid 2 DSA-voorstel. Het gaat om schommelingen van meer dan 5% ten opzichte van de bevolking van de Europese Unie in 2020. De aanpassingen worden doorgevoerd door middel van gedelegeerde handelingen in de zin van art. 290 Verdrag betreffende de werking van de Europese Unie.

• 58 Art. 25 lid 3 DSA-voorstel. Ook dit dient te gebeuren door middel van zulke gedelegeerde handelingen.

• 59 Vgl. Impact assessment DSA-voorstel, p. 64-65.

• 60 Zie m.n. ov. 53 en 54 considerans DSA-voorstel. Verder speelt een rol dat zulke zeer grote onlineplatforms normaliter ook meer financiële en technologische middelen tot hun beschikking hebben, waardoor zij vanuit het oogpunt van evenredigheid kunnen worden onderworpen aan aanvullende verplichtingen.

• 61 Art. 26 DSA-voorstel.

• 62 Art. 27 DSA-voorstel.

• 63 Art. 32 DSA-voorstel.

• 64 Art. 28 DSA-voorstel.

• 65 Art. 31 DSA-voorstel.

• 66 Art. 29 DSA-voorstel.

• 67 Art. 30 resp. 33 DSA-voorstel.

• 68 Zulke crisisprotocollen hebben betrekking op maatregelen te nemen in specifieke, uitzonderlijke situaties, zoals ter bestrijding van livebeelden van een terroristische aanslag of van verspreiding van desinformatie in geval van een pandemie.

• 69 Art. 35, 36 en 37 DSA-voorstel.

• 70 Zie m.n. art. 27 lid 1 onder e (waaruit blijkt dat deelname aan gedragscodes een maatregel kan zijn ter beheersing van eventuele risico’s) en art. 28 lid 1 onder a DSA-voorstel (waaruit blijkt dat de controles ook dienen ter controle van het naleven van toezeggingen gedaan in het kader van gedragscodes). Zie ook ov. 68 considerans DSA-voorstel (waaruit blijkt dat eventuele deelname aan een gedragscode een element kan zijn dat meeweegt bij de beoordeling van een eventuele inbreuk).

• 71 Impact assessment DSA-voorstel, p. 3.

• 72 Zie ov. 69 considerans DSA-voorstel.

• 73 Art. 40 DSA-voorstel. Tussenpersonen die niet in de EU zijn gevestigd maar daar wel diensten aanbieden, vallen onder de bevoegdheid van de lidstaat waar hun wettelijke vertegenwoordiger (bedoeld in art. 11) is gevestigd.

• 74 Art. 38 DSA-voorstel.

• 75 Art. 41 en 42 DSA-voorstel.

• 76 Zie art. 39 lid 2, art. 44 en art. 41 lid 6 DSA-voorstel.

• 77 Art. 47-49 DSA-voorstel.

• 78 Art. 45 DSA-voorstel.

• 79 Art. 46 DSA-voorstel.

• 80 Art. 52-66 DSA-voorstel.

• 81 Zie m.n. art. 51 lid 1 DSA-voorstel.

• 82 Art. 50 DSA-voorstel.

• 83 Art. 46 lid 2 DSA-voorstel.

• 84 Deze bijdrage is voornamelijk bedoeld als een overzicht van het DSA-voorstel en is daarmee niet de plaats voor een diepgravende analyse. Voor analyses van verscheidene van de onderhavige onderwerpen, zie bijv. F. Wilman, The responsibility of online intermediaries for illegal user content in the EU and the US, Cheltenham: Edward Elgar Publishing 2020; diverse studies uitgevoerd voor het Europees Parlement, beschikbaar via www.europarl.europa.eu/RegData/etudes/BRIE/2020/652712/IPOL_BRI(2020)652712_EN.pdf; J. van Hoboken, J. Quintas, J. Poort & N. van Eijck, ‘Hosting intermediary services and illegal content online: an analysis of the scope of Article 14 ECD in light of developments in the online service landscape’, Studie voor de Commissie 2019.

• 85 Zie bijv. Impact assessment DSA-voorstel, p. 26 (‘On the topic of the liability of intermediaries, a large majority of stakeholder groups broadly considered the principle of the conditional exemption from liability as a precondition for a fair balance between protecting fundamental rights online and preserving the ability of newcomers to innovate and scale’). Zie ook Europees Parlement, ‘Resolution on Digital Services Act and fundamental rights issues posed’, P9_TA(2020)0274, par. 30 (waarin steun wordt uitgesproken voor het handhaven van het huidige juridische raamwerk ten aanzien van de aansprakelijkheid van tussenpersonen voor informatie van gebruikers); J. Urban, J. Karaganis & B. Schofield, ‘Notice and takedown in everyday practice’, UC Berkeley Public Law Research Paper No. 2755628, 2017, p. 28 (waar de vraag naar de relevantie van het notice and takedown-model ondanks de vele veranderingen in de afgelopen twee decennia, op basis van een uitgebreide studie uitgevoerd in de VS, wordt beantwoord met ‘a resounding “yes”’).

• 86 Vgl. toelichting DSA-voorstel, p. 3 en 13. Dit rechtvaardige evenwicht is, in situaties waar grondrechten uit het Handvest van de Grondrechten van de EU (hierna: ‘het Handvest’) met elkaar in botsing komen, vereist op basis van de rechtspraak. Zie bijv. HvJ 29 januari 2008, zaak C-275/06, ECLI:EU:C:2008:54 (Promusicae), punt 68.

• 87 Zie verder F. Wilman, ‘On notice: the EU’s system of knowledge-based liability for hosting service providers in respect of illegal user content – between the e-Commerce Directive and the Digital Services Act’, JIPITEC (voorjaar 2021).

• 88 De Richtlijn elektronische handel laat het aan de lidstaten over om al dan niet te voorzien in regels over notice and action, terwijl zelfregulering wordt aangemoedigd (zie art. 14 lid 3 resp. art. 16). Ook worden bepaalde kernbegrippen uit de relevante artikelen soms verschillend geïmplementeerd en geïnterpreteerd. Het resultaat is een in toenemende mate versnipperd juridisch landschap. Zie Impact assessment DSA-voorstel, p. 120-125.

• 89 Zie m.n. ov. 6 en 46 considerans Richtlijn elektronische handel.

• 90 Ov. 41 considerans Richtlijn elektronische handel. Zie ook Conclusie A-G, YouTube, punt 194; Commissie, First report on the application of Directive 2000/31/EC, COM(2003)702, p. 14 en 20.

• 91 Zie art. 1 lid 2 DSA-voorstel.

• 92 Om enkele concrete voorbeelden te geven: zulke snelle verwijdering kan de verwezenlijking bevorderen van de grondrechten op eerbieding van het privéleven (bij laster of privacygevoelige informatie), bescherming van intellectueel eigendom (bij inbreuken op het merken- of auteursrecht), non-discriminatie (bij racistisch materiaal) en van het kind (bij kinderporno), terwijl het niet onbedoeld verwijderen van wettige informatie de vrijheid van meningsuiting en van informatie veelal ten goede komt. Zie art. 7, 17, 21, 24 resp. 11 Handvest.

• 93 Art. 12 lid 2 resp. art. 26 lid 1 onder b DSA-voorstel.

• 94 Ten aanzien van recente jurisprudentiële ontwikkelingen met betrekking tot de horizontale werking van het Handvest, zie verder A. Eleveld, ‘Rechtstreekse horizontale werking van grondrechten van de Europese Unie: de lessen uit Egenberger, Bauer en Cresco Investigation’, NtEr 2019/3-4, p. 88-95.

• 95 Zie verder T. Gillespie, Custodians of the internet: platforms, content moderation, and the hidden decisions that shape social media, Yale University Press 2018. Zie ook Wilman 2020, p. 246-252.

• 96 Zie verder Kulk 2020, p. 132-140; Wilman 2020, p. 255-260.

• 97 Impact assessment DSA-voorstel, p. 9.

• 98 Dat geldt voor hetgeen gezegd wordt door ‘gewone’ gebruikers, maar bijvoorbeeld ook door leden van de Tweede Kamer en de Amerikaanse president. Zie Nu.nl, ‘LinkedIn-account Wybren van Haga verwijderd voor verspreiden misinformatie’, 24 december 2020; Nu.nl, ‘Twitter, Facebook en Instagram schorsen account Trump’, 7 januari 2021; Nu.nl, ‘TikTok verwijdert video’s van Trump over bestorming van het Capitool’, 8 januari 2021. Zoals opgemerkt door Politico (Brussels Playbook, 8 januari 2021): ‘Love or hate Trump – but do think about what it means for tech regulation, including the EU’s efforts, and democracy itself if a privately owned monopoly is the (Western) world’s top authority for sanctioning incendiary speech and lies online.’

• 99 Verordening (EU) 2016/679 van het Europees Parlement en de Raad van 27 april 2016 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens en betreffende het vrije verkeer van die gegevens en tot intrekking van Richtlijn 95/46/EG (PbEU 2016, L 119/1).

• 100 Zie m.n. de Richtlijn oneerlijke handelspraktijken (Richtlijn 2005/29/EG, PbEU 2005, L 149/22) en de Richtlijn oneerlijke bedingen (Richtlijn 93/13/EEG, PbEG 1993, L 95/29). Zoals opgemerkt in noot 54 is recent wel getracht het Unierecht ter bescherming van consumenten beter te laten aansluiten op ontwikkelingen in de onlinewereld, vooral waar het gaat om de activiteiten van onlinemarktplaatsen.

• 101 Waar het gaat om (vermeend) illegale inhoud wordt dit zelfs gestimuleerd, m.n. door de eerdergenoemde ‘Good Samaritan’-bepaling (art. 6 DSA-voorstel). In beginsel hebben tussenpersonen de vrijheid om zulke contractuele grenzen te stellen bij de verlening van hun diensten, als een uitoefening van hun contractsvrijheid die onderdeel uitmaakt van de vrijheid van ondernemerschap (art. 16 Handvest; zie bijv. HvJ 22 januari 2013, zaak C-283/11, ECLI:EU:C:2013:28 (Sky Österreich), punt 42-43).

• 102 Zie art. 12, 15, 17, 18 resp. 23 DSA-voorstel. Daarbij moet worden bedacht dat de dominantie van sommige van de betrokken platforms een belangrijke rol speelt bij de bovengenoemde ontwikkeling. In die zin kan ook het DMA-voorstel worden gezien als een belangrijke maatregel in deze context.

• 103 Art. 5, 14, 20, 21, 26 resp. 27 DSA-voorstel.

• 104 Zie ov. 48 considerans Richtlijn elektronische handel.

• 105 Dat geldt in het bijzonder voor art. 17 Richtlijn auteursrecht in de digitale eengemaakte markt. Zie bijv. C. Angelopoulos & J. Quintas, ‘Fixing copyright reform: a better solution to online infringement’, JIPITEC 10 2019, p. 147 (‘The proposal [for the Copyright in the Digital Single Market Directive] was controversial from the start. Almost every step of the legislative process was the subject of intense lobbying and debate.’); J.G. Reus, ‘De “filterverplichting” uit de nieuwe Auteursrechtrichtlijn’, NtEr 2019/9-10, p. 257 (‘De totstandkoming van artikel 17 is controversieel en ging niet zonder slag of stoot.’). Hoewel in mindere mate, geldt hetzelfde voor de verordening met betrekking tot terroristische online-inhoud. Zie bijv. EU Agency for Fundamental Rights, ‘Opinion on the proposal for a Regulation on preventing the dissemination of terrorist content online and its fundamental rights implications’, 2/2019. Zie ook Impact assessment DSA-voorstel, p. 19 (‘The issue of the use of automated tools to automatically detect illegal content, services and goods is considered very controversial among respondents [to the public consultation].’).

• 106 Zie ook de bovenstaande paragraaf over de relevante context. Verder heeft de Commissie aanvullende wetgeving ter bestrijding van seksueel kindermisbruik online aangekondigd; zie Commissie, ‘EU strategy for a more effective fight against child sexual abuse’, COM(2020)607, 24 juli 2020, p. 5.

• 107 Art. 18 en 19 Richtlijn elektronische handel.

• 108 Zie art. 42 lid 3 resp. art. 41 lid 3 DSA-voorstel.

• 109 Zie bijv. Commissie, ‘Data protection as a pillar of citizens’ empowerment and the EU’s approach to the digital transition – two years of application of the General Data Protection Regulation’, COM(2020)264, 24 juni 2020, p. 5 (‘Further progress is needed to make the handling of cross-border cases more efficient and harmonised across the EU.’). Zie ook het bijbehorende staff working document, SWD(2020)115, p. 12 (‘Many [national data protection authorities] still report that they do not have sufficient resources.’). De toekenning van bevoegdheden aan de Commissie is mede gemotiveerd met verwijzing naar de mogelijke complexiteit van de inbreuken; zie ov. 94 considerans DSA-voorstel.

• 110 Zie m.n. de relevante bepalingen uit de Mededingingsverordening (Verordening (EG) nr. 1/2003, PbEU 2003, L 1/1).

• 111 Zie het overzicht van de drie relevante situaties in de bovenstaande paragraaf over toezicht en handhaving. Specifiek gaat het, wat betreft het doen of nalaten van de bevoegde nationale autoriteiten, in deze drie situaties om: (a) het vaststellen van een inbreuk op een van de bepalingen van hfdst. III, afd. 4 en het beoordelen van het actieplan overeenkomstig art. 50; (b) het op geen enkele wijze gevolg geven aan de aanbeveling van de Commissie bedoeld in art. 45 lid 7; en (c) vrijwillige verzoeken uit hoofde van art. 46 lid 2 DSA-voorstel. Ook staat het steeds aan de Commissie om te besluiten of zij haar bevoegdheden wenst uit te oefenen; zie ov. 97 considerans DSA-voorstel.

• 112 Art. 6:196c BW.

• 113 Zie in Nederland bijvoorbeeld de Gedragscode Notice-and-takedown en de Gedragscode Abuse-bestrijding. Het DSA-voorstel impliceert niet dat zelfregulering niet langer mogelijk zou zijn; als gezegd wordt de totstandkoming van gedragscodes juist aangemoedigd (zie art. 35, 36, 37). Zulke zelfregulering kan echter alleen dienen als aanvulling op het wettelijk kader, met inachtneming van de vereisten die daaruit voortvloeien. In die zin laat toegenomen regulering op Unieniveau minder ruimte voor zelfregulering.

• 114 Naast de eerdergenoemde verplichte mogelijkheid tot interne klachtafhandeling, voorziet het DSA-voorstel in een recht voor gebruikers om een klacht in te dienen bij de autoriteit van de lidstaat waar zij wonen of zijn gevestigd (zie art. 17 resp. 43).

• 115 Adviesraad Internationale Vraagstukken, ‘Regulering van online content: naar een herijking van het Nederlandse internetbeleid’, 2020, p. 45.