X leeft steeds meer op gespannen voet met Europese regelgeving

Sinds de overname door Elon Musk van het social media platform X, het voormalige Twitter, is de chaos vrijwel constant. Nieuwe features stapelen zich op, en lang niet altijd ten goede van de gebruikerservaring. Bovendien wordt bij deze veranderingen mogelijk de wet geschonden. De Europese Commissie (EC) heeft al een onderzoek lopen tegen drie mogelijke schendingen van de Digital Service Act (DSA). Daar komen nu mogelijk ook mogelijk nieuwe schendingen bij.

Beschadigd Twitter logo

De vorige week aangekondigde veranderingen in de gebruiksvoorwaarden zijn mogelijk ook in strijd met Europese wet- en regelgeving. Onder deze regels heeft X bijzondere verantwoordelijkheden. X valt vanwege de grote hoeveelheid gebruikers onder de categorie Very Large Online Platform (Zeer Groot Online Platform, VLOP). Platforms en zoekmachines die door de EU aangewezen worden als VLOP, moeten onder de DSA aan extra verplichtingen voldoen op het gebied van veiligheid en betrouwbaarheid van informatie. Dit omdat deze platforms zo doordrongen zijn in het digitale ecosysteem en zo veel dagelijkse gebruikers hebben, dat misbruik ervan mogelijk grote maatschappelijke impact kan hebben.

De constante veranderingen, en de onrust die deze oproepen bij gebruikers, hebben grote gevolgen voor de financiële gezondheid van het platform. Advertentie-inkomsten zijn de grootste bron van inkomsten voor X. Sinds de overname is de omzet echter met 84% gedaald, en hebben enkele van de grootste adverteerders op het platform hun advertentiecampagnes gestopt of gepauseerd. Nieuwe betaalde accounts brengen niet genoeg geld binnen. Twitter heeft momenteel zo'n 650.000 betalende accounts, die gezamenlijk ongeveer 4.8 miljoen euro per maand binnen brengen. Betalende accounts vormen ongeveer 0.24% van het totaal aantal actieve gebruikers.

Er is op X veel onvrede over het nieuwe beleid. Met name het feit dat betalende accounts altijd bovenaan staan in de reacties leidt tot veel klachten. Ook over de nieuw aangekondigde maatregelen bestaan veel zorgen. Artiesten maken zich zorgen over het feit dat ze niet langer kunnen weigeren dat hun werk gebruikt wordt om de AI van X te trainen. Ook de wijzigingen in hoe het blokkeren werkt, waarbij je jezelf niet langer onzichtbaar kan maken voor anderen en alleen nog de mogelijkheid tot interactie kan wegnemen, zorgt voor veel onzekerheid bij gebruikers. Bovendien bestaat de kans dat deze nieuwe maatregelen Europese regelgeving voor online platforms en datagebruik schenden.

Lopend onderzoek

De drie mogelijke schendingen van de DSA die momenteel onderzocht worden, zijn allemaal veranderingen die zijn ingevoerd nadat Musk het platform overnam. Ten eerste is er de verandering in de bekende blauwe vinkjes voor geverifieerde gebruikers. Dit wordt door de EC gezien als een mogelijke schending van artikel 25, dat stelt dat online platforms een verantwoordelijkheid hebben om hun platform op te zetten op een manier die niet manipulatief of misleidend is voor gebruikers. De EC stelt dat, doordat het blauwe vinkje nu gekocht kan worden met een abonnement de kans dat gebruikers misleid kunnen worden te groot is.  Het is immers niet langer een garantie dat de account de identiteit vertegenwoordigt die het uitdraagt. Hoe schadelijk dit kan zijn, bleek in de eerste dagen na het beschikbaar maken van het vinkje voor abonnees van de betaalde dienst. Vele mensen imiteerden met een vinkje belangrijke politici, bekende mensen en bedrijven, om ze zo woorden in de mond te leggen.

Ten tweede voldoet de databank van advertenties die X aanbiedt volgens de EC mogelijk niet aan de eisen van artikel 39 van de DSA. Arikel 39 stelt dat VLOPs die advertenties aanbieden op hun platform, een databank moeten opstellen met informatie over alle advertenties die gebruikers mogelijk te zien krijgen. In deze databank moet onder andere bewaard worden wat de inhoud van de advertentie is, namens wie of welk bedrijf of organisatie deze advertentie wordt aangeboden, wie voor de advertentie betaalt, en hoe wordt bepaald welke gebruikers deze advertentie te zien krijgen. Deze databank is bedoeld om zowel individuele gebruikers als onderzoekers meer inzicht te geven in de manier waarop het platform adverteerders koppelt aan gebruikers.

Ten derde heeft Twitter als groot platform ook een verantwoordelijkheid om onderzoekers van bijvoorbeeld universiteiten toegang te geven tot hun data om ook academisch onderzoek mogelijk te maken. De application programming interface (API) van X, het systeem waardoor externe software kan communiceren met de software van X, was vroeger een van de meest robuuste onder de grote platforms. Onder Musk werd de gratis toegang voor academici teruggedraaid. Wie nu wetenschappelijk onderzoek naar het gebruik van Twitter wil uitvoeren, moet daarvoor $42.000 per maand betalen, omgerekend ongeveer €39.000. Dit is mogelijk een schending van artikel 40(12) van de DSA.

Mogelijk nieuwe schendingen

Hier bovenop komen nu mogelijk nieuwe schendingen van de DSA en de Algemene Verordening Gegevensbescherming (AVG, in het Engels General Data Protection Regulation, GDPR), de privacywetgeving van de Europese Unie. Het gaat hierbij voornamelijk om de eerder genoemde veranderingen in de manier waarop posts van gebruikers worden gebruikt om de AI van X te trainen. 

Dit gebeurt nu al, maar gebruikers kunnen in de instellingen van de website een optie uitzetten om zo toestemming om hun materiaal te gebruiken om AI te trainen in te trekken. Opvallend is dat het platform deze verandering eerder al stilzwijgend heeft doorgevoerd, en dat het bij een algemeen publiek pas bekend werd nadat een post van gebruiker EasyBakeOven, twee maanden nadat X begon met het gebruiken van de inhoud van gebruikers om AI te trainen, viral ging. En nu wordt dus vanaf 15 november de optie om te weigeren geheel aan gebruikers ontnomen.

Over het gebruik van door gebruikers op X geplaatste materialen om AI te trainen is door privacy waakhond NOYB (None Of Your Business, letterlijk 'dat zijn uw zaken niet', vrij vertaald 'dat gaat u niets aan') op zowel nationaal als Europees niveau klachten ingediend. In tien landen, waaronder Nederland, heeft NOYB bij verantwoordelijke instanties gewezen op de mogelijke schendingen van de AVG door X. Ook botst X hierin mogelijk met de AVG. Platforms met de VLOP-status hebben namelijk ook de verantwoordelijkheid om het risico op economische schade zo klein mogelijk te maken. Hieronder valt ook een verplichting om schending van auteurs- of merkenrechten te bestrijden.

Jurisprudentie

Het trainen van AI met door gebruikers geplaatste inhoud is niet nieuw. Eerder probeerde Meta, het moederbedrijf van onder andere Facebook en Instagram, al om op deze manier de dataset van hun AI-diensten te vergroten. Ze werden echter teruggefloten door het Europese Hof van Justitie, die stelde dat de plannen van Meta om zonder expliciete instemming van gebruikers hun materiaal te gebruiken om hun AI-modellen te trainen illegaal was.

Meta beriep zich in de rechtszaak op artikel 6(f) van de GDPR. Artikel 6 bepaalt onder welke voorwaarden het verwerken van persoonlijke gegevens door bedrijven wettelijk is toegestaan. Artikel 6(f) stelt dat het verwerken van data alleen is toegestaan in gevallen waar de bedrijven die de data verwerken gerechtvaardigd zijn in het verwerken hiervan, maar dat deze belangen niet zwaarder wegen dan de in het Handvest vastgelegde grondrechten van Europese burgers. Daarnaast beriep Meta zich ook op artikel 6(b), dat het de data op deze manier moest verwerken om te voldoen aan de wettelijke verplichtingen van het platform ten opzichte van haar gebruikers.

Het Hof van Justitie oordeelde uiteindelijk dat de rechtvaardiging van Meta om hun AI te trainen en producten op basis hiervan te ontwikkelen niet zwaarder woog dan het recht op privacy van de gebruikers. Hierdoor werd Meta gedwongen om het verzamelen van door gebruikers geplaatst materiaal om hun AI te trainen terug te draaien.

Terugtrekken

Musk heeft zich, op persoonlijke titel, vaak negatief uitgesproken over nationale en internationale regelgeving die van toepassing is op X. Hij ziet deze regels als strijdig met zijn interpretatie van vrijheid van meningsuiting. Dit heeft ook gevolgen voor beleid. In 2022 werd de praktijkcode inzake desinformatie ingevoerd. Dit is een vrijwillig samenwerkingsverband van de Europese Unie om het verspreiden van desinformatie en nepnieuws op online platforms te bestrijden. In mei 2023 trok X zich echter eenzijdig terug uit dit samenwerkingsverband. Musk beweert dat sinds zijn overname van X de hoeveelheid extremisme en desinformatie op Twitter is afgenomen. Dit is moeilijk te controleren, mede vanwege de eerder genoemde maatregelen die X heeft genomen om onafhankelijk onderzoek te bemoeilijken.

De aangekondigde voornemens om de blokkeerfunctie te wijzigen en de mogelijkheid om uitsluitsel te krijgen van het gebruik van persoonlijke gegevens en inhoud om AI te trainen weg te nemen, leidde tot veel ophef onder gebruikers van X. De gevolgen hiervan zijn vooral terug te zien in de groei van andere platforms die vergelijkbare vormen van social media aanbieden. Het gaat vooral om sites als Bluesky, het nieuwe platform van voormalig Twitter-CEO Jack Dorsey.

Eerder dit jaar was X in conflict met de overheid van Brazilië. Dit leidde ertoe dat het platform tijdelijk geblokkeerd werd in dat land. Binnen drie dagen na het verbod op X in Brazilië meldde Bluesky meer dan drie miljoen nieuwe gebruikers, waarvan 85% zich in dat land bevond. En de nieuw aangekondigde maatregelen leidden tot een nieuwe exodus. Alleen al in de 24 uur nadat de wijzigingen werden aangekondigd werden een half miljoen nieuwe accounts geregistreerd. Het lijkt er dus op dat de constante veranderingen in hoe X werkt en welke gebruikerservaring men op het platform kan verwachten vooral de concurrentie in de kaart speelt.