De Europese Commissie is een nieuw formeel onderzoek gestart tegen X onder de Digital Services Act (DSA). Tegelijkertijd heeft de Commissie haar lopende onderzoek, gestart in december 2023, naar de naleving door X van de verplichtingen omtrent risicobeheer van aanbevelingssystemen uitgebreid.

Het nieuwe onderzoek zal beoordelen of het bedrijf de risicos die samenhangen met de inzet van Grok-functionaliteiten in X binnen de EU adequaat heeft beoordeeld en beperkt. Dit omvat risicos met betrekking tot de verspreiding van illegale inhoud in de EU, zoals gemanipuleerde seksueel expliciete beelden, inclusief inhoud die kan neerkomen op kindermisbruikmateriaal.

Deze risicos lijken zich te hebben gemanifesteerd, waardoor burgers in de EU ernstig gevaar lopen. In het licht hiervan zal de Commissie verder onderzoeken of X voldoet aan haar DSA-verplichtingen om:

  • Systematische risicos zorgvuldig te beoordelen en te beperken, inclusief de verspreiding van illegale inhoud, negatieve effecten in relatie tot gendergerelateerd geweld, en ernstige negatieve gevolgen voor de fysieke en mentale gezondheid voortkomend uit de inzet van Grok-functionaliteiten op het platform.
  • Een ad-hoc risicobeoordelingsrapport voor Grok-functionaliteiten in de X-dienst met een kritieke impact op het risicoprofiel van X op te stellen en aan de Commissie te verzenden vóór de inzet ervan.

Daarnaast heeft de Commissie haar lopende formele procedures tegen X, geopend in december 2023, uitgebreid om vast te stellen of X alle systemische risicos, zoals gedefinieerd in de DSA, met betrekking tot haar aanbevelingssystemen adequaat heeft beoordeeld en beperkt, inclusief de impact van de recent aangekondigde overstap naar een Grok-gebaseerd aanbevelingssysteem.

Indien bewezen, zouden deze tekortkomingen in strijd zijn met de artikelen 34(1) en (2), 35(1) en 42(2) van de DSA. De Commissie zal nu als prioriteit een diepgaand onderzoek uitvoeren. De opening van formele procedures doet geen uitspraak over de uitkomst.

Ter voorbereiding van dit onderzoek heeft de Commissie nauw samengewerkt met Coimisiún na Meán, de Ierse coördinator digitale diensten. Verder zal Coimisiún na Meán worden betrokken bij dit onderzoek, overeenkomstig artikel 66(3), als nationale coördinator digitale diensten in het land van vestiging binnen de EU.

Vervolgstappen

De Commissie zal blijven bewijs verzamelen, bijvoorbeeld door aanvullende informatieverzoeken te sturen, interviews of inspecties uit te voeren, en kan voorlopige maatregelen opleggen bij het uitblijven van betekenisvolle aanpassingen aan de X-dienst.

De opening van formele procedures stelt de Commissie in staat verdere handhavingsmaatregelen te nemen, zoals het aannemen van een niet-nalevingsbesluit. De Commissie is ook bevoegd om elke toezegging van X te accepteren om de aan de procedure onderworpen kwesties te verhelpen.

De opening van formele procedures ontlast coördinatoren digitale diensten, of andere bevoegde autoriteiten van EU-lidstaten, van hun bevoegdheden om toezicht te houden op en handhavend op te treden tegen de vermoedelijke inbreuken op de DSA.

Achtergrond

Grok is een kunstmatige intelligentie (AI)-tool ontwikkeld door de aanbieder van X. Sinds 2024 heeft X Grok op verschillende manieren op haar platform ingezet. Deze inzetten stellen gebruikers bijvoorbeeld in staat tekst en afbeeldingen te genereren en contextuele informatie te bieden bij berichten van gebruikers.

Als aangewezen zeer groot online platform (VLOP) onder de DSA heeft X de verplichting om potentiële systemische risicos met betrekking tot haar diensten in de EU te beoordelen en te beperken. Deze risicos omvatten de verspreiding van illegale inhoud en potentiële bedreigingen voor fundamentele rechten, waaronder die van minderjarigen, veroorzaakt door haar platform en functies.

Dit onderzoek vult aan en breidt het onderzoek van 18 december 2023 uit, dat zich richt op de werking van het kennisgevings- en actiemechanisme van X, de mitigatiemaatregelen tegen illegale inhoud, zoals terroristisch materiaal, in de EU, en risicos verbonden aan haar aanbevelingssystemen.

Deze procedures omvatten ook het gebruik van misleidend ontwerp, het gebrek aan transparantie in advertenties en onvoldoende data-toegang voor onderzoekers, waarvoor de Commissie op 5 december 2025 een niet-nalevingsbesluit heeft genomen en X een boete van €120 miljoen heeft opgelegd. Op 19 september heeft de Commissie een informatieverzoek aan X gestuurd met betrekking tot Grok, inclusief vragen over antisemitische inhoud gegenereerd door @grok medio 2025.

Hulp en ondersteuning zijn op nationaal niveau beschikbaar voor personen die negatief zijn getroffen door AI-gegenereerde beelden, waaronder kindermisbruikmateriaal of niet-consensuele intieme beelden. Onder de DSA hebben burgers het recht een klacht in te dienen over een schending van de DSA bij de coördinator digitale diensten van hun lidstaat.