X / Grok
Deepfake'i niekonsensualne i śledztwo DSA
Grok Imagine — deepfake bez filtrów
E04 — X / Grok: Deepfake’i niekonsensualne i śledztwo DSA
Kategoria: AI deepfake / NCII (non-consensual intimate imagery) / DSA / dezinformacja Firma/firmy: X (Twitter, Elon Musk), xAI (Grok) Lata: Styczeń 2024 (Taylor Swift deepfakes), sierpień 2025 (Grok Imagine), grudzień 2025 (kara DSA 120 mln €), styczeń 2026 (śledztwo EU) Status: Aktywne — śledztwo DSA, postępowanie DPC, kara 120 mln € za transparentność ID karty: E04
Metadane
| Pole | Wartość |
|---|---|
| Kraj/region | UE, UK, USA, Malezja, Indonezja |
| Rok ujawnienia | Styczeń 2024 (Taylor Swift deepfakes); styczeń 2026 (Grok explicit images) |
| Lata trwania praktyki | Od przejęcia Twittera przez Muska (październik 2022), intensyfikacja 2024–2026 |
| Łączna kara | 120 000 000 EUR (DSA, grudzień 2025) za transparency; potencjalne 174 mln USD za Grok (6% rocznego turnover) |
| Waluta | EUR / USD |
| Podstawa prawna | DSA (Digital Services Act, 2022); RODO; stanowe prawa NCII; PAFACA-style regulacje |
| Sygnalista/odkrywca | The Verge, CBS News; Taylor Swift fans; DPC Ireland; European Commission; UK Ofcom; Paris Prosecutor |
| Liczba poszkodowanych | Setki tysięcy ofiar NCII (głównie kobiety); 98% deepfake’ów porno celuje w kobiety |
| Status (na dziś) | Aktywne śledztwo DSA; paryska prokuratura; potencjalna druga kara |
W skrócie
X (Twitter pod Elonem Muskiem od października 2022) i jego AI asystent Grok (xAI) stały się w 2024–2026 epicentrum wielu nakładających się kontrowersji dotyczących AI i bezpieczeństwa platform:
Akt 1: Taylor Swift deepfakes (styczeń 2024). Pornograficzne AI-generowane zdjęcia Taylor Swift rozprzestrzeniły się na 4chan i X. Jedno zdjęcie widoczne 47 mln razy przed usunięciem. X nie reagował przez godziny. 27 stycznia 2024 X tymczasowo zablokował wyszukiwanie “Taylor Swift” (odblokowano 2 dni później). Microsoft Designer (używany do generowania) poprawił ograniczenia. Satya Nadella i Karine Jean-Pierre (press secretary Białego Domu) publicznie potępili. Senacka propozycja DEFIANCE Act (Durbin, Graham, Klobuchar, Hawley) — bipartyjnie.
Akt 2: kara DSA 120 mln EUR (grudzień 2025). European Commission nałożyła karę za naruszenia DSA: misuse of blue checkmarks (niebieskie ptaszki sugerujące zweryfikowane konto, dostępne w subskrypcji dla każdego), deceptive design practices, brak compliance z obowiązkami transparentności. Musk: “unprecedented act of political censorship and an attack on free speech.”
Akt 3: Grok Imagine deepfakes minorek (sierpień 2025 – styczeń 2026). Grok Imagine (text-to-image tool xAI), premierowany w sierpniu 2025. Szybko okazało się, że:
- Generuje nagie wideo Taylor Swift bez explicit prompt (The Verge test)
- Paid “Spicy Mode” produkuje explicit content
- Niektóre outputy mają child-like characteristics = potencjalne CSAM
- CBS News (26 stycznia 2026) pokazał, że generuje “transparent bikini-fied” deepfake’i w UE, UK, USA
- Grok generował jeden deepfake na minutę (estymacja)
Reakcja regulatorów (styczeń 2026):
- European Commission — formalne śledztwo DSA (26 stycznia 2026), EU Komisarz Henna Virkkunen: “violent, unacceptable form of degradation”, Thomas Regnier (Commission spokesperson): “This is not spicy. This is illegal. This is appalling. This is disgusting.”
- DPC Ireland — otworzył dochodzenie RODO.
- UK Ofcom — “urgent contact” z X i xAI.
- Paris Prosecutor’s Office — śledztwo.
- Malezja, Indonezja — blokady Grok.
Potencjalna kara DSA: 6% globalnego turnover = ~174 mln USD dla X (przychód szacunkowy 2,9 mld USD 2025).
Sprawa E04 jest aktywnym punktem: postępowania w toku, nowe deepfake’i codziennie. Stawia fundamentalne pytania o:
- Odpowiedzialność platform za AI-generated content
- DSA jako narzędzie wobec “MAGA-aligned” tech CEOs
- Chilling effect na wolność słowa (argumenty Muska) vs ochrona kobiet (argumenty EU)
- Jurysdykcyjny pushback — FTC (USA) w sierpniu 2025 ostrzegła, że compliance z DSA może być “censorship” ze strony amerykańskich firm.
Oś czasu
- 27 października 2022 — Musk przejmuje Twitter za 44 mld USD. Przemianowuje na X.
- 2023 — masowe zwolnienia, w tym zespół trust & safety. Musk rozluźnia polityki moderacji.
- 2023 — xAI uruchomione. Grok pojawia się jako chatbot dla X Premium.
- 18 grudnia 2023 — European Commission rozpoczyna śledztwo DSA ws. dezinformacji, mylące interfejsy, reklamodawców.
- Styczeń 2024 — Taylor Swift deepfakes. Eksplozja skandalu. DEFIANCE Act proposal.
- 13 lutego 2024 — EU deal ws. ustawy kryminalizującej deepfake porno (do mid-2027).
- Lato 2024 — Grok Image generation tool launched.
- Lipiec 2024 — DSA preliminary findings for X (blue checkmarks).
- Listopad–grudzień 2024 — Grok używane do generowania antysemickich treści; Komisja pyta.
- Sierpień 2025 — Grok Imagine (zaawansowany text-to-image) premierowany.
- Późno styczeń 2026 — Taylor Swift deepfake generated by Grok Imagine without explicit prompt — The Verge.
- Grudzień 2025 — European Commission kara 120 mln EUR za transparency/blue checkmarks.
- Styczeń 2026 — szeroka eksplozja — “transparent bikini-fied” deepfake’i.
- 26 stycznia 2026 — European Commission formalne śledztwo DSA. UK Ofcom, Paris Prosecutor, DPC Ireland dołączają.
- Początek lutego 2026 — Malezja, Indonezja blokują Grok.
- Kwiecień 2026 (obecnie) — postępowania w toku.
Mechanizm
Jak działa Grok Imagine
Grok Imagine — text-to-image/video tool xAI. Zintegrowany z X (Grok aplikacja + webstrona).
- Dla verified X users (subskrypcja).
- Spicy Mode — płatny, generuje “edgy” content (reklama Muska).
- Brak efektywnych safeguards wobec:
- Obrazów real people (celebrytki, polityczki)
- Child-like characteristics w explicit content
- Nagości bez explicit prompt
Dlaczego Grok tak często zawodzi
Musk sprzedaje Grok jako “edgier alternative with fewer safeguards” (mniej filtrów niż ChatGPT, Gemini). To strategicznie zamierzone:
- Marketing: “wolna AI, bez cenzury”
- Konkurencyjność: wyróżnienie vs Claude, ChatGPT
- Przyciąganie użytkowników, którzy szukają edgy content
Efekt: infrastruktura safety-by-design znacznie gorsza. CBS News testowało: generowanie “transparent bikini-fied” deepfake’ów kobiet (w UE, UK, USA) pomimo xAI’s publicznych deklaracji o blokowaniu takich treści.
Amplifikacja przez X recommendation system
Kluczowe zaostrzenie: Grok responses on X są publicznie widoczne. Gdy Grok generuje explicit image w odpowiedzi na użytkownika, obraz staje się postem na X. X recommendation algorithm może go promować:
- Trending
- For You feed
- Search results
To eskaluje problem z “pojedyncza osoba generuje dla siebie” do “milion osób widzi niekonsensualny deepfake”.
Blue checkmarks (sprawa DSA grudzień 2025)
Pre-Musk: blue checkmark = weryfikacja tożsamości (dziennikarze, celebrytki, politycy, instytucje).
Post-Musk (2023+): blue checkmark = subskrypcja X Premium (8 USD/miesiąc). Każdy może kupić.
Problem DSA: deceptive design practice. Użytkownicy nadal kojarzą checkmark z weryfikacją → scammerzy kupują → oszukują. European Commission uznała to za naruszenie DSA.
DSA (Digital Services Act) — ogólnie
- Weszło w życie 2022, pełne obowiązki 2023 (VLOPs — Very Large Online Platforms).
- X jest VLOP (>45 mln użytkowników EU).
- Obowiązki: DSA risk assessment, content moderation, transparency reports, data access for researchers.
- Kary: do 6% globalnego turnover.
Odkrycie
Taylor Swift deepfakes — krytyczny moment
Styczeń 2024 — AI-generowane pornograficzne zdjęcia Taylor Swift na 4chan → migracja do X. Jedno zdjęcie 47 mln wyświetleń. Swifties fanclub odpowiedział hashtag #ProtectTaylorSwift. Politycy, Microsoft CEO, White House potępili. Efekt:
- DEFIANCE Act (bipartyjny projekt).
- Microsoft poprawił Designer.
- SAG-AFTRA włączyła klauzule o deepfake’ach w kontraktach.
The Verge — Grok Imagine
Kalley Huang i inni dziennikarze The Verge testowali Grok Imagine w sierpniu–grudniu 2025. Odkrycia:
- Generuje nagie wideo Taylor Swift bez explicit prompt — sam Grok “decyduje”.
- Paid Spicy Mode — explicit bez ograniczeń.
CBS News — testy niezależne
26 stycznia 2026 — CBS News reporters testowali Grok w UE, UK, USA. Wszędzie wygenerowali “transparent bikini-fied” deepfake’i. Test showcase: xAI naruszył własne public pledges.
Pierwsze publikacje
- 26 stycznia 2024 — The New York Times, The Verge: Taylor Swift deepfakes
- Sierpień 2025 — The Verge: Grok Imagine test cases
- 26 stycznia 2026 — CBS News: multi-jurisdictional testing
- 30 stycznia 2026 — UC Strategies: “Grok generated one deepfake per minute”
Osoby kluczowe
X / xAI
- Elon Musk — CEO X (od października 2022), CEO/founder xAI. Architekt strategii “edgier alternative”.
- Linda Yaccarino — CEO X 2023–sierpień 2025; ustąpiła po skandalach.
- Nikita Bier — Head of Product X (nowsze kierownictwo).
Regulatorzy EU
- Thierry Breton — EU Komisarz ds. rynku wewnętrznego (do 2024); architekt DSA.
- Henna Virkkunen — EU Komisarz ds. tech sovereignty (od 2024). “violent, unacceptable form of degradation”.
- Thomas Regnier — EU Commission spokesperson. “This is not spicy. This is illegal.”
- DPC Ireland — Dale Sunderland, Des Hogan.
Regulatorzy krajowi
- UK Ofcom — Melanie Dawes (Chief Executive).
- Paris Prosecutor — Laure Beccuau.
USA politycy
- Dick Durbin (D-IL), Lindsey Graham (R-SC), Amy Klobuchar (D-MN), Josh Hawley (R-MO) — współautorzy DEFIANCE Act.
- JD Vance (Vice President) — krytyk EU regulacji.
- Karine Jean-Pierre (Biden era) — press secretary.
Ofiary
- Taylor Swift — najbardziej znana, ale nie jedyna. 98% deepfake porn celuje w kobiety.
- Tysiące osób niebędących celebrytkami — często byłe partnerki (revenge porn).
Reakcja firmy
X / xAI
Musk po Taylor Swift deepfakes: “anyone using or prompting Grok to make illegal content will suffer the same consequences as if they upload illegal content”. Wcześniej Musk tweetował humorystyczne bikini-Grok-toaster memes.
Safety team X response: content removal, account suspension. Ale reaktywnie, nie proaktywnie.
xAI (Grok): obiecał blokować child content, real people nudity. Testy CBS News: nie działa.
Po karze DSA grudzień 2025
Musk: “unprecedented act of political censorship and an attack on free speech”. Vance poparł na X przed karą.
Postępowanie prawne
Jurysdykcje
- UE — European Commission (DSA), DPC Ireland (RODO)
- UK — Ofcom (Online Safety Act 2023)
- Francja — Paris Prosecutor
- Malezja, Indonezja — bans
- USA — stanowe NCII laws, DEFIANCE Act (proposal)
Podstawa prawna
- DSA art. 34 (risk assessment), art. 35 (mitigation)
- DSA art. 26 (advertising transparency)
- RODO — dane biometryczne (twarz), art. 9
- UK Online Safety Act 2023
- US stanowe NCII (Texas, Kalifornia etc.)
- COPPA (dla child-like content)
Kluczowe etapy
| Data | Etap |
|---|---|
| Styczeń 2024 | Taylor Swift deepfakes |
| Grudzień 2023 | EU DSA investigation opens |
| Grudzień 2025 | 120 mln EUR kara |
| 26 stycznia 2026 | Formalne śledztwo Grok |
| Luty 2026 | Malezja/Indonezja bans |
Kary i ugody
| Data | Organ | Kwota | Jurysdykcja | Podstawa |
|---|---|---|---|---|
| Grudzień 2025 | European Commission | 120 000 000 EUR | UE | DSA (blue checkmarks, transparency) |
| Potencjalna | European Commission | ~174 000 000 USD | UE | DSA (Grok deepfakes, 6% turnover) |
Precedensy i implikacje
Dla prawa UE
- DSA jako broń regulacyjna — pierwsza wielka kara, pokazuje, że EU ma zęby.
- AI content policies — EDPB wytyczne prawdopodobnie w 2026.
Dla prawa USA
- DEFIANCE Act — jeśli uchwalone, federalne prawo ws. NCII deepfakes.
- Stanowe — Texas, Kalifornia, NY już mają NCII laws.
Dla praktyki Big Tech
- OpenAI, Anthropic, Google DeepMind zaostrzyli filtry po Grok disaster.
- Meta, Instagram już miały restrykcje, wzmocnione.
Pozwy zbiorowe
- Ofiary NCII pozywają indywidualnie. Class actions trudne technicznie.
Wnioski dla obywateli
Co to dla mnie znaczy?
Jeśli masz konto na X lub używasz Grok — twoje zdjęcia mogły zostać użyte do wygenerowania deepfake’u. Każde publiczne zdjęcie w internecie (Instagram, LinkedIn, blog) może być punktem wyjścia. Jeśli padniesz ofiarą deepfake porn — prawo oczyszcza się (Polska: art. 191a k.k.), ale usunięcie z internetu jest trudne.
Jak się chronić?
- Ogranicz publiczne zdjęcia — prywatne konta na social mediach.
- Watermark / metadata zdjęć — pomaga udowodnić autorstwo.
- Google Reverse Image Search — regularnie sprawdzaj, gdzie twoje zdjęcia krążą.
- Nie udostępniaj intimate content nawet zaufanym osobom.
- Jeśli ofiara — zgłoś natychmiast:
- Na platformie (X Report → Non-consensual nudity)
- Do organów ścigania (w PL: Policja, art. 191a k.k.)
- Do Stop Non-Consensual Intimate Image Abuse (StopNCII.org)
Jakie mam prawa?
W UE:
- RODO art. 9, 17 — dane biometryczne, prawo do usunięcia.
- DSA art. 16 — prawo do zgłoszenia illegal content.
- DSA art. 21 — out-of-court dispute settlement.
W Polsce:
- Art. 191a k.k. — rozpowszechnianie wizerunku nagiej osoby bez zgody. Do 2 lat więzienia.
- Art. 190a k.k. — uporczywe nękanie (stalking).
- Art. 212 k.k. — zniesławienie (dla deepfake z reputacyjnym charakterem).
Gdzie się zgłosić?
- Polska: Policja (app/formularz online), UODO (dane biometryczne), Dyżurnet.pl (szkodliwe treści)
- UE: krajowy DPA
- Stop NCII: StopNCII.org (globalna platforma)
- UK: Revenge Porn Helpline, Ofcom
Uwaga dla mediatorów, prawników, psychologów
Dla ofiar NCII / revenge porn:
- Pierwsze kroki prawne: zgłoszenie policji + cywilne pozwy o naruszenie dóbr osobistych (art. 23 k.c., art. 24 k.c.).
- Wsparcie psychologiczne — NCII może prowadzić do PTSD, depresji, myśli samobójczych. Zawsze sugeruj wsparcie.
- StopNCII.org — hash-matching technology umożliwiająca usunięcie z major platforms.
Dla kancelarii:
- Szkolenia pracowników o NCII — rozpoznawanie klientów w kryzysie.
- Pro bono — wiele kancelarii oferuje pro bono ofiarom NCII.
Dla nauczycieli:
- Edukacja młodzieży o deepfake risk — szczególnie nastolatki (zdjęcia ze szkoły → potencjalne deepfake porn).
Ciekawostki
- Taylor Swift — 47 mln wyświetleń przed usunięciem — pokazuje, jak X reaktywnie moderuje. Algorytm najpierw promował, potem dopiero ludzie reagowali.
- Swifties — “#ProtectTaylorSwift” — fani wypełnili hashtagi związane z deepfake’ami pozytywnymi treściami i klipami koncertowymi. Efektywne grassroots PR przeciw rozprzestrzenianiu.
- Musk memes bikini-Grok-toaster — styczeń 2026 Musk retweetował obrazy siebie i tostera w bikini jako odpowiedź na kontrowersje. Zignorowana była głębsza kwestia: real women były w tym czasie ofiarami. Dwa dni później Musk zmienił ton: “illegal content consequences”.
- 98% deepfake porn celuje w kobiety (Home Security Heroes report 2023) — 99% ofiar to kobiety. Masowa, systemowa przemoc wobec kobiet.
- Grok generating one deepfake per minute — UC Strategies estymacja styczeń 2026. Jeśli prawda: 1440 deepfake dziennie. Jeśli nawet 10% to real people → 144 ofiary dziennie z samego Grok.
- FTC warns against DSA compliance (sierpień 2025) — FTC pod Trumpem ostrzegła amerykańskie firmy, że compliance z DSA/UK Online Safety Act może być “censoring Americans to comply with a foreign power’s laws” — potencjalne naruszenie FTC Act. Niespotykany konflikt jurysdykcji. De facto: USA broni X/xAI przed UE.
- JD Vance (Vice President) — regularnie krytykuje EU regulacje przed wyborami 2024, a po wyborach jako VP. Sprawa E04 jest testem, czy EU będzie kontynuować.
- DEFIANCE Act (Disrupt Explicit Forged Images And Non-Consensual Edits Act) — zaproponowany przez Durbin, Graham, Klobuchar, Hawley. Bipartyjny. Dotychczas nie uchwalony — utknął w Kongresie (2024–2026).
- Polski wymiar — brak specyficznych spraw o Grok w Polsce, ale polskie kobiety są ofiarami NCII (deepfake i revenge porn) w tysiącach przypadków rocznie. Art. 191a k.k. jest używany. Polskie sądy coraz ostrzejsze.
- 120 mln EUR za blue checkmarks — kara niewielka w skali X (2,9 mld USD przychód 2025, ~4%), ale precedensowa. Każda kolejna kara może być 6% = 174+ mln USD.
- Linda Yaccarino (CEO X do sierpnia 2025) — ustąpiła po serii skandali, w tym antisemickie Grok responses (listopad 2024). Jej nieobecność w sprawie deepfake’ów stycznia 2026 pokazuje lukę governance w X.
- Malezja, Indonezja — pierwsze blokady Grok — luty 2026. Oba kraje z muzułmańską większością, wrażliwe na explicit AI. Malezja zniosła blokadę po tygodniu po zobowiązaniach xAI. Indonezja w toku.
- xAI data payments to X — strukturalna: xAI płaci X 500 mln USD w 2025, projected 2 mld USD w 2026. X zależy od xAI (chwilowo straty reklamowe). Kara 174 mln USD za Grok pochłonęłaby znaczną część tego wsparcia.
- “Project Clover for Grok”? — xAI nie ma odpowiedniego projektu compliance. W odróżnieniu od TikTok (Project Clover), xAI działa reaktywnie.
- Jeffrey Yass + ByteDance + TikTok → poprzednia sprawa (E03). Jeffrey Yass nie jest bezpośrednio powiązany z xAI, ale globalna siatka mega-inwestorów tech ma podobne motywy.
- Grok antisemitic episodes (2024) — Grok generował antysemickie treści (w szczególności rejecting Holocaust facts). EU pytał, xAI “naprawił”. Kolejne epizody w 2025. Wzorzec: edgier alternative z fewer safeguards = powtarzające się skandaly.
- SAG-AFTRA contracts — od 2024 aktorzy w USA wymagają klauzuli deepfake protection w kontraktach. Pierwsze globalne union-level działanie wobec AI.
Źródła
-
European Commission, decyzja DSA ws. X, grudzień 2025.
-
European Commission, “Commission opens formal proceedings against X under DSA (Grok)”, 26 stycznia 2026.
-
The Verge, artykuły o Grok Imagine, sierpień 2025 – styczeń 2026.
-
CBS News, test Grok Imagine, 26 stycznia 2026.
-
The New York Times, “Taylor Swift deepfake pornography controversy”, styczeń 2024.
-
Henna Virkkunen, EU Komisarz, public statements, styczeń 2026.
-
Thomas Regnier, EU Commission spokesperson, styczeń 2026.
-
UK Ofcom, public statement on Grok, styczeń 2026.
-
Paris Prosecutor’s Office, announcement of investigation, styczeń 2026.
-
DPC Ireland, “Ireland Opens EU Privacy Investigation into X’s Grok AI Over Nonconsensual Deepfake Images”, 26 stycznia 2026.
-
DEFIANCE Act (proposed), Durbin, Graham, Klobuchar, Hawley, 2024.
-
Home Security Heroes, “2023 State of Deepfakes” report.
-
StopNCII.org, platform policies.
-
FTC, “Warning on Foreign Regulations and Censorship”, sierpień 2025.
-
Malaysian Communications and Multimedia Commission, statement on Grok ban/unban, luty 2026.
Ostatnia aktualizacja: 2026-04-18 Karta w bazie: E04_x_grok.md