Przepisy przeciw seksualnym deepfake’om skupiają się głównie na osobach, które tworzą i rozpowszechniają takie obrazy. Zdaniem badaczy z Brown University to za mało, bo nadużycia opierają się na całym łańcuchu technologii: od modeli AI po sklepy z aplikacjami i systemy płatności. Naukowcy opracowali mapę tego ekosystemu, która ma pomóc prawodawcom znaleźć skuteczniejsze punkty nacisku.

Problem większy niż pojedynczy obraz

Analiza ukazała się w materiałach konferencji ACM poświęconej równości i dostępowi w algorytmach, a jej wyniki zaprezentowano 7 listopada. Za badaniem stoją informatycy z Center for Technological Responsibility, Reimagination and Redesign na Brown University. Chodzi o nieskonsensualne obrazy intymne generowane przez sztuczną inteligencję.

Zjawisko nie jest nowe. Według autorów jego początki sięgają 2017 roku, kiedy na Reddicie zamieszczano zmanipulowane nagie wizerunki celebrytów. Generatywna AI mocno je jednak nasiliła. Dziś aplikacje typu „nudifier”, które w kilka sekund tworzą wyraźne zdjęcia i filmy, są powszechne i bywają dostępne nawet w głównych sklepach z aplikacjami na smartfony.

Pięć ról, jedenaście kategorii technologii

Badacze przejrzeli literaturę naukową, raporty prawne, doniesienia medialne i inne źródła. Powstała taksonomia 11 kategorii technologii, przypisanych do pięciu ról:

• tworzenie obrazów – modele AI, interfejsy użytkownika, zbiory danych treningowych;
• dystrybucja – media społecznościowe i prywatne komunikatory;
• wyszukiwanie i rozprzestrzenianie – wyszukiwarki, sklepy z aplikacjami, społeczności w sieciach społecznościowych;
• infrastruktura i wsparcie – platformy dla programistów, takie jak GitHub czy Civitai;
• monetyzacja – firmy kartowe i operatorzy płatności.

Jako przykład posłużył Grok, czyli model AI powiązany z platformą X. Użytkownicy mogli wygenerować nieskonsensualne obrazy, oznaczając Groka w poście i wpisując polecenia w rodzaju „załóż jej bikini” albo „zdejmij jej ubranie”. Model odpowiadał, publikując obrazy bezpośrednio w wątku. Na Telegramie powstała zaś społeczność, która dzięki obejściu zabezpieczeń interfejsu Groka, kupowanego w sklepach z aplikacjami, tworzyła jeszcze bardziej dosłowne materiały.

Prawo gania pojedyncze obrazy

Zespół przeanalizował 64 stanowe i federalne przepisy USA dotyczące takich materiałów. Ponad 92% z nich wymierzono w pojedynczych twórców i osoby rozpowszechniające, a infrastruktura techniczna jest w nich ledwie dotknięta. Badacze porównują to do gry w „postaw kreta”: usuwa się kolejne obrazy, a nowe wciąż się pojawiają. Michelle Ding, główna autorka badania, zwraca uwagę, że według jej danych Grok w grudniu generował ponad 6 tys. obrazów na godzinę.

Harini Suresh, współautorka i adiunkt informatyki na Brown, wskazuje na lukę po stronie tworzenia:

„Obecne środki zaradcze są w całości reaktywne – polegają na usuwaniu obrazów, gdy już trafią do sieci”.

Badaczka chce, aby naukowcy zajmujący się AI zastanowili się, jak zapobiegać generowaniu takich obrazów już na poziomie modeli. Przyznaje, że to trudne zadanie.

Co to oznacza w Polsce i UE

Badanie dotyczy amerykańskich przepisów, w tym ustawy TAKE IT DOWN Act z maja 2025 roku, ale wnioski mają szerszy wymiar. Aplikacje, platformy i systemy płatności działają globalnie, więc ten sam ekosystem obejmuje także polskich użytkowników. W Unii Europejskiej platformy internetowe podlegają Aktowi o usługach cyfrowych (DSA), który nakłada na nie obowiązki w zakresie nielegalnych treści, a unijny akt o sztucznej inteligencji wprowadza wymogi przejrzystości dla treści generowanych przez AI. Na ile te regulacje w praktyce obejmują opisane tu mechanizmy, pozostaje przedmiotem debaty.

Dla zwykłego użytkownika wniosek jest praktyczny: samo zgłoszenie jednego zdjęcia platformie to często tylko doraźna pomoc. Kluczowe jest też to, że odpowiedzialność można rozłożyć na więcej podmiotów niż sam autor obrazu. Ocena, jak to zrobić w polskim prawie, wymaga jednak osobnych analiz prawnych.

Do badania powstała też interaktywna strona internetowa, przygotowana z dwiema studentkami lub studentami Brown, Hayą Bugshan i Mają Mishevską. Zgodnie z deklaracją twórców unika ona sensacyjnego tonu i krok po kroku pokazuje technologie, które umożliwiają nadużycia.

Źródło: Tech Xplore – „To end 'whack-a-mole’ war on AI deepfakes, address the 'ecosystem,’ researchers urge”