Keywords
involuntary pornography
image-based sexual abuse
dissemination of image without consent
defamation
Polish criminal law
How to Cite
Abstract
The article examines the criminal responsibility for the creation and dissemination of pornographic deepfake content under Polish criminal law. The dogmatic-legal analysis reveals that these acts are only selectively criminalized, most notably under the provisions on defamation and insult, and a significant number of cases are not punishable. Subsequently, the feasibility of a new provision expressly criminalizing this phenomenon and its optimal formulation are considered. The author proposes the introduction of a new provision criminalizing the dissemination of a manufactured or processed image of another person without his or her consent if the image may give the impression that the person is naked or is in the course of sexual activity.
References
2023 State of Deepfakes. Realities, Threats, and Impact, „Home Security Heroes” z 2023 r., < https://www.homesecurityheroes.com/state-of-deepfakes >.
Ajder H., Patrini G., Cavalli F., Cullen L., The State of Deepfakes: Landscape, Threats, and Impact, wrzesień 2019 r., < https://regmedia.co.uk/2019/10/08/deepfake_report.pdf >.
Barta J., Markiewicz R., w: Ustawa o prawie autorskim i prawach pokrewnych. Komentarz, red. J. Barta, R. Markiewicz, Warszawa 2011.
Biel B., Seks, którego nie było, a który zobaczył cały świat, „TVN24” z 28 lipca 2018 r., < https://tvn24.pl/magazyn-tvn24/seks-ktorego-nie-bylo-a-ktory-zobaczyl-caly-swiat,166,2866 >.
Bielski M., w: Kodeks karny. Część szczególna. Tom II. Część I. Komentarz do art. 117–211a, red. W. Wróbel, A. Zoll, Warszawa 2017.
Błachut J., Pozorowana pornografia dziecięca, „Państwo i Prawo” 2005, z. 4.
Bojańczyk K., w: Prawo autorskie i prawa pokrewne. Komentarz, red. W. Machała, R.M. Sarbiński, Warszawa 2019.
Brown D., AI Gave Val Kilmer His Voice Back. But Critics Worry the Technology Could Be Misused, „Washington Post” z 18 sierpnia 2021 r., < https://www.washingtonpost.com/technology/2021/08/18/val-kilmer-ai-voice-cloning/ >.
Budyn-Kulik M., Kulik M., w: Kodeks karny. Część szczególna. Tom I. Komentarz do artykułów 117–221, red. M. Królikowski, R. Zawłocki, Warszawa 2023.
Burgess M., Porn Sites Still Won’t Take Down Nonconsensual Deepfakes, „Wired” z 30 sierpnia 2020 r., < https://www.wired.com/story/porn-sites-still-wont-take-down-nonconsensual-deepfakes/ >.
Celli F., Deepfakes Are Coming: Does Australia Come Prepared?, „Canberra Law Review” 2020, t. 17, nr 2.
Chesney B., Citron D., Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security, „California Law Review” 2019, t. 107.
Cole S., People Are Using AI to Create Fake Porn of Their Friends and Classmates, „Vice” z 26 stycznia 2018 r., < https://www.vice.com/en/article/ev5eba/ai-fake-porn-offriends-deepfakes >.
Cole S., This Horrifying App Undresses a Photo of Any Woman With a Single Click, „Vice” z 26 czerwca 2019 r., < https://www.vice.com/en/article/kzm59x/deepnude-appcreates-fake-nudes-of-any-woman >.
Coronavirus : “Plus belle la vie” recourt au “deepfake” pour remplacer une comédienne en quatorzaine, „Franceinfo” z 16 listopada 2020 r., < https://www.francetvinfo.fr/culture/series/coronavirus-plus-belle-la-vie-recourt-au-deepfake-pour-remplacerune-comedienne-en-quatorzaine_4183817.html >.
Ctrl Shift Face, Bill Hader Impersonates Arnold Schwarzenegger [DeepFake], „Youtube” z 11 maja 2019 r., < https://www.youtube.com/watch?v=bPhUhypV27w >.
Dąbrowska I., Deepfake – nowy wymiar internetowej manipulacji, „Zarządzanie Mediami” 2020, t. 8, nr 2.
Dereń E., Polański E., Wielki słownik języka polskiego, Kraków 2012.
Diep Nep, This Is Not Morgan Freeman – A Look Behind the Deepfake Singularity, „Youtube” z 29 lipca 2021 r., < https://www.youtube.com/watch?v=F4G6GNFz0O8 >.
Długosz-Jóźwiak J., w: Kodeks karny. Część szczególna. Tom I. Komentarz do artykułów 117–221, red. M. Królikowski, R. Zawłocki, Warszawa 2023.
Drabik L., Sobol E., Słownik języka polskiego PWN, Warszawa 2007.
Druzin B.H., Li J., The Criminalization of Lying: Under What Circumstances, if Any,
Should Lies Be Made Criminal?, „Journal of Criminal Law and Criminology” 2011, t. 101, nr 2.
Fallis D., The Epistemic Threat of Deepfakes, „Philosophy & Technology” 2021, t. 34, nr 4.
Filek B., Wizerunek nagiej osoby jako znamię przestępstwa z art. 191a § 1 k.k., „Prokuratura i Prawo” 2012, nr 7–8.
Fischer T., Strafgesetzbuch mit Nebengesetzen, München 2022.
Flynn A., Powell A., Scott A.J., Cama E., Deepfakes and Digitally Altered Imagery Abuse: A Cross-Country Exploration of an Emerging form of Image-Based Sexual Abuse, „British Journal of Criminology” 2022, t. 62, nr 6.
Goodfellow I. i in., Generative Adversarial Networks, „Advances in Neural Information Processing Systems” 2014, t. 27.
Greif J., Strafbarkeit von bildbasierten sexualisierten Belästigungen. Eine phänomenologische und strafrechtsdogmatische Betrachtung des sog. Image-based sexual abuse, Berlin 2023.
Gruber A., Sex Exceptionalism in Criminal Law, „Stanford Law Review” 2023, t. 75, nr 4.
Harris D., Deepfakes: False Pornography Is Here and the Law Cannot Protect You, „Duke Law & Technology Review” 2019, t. 17, nr 1.
Hern A., Reddit Bans “Deepfakes” Face-Swap Porn Community, „The Guardian” z 8 lutego 2018 r., < https://www.theguardian.com/technology/2018/feb/08/reddit-bans-deepfakes-face-swap-porn-community >.
Hinderks T., Die Kennzeichnungspflicht von Deepfakes, „Zeitschrift für Urheber- und Medienrecht” 2022, z. 2.
Intimate Image Abuse. A Consultation Paper, Law Commission, 26 lutego 2021 r., < https://s3-eu-west-2.amazonaws.com/lawcom-prod-storage-11jsxou24uy7q/uploads/2021/02/Intimate-image-abuse-consultation-paper.pdf >.
Intimate Image Abuse: A Final Report, Law Commission, 6 lipca 2022 r., < https://s3eu-west-2.amazonaws.com/lawcom-prod-storage-11jsxou24uy7q/uploads/2022/07/Intimate-image-abuse-final-report.pdf >.
Izdebski Z., Seksualność Polaków na początku XXI wieku. Studium badawcze, Kraków 2012.
Kaczmarek-Templin B., Deepfake i jego walor dowodowy w procesach cywilnych, w: Sztuczna inteligencja, blockchain, cyberbezpieczeństwo oraz dane osobowe. Zagadnienia wybrane, red. K. Flaga-Gieruszyńska, J. Gołaczyński, D. Szostek, Warszawa 2019.
Keary T., Why Deepfake Phishing Is a Disaster Waiting to Happen, „VentureBeat” z 9 grudnia 2022 r., < https://venturebeat.com/security/deepfake-phishing/ >.
Kirchengast T., Deepfakes and Image Manipulation: Criminalisation and Control, „Information & Communications Technology Law” 2020, t. 29, nr 3.
Köbis N.C., Doležalová B., Soraperra I., Fooled Twice: People Cannot Detect Deepfakes but Think They Can, „iScience” 2021, t. 24, nr 11.
Komunikat badań BS/111/2013, Centrum Badania Opinii Społecznej, sierpień 2013 r., < https://www.cbos.pl/SPISKOM.POL/2013/K_111_13.PDF >.
Konarska-Wrzosek V., w: Kodeks karny. Komentarz, red. V. Konarska-Wrzosek, Warszawa 2020.
Kosonoga J., w: Kodeks karny. Komentarz, red. R.A. Stefański, Legalis/el. 2021.
Królikowski M., Sakowicz A., w: Kodeks karny. Część szczególna. Tom I. Komentarz do artykułów 117–221, red. M. Królikowski, R. Zawłocki, Warszawa 2023.
Kugler M.B., Pace C., Deepfake Privacy: Attitudes and Regulation, „Northwestern University Law Review” 2021, t. 116, nr 3.
Kulesza J., Prawnokarna ochrona wolności jednostki w kontekście zasad teorii kryminalizacji, „Prokuratura i Prawo” 2014, nr 6.
Kulesza W., Zniesławienie i zniewaga. (Ochrona czci i godności osobistej człowieka w polskim prawie karnym – zagadnienia podstawowe), Warszawa 1984.
Lachowski J., w: Kodeks karny. Komentarz, red. V. Konarska-Wrzosek, Warszawa 2020.
Lantwin T., Strafrechtliche Bekämpfung missbräuchlicher Deep Fakes. Geltendes Recht und möglicher Regelungsbedarf, „Multimedia und Recht” 2020, z. 2.
Lipiński K., w: Kodeks karny. Część szczególna. Komentarz, red. J. Giezek, Warszawa 2021.
Łyżwa A., w: M. Banaś-Grabek i in., Kodeks karny. Część szczególna. Art. 148–251. Komentarz, Warszawa 2020.
Mamak K., Fake Porn – czy wklejenie czyjejś twarzy do filmu porno jest przestępstwem?, „criminal future” z 4 lutego 2018 r., < http://criminalfuture.com/fake-porn-czy-wklejenie-czyjejs-twarzy-do-filmu-porno-jest-przestepstwem/ >.
Mandel A., Zuckerberg mówi szalone rzeczy. Coraz więcej fałszywek wideo, „Rzeczpospolita” z 12 czerwca 2019 r., < https://cyfrowa.rp.pl/technologie/art16919821-zuckerberg-mowi-szalone-rzeczy-coraz-wiecej-falszywek-wideo >.
Mania K., Legal Protection of Revenge and Deepfake Porn Victims in the European Union: Findings From a Comparative Legal Study, „Trauma, Violence, & Abuse” 2024, t. 25, nr 1.
Maras M.-H., Alexandrou A., Determining Authenticity of Video Evidence in the Age of Artificial Intelligence and in the Wake of Deepfake Videos, „International Journal of Evidence & Proof” 2019, t. 23, nr 3.
McGlynn C., Rackley E., Image-Based Sexual Abuse, „Oxford Journal of Legal Studies” 2017, t. 37, nr 3.
Mozgawa M., Nazar K., Nagość człowieka z perspektywy prawa karnego, „Prawo w Działaniu” 2023, t. 55.
Muszyńska A., w: Kodeks karny. Część szczególna. Komentarz, red. J. Giezek, Warszawa 2021.
Nastolatki szantażowane „nagimi zdjęciami” stworzonymi przez sztuczną inteligencję. Trwa śledztwo, „TVN24” z 21 września 2023 r., < https://tvn24.pl/swiat/hiszpania-sztuczna-inteligencja-stworzyla-falszywe-nagie-zdjecia-nastolatek-7354884 >.
Neseniuk A., „Wystarczy jeden klik, by zobaczyć ją nagą”. Ukraiński start-up przez dwa lata „rozbierał” kobiety bez ich wiedzy i zgody, „Forbes” z 14 listopada 2023 r., < https://www.forbes.pl/technologie/deepfake-porno-ukrainski-start-up-przez-dwa-lata-rozbieral-kobiety-bez-ich-wiedzy-i/bnjmzz7 >.
New Laws to Better Protect Victims From Abuse of Intimate Images, Ministry of Justice, 25 listopada 2022 r., < https://www.gov.uk/government/news/new-laws-to-betterprotect-victims-from-abuse-of-intimate-images >.
Olson A., The Double-Side of Deepfakes: Obstacles and Assets in the Fight Against Child Pornography, „Georgia Law Review” 2022, t. 56, nr 2.
Öhman C., Introducing the Pervert’s Dilemma: A Contribution to the Critique of Deepfake Pornography, „Ethics and Information Technology” 2020, t. 22, nr 2.
Pechenik Gieseke A., “The New Weapon of Choice”: Law’s Current Inability to Properly Address Deepfake Pornography, „Vanderbilt Law Review” 2020, t. 73, nr 5.
Preibisz A.N., Przedmiot ochrony przestępstwa określonego w art. 286 § 1 kodeksu karnego, „Prokuratura i Prawo” 2004, nr 10.
Raglewski J., w: Kodeks karny. Część szczególna. Tom II. Część II. Komentarz do art. 212– 277d, red. W. Wróbel, A. Zoll, Warszawa 2017.
Regge P., Pegge C., w: Münchener Kommentar zum Strafgesetzbuch. Band 4. §§ 185–262, red. V. Erb, J. Schäfer, München 2021.
Sanocki A., Deepfakes, czyli postprawda objawiona, w: Zjawisko dezinformacji w dobie rewolucji cyfrowej. Państwo. Społeczeństwo. Polityka. Biznes, red. M. Wrzosek, Warszawa 2019.
Sobczak J., w: Kodeks karny. Komentarz, red. R.A. Stefański, Legalis/el. 2021.
Sowirka K., Przestępstwo „kradzieży tożsamości” w polskim prawie karnym, „Ius Novum” 2013, t. 7, nr 1.
Szpyt K., Sztuczna inteligencja i nowe technologie (nie zawsze) w służbie ludzkości, czyli cywilnoprawna problematyka rozwoju i popularyzacji technologii deepfake, w: Sztuczna inteligencja, blockchain, cyberbezpieczeństwo oraz dane osobowe. Zagadnienia wybrane, red. K. Flaga-Gieruszyńska, J. Gołaczyński, D. Szostek, Warszawa 2019.
Viola M., Voto C., Designed to Abuse? Deepfakes and the Non-Consensual Diffusion of Intimate Images, „Synthese” 2023, t. 201, nr 1.
Warylewski J., Molestowanie seksualne w miejscu pracy, „Państwo i Prawo” 1999, z. 3.
Warylewski J., Przestępstwa przeciwko wolności seksualnej i obyczajności, w: System prawa karnego. Tom 10. Przestępstwa przeciwko dobrom indywidualnym, red. J. Warylewski, Warszawa 2016.
Wąż K., Wybrane składowe obyczajowości seksualnej młodzieży. Poznawanie partnera, „Rocznik Lubuski” 2018, t. 44, cz. 1.
Westerlund M., The Emergence of Deepfake Technology: A Review, „Technology Innovation Management Review” 2019, t. 9, nr 11.
Wieczorek S., Kubiak M., Ryzyka i szanse wynikające z rozwoju nowych technologii w branży mediowej na przykładzie zjawiska deep fake – analiza prawna, „Monitor Prawniczy” 2019, nr 21.
Wilkerson L., Still Waters Run Deep(Fakes): The Rising Concerns of “Deepfake” Technology and Its Influence on Democracy and the First Amendment, „Missouri Law Review” 2021, t. 86, nr 1.
Wittmer S., Steinebach M., Computergenerierte Kinderpornografie zu Ermittlungszwecken im Darknet. Rechtliche Rahmenbedingungen und technische Umsetzbarkeit, „Multimedia und Recht” 2019, z. 10.
Włodarczyk E., Wzór kulturowy, w: Encyklopedia pedagogiczna XXI wieku. Suplement A–Ż, red. T. Pilch, Warszawa 2010.
Yamaoka-Enkerlin A., Disrupting Disinformation: Deepfakes and the Law, „New York University Journal of Legislation and Public Policy” 2020, t. 22.
Zgoliński I., w: Kodeks karny. Komentarz, red. V. Konarska-Wrzosek, Warszawa 2020.
Ziobroń A., Deepfake a prawo karne. Uwagi „de lege lata” i „de lege ferenda” dotyczące fałszywej pornografii, „Studenckie Prace Prawnicze, Administratywistyczne i Ekonomiczne” 2021, t. 37.
This work is licensed under a Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License.
Copyright (c) 2025 Cracow Institute of Criminal Law Foundation