Udruga Pragma poziva na zabranu aplikacija umjetne inteligencije koje stvaraju seksualni sadržaj usmjeren djeci te na izradu Zakona o online sigurnosti djece
Povodom današnjeg donošenja Odluke Vlade RH o pokretanju postupka izrade Nacionalnog plana za razvoj umjetne inteligencije za razdoblje do 2032. godine (2.5.2025.), udruga Pragma predlaže stvaranje jasnog zakonodavnog i društvenog okvira usmjerenog zaštititi djece u online prostoru zbog razvoja umjetne inteligencije.
Nedavno je Povjerenik za djecu Engleske, potaknut rastom seksualnog zlostavljanja djece uzrokovanog umjetnom inteligencijom, pozvao vladu Engleske da zabrani aplikacije koje koriste umjetnu inteligenciju za stvaranje seksualno eksplicitnih slika djece, a pozitivne reakcije iz vlade ukazuju kako će Velika Britanija biti prva zemlja koja na sustavan način uređuje pitanja zaštite djece i razvoja umjetne inteligencije. Opasan proces „nudifikacije“ djece (gdje umjetna inteligencija uređuje fotografije stvarnih ljudi kako bi izgledali goli), uz deepfakeove (videozapisi, slike ili audio isječci napravljeni umjetnom inteligencijom kako bi izgledali ili zvučali stvarno), dovode do opasnosti da takve aplikacije ostaju nekontrolirane s ekstremnim posljedicama u stvarnom svijetu za djecu i mlade.
Nužno je da svi materijali – stvoreni i umjetnom inteligencijom budu jasno označeni kao ilegalni te se moraju ustanoviti (nova) kaznena djela za stvaranje, posjedovanje ili distribuciju alata umjetne inteligencije osmišljenih za stvaranje takvog seksualnog sadržaja.
Britanska izvješća upozoravaju kako tehnologije umjetne inteligencije nerazmjerno ciljaju na djevojke i mlade žene, a mnoge aplikacije po mjeri izgledaju kao da rade samo na ženskim tijelima. Rezultat toga je da djevojke aktivno izbjegavaju objavljivanje slika ili interakciju na internetu kako bi smanjile rizik od napada, na isti način na koji djevojke slijede druga pravila kako bi se zaštitile u stvarnom svijetu.
Potrebno je izraditi Zakon o online sigurnosti koji će detaljnije urediti zabranu aplikacija za „nudifikaciju“; urediti kazneno-pravne posljedice dijeljenja ili prijetnje dijeljenja eksplicitnih deepfake sadržaja; strogo kažnjavati posjedovanje i dijeljenje „priručnika za pedofile s umjetnom inteligencijom“ koja ljude uče kako koristiti umjetnu inteligenciju za seksualno zlostavljanje djece i mladih; također, potrebno je detaljno urediti protuzakonito posjedovanje, stvaranje ili distribuciju alata umjetne inteligencije dizajniranih za stvaranje takvog materijala te urediti djelovanje svih platformi koje moraju ukloniti ovu vrstu sadržaja.
Potrebno je nametnuti zakonske obveze programerima generativnih alata umjetne inteligencije da identificiraju i riješe rizike koje njihovi proizvodi predstavljaju za djecu te poduzmu mjere za ublažavanje tih rizika, uključujući otežavanje pristupa djeci takvim sadržajima; uspostaviti sustavni proces za uklanjanje seksualno eksplicitnih deepfake slika djece s interneta te prepoznati deepfake seksualno zlostavljanje kao oblik nasilja nad djecom. Web stranice moraju uvesti pojačane provjere dobi, ili se suočiti s velikim kaznama, a potrebno je uvesti kažnjavanje web stranica na kojima pedofili mogu dijeliti sadržaj o seksualnom zlostavljanju djece ili davati savjete o tome kako se dotjerivati za djecu.
Nužno je dati veće ovlasti policiji u mjerama za koje sumnjaju da predstavljaju seksualni rizik za djecu te narediti osobama da otključaju svoje digitalne uređaje radi pregleda kada pokušaju ući u Hrvatsku, budući da se takvi sadržaji često snimaju u inozemstvu.
„U Engleskoj je otkriveno da je tijekom razdoblja od mjesec dana na jednoj mračnoj web stranici otkriveno 3512 slika seksualnog zlostavljanja i iskorištavanja djece snimljenih umjetnom inteligencijom. U usporedbi s mjesecom prethodne godine, broj slika najtežih kategorija (kategorija A) porastao je za 10 %“, ističe Nedjeljko Marković, predsjednik Pragme koji je istaknuo kako „dostupnost ovog sadržaja umjetne inteligencije dodatno potiče seksualno nasilje nad djecom. Nužno je izraditi cjeloviti pristup razvoju umjetne inteligencije što je dobra prilike za novi Nacionalni plan za razvoj umjetne inteligencije“.
