Britanska agencija za borbu protiv kriminala (NCA) upozorila je roditelje da ne objavljuju fotografije djece na internetu jer ih se pomoću umjetne inteligencije (AI) može pretvoriti u pornografski materijal.
NCA i Zaklada za nadzor interneta (IWF) objavili su nove smjernice za zaštitu djece od sve češće pojave korištenja AI-a za izradu pedofilskog sadržaja.
Do toga je došlo nakon što je škola u Britaniji bila meta kriminalnih skupina koje su iskoristile javno dostupne fotografije učenika da bi pomoću AI-a stvorile pornografski materijal i zatim prijetile da će ih objaviti ako im se ne plati.
Analitičari IWF-a su u 2025. otkrili 3400 video snimki generiranih AI-om, golemi rast u odnosu na 13 u 2024.
“Prijetnja je uznemirujuća”, rekao je izvršni direktor IWF-a Kerry Smith.
“Ne govorimo o tome da fotografije djece ne bi trebalo dijeliti s ljudima koje volite i kojima vjerujete, nego želimo da ljudi budu svjesni potencijalnih rizika i da donose informirane odluke imajući na umu sve činjenice”.
Smith kaže da posljednice takvih fotografija mogu biti razorne.
“Šteta je vrlo stvarna. I potencijal za dugoročne posljedice je nešto što vjerujem svaki roditelj želi spriječiti”.
Pedofilski sadržaj s napretkom tehnologije postaje sve rašireniji i realističniji, upozorile su organizacije.
Osim toga, fotografije i video snimke sve su nasilnije, pa je tako 65 posto od 3443 umjetno generiranih videa u 2025. klasificirano u kategoriju A prema britanskom kaznenom zakonu, što znači da prikazuju najteža kaznena djela poput silovanja i seksualnog mučenja.
Nove smjernice savjetuju roditeljima da na društvenim mrežama otvore “prijateljske” grupe u kojima dijele fotografije svoje djece ili da prilagode postavke o privatnosti kako bi ih mogli vidjeti samo ograničeni broj ljudi.
IWF je također pozvao tehnološke kompanije da dobro zaštite svoje modele AI-a prije nego što ih ponude korisnicima kako ih kriminalci ne bi mogli zloupotrijebiti za proizvodnju pedofilskog sadržaja.