U Holandiji je zabrinjavajući porast broja lažnih nagih fotografija generisanih veštačkom inteligencijom (AI) postao jedan od najvažnijih društvenih problema. Tokom 2024. godine, broj ovih fotografija dostigao je 59, dok je prethodne godine bio samo 9. Ove brojke dolaze iz stručnog centra Oflimits, a s obzirom na njihove implikacije, izazivaju ozbiljnu zabrinutost među stručnjacima i organizacijama koje se bave zaštitom ljudi na mreži, piše NL Tajms.
Fenomen poznat kao „dipfejk“ postao je jedan od najbrže rastućih oblika zlostavljanja na internetu. „Dipfejk“ se odnosi na digitalne manipulacije fotografija stvorene korišćenjem aplikacija koje olakšavaju pravljenje lažnih slika, a koje se često koriste kako bi se na degradirajući način prikazali pojedinci, najčešće žene. Nažalost, dostupnost ovih tehnologija porasla je za 45 procenata, a stručnjaci su identifikovali 47 različitih aplikacija i veb stranica koje nude mogućnost slanja fotografija i primanja njihove izmenjene verzije bez odeće.
Ove usluge, koje pokreće veštačka inteligencija, ne samo da su lako dostupne, već i jednostavne za korišćenje. Stručnjaci upozoravaju da ovo ne treba shvatiti kao bezazleni trend, već kao ozbiljan oblik seksualnog nasilja. Nasilje nad ženama, koje je često povezano s diskriminacijom i rodnom nejednakošću, dodatno se komplikuje pojavom ovakvih tehnologija, koje omogućavaju korisnicima da se igraju s identitetima drugih.
Izuzetno zabrinjavajuća činjenica je da žene čine čak 99 procenata prijavljenih žrtava ovih lažnih nagih fotografija. Ovaj podatak jasno pokazuje da se većina ovih manipulacija koristi za zlostavljanje, uplašivanje ili diskreditovanje žena. Uvođenje ovih tehnologija predstavlja ozbiljnu pretnju proučavanje digitalne bezbednosti, privatnosti i ljudskih prava.
Prema rečima stručnjaka, ovo stanje ne može biti shvaćeno kao šala. Pojava ovih slika, uz podršku sofisticirane tehnologije, može imati teške psihološke posledice po žrtve. Neki od besplatnih alata i aplikacija za kreiranje lažnih slika takođe povećavaju rizik od zloupotrebe ličnih podataka, jer mnogi korisnici, ne razmišljajući o posledicama, dele svoje fotografije.
Pitanje koji postavljaju mnogi je kako se društvo može zaštititi od ovakvih zloupotreba. Razvijanje zakonodavstva koje će se baviti pitanjima vezanim za zaštitu privatnosti i digitalnu sigurnost je jedan od ključnih koraka koji je potreban. Međutim, izazov ostaje u tome kako sprovesti egzaktne definicije onoga što čini zlostavljanje na mreži i kako kazniti one koji lažno koriste nečiju sliku u ovakve svrhe.
Takođe, edukacija korisnika o rizicima koje donosi deljenje svojih ličnih informacija na mreži, kao i podizanje svesti o posledicama ovakvog ponašanja, od ključnog su značaja u borbi protiv digitalnog zlostavljanja. Više edukativnih kampanja, kao i saradnja sa organizacijama koje se bave zaštitom prava žena, moglo bi pomoći u smanjenju broja ovakvih slučajeva.
U svetlu ovih zbivanja, jasno je da se tehnologija i ljudska prava susreću na mestima koja zahtevaju hitnu pažnju. Potrebni su zajednički napori kako bi se stvorilo bezbednije digitalno okruženje za sve, posebno za ranjive grupe kao što su žene. Važno je da se ovakve situacije ne zapostavljaju i da se sprovedu odgovarajuće mere kako bi se umanjile posledice koje ovakvi trendovi imaju na naše društvo.
