Više od 6.300 AI-generiranih spornih sadržaja povezanih sa zlostavljanjem djece otkriveno je u samo šest mjeseci, upozoravaju stručnjaci
Broj kibernetičkih incidenata u Hrvatskoj raste iz godine u godinu, a umjetna inteligencija napadačima daje nove alate za prijevare, ucjene i zlouporabe. Istodobno, stručnjaci upozoravaju na alarmantan rast AI-generiranih sadržaja povezanih sa seksualnim zlostavljanjem djece te potrebu jačanja digitalne pismenosti i sigurnosti.
Upravo su to bile središnje teme ovogodišnje konferencije CyberGuard, koju treću godinu zaredom organiziraju A1 Hrvatska i Centar za sigurniji internet, a koja je okupila domaće i međunarodne stručnjake iz područja online sigurnosti, obrazovanja, tehnologije i regulative.
Predsjednik Uprave A1 Hrvatska i A1 Slovenija Dejan Turk upozorio je kako umjetna inteligencija sama po sebi nije ni dobra ni loša, već ovisi o tome tko je koristi.
“Tehnologija nema moralni kompas. Umjetna inteligencija jednako je moćna u rukama onih koji žele stvarati dobro kao i u rukama onih koji je žele zloupotrijebiti. Naša djeca odrastaju u svijetu u kojem fotografija više nije dokaz istine, a glas koji čujemo preko telefona ne mora pripadati osobi koju poznajemo,” rekao je Turk.
O novim rizicima za djecu govorio je Federico Becchetti iz Interpola, dok su predstavnici britanske organizacije Internet Watch Foundation upozorili na nagli rast AI-generiranih materijala povezanih sa seksualnim zlostavljanjem djece. U prvih šest mjeseci ove godine otkriveno je 6.310 takvih fotografija, što je više nego tijekom cijele prošle godine, a na čak 98 posto njih prikazane su djevojčice.
Voditelj Centra za sigurniji internet Tomislav Ramljak naglasio je kako sigurnost djece ne ovisi samo o tehnologiji.
“Dobna granica može odrediti kada dijete smije koristiti društvene mreže, ali odnos povjerenja utječe na to hoće li nam reći što ga muči. Djeca moraju znati da nam se mogu obratiti bez straha od osude ili kazne, čak i kada su pogriješila”, poručio je Ramljak.
Poseban naglasak stavljen je i na razvoj digitalnih vještina mladih. Kao primjer dobre prakse predstavljena je I. gimnazija Zagreb, prva škola u Hrvatskoj koja je uvela fakultativni predmet Digitalna pismenost, razvijen u suradnji A1 Hrvatske i Centra za sigurniji internet.
Rastuća prijetnja ne pogađa samo građane nego i poslovni sektor. Prema podacima CERT-a, tijekom 2025. godine obrađeno je 1.513 kibernetičkih incidenata, što je 35,9 posto više nego godinu ranije. Stručnjaci upozoravaju da umjetna inteligencija postaje sve sofisticiraniji alat napadača, dok je prema podacima MUP-a materijalna šteta od kibernetičkog kriminala u prvih šest mjeseci ove godine premašila 16 milijuna eura.
Na konferenciji su svoja iskustva podijelili i predstavnici Podravke, Infiga, King ICT-a i NLB Lease&Go, raspravljajući o tome kako primijeniti umjetnu inteligenciju u poslovanju bez povećavanja sigurnosnih rizika.
Sudionici CyberGuarda složili su se kako će zaštita djece, građana i poduzeća u digitalnom okruženju sve više ovisiti o suradnji države, obrazovnog sustava, civilnog sektora i tehnološke industrije, ali i o razvoju digitalne pismenosti koja mora pratiti brzinu tehnoloških promjena.
Foto: CNZD
