Gledaš video svog omiljenog političara kako govori nešto što nikad nije rekao. Primiš poziv od “bankara” čiji glas savršeno prepoznaješ — ali nisi ga ti nazvao/la. Vidiš fotografiju celebrityja u kompromitujućoj situaciji koja nikad nije postojala.
Dobrodošao/la u eru deepfakeova.
Deepfake tehnologija više nije eksperiment u istraživačkim laboratorijima. To je alat dostupan svakome s računalom i internetskom vezom — i koristi se svaki dan za dezinformacije, prijevare, ucjene i manipulacije u razmjeru koji još uvijek nismo naučili pratiti.
U ovom tekstu objašnjavamo što su deepfakeovi, kako funkcioniraju, kako ih prepoznati i što možeš napraviti da se zaštitivš — bez tehničkog žargona, s konkretnim primjerima.
Što je deepfake — jednostavna definicija
Ime koje govori sve
Riječ “deepfake” kombinacija je dvaju pojmova: “deep learning” — vrsta AI-ja koja stoji iza tehnologije — i “fake” — lažno.
Deepfake je sintetički medijski sadržaj — video, audio, fotografija ili tekst — koji je generiran ili manipuliran AI-jem tako da prikazuje nešto što se nikad nije dogodilo ili osobu koja nikad nije rekla ono što se čini da je rekla.
Ključna razlika od klasičnog fotomontaže ili video editiranja: deepfake koristi AI koji uči iz stvarnih primjera i generira lažni sadržaj koji je gotovo nerazlučiv od stvarnog.
Kako je počelo — i kamo je stiglo
Tehnologija koja stoji iza deepfakeova — generativne suparničke mreže (GAN) — opisana je u akademskom radu 2014. godine. Istraživači nisu ni zamislili razmjere zloupotrebe koja dolazi.
Do 2017. prvi deepfake videozapisi počeli su se pojavljivati online — uglavnom pornografski sadržaj s licima poznatih osoba. Do 2019. tehnologija je postala dovoljno pristupačna da je amateri mogu koristiti s minimalnim tehničkim znanjem. Do 2023. deepfake audio i video postali su toliko realistični da stručnjaci za forenziku medija imaju poteškoća s detekcijom.
U 2026. deepfake tehnologija dostupna je kroz desine besplatnih i jeftinih aplikacija — i broj incidenata raste eksponencijalno.
Kako deepfakeovi funkcioniraju — bez tehničkog žargona
GAN — dvije mreže koje se natječu
Tehnička osnova deepfakeova su generativne suparničke mreže — sustav koji se sastoji od dvije AI mreže koje rade u tandemu.
Zamislaj to kao igru između krivotvoritelja i detektiva:
Generator pokušava stvoriti lažni sadržaj koji izgleda stvarno — lažno lice, lažni glas, lažni video.
Diskriminator pokušava prepoznati je li sadržaj stvaran ili lažan.
Ove dvije mreže treniraju se istovremeno — generator postaje sve bolji u stvaranju uvjerljivih lažnih sadržaja, diskriminator postaje sve bolji u prepoznavanju. Proces se ponavlja milijunima puta dok generator ne nauči stvarati sadržaj koji diskriminator ne može razlikovati od stvarnog.
Rezultat: AI koji može generirati lažni video koji izgleda savršeno stvarno.
Face swapping — zamjena lica
Najpoznatija vrsta deepfakea. AI analizira tisuće fotografija i videa osobe, uči kako njeno lice izgleda iz različitih kutova, pri različitim osvjetljenjima i s različitim izrazima — i zatim to lice “lijepi” na tijelo druge osobe u videu.
Kvaliteta koja je 2017. bila očito lažna, 2026. je gotovo savršena uz minimalni tehnički trud.
Voice cloning — kloniranje glasa
Možda još opasnija tehnologija od video deepfakeova. AI sustavi poput ElevenLabs mogu klonirati nečiji glas iz samo nekoliko minuta audio zapisa — i generirati nove izjave u tom glasu koje osoba nikad nije izrekla.
Ovo se već koristi u prijevarama: “djed, u nevolji sam, trebam novac hitno” — glasom koji savršeno imitira unuka.
Video generacija iz teksta
Najnovija generacija deepfake alata — Sora, Runway, Kling — može generirati realistične video klipove iz tekstualnog opisa. “Predsjednički kandidat X izjavljuje Y na pressici” — i video postoji, a pressica nikad nije bila.
Gdje se deepfakeovi koriste — i kako se zloupotrebljavaju
Politika i dezinformacije
Ovo je možda najalarmantniji kontekst deepfake zloupotrebe jer direktno ugrožava demokratske procese.
Dokumentirani slučajevi:
U Slovačkim izborima 2023. tjedan dana prije glasanja pojavio se deepfake audio zapis lidera liberalne stranke Michal Šimečka u kojemu navodno govori o planovima kupovine glasova. Istraživanje je potvrdilo da je snimka lažna — ali do tada su je milijuni već čuli i podijelili.
U Nigerijskim predsjedničkim izborima 2023. deepfake video kandidata koji navodno priziva nasilje kružio je društvenim mrežama danima prije detekcije.
Deepfake video predsjednika Zelenskog koji navodno traži od ukrajinskih vojnika da se predaju — objavljen je 2022. i brzo debunkiran, ali prikazuje potencijal za utjecaj na moral i informacijski prostor u ratnim uvjetima.
Zašto je ovo posebno opasno:
Lažni sadržaj putuje brže od debunkinga. Studija MIT-a pokazala je da lažne vijesti putuju 6 puta brže od točnih na Twitteru/X-u. Deepfake koji se pojavi tri dana prije izbora može promijeniti rezultat čak i ako ga mediji demantiraju idući dan.
Financijske prijevare
CEO fraud — lažni šefovi
U veljači 2024. zaposlenica hongkonške financijske tvrtke doznačila je 25 milijuna dolara nakon video poziva s “CFO-om” kompanije i nekoliko kolega — koji su svi bili deepfake. Prijevara je otkrivena tek nakon što je kontaktirala stvarni ured.
Ovo nije izoliran slučaj. FBI reportira eksponencijalni rast “business email compromise” prijevara koje sada uključuju deepfake audio i video komponente.
“Unuk u nevolji” prijevare
Prijevare koje ciljaju starije osobe klasična su kategorija — ali deepfake glasovne tehnologije daju im novu razinu uvjerljivosti. Prijevarači kloniraju glas unuka iz nekoliko sekundi audio s društvenih mreža i zovu bake i djedove s urgentnim zahtjevima za novcem.
Osvetnička pornografija i ucjene
Deepfake pornografija — postavljanje lica stvarnih osoba na pornografski sadržaj — predstavlja ozbiljan kriminalni problem koji primarno pogađa žene.
Prema istraživanju Sensity AI, više od 96% deepfake videa online je pornografskog sadržaja bez pristanka osoba čija lica se koriste. Žrtve su celebrity osobe, ali sve češće i privatne osobe.
Ucjenarski model raste: kriminalci generiraju lažni kompromitujući sadržaj i prijete objavom ako se ne plati otkupnina.
Korporativna špijunaža i manipulacija tržišta
Deepfake audio CEO-a koji navodno najavljuje lošije poslovne rezultate. Lažni video koji prikazuje proizvod kompanije u negativnom svjetlu. Lažni intervju s izvršnim direktorom koji najavljuje lažne poslovne poteze.
Sve su to scenariji koji se dokumentiraju — i koji mogu imati mjerljiv utjecaj na vrijednost dionica i reputaciju tvrtki.
Kako prepoznati deepfake — praktični vodič
Vizualni znakovi koji otkrivaju lažni video
Unatoč napretku tehnologije, deepfakeovi još uvijek imaju karakteristične slabosti koje pažljivo oko može primijetiti.
Lice i koža:
- Neprirodno glatka koža bez teksture — AI ponekad “previše ugladi” lice
- Nepravilnosti na rubovima lica — posebno uz kosu, uši i vrat
- Treptanje koje izgleda neprirodno — prerjetko, prečesto ili asinkrono
- Nekonzistentno osvjetljenje — lice osvjetljeno drugačije od ostatka scene
- Zamućenje ili pikselizacija oko rubova lica, posebno pri pokretu
Oči:
- Staklast ili “mrtav” pogled
- Zjenice koje ne reagiraju konzistentno na osvjetljenje
- Neprirodne refleksije u očima
Pokret i sinkronizacija:
- Usne koje nisu savršeno sinkronizirane s govorom
- Glava koja se pomiče na neprirodan način
- Ekspresije lica koje kasne za emocijama u govoru
Pozadina i okolina:
- Distorzije u pozadini, posebno oko glave
- Predmeti koji “prolaze kroz” lice pri pokretu
- Nedoslednosti u osvjetljenju između lica i ostatka scene
Audio znakovi koji otkrivaju lažni glas
- Neprirodni prijelazi između riječi — kratke pauze ili prekidi koji ne zvuče prirodno
- Monotonija koja nije karakteristična za osobu — klonirani glasovi ponekad gube emocionalne nijanse
- Pozadinska buka koja se mijenja unutar iste snimke
- Disanje koje ne prati ritam govora
Kontekstualni znakovi
Ponekad najlakše prepoznavanje nije tehničko — nego kontekstualno.
- Je li izjava u skladu s poznatim stavovima osobe?
- Javlja li se sadržaj isključivo na nepouzdanim izvorima?
- Je li vremenski kontekst sumnjiv — pojavljuje se pred izbore, u kriznim situacijama?
- Mogu li se pronaći drugi dokazi da se ovaj događaj stvarno zbio?
Alati za detekciju deepfakea
Što možeš koristiti odmah
Nekoliko besplatnih i komercijalnih alata pomaže u detekciji deepfakea:
Microsoft Video Authenticator Microsoftov alat koji analizira video i daje postotak vjerojatnosti da je sadržaj manipuliran. Besplatno dostupan za medijske organizacije i istraživače.
Deepware Scanner Besplatni online alat koji analizira video za deepfake karakteristike. Nije savršen, ali je koristan kao prvi filter.
Hive Moderation Komercijalni alat koji koriste medijske kuće i platforme za detekciju AI generiranog sadržaja — uključujući deepfakeove.
Reverse image/video search Google Slike i TinEye za fotografije — provjera pojavljuje li se ista slika u drugom kontekstu na webu. Yandex Images ponekad daje bolje rezultate za manipulirane fotografije.
InVID/WeVerify Alat koji koriste novinari za verifikaciju videa — analizira metadata, pretražuje izvorne verzije i detektira manipulacije.
Važno upozorenje o detekcijskim alatima
Nijedan alat nije 100% pouzdan. Kako deepfake tehnologija napreduje, detekcijski alati kasne. Kombiniraj više pristupa — tehnički alati plus kritičko razmišljanje o kontekstu — za najbolje rezultate.
Kako se zaštititi — praktični savjeti
Za pojedince
Zaštita svog digitalnog identiteta:
- Ograniči količinu audio i video sadržaja o sebi dostupnog javno online — posebno na društvenim mrežama
- Postavi privatne postavke na profilima koji sadrže puno tvojih fotografija i videa
- Budi svjestan/na da čak i kratki audio isječak može biti dovoljan za kloniranje glasa
Kritičko konzumiranje medija:
- Provjeri izvor prije dijeljenja — deepfakeovi se šire kroz nepouzdane izvore i bez originalnog konteksta
- Ako te video ili audio šokira ili ogorčava — posebno budno provjeri autentičnost
- Koristi reverse image search za fotografije koje izgledaju sumnjivo
Zaštita od prijevara:
- Uspostavi “tajnu lozinku” s bliskim osobama za urgentne situacije — nešto što AI ne može znati
- Ako primiš urgentni poziv od “poznatog” broja koji traži novac — spusti slušalicu i nazovi direktno na poznati broj te osobe
- Budi skeptičan/na prema video pozivima koji traže hitne financijske odluke
Za tvrtke i organizacije
- Implementiraj višestruku autentifikaciju za financijske transakcije — nijedan transfer ne smije biti odobren samo na temelju jednog video ili audio poziva
- Educiraj zaposlenike o deepfake prijevarama — posebno financijske odjele
- Razvij protokole za verifikaciju hitnih zahtjeva koji uključuju alternativne kanale provjere
Pravni okvir — što zakon kaže
Globalna regulatorna slika
Pravni okvir za deepfakeove razvija se, ali kasni za tehnologijom — što je tipično za regulaciju novih tehnologija.
EU i Hrvatska
EU AI Act, koji je stupio na snagu 2024., uključuje odredbe o transparentnosti AI generiranog sadržaja. Deepfake sadržaj koji bi mogao zavarati javnost mora biti označen kao AI generiran. Platforma koja distribuira neoznačeni deepfake može biti odgovorna za kršenje regulative.
GDPR pruža određenu zaštitu jer korištenje nečijeg lika bez pristanka može biti kršenje prava na privatnost i zaštitu osobnih podataka.
SAD
Nekoliko saveznih država uvelo je zakone specifično vezane uz deepfakeove — posebno deepfake pornografiju i deepfake u izbornom kontekstu. Na saveznoj razini, regulativa je još uvijek fragmentirana.
Problem koji ostaje:
Čak i gdje zakoni postoje, provedba je iznimno teška. Deepfake sadržaj može biti kreiran anonimno, objavljen s anonimnih računa i hosiran na serverima van jurisdikcije. Pravna zaštita postoji — ali praktična zaštita za žrtve ostaje nedovoljna.
Deepfakeovi i mediji — odgovornost novinara i platformi
Uloga platformi
Facebook, YouTube, TikTok i Twitter/X imaju politike protiv deepfake sadržaja — posebno u izbornom kontekstu. Ali moderacija na platformama s milijardama objava dnevno strukturalno ne može uhvatiti sve.
Meta, Google i Microsoft investiraju u detekcijske tehnologije — ali trka između generatora i detektora nastavlja se bez jasnog pobjednika.
Uloga novinara i fact-checkera
AFP Fact Check, Reuters Fact Check, Snopes i njihovi ekvivalenti u različitim zemljama postali su ključni akteri u borbi protiv deepfake dezinformacija. Edukacija javnosti o tome kako provjeravati medije postaje jednako važna kao i tehnička detekcija.
Razumijevanje kako AI funkcionira — uključujući deepfake tehnologiju — postaje temeljna kompetencija ne samo za novinare, nego za sve digitalne građane. Više o tome što je AI i kako funkcionira naći ćeš u vodiču kroz to kako funkcionira umjetna inteligencija.
Budućnost deepfake tehnologije — kamo idemo
Pozitivne primjene koje ne smijemo zanemariti
Deepfake tehnologija nije inherentno zla — problem je zloupotreba, ne tehnologija sama.
Legitimne primjene:
- Filmska industrija — de-ageing glumaca, digitalno oživljavanje preminulih u dokumentarcima uz pristanak obitelji
- Obrazovanje — historijske figure koje “govore” studentima na edukativni način
- Pristupačnost — AI sinkronizacija videa sadržaja na znakovnom jeziku ili prilagodba za gluhe i nagluhе
- Lokalizacija — automatska sinkronizacija videa na druge jezike uz zadržavanje mimike originalnog govornika
Problem: Iste tehnologije koje omogućuju ove legitimne primjene omogućuju i zloupotrebe. Nema tehničke razlike između deepfakea koji oživljava preminulog glumca u dokumentarcu uz obiteljski pristanak i deepfakea koji stavlja lice privatne osobe u pornografski sadržaj.
Tehnološka utrka koja se ubrzava
Svaki napredak u detekciji deepfakea prati napredak u generaciji. Modeli koji su 2023. bili otkriveni standardnim detekcijskim alatima 2025. prolaze nezamijećeno.
Watermarking — ugrađivanje nevidljivih digitalnih potpisa u AI generiran sadržaj — jedna je od najobećavajućih tehničkih strategija. Google, Meta i OpenAI implementiraju C2PA standard (Coalition for Content Provenance and Authenticity) koji prati porijeklo digitalnog sadržaja. Ali ove mjere funkcioniraju samo ako ih svi prihvate — a loši akteri neće.
Najčešće zablude o deepfakeovima
- “Ja bih odmah prepoznao/la deepfake” — istraživanja konzistentno pokazuju da prosječan korisnik ne može pouzdano razlikovati kvalitetne deepfakeove od stvarnog sadržaja.
- “Deepfakeovi su problem samo za poznate osobe” — sve češće ciljaju privatne osobe, posebno u ucjenama i prijevarama.
- “Ako je video na pouzdanoj platformi, siguran je” — platforme ne mogu provjeriti sav sadržaj u stvarnom vremenu. Deepfakeovi se objavljuju i na pouzdanim platformama.
- “Detekcijski alati pouzdano prepoznaju deepfakeove” — nijedan alat nije 100% pouzdan. Kritičko razmišljanje o kontekstu jednako je važno kao tehnička detekcija.
- “Regulativa će riješiti problem” — zakoni pomažu, ali tehnička anonimnost i globalna priroda interneta čine provedbu iznimno teškom.
⚡ Brzi savjeti — zaštiti se odmah
- Provjeri izvor svakog šokantnog videa ili audio zapisa prije dijeljenja — 30 sekundi provjere može spriječiti širenje dezinformacije
- Uspostavi tajni kod s obitelji za hitne situacije — nešto što AI ne može znati iz javno dostupnih podataka
- Ograniči javno dostupne audio i video sadržaje o sebi na društvenim mrežama
- Instaliraj InVID/WeVerify ekstenziju u preglednik — novinarski alat koji je koristan svima
- Kada primiš hitni financijski zahtjev putem videa ili zvuka — uvijek verificiraj alternativnim kanalom prije akcije
- Budi posebno oprezan/na s emocijama — deepfakeovi su dizajnirani da izazovu snažne emocionalne reakcije koje smanjuju kritičko razmišljanje
FAQ
- Mogu li deepfakeovi koristiti moje fotografije s društvenih mreža bez mog znanja? Da — i to se već događa. Fotografije javno dostupne na društvenim mrežama mogu biti korištene za treniranje deepfake modela ili direktno za generiranje lažnog sadržaja. Postavljanje profila na privatne postavke i ograničavanje javno dostupnih fotografija smanjuje rizik, ali ga ne eliminira potpuno.
- Što napraviti ako postaneš žrtva deepfake sadržaja? Nekoliko koraka: dokumentiraj sve — screenshotovi, URL-ovi, datumi. Prijavi sadržaj platformi na kojoj je objavljen — većina ima mehanizme za uklanjanje non-consensual intimate imagery. Kontaktiraj policiju — u EU i Hrvatskoj ovo može biti kazneno djelo. Organizacije poput Cyber Civil Rights Initiative pružaju podršku žrtvama. Obavijesti ljude koji bi mogli vidjeti sadržaj o situaciji — transparentnost često je najefikasnija obrana od reputacijske štete.
- Kako prepoznati deepfake u stvarnom vremenu na video pozivu? Ovo je jedan od najtežih izazova. Znakovi: latencija između pokreta usta i zvuka, neprirodni pokreti glave, pikselizacija pri brzim pokretima, nekonzistentno osvjetljenje. Praktični test: zamoli osobu da izvrši neočekivanu radnju — okrene glavu brzo, priložila ruku ispred lica, promijeni kut kamere. Deepfake sustavi u stvarnom vremenu imaju poteškoća s neočekivanim zahtjevima. Ali najsigurnija zaštita: za važne financijske odluke uvijek verificiraj alternativnim, unaprijed dogovorenim kanalom.
- Je li deepfake pornografija ilegalna u Hrvatskoj? Hrvatska kazneno pravo pokriva određene aspekte — posebno ako se radi o sadržaju koji se koristi za ucjenu ili koji prikazuje maloljetnike. EU direktiva o borbi protiv seksualnog zlostavljanja djece pokriva deepfake sadržaj koji prikazuje maloljetnike. Za odrasle žrtve, GDPR zaštita osobnih podataka i pravo na privatnost mogu biti osnova za pravnu akciju. Preporuka: konzultiraj pravnika jer je ovo aktivno razvojno pravno područje.
- Hoće li deepfake tehnologija postati toliko dobra da je nikad nećemo moći prepoznati? Moguće — i to je ozbiljna briga istraživača i regulatora. Tehničke mjere poput watermarkinga i C2PA standarda idu u smjeru “provenance” — praćenja porijekla sadržaja umjesto detekcije manipulacije. Dugoročno, rješenje vjerojatno nije samo tehnološko nego i društveno: medijska pismenost, regulatorni okviri i kulturna norma kritičke provjere izvora postaju jednako važni kao tehnički alati.
Zaključak — kritičko razmišljanje kao prva linija obrane
Deepfake tehnologija nije problem koji će nestati — naprotiv, postat će sveprisutnija i uvjerljivija. Niti jedna tehnička rješenja, niti jedna regulativa sama po sebi neće ga riješiti.
Prva i najefikasnija linija obrane si ti — tvoja sposobnost kritičkog razmišljanja o sadržaju koji konzumiraš. Je li izvor pouzdan? Je li kontekst smislen? Izaziva li sadržaj snažnu emocionalnu reakciju koja bi mogla zaoblaziti kritičko mišljenje?
Ove navike vrijede i za deepfakeove i za sve druge oblike dezinformacija. Digitalni svijet koji imamo zahtijeva digitalne građane koji ne vjeruju slijepo — nego provjeravaju, propituju i dijele odgovorno.
Počni s idućim šokantnim videom koji vidiš. Prije nego ga podijeliš — provjeri.