Hodaš ulicom. Kamera te snima. Algoritam prepoznaje tvoje lice za manje od sekunde. Sustav zna gdje si bio juče, prekjučer, prošli tjedan.
Nisi učinio/la ništa loše. Ali sustav to ne zna — i ne treba znati. Bilježi sve.
Ovo nije distopijska fikcija. Ovo je svakodnevna stvarnost za više od milijardu ljudi na planetu — i dijelom stvarnost za sve koji žive u modernim urbanim sredinama, uključujući europskim.
AI i sigurnost postali su nerazdvojni pojmovi. Vlade diljem svijeta investiraju milijarde u AI nadzorne sustave — s argumentom da povećavaju sigurnost građana. Kritičari tvrde da istovremeno uništavaju slobode koje te građane čine slobodnima.
Tko je u pravu? Kao i obično — odgovor nije jednostavan. Ali razumijevanje što se zaista događa — bez paranoje i bez naivnosti — postaje građanska dužnost u AI eri.
Kako je AI transformirao državni nadzor
Od analognog do digitalnog do inteligentnog
Nadzor nije nova pojava. Države su oduvijek pratile određene kategorije svojih građana — kriminalce, dissidente, strance.
Što se promijenilo jest razmjer, brzina i automatizacija.
Tri generacije nadzora
Prva generacija — analogni nadzor: Fizičko praćenje, telefonsko prisluškivanje, doušnici. Skupo, sporo, ograničeno na mali broj ciljeva. KGB nije mogao pratiti sve Sovjete — samo one koji su ga zanimali.
Druga generacija — digitalni nadzor: Internet i digitalne komunikacije stvorile su enormne količine podataka. NSA i slične agencije počele su masovno prikupljati komunikacijske metapodatke. Snowden otkrića 2013. razotkrio je razmjer koji je šokirao javnost — ali prikupljanje podataka nije značilo automatsku analizu.
Treća generacija — inteligentni nadzor: AI koji automatski analizira prikupljene podatke, prepoznaje uzorke, identificira “sumnjivo” ponašanje i djeluje u stvarnom vremenu. Ovo je kvalitativan skok koji mijenja sve.
Kina — laboratorij totalnog nadzora
Sustav koji nema pandana u povijesti
Kina je izgradila najopsežniji AI nadzorni sustav koji je ikad postojao — i nastavlja ga proširivati i sofisticirati.
Brojke koje govore same za sebe
Prema različitim procjenama, Kina ima između 500 milijuna i milijardu nadzornih kamera — više od bilo koje druge države i otprilike jednu kameru na svakog jednog do dva stanovnika. Za usporedbu, SAD ima procijenjenih 70 milijuna kamera.
Ali broj kamera nije prava mjera — prava mjera je što se radi s podacima koje generiraju.
Skynet i Sharp Eyes — AI infrastruktura nadzora
Skynet program — bez veze s filmskom franšizom — kineski je nacionalni sustav video nadzora koji integrira kamere, prepoznavanje lica i AI analizu. Sharp Eyes program proširuje ga na ruralna područja i integrira podatke iz privatnih kamera, mobilnih uređaja i online aktivnosti.
Ovi sustavi mogu u stvarnom vremenu identificirati svaku osobu u javnom prostoru, pratiti njene kretnje kroz grad i integrirati te podatke s bazama podataka koje uključuju financijske transakcije, online aktivnost i društvene veze.
Social Credit System — kada nadzor postane upravljanje
Social Credit System — kojeg zapadni mediji često dramatiziraju, ali i podcjenjuju u složenosti — nije jedan monolitni sustav nego skup lokalnih i sektorskih eksperimenata koji imaju zajednički cilj: koristiti podatke za poticanje “poželjnog” ponašanja i kažnjavanje “nepoželjnog”.
Poslovni Social Credit — ocjenjivanje tvrtki prema usklađenosti s propisima — relativno je mainstream i slično sustavima u zapadnim zemljama.
Individualni Social Credit — koji nagrađuje ili kažnjava građane za ponašanje poput plaćanja računa na vrijeme, dobre vožnje ili — problematično — izražavanja kritike prema vladi — postoji u određenim lokalnim implementacijama ali nije nacionalno uniformiran onako kako se često prikazuje.
Bez obzira na točnu implementaciju, smjer je jasan: AI koji ne samo promatra nego i upravlja ponašanjem.
Demokratske države i nadzor — nije samo kineska priča
Europa između sigurnosti i slobode
Lako je gledati prema Kini i misliti “to se nama ne može dogoditi.” Teže je — i važnije — vidjeti kako demokratske države koriste AI nadzor, gdje su granice i tko ih postavlja.
Prepoznavanje lica u europskim gradovima
Unatoč EU AI Act zabrani masovnog biometrijskog nadzora u stvarnom vremenu u javnim prostorima — praksa je kompleksnija.
U Ujedinjenom Kraljevstvu, Met Police koristio je prepoznavanje lica na raznim javnim događanjima s kontroverznim rezultatima — studije su pokazale visoke stope lažnih pozitivnih, posebno za osobe tamnije puti.
Francuska je koristila nadzor s prepoznavanjem lica na Olimpijskim igrama 2024. — uz eksplicitno zakonsko odobrenje koje je kritizirano od strane civilnog društva kao presedan koji normalizira masovni nadzor.
Srbija, koja nije u EU, implementirala je sustav prepoznavanja lica u Beogradu uz Huawei opremu — bez jasnog pravnog okvira i uz minimalnu javnu debatu.
Prediktivna policija u Europi
Nekoliko europskih zemalja eksperimentiralo je s prediktivnom policijom — algoritmima koji predviđaju gdje će se zločin dogoditi ili tko će ga počiniti.
PredPol sustav koristio se u Manchesteru. Predpol i Palantir sustavi u Njemačkoj. KeyCrime u Milanu.
Rezultati su miješani — neke studije pokazuju smanjenje određenih vrsta kriminala, druge pokazuju pojačanu pristranost prema određenim zajednicama i kvartovima. Europski parlament pozvao je na moratorij na prediktivnu policiju dok se ne razvije adekvatan regulatorni okvir.
Granice i migracije
Europska granična agencija Frontex koristi AI sustave za analizu rizika u migracijskim tokovima. iBorderCtrl projekt — koji je testirao AI detektor laži na graničnim prijelazima — kritiziran je od strane istraživača koji tvrde da nema dostatne znanstvene osnove za takve tvrdnje.
Masovni nadzor komunikacija
Snowden otkrića 2013. pokazala su da NSA i GCHQ provode masovni nadzor digitalnih komunikacija — uključujući europskih građana.
Europski sud pravde više je puta proglašavao sporazume o prijenosu podataka između EU i SAD-a nevažećima — upravo zbog zabrinutosti o masovnom nadzoru.
SAD — između nadzora i slobode govora
Paradoks koji traje
SAD ima jedinstven paradoks: jedne od najjačih ustavnih zaštita slobode govora i privatnosti na papiru — i jednu od najopsežnijih nadzornih infrastruktura na djelu.
NSA i masovni nadzor
PRISM program koji je Snowden razotkrio pokazao je da NSA ima direktan pristup serverima Googlea, Facebooka, Applea i Microsofta — prikupljajući emailove, fotografije, dokumente i podatke o vezama milijuna korisnika.
Section 702 FISA-e — zakon koji to omogućuje — obnovljen je 2024. unatoč kontroverzama.
Palantir i privatni sektor nadzora
Palantir Technologies — tvrtka koja je izrasla iz CIA investicijskog fonda — pruža AI analitičke platforme policijskim agencijama, imigracijskih tijelima i vojsci u SAD-u i desetak других zemalja.
Njihovi sustavi integriraju podatke iz raznolikih izvora — policijske baze, javne evidencije, društvene mreže, financijske transakcije — i primjenjuju AI za identificiranje uzoraka i “osoba od interesa.”
Bez javne debate o tome koji su standardi za označavanje nekoga “osobom od interesa.” Bez jasne odgovornosti za greške.
Clearview AI i scraping lica
Clearview AI izgradio je bazu podataka od više od 30 milijardi fotografija lica — scrapanih s interneta bez pristanka — i prodaje je policijskim agencijama diljem SAD-a i internacionalno.
Nije ni pitao vlasnike fotografija. Nije bio reguliran. Funkcionirao je godinama dok ga nije istraživao BuzzFeed News.
EU i Australija zabranili su Clearview AI. SAD — ne.
Autoritarne države i AI nadzor — izvozni artikl
Kada nadzorna tehnologija putuje
Jedan od najzabrinjavajućih trendova nije samo što Kina gradi nadzornu infrastrukturu kod kuće — nego što je izvozi.
Kineski izvoz nadzora
Prema istraživanju Carnegie Endowment for International Peace, kineske kompanije — Huawei, Hikvision, Dahua, ZTE — prodaju AI nadzorne sustave vladama u više od 60 zemalja.
Ugandska vlada — uz Huawei opremu — koristila je sustav prepoznavanja lica za praćenje opozicijskih političara. Zimbabwenska vlada implementirala je nadzor lica uz kinesku pomoć bez ikakvog zakonskog okvira.
Uz tehnologiju dolazi i trening — kako koristiti sustave za praćenje “sumnjivog” ponašanja, koje definira vlada koja kupuje.
Nije samo Kina
Izraelski NSO Group — developer Pegasus spywarea — prodavao je sofisticirani spyware vladama diljem svijeta za nadzor novinara, aktivista i opozicijskih političara.
Pegasus može preuzeti kontrolu nad pametnim telefonom — čitati poruke, aktivirati kameru i mikrofon, pratiti lokaciju — bez ikakvog znanja korisnika.
Koristili su ga, prema istraživanjima Citizen Laba i Amnesty International, vladama Saudijske Arabije, UAE, Meksika, Indije, Mađarske i niza drugih.
Europski problem
Mađarska vlada koristila je Pegasus za nadzor novinara i odvjetnika. To je država članica EU.
Ovo nije samo pitanje za daleke autoritarne režime. To je pitanje za europsku vladavinu prava.
Kontra-argument — sigurnosne koristi AI nadzora
Fer prikaz zahtijeva i drugu stranu
Etička rasprava o AI nadzoru ne može biti poštena bez razmatranja sigurnosnih argumenata koji imaju stvarnu težinu.
Prevencija i otkrivanje terorizma
AI analiza komunikacijskih uzoraka pomogla je u prevenciji nekoliko terorističkih napada — identificiranjem uzoraka koji upućuju na planiranje nasilja. Bez automatizacije, analiza obujma digitalnih komunikacija koji moderni teroristi ostavljaju bila bi nemoguća.
Rješavanje kriminalnih slučajeva
Prepoznavanje lica pomoglo je u rješavanju stvarnih kriminalnih slučajeva — identifikacija osumnjičenih na nadzornim kamerama, pronalazak nestalih osoba, identificiranje žrtava.
Zaštita javnih događanja
Veliki javni događaji — koncerti, sportska natjecanja, politički skupovi — uz AI analitiku mogu biti sigurniji. Detekcija oružja, identificiranje osoba s aktivnim uhidbenim nalozima, praćenje masa za upravljanje u hitnim situacijama.
Ključno pitanje koje ostaje
Pitanje nije može li AI nadzor povećati sigurnost — može. Pitanje je po kojoj cijeni za koje vrijednosti — i tko odlučuje o tom kompromisu.
Regulatorni odgovori — EU kao globalni standard
EU AI Act i nadzor
EU AI Act zabranjuje određene AI nadzorne prakse kao neprihvatljive bez obzira na sigurnosne argumente.
Zabranjeno:
- Masovni biometrijski nadzor u javnim prostorima u stvarnom vremenu — uz uske iznimke
- AI sustavi za predviđanje kriminalnog ponašanja isključivo na temelju profiliranja
- Sustavi koji procjenjuju ili klasificiraju ljude na temelju socijalnog ponašanja
Visoko rizično — uz stroge uvjete:
- Biometrijska identifikacija u kaznenom progonu
- AI u migracijskim odlukama
- AI u kritičnoj infrastrukturi
Granice EU AI Akta
Kritičari tvrde da iznimke za nacionalnu sigurnost su preširoke i da enforcement mehanizmi nisu dovoljno jaki.
Poseban problem: nacionalna sigurnost isključena je iz opsega EU AI Akta — što znači da obavještajne agencije država članica nisu direktno regulirane.
Što građani mogu napraviti
Od individualnog do kolektivnog odgovora
Znati svoja prava
GDPR daje pravo na pristup podacima koje institucije imaju o tebi, pravo na brisanje i pravo na prigovor određenim vrstama obrade. U kontekstu policijskog nadzora, ova prava su ograničenija — ali ne nepostojeća.
Podržavati civilno društvo
Organizacije poput Privacy International, Access Now, Electronic Frontier Foundation i domaćih ekvivalenata provode istraživanja, vode tužbe i zagovaraju politike koje ograničavaju neopravdani nadzor.
Participirati u demokratskim procesima
AI nadzor je politička odluka — ne tehnička nužnost. Izabrani predstavnici koji odobravaju nadzorne programe odgovorni su biračima. Javna rasprava o granicama nadzora legitimna je demokratska aktivnost.
Najčešće zablude o AI nadzoru
- “Ako nemaš što skrivati, nemaš što se bojati” — ovo je možda najopasnije uvjerenje o nadzoru. Privatnost nije samo za one koji rade nešto ilegalno. To je preduvjet za slobodu izražavanja, političku participaciju i dostojanstvo.
- “Nadzor je samo problem autoritarnih država” — demokratske države koriste opsežne AI nadzorne sustave. Razlika je u pravnim okvirima i nadzornim mehanizmima — koji su važni, ali ne eliminiraju rizike.
- “AI prepoznavanje lica je uvijek točno” — nije. Studije konzistentno pokazuju visoke stope lažnih pozitivnih, posebno za žene i osobe tamnije puti. Pogrešna identifikacija u sigurnosnom kontekstu može imati ozbiljne posljedice.
- “EU AI Act rješava problem” — adresira određene aspekte, ali nije sveobuhvatno rješenje. Iznimke, enforcement izazovi i ograničeni opseg ostavljaju značajne praznine.
- “Nadzor i sloboda su nespojivi” — nije nužno točno. Određeni oblici nadzora uz jasne pravne okvire, sudski nadzor i demokratsku odgovornost mogu koegzistirati sa slobodama. Pitanje je o granicama i mehanizmima kontrole.
⚡ Brzi savjeti — navigacija u nadzornom društvu
- Provjeri koje kamere postoje u tvom gradu i tko njima upravlja — lokalne uprave često nemaju javno dostupne informacije o tome
- Koristi Signal za komunikaciju kada ti je privatnost važna — end-to-end enkripcija koja nije dostupna NSA-u ili lokalnim vlastima bez sudskog naloga
- Prati izvještaje Citizen Laba i Privacy Internationala za najnovija istraživanja o nadzornim praksama
- Zatraži od lokalnih predstavnika informacije o AI sustavima koje koristi policija u tvom gradu
- Podrži organizacije koje provode strateške tužbe protiv nezakonitog nadzora — njihov rad koristi svima
FAQ
- Koristi li hrvatska policija AI nadzorne sustave? Informacije su ograničeno javno dostupne. MUP koristi određene digitalne forenzičke alate i baze podataka koje uključuju AI komponente. Hrvatska je dio EU i Europola koji koriste napredne analitičke sustave. Specifičnosti implementacije prepoznavanja lica ili prediktivne policije u Hrvatskoj nisu transparentno komunicirane javnosti — što je samo po sebi zabrinjavajuće.
- Je li legalno snimanje bez pristanka u javnim prostorima? U EU, snimanje u javnim prostorima za sigurnosne svrhe uređeno je GDPR-om i nacionalnim zakonodavstvom. Opće pravilo: snimanje je dopušteno uz obavijest, s legitimnom svrhom i uz poštovanje proporcionalnosti. Pohrana, obrada i dijeljenje podataka podliježe strožim zahtjevima. AI prepoznavanje lica u stvarnom vremenu — EU AI Act ga zabranjuje uz uske iznimke.
- Može li prepoznavanje lica pogrešno identificirati nevinog čovjeka? Da — i to se dogodilo u stvarnim slučajevima s ozbiljnim posljedicama. Robert Williams u SAD-u bio je pogrešno uhićen zbog pogrešne identifikacije Clearview AI sustava. Nijeerr Parks isto. Obe su bile Afroamerikanci — što je konzistentno s istraživanjima koja pokazuju visoke stope lažnih pozitivnih za osobe tamnije puti.
- Što je razlika između legitimnog nadzora i masovne špijunaže? Ključni principi koji razlikuju legitimni od problematičnog nadzora: zakonitost — temelj u jasnom zakonu, nužnost — samo kada je neophodan za legitimni cilj, proporcionalnost — razmjeran prijetnji, sudski nadzor — neovisni sud odobrava i nadgleda, transparentnost — javnost zna da sustav postoji i kako funkcionira. Kada bilo koji od ovih principa nedostaje — nadzor postaje problematičan.
- Hoće li AI nadzor postati još opsežniji u budućnosti? Tehnološki trend ide prema većem, ne manjem nadzoru. Jeftiniji senzori, bolja AI analitika, više podataka — sve to ide u smjeru opsežnijeg nadzora. Jedina protusila koja može promijeniti taj trend jest politička volja — regulacija, sudske odluke i demokratski pritisak koji postavljaju granice koje tehnologija ne može sama postaviti.
Zaključak — sloboda koja se ne brani, gubi se
AI i sigurnost nisu suprotnosti. Sigurnija društva su slobodnija — jer strah od kriminala i nasilja ograničava slobodu koliko i autoritarni nadzor.
Ali sigurnost kao argument može opravdati gotovo sve — i kroz povijest jest opravdavala gotovo sve. Interniracija Japanaca-Amerikanaca u SAD-u za vrijeme Drugog svjetskog rata. Nadzor Martina Luthera Kinga od strane FBI-ja. Masovni nadzor komunikacija koji je Snowden razotkrio.
Svaki put, argument je bio isti: sigurnost zahtijeva žrtve slobode.
AI nadzorni sustavi su kvalitativan skok — u razmjeru, brzini i automatizaciji — koji čini ovu debatu hitnijom nego ikad.
Pitanje nije hoće li AI transformirati nadzor. Već je. Pitanje je hoćemo li kao demokratska društva postaviti granice koje odražavaju naše vrijednosti — ili ćemo dopustiti da tehnologija postavi granice umjesto nas.
Sloboda koja se ne brani aktivno — gubi se postupno, tiho, dok svi gledaju na drugu stranu.