Kasno navečer, negdje na granici između Hrvatske i Bosne i Hercegovine. Termovizijska kamera na dronу automatski detektira toplinski potpis u šumi. AI sustav analizira pokret i veličinu — procjenjuje da se radi o skupini ljudi koji se kreću izvan označenih putova. Graničar dobiva obavijest na tablet.
Nije ušao u šumu nasumično. Zna gdje ići.
Negdje u policijskoj postaji u Zagrebu, sustav analizira obrasce kaznenih prijava u realnom vremenu. Identificira anomaliju — porast određene vrste prijevare u specifičnom kvartu, u specifično doba dana. Inspektor koji to vidi može rasporediti resurse preventivno, ne reaktivno.
AI i sigurnost u Hrvatskoj nisu daleka budućnost. Odvijaju se sada — tiho, bez velikih najava, u sustavima koji rade u pozadini svake granične kontrole, svake policijske intervencije i svake obavještajne analize.
U ovom tekstu istražujemo što se zaista događa na sjecištu AI-ja i sigurnosnog sektora u Hrvatskoj — s razumijevanjem da je ovo tema gdje transparentnost ima granice, ali gdje javna rasprava ima legitimnu ulogu.
Zašto je sigurnosni sektor poseban kontekst za AI
Između nužnosti i opasnosti
AI u sigurnosnom sektoru — policiji, vojsci, obavještajnim službama, graničnoj kontroli — fundamentalno se razlikuje od AI-ja u zdravstvu ili obrazovanju.
Razlike su strukturalne. Ulozi su drugačiji — greška AI-ja u medicinskoj dijagnostici može koštati život, ali greška AI-ja koji identificira “prijetnju” može koštati slobodu nevinoj osobi ili eskalirati sukob. Transparentnost je ograničena — sigurnosni razlozi legitimno ograničavaju javnu raspravu o specifičnim sustavima i sposobnostima. I demokratski nadzor je kompleksniji — parlamentarni odbori, pravobranitelji i nevladine organizacije imaju ograničen uvid u operativne sigurnosne sustave.
Upravo zato je javna rasprava o principima i okvirima — čak i bez operativnih detalja — posebno važna.
Granična kontrola i migracije — najvidljivija primjena
Schengen granica koja koristi AI
Hrvatska je pristupila Schengenu u siječnju 2023. — što je donijelo i obvezu implementacije zajedničkih EU standarda za graničnu kontrolu koji uključuju AI komponente.
EU sustavi koji se primjenjuju u Hrvatskoj
SIS — Schengen Information System Baza podataka koja sadrži upozorenja o osobama i predmetima od interesa za sigurnost — i koja se automatski pretražuje pri svakom prelasku granice. AI komponente koje pomažu u upravljanju ogromnim volumenom podataka i identifikaciji relevantnih podudaranja sastavni su dio ovog sustava.
EES — Entry/Exit System EU Entry/Exit System koji prati ulaske i izlaske državljana trećih zemalja — s biometrijskim podacima i automatiziranom analizom — implementiran je u EU graničnim prijelazima uključujući hrvatske.
ETIAS — European Travel Information and Authorisation System Sustav prethodne autorizacije putovanja za bezvizne posjetitelje — koji koristi AI za procjenu rizika na temelju podataka iz aplikacije — implementiran je kao obveza Schengena.
Dronovi u graničnom nadzoru
Frontex — EU granična agencija — operira dronovima za nadzor mediteranskih i kopnenih granica, uključujući dionice koje su relevantne za Hrvatsku kao vanjsku schengenasku granicu.
Ovi dronovi opremljeni termovizijskim kamerama i AI sustavima za analizu — dio su infrastrukture koja je promijenila način na koji se granični nadzor provodi.
Hrvatska policija — kroz Frontex suradnju i vlastite kapacitete — koristi dronove kao dio granično-nadzornog sustava na zelenim granicama prema Bosni i Hercegovini i Srbiji.
Policija i AI — od detekcije do prevencije
Gdje je hrvatska policija u digitalnoj transformaciji
Hrvatska policija prolazi kroz postupnu digitalnu transformaciju — s AI komponentama koje ulaze u različite aspekte policijskog rada.
Videoanalitika i nadzorne kamere
Hrvatska ima mreže nadzornih kamera u gradovima — posebno u centrima i prometnicama — koje su u procesu nadogradnje sustavima za napredniju analizu.
Automatsko prepoznavanje registarskih tablica — ANPR sustavi — standard su koji je implementiran na prometnicama i graničnim prijelazima. AI koji u realnom vremenu čita tablice, provjerava ih u bazama podataka ukradenih vozila i osoba od interesa — operativni je alat koji policija svakodnevno koristi.
Napredniji oblici videoanalitike — detekcija sumnjivih ponašanja, analiza uzoraka kretanja — u različitim su fazama istraživanja i pilot implementacije.
Digitalna forenzika
AI alati za digitalnu forenziku — analizu mobilnih uređaja, računala i digitalnih tragova u istragama — standardni su dio moderne kriminalističke prakse.
Cellebrite, Magnet Forensics i slični specijalizirani alati koji koriste AI za ekstrakciju i analizu digitalnih dokaza — koriste se u hrvatskoj policiji za složenije istrage, posebno kibernetički kriminal, organizirani kriminal i terorizam.
Analiza podataka i kriminalistička inteligencija
Sustavi za analizu velikih skupova podataka koji identificiraju uzorke, veze između osoba i entiteta i anomalije koje mogu ukazivati na kriminalnu aktivnost — implementirani su u određenoj mjeri u Ravnateljstvu policije.
Ovo je osjetljivo područje jer graniči s prediktivnom policijom — konceptom koji je u EU regulatornom prostoru izrazito kontroverzан i koji EU AI Act adresira s posebnim oprezom.
Vojska i obrana — AI u kontekstu NATO saveza
Hrvatska vojska u NATO transformaciji
Hrvatska je NATO članica od 2009. — što znači da vojna AI transformacija nije izolirani nacionalni projekt nego dio zajedničke savezničke transformacije čiji tempo i standardi dolaze iz NATO okvira.
NATO AI strategija i njezin utjecaj na Hrvatsku
NATO je 2021. usvojio AI strategiju i skup principa za odgovorno korištenje AI-ja u obrani. Ovi principi — zakonitost, odgovornost, objašnjivost, pouzdanost, upravljanje i odgovornost — obvezujući su okvir za sve saveznice uključujući Hrvatsku.
Hrvatska vojska implementira AI u skladu s NATO standardima — što znači da mnoga rješenja dolaze kroz savezničku suradnju i interoperabilnost, ne kroz samostalni razvoj.
Situacijska svjesnost i C2 sustavi
Command and Control (C2) sustavi — koji integriraju podatke iz različitih izvora za stvaranje zajedničke operativne slike — sve više uključuju AI komponente koje automatiziraju prikupljanje, fuziju i prezentaciju podataka.
Za relativno malu vojsku poput Hrvatske — koja mora biti interoperabilna s NATO saveznicima u složenim multinacionalnim operacijama — AI C2 sustavi nisu opcija nego operativna nužnost.
Kibernetička obrana
Možda najaktivnija AI primjena u hrvatskoj vojnoj domeni jest kibernetička obrana. OSRH — Oružane snage RH — i UVNS — Ured Vijeća za nacionalnu sigurnost — razvijaju kapacitete za kibernetičku obranu koji uključuju AI sustave za detekciju i odgovor na prijetnje.
U kontekstu rata u Ukrajini koji je dramatično pokazao važnost kibernetičkog ratovanja — investicija u AI kibernetičku obranu postala je strateški prioritet za sve NATO saveznice uključujući Hrvatsku.
Bespilotne letjelice i autonomni sustavi
OSRH koristi bespilotne letjelice za izviđanje i nadzor — i ovi sustavi imaju AI komponente za automatsku navigaciju, analizu snimki i prepoznavanje objekata.
Hrvatska je kao mala NATO saveznica korisnik ove tehnologije — ne razvija vlastite sustave nego nabavlja od saveznika i partnera.
Obavještajne službe i AI
Gdje je najmanje transparentnosti
Ovo je nužno najneprozirniji segment — obavještajne službe po prirodi svog posla ne komuniciraju javno o sposobnostima i metodama.
SOA i VSOA — institucionalni okvir
SOA — Sigurnosno-obavještajna agencija — i VSOA — Vojnosigurnosna i vojnoobavještajna agencija — institucionalni su okvir za obavještajni rad u Hrvatskoj.
Obje su integrirane u međunarodne obavještajne razmjene — kroz Five Eyes partnerstva, NATO obavještajnu suradnju i EU obavještajne mehanizme — što znači da imaju pristup AI kapacitetima koji nadilaze ono što samostalno mogu razviti.
Parlamentarni nadzor i demokratska kontrola
Hrvatska ima parlamentarni Odbor za unutarnju politiku i nacionalnu sigurnost koji vrši nadzor nad sigurnosnim službama — ali s ograničenim uvidom u operativne sposobnosti.
Ovo je strukturalni demokratski problem koji nije specifičan za Hrvatsku — ni jedna demokratska država nema puni javni uvid u obavještajne kapacitete. Ali razina nadzora i mehanizmi odgovornosti razlikuju se i Hrvatska ima prostora za poboljšanje.
EU AI Act i sigurnosni sektor
Regulatorni okvir koji se primjenjuje
EU AI Act — koji se primjenjuje na Hrvatsku — ima specifične odredbe za sigurnosni sektor koje su relevantne za razumijevanje okvira unutar kojeg se AI implementira.
Što je zabranjeno
EU AI Act eksplicitno zabranjuje određene AI primjene bez iznimke.
Sustavi za socijalnu bodovnu ocjenu građana od strane javnih vlasti — kineski model koji rangira građane prema ponašanju — zabranjeni su u EU uključujući Hrvatsku.
AI koji manipulira podsvjesnim procesima za utjecaj na ponašanje osoba na način koji im šteti.
Biometrijska identifikacija u realnom vremenu u javnim prostorima za kazneni progon — uz uske iznimke za specifične terorističke prijetnje i traženje nestalih osoba.
Što je visoko rizično i zahtijeva posebne mjere
Kazneni progon — AI za procjenu rizika, profiliranje i dokazivanje u kaznenim postupcima — klasificiran je kao visoko rizičan s maksimalnim zahtjevima za transparentnost, nadzor i odgovornost.
Upravljanje migracijama i graničnom kontrolom — AI sustavi koji utječu na procjene migracijskih zahtjeva i graničnih provjera.
Iznimke za nacionalnu sigurnost
Važan caveat: EU AI Act eksplicitno isključuje nacionalnu sigurnost iz svog opsega. Aktivnosti sigurnosnih i obavještajnih službi koje se odnose na nacionalnu sigurnost nisu pokrivene EU AI Aktom.
Ovo je značajna praznina koja znači da AI koji koriste obavještajne službe operira bez specifičnog EU regulatornog okvira — što je demokratski i etički izazov koji se mora rješavati kroz nacionalno zakonodavstvo i parlamentarni nadzor.
Etička pitanja koja se moraju postavljati
Gdje su granice
Prepoznavanje lica i javni prostor
Sustavi prepoznavanja lica u javnim prostorima — koji mogu identificirati svaku osobu u realnom vremenu — izazivaju temeljne slobode kretanja i privatnosti.
EU AI Act zabranjuje masovnu biometrijsku identifikaciju u realnom vremenu u javnim prostorima za kazneni progon — s iznimkama koje su uže nego što se čini.
Ali implementacija ove zabrane i njezina primjena u praksi — uključujući u Hrvatskoj — zahtijeva aktivan nadzor.
Prediktivna policija i pretpostavka nevinosti
AI sustavi koji identificiraju osobe kao “potencijalne kriminalce” na temelju statističkih uzoraka — bez konkretnih dokaza o počinjenom kaznenom djelu — fundamentalno su u napetosti s pretpostavkom nevinosti.
Ovo nije samo teorijsko pitanje. Prediktivna policija implementirana u SAD-u konzistentno je pokazala pristranost prema manjinskim zajednicama i siromašnim kvartovima.
Za Hrvatsku, koja implementira AI sigurnosne sustave u kontekstu EU koji ima pretpostavku nevinosti kao temeljno pravo — ovo je pitanje koje parlamentarni nadzor mora aktivno adresirati.
Autonomno oružje i hrvatska pozicija
Hrvatska — kao NATO saveznica i EU članica — sudjeluje u međunarodnim raspravama o autonomnom oružju.
Kampanja “Stop Killer Robots” koja zahtijeva zabranu autonomnih smrtonosnih oružanih sustava nalazi slab odjek u NATO okruženju koje razvija ovakve kapacitete.
Hrvatska pozicija nije javno artikulirana na način koji bi bio podvrgnut demokratskoj raspravi — što je praznina u javnom diskursu.
Kibernetička sigurnost — gdje je AI najaktivniji
Obrana od prijetnji koje su svakodnevne
Kibernetičke prijetnje prema hrvatskoj kritičnoj infrastrukturi — energetski sustav, financijski sektor, bolnice, vlada — stvarne su i svakodnevne.
CERT.hr i nacionalna kibernetička obrana
CERT.hr — Croatian Computer Emergency Response Team — nacionalna je točka za koordinaciju odgovora na kibernetičke incidente. AI alati za detekciju anomalija, analizu malwarea i koordinaciju odgovora na incidente — dio su infrastrukture koja se razvija.
Vojni kibernetički kapaciteti
OSRH razvija kibernetičke obrambene kapacitete u sukladnosti s NATO standardima — što uključuje AI komponente za zaštitu vojnih komunikacijskih i informacijskih sustava.
Prijetnje koje rastu
Dezinformacijske kampanje koje koriste AI za generiranje i distribuciju lažnog sadržaja — hibridne prijetnje koje kombiniraju kibernetičke napade s dezinformacijama — izravno ugrožavaju Hrvatsku kao NATO savezicu i EU članicu na rubnom geopolitičkom položaju.
Odgovor na ove prijetnje — koji kombinira tehničke AI alate s medijskom pismenošću i institucionalnom otpornošću — postaje sigurnosni prioritet.
Što nedostaje — praznine koje treba adresirati
Iskrena analiza
Javna rasprava koja gotovo ne postoji
Hrvatska javnost gotovo nema informacija o tome koji AI sigurnosni sustavi postoje i kako funkcioniraju. Za razliku od zemalja koje imaju aktivne parlamentarne rasprave o ovim temama — Hrvatska nema tradiciju javnog diskursa o AI u sigurnosti.
Ovo nije samo informacijski problem. To je demokratski deficit — jer bez informiranosti, nema ni informiranog demokratskog nadzora.
Neovisni nadzor koji je slab
Pučki pravobranitelj, Agencija za zaštitu osobnih podataka i parlamentarni odbori — mehanizmi su nadzora koji postoje ali nisu opremljeni ni resursima ni ekspertizom za nadzor sofisticiranih AI sigurnosnih sustava.
Zakoni koji kasne za tehnologijom
Zakoni koji reguliraju policijsko korištenje tehnologije — posebno AI — zaostaju za razvojem te tehnologije. Zakoni pisani za analognu eru ne daju dovoljan regulatorni okvir za AI sigurnosne primjene.
Najčešće zablude o AI-ju i sigurnosti u Hrvatskoj
- “Hrvatska je premala za napredne AI sigurnosne sustave” — nije. Kroz EU i NATO okvire, Hrvatska ima pristup i obvezu implementacije naprednih sustava koje ne bi mogla samostalno razviti.
- “AI sigurnosni sustavi uvijek povećavaju sigurnost” — ne automatski. Loše implementirani sustavi mogu stvoriti lažni osjećaj sigurnosti, pojačati pristranosti i narušiti prava bez proporcionalne sigurnosne koristi.
- “Sigurnosni sektor je izvan demokratske kontrole” — nije — ili ne bi trebao biti. Parlamentarni nadzor, pravobraniteljи i civilno društvo imaju legitimnu ulogu u postavljanju pitanja o AI u sigurnosti.
- “EU AI Act štiti građane od svih zloupotreba AI-ja u sigurnosti” — ne štiti potpuno. Iznimka za nacionalnu sigurnost ostavlja značajnu regulatornu prazninu.
- “Ovo su problemi velikih zemalja, ne Hrvatske” — nisu. Svaka demokratska država koja implementira AI sigurnosne sustave suočava se s istim etičkim i pravnim izazovima, razmjerno svojoj veličini.
⚡ Brzi savjeti — za informiranog građanina
- Prati izvještaje Pučkog pravobranitelja o digitalnim pravima — jedan od rijetkih javnih izvora informacija o nadzornim praksama u Hrvatskoj
- Istraži AZOP — Agencija za zaštitu osobnih podataka — koja nadzire dio AI primjena koje se tiču osobnih podataka
- Prati izvještaje Amnesty Internationala i Privacy Internationala o nadzornim praksama u EU — daju kontekst koji lokalni mediji rijetko pokrivaju
- Ako misliš da si predmet nepropisnog nadzora ili automatiziranog profiliranja — AZOP je institucija kojoj se možeš obratiti
- Participiraj u javnim konzultacijama o sigurnosnom zakonodavstvu — ove rasprave određuju okvir unutar kojeg AI u sigurnosti funkcionira
FAQ
- Koristi li hrvatska policija prepoznavanje lica? Javno dostupne informacije o specifičnim implementacijama su ograničene. Hrvatska kao EU članica mora poštovati EU AI Act koji zabranjuje masovnu biometrijsku identifikaciju u realnom vremenu u javnim prostorima uz uske iznimke. ANPR sustavi — automatsko prepoznavanje registarskih tablica — potvrđeno su u upotrebi. Za naprednije oblike prepoznavanja lica, javna transparentnost gotovo ne postoji.
- Kako NATO utječe na AI razvoj u hrvatskoj vojsci? Značajno. NATO AI strategija i principi za odgovorno korištenje AI-ja obvezuju sve saveznice uključujući Hrvatsku. Kroz NATO standardizacijske sporazume i zajedničke programe, OSRH implementira AI sustave koji su kompatibilni sa savezničkim sustavima. Ovo znači da hrvatska vojska koristi relativno napredne AI kapacitete — ali da su standardizirani i nadzrani kroz NATO okvire.
- Ima li Hrvatska autonomno oružje? Javno dostupne informacije ne potvrđuju posjedovanje autonomnih smrtonosnih oružanih sustava. Hrvatska nabavlja obrambenu opremu od NATO saveznika — SAD, Izrael, europske saveznice — i neke od ovih platformi imaju autonomne komponente. Ali specifičnosti nisu predmet javne rasprave što je samo po sebi informacija o razini transparentnosti.
- Kako se Hrvatska brani od kibernetičkih napada? CERT.hr koordinira nacionalni odgovor na kibernetičke incidente. OSRH razvija vojnokibernetičke kapacitete kroz NATO okvire. Ključna infrastruktura — energetika, financije, zdravstvo — ima vlastite sigurnosne timove uz nacionalnu koordinaciju. AI alati za detekciju i odgovor dio su ove infrastrukture čiji detalji nisu javni iz sigurnosnih razloga.
- Može li građanin saznati je li predmet AI nadzora? Djelomično. GDPR daje pravo na pristup osobnim podacima koje o tebi čuvaju institucije — uključujući policija i granična kontrola u određenom opsegu. Pravo na objašnjenje automatiziranih odluka postoji za visoko rizične AI primjene prema EU AI Aktu. Ali u praksi, ostvarivanje ovih prava prema sigurnosnim agencijama kompleksno je i ograničeno iznimkama za javnu sigurnost i nacionalnu sigurnost.
Zaključak — sigurnost koja traži demokratsku raspravu
AI i sigurnost u Hrvatskoj odvijaju se — u graničnom nadzoru, policijskim sustavima, vojnoj modernizaciji i kibernetičkoj obrani. To je neizbježna stvarnost za državu koja je dio EU i NATO saveza koji aktivno razvijaju ove kapacitete.
Ali tehnološka neizbježnost nije isto što i demokratska legitimnost.
Pitanja o tome koji AI sigurnosni sustavi postoje, kako su regulirani, tko ih nadzire i kako se štite prava građana — legitimna su demokratska pitanja koja zaslužuju javnu raspravu.
Ne raspravu o operativnim detaljima koji legitimno ostaju tajni. Nego raspravu o principima, okvirima i nadzornim mehanizmima koji određuju unutar kojih granica AI sigurnosni sustavi smiju funkcionirati u demokratskom društvu.
Hrvatska, koja je prošla kroz iskustvo totalitarnog nadzora svega nekoliko desetljeća unazad — ima poseban razlog da ovu raspravu vodi ozbiljno i na vrijeme.
Jer AI sigurnosni sustavi implementirani danas — oblikovat će što znači biti slobodan građanin sutra.