Algoritam odlučuje hoćete li dobiti kredit. Drugi algoritam izračunava koliko ćete platiti osiguranje. Treći gleda vaše digitalne tragove i procjenjuje rizik koji niste ni znali da imate.

EU AI Act — prvi sveobuhvatni zakon o AI na svijetu — kaže da to nije prihvatljivo bez objašnjenja, nadzora i odgovornosti. I polako počinje to provoditi.

Što je AI Act i kada vrijedi

AI Act stupio je na snagu 1. kolovoza 2024. Primjenjuje se u fazama:

  • Od 2. veljače 2025.: zabranjene AI prakse su na snazi (socijalno bodovanje, masovno biometrijsko praćenje u javnom prostoru)
  • Od 2. kolovoza 2026.: puna primjena za visokorizične AI sustave — uključujući kreditno scoriranje, procjenu kreditne sposobnosti, osiguravajuće modele

Kazne nisu simbolične: do 35 milijuna € ili 7% globalnog godišnjeg prometa za zabranjene prakse. Do 15 milijuna € ili 3% prometa za ostale povrede.

Što je "visokorizični AI" u financijama

AI Act definira visokorizičnim svaki AI sustav koji donosi ili bitno utječe na odluke o:

  • Kreditnoj sposobnosti — scoriranje za kredit, hipoteku, kreditnu karticu
  • Životnom osiguranju — AI koji određuje premiju na temelju procjene rizika korisnika
  • Zapošljavanju — AI koji filtrira životopise ili donosi preporuke o zapošljavanju

Za ove sustave, od kolovoza 2026. tvrtke moraju:

  1. Registrirati sustav u EU bazi podataka visokorizičnih AI sustava
  2. Dokumentirati kako model radi, na kojim podacima je treniran, koje su njegove granice
  3. Omogućiti nadzor od strane čovjeka — algoritmom se ne smije donijeti konačna odluka bez ljudskog pregleda
  4. Objasniti odluku korisniku — ako vam banka odbije kredit zbog AI scoringa, ima obvezu objasniti zašto
EU AI Act — rokovi primjene za financijski sektor Rokovi primjene EU AI Akta srp. 2024. Stupio na snagu velj. 2025. Zabrane AI praksi kol. 2026. ★ Visokorizični AI (krediti!) kol. 2027. Puna primjena ★ Od kolovoza 2026. banke moraju objasniti odluke kreditnih AI modela. AZOP nadzire u HR.

Što to znači za vas kao korisnika u RH

Pravo na objašnjenje. Ako od kolovoza 2026. dobijete odbijeni zahtjev za kredit ili neuobičajeno visoku premiju osiguranja, a tvrtka koristi AI model — imate pravo tražiti objašnjenje. Ne "algoritam je odlučio", nego stvarno objašnjenje koje faktore je sustav uzeo u obzir.

AZOP kao nadzorno tijelo. Hrvatska priprema zakonski okvir za AI nadzor. Agencija za zaštitu osobnih podataka (AZOP) preuzima dio nadzorne uloge — posebno kada AI obrađuje vaše osobne podatke.

Banke počinju mijenjati procese. Banke koje danas imaju automatizirana kreditna odobravanja moraju do kolovoza 2026. imati dokumentaciju, registro i human oversight mehanizme. Ovo nije trivijalno — i neke banke u HR kasne s pripremom.

Što AI Act ne rješava

Regulativa je ambiciozna, ali ima rupe. "Objašnjenje" algoritma ne mora biti razumljivo prosječnom korisniku. "Nadzor od strane čovjeka" može biti nominalan — netko koji potpisuje bez stvarnog razumijevanja modela.

I dalje ostaje pitanje: što ako AI model sistematski diskriminira — ne po zabranjenoj kategoriji (spol, rasa) nego po koreliranim proxy varijablama kao što su poštanski broj ili tip uređaja s kojeg pristupate aplikaciji? AI Act to ne rješava automatski.

Ali je korak. Transparentnost kao regulatorni zahtjev, pravo na objašnjenje kao standardna praksa — to su promjene koje mijenjaju kulturu, ne samo papire.

Izvori i dodatno čitanje