O umjetnoj inteligenciji kruže dvije velike priče. Prva kaže da je AI prevara koja će se ispuhati kao NFT-ovi. Druga kaže da je AI na pragu svemoći i da će za koju godinu raditi sve umjesto svih. Obje su pogrešne, ali najveća laž nije nijedna od njih — nego rečenica koja se provlači kroz obje.
Laž glasi: "AI razumije"
Kad model odgovori na pitanje tečnim, samouvjerenim jezikom, gotovo je nemoguće ne pomisliti da s druge strane netko razumije što govori. Tu nastaje temeljni nesporazum na kojem se grade sva ostala pretjerivanja.
Veliki jezični modeli su statistički strojevi za predviđanje sljedeće riječi, trenirani na nezamislivim količinama teksta. To što iz toga izlazi je često zapanjujuće korisno — i sve korisnije iz godine u godinu — ali mehanizam ispod nije razumijevanje u ljudskom smislu: nema provjere tvrdnji prema stvarnosti, nema svijesti o vlastitom neznanju, nema pojma "istine" — postoji samo vjerojatnost da neki niz riječi slijedi iz prethodnog.
Zato model istim samouvjerenim tonom kaže i točnu i izmišljenu stvar. Zato izmisli sudsku presudu koja ne postoji, znanstveni rad koji nitko nije napisao, funkciju koje nema u dokumentaciji. To nije "greška u sustavu" koja će se zakrpati sljedećom verzijom — to je priroda sustava. Novije generacije modela griješe rjeđe i znaju se ograditi, ali razlika je u stupnju, ne u vrsti.
Zašto je ta laž tako skupa
Iz "AI razumije" izravno slijede odluke koje koštaju:
- Slijepo povjerenje. Ljudi predaju modelu odluke koje traže provjeru — pravne, medicinske, financijske — jer "zvuči kao da zna". Samouvjeren ton se zamjenjuje za stručnost, što je ista logika po kojoj nasjedamo šarlatanima.
- Pogrešna procjena što automatizirati. Ako AI "razumije", onda može zamijeniti stručnjaka. Ako AI predviđa tekst, onda može zamijeniti dio posla stručnjaka — onaj tekstualni, ponovljivi — dok odgovornost i provjera ostaju na čovjeku. Firme koje su pobrkale te dvije stvari to su platile.
- Pogrešan strah. Panika od superinteligencije koja "sve razumije" odvlači pažnju od stvarnih, dosadnijih problema koji su već tu: generirani spam koji guši internet, deepfake prevare, autorska prava, koncentracija moći u rukama nekoliko kompanija koje si mogu priuštiti treniranje modela.
Ono što je istina — i dalje je impresivno
Ništa od ovoga ne znači da je AI precijenjen kao alat. Statistički stroj za predviđanje teksta, ispada, može prevoditi, sažimati, pisati upotrebljiv kod, pronalaziti obrasce u dokumentima koje bi čovjek čitao tjednima. To je stvarna, mjerljiva vrijednost — ovaj članak je, uostalom, transparentno napisan uz pomoć takvog alata.
Poanta je u modelu suradnje: AI kao izuzetno sposoban, izuzetno načitan suradnik koji nema pojma kad griješi. S takvim suradnikom se radi ovako: dajete mu zadatke gdje je provjera jeftina, a proizvodnja skupa. Tekst koji ćete pročitati prije slanja — da. Kod koji ćete testirati — da. Dijagnoza koju nemate kako provjeriti — ne.
Zaključak
Najveća laž o umjetnoj inteligenciji nije da će nas sve zamijeniti, ni da je obična prevara. Najveća laž je ona mala, svakodnevna: da sustav s druge strane ekrana razumije što vam govori. Ne razumije. Kad to jednom stvarno prihvatite, AI prestaje biti i mesija i prijetnja — i postaje ono što jest: najmoćniji alat za rad s tekstom ikad napravljen, koji zahtijeva budnog korisnika.
