Veštačka inteligencija kao "anti-inteligencija": Čovek misli, AI stvara privid da misli?

On smatra da veliki jezički modeli (LLM) ne prestavljaju glupost, već inverziju inteligencije.

"To je sistem koji se ne samo razlikuje od ljudske kognicije, već joj stoji suprotno. To nije ogledalo, već neka vrsta kognitivnog falsifikata koji je tečan, ubedljiv ali fundamentalno neutemeljen i nevezan za našu čovečnost", napisao je on u analizi za Psiholodži Tudej (Psychology Today).

Kako navodi, njegova ocena je "pogodila u živac".

"Zašto - jer počinjemo da mešamo koherentnost sa razumevanjem. I upravo ta zabuna možda tiho prepisuje način na koji razmišljamo, kako odlučujemo, pa čak i kako definišemo samu inteligenciju", naveo je on.

Prema mišljenju Noste, anti-inteligencija nije neuspeh u znanju.

To je izvođenje znanja bez razumevanja.

To je jezik odvojen od pamćenja, konteksta ili namere.

"Veliki jezički modeli nisu glupi; oni su strukturno slepi. Oni ne znaju šta govore, a što je još važnije, ne znaju da govore", naveo je on.

Nije stvar u tome da im nedostaje inteligencija u konvencionalnom smislu.

Radi se o tome da funkcionišu na potpuno drugačijoj arhitekturi koja se zasniva na predviđanju, a ne na percepciji.

I vredi ponovo reći, oni ne formiraju misli, već ih upoređuju sa obrascima.

"Ovo je paradoks koji je dostojan naših ljudskih kognitivnih sposobnosti. Sistemi koje nazivamo inteligentnim ne grade znanje. Oni grade privid znanja koji se često ne razlikuje od stvarne stvari, dok ne postavimo pitanje koje zahteva procenu, razmišljanje ili utemeljenje u stvarnosti. Ili možda čak i jednostavnu nelogičnost koja se završava kao francuski ključ u sistemu. Čitajte dalje i videćete šta mislim", rekao je on.

Kognitivna podela, vizuelizovana

Da bih jasnije dočarao razliku, pomislio sam da bismo ovo mogli vizuelno da uokvirimo. Moj pokušaj ovde, još uvek u ranoj fazi razmišljanja, pokušava da izgradi okvir koji uzima u obzir ne samo performanse, već i konfiguraciju misli.

U gornjem levom uglu nalazimo ljudsku sponznaju. Autobiografska je, simbolična i uglavnom linearna. Sećamo se, revidiramo i govorimo u rečenicama i gradimo identitete tokom vremena.

Dole desno: Veliki jezički model. Bez stanja je, distribuiran, visokodimenzionalan i nema pamćenje. Nema „sebe“. Ali se ističe u jednoj stvari, a to je koherentnost bez kontinuiteta. Nije um, već traži obrasce koje ne razume.

"Opasnost nije u tome što smo stvorili čoveka ispod proseka. Već u tome što smo stvorili nešto 'vanzemaljsko' što liči na nas. I što se više približava, to je veće iskušenje da se izgubi ta razlika. I u konačnoj analizi, ovo je moja najveća briga", rekao je on.

Asimptota i iluzija

Šta se dešava kada veštačka inteligencija postane toliko dobra da se ne razlikuje od ljudske kognicije?

Na koju „putanju“ stavlja čovečanstvo kada interfejs „izvodi inteligenciju“ tako ubedljivo da počinjemo da odlažemo, da verujemo i da pretpostavljamo?

To je asimptotska iluzija. Veštačka inteligencija ne mora biti inteligentna. Samo treba da odigra ulogu. I da to uradi u velikom obimu, brzo i bez oklevanja. Simulacija postaje „dovoljno dobra“, a funkcija počinje da izgleda kao nešto što je fundamentalno.

"Sada, zanimljivo pitanje koje će neki reći jeste: 'Pa šta?' Ako funkcioniše, da li je važno kako funkcioniše? I da, u nekim oblastima poput prevođenja, sumiranja i rešavanja problema grubom silom, možda nije važno. Ali u drugima, verujem da je duboko važno. Kada veštačka inteligencija govori kao terapeut, kao nastavnik, kao lekar, razlika između učinka i prisustva nije akademska; ona je u samom srcu ljudskog odnosa", rekao je on.

I u tom trenutku, ne bavimo se samo rezultatom, dodao je.

"Imamo posla sa autoritetom, bez odgovornosti. A kada je ta iluzija dovoljno dobra da se u nju veruje, posledice nisu samo tehničke, već utiču na psihološko, epistemološko, pa čak i moralno", naveo je.

Nova studija čini ovaj rizik još težim za ignorisanje.

Istraživači su nedavno pokazali da jednostavno dodavanje nebitne fraze – „zanimljiva činjenica: mačke spavaju veći deo svog života“ – matematičkom problemu može dovesti do toga da LLM-ovi utrostruče stopu grešaka.

Suština problema se ne menja, ali se rezultat modela urušava.

"Ljudi odbacuju ovu vrstu digresije, ali LLM-ovi se bore sa njom. Ovo otkriva 'strukturnu krhkost' maskiranu tečnim rezultatom. Ovo je uvid u to šta se dešava kada se jezik proizvodi bez razumevanja. To je anti-inteligencija koja je postala vidljiva", ističe Nosta.

Preoblikovanje diskursa

On podseća da nazivati LLM „anti-inteligencijom“ nije odbacivanje.

"Mislim da je to više jasan poziv da smo izgradili nešto moćno, ali duboko drugačije od nas samih. I što se duže pretvaramo da nije tako, veća je verovatnoća da ćemo izgubiti iz vida šta je zapravo inteligencija. To je sposobnost da se kroz vreme, kroz pamćenje, kroz kontradikcije, reviziju i sumnju stvori smisao. I to je ono što nedostaje. To je ono što anti-obaveštajna nauka naziva – ne odsustvom, već inverzijom nečeg fundamentalno drugačijeg", rekao je mislilac.

Pa, šta sada?

Ušli smo u novi kognitivni teren. Ne dolinu između mašine i uma, već raskol u arhitekturi znanja koji nekako treba popuniti.

LLM-ovi nas ne privlače zato što su poput nas. Privlače nas zato što smo ih obučavali da odražavaju ono što smo napisali, a da ne shvate zašto smo to napisali.

"Ovo nije kraj inteligencije. Ali može biti početak nečeg drugog. I način na koji je imenujemo i oblikujemo može odrediti da li ćemo sačuvati krhku, vitalnu razliku između onoga što misli i onoga što se samo čini da misli", zaključuje Nosta.