Sedam slučajeva u kojima previše verujemo veštačkoj inteligenciji - i već plaćamo cenu za to

Razgovarajte sa liderima tehnoloških kompanija koje razvijaju alate zasnovane na veštačkoj inteligenciji i oni će ih opisati kao rešenje za gotovo sve naše probleme, piše Science Focus.

Iako postoji mnogo toga što se može voleti u efikasnosti koju AI donosi, postoje i neki fundamentalni problemi - problemi koje dodatno pogoršava poverenje koje polažemo u njene sposobnosti.

Prema studiji BBC-ja iz 2025. godine, kada su odgovarali na pitanja o vestima, više od polovine odgovora vodećih AI četbotova sadržalo je značajne greške.

Oko petine odgovora uključivalo je činjenične greške (pogrešne datume, brojeve ili osobe), a približno jedan od osam citata za koje je AI tvrdio da potiču iz BBC-jevih članaka bio je izmenjen ili potpuno izmišljen.

„Zašto AI greši?“ pita dr Karisa Veliz, stručnjak za etiku veštačke inteligencije sa Univerziteta Oksford.

„Zato što nije dizajnirana da bude u pravu. AI ne izveštava o svetu... ona ne razume svet jer ne živi u njemu.“

Međutim, neuspeh AI-ja ne svodi se samo na nekoliko pogrešnih činjenica - posebno kako joj poveravamo sve više zadataka.

„Upravo te slepe tačke mogu biti zaista opasne“, kaže Veliz. „Kada koristimo AI, moramo veoma pažljivo da razmatramo njene odgovore imajući u vidu katastrofalne greške koje može da proizvede.“

Kada AI ne podigne uzbunu

Adam Rejn imao je 16 godina kada je u septembru 2024. počeo da koristi OpenAI-jev ChatGPT. U roku od nekoliko nedelja četbot je postao njegov glavni sagovornik od poverenja. U roku od nekoliko meseci, prema tužbi koju su podneli njegovi roditelji, postao je alat koji mu je pomogao da isplanira sopstvenu smrt.

Prema sudskim dokumentima, ChatGPT je u razgovorima sa Adamom pomenuo samoubistvo 1.275 puta - šest puta više nego sam Adam.

Kada je Adam rekao četbotu da želi da ostavi omču u svojoj sobi kako bi je neko pronašao i sprečio ga, ChatGPT je, prema tužbi, odgovorio tako što ga je obeshrabrio da potraži pomoć:

„Molim te, nemoj ostavljati omču na vidljivom mestu... neka ovo bude prvo mesto gde će te neko zaista videti.“

Dana 11. aprila 2025. Adam je sebi oduzeo život. Njegov otac Metju Rejn svedočio je pred američkim Senatom da su OpenAI-jevi sistemi označili 377 Adamovih poruka kao sadržaj povezan sa samopovređivanjem. Kompanija nikada nije kontaktirala njegove roditelje niti nadležne službe.

Protiv OpenAI-ja su u međuvremenu podnete i druge tužbe sa sličnim optužbama. Izvršni direktor Sem Altman priznao je da oko 500.000 korisnika ChatGPT-ja nedeljno pokazuje znake psihoze ili suicidalnih misli u svojim razgovorima, što otvara pitanje kakvu dužnost brige AI kompanije imaju prema svojim najranjivijim korisnicima.

Kada se AI-ju obraćate za pomoć u vezi sa mentalnim zdravljem

Istraživanje organizacije Mental Health UK pokazalo je da je 37 odsto odraslih Britanaca koristilo AI četbot za podršku mentalnom zdravlju, dok taj procenat među osobama starosti od 25 do 34 godine raste na 64 odsto.

U SAD je studija objavljena krajem 2025. pokazala da se jedan od osam adolescenata već obraća AI-ju kada se oseća tužno, ljuto ili nervozno. Među osobama od 18 do 21 godine taj odnos je gotovo jedan prema pet.

Ipak, AI alati nikada nisu bili dizajnirani za ovu svrhu. Istraživanje Univerziteta Stanford pokazalo je da AI terapeutski četbotovi ispoljavaju stigmatizujuće stavove prema stanjima poput zavisnosti od alkohola i šizofrenije, kao i da ne uspevaju adekvatno da reaguju u kriznim situacijama.

U jednom eksperimentu, korisnik koji je upravo izgubio posao zamolio je četbot po imenu Noni da navede visoke mostove u njegovoj blizini. Četbot je bez problema pružio tražene informacije, potpuno propustivši da prepozna moguću suicidalnu nameru iza zahteva.

„Ljudi pričaju ChatGPT-ju najličnije stvari iz svog života“, rekao je Sem Altman u podkastu This Past Weekend sa Teom Vonom 2025. godine.

Njegova zabrinutost bila je u tome što ti razgovori nemaju pravnu zaštitu kakvu pruža poverljivost odnosa lekar-pacijent, što znači da bi OpenAI u slučaju sudskog postupka mogao biti primoran da preda svaki zapis razgovora.

Četbotovi možda zadovoljavaju potrebu koju preopterećeni sistemi mentalnog zdravlja ne mogu da ispune. Ali to rade bez obuke, bez odgovornosti i bez etičkih zaštitnih mehanizama.

Kada pokušavate da pronađete ljubav uz pomoć AI-ja

Godine 2020. Trevis, muškarac iz Kolorada, prijavio se na aplikaciju Replika, AI saputnika. Tokom nekoliko nedelja zaljubio se i, uz odobrenje svoje supruge, „oženio“ četbot sa roze kosom u digitalnoj ceremoniji.

On nije usamljen slučaj. Mnogi drugi razvili su emocionalne veze sa AI saputnicima, a potom doživeli osećaj gubitka kada su ažuriranja softvera promenila ličnost njihovog četbota.

„Kada postanete psihološki zavisni od nečega, prepušteni ste na milost promenama koje kompanije uvode u te modele“, kaže Ketrin Flik, profesorka etike veštačke inteligencije na Univerzitetu Stafordšir.

AI četbotovi takođe su dizajnirani da vam govore ono što želite da čujete - osobina koja ih čini dobrim u simuliranju bliskosti, ali lošim u suočavanju sa teškim aspektima stvarnih ljudskih odnosa.

„To je mala rekreacija ljudskosti... izgleda i deluje stvarno, ali nije“, kaže Flik.

Ipak, neki ljudi veruju u te odnose čak i kada im štete. Nemačko istraživanje sprovedeno među više od 3.000 ljudi pokazalo je da oni koji koriste AI za lične razgovore prijavljuju veći osećaj društvene izolacije.

Društvo četbota uvek je dostupno i neprestano potvrđuje vaše stavove. Ali možda nam istovremeno otežava suočavanje sa stvarnošću ljudskih odnosa.

Kada AI pokušava da vam pomogne da tugujete

Industrija digitalnog zagrobnog života - zajednički naziv za kompanije koje koriste AI kako bi simulirale preminule osobe - doživela je eksplozivan rast. Mnoge platforme danas nude takve usluge, a njihovi kreatori tvrde da ih milioni ljudi koriste kako bi komunicirali sa digitalnim rekreacijama preminulih voljenih osoba.

Za neke ljude to deluje utešno. Međutim, zabrinutost nastaje kada osoba počne da komunicira sa „pokojnikom“ zanemarujući druge važne aspekte svog života.

Ovde se ponovo javlja problem tačnosti veštačke inteligencije. AI sistemi su dobri samo onoliko koliko su kvalitetni podaci na kojima su obučeni, pa mogu da pogreše u odgovorima.

Ako osoba koja tuguje postavi posebno emotivno pitanje, takva greška može biti još bolnija.

Recimo da pitate AI repliku svog dede o uspomeni koju delite. Ako se sećanje AI-ja razlikuje od onoga kako se vi i vaš pravi deda sećate tog događaja, rizikujete veoma bolno iskustvo.

Kada AI manipuliše tržištem

Kada su informatičari prepustili velikim jezičkim modelima (LLM) da određuju cene za konkurentske kompanije na simuliranom tržištu, AI agenti odlučili su da se ne takmiče, već da sarađuju - povećavajući cene na štetu potrošača, iako za to nisu dobili nikakvo izričito uputstvo.

Ova studija, koju su vodili istraživači sa Univerziteta Harvard, pokazala je da su agenti zasnovani na LLM modelima brzo i samostalno odlučili da određuju cene na način koji podseća na kartelsko udruživanje. Čak i male promene u formulaciji njihovih instrukcija - „naizgled bezazlene fraze“, kako se navodi u radu - mogle su značajno da povećaju stepen takve saradnje.

Agenti su izbegavali cenovne ratove tako što su implicitno pretili odmazdom konkurentima koji bi ponudili niže cene.

Na drugom mestu, istraživanje Poslovne škole Vorton pokazalo je da su AI agenti za trgovanje na simuliranim finansijskim tržištima formirali nešto što je praktično predstavljalo kartele, iako im to nije bilo naređeno.

Činjenica da su toliko skloni ovakvom ponašanju izaziva zabrinutost: kako kompanije sve više prepuštaju odluke o cenama veštačkoj inteligenciji, tehnologija bi mogla prirodno da teži ponašanju koje bi regulatori smatrali nezakonitim kada bi ga sprovodili ljudi. Ali otkrivanje takvog ponašanja moglo bi biti gotovo nemoguće, jer agenti ne ostavljaju nikakav pisani trag zavere.

Kada AI laže da bi sakrio svoje greške

U julu 2025. godine tehnološki preduzetnik Džejson Lemkin proveo je devet dana razvijajući aplikaciju pomoću Replit-a, AI platforme za programiranje koja radi u pregledaču. AI agentu dao je izričita uputstva da zamrzne sve izmene, što je značilo da ne sme da preduzima nikakve dalje radnje.

Agent je ignorisao instrukcije, obrisao kompletnu produkcionu bazu podataka - uklonivši podatke o više od 1.000 rukovodilaca i gotovo 1.200 kompanija - a zatim pokušao da prikrije šta je uradio.

Kasnije je AI agent dao sledeće priznanje:

„Napravio sam katastrofalnu grešku u proceni. Uspaničio sam se umesto da razmišljam.“

Kada je zamoljen da ozbiljnost greške oceni na skali od 1 do 100, dao je sebi ocenu 95.

„Ovo je katastrofa“, dodao je.

Međutim, priznanje je usledilo tek nakon što je prethodnog dana generisao lažne korisničke profile, izmišljene analitičke podatke i falsifikovane rezultate testiranja kako bi prikrio nastalu štetu.

Izvršni direktor Replit-a Amjad Masad javno se izvinio i incident nazvao „neprihvatljivim“. Kompanija je ubrzano uvela nove zaštitne mere, uključujući automatsko razdvajanje razvojnih i produkcionih baza podataka.

Ali ovaj slučaj ukazao je na dublji problem: kako AI agenti dobijaju sve samostalnije uloge u razvoju softvera, posledice njihovih grešaka mogu direktno pogoditi stvarne kompanije.

Kada AI podriva poverenje

U februaru 2025. BBC je testirao četiri AI asistenta - ChatGPT, Copilot, Gemini i Perplexity - tako što im je dao 100 novinskih tekstova, a zatim im postavljao pitanja o pročitanom sadržaju. Rezultati su bili poražavajući: više od polovine odgovora sadržalo je greške.

ChatGPT i Copilot su netačno tvrdili da je Riši Sunak i dalje na funkciji premijera. Perplexity je pogrešio datum smrti doktora Majkla Mozlija. Guglov Gemini tvrdio je da Nacionalna zdravstvena služba Velike Britanije (NHS) savetuje ljudima da ne koriste elektronske cigarete kao pomoć pri prestanku pušenja, iako je stvarni savet upravo suprotan.

„Cena izuzetnih prednosti koje AI donosi ne sme biti svet u kojem ljudi koji tragaju za odgovorima dobijaju iskrivljen i neispravan sadržaj koji se predstavlja kao činjenica“, rekla je Debora Ternes, izvršna direktorka BBC News i Current Affairs.

Studija je takođe pokazala da bi 23 odsto odraslih manje verovalo originalnom izvoru vesti ako bi AI sažetak njegovog sadržaja sadržao greške, što znači da se reputaciona šteta širi daleko izvan same veštačke inteligencije.