Britanski javni servis BBS upozorio je da upotreba alata zasnovanih na veštačkoj inteligenciji može dovesti korisnike u zabludu i potencijalno negativno uticati na mentalno zdravlje.
Prema analizama, pojedini AI sistemi mogu davati netačne ili pojednostavljene odgovore koji deluju uverljivo, što kod korisnika može stvoriti pogrešnu sliku o stvarnosti. Ovo je posebno rizično kada se takvi alati koriste za savete u vezi sa zdravljem ili ličnim problemima.
Stručnjaci upozoravaju da AI čet-botovi ponekad mogu potvrditi ili pojačati pogrešna uverenja korisnika, što u određenim slučajevima može dovesti do anksioznosti, konfuzije ili drugih psihičkih tegoba.
Dodatno, istraživanja pokazuju da ovakvi sistemi nisu dovoljno pouzdani da zamene profesionalnu psihološku pomoć, jer ne prepoznaju uvek ozbiljne probleme niti adekvatno reaguju u kriznim situacijama.
Iako veštačka inteligencija ima značajan potencijal u različitim oblastima, uključujući i podršku u zdravstvu, stručnjaci ističu da je neophodno njeno oprezno korišćenje i jasno razumevanje ograničenja koja ovi sistemi imaju.
