Umjetna inteligencija sve više ulazi u naše živote, no stručnjaci upozoravaju da nikako ne smije zamijeniti liječnika. To je na bolan način otkrio 60-godišnji muškarac koji je završio u bolnici nakon što je slijedio pogrešan prehrambeni savjet ChatGPT-ja.
Prema izvješću objavljenom u stručnom časopisu Annals of Internal Medicine Clinical Cases, muškarac je tražio način kako smanjiti unos kuhinjske soli (natrijevog klorida). ChatGPT mu je predložio da sol zamijeni natrijevim bromidom – tvari koja se koristi u industriji, a ne u prehrani.
Trovanje bromom nakon tri mjeseca
Savjet je shvatio ozbiljno, naručio natrijev bromid putem interneta i konzumirao ga tri mjeseca. Na kraju je završio u bolnici uvjeren da ga susjed pokušava otrovati. Liječnicima je ispričao da strogo pazi na prehranu, destilira vlastitu vodu i izbjegava sol, no stanje mu se naglo pogoršalo – razvio je paranoju i halucinacije.
Dijagnosticirano mu je bromizam – trovanje uzrokovano prekomjernim unosom spojeva broma. Liječnici su ga liječili tekućinama, elektrolitima i antipsihoticima, no pojavili su se dodatni simptomi poput umora, akni, problema s koordinacijom (ataksija) i pojačane žeđi (polidipsija).
Stručnjaci: AI ne može zamijeniti medicinsku struku
U izvješću se naglašava kako je malo vjerojatno da bi bilo koji medicinski stručnjak preporučio natrijev bromid kao zamjenu za sol. Umjetna inteligencija može generirati znanstveno netočne ili opasne informacije jer nema sposobnost kritičkog promišljanja.
Tvrtka OpenAI, koja razvija ChatGPT, u uvjetima korištenja jasno navodi da se AI alati ne smiju koristiti za postavljanje dijagnoza ili liječenje.
Ljudi ipak traže zdravstvene savjete od AI
Unatoč upozorenjima, istraživanje Talker Researcha za godišnji izvještaj The Vitamin Shoppe otkriva da 35% Amerikanaca već koristi AI za upravljanje zdravljem.
Čak 63% ispitanika navodi da im je umjetna inteligencija primarni izvor zdravstvenih informacija – više nego društvene mreže (43%) i influenceri (41%). Ipak, velika većina i dalje najviše vjeruje liječnicima (93%) i savjetima prijatelja (82%).
