Nakon nekoliko tjedana suptilnih najava o ulozi umjetne inteligencije kao "zdravstvenog saveznika", OpenAI je danas povukao konkretan potez lansiranjem novog proizvoda: ChatGPT Health. Riječ je o specijaliziranom, izoliranom modulu unutar poznatog chatbota, dizajniranom da korisnicima omogući sigurnije okruženje za postavljanje pitanja o zdravlju, analizu medicinske dokumentacije i praćenje wellness ciljeva.
Što donosi ChatGPT Health?
Zamišljen kao "sigurna luka" unutar aplikacije, ChatGPT Health funkcionira odvojeno od standardnih razgovora. Ima zasebnu povijest chata i funkciju memorije. Ključna novost je mogućnost integracije s vanjskim izvorima podataka.
OpenAI potiče korisnike da povežu svoje elektroničke zdravstvene kartone i popularne aplikacije kao što su Apple Health, MyFitnessPal, Peloton i Weight Watchers. Cilj je omogućiti AI-u da daje "utemeljenije i personaliziranije odgovore".
Prema podacima OpenAI-ja, više od 230 milijuna ljudi tjedno već postavlja zdravstvena pitanja ChatGPT-u. U ruralnim sredinama s manjkom liječnika, korisnici tjedno šalju gotovo 600.000 poruka vezanih uz zdravlje, često izvan radnog vremena klinika.
Tvrtka naglašava da je u posljednje dvije godine surađivala s više od 260 liječnika kako bi istrenirala model. Ipak, OpenAI se ograđuje standardnim pravnim upozorenjem: ChatGPT Health nije namijenjen za dijagnozu ili liječenje.
Povijest AI "savjeta" poziva na oprez. Sjećamo se Googleovog AI-a koji je savjetovao stavljanje ljepila na pizzu, ali i puno ozbiljnijeg slučaja iz kolovoza, kada je pacijent završio u bolnici jer je poslušao savjet chatbota da sol zamijeni natrijevim bromidom. Istraga The Guardiana nedavno je otkrila da AI i dalje generira opasne savjete vezane uz testove za rak i prehranu onkoloških bolesnika.
Iako blog objava OpenAI-ja izbjegava temu mentalnog zdravlja, direktorica aplikacija Fidji Simo potvrdila je da proizvod može obrađivati i to područje. "Fokusirani smo na to da u situacijama stresa reagiramo prikladno i usmjerimo korisnike prema stručnjacima," izjavila je Simo.
Na pitanje o riziku poticanja hipohondrije, Simo tvrdi da je model podešen da bude "informativan, ali nikad alarmantan".
Možda najkontroverzniji dio priče tiče se privatnosti podataka. Nate Gross, voditelj odjela za zdravstvo u OpenAI-ju, potvrdio je da ChatGPT Health nije usklađen s HIPAA standardom (američki zakon o zaštiti zdravstvenih podataka), jer se tretira kao potrošački proizvod, a ne klinički alat.
Iako podaci iz ovog modula prema zadanim postavkama ne služe za treniranje AI modela i zaštićeni su "višestrukim slojevima namjenske enkripcije", ne postoji end-to-end enkripcija. To znači da OpenAI tehnički može pristupiti podacima ako to zatraži sud putem valjanog naloga. S obzirom na sigurnosni incident iz ožujka 2023., kada su procurili podaci korisnika, ovo ostaje točka zabrinutosti za mnoge stručnjake za privatnost.
Usluga je trenutno dostupna putem liste čekanja za beta korisnike, a postupno će se širiti na sve razine pretplate.
