A férfi célja az volt, hogy étrendjéből eltávolítsa a kloridot, emiatt érdeklődött az MI-nél, milyen alternatívát javasolna helyette. A ChatGPT válasza szerint a klorid kiváltható bromiddal, így a férfi minden nátrium-kloridot nátrium-bromidra cserélt a mindennapi étkezéseiben.
A változás azonban súlyos következményekkel járt, a bromid ugyanis idővel felhalmozódott a férfi szervezetében, ami komoly pszichés tüneteket váltott ki nála. Három hónappal az étrendváltás után paranoia, hallucinációk és egyéb mentális zavarok miatt szállították kórházba, ahol három héten át megfigyelés alatt tartották, mire állapota stabilizálódott.
A Live Science az esettel kapcsolatban megkereste az OpenAI-t, a ChatGPT fejlesztőjét. A vállalat emlékeztetett rá, hogy szolgáltatásai nem alkalmasak orvosi diagnózis felállítására vagy egészségügyi kezelésre: a felhasználási feltételek szerint a ChatGPT által generált tartalom nem tekinthető kizárólagos igazságforrásnak, és nem helyettesíti a szakszerű tanácsadást.
Az OpenAI szóvivője hozzátette: a cég azon dolgozik, hogy csökkentse a ChatGPT használatából eredő kockázatokat, és igyekszik arra tanítani az MI-t, hogy öntörvényű tanácsok helyett egészségügyi kérdések esetén inkább szakértőkhöz irányítsa a felhasználókat.
Ahogy arról korábban beszámoltunk, az utóbbi években egyre többen fordulnak mesterséges intelligencián alapuló chatbotokhoz lelki támogatásért is, mivel ezek azonnal, ingyenesen és korlátlanul elérhetők. A szakértők azonban arra figyelmeztetnek: az AI nem helyettesítheti a valódi pszichológiai segítséget – sőt, bizonyos esetekben kifejezetten ronthat a mentális állapoton.
