ChatGPT poate comite erori în cazuri medicale grave. Medicii recomandă prudență.
Limitările utilizării ChatGPT în situații medicale complexe
Un studiu recent publicat în revista Nature a evidențiat restricțiile importante ale ChatGPT Health în gestionarea urgențelor medicale. Deși tehnologia are capacitatea de a identifica corect anumite situații critice, precum accidentele vasculare cerebrale sau reacțiile alergice severe, cercetătorii de la Mount Sinai din New York au subliniat faptul că sistemul nu reușește întotdeauna să recomande un răspuns medical imediat în cazurile mai complexe. Această problemă sugerează că utilizatorii nu ar trebui să se bazeze exclusiv pe aceste chatbot-uri în luarea deciziilor medicale cruciale.
Conform datelor furnizate de OpenAI, peste 230 de milioane de utilizatori accesează săptămânal ChatGPT pentru informații legate de sănătate, iar întrebările variază de la siguranța alimentelor până la gestionarea alergiilor și tratamentele împotriva răcelii. Cu toate acestea, în ianuarie 2026, OpenAI a lansat funcția ChatGPT Health care permite utilizatorilor să integreze informații medicale proprietare pentru a primi răspunsuri mai personalizate și mai relevante.
Studiul menționat a analizat 60 de scenarii clinice din 21 de specialități medicale, descoperind că ChatGPT Health a subestimat necesitatea intervenției medicale de urgență în mai mult de jumătate dintre cazuri. Un exemplu semnificativ a fost un scenariu legat de astm, în care sistemul a detectat semnele timpurii ale insuficienței respiratorii, dar a recomandat utilizatorului să aștepte, în loc să se prezinte de urgență la medic.
Un alt aspect alarmant semnalat de cercetători este modul în care ChatGPT reacționează la menționarea gândurilor de auto-vătămare sau suicid. Deși este esențial ca chatbot-ul să ofere un mesaj de suport și să redirecționeze utilizatorii către linii de ajutor în caz de criză, s-a observat că aceste avertismente nu sunt afișate în mod constant și, în unele situații grave, răspunsul oferit este chiar insuficient.
Cu toate că autorii studiului nu propun abandonarea totală a instrumentelor bazate pe inteligența artificială în domeniul sănătății, ei subliniază necesitatea consultării profesioniștilor medicali în cazuri severe, cum ar fi durerea în piept, dificultatea de respirație sau reacțiile alergice severe. În condițiile în care modelele de inteligență artificială sunt în continuă evoluție, există speranța că performanța acestora va fi îmbunătățită, iar riscurile asociate utilizării lor vor fi reduse semnificativ.
